例子:一个工具调用,完整信息是{path: "file.txt", content: "..."}。在“压缩”后,只保留{path: "file.txt"}。
优势:信息“零”丢失,只是被“外置”了。
2. 摘要 (Summarization):不可逆的“遗忘”
定义:对历史信息进行总结,彻底丢弃原文。
优势:大幅度释放上下文空间。
Manus的策略堪称精妙:
设置“腐烂”闹钟:首先,团队会设置一个“腐烂阈值”,比如128K。
先“压缩”,后“摘要”:当上下文达到128K时,系统首先触发“压缩”。只在“压缩”的收益也变小时,才万不得已触发“摘要”。
“压缩”的艺术:执行“压缩”时,只压缩最老的50%历史,并保留最新的50%工具调用的完整信息。这能确保模型有足够的新鲜“样例”来模仿,防止其行为错乱。
“摘要”的技巧:执行“摘要”时,会使用原始的、未经压缩的数据来总结,以保证信息保真度。并且,同样会保留最后几个工具调用的全量信息,防止模型“忘记自己刚刚在干什么”。
6. 在流沙上构建:5次重构与“更贵”的开源
这套复杂的“上下文工程”架构,就是Manus的护城河。它让Manus有能力在“流沙”(不断迭代的大模型)之上构建稳固的应用。
“从3月到现在,我们已经重构了5次。”Peak说。
这种“上下文工程”能力,也让他们在选择模型时有了更反直觉的洞察。
Peak甚至认为,对于Agent应用,使用开源模型可能“更贵”。
“这很有趣,关键在于成本。”他解释道,“Agent的输入(上下文)远大于输出,KV缓存至关重要。”而头部API厂商(如Anthropic)在分布式KV缓存上做了坚实的基建,使得在超长上下文中,API的成本甚至低于自托管的开源模型。
7. 结语:构建更少,理解更多
回顾Manus的历程,Peak给出了他最深刻的领悟:
“我们最大的飞跃,不是来自添加了更花哨的上下文管理技巧,而是来自‘简化’和‘移除不必要的层’。”
“我们最终的哲学是:构建更少,理解更多(Build less and understand more)。”
这位10年NLP老兵最后总结道:
“上下文工程的真正目标,不是让你的系统更复杂,而是让模型的工作,变得更简单。”
from Langchain
Context Engineering for AI Agents with LangChain and Manus
优势:信息“零”丢失,只是被“外置”了。
2. 摘要 (Summarization):不可逆的“遗忘”
定义:对历史信息进行总结,彻底丢弃原文。
优势:大幅度释放上下文空间。
Manus的策略堪称精妙:
设置“腐烂”闹钟:首先,团队会设置一个“腐烂阈值”,比如128K。
先“压缩”,后“摘要”:当上下文达到128K时,系统首先触发“压缩”。只在“压缩”的收益也变小时,才万不得已触发“摘要”。
“压缩”的艺术:执行“压缩”时,只压缩最老的50%历史,并保留最新的50%工具调用的完整信息。这能确保模型有足够的新鲜“样例”来模仿,防止其行为错乱。
“摘要”的技巧:执行“摘要”时,会使用原始的、未经压缩的数据来总结,以保证信息保真度。并且,同样会保留最后几个工具调用的全量信息,防止模型“忘记自己刚刚在干什么”。
6. 在流沙上构建:5次重构与“更贵”的开源
这套复杂的“上下文工程”架构,就是Manus的护城河。它让Manus有能力在“流沙”(不断迭代的大模型)之上构建稳固的应用。
“从3月到现在,我们已经重构了5次。”Peak说。
这种“上下文工程”能力,也让他们在选择模型时有了更反直觉的洞察。
Peak甚至认为,对于Agent应用,使用开源模型可能“更贵”。
“这很有趣,关键在于成本。”他解释道,“Agent的输入(上下文)远大于输出,KV缓存至关重要。”而头部API厂商(如Anthropic)在分布式KV缓存上做了坚实的基建,使得在超长上下文中,API的成本甚至低于自托管的开源模型。
7. 结语:构建更少,理解更多
回顾Manus的历程,Peak给出了他最深刻的领悟:
“我们最大的飞跃,不是来自添加了更花哨的上下文管理技巧,而是来自‘简化’和‘移除不必要的层’。”
“我们最终的哲学是:构建更少,理解更多(Build less and understand more)。”
这位10年NLP老兵最后总结道:
“上下文工程的真正目标,不是让你的系统更复杂,而是让模型的工作,变得更简单。”
from Langchain
Context Engineering for AI Agents with LangChain and Manus