AI探索指南
lsb1KaAaOcUaPNMLQwY7s3P-pobNv3.png
例子:一个工具调用,完整信息是{path: "file.txt", content: "..."}。在“压缩”后,只保留{path: "file.txt"}。

优势:信息“零”丢失,只是被“外置”了。

2. 摘要 (Summarization):不可逆的“遗忘”

定义:对历史信息进行总结,彻底丢弃原文。

优势:大幅度释放上下文空间。

Manus的策略堪称精妙:

设置“腐烂”闹钟:首先,团队会设置一个“腐烂阈值”,比如128K。

先“压缩”,后“摘要”:当上下文达到128K时,系统首先触发“压缩”。只在“压缩”的收益也变小时,才万不得已触发“摘要”。

“压缩”的艺术:执行“压缩”时,只压缩最老的50%历史,并保留最新的50%工具调用的完整信息。这能确保模型有足够的新鲜“样例”来模仿,防止其行为错乱。

“摘要”的技巧:执行“摘要”时,会使用原始的、未经压缩的数据来总结,以保证信息保真度。并且,同样会保留最后几个工具调用的全量信息,防止模型“忘记自己刚刚在干什么”。

6. 在流沙上构建:5次重构与“更贵”的开源

这套复杂的“上下文工程”架构,就是Manus的护城河。它让Manus有能力在“流沙”(不断迭代的大模型)之上构建稳固的应用。

“从3月到现在,我们已经重构了5次。”Peak说。

这种“上下文工程”能力,也让他们在选择模型时有了更反直觉的洞察。

Peak甚至认为,对于Agent应用,使用开源模型可能“更贵”。

“这很有趣,关键在于成本。”他解释道,“Agent的输入(上下文)远大于输出,KV缓存至关重要。”而头部API厂商(如Anthropic)在分布式KV缓存上做了坚实的基建,使得在超长上下文中,API的成本甚至低于自托管的开源模型。

7. 结语:构建更少,理解更多

回顾Manus的历程,Peak给出了他最深刻的领悟:

“我们最大的飞跃,不是来自添加了更花哨的上下文管理技巧,而是来自‘简化’和‘移除不必要的层’。”

“我们最终的哲学是:构建更少,理解更多(Build less and understand more)。”

这位10年NLP老兵最后总结道:

“上下文工程的真正目标,不是让你的系统更复杂,而是让模型的工作,变得更简单。”

from Langchain

Context Engineering for AI Agents with LangChain and Manus
 
 
Back to Top