AI探索指南
Manus联创的“血泪”教训:为什么上下文工程,而非模型微调,才是护城河? 一位拥有10年NLP(自然语言处理)经验的AI创业公司联创坦言:“对于创业公司,过早微调(Fine-tuning)模型是一个陷阱。” 这不是危言耸听。 Manus的联合创始人兼首席科学家Peak,在最近与LangChain创始人的对谈中,分享了他的“血泪教训”:他的上一个产品,迭代速度被长达1-2周的模型训练周期活活拖死。 这一次,他选择把所有赌注压在“上下文工程”(Context Engineering)上,并为此,他的…
那么,这个听起来高深的“上下文工程”到底是什么?

3. “上下文悖论”:Agent的阿喀琉斯之踵

2022年,我们谈论的是“提示词工程”(Prompt Engineering),它解决的是单次交互。
而2024年,我们面临的是“上下文工程”(Context Engineering),它要解决的是Agent(智能体)的长序列、多轮工具调用。

LangChain的创始人Lance指出了一个“上下文悖论”:

Agent要完成复杂任务,必须大量调用工具(典型任务约50次)来获取上下文。

但上下文越长,Agent的性能就越差,成本也呈指数级上升。

更糟糕的是,Peak发现,即使是100万Token的上下文窗口,模型在处理到200K(约20万)时,性能就开始“腐烂”(Context Rot),出现重复、缓慢和质量下降。

“上下文腐烂”的阈值,大约就在128K到200K之间。

你的Agent又慢又笨,不是模型不行,是你的“上下文工程”没做好。

4. 破局:上下文工程的4大支柱

如何解决这个悖论?LangChain的Lance总结了业内顶尖团队(包括Manus)都在使用的4大工程支柱:

上下文卸载 (Offloading)

做法:不把所有信息都塞进上下文。比如,一个万字的网络搜索结果,只在上下文中返回一个文件路径(file.txt),Agent需要时自己去读。

场景:处理大文件、大输出。

上下文检索 (Retrieving)

做法:把信息(如记忆)存储在外部(如向量数据库),在需要时通过RAG或简单的grep命令检索回来。

场景:长时记忆、知识库。

上下文隔离 (Isolation)

做法:使用多智能体(Multi-Agent)架构,每个子Agent只处理自己的小上下文窗口,互不干扰。

场景:复杂任务拆解。

上下文缩减 (Reducing)

做法:这是最核心也最精妙的一步,即在上下文“腐烂”之前,主动对其进行“瘦身”。

而Manus团队,正是在“上下文缩减”上,做到了极致。

5. Manus实战:“压缩”与“摘要”的精妙艺术

Peak的团队将“缩减”分为了两种截然不同的操作:

1. 压缩 (Compaction):可逆的“瘦身”

定义:删除那些可以从外部(如文件系统)重建的信息。
lsb1KaAaOcUaPNMLQwY7s3P-pobNv3.png
7 MB
 
 
Back to Top