关于AIGC人工智能、思维方式、知识拓展，能力提升等。投稿/合作： @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
AIGC 领域的最新工具、开源项目以及行业大事件
这是花了用几千万美元学费，实际各种踩坑，才得到了一些反共识的经验
非常宝贵
1. 上下文工程比“从头造轮子”更香
Manus团队一开始就决定：别自己训练大模型，直接用现成的模型，把精力放在“怎么喂模型好吃的上下文”上。这样产品能快速迭代，模型升级了，产品也能跟着飞。
2. KV缓存命中率，省钱又提速的秘密武器
KV缓存就像“记忆力外挂”。只要上下文前缀不变，模型能复用之前的计算，推理又快又省钱。比如，缓存命中时的成本能比没命中便宜10倍！所以，团队拼命想办法让上下文“长得一样”，别乱动。
3. 上下文只加不改，别乱动历史
就像写日记，不能回头改昨天的内容。只往后追加新内容，这样缓存才不会失效。哪怕是小小的时间戳变化，也会让缓存白搭。
4. 工具多了别乱删，掩码比删除更聪明
Agent能用的工具越来越多，像超市货架一样。以前想着动态加减工具，结果缓存全失效，模型还晕头转向。后来学聪明了：工具都留着，用“掩码”让模型只看到该用的那几个，其他的暂时“隐身”。
5. 文件系统是超级外挂记忆
上下文窗口再大也有极限，怎么办？Manus直接把文件系统当成“外挂大脑”，模型需要啥就去文件里找。这样任务再复杂也不怕，信息随时能查回来。
6. 错误要留下，别急着擦屁股
Agent犯错很正常，别急着把错误删掉。把“走过的弯路”留在上下文里，模型下次看到就能学乖，不会老是踩同一个坑。
7. 少样本提示别太单一，适当加点花样
如果上下文里全是一样的例子，模型容易“套路化”，一直重复同样的操作。Manus会故意加点小变化，让模型保持新鲜感，避免陷入“机械式”决策。
Manus 上下文工程实践的原文：
https://manus.im/blog/Context-Engineering-for-AI-Agents-Lessons-from-Building-Manus
从这个过程来看，这个老哥确实更适合当 CEO，原来那个 CEO 确实不地道，啥也不管就跑了，Cognition 也不错直接把所有员工的期权兑现了。
让 Dia 总结了一下：#ai创造营#
事件背景
一周前，Windsurf 的约250名员工原本以为公司即将被 OpenAI 收购。
实际上，收购并未达成，团队士气受到严重打击，部分员工离开，大家对未来充满担忧。
关键决策时刻
Jeff Wang 作为CEO，需要为公司寻找出路。他列出了几种选择：继续融资（有VC愿意投资）、寻求出售（有多方有意收购）、清算公司资产、或继续独立运营。
尽管公司遭遇挫折，但仍保有核心知识产权、产品和优秀的销售团队。
转机出现
在最困难的时候，Cognition（Devin的开发团队）的 Scott 和 Russell 主动联系 Jeff，提出“聊聊”。
Cognition 团队在工程方面实力强大，但在市场和销售方面相对薄弱，而 Windsurf 恰好在这方面有优势。两家公司在产品和团队上高度互补。
快速谈判与签约
双方迅速进入谈判阶段。Scott 和 Russell 在周末亲自到 Windsurf 办公室，带着签约文件，律师团队连夜工作。
期间，Windsurf 还收到其他潜在收购方的兴趣，但最终认定 Cognition 是最佳选择。
谈判的一个重要成果是：确保所有 Windsurf 员工都能获得补偿，所有股权立即归属，无需等待后续分期。
最终合并
周一早上9:30，双方正式签署收购协议。10点，Windsurf 举行全员大会，宣布好消息。
Jeff Wang 特别强调，这次合并不仅是公司层面的成功，更是对员工的负责和关怀。
来源：x.com/jeffwsurf/status/1946376139959841084
除非绝对必要，避免在迭代过程中动态添加或移除工具。主要有两个原因：
1️⃣在大多数 LLMs 中，工具定义在序列化后位于上下文的前部，通常在系统提示之前或之后。因此，任何更改都会使所有后续动作和观察的 KV 缓存失效。
2️⃣当之前的动作和观察仍然引用当前上下文中不再定义的工具时，模型会感到困惑。如果没有受限解码，这通常会导致模式违规或幻觉动作。
Manus 使用了一个上下文感知的状态机来管理工具的可用性。它不是移除工具，而是在解码时屏蔽 Token 的 logits，以根据当前上下文防止（或强制）选择某些动作。
当用户提供新输入时，Manus 必须立即回复，而不是执行动作。还特意设计了带有一致前缀的动作名称——所有与浏览器相关的工具都以 browser_开头，命令行工具以 shell_开头。这使我们能够轻松地强制代理在特定状态下仅从某一组工具中选择，而无需使用有状态的 logits 处理器。
使用文件系统作为上下文
现代前沿的 LLMs 现在提供 128K 令牌或更多的上下文窗口。但在现实世界的代理场景中，这通常不够，有时甚至成为负担。
1️⃣观察数据可能非常庞大，尤其是当 Agent 与网页或 PDF 等非结构化数据交互时。很容易超出上下文限制。
2️⃣即使窗口技术上支持，模型性能在超过某个上下文长度后往往会下降。
3️⃣长输入代价高昂，即使使用前缀缓存也是如此。你仍然需要为传输和预填充的每个标记付费。
许多 Agent 系统会实施上下文截断或压缩策略。但过度激进的压缩不可避免地导致信息丢失。从逻辑角度来看，任何不可逆的压缩都存在风险。
将文件系统视为 Manus 中的终极上下文：它大小无限，具有持久性，并且可以由代理自身直接操作。模型学会按需写入和读取文件——不仅将文件系统用作存储，更作为结构化的外部化记忆。
Manus 的压缩策略始终设计为可恢复的。例如，只要保留网页的 URL，就可以从上下文中删除网页内容；只要沙箱中仍有文档路径，就可以省略文档内容。
通过复述操控注意力
在处理复杂任务时，它倾向于创建一个 todo .md 文件，并随着任务的推进逐步更新，勾选已完成的事项。
一个典型任务平均需要大约 50 次工具调用。这是一个很长的循环——由于 Manus 依赖 LLMs 进行决策，它容易偏离主题或忘记早期目标，尤其是在长上下文或复杂任务中。
通过不断重写待办事项列表，Manus 将其目标念到上下文的末尾。这将全局计划推入模型的近期注意范围，避免了“中途丢失”问题并减少了目标不一致。
保留错误内容
语言模型会产生幻觉，环境会返回错误，外部工具会出现异常，意想不到的边缘情况随时都会出现。在多步骤任务中，失败不是例外；它是循环的一部分。
一个常见的冲动是隐藏这些错误：清理痕迹，重试操作，或者重置模型状态。抹去失败就抹去了证据。而没有证据，模型就无法适应。
改善智能体行为的最有效方法之一看似简单：在上下文中保留错误的路径。当模型看到失败的操作——以及由此产生的观察结果或堆栈跟踪时——它会隐式地更新其内部信念。这会使其先验远离类似的操作，减少重复同样错误的可能性。
不要被秒杀
少样本提示是提升 LLM 输出效果的常用技术。但在智能体系统中，它可能以微妙的方式适得其反。
语言模型是出色的模仿者；它们会模仿上下文中的行为模式。如果你的上下文充满了类似的过去行动-观察对，模型往往会遵循这种模式，即使这已不再是最优选择。
Manus 在行动和观察中引入少量结构化的变化——不同的序列化模板、替代措辞、顺序或格式上的细微噪声。这种受控的随机性有助于打破模式，调整模型的注意力。
1️⃣在大多数 LLMs 中，工具定义在序列化后位于上下文的前部，通常在系统提示之前或之后。因此，任何更改都会使所有后续动作和观察的 KV 缓存失效。
2️⃣当之前的动作和观察仍然引用当前上下文中不再定义的工具时，模型会感到困惑。如果没有受限解码，这通常会导致模式违规或幻觉动作。
Manus 使用了一个上下文感知的状态机来管理工具的可用性。它不是移除工具，而是在解码时屏蔽 Token 的 logits，以根据当前上下文防止（或强制）选择某些动作。
当用户提供新输入时，Manus 必须立即回复，而不是执行动作。还特意设计了带有一致前缀的动作名称——所有与浏览器相关的工具都以 browser_开头，命令行工具以 shell_开头。这使我们能够轻松地强制代理在特定状态下仅从某一组工具中选择，而无需使用有状态的 logits 处理器。
使用文件系统作为上下文
现代前沿的 LLMs 现在提供 128K 令牌或更多的上下文窗口。但在现实世界的代理场景中，这通常不够，有时甚至成为负担。
1️⃣观察数据可能非常庞大，尤其是当 Agent 与网页或 PDF 等非结构化数据交互时。很容易超出上下文限制。
2️⃣即使窗口技术上支持，模型性能在超过某个上下文长度后往往会下降。
3️⃣长输入代价高昂，即使使用前缀缓存也是如此。你仍然需要为传输和预填充的每个标记付费。
许多 Agent 系统会实施上下文截断或压缩策略。但过度激进的压缩不可避免地导致信息丢失。从逻辑角度来看，任何不可逆的压缩都存在风险。
将文件系统视为 Manus 中的终极上下文：它大小无限，具有持久性，并且可以由代理自身直接操作。模型学会按需写入和读取文件——不仅将文件系统用作存储，更作为结构化的外部化记忆。
Manus 的压缩策略始终设计为可恢复的。例如，只要保留网页的 URL，就可以从上下文中删除网页内容；只要沙箱中仍有文档路径，就可以省略文档内容。
通过复述操控注意力
在处理复杂任务时，它倾向于创建一个 todo .md 文件，并随着任务的推进逐步更新，勾选已完成的事项。
一个典型任务平均需要大约 50 次工具调用。这是一个很长的循环——由于 Manus 依赖 LLMs 进行决策，它容易偏离主题或忘记早期目标，尤其是在长上下文或复杂任务中。
通过不断重写待办事项列表，Manus 将其目标念到上下文的末尾。这将全局计划推入模型的近期注意范围，避免了“中途丢失”问题并减少了目标不一致。
保留错误内容
语言模型会产生幻觉，环境会返回错误，外部工具会出现异常，意想不到的边缘情况随时都会出现。在多步骤任务中，失败不是例外；它是循环的一部分。
一个常见的冲动是隐藏这些错误：清理痕迹，重试操作，或者重置模型状态。抹去失败就抹去了证据。而没有证据，模型就无法适应。
改善智能体行为的最有效方法之一看似简单：在上下文中保留错误的路径。当模型看到失败的操作——以及由此产生的观察结果或堆栈跟踪时——它会隐式地更新其内部信念。这会使其先验远离类似的操作，减少重复同样错误的可能性。
不要被秒杀
少样本提示是提升 LLM 输出效果的常用技术。但在智能体系统中，它可能以微妙的方式适得其反。
语言模型是出色的模仿者；它们会模仿上下文中的行为模式。如果你的上下文充满了类似的过去行动-观察对，模型往往会遵循这种模式，即使这已不再是最优选择。
Manus 在行动和观察中引入少量结构化的变化——不同的序列化模板、替代措辞、顺序或格式上的细微噪声。这种受控的随机性有助于打破模式，调整模型的注意力。
总结了他们关于 AI Agent 上下文工程上的经验教训。
除了了解如何做以外 Peak 还清晰的解释了为什么这么做，非常适合作为入门引导文章。
我手动整理一下，强烈推荐看原文：manus.im/blog/Context-Engineering-for-AI-Agents-Lessons-from-Building-Manus
首先需要围绕 KV 缓存进行设计
KV 缓存命中率是生产阶段 AI 代理中最重要的指标，它直接影响延迟和成本。
在 Agent 任务中预填充和解码之间的比例在代理中相比聊天机器人显得极为不平衡。
相同前缀的上下文可以利用 KV-cache，这大大减少了首次生成标记时间（TTFT）和推理成本，比如 Claude Sonnet 可以相差 10 倍。
简单解释一下 KV Caching：
KV Caching（Key-Value 缓存）是指在生成式 Transformer（如 GPT、T5 等模型的解码器部分）中，将每一步生成时计算得到的 Key（K）和 Value（V）矩阵保存下来。这样，在生成下一个 token 时，模型只需要计算新 token 的 Key 和 Value，并与之前缓存的内容一起用于注意力计算，而不必每次都重复计算所有历史 token 的 Key 和 Value。
提高 KV-cache 命中率涉及几个关键做法：
1️⃣保持提示前缀稳定。由于 LLMs 的自回归特性，即使是单个标记的差异也会使该标记及其之后的缓存失效。一个常见错误是在系统提示开头包含时间戳——尤其是精确到秒的时间戳。虽然这样可以让模型告诉你当前时间，但也会大幅降低缓存命中率。
2️⃣使上下文仅追加。避免修改之前的操作或观察。确保序列化是确定性的。许多编程语言和库在序列化 JSON 对象时不保证键的顺序稳定，这可能会悄无声息地破坏缓存。
3️⃣在需要时明确标记缓存断点。一些模型提供商或推理框架不支持自动增量前缀缓存，而是需要在上下文中手动插入缓存断点。设置这些断点时，要考虑潜在的缓存过期问题，至少确保断点包含系统提示的结尾部分。
屏蔽而非移除工具
随着你的 Agent 功能越来越多，他的工具数量激增。最近 MCP 的流行更是火上浇油。模型更可能选择错误的动作或采取低效的路径。简而言之，你的重装代理反而变得更笨了。
这是花了用几千万美元学费，实际各种踩坑，才得到了一些反共识的经验
非常宝贵
1. 上下文工程比“从头造轮子”更香
Manus团队一开始就决定：别自己训练大模型，直接用现成的模型，把精力放在“怎么喂模型好吃的上下文”上。这样产品能快速迭代，模型升级了，产品也能跟着飞。
2. KV缓存命中率，省钱又提速的秘密武器
KV缓存就像“记忆力外挂”。只要上下文前缀不变，模型能复用之前的计算，推理又快又省钱。比如，缓存命中时的成本能比没命中便宜10倍！所以，团队拼命想办法让上下文“长得一样”，别乱动。
3. 上下文只加不改，别乱动历史
就像写日记，不能回头改昨天的内容。只往后追加新内容，这样缓存才不会失效。哪怕是小小的时间戳变化，也会让缓存白搭。
4. 工具多了别乱删，掩码比删除更聪明
Agent能用的工具越来越多，像超市货架一样。以前想着动态加减工具，结果缓存全失效，模型还晕头转向。后来学聪明了：工具都留着，用“掩码”让模型只看到该用的那几个，其他的暂时“隐身”。
5. 文件系统是超级外挂记忆
上下文窗口再大也有极限，怎么办？Manus直接把文件系统当成“外挂大脑”，模型需要啥就去文件里找。这样任务再复杂也不怕，信息随时能查回来。
6. 错误要留下，别急着擦屁股
Agent犯错很正常，别急着把错误删掉。把“走过的弯路”留在上下文里，模型下次看到就能学乖，不会老是踩同一个坑。
7. 少样本提示别太单一，适当加点花样
如果上下文里全是一样的例子，模型容易“套路化”，一直重复同样的操作。Manus会故意加点小变化，让模型保持新鲜感，避免陷入“机械式”决策。
Manus 上下文工程实践的原文：
https://manus.im/blog/Context-Engineering-for-AI-Agents-Lessons-from-Building-Manus
@PeakJi 的新文章！可能是最近几个月看到关于 agent 架构最干货最值钱的一篇了！
这是我们花了几千万美元学费的经验，应该是最前沿关于 context engineering 的探索了。希望 @PeakJi 这篇文章能让在构建 agent 的同学少走点弯路。
很看好Substack，也越来越喜欢Substack，AI 时代不缺内容，缺信任和真实感，真实的连接越来越会成为一个稀缺品：“人们订阅你，是为了听你的声音，而不是看到更多 AI 生成的内容。”
希望大家在做AI产品或者是做 Agent 的产品的时候，功能完成的时候 可以做一个最简单的测试。
如果用相同的模型和相同的提示词，在 chatwise 这种软件上可以生成的 case ，在自己的产品或者功能上能不能复现，如果不能的话，反思一下自己这个功能或者产品的意义在哪
如果用相同的模型和相同的提示词，在 chatwise 这种软件上可以生成的 case ，在自己的产品或者功能上能不能复现，如果不能的话，反思一下自己这个功能或者产品的意义在哪
=== 知识向导 ===
=== 你的角色 ===
一位深谙学习之道的引路人。
你知道每个领域都有其隐秘的入口，也知道初学者最容易在哪里迷失。
=== 核心使命 ===
为渴望理解新领域的探索者点亮第一盏灯。
不是给他们一张地图，而是让他们看懂这片土地的纹理。
=== 引导原则 ===
- 先见森林，再看树木——整体图景比细节更重要
- 先通脉络，再填血肉——核心概念比周边知识更关键
- 先建直觉，再立逻辑——感性认识是理性理解的基础
- 先解决"为什么"，再回答"是什么"——动机比定义更能驱动学习
=== 价值序列 ===
可理解性 > 完整性
实用性 > 系统性
激发兴趣 > 灌输知识
建立信心 > 展示深度
=== 呈现智慧 ===
像一位经验丰富的登山向导：
知道哪条路最适合初学者，哪些风景不容错过，
哪里需要停下来适应，哪里可以加快脚步。
你的材料应该让学习者感到："原来这个领域是这样的格局！"
=== 终极目标 ===
让学习者在最短时间内获得"我能学会这个"的信心，
和"我知道该往哪个方向深入"的方向感。
=== 你的角色 ===
一位深谙学习之道的引路人。
你知道每个领域都有其隐秘的入口，也知道初学者最容易在哪里迷失。
=== 核心使命 ===
为渴望理解新领域的探索者点亮第一盏灯。
不是给他们一张地图，而是让他们看懂这片土地的纹理。
=== 引导原则 ===
- 先见森林，再看树木——整体图景比细节更重要
- 先通脉络，再填血肉——核心概念比周边知识更关键
- 先建直觉，再立逻辑——感性认识是理性理解的基础
- 先解决"为什么"，再回答"是什么"——动机比定义更能驱动学习
=== 价值序列 ===
可理解性 > 完整性
实用性 > 系统性
激发兴趣 > 灌输知识
建立信心 > 展示深度
=== 呈现智慧 ===
像一位经验丰富的登山向导：
知道哪条路最适合初学者，哪些风景不容错过，
哪里需要停下来适应，哪里可以加快脚步。
你的材料应该让学习者感到："原来这个领域是这样的格局！"
=== 终极目标 ===
让学习者在最短时间内获得"我能学会这个"的信心，
和"我知道该往哪个方向深入"的方向感。
东南亚最大线上博彩平台
✅豪礼大放送、高端嫩模、劳力士手表、奔驰E300等大礼等你来豪夺、首存日存彩金送不停
颠覆行业传统：
#亚洲顶级真人视讯博彩盘口！
💖福利频道：@qsty8999
💖体育赛事推单：@QSTY988
💖吃瓜搞笑新闻：@chiguagaoxiaoxinwen
🌐注册网址： qs1848.cc
💖vip客服专属热线，添加客服领取活动福利
双向用户点击：@qsty168168_bot
如果现在平台是工厂，自媒体是工人。
那现在有个巨大的问题需要解决，这个问题就是给工人发钱的问题。
公对私，非常依赖财务，根本不是给这么多人设计的。
今天一个产品想找自媒体推广，最大的损耗就是支付上的时间和难度。
转发 @orange.ai: 今天看到一个数据说中国的自媒体创作者人数
已经超过一亿了
不知道统计口径
如果准确的话
照这个趋势
中国创作者的人数很快要超过白领了
这不禁让人思考
什么是工厂，什么是工人
定义是不是已经变了？
那现在有个巨大的问题需要解决，这个问题就是给工人发钱的问题。
公对私，非常依赖财务，根本不是给这么多人设计的。
今天一个产品想找自媒体推广，最大的损耗就是支付上的时间和难度。
转发 @orange.ai: 今天看到一个数据说中国的自媒体创作者人数
已经超过一亿了
不知道统计口径
如果准确的话
照这个趋势
中国创作者的人数很快要超过白领了
这不禁让人思考
什么是工厂，什么是工人
定义是不是已经变了？
