AI探索指南

  1. 从简单记忆功能做起,逐步优化

    AI探索指南
    聊一下最近圈子热议的话题 Shopify CEO 和Andrej Karpathy 都同意的观点:提示工程的名称是否应该改为上下文工程 主要包括: - 各路大神的观点 - 为什么上下文工程如此重要 - 上下文工程的三大策略 - 其他实践经验与建议 完整的文章在这里看,这里发一下文章的总结:https://mp.weixin.qq.com/s/wWR-1lLMhJ9OTj62JXaM_g 近期AI圈热议“提示工程”是否应更名为“上下文工程”,因为后者更准确地描述了为大模型(LLM)提供任务所需全部信息的工作。…
    从简单记忆功能做起,逐步优化。
    多Agent方案适用于可并行化任务,但需注意协调难题。

    结论
    上下文管理是构建健壮AI Agent的核心,需在性能、成本和准确性间平衡。
    上下文工程是一门平衡的艺术,良好的语境和清晰表达需求是获得优质LLM输出的关键。

  2. 聊一下最近圈子热议的话题

    聊一下最近圈子热议的话题

    Shopify CEO 和Andrej Karpathy 都同意的观点:提示工程的名称是否应该改为上下文工程

    主要包括:
    - 各路大神的观点
    - 为什么上下文工程如此重要
    - 上下文工程的三大策略
    - 其他实践经验与建议

    完整的文章在这里看,这里发一下文章的总结:https://mp.weixin.qq.com/s/wWR-1lLMhJ9OTj62JXaM_g

    近期AI圈热议“提示工程”是否应更名为“上下文工程”,因为后者更准确地描述了为大模型(LLM)提供任务所需全部信息的工作。
    Shopify CEO Tobi Lutke 和 Andrej Karpathy 等人认为,“上下文工程”更能体现工业级LLM应用中对上下文的精细管理和填充。
    上下文工程不仅仅是写好提示词,还包括任务描述、样本、RAG(检索增强生成)、多模态数据、工具、状态、历史和信息压缩等。

    上下文工程的重要性

    Cognition 和 Anthropic 等公司在多Agent系统中强调上下文管理的重要性。
    不充分的上下文会导致Agent工作不一致,过长或不相关的上下文会增加成本、降低性能。
    多轮对话中,指令遵循性下降,优化上下文长度和准确性尤为关键。

    上下文工程的三大策略

    1. 压缩(Compression)
    目标:每轮对话只保留最有价值的Token。
    方法:上下文摘要(如Claude Code自动压缩、Cognition用微调模型压缩)。
    难点:高质量摘要难以实现。

    2. 持久化(Persistence)
    目标:构建可长期存储、保存和检索上下文的系统。
    存储方式:文件(如CLAUDE .md)、嵌入式文档、知识图谱等。
    保存策略:用户手动或Agent自动生成/更新记忆(如Reflexion机制)。
    检索方式:直接加载或基于嵌入向量/图检索,需防止检索出错导致“跑题”。

    3. 隔离(Isolation)
    目标:在不同Agent或环境间划分上下文。
    方法:结构化上下文模式(如Pydantic模型)、多Agent分散上下文、环境隔离(如HuggingFace的沙盒环境)。
    多Agent系统可提升性能,但也带来Token消耗和协调难题,适合可并行化任务。

    实践经验与建议
    工具先行,优先关注数据和Token追踪。
    明确Agent状态,梳理运行时所需信息。
    在工具边界处进行上下文压缩。

  3. 上下文管理是构建健壮AI Agent的核心,需在性能、成本和准确性间平衡

    AI探索指南
    聊一下最近圈子热议的话题#ai创造营# Shopify CEO 和Andrej Karpathy 都同意的观点:提示工程的名称是否应该改为上下文工程 主要包括: - 各路大神的观点 - 为什么上下文工程如此重要 - 上下文工程的三大策略 - 其他实践经验与建议 这里发一下文章的总结 近期AI圈热议“提示工程”是否应更名为“上下文工程”,因为后者更准确地描述了为大模型(LLM)提供任务所需全部信息的工作。 Shopify CEO Tobi Lutke 和 Andrej Karpathy 等人认为,“…
    上下文管理是构建健壮AI Agent的核心,需在性能、成本和准确性间平衡。
    上下文工程是一门平衡的艺术,良好的语境和清晰表达需求是获得优质LLM输出的关键。

  4. 聊一下最近圈子热议的话题#ai创造营#

    聊一下最近圈子热议的话题#ai创造营#

    Shopify CEO 和Andrej Karpathy 都同意的观点:提示工程的名称是否应该改为上下文工程

    主要包括:
    - 各路大神的观点
    - 为什么上下文工程如此重要
    - 上下文工程的三大策略
    - 其他实践经验与建议

    这里发一下文章的总结

    近期AI圈热议“提示工程”是否应更名为“上下文工程”,因为后者更准确地描述了为大模型(LLM)提供任务所需全部信息的工作。
    Shopify CEO Tobi Lutke 和 Andrej Karpathy 等人认为,“上下文工程”更能体现工业级LLM应用中对上下文的精细管理和填充。
    上下文工程不仅仅是写好提示词,还包括任务描述、样本、RAG(检索增强生成)、多模态数据、工具、状态、历史和信息压缩等。

    上下文工程的重要性

    Cognition 和 Anthropic 等公司在多Agent系统中强调上下文管理的重要性。
    不充分的上下文会导致Agent工作不一致,过长或不相关的上下文会增加成本、降低性能。
    多轮对话中,指令遵循性下降,优化上下文长度和准确性尤为关键。

    上下文工程的三大策略

    1. 压缩(Compression)
    目标:每轮对话只保留最有价值的Token。
    方法:上下文摘要(如Claude Code自动压缩、Cognition用微调模型压缩)。
    难点:高质量摘要难以实现。

    2. 持久化(Persistence)
    目标:构建可长期存储、保存和检索上下文的系统。
    存储方式:文件(如CLAUDE .md)、嵌入式文档、知识图谱等。
    保存策略:用户手动或Agent自动生成/更新记忆(如Reflexion机制)。
    检索方式:直接加载或基于嵌入向量/图检索,需防止检索出错导致“跑题”。

    3. 隔离(Isolation)
    目标:在不同Agent或环境间划分上下文。
    方法:结构化上下文模式(如Pydantic模型)、多Agent分散上下文、环境隔离(如HuggingFace的沙盒环境)。
    多Agent系统可提升性能,但也带来Token消耗和协调难题,适合可并行化任务。

    实践经验与建议
    工具先行,优先关注数据和Token追踪。
    明确Agent状态,梳理运行时所需信息。
    在工具边界处进行上下文压缩。
    从简单记忆功能做起,逐步优化。
    多Agent方案适用于可并行化任务,但需注意协调难题。

    结论

  5. Anthropic 这个 Claude Artifacts 升级太牛皮了!

    Anthropic 这个 Claude Artifacts 升级太牛皮了!

    现在构建 AI 应用变得前所未有的简单

    只要跟 Claude 说“帮我创建一个 AI 应用程序”,后面跟上提示词

    就会帮你创建可以调用 Claude 的网页,而且其他人用的时候用的他们自己的账号额度

    我用这个功能创建创建了一个分享图生成工具。
    用的我原来那个 Bento Grid 风格 提示词。
    现在每个人都可以用这个网页快速生成对应文案的分享图片了!

    这里尝试,需要 Claude 账号:claude.ai/public/artifacts/f6cda2d3-2ff3-41ff-a8c1-3d19b8e18bb7

  6. 刚刷到豆包的一个推送,他们自己用豆包 1.6 做了一下山东的2025 年高考题

    刚刷到豆包的一个推送,他们自己用豆包 1.6 做了一下山东的2025 年高考题。

    豆包Seed1.6-Thinking模型文科考了 683 分、立刻考了 648 分,理科跟 Gemini 并列第一。

    今天山东公布了自己的高考录取分数线,基本可以稳定上 985 大学了,文科比 Gemini 还高很多,排名约在前80位左右,都可以考上清华北大了。

    国内这一年的 LLM 发展还是相当快的,特别是在我们自有数据方面。

    另外也说明随着 AI 的发展在知识水平和教育能力上超越普通的教师是很快就会发生的事情。

    如果依然延续现在的应试教育体系,很快高分考生就会过剩。

  7. 古典产品经理,是通过调研、直觉来理解用户,做产品决策,满足用户需求

    古典产品经理,是通过调研、直觉来理解用户,做产品决策,满足用户需求。如果产品判断力不行,那就是在自嗨

    字节产品经理,是用实验、数据来理解用户,做产品迭代。如果指标定错了,就越努力越错,或者没办法定出一个指标,那就不知道该怎么努力

    AI 产品经理,是通过定义标准、测评,尽可能全面真实地反映用户对 AI 交付的结果的感受,来做 pipeline 优化和模型精调。如果标准定错了,产品优化方向就错了,如果测评不客观,那么就带来虚假的乐观

  8. 我去! 朋友们不用眼馋 Claude Code 了

    我去! 朋友们不用眼馋 Claude Code 了

    Gemini 也发布了类似的 AI 编程产品 Gemini Cli - 开源命令行 AI 工具

    而且个人谷歌账号登录就能免费用!

    这里下载:https://github.com/google-gemini/gemini-cli/

    免费额度为每分钟 60 次请求、每天 1000 次请求,是业内最高的免费额度,几乎不会遇到限制。

    - 支持 Google 搜索实时联网,为模型提供外部上下文。
    - 支持 MCP和扩展,便于功能拓展。
    - 可自定义提示词和指令,适应个人或团队工作流。
    - 可在脚本中非交互式调用,实现自动化和集成。