关于AIGC人工智能、思维方式、知识拓展，能力提升等。投稿/合作： @inside1024_bot
AIGC 领域的最新工具、开源项目以及行业大事件
AIGC 领域的最新工具、开源项目以及行业大事件
看了一篇uber 在内部通过 agent 来做业务数据检索的实践，是很标准的 agent 逻辑，值得参考，如果你在产品里还没找到 AI 落地的方式，那么可以做一些内部提效的实践，积累经验
《Uber 如何构建用于财务分析的对话式 AI 助手：让查数据像给同事发消息一样简单》https://ybzavo65ti.feishu.cn/wiki/SMRLwGE0eiWSfqkmnB8cGCFjn8f?from=from_copylink
如果想查一些业务数据，要么自己去找风神/灯塔之类的数据后台，要么找数据分析师跑 sql，响应比较慢。于是 uber 做了一个对话式数据助手，在 slack 问 agent 数据问题，agent 直接回复，让数据检索如同向同事发送消息般简单。
就像老板半夜问我一个数，如果周报里没有现成的，我就要看遍数据集，甚至求DS 帮我跑 sql，然后给老板一个直接、清晰、简洁的答案。
几年前我和DS 说，能不能以后出来一个人工智能，老板想看什么数据，它就从数据库里跑出来，不要老是找我。DS 对我说，你不就是老板现成的人工智能吗...
在字节的时候，风神里也有输入自然语言，然后AI 帮我写 sql，但是发现实际用处不大，那些字段、口径，你都不知道水有多深，最终还是要靠 DS。在字节头一年，我学会了数据分析，后两年，我学会了口径分析。
这里总结一下 uber 的跑数 agent 的核心逻辑，我真希望各个公司都有这样的基建，让跑数不再反人性。
1. multi-agent 架构
主 agent做意图识别和分流，子 agent 处理对应的具体任务，比如写 sql。
关于走 multi 还是 single，我觉得 uber 的场景走 multi 是合理的，因为每个 sub 的任务都比较独立且复杂，在 sub之间的传递信息也都比较明确，而很多业务场景其实用不到 multi架构，直接 single 就可以了。
2. 数据处理
最难的是数据源，因为不同数据集的字段都不一样，以及员工的自然语言的术语和数据集的字段名也不一样。如果直接把海量原始数据给 LLM，肯定是跑不出来靠谱的数。有两个关键方法
1）统一不同数据集的字段：不是直接在包含大量连接的复杂数据库上运行查询，而是做了一个精心策划的、单一表格的数据集市 (curated, single-table data marts) ，作用是为 Finch 提供一个高速、高清晰度、预先整理好的数据源。数据治理一直是难题，是 DS 的泪，一般人都不敢主动碰。我不确定 uber 是否真的解决了这个问题。
2）统一自然语言和字段名的映射：通过OpenSearch 来存储元数据。这些元数据包含了字段（列名）及其值对应的自然语言别名。这个持续维护也是比较难的。
3. 效果测评：
比较标准化，其实就是把环节拆分，分别用有标准答案的 case 来测评，最后端到端再验证。
1）路由准确性：当用户提出问题时，主 agent需判定应由哪个子agent处理请求。
2）子 agent 准确度：建一组常见用例，有正确可信的标准答案。通过将agent输出与预期答案比对，能及时发现准确率下降的情况。
3）端到端验证：通过模拟真实场景的查询来确保从输入到输出的完整流程正常运行。这有助于发现组件单独测试时可能遗漏的系统性问题
《Uber 如何构建用于财务分析的对话式 AI 助手：让查数据像给同事发消息一样简单》https://ybzavo65ti.feishu.cn/wiki/SMRLwGE0eiWSfqkmnB8cGCFjn8f?from=from_copylink
如果想查一些业务数据，要么自己去找风神/灯塔之类的数据后台，要么找数据分析师跑 sql，响应比较慢。于是 uber 做了一个对话式数据助手，在 slack 问 agent 数据问题，agent 直接回复，让数据检索如同向同事发送消息般简单。
就像老板半夜问我一个数，如果周报里没有现成的，我就要看遍数据集，甚至求DS 帮我跑 sql，然后给老板一个直接、清晰、简洁的答案。
几年前我和DS 说，能不能以后出来一个人工智能，老板想看什么数据，它就从数据库里跑出来，不要老是找我。DS 对我说，你不就是老板现成的人工智能吗...
在字节的时候，风神里也有输入自然语言，然后AI 帮我写 sql，但是发现实际用处不大，那些字段、口径，你都不知道水有多深，最终还是要靠 DS。在字节头一年，我学会了数据分析，后两年，我学会了口径分析。
这里总结一下 uber 的跑数 agent 的核心逻辑，我真希望各个公司都有这样的基建，让跑数不再反人性。
1. multi-agent 架构
主 agent做意图识别和分流，子 agent 处理对应的具体任务，比如写 sql。
关于走 multi 还是 single，我觉得 uber 的场景走 multi 是合理的，因为每个 sub 的任务都比较独立且复杂，在 sub之间的传递信息也都比较明确，而很多业务场景其实用不到 multi架构，直接 single 就可以了。
2. 数据处理
最难的是数据源，因为不同数据集的字段都不一样，以及员工的自然语言的术语和数据集的字段名也不一样。如果直接把海量原始数据给 LLM，肯定是跑不出来靠谱的数。有两个关键方法
1）统一不同数据集的字段：不是直接在包含大量连接的复杂数据库上运行查询，而是做了一个精心策划的、单一表格的数据集市 (curated, single-table data marts) ，作用是为 Finch 提供一个高速、高清晰度、预先整理好的数据源。数据治理一直是难题，是 DS 的泪，一般人都不敢主动碰。我不确定 uber 是否真的解决了这个问题。
2）统一自然语言和字段名的映射：通过OpenSearch 来存储元数据。这些元数据包含了字段（列名）及其值对应的自然语言别名。这个持续维护也是比较难的。
3. 效果测评：
比较标准化，其实就是把环节拆分，分别用有标准答案的 case 来测评，最后端到端再验证。
1）路由准确性：当用户提出问题时，主 agent需判定应由哪个子agent处理请求。
2）子 agent 准确度：建一组常见用例，有正确可信的标准答案。通过将agent输出与预期答案比对，能及时发现准确率下降的情况。
3）端到端验证：通过模拟真实场景的查询来确保从输入到输出的完整流程正常运行。这有助于发现组件单独测试时可能遗漏的系统性问题
#182体育 封神榜
以小博大直接爆15000倍 点击查看
实力盘总4000一拉直接爆2304000 点击查看
注册升级领18888， 每周送福利5888
每日存款彩金每日送，每笔存款加赠
🌐 官网注册网址 : 1820036.com
💖专属VIP客服： @vipkf_182ty8
💖吃瓜搞笑：@chiguagaoxiaoxinwen
#反水无上限 #电子真人0审核包出款
💖N1国际专属客服：@N1vip888
🌟 财富连爆：PG麻将糊了首充6万U→连爆81万U🌟 势不可挡：神秘盘总首充4万→秒提 60万U🌟 豪赌封神：麻将拉500→单笔提 100万U🌟 连破纪录：大佬当日再爆→ 提币 280万U秒到🌟 命中爆点：高管首充4万→ 翻1520倍提76万U🌟 亿万备用资金池,大额无忧！硬核保障 查看
# 权威认证 # 百亿保障 # 真爆奖 # 信誉首选
球速大会员再创新高：
✅球速体育
✅u存u提每日提款无上限，随便提、全球不限ip、免实名绑定手机号码、银行，大额出款无忧 （您的最佳选择，欢迎体验）
#亚洲顶级真人视讯博彩盘口！
🔥平台
注册升级领18888， 每周送福利5888
每日存款彩金每日送，每笔存款加赠
👑福利频道：@qsty8999
⚽️体育赛事推单：@QSTY988
💖吃瓜搞笑新闻：@chiguagaoxiaoxinwen
💖vip客服专属热线，添加客服领取活动福利
🌐官网客服： @QSTY567
双向用户点击：@qsty168168_bot
🌐注册网址： qs1736.cc
【佐伊】听👉武大郎的绝唱
昨天的恐怖片演绎了现代版真实的你死我活的惊悚。
今天把镜头拉回来，听一听武大郎临终前的绝唱，不得不说：大郎啊，如果你当初有这样的才华，那潘金莲怎么能出轨呢？
现在的AI是真强大，药下得也猛，这歌西门庆听了，应该退避三舍。
有道是：红烛下的海誓山盟，都是虚谎。
最后只有一句：大郎喝药了，然后流下一滴出卖的泪。
听一首歌：《出卖》
昨天的恐怖片演绎了现代版真实的你死我活的惊悚。
今天把镜头拉回来，听一听武大郎临终前的绝唱，不得不说：大郎啊，如果你当初有这样的才华，那潘金莲怎么能出轨呢？
现在的AI是真强大，药下得也猛，这歌西门庆听了，应该退避三舍。
有道是：红烛下的海誓山盟，都是虚谎。
最后只有一句：大郎喝药了，然后流下一滴出卖的泪。
听一首歌：《出卖》
原来在 Replicate 干的 fofr 加入了 DeepMind
很多人应该都会对这哥们有印象，在 Nano Banana 和 GPT-4o 图像发布的时候都持续产出了非常多好的案例和测试
估计 Deepmind 想用他补上自己在图像和视频上的宣传路径，哥们这下这结起飞了
当然，很荣幸老哥也关注了我
不是官方数字。很难量化训练成本，因为很大一部分属于研究和实验。
在制作 K2 thinking 的过程中，你们遇到的最大挑战是什么？谢谢！
一个挑战是支持交错的“思考 - 工具 - 思考 - 工具”模式。这在 LLMs 中是相对新颖的行为，实现起来需要大量工作才能正确运行。
K2 thinking 在几个月来经过许多评测后，已经能抓到 Sonnet 4.5 和 Opus 4.1 漏掉的问题。说实话，感觉 K2 thinking 只差一点系统提示（system prompt）调整就能达到同等水平。这全都要归功于你们的新架构吗？还是你们的训练数据质量也有提升？
我认为拥有合适的评估方法和数据对性能至关重要。架构和优化器提高了样本效率。
你们训练堆栈的硬件是什么样的？想了解你们的基础设施如何与那些美国大型公司使用的堆栈相比？
使用带有 Infiniband 的 H800 GPU；它们不如美国的高端 GPU，而且数量也不占优势，但我们把每一张卡都充分利用起来#ai创造营##kimi#
在制作 K2 thinking 的过程中，你们遇到的最大挑战是什么？谢谢！
一个挑战是支持交错的“思考 - 工具 - 思考 - 工具”模式。这在 LLMs 中是相对新颖的行为，实现起来需要大量工作才能正确运行。
K2 thinking 在几个月来经过许多评测后，已经能抓到 Sonnet 4.5 和 Opus 4.1 漏掉的问题。说实话，感觉 K2 thinking 只差一点系统提示（system prompt）调整就能达到同等水平。这全都要归功于你们的新架构吗？还是你们的训练数据质量也有提升？
我认为拥有合适的评估方法和数据对性能至关重要。架构和优化器提高了样本效率。
你们训练堆栈的硬件是什么样的？想了解你们的基础设施如何与那些美国大型公司使用的堆栈相比？
使用带有 Infiniband 的 H800 GPU；它们不如美国的高端 GPU，而且数量也不占优势，但我们把每一张卡都充分利用起来#ai创造营##kimi#
看了一下海外用户对于 K2-Thinking 的评价和国内在我评论区的评价还是挺不一样的。
海外用户对价格相对没那么敏感，当然也提到了按调用次数而不是按 Token 这样有些问题，总体来说还是跟关注技术和质量，当然也跟 LocalLLaMA 这个频道的属性有关系。
他们昨晚也在 AMA 里面回答了很多问题，我整理了一些有信息量的：
----------------------------
KDA 会用在下一代旗舰模型 Kimi 吗？它的优势是什么？
KDA 混合结构（KDA hybrids with NoPE MLA）比传统的 MLA + RoPE 表现更好。
它在预训练和 RL 阶段都更快、更经济、更高效。
可以更快预训练、更快上线，也能服务更多用户。
可能会用在 K3 的训练里面。
K2 会有视觉语言（VL）版本吗？
有的，正在做。
K2 明显不像其他模型那样讨好用户（不拍马屁），是刻意设计的吗？这是后训练的结果吗？
K2 的非迎合式人格 是通过精心数据挑选设计出来的。
预训练和后训练都对这种风格有贡献。预训练编码了相关的先验，而后训练则为其增添了一些风味。
当前 Kimi for Coding 的计费方式按 API 请求数计算，极不透明，一次 prompt 可能多次请求，是否能改成按 token 或 prompt？
当前按请求数计费是因为：对用户可见；更符合他们的成本结构。但确实理解用户困惑，会考虑改进。
请问你认为 fp4 相比 int4 真的是一个很重要的改进吗？还是说 int4 已经足够好的编码了？
选择 int4 是为了对非 Blackwell GPU 更友好，同时利用现有的 int4 推理 marlin 内核。
K2 Thinking 模型比 GPT-5 Thinking 更强，但输出速度慢很多，是否刻意让它“思考更久”？
承认 K2-Thinking 在推理阶段更细致、更耗时，但优化正在进行。
专注于纯文本代理是为了在短期内以牺牲换取达到 SOTA 吗，还是一项长期押注？
要把视觉语言模型（VL）的数据和训练做对需要时间，因此我们选择先发布文本模型。
那个 460 万美元的 K2 Thinking 训练费用是真的吗？
昨天和一个创业的朋友聊
总结出产品经理未来的三个趋势
第一是：从文档到Demo
从字节到阿里
老板们已经开始强制要求只看AI Coding出来的Demo了
这很好理解，比起文档和PPT
可交互的成品更容易理解
很多年前蒋凡开会不带电脑
直接用iPad、手机看Demo
只不过过去需要产研团队协作才能做到
现在甚至1-3人即可快速完成
第二是：产品经理都要变成工程师
这种偏Demo的工程师会由现在的产品和UI转行
之前的研发就是偏落地的工程师
最后就全都是工程师
转不了的直接被淘汰
最近参加的黑客松都体现了快速Demo
用社媒获客和迭代产品的强大趋势
产品经理落地能力将会得到质的飞跃
不再是办公室里吹空调比嘴皮子了
第三是：Spec Coding必定盛行
先写文档再开发，这本来也是产品的基本工作
所以新招人就直接招产品经理
然后学Vibe Coding直接开干
再加上AI，可以生成非常详细的PRD
以及不断迭代的PRD
Spec = PRD = Code
最后，为何这个变化不可逆
效率与组织逻辑的必然
1. 减少沟通损耗
2. 大厂效率提升
3. 小团队崛起
如果大厂也这么变化
“大团队和小团队没有什么成本和执行力的问题,没有区别了,最后就是想法。”
总结出产品经理未来的三个趋势
第一是：从文档到Demo
从字节到阿里
老板们已经开始强制要求只看AI Coding出来的Demo了
这很好理解，比起文档和PPT
可交互的成品更容易理解
很多年前蒋凡开会不带电脑
直接用iPad、手机看Demo
只不过过去需要产研团队协作才能做到
现在甚至1-3人即可快速完成
第二是：产品经理都要变成工程师
这种偏Demo的工程师会由现在的产品和UI转行
之前的研发就是偏落地的工程师
最后就全都是工程师
转不了的直接被淘汰
最近参加的黑客松都体现了快速Demo
用社媒获客和迭代产品的强大趋势
产品经理落地能力将会得到质的飞跃
不再是办公室里吹空调比嘴皮子了
第三是：Spec Coding必定盛行
先写文档再开发，这本来也是产品的基本工作
所以新招人就直接招产品经理
然后学Vibe Coding直接开干
再加上AI，可以生成非常详细的PRD
以及不断迭代的PRD
Spec = PRD = Code
最后，为何这个变化不可逆
效率与组织逻辑的必然
1. 减少沟通损耗
2. 大厂效率提升
3. 小团队崛起
如果大厂也这么变化
“大团队和小团队没有什么成本和执行力的问题,没有区别了,最后就是想法。”
原来在 Replicate 干的 fofr 加入了 DeepMind
很多人应该都会对这哥们有印象，在 Nano Banana 和 GPT-4o 图像发布的时候都持续产出了非常多好的案例和测试
估计 Deepmind 想用他补上自己在图像和视频上的宣传路径，哥们这下这结起飞了
当然，很荣幸老哥也关注了我#ai创造营#
