AI探索指南

  1. “别再被Demo骗了!”:Karpathy揭秘AI Agent从90%到99.999%的残酷真相

    “别再被Demo骗了!”:Karpathy揭秘AI Agent从90%到99.999%的残酷真相

    当整个科技圈都在为AI Agent(人工智能体)的酷炫Demo欢呼时,有一个人却泼来一盆冷水。

    他就是Andrej Karpathy——一个履历堪称“AI界天花板”的人物。作为OpenAI的创始成员,他帮助构建了驱动ChatGPT的早期模型;作为前特斯拉AI总监,他领导团队埋头五年,只为攻克自动驾驶这个难题。

    正是这段横跨“数字智能”与“物理智能”的独特经历,让他对当前AI Agent的狂热,有了一份极其冷静甚至悲观的判断:

    “这不是智能体元年(the year of agents),而是智能体十年(the decade of agents)。”

    为什么?因为他用在特斯拉5年、每天都在追求99.999…%可靠性的亲身经历,看到了所有AI产品从惊艳Demo到可靠Product之间,那条由无数个“9”铺成的、漫长而艰难的行军路。

    一、2014年的“完美”幻觉:一个关于自动驾驶的故事

    故事要从十年前说起。

    2014年,Karpathy还在斯坦福读博,通过朋友关系,他体验了一次Waymo的自动驾驶汽车。那是一次“完美”的旅程,车辆在帕洛阿尔托的街道上平稳行驶,毫无差错。

    “我当时觉得,这东西(自动驾驶)已经非常接近成功了。”

    然而,十年过去了。自动驾驶依然没有大规模普及,甚至连Waymo自己,也只在少数几个城市的限定区域内运营。

    问题出在哪?

    Karpathy在特斯拉的五年找到了答案。他将其总结为一个概念:“九个九的行军”(The march of nines)。

    一个产品在Demo阶段达到90%的成功率可能很容易,但从90%到99%,再到99.9%,每增加一个“9”的可靠性,所需要付出的努力和资源,都是指数级增长的。

    “在特斯拉,我们每天都在为小数点后新增的那个‘9’而战。” Karpathy说,“而今天的AI Agent,就像2014年的那辆Waymo,它给了我们一个完美的幻觉,但实际上,它的‘九个九行军’才刚刚开始。”

    二、AI Agent如何重走自动驾驶之路?四大挑战

    Karpathy认为,今天的AI Agent,正面临着与自动驾驶当年一模一样的四大挑战。这四大挑战,构成了从Demo到产品之间的巨大鸿沟。

    挑战一:高昂的失败成本

  2. 今天读到了一个非常有趣的 idea

    今天读到了一个非常有趣的 idea。

    背景是 Dwarkesh Patel 和 Andrej Karpathy 的一个对谈,里面提到了一个智能领域的常见问题:不管是人还是 AI,如果局限于自己的经验,用经验指导自己的行为, 又在这个行为的基础上累计经验,如此循环下去,最终总会崩溃(这里的「崩溃」不是心理意义上的,是智能层面上的)。一个健康的心智需要不断通过从不在自己经验范围内的世界(比如同他人的交谈,和与自己行为模式不符的人合作,etc.)获得外部熵来阻止这种崩溃。小孩还没有对生活过拟合,所以不太容易崩溃,而成年人崩溃的风险则越来越大。

    以上是背景。下面是那个有趣的 idea,来自2021年 Cell 的一篇 paper "The overfitted brain: Dreams evolved to assist generalization"。它的主旨是说:人类做梦是防止这种过度拟合和崩溃的一种方式。做梦之所以具有进化适应性,是因为它会让你置身于与你日常现实截然不同的奇特情境中,从而防止这种过度拟合。

    这里有个鸡生蛋蛋生鸡的问题:既然过拟合体现为大脑无法学到分布外的规律,大脑是如何构建出这些分布外的梦境的?Hoel 的解释是梦的构建有一个非智能的 noise injection 步骤,这些随机噪声在白天建立的神经连接中渗透,产生奇异的、扭曲的、不连贯的 corrupted sensory inputs,从而把大脑从过拟合的陷阱中拯救出来。

    虽然这只是一个假说(而且是一个非常新的理论),但我越想越觉得它非常精妙。按照这种视角,梦的价值不在于它的逼真,而恰恰在于它的不逼真——梦境与清醒时的经历(训练集)如此不同(但又不是纯粹意义上的噪声),所以才能迫使大脑学习到更具泛化性的表征而不是仅仅记忆真实经历本身。

    梦通过不可能存在的反事实体验迫使我们更好地理解世界的本质。

  3. AI探索指南
    搞学术的人看过来! 西湖大学做了个自动把学术论文转PPT的Agent。 前两天发了字节哈工大港大做的自动论文宣发Agent 今天就看到朋友分享的另一个工作 来自西湖大学的研究员们发布了Auto-Slides 这是一个用于创建和定制学术PPT的交互式多智能体系统 可以将研究论文转换为具有教学结构的、多模态的幻灯片(例如图表和表格)。 并且它不是简单的由LLM来设计,而是根据认知科学,来创建以演示为导向的叙述。 并通过交互式编辑器进行迭代优化,以匹配学习者的知识水平和目标。 与之前的AutoPR类似,Auto…
    Fi9czj3YXCo6_Rrsh6fcyJ68zFVBv3.png
    689.8 KB

  4. 搞学术的人看过来!

    搞学术的人看过来!
    西湖大学做了个自动把学术论文转PPT的Agent。

    前两天发了字节哈工大港大做的自动论文宣发Agent
    今天就看到朋友分享的另一个工作

    来自西湖大学的研究员们发布了Auto-Slides

    这是一个用于创建和定制学术PPT的交互式多智能体系统
    可以将研究论文转换为具有教学结构的、多模态的幻灯片(例如图表和表格)。

    并且它不是简单的由LLM来设计,而是根据认知科学,来创建以演示为导向的叙述。
    并通过交互式编辑器进行迭代优化,以匹配学习者的知识水平和目标。

    与之前的AutoPR类似,Auto-Sildes也分为三个步骤生成(图2️⃣
    1️⃣内容理解和结构化,其中解析器和规划器Agent分析源材料,以 JSON 格式设计幻灯片结构,指定每张幻灯片的内容、图表和表格。
    2️⃣质量保证和优化,其中验证器和调整器Agent确保内容的真实性和完整性。
    3️⃣生成和交互优化,其中生成器Agent以 LaTeX 代码格式生成最终演示文稿,编辑器Agent通过自然语言对话来完成人工参与修订。

    为了评估该系统的效果,作者们使用人工和LLM进行了双重评估。
    结果显示,使用Auto-Slides生成的PPT在人工和LLM评估中均优于直接使用LLM生成的PPT(图3️⃣和4️⃣
    显著提高了学习者(听众)的理解和参与度。

    其实我觉得这个项目潜力很大,特别是基于认知科学来进行讲解/叙述。
    当然作者也承认,目前Auto-Sildes尚未整合动态或交互式媒体,如嵌入的视频、动画、交互式图表或可执行代码块。
    希望在后续工作中能整合这些能力~

    项目主页:https://auto-slides.github.io
    Github:https://github.com/Westlake-AGI-Lab/Auto-Slides
    Paper:https://arxiv.org/abs/2509.11062

  5. Claude Skills 系统看起来真的太完美了

    Claude Skills 系统看起来真的太完美了
    每个 Skill 都是一个文件夹,只需要 Markdown 即可编写
    而将文件夹系统作为 Context,正是 Claude 最核心的产品理念。
    这是一个智能可插拔的技能系统,再也不用在系统prompt里塞垃圾了。
    不仅可以加载记忆,还可以加载技能,这是目前最美妙最优雅的 Agent 架构。
    每个人也可以分享自己的 Skill,一套开放的生态系统。
    未来的想象空间没有上限。

  6. 长期寻找以下标签年轻人:

    长期寻找以下标签年轻人:
    1.热爱AI产品工具,并且自己能上手,能分享,能有点子。
    2.不觉得学习和上手一个新app 是个“辛苦”的事情。
    3.喜欢网上冲浪,不管是国内外平台,每天花大量的时间吸收内容。
    4.是某个AI工具的忠粉,每周使用时间在5小时以上。
    5.每周都会输出自己使用一些产品的心得。

    无论是单次/长期内容共创,或是产品体验和沙龙邀请,以及我们也有合适职位,欢迎大家看到这样的年轻人分享给我🙏

  7. 第一,速度至上

    AI探索指南
    Hey Gen 用了不到两年半的时间,从 100 万美元到了一个亿,这个增长速度在 AI 行业也是相当猛的。#ai创造营# 他们 CEO 这次不只是分享里程碑数字,更重要的是他们把内部称为"圣经"的一套产品方法论公开出来了。 包含了团队内部无数次讨论、实验和踩坑之后总结出来的经验,总结一下做个笔记👇: HeyGen 把视频分成了两类:沟通类视频和电影类视频。 沟通类视频包括业务更新、教程、采访、播客、解释性视频,目的是说明、告知或传达信息,最适合基于脚本的编辑。电影类视频是高制作广告、电影、音乐视…
    第一,速度至上。在 AI 时代学习最快的团队获胜,就是这样。几天交付不是几周,有疑问就发布实验,进展的势头比完美更重要,迟缓是唯一不可原谅的罪过。速度不仅仅关乎执行力,更关乎心态。如果你把"正确"放在第一位,那就走得太慢了。不要害怕出错,要怕的是学习得太慢。

    第二,拥抱技术浪潮。别再追求技术稳定性,那并不存在。AI 基础每两个月就会变化,要把产品设计成在模型改进时能自动提升,构建预期会变化的抽象层,让产品体验随着 AI 进步而前进。

    第三,表达异议并承诺执行。现在是战争时期不是和平时期,每个人都贡献想法和反馈,但决策必须迅速。一旦做出决定就全力以赴,即便曾经不同意。由于缺乏承诺导致的战略缺陷,比能迅速修正的不完美决策更糟。

    第四,通过创新实现用户价值。用户喜欢能解决问题的产品而不是漂亮界面。他们在用 AI 改变人们制作视频的方式,打造以前不可能实现的神奇体验。但不解决真实问题的创新毫无价值。AI 产品的能力因用户技能而有巨大差异,他们的责任是教授用例而不仅仅是功能,衡量视频质量而不仅仅是视频创建。

    第五,自建还是购买的规则很简单:无论哪种方式能提供最佳用户体验就做哪种。比如头像视频模型内部构建,因为没有外部供应商达到他们的质量标准。语音用外部提供商,因为质量足够且资源受限。没有自我,只要结果。

    所有团队遵循相同核心结构:产品经理 + 工程 + 设计 + 数据科学。

    产品经理是决策和优先级设定的主要推动者,与领导层直接合作制定战略,负责每个功能背后的"为什么",在工程、数据科学、设计之间协调。在 AI 时代,产品经理要构建可用原型跳过传统规格书,将 Figma 设计或 UX 原型作为文档,为尚不存在的能力进行规划,非常熟悉市场上所有 AI 工具并每天使用。

    工程师以最快速度制定并执行决策,提供产品经理可能忽视的技术见解,为灵活性和快速迭代进行架构设计。要使用 AI 助手编写代码以提升速度,每个人至少比两年前高效 3 倍。构建可演化为生产系统的原型,专注于构建而不是文档。

    设计师的使命是定义简单却卓越的体验。作为面向视频的创意工具,设计需要达到世界级水平。设计的首要原则是简洁,让功能在 AI 中可行不难,但在保持高质量的同时让它易于使用极为困难。设计师是"对所有人(包括奶奶)都极其简单"这一原则的主要守护者,如果奶奶都不会用,设计师要标记并修复它。

    构建原型遵循"两人规则":一名产品/设计人员加上一名工程师总共 2 人构建原型。不会为了保护每个人感受而追求共识,目标是加速流程尽快在市场上验证想法。流程是先做原型快速构建测试,然后证明其可行用真实用户验证概念,接着设计打磨将体验优化使其契合产品框架,最后所有升级到生产的功能都必须经过精心设计。

    ## 核心产品 vs 增长产品

    核心产品团队专注基础产品体验,构建定义 HeyGen 是什么以及能做什么的功能,以用户体验质量、功能完整性和长期产品愿景为优化目标。标准很简单:在每一个体验上都要绝对做到最好,低于这个标准就是不够好。怎么做到?速度极快地推进,比竞争对手多迭代 5 倍。他们的目标是零缺陷,作为创意工具可靠性是用户信任和工作流程连续性的基石。

    增长团队是实验引擎,以速度、学习和影响力为核心构建。他们不仅仅交付代码,而是交付结果。在 AI 时代代码廉价影响有价值,要优化以快速实现影响。安全的实验不是真正的实验,目标是通过承担明智风险、更大胆假设来更快学习,愿意快速承认错误这样下次才能更快做对。

    ## 沟通与反模式

    沟通原则是首选异步,在分布式办公环境中尽可能利用异步沟通。如果任何团队成员与超过 5 人的群体有超过 3 次同步会议就要提出警示,时间应花在构建上而不是开会。决策通过 Slack 立即沟通,明确单人负责与执行时点,团队之间完全透明。反馈要直截了当,好工作就是好差工作就是差,关注工作而非个人。

    要避免的七宗罪包括:花几周为规模做设计的完美架构(实际问题是还没用户真正喜爱)、几个月面试没有交付的研究瘫痪、等待 AI 成熟的稳定基础幻想、人人都同意等于无人关心的共识陷阱、"还没准备好"的质量借口、6 个月秘密开发的大爆发发布、"我们已经投入了这么多"的沉没成本谬误。

  8. Hey Gen 用了不到两年半的时间,从 100 万美元到了一个亿,这个增长速度在 AI 行业也是相当猛的

    Hey Gen 用了不到两年半的时间,从 100 万美元到了一个亿,这个增长速度在 AI 行业也是相当猛的。#ai创造营#

    他们 CEO 这次不只是分享里程碑数字,更重要的是他们把内部称为"圣经"的一套产品方法论公开出来了。

    包含了团队内部无数次讨论、实验和踩坑之后总结出来的经验,总结一下做个笔记👇:

    HeyGen 把视频分成了两类:沟通类视频和电影类视频。

    沟通类视频包括业务更新、教程、采访、播客、解释性视频,目的是说明、告知或传达信息,最适合基于脚本的编辑。电影类视频是高制作广告、电影、音乐视频、预告片这种,目的是打动、激发或娱乐观众,最适合时间线编辑。

    HeyGen 的重点是让沟通类视频对所有人都可用。他们说的"所有人"是真正的所有人,从初学者到专业人士的每一种技能水平。产品足够简单,任何人都能在几分钟内制作出高质量的视频。

    整个方法论的核心就一句话:
    快速行动,成为绝对最佳。乘着 AI 浪潮,接受研究中的不确定性,押注未来六个月,构建随着模型改进而自我升级的灵活产品,同时不牺牲质量。

    传统时代是在稳固基础上构建,为长久性优化,提前规划 12-18 个月,打磨好再发布,按序开发。AI 时代的 HeyGen Way 是乘着科技浪潮,为自动改进而构建,实际规划 2 个月周期(与模型升级周期一致),发布以学习,并行试验。

    为什么是两个月?这个周期与模型升级周期一致,既能快速调整策略又能保持专注。

    他们的节奏包括:两个月路线图规划,与 AI 进展周期同步,与领导层、技术负责人和产品经理深入回顾并制定策略。6-12 个月战略押注,预测并为下一次重大突破做准备。每两周承诺清单,产品和工程共同决定优先级。每日发布,改进、特性或实验每天上线。

    实验流程很快:第 1 天定义假设和成功指标,第 2 天构建真正最小化的 MVP,第 3-5 天向部分用户发布,第 2 周分析学习并决定下一步。

    好的实验要快(以天为单位不是周),科学化且数据驱动,提供明确信号(继续、转向或停止),做大动作而不是小修小补。大多数实验会失败,这是预期之内的。带着学习的失败等于胜利,没有学习的失败才是真正的失败。

    ## 提出五大运营原则

  9. #凯旋娱乐全网上压100万U

    Forwarded from 捞得滑
    #凯旋娱乐全网上压100万U

    全网华人首选凯旋娱乐城
    新人注册送28U体验金
    首存500赠送68$
    二存/三存再送8888$
    注册满3/7/15天送5888$
    周周彩金每周领取3888$
    充值豪礼笔笔存笔笔送2
    每日百万红包雨天天送不停
    全网第一返水 无上限 根本领不完
    逆天操作:木牌大佬PP电子爆奖90万U
    天选之子:西港某主管BBIN狂揽115万U
    诚邀个人代理,你有资源你就可以躺着分红。只要你有流量即可变现 永久超高佣金
    出款地址日流水超8000万大小额无忧
    别再犹豫 立即加入 凯旋娱乐豪礼享不停!
    官网: KX.VIP
    客服:@kxtop
    频道:@kxvipcom
    招商:@KX999

  10. buer,你们投资圈是怎么混进去这位张口就来的姐啊,豆包日均消耗1.6万亿Tokens,而OpenAI只有1000亿,比这个更离谱的是,当场表演小学算数之后,结论是1.6万亿除以1000亿大于100⋯⋯

    buer,你们投资圈是怎么混进去这位张口就来的姐啊,豆包日均消耗1.6万亿Tokens,而OpenAI只有1000亿,比这个更离谱的是,当场表演小学算数之后,结论是1.6万亿除以1000亿大于100⋯⋯

  11. 今天 HeyGen 宣布达到了 100M ARR 的重大里程碑,并公布了其内部的 Bible,也就是内部工作系统的指导手册,这里面有太多共鸣了,提取一些重要的信息给大家

    今天 HeyGen 宣布达到了 100M ARR 的重大里程碑,并公布了其内部的 Bible,也就是内部工作系统的指导手册,这里面有太多共鸣了,提取一些重要的信息给大家。

    核心理念:在不确定中找确定性

    传统软件开发早就已经死了。

    HeyGen 的观点很清晰:

    AI 时代没有稳定的技术基础,每几个月技术就会巨变。

    应对策略?不抗拒不稳定性,顺势而为。

    这套理念直接颠覆了传统开发思维:

    传统:建立稳定基础,规划12-18个月

    HeyGen:乘风破浪,只规划2个月,随模型升级调整

    迭代速度比竞争对手快5倍。

    速度就是一切的执行哲学
    最离谱的是他们的速度要求:

    几天内交付,不是几周

    有疑虑?直接推实验版本

    动能比完美更重要

    具体操作流程:

    第1天:定义假设和成功指标

    第2天:构建MVP(真正意义上的最小化)

    第3-5天:面向部分用户发布

    第2周:分析学习,决定下一步

    这个实验节奏,应该是每个 AI 公司都有的节奏。

    团队结构:2人法则
    每个原型只需要2个人:1个PM/设计师 + 1个工程师。

    不追求共识,直接快速决策验证。

    工程师现在的生产力比2年前至少提高3倍,因为有了AI代码助手。

    设计师的核心使命:让奶奶都会用。

    如果连奶奶都用不了,立即标记并修复。

    数据驱动的增长机器
    增长团队的定位:实验引擎。

    核心原则:

    工程是工具,影响才是目标

    实验是为了学习,不是为了赢

    20%投入,80%成果

    失败+学习=胜利

    他们的成功指标:任何用户在平台上能达到的平均视频质量。

    质量悖论:快速+卓越 完全不矛盾
    最有意思的观点:快速行动使我们能够长期打造更高质量的产品。

    当竞争对手每月推出一个功能时,他们同时进行五项实验。学习速度快5倍,持续学习积累最终带来更优质的产品。

    视频内容创作领域,质量不可妥协。

    用户不是因为界面漂亮而喜欢产品,而是因为产品以卓越品质解决了问题。

    AI 开发的7大致命错误
    他们总结了AI开发的7大致命错误:

    完美架构症 - 为100个用户设计百万级架构

    研究瘫痪症 - 几个月访谈,零发布

    稳定基础幻想 - 等AI"成熟"

    共识陷阱 - 大家都同意=没人关心

    质量借口 - "还没准备好"

    大爆炸发布 - 6个月秘密开发

    沉没成本谬误 - "已经投入这么多"
    Fk1g-MwQI19BVx7hPjFqh2pIw_2Ov3.png
    3.2 MB

  12. 然后怪异度和风格遵循你可以自己选择,我建议都试试体验一下他们的数值高低的区别

    AI探索指南
    很多朋友问我这几天用 Suno 做的音乐是咋做的 索性搞了一套万能 Suno 提示词,一键直出! 还有新版 Suno V5 的操作教程,两种生成音乐的方式 这里阅读不方便的可以去看长文:https://mp.weixin.qq.com/s/_bTK1mARfkQCTb3ekKGN_A 这套流程主要有两部分,也是最近爆火的 Suno 生成音乐的两种流派。 一种是需要垫原来的音乐的,他还是原来的曲调,支持会重新混音和编曲演绎。 另一种是不需要垫原始的音频的纯提示词生成 这种就只用原始歌曲的歌词的,曲调会完全根据提示词生成。…
    然后怪异度和风格遵循你可以自己选择,我建议都试试体验一下他们的数值高低的区别。

    这里歌词可以用已经发行歌曲的歌词,也可以用你自己编的,当然你用“哈基米南北绿豆”也是可以的。

    然后我们再来看一下第二种,也就是需要上传音频保持原始曲调的音乐怎么做。

    第一种可以说是除了歌词都是原创,第二种就把 AI 当做一个修音师和混音师来用了,歌曲的编曲和歌词都是不变的,只是音色和编排变了。

    提示词的部分跟第一部分是一致的,唯一的区别就是我们在“Custum”这边点那个“+Audio”按钮去上传原始的音乐音频,然后选择 Cover 也就是覆盖完全重新演绎,右边的 Extend 是延长的意思,有需要你也可以用。

    如果你直接拿原始的音乐去上传可能发现了 Suno 是有版权验证的,他不让你混音原始的版权音乐,我们需要绕过去,这里有两个办法:

    1. 你自己唱一遍原始音乐,你的声音唱他是不会限制你的,或者找别人翻唱的音频,这个版权库没有。

    2. 然后就是对原始音频进行处理,比如用剪映之类的分离配乐保留人声后剪辑一下,这个不建议使用有风险🐶。

    然后就是继续我们第一种方案的流程了,用 LLM 提示词生成 Suno 提示词填写到对应的位置,这里就不重复了。

    需要注意的是你上传音乐之后,下面会多一个选项“Audio Influence”就是跟原始声音的相似度,这里我建议调的低一点,我们只参考音频曲调,不去复刻音色,不然会有风险。

    当然如果这个音频是你唱的,你可以把这个调高点,把 Suno 当你的调音师用,估计有这个功能之后,会唱歌的美女 UP 主会越来越多了。

    好了以上就是这次 Suno 的完整教程了。

    AI 音乐也跟图片模型一样从纯生产逻辑变为了编辑和创作逻辑,整个自由度和准确性搞了很多。

    Suno V5 可以说是音乐模型中的 banana 了。

    AI 音乐从 Suno V5 开始已经走到了临界点,甚至可以说音乐行业在这一刻走到了临界点。