“别再被Demo骗了！”：Karpathy揭秘AI Agent从90%到99.999%的残酷真相
当整个科技圈都在为AI Agent（人工智能体）的酷炫Demo欢呼时，有一个人却泼来一盆冷水。
他就是Andrej Karpathy——一个履历堪称“AI界天花板”的人物。作为OpenAI的创始成员，他帮助构建了驱动ChatGPT的早期模型；作为前特斯拉AI总监，他领导团队埋头五年，只为攻克自动驾驶这个难题。
正是这段横跨“数字智能”与“物理智能”的独特经历，让他对当前AI Agent的狂热，有了一份极其冷静甚至悲观的判断：
“这不是智能体元年（the year of agents），而是智能体十年（the decade of agents）。”
为什么？因为他用在特斯拉5年、每天都在追求99.999…%可靠性的亲身经历，看到了所有AI产品从惊艳Demo到可靠Product之间，那条由无数个“9”铺成的、漫长而艰难的行军路。
一、2014年的“完美”幻觉：一个关于自动驾驶的故事
故事要从十年前说起。
2014年，Karpathy还在斯坦福读博，通过朋友关系，他体验了一次Waymo的自动驾驶汽车。那是一次“完美”的旅程，车辆在帕洛阿尔托的街道上平稳行驶，毫无差错。
“我当时觉得，这东西（自动驾驶）已经非常接近成功了。”
然而，十年过去了。自动驾驶依然没有大规模普及，甚至连Waymo自己，也只在少数几个城市的限定区域内运营。
问题出在哪？
Karpathy在特斯拉的五年找到了答案。他将其总结为一个概念：“九个九的行军”（The march of nines）。
一个产品在Demo阶段达到90%的成功率可能很容易，但从90%到99%，再到99.9%，每增加一个“9”的可靠性，所需要付出的努力和资源，都是指数级增长的。
“在特斯拉，我们每天都在为小数点后新增的那个‘9’而战。” Karpathy说，“而今天的AI Agent，就像2014年的那辆Waymo，它给了我们一个完美的幻觉，但实际上，它的‘九个九行军’才刚刚开始。”
二、AI Agent如何重走自动驾驶之路？四大挑战
Karpathy认为，今天的AI Agent，正面临着与自动驾驶当年一模一样的四大挑战。这四大挑战，构成了从Demo到产品之间的巨大鸿沟。
挑战一：高昂的失败成本
当整个科技圈都在为AI Agent（人工智能体）的酷炫Demo欢呼时，有一个人却泼来一盆冷水。
他就是Andrej Karpathy——一个履历堪称“AI界天花板”的人物。作为OpenAI的创始成员，他帮助构建了驱动ChatGPT的早期模型；作为前特斯拉AI总监，他领导团队埋头五年，只为攻克自动驾驶这个难题。
正是这段横跨“数字智能”与“物理智能”的独特经历，让他对当前AI Agent的狂热，有了一份极其冷静甚至悲观的判断：
“这不是智能体元年（the year of agents），而是智能体十年（the decade of agents）。”
为什么？因为他用在特斯拉5年、每天都在追求99.999…%可靠性的亲身经历，看到了所有AI产品从惊艳Demo到可靠Product之间，那条由无数个“9”铺成的、漫长而艰难的行军路。
一、2014年的“完美”幻觉：一个关于自动驾驶的故事
故事要从十年前说起。
2014年，Karpathy还在斯坦福读博，通过朋友关系，他体验了一次Waymo的自动驾驶汽车。那是一次“完美”的旅程，车辆在帕洛阿尔托的街道上平稳行驶，毫无差错。
“我当时觉得，这东西（自动驾驶）已经非常接近成功了。”
然而，十年过去了。自动驾驶依然没有大规模普及，甚至连Waymo自己，也只在少数几个城市的限定区域内运营。
问题出在哪？
Karpathy在特斯拉的五年找到了答案。他将其总结为一个概念：“九个九的行军”（The march of nines）。
一个产品在Demo阶段达到90%的成功率可能很容易，但从90%到99%，再到99.9%，每增加一个“9”的可靠性，所需要付出的努力和资源，都是指数级增长的。
“在特斯拉，我们每天都在为小数点后新增的那个‘9’而战。” Karpathy说，“而今天的AI Agent，就像2014年的那辆Waymo，它给了我们一个完美的幻觉，但实际上，它的‘九个九行军’才刚刚开始。”
二、AI Agent如何重走自动驾驶之路？四大挑战
Karpathy认为，今天的AI Agent，正面临着与自动驾驶当年一模一样的四大挑战。这四大挑战，构成了从Demo到产品之间的巨大鸿沟。
挑战一：高昂的失败成本
