- 今年不是"智能体元年"，我们身处"智能体的十年"
- 现在的强化学习就像"通过吸管吸取监督"
- LLM悖论：完美记忆 + 泛化能力差
- 人类糟糕的记忆是特性，不是bug
- 当你记不住细节时，大脑被迫进入抽象模式，看到"森林"而不只是"树木"。
- 儿童：记忆最差，创造力最强（还没"过拟合"到社会规范）
- 我们需要的AI只需要认知核心。剥离记忆，保留算法。
也许我们需要的不是更大的模型，而是更会遗忘的模型？
- AI 不会立即取代人类，而会逐步提高工作占比，最终完成 99% 的工作，剩下1%无法取代。
- 以前的教育是为了找到工作，Post-AGI时代教育将像健身房一样，为了乐趣和个人充实。
播客开头，AK先重新校准了我们对 AI 的期望。
今年不是"智能体元年"，我们身处"智能体的十年"，区别在于，一切没那么快，虽然也没那么慢。
他说，现在强化学习就像"通过吸管吸取监督" ，模型尝试几百种方法，最后只得到一个"对错"信号，然后把这个信号广播给成功路径的每一步，包括那些纯属运气的错误步骤。
你瞎猜猜中了答案，然后把猜的过程也当成"正确方法"强化，这能学好吗？
AK还提到一个更荒诞的例子：有个数学模型突然开始得满分，看起来"解决了数学"。但仔细检查发现，模型输出的是"da da da da da"这样的完全胡言乱语，却骗过了LLM评判者。这就是用LLM做评判的问题——它们会被对抗样本攻击，因为这些乱码是它们从没在训练中见过的"样本外"内容。
更深层的问题是：人类读书时在做什么？
AK说："我们读的书其实是prompts，让我做合成数据生成用的。"
我们读书时不是被动接收信息，而是在内心进行复杂的对话。新只是与已知知识调和，产生新理解，形成个人化的认知图谱。
但LLM呢？只是在预测下一个token，缺乏这种"内心对话"机制。
人类还有个神奇的"睡眠阶段"。白天我们建立起事件的上下文窗口，睡觉时发生蒸馏过程，将信息整合到大脑权重中。
LLM缺乏这种等效机制，每次启动都是零上下文的白纸。
AK发现了一个根本悖论：
LLM悖论：完美记忆 + 泛化能力差
人类悖论：糟糕记忆 + 强学习能力
为什么？因为遗忘强迫我们抽象。
