AI 发展越来越快，社会真的准备好了吗？DeepMind 联合创始人 Demis Hassabis 分享了他对 AI 未来和前沿 AI 治理的思考。
Hassabis 先谈到他期待 AI 带来的改变：比如 AlphaFold 帮助研究者更快理解蛋白质结构，而 AI 未来还有机会帮助人类解决更多医疗和科学问。
但他也提醒，AI 能力越强，安全问越不能落下。
谈到 recursive self-improvement（递归自我改进，简称 RSI） 时，他举了 AlphaZero 的例子：系统通过不断自我对弈、训练新版本来提高水平。这种方法在游戏、数学和代码等结果比较容易验证的领域尤其有效。
他担心的是下一步：在他描述的当前 AI 辅助编程中，人类工程师仍会参与设计和审核；但如果未来出现去掉人工审核的 closed-loop RSI（闭环递归自我改进），系统可能进步得更快，人类却更难理解和控制它。
访谈还聊到了 consciousness（意识）。Hassabis 认为，智力和意识可以分开：一个系统可以很聪明，却不一定有主观体验。他个人认为，现有 AI 系统还没有意识。他也呼吁，让技术界以外更多领域的人参与讨论：我们是否应该创造有意识的 AI，以及这会带来什么责任。
用沉浸式翻译观看双语字幕，边听原声边看译文，理解观点更轻松。
AI探索 |
Hermes/OpenClaw｜
优质资源｜
优质信息 
