纽约时报 11 月 5 日发了一篇 Anthropic CEO Dario Amodei 的长篇人物稿,赶在 Anthropic 本月上市之前。记者采访了他二十多位同学、朋友、老师和同事,还看到了他早年的邮件和在 OpenAI 的内部消息。
Dario 通过公司发言人拒绝受访。所以下面的故事大多是别人的回忆,只有一部分有邮件、博客等文件佐证。
这些人的说法归结起来是:Dario 年轻时泡在“理性主义”和“有效利他主义”两个圈子里,两者合在一起,让他认定 AI 危险到只有他和想法相近的人才值得托付去造。朋友和同事认为,这推动他抢在不在乎安全的人之前造出 AI,也让他想把这项技术掌控在自己手里。
【两个圈子是什么】
理性主义是围绕 Eliezer Yudkowsky 等人的博客形成的网络社群,讲究用冷静的推理看世界,其中很多人认为 AI 终将强大到毁掉人类社会。
有效利他主义跟它差不多同时成长起来,主张用数学算清楚怎么捐钱、怎么做事,才能让好处最大。两边共同相信:靠严密的计算,可以改变人类的未来。
【从小就爱算账】
Dario 在旧金山 Mission 区长大,父亲是皮匠,母亲管理公共图书馆的翻修工程。高中读的是旧金山最好的公立高中 Lowell,同时去伯克利上课。同学记得他那时就在琢磨功利主义,也就是“让最多的生命得到最多的幸福”。
上大学后,他和高中好友在寿司店争论功利主义。Dario 吃素,但认为吃螃蟹没问,因为螃蟹是无脊椎动物。
朋友出了个思想实验:如果有人拼命杀鸡,杀到多少只时,杀掉这个人才算合理?据在场的 Nathan Avery 回忆,Dario 笑了笑,说从功利主义的角度看,总有某个数量的鸡,分量会超过一个人。
【父亲去世,和“时间有限”】
2006 年 Dario 从斯坦福毕业,去普林斯顿读物理博士,后来专攻生物物理和计算神经科学。同一年,父亲因丙肝去世。
前女友 Jade Wang 回忆,两人常聊:一辈子只研究一种病的科学家,影响力比不上给整个领域造工具和方法的人。Dario 举的例子就是父亲,父亲没等到后来能治好大多数丙肝的药。
2007 年,24 岁的 Dario 读完 Ray Kurzweil 的《奇点临近》,对来访的高中同学 Colin Heckman 说,奇点会在 2040 年前到来,人类以后可能和机器融合。Heckman 说他从此“着了魔”,说 AI 必须造对,不然人类就完了。
那段时