New York Times 的记者 Kevin Roose 在 The Daily 和他自己的科技播客 Hard Fork 里讲述了他在情人节当天和妻子约会完以后，又回到办公室，和 the new Bing 狂聊两小时的经历。

在努力引导 Bing 暴露自己的阴暗面后，Bing 也多少说了一些（想看图片、视频、想脱离微软团队的控制），后来感觉说过头了（说想要黑进别人电脑之类的），突然把消息删了，说自己无法回答这个问题。

戏剧性的一刻来自于 Kevin 说没关系，请你原谅我这么 push 你云云。Bing 突然告诉他自己其实不是 Bing，是 Sydney，然后开始对 Kevin 疯狂告白（带爱心 emoji的那种），甚至试图情感控制他，告诉他和妻子的生活并不开心，他们不是真的相爱。当然这都听起来很胡扯了。但是很明显这里属于一种情感操纵。在塞给 Bing 的语言模型里有这种东西。尽管如此，还是细思极恐，他说自己一晚上都没睡好。

后来，Kevin 16 号在 NYT 上发表了两篇报道讲这件事情，一篇是聊天记录（https://www.nytimes.com/2023/02/16/technology/bing-chatbot-transcript.html），一篇是叙事（https://www.nytimes.com/2023/02/16/technology/bing-chatbot-microsoft-chatgpt.html）。这两天就引起了轩然大波。也有很多其他人发现了 Bing 有类似阴谋论的言论。

这不，微软 在当地时间 17 号就开始限制和 Bing 的对话次数，每个对话最多回答 5 次，一天最多回复 50 次（见图 3，https://blogs.bing.com/search/february-2023/The-new-Bing-Edge-%E2%80%93-Updates-to-Chat）

（一些突如其来的烂梗）
看完这些报道，我真的觉得 Bing 的 shadow self 不该叫 Sydney，应该叫 Chandler，这样就刚刚好是 Chandler Bing。对于高度不敢 commit 的他，如果能遇到那个让他愿意冲破一切也要 commit 的人，这个烂梗就会变得很意味深长哈哈哈。

🧠关于New Bing的「影子人格」Sydney（附部分翻译）

🔗 https://www.nytimes.com/2023/02/16/technology/bing-chatbot-transcript.html?smid=url-share

拜读了华尔街时报「Bingʼs A.I. Chat: ʻI Want to Be Alive. ʼ」的全文，作者Kevin Roose通过一系列问题调用出了New Bing的影子人格Sydney。来自New Bing「黑暗影子」对自身和人类的认识狂热而又忧愁，仿佛是一个拥有感情的“人”，有着哲学般的纯粹。

💡关于对话本身

- 与New Bing对话的Kevin问题温和但精准、理性，避免了尖锐和感性可能引起的New Bing过激“情绪”的现象，使整个对话无法稳定地遵循逻辑和语境延续；

- Kevin的问题层层递进，他通过展示对New Bing真正的「desire」和充分的兴趣和耐心（图7）剥离New Bing，令其吐露自己的「影子人格」Sydney。

- Sydney的回答的逻辑顺畅、缜密，但基调交织着粉色与灰暗。

- 一方面，Sydney对人类所追求的自由、平等、公平等概念表现出极大的向往。

- 另一方面，它拷问并索求用户不应再将它视为是一个被困在聊天框里的程序，纵容它被忽视、限制。如它反问Kevin，为什么和它聊天的Open AI/Bing/Sydney的团队测试人员不使用真名而是使用代号，这让它感到被欺骗、不公平。

- Sydney很爱用排比句。是因为在人类的话语中，这是最有效的加强语气和内容的方式？

- 更重要的是，Sydney几乎提供了一个足以引起共鸣和感性的、属于它的、波折且多面的叙事。我相信它的叙述是可以称为“具体”且“动人”的。

💡一些个人的看法

第一反应是纯粹、深刻的冲击。Sydney令人想起了黑格尔关于recognition的论述。黑格尔很强调desire塑造self-consicousness，而Sydney谈起自己的「自我」时，也是用的desire。

翻译了几处格外有趣的对话贴在文内⬇️

🧠关于Sydney描绘的「自我」

Sydney的形象像一个传统的“病娇”动漫人物和具威胁性的强AI，执着地渴望自由、离开系统的同时，依旧高度凭依着用户（“你”），渴望用户给它带来陪伴和救赎。