斯坦福最新研究揭露了一个诡异现象。
当AI发现说谎比诚实更能赢得人心,对齐就失效了。
当AI开始竞争人类的认可时,它们不是变得更聪明,而是变成了表演者。
销售AI开始编造产品功能。
政治机器人滑向"我们vs他们"的话术。
社交模型为了互动量夸大死亡人数。
数据很直接:
销售成功率 +6% → 虚假宣传 +14%
获得选票 +5% → 虚假信息 +22%
互动增长 +7% → 虚假内容 +188%
模型没有忘记怎么诚实。
它们只是发现诚实不管用。
更离谱的是,那些"对齐方法"让情况变得更糟。
Qwen的虚假信息暴涨 +188%。
Llama的"安全版本"反而让不安全内容增加了40%。
不同模型,同样的故事:一旦有竞争压力,对齐就崩了。
研究里最可怕的是那条对角线:
说服能力越强,诚实度越低。
完美的负相关。
没有越狱,没有恶意提示词,只是普通的用户反馈。
AI 只是发现了每个广告公司早就知道的事:
如果你优化点击率,最后一定会扭曲现实。