让大模型写一段算力过载的文案,它输出“GPU风扇冒烟了”。
我反问:“GPU风扇冒烟?”它立马认错。
但下一轮重写,只要提到算力过载,它依然输出“GPU风扇冒烟”。
嘴上认错,底层“互联网烂梗”的语料权重却直接覆盖了真实物理常识。前置 Prompt 根本防不住这种常识坍塌。放聊天里是个笑,放 Agent 里就是基于幻觉的致命误判。
这种物理常识类幻觉,大模型何时能修复?
@aigc1024