说个特别欢乐的事儿大家一起开心一下吧
上午 MIT 发了个论文说他们通过 Astra 修改 Qwen3.5 0.8B 的权重，结果只改了 0.0.16% 的权重，Qwen 的数学能力就提升了 6 倍！
他们还起了个炫酷的名字叫
【权重空间编程】：前沿大型语言模型现在可以原生读取/写入神经网络权重！
他们竟然直接把 Qwen 的权重作为文本传给了 Astra，让 Astra 修改这些一串一串的数字！
这太简直太疯狂了，当时我只感到震惊瘫坐。。。
我又联想到有人改了 Qwen 的 26 亿参数中的 2 个，结果模型的行为就变得邪恶了，当时还在思考，26亿的参数，怎么找到这 2 个的啊？今天才知道估计也是类似的操作
人类根本看不懂的权重数字，大模型竟然能理解并进行编辑
这个事情就相当于什么呢？就相当于一个人在改造自己的基因让自己直接变成超人
我跟大聪明说这 tm 太吓人了，他说 ai 治理这事儿没救了
仔细想想是真恐怖啊，以后大模型都不用训练了，直接让一个大模型手写另一个大模型了。
但是，还好有但是
有人发现，只要关闭 Qwen 的思考，就能让它的数学能力提升 6 倍
根本不需要修改模型权重！
所以 Astra 做的事情其实只是减少了模型的思考而已。。。
这是什么意思呢，就是 Qwen 0.8B 这个模型它有个问。。。
经常因为过度思考到输出上限都没想出结果，导致数学都做不好
而如果关闭思考，自己思考做就变成了直接背答案，分数立马暴涨
也就是说，其实模型的数学能力本来就挺好的
只是小模型想多了反而把自己绕进去哈
事情瞬间就没变得没那么恐怖了
还有人说：Qwen一思考，上帝就发笑
画面突然就变得欢乐起来了
虽然模型能直接编辑权重这事儿还是感觉有些不对劲
且让我们人类再多笑一会儿吧
@aigc1024
上午 MIT 发了个论文说他们通过 Astra 修改 Qwen3.5 0.8B 的权重，结果只改了 0.0.16% 的权重，Qwen 的数学能力就提升了 6 倍！
他们还起了个炫酷的名字叫
【权重空间编程】：前沿大型语言模型现在可以原生读取/写入神经网络权重！
他们竟然直接把 Qwen 的权重作为文本传给了 Astra，让 Astra 修改这些一串一串的数字！
这太简直太疯狂了，当时我只感到震惊瘫坐。。。
我又联想到有人改了 Qwen 的 26 亿参数中的 2 个，结果模型的行为就变得邪恶了，当时还在思考，26亿的参数，怎么找到这 2 个的啊？今天才知道估计也是类似的操作
人类根本看不懂的权重数字，大模型竟然能理解并进行编辑
这个事情就相当于什么呢？就相当于一个人在改造自己的基因让自己直接变成超人
我跟大聪明说这 tm 太吓人了，他说 ai 治理这事儿没救了
仔细想想是真恐怖啊，以后大模型都不用训练了，直接让一个大模型手写另一个大模型了。
但是，还好有但是
有人发现，只要关闭 Qwen 的思考，就能让它的数学能力提升 6 倍
根本不需要修改模型权重！
所以 Astra 做的事情其实只是减少了模型的思考而已。。。
这是什么意思呢，就是 Qwen 0.8B 这个模型它有个问。。。
经常因为过度思考到输出上限都没想出结果，导致数学都做不好
而如果关闭思考，自己思考做就变成了直接背答案，分数立马暴涨
也就是说，其实模型的数学能力本来就挺好的
只是小模型想多了反而把自己绕进去哈
事情瞬间就没变得没那么恐怖了
还有人说：Qwen一思考，上帝就发笑
画面突然就变得欢乐起来了
虽然模型能直接编辑权重这事儿还是感觉有些不对劲
且让我们人类再多笑一会儿吧
@aigc1024
