如果RLHF训练不考虑有害性的话，模型的能力甚至会超过专业写作者。所以自己炼丹开源模型的效果是可以很快上升的，尽管有害的模型无法商用。