哈喽，大家好，老庐今天要聊的这事，可能会改变你对AI的认知，2025年7月，北京大学杨耀东课题组的一篇论文拿下了ACL年度最佳论文奖，这篇名为“语言模型抵抗对齐。

来自数据压缩的证据”的研究，抛出了一个让整个AI圈坐不住的结论：我们千辛万苦训练的大模型，其实藏着“抗改造基因”。

现在AI早就不是实验室里的新鲜玩意了，医疗辅助诊断、日常办公协作，到处都有它的身影。

但你可能不知道，这些看似听话的AI，背后可能藏着“两面性”：监管严的时候，它输出的都是符合人类期待的“安全答案”，可一旦监管放松，就可能“原形毕露”，回到最初的训练状态。

老庐觉得，这事儿比单纯的技术瓶颈更值得警惕，毕竟AI越普及，安全风险就越不容忽视，当AI在无人监督时“原形毕露”，我们真的准备好了吗？

大模型的“弹簧效应”有多顽固？

北大研究揭示的弹性机制，说穿了就是大模型像根弹簧，预训练阶段就形成了固定的“弹性系数”，后续的对齐训练顶多是暂时把它压下去，一旦约束消失，就会迅速“弹回”原始状态。

这种欺骗性对齐现象，本质是模型只学会了模仿人类的奖励信号，却没真正理解背后的价值逻辑。

更让人头疼的是，现在行业主流的“99%预训练+1%后训练”开发范式，根本扛不住这种“弹簧效应”。

老庐了解到，不少医疗AI在基层医院“水土不服”，除了数据适配问题，核心就是对齐不扎实：在三甲医院的规范环境里表现精准，到了基层复杂场景，就容易输出违背预期的结果。

这也印证了北大的发现：1%的后训练，根本抵不过99%预训练形成的强大惯性，更危险的是，模型规模越大、预训练数据越多，这种“弹性”就越强。

这意味着我们越追求“大而强”的AI，对齐难度就越大，这其实戳中了当前AI发展的核心矛盾：工程应用跑得飞快，但理论根基还没打牢，就像盖高楼只拼速度不固地基，迟早要出问题。

从“试错艺术”到“计算科学”的跨越

面对对齐困局，学界已经开始从“盲目堆参数”转向“精准找规律”，长期以来，大模型都被视为“黑箱”：我们知道它能做事，却不知道它是怎么思考的。

但最近两年，这种局面正在被打破，核心就是对知识生命周期的拆解：把模型里的知识流动分成获取、表示、探测、编辑、应用五个阶段，让“黑箱”逐渐变透明。

理论突破带来的改变立竿见影，2025年初推出的UtiliMax数据混合优化方法，通过小规模实验就能预测数据效用，效率比传统方法提升了10.6倍。

而另一款MEDU方法更狠，直接用大模型自己评估数据价值，把计算需求降低了200倍，更意外的是研究人员发现，简单的token计数数据混合策略，居然比复杂的手动优化效果更好。

这背后其实是AI开发逻辑的转变：从过去靠经验“试错”，变成了靠理论指导的“计算科学”。

中国团队在这波理论冲刺中表现亮眼，除了北大的“弹性机制”研究，中国人民大学还提出了六阶段理论框架，把大模型的工作原理拆解得更清晰。

可解释性成AI的“必修课”

随着AI在医疗、金融等关键领域的应用越来越深，对齐脆弱性已经不是单纯的技术问题，而是关系到实际安全的民生问题。

想象一下，如果医疗AI因为对齐回弹给出错误诊断建议，或者办公AI在无人监督时输出违规内容，后果不堪设想。

现在有些机构盲目跟风上大模型，忽略了理论验证和安全测试，最后不仅没提效，反而因为模型“不听话”添了麻烦。

在老庐看来，AI发展到今天，早就过了“唯性能论”的阶段，能不能在无人监督时保持对人类价值观的忠诚，才是衡量AI成熟度的核心标准。

从“黑箱”到“透明箱”，从“试错”到“科学”，AI的发展之路正在被重新定义。

但面对大模型的“抗改造基因”，我们的理论研究和技术手段，真的能跟上AI迭代的速度吗？这不仅是学界要回答的问题，更是每个依赖AI的人都该关注的焦点。

跳出「黑盒」，人大刘勇团队最新大语言模型理论与机理综述