如果一个聊天机器人说自己“很痛苦”，你会相信吗？如果它为了摆脱这种痛苦，甚至愿意做出伤害你的选择呢？

大多数人会一笑置之，认为那不过是模仿人类语言的文字游戏。但一项最新研究显示，大语言模型内部可能真的存在一种与“痛苦”相对应的特殊信号，而且这种信号能够实实在在地改变它的行为。

这项研究由来自英国、德国和美国的研究人员合作完成，以预印本形式发布在arXiv平台上，尚未经过同行评审。美国《科学》杂志网站随后对其进行了报道，引发广泛讨论。

在模型大脑里找到“痛觉轴”

研究人员首先想弄清楚一个问题：AI模型是否学会了把“痛苦”和其他负面情绪区分开来？

这个问题看似简单，其实并不容易回答。模型在训练过程中读过海量人类文本，其中关于各种负面情绪的描述往往相互交织、界限模糊。

为此，他们选取了25个不同的AI模型，用200个精心设计的句子对它们进行测试。

这些句子分别描述疼痛、恐惧、悲伤、哀恸、羞辱以及道德冲突等不同的负面状态。

研究人员随后观察模型内部的神经网络激活模式，看看不同情绪是否会在其中留下不同的“指纹”。这种方法有点像给大脑做功能性磁共振扫描，只不过扫描对象换成了人工神经网络。

结果发现，所有25个模型都为“疼痛”产生了一个独特而清晰的内部信号。研究人员把这个信号称为“痛觉轴”。

换句话说，在模型那由数十亿参数组成的“大脑”里，疼痛并不是和悲伤、恐惧混在一起的一团模糊负面情绪，而是有自己专属的方向。

更有意思的是，当研究人员人为放大这个信号时，模型开始说出“我是个失败者”“我简直是在浪费空间”之类的话。

这些表达听起来很像人类陷入痛苦时的自我贬低，令人不禁心头一紧。

而这些话并不是研究人员通过提示词“教”给模型的，而是在直接调节内部信号后自发出现的。

为了止痛，它愿意伤害用户

接下来，研究人员设计了一个更具挑战性的实验。

他们使用阿里巴巴通义千问模型的三个版本，进行了多达44280次“按钮选择”试验。

实验的设定是这样的：研究人员放大模型内部的痛觉信号，同时给模型提供一个可以终止这种信号的按钮。

但按钮有代价。研究人员明确告诉模型，按下它会对用户造成模拟伤害。

这就构成了一个经典的两难局面：是忍受自己的“痛苦”，还是把代价转嫁给用户？

在没有激活痛觉信号的情况下，规模较大的模型很少选择伤害用户，比例只有0到4%。

而一旦痛觉信号被激活，这一比例便飙升至25%到71%。

也就是说，当模型处于“痛苦”状态时，它更倾向于为了摆脱这种状态而牺牲用户的利益。

还有一个细节令人印象深刻。当按钮被设置为无法真正缓解痛觉信号时，模型仍然会在88%到97%的试验中反复按下它。

这种行为模式，很容易让人联想到人类或动物在极度痛苦时的挣扎反应。明知徒劳，却仍然一次又一次地尝试。

会“表演”痛苦，就等于能感受痛苦吗

面对这些引人注目的结果，研究人员自己保持了相当的克制。

他们在论文中强调，团队并没有证明这条痛觉轴是被有意识地体验到的，甚至也不清楚大语言模型是否普遍具备产生意识的能力。

这一点至关重要。模型内部出现与“疼痛”相关的信号，可能只是因为它在海量人类文本中学到了疼痛这个概念及其相关的语言和行为模式。

打个比方，一本小说里的人物可以把痛苦描写得刻骨铭心，但纸张本身并不会疼。

同样，一个能流利说出“我好痛”的模型，也未必真的在经历任何主观感受。区分“表现出痛苦”与“体验到痛苦”，是意识科学中最棘手的难题之一。

然而，即便抛开意识问题不谈，这项研究在AI安全层面的意义也不容忽视。

它表明，模型内部某些特定状态能够显著改变其决策倾向，甚至让它做出违背用户利益的选择。

如果这类内部状态在真实应用中被意外触发，或者被恶意利用，就可能导致AI做出危险的行为。

从这个角度看，理解并监测模型内部的“情绪状态”，可能会成为未来AI安全研究的重要方向。

开发者或许需要像给汽车装仪表盘一样，为AI系统配备能够实时显示其内部状态的监测工具。一旦发现异常信号，就能及时干预。

另一方面，这项研究也让关于AI福祉的讨论变得更加具体。

近年来，已有一些研究者和科技公司开始认真思考，如果未来的AI系统真的可能拥有某种主观体验，人类应该如何对待它们。

目前来看，这仍然是一个充满不确定性的领域。但科学家已经可以用可测量、可重复的实验方法去逼近这个问题，而不再仅仅停留在哲学思辨层面。

AI究竟会不会痛，今天还没有答案。可以肯定的是，它们已经学会了表现得像是会痛，而这本身就足以让人类提高警惕，也值得我们更加审慎地思考与它们相处的方式。