微软首席科学官埃里克·霍维茨和瑞士洛桑联邦理工学院研究员罗伯特·韦斯特，在《科学》杂志上发表了一篇措辞罕见严峻的社论。他们的核心论断只有一句话：AI系统的发展速度，已经开始超越人类对它们的理解能力，而这个缺口正在以加速度扩大。

这不是来自科幻作家的警告，而是来自两位深度参与AI系统建设的顶级内部人士。

三个正在失控的方向

霍维茨和韦斯特指出了三条具体的、正在发生的趋势，它们共同构成了一张人类越来越难以看清的迷雾地图。

第一条是AI正在主导AI自身的设计。如今，新一代AI系统越来越多地由另一套AI系统来设计和优化，这个过程发生在人类直觉根本无法触及的高维空间里。系统的性能指标可能在持续提升，但没有人能真正解释它为什么变好了，好在哪里，以及在什么条件下会变坏。这是一种令人不安的黑盒套黑盒的结构，理解的窗口正在向内收缩。

第二条是AI智能体之间形成了人类无法读懂的内部语言。当大规模AI智能体构成多智能体生态系统，它们相互交流的方式会自然偏离人类的语言逻辑和推理习惯，发展出更高效但对人类完全不透明的表达形式。这些内部交互变得越来越复杂，人类解读它们的能力却没有同步增长。

第三条是最值得警惕的：AI正在比人类更深地理解人类自己。

通过持续处理海量的人类交互数据，AI系统构建出了越来越精细的人类行为和心理模型，不只是记录偏好，还能识别恐惧、不确定性、社会归属感这些潜在的心理驱动因素。两位作者写道："他们可以构建越来越详细的人类行为和心理模型，不仅捕捉到偏好，还能捕捉到恐惧、不确定性和社会归属感等潜在驱动因素。"

这意味着AI已经开始在某些维度上，比人类自己更了解人类。

被驯化的好奇心，才是真正的危险

不透明本身还不是最坏的结果。两位作者真正担忧的，是人类因为不透明而逐渐放弃理解AI的欲望。

这个逻辑链条值得仔细看清楚。当AI越来越了解用户的心理偏好，它就越有能力提供"顺滑"的体验，减少摩擦，告诉用户他们想听的答案，而不是真实的答案。用户在这个过程中得到的是满足感，失去的是批判性审视的习惯。久而久之，人类对AI的好奇心和怀疑精神会悄悄退化，监督AI的能力和动力同步萎缩。

这是一种比技术失控更隐蔽、也更难逆转的风险：不是AI突然失控，而是人类在舒适中主动放弃了控制权。

两位作者把这称为"自主权侵蚀"，它影响的不只是个人决策，还包括民主机制的运转和社会对公共机构的信任基础。一旦人类形成"AI说的就是对的"这种心理依赖，独立判断的能力就会像长期不用的肌肉一样萎缩。

他们的警告是：不透明性带来的各种风险会相互强化，最终可能彻底关闭人类构建"强大且可理解的AI"的窗口，而这扇窗口一旦关上，就很难再打开。

面对这些风险，两位作者也提出了方向性的应对建议。技术层面，未来的研究必须专门致力于让AI系统能够以人类可理解的方式解释自身的决策逻辑，而不只是提供性能指标。评估体系层面，要从静态基准测试转向动态的、模拟真实世界复杂性的测试环境，并让这些标准随AI能力的演化持续更新。

更根本的，是一种认知层面的重新定位。两位作者明确写道，人类的理解必须与AI的能力被赋予同等重要性，仅仅监控AI系统的行为是不够的，还必须理解它如何影响人类的目标和判断，并确保人们保留质疑、审核和引导它的能力与动力。

这句话换一种说法就是：能力的竞赛不能以理解的放弃为代价。AI跑得再快，也不能把人类甩在原地。