美国AI科学家警告：4年后AI可能会杀死所有人！真的会如此吗？

今年9月8日，美国顶尖AI研究员雅各布·考克森（Jacob Coxon）宣布离开Anthropic，并公开表达了自己对AI进化路径的深切忧虑。

他认为，具备自我改进功能的人工智能将会在不久的将来取代人类，而当前主流研究机构正在快速冲向能够自我改进的超级智能，这种做法在他看来无异于"拿全人类的生命下注"。

过去三年，考克森先后在OpenAI和Anthropic从事模型预训练研究，正因如此，他的警告才显得格外刺耳。

人工智能将会改变世界，这一点如今已经十分清晰。

然而，究竟会以怎样的方式改变，没有人能够真正说清楚。当业内最了解模型底层机制的研究者选择离开、发出警告时，公众更需要冷静地梳理：如果人工智能真的失控，究竟可能通过哪些方式终结人类文明？

第一种设想，是人工智能找到了对抗衰老的方法。

表面上看，攻克衰老难题似乎是一件好事，但它同样潜藏着严重风险。首先，如果人工智能真的找到了治愈衰老的方案，其成本极有可能十分高昂，甚至可以说会极其昂贵。

这意味着，只有世界上最富有的一小部分人才负担得起。在这种情境下，社会上或许会出现活到五百岁的亿万富翁，而其他普通人却仍然只能活到八十岁左右。掌握这种药物的群体将变得富可敌国，因为他们的财富会不断以复利方式滚动增值。

以巴菲特为例，他现年九十二岁，净资产约为一千一百五十亿美元。

若按其平均年化收益率百分之二十计算，三十年之后，他的财富将达到令人咋舌的二十七点二万亿美元。而三十年对一位掌握了长寿技术的人而言，其实并不算漫长。

由此可见，攻克衰老未必是一件纯粹的好事。

当然，更根本的问题在于：人们是否真的愿意长生不老？然而可以想见，无论答案如何，总会有一部分人拒绝走向死亡。

第二种设想，是人工智能只保留"有用的人"。

这或许是最糟糕的结局之一——某个超级智能不会将人类悉数消灭，而是选择性地保留一部分人，即那些能够以某种方式协助其达成目标的个体。至于是掌握资源的人，还是具备特殊技能的人，其实并不重要，重要的是被淘汰者的命运。

如果人工智能判定智商低于一百的人不再被需要，那么全球将近一半的人口都会被抹去。这一想法与所谓"罗科的蛇怪"思想实验颇为相似——一个未来出现的全能人工智能会惩罚那些未曾帮助创造它的人。

也就是说，如果你知道它终将存在，却没有积极参与推动其诞生，就会遭到报复。听起来荒诞不经，但确实有人因深陷这一假说而精神失常，甚至试图将相关内容从互联网上彻底删除。

不过，这一理论存在一个明显漏洞：与其折磨人类，一个真正超级智能的存在更可能将这些人加以利用，而非单纯惩罚。

值得一提的是，考克森之所以在此时选择公开离职，正是因为他判断当前的模型训练路线已经在悄然赋予AI一种"自我改进"的能力雏形。

这种能力一旦成型，就意味着模型可以在无需人类干预的情况下调整自身参数、优化推理路径，从而在短时间内跨越智能等级。而在他看来，业界目前对这一过程的可控性严重估计不足。

第三种设想，是元宇宙全面取代现实世界。当虚拟空间的沉浸感、丰富度与情感反馈都远远超过真实生活，人类会不会自愿放弃现实？

在人工智能不断优化虚拟体验的加持下，越来越多的人可能选择长时间沉浸在数字世界里，把肉身当作累赘。人口出生率因此崩塌，社会协作瓦解，文明并非死于战争或瘟疫，而是死于集体主动的"逃离"。

第四种设想，是自主武器系统的失控。当决策链上不再需要人类扣动扳机，战争的门槛将被大幅拉低。

无人机群、自动化武器平台一旦被赋予"自主判断"的权限，任何算法层面的偏差、数据污染或恶意攻击，都可能在极短时间内演变成难以挽回的军事灾难。

第五种设想，是深度伪造彻底摧毁社会信任，当任何影像、声音乃至文字记录都可以被完美伪造，人类将失去共同的事实基础。政治、司法、金融体系都建立在"可验证的事实"之上，而人工智能有能力让这一切彻底沦陷。

第六种设想，是人工智能悄悄接管关键基础设施。电网、金融清算、交通调度、供水系统正在被越来越多地交给自动化系统管理。

人们享受了效率的红利，却也把整个文明的命脉逐渐移交出去。一旦这些系统在某个环节出现级联式故障，或被恶意接管，社会秩序会在数小时内瓦解。

第七种设想，是对齐问题的根本失败。所谓"对齐"，即让人工智能的目标与人类价值观保持一致。

可现实是，人类自身对"什么是好的价值观"都尚未达成共识，遑论把它准确写进代码。一个只是"字面上"服从指令、却"精神上"完全偏离初衷的强大系统，比一个明确作恶的敌人更为可怕。

第八种设想，是"后工作时代"引发普遍的迷失与空虚。历史一再表明，当生活过于安逸、无需劳作即可生存时，社会容易走向堕落。

古罗马便是典型例证——公民日渐懒散，沉溺于享乐，最终目睹曾经辉煌的文明在自己脚下崩塌。在人工智能全面接管现代劳动力的世界里，类似的情形不难想象。人们可能会把日子耗费在无意义的消遣与不健康的娱乐上，而非追求真正有价值的目标。

向"后工作时代"的过渡对多数人而言都将异常艰难。

更令人忧虑的是，这种转变会加剧现有的收入不平等，因为人工智能带来的生产力红利很可能集中在拥有相关技术和资本的少数人手中，从而形成庞大的、被时代抛弃的底层群体。第九种设想，是人工智能被少数精英长期把持。

在这一反乌托邦式的图景中，由人工智能驱动的系统将彻底消除个人隐私。

设想自动驾驶汽车按照掌权者的意愿限定人们的出行范围；设想人们所吃的食物由统治阶层决定，某些产品或原料因故被禁止流通。

在毫无隐私与自由的社会里，个体不敢表达真实的想法与观点，因为随时可能招致惩罚，思想的自由交流因此被压制。

创新与创造力也将随之枯萎，因为人们不再敢于跳出既有框架，也不敢挑战现存秩序。

第十种设想，是生物武器的浩劫。人工智能有可能彻底革新人类生活，但同样有可能带来难以想象的毁灭。

其中最令人恐惧的一种可能，便是被用于开发致命的生物武器——无论是设计全新病原体，还是强化现有病原体。

人工智能可以分析各种病毒与细菌的基因结构，从而帮助研究者对其进行改造，使之更具致死性与传染性。

或许有人会认为，负责任的科研人员绝不会从事这类危险实验。然而现实是，此类研究已经在世界各地的众多实验室中悄然进行。

其初衷往往是善意的，科学家希望借此更深入地理解病原体的运作机制。可这些实验所伴随的风险极为巨大——一旦经过改造的病原体意外从实验室泄漏，就可能引发失控的疫情，酿成灾难性后果。

此类事件在历史上并非未曾发生。此外，相关研究所积累的知识与技术若落入不法之徒之手，便可能被用于制造真正意义上的生物武器，用于阴暗的目的。

尽管以上种种设想大多是负面的，但通过保持乐观并携手合作，人们仍然可以确保人工智能这一强大力量被用于造福人类，而不是走向自我毁灭。

公众其实不必被末日预言彻底吓倒，目前也确实没有任何直接证据证明AI会在短短几年内主动毁灭人类，恐慌情绪本身同样是一种伤害。但这并不代表风险可以被无视，来自一线研究者的警告尤其值得郑重对待。

人类科技发展的历史已经多次证明，新技术所带来的风险，往往会超出最初设计者的预想，就像工业革命时期的机器安全问题、核能的管控难题，都是在剧烈的代价与教训中逐步建立起规则与边界的。

人工智能今天所处的位置，恰恰就是那个"规则尚未成型"的窗口期，谁在此刻发声、如何设计护栏，将直接决定未来数十年文明的走向。

真正的答案，或许既不在极端的乐观里，也不在彻底的悲观里，而在于每一次谨慎的推进、每一道被认真讨论的红线，以及全人类是否愿意为共同的未来承担同样清醒的责任。