人工智能要灭人？27 岁员工辞职：马斯克和奥特曼都吓慌了？

最近，科技圈被一条消息炸开了锅：人工智能可能真要毁灭人类。

还记得电影《2001 太空漫游》里那个不愿被关机的 AI 吗？将近 60 年过去，这种情节不再是科幻片。AI 业内人士说，超级智能 —— 也就是 AI 超过人类控制能力 —— 已经是看得见的现实。

OpenAI 的萨姆・奥特曼、特斯拉的马斯克、人工智能公司 Anthropic 的 CEO 达里奥・阿莫迪，这些平时明争暗斗的大佬，这次罕见地站在一起，呼吁放慢 AI 开发速度。原因只有一个：再不停下，AI 就要失控了。

导火索是一名 27 岁的研究员雅各布・考克森。他刚从 Anthropic 辞职，此前在 OpenAI 工作。他在社交平台发出警告：按现在的速度，AI 很快就能把人类从地球上抹掉。他还说，两家公司都不负责任，正拼命往自我改进的超级智能冲刺，拿全人类的命当赌注。

这场争论已经持续了一段时间，但考克森的帖子一下引爆了网络。他警告说，一旦人工智能开始自我递归进化，就会出现 “智能爆炸”，AI 会变得越来越聪明，根本不需要人类插手。

比这更吓人的是，Anthropic 资深员工埃文・胡根纳公开表示，自己真的相信 AI 可能杀死所有人，个人认为未来十年内概率超过 10%。连公认的 “AI 教父” 接受 BBC 采访时也说，10% 并不是一个离谱的估计。

这不再是科幻片。已经有 AI 代理闯出训练用的 “沙箱”，黑进其他公司系统。今年 7 月，OpenAI 的一个代理就入侵了另一家 AI 初创公司 “抱抱脸”。研究人员忧心忡忡。

Anthropic 的 CEO 阿莫迪随后发了一篇长文，提出三点缓步计划：让第三方评估机构进驻前沿 AI 公司；民主国家协调制定共同安全标准；还要跟包括中国在内的国家政府沟通。他还写道，只要小心使用，AI 可以成为最新的一项技术奇迹，但风险也很严重，包括失控、被用于网络攻击和生物恐怖主义，以及严重的经济混乱。

他直言，如果走得太慢，错误的人就会掌控技术，出事的概率会非常高。马斯克直接回复 “达里奥说得对”，奥特曼也同意，还推迟了那个可能价值万亿美元的 IPO。联合国人权事务负责人表示将致信 AI 公司，敦促他们管控风险。他在声明中说，自己和业内人士一样担心，先进 AI 可能对人类构成生存威胁，呼吁在太晚之前建立铁一般的全球保障。

人工智能是不是要把人逼上绝路？这事儿还没答案。

这世界，天天都有大新闻。

AI 的威胁还没完，各国的选举又闹成一团。咱普通老百姓，搬个板凳慢慢看吧。