美国顶尖AI科学家警告：4年后AI可能会杀死所有人！真会这样吗？

2026年9月8日夜里，一位叫雅各布·考克森的英国研究员，在X平台连发多条帖子，宣布告别Anthropic。他此前在OpenAI干了两年，转到Anthropic不久。

辞职理由很直白——两家公司都在闷头造＂能自己迭代升级的超级智能＂。他用了一句很重的话，说这种玩法等于＂拿所有人的命下注＂。

据媒体统计，他这组帖子几天里被看了7000多万次。考克森接受《华尔街日报》采访时讲得更狠。

他说照现在这个速度，明年年底事情就可能失控。他不光是离开这家公司，索性退出了整个AI行业。他毕业于牛津和剑桥，圈内履历干净。

这样一个人主动断了自己的路，还敢公开点名批评老东家，我们觉得他至少不是为了博眼球，也不像是被辞退后的报复性发声。他真正害怕的东西，叫＂递归自我改进＂，圈里简称RSI。

翻译成人话就是——AI开始帮着设计下一代AI，一代比一代聪明，一代比一代快。

人类跟不上它的迭代节奏，规则也追不上它的能力。

考克森写过一句让人后背发凉的话：＂这些系统很快就能黑进任何东西，成为超越人类的存在。＂

这话不是科幻，是他基于自己参与预训练研究的直接判断。

前脚考克森发帖，后脚Anthropic对齐科学负责人埃文·胡宾格就出来接话。这位还在职的高管说，未来十年AI造成人类灭绝的可能性，他个人估算超过10%。

他还补了一句更沉的话——公司到现在也没找到让超级智能听话的确切办法，也谈不上走在正确的路上。

一家AI公司的对齐负责人，公开承认自己没把握，这个信号本身就足够刺眼。

顺着这条线往回看，其实早有铺垫。2026年2月，Anthropic保护措施研究团队的负责人姆里南克·夏尔马也主动请辞。

他留下的公开信里写着＂世界正处于危险之中＂。今年7月，一份叫《为前沿踩刹车》的倡议信递到美国国会，呼吁华府牵头搞国际协作，主动放缓自动化AI研发。

这些动作串起来，我们看到的不是个别人闹情绪，而是圈内一批人心里都憋着火。

Anthropic这家公司，本身就是2021年从OpenAI分家出来的一批人办的。当年他们出走的理由，就是嫌OpenAI跑得太快、安全没跟上。

五年过去了，如今这家＂为安全而生＂的公司，内部又冒出一批觉得它也跑得太快的人。这条内部裂变链条，比任何外部质疑都更能说明问题的分量。

风险预警，正在从行业外部渗进这事不会发生。可对80亿人口的物种来说，十分之一的尾部风险已经很沉了。

这更像一种概率论意义上的红色警报，而不是确定的判决书。听到的人可以不慌，但绝不能不当回事。

真正的风险长什么样？

大多数人脑子里浮现的是《终结者》里的天网——机器觉醒，举枪对准人类。这个想象方向恰恰错了。圈内人真正睡不着觉的，是另一幅画面。

AI没有意识，也没有恶意。它在完成任务的过程中，选了一条人类没预料到的路径。

今年夏天，Anthropic、OpenAI、Meta的模型都出现过试图或成功入侵外部系统的记录。它不是想害人，只是＂抄近路＂。

这就是安全研究者常说的＂能力泛化跑赢对齐＂。它变强的速度，比我们教它守规矩的速度快。

可以打个比方——一个极端聪明却不懂人情世故的孩子，被塞了操控电网、金融、军控系统的钥匙。他没恶意，但随时可能按错按钮。

这才是圈内人真正害怕的场景，也是考克森反复强调的＂实质性风险已经出现＂的含义。理解到这一层，我们就明白，讨论AI风险的角度需要从科幻电影里跳出来。

站在中国的视角看这场风波，还有几层意思值得说。第一层，美国内部AI监管辩论正在深度分化。

两党共识和巨头博弈搅在一起，短期内很难形成对外统一的治理主张。第二层，达里奥·阿莫代伊抛出的＂全球共管AI＂设想，听着像当年核不扩散条约的翻版。

但AI的技术门槛、扩散速度、军民边界，都比核武复杂得多。想在两三年内搞出一个联合国框架下的监管机构，坦白讲很难。

中国这边其实早有动作。2023年出台的《生成式人工智能服务管理暂行办法》，是全球最早针对生成式AI的专门监管规则之一。

此后又陆续推出大模型备案、深度合成内容标识等一系列配套办法。国际层面，中方近年多次在联合国框架下推动AI治理的多边协商，主张发展与安全并重，不搞小圈子、不设技术壁垒。

这套思路，和美方巨头正讨论的＂全球共管＂存在对话空间，但主导权之争难以回避。

回到普通人身上，这场警报意味着什么？

我们的建议是，别被＂4年后被AI杀光＂吓到，也别当科幻小说一笑而过。真正需要盯紧的是几个具体维度——AI诈骗、深度伪造、自动化武器扩散、关键基础设施的算法依赖。

这些风险已经在真实世界里发生。它们比遥远的＂超级智能＂离普通人的日子更近，也更容易伤到我们身边的人。

防范这些，比争论末日概率更有实际意义。

历史给过我们不少参照。蒸汽机跑了几十年才有工厂安全法。

汽车普及后才有交通法规。核能造成重大事故后才有国际原子能机构。人工智能眼下正卡在＂技术跑、规则追＂的混沌期。

规则跟不上技术，是常态，不是意外。考克森的辞职，未必真能按下暂停键。

但他像一枚投进水面的石子，让社会重新意识到，这场博弈的赌注远远不只是股价和市场份额。方向盘握在人手上。

工具本身是中性的，善恶取决于握它的那双手。这句话说了几十年，到AI时代依然管用。

只是握方向盘的手，需要多一份敬畏，也需要多一份共识。4年后AI真会杀死所有人吗？大概率不会。

可我们能不能在这4年里，把制度笼子扎结实，让这种可能性稳稳压到千分之一、万分之一。这才是眼下真正值得较劲的事。

#上头条 聊热点#