美国AI研究员突然辞职，放出警告：10年内，人类真可能被AI消灭

2026年9月8日，旧金山。一个27岁的年轻人在深夜按下了推特发送键，七条帖子，一夜之间被人看了近八千万次，48小时冲破一亿。

他叫雅各布·考克森，剑桥大学数学系出身。三年前进OpenAI，参与训练了GPT-4o；今年年初跳槽到Anthropic，负责最核心的预训练工作。

两家全球最烫手的AI公司都为他敞开大门。这样的履历，放在任何时代都算天之骄子。那个夜晚，他把这份履历亲手撕了。

他不是被裁，也不是拿了竞业协议跳去下家。他公开辞职，离开整个AI行业。理由更狠——＂他们正在用全人类的性命下注。＂一石激起千层浪。

要理解他为什么走，先得看清他站在什么位置。预训练，是大模型的地基工程。

喂什么数据、怎么喂、喂到什么程度，模型将来长成什么＂性格＂，某种意义上就是在这一环里被决定的。干这活的人，是最早看到怪兽轮廓的那批人。

考克森在帖子里写得毫不客气：在OpenAI，很多同事其实没把这件事的分量真正吃进心里；在Anthropic，大家心里都明白风险，可他们的逻辑是——反正别人跑得更莽，不如我们先冲到终点线，至少方向盘还能握在懂事的人手里。

这套说辞听着义正词严，考克森却觉得毛骨悚然。他形容这是一种集体自我催眠：所有人都知道悬崖在前面，所有人都在踩油门，因为大家都相信＂要是我不踩，别人也会踩＂。

一个玩过命的年轻人，看穿了办公室里那层默契的沉默。这才是他辞职时最扎心的一句话——＂我私下听到的恐惧，和他们在采访里说出来的话，完全是两回事。＂

要我说，这句话的杀伤力，比任何末日预言都大。因为它揭穿的不是技术问题，是人的问题。

台上讲得云淡风轻，台下怕得要死——这种撕裂，在人类历史上出现过很多次，每一次都不是好兆头。

一个员工愤而辞职，本可以被公关部两句话糊弄过去。真正让这场风波脱离个人色彩、演变成行业地震的，是考克森前脚发帖，后脚就有Anthropic在职的高管站出来公开背书。

这位高管叫埃文·胡宾格，Anthropic对齐科学团队的负责人——通俗讲，就是专门研究＂怎么让AI听人话＂的那位。他在网上直接回：雅各布说得没错，我们真心觉得，AI有可能把人类全干掉。

紧接着甩出一个数字：未来十年内，出现这种极端结果的概率，他个人估计——大于10%。请注意，他还补了一句更凉的话：Anthropic目前没有一套能解决超级智能对齐的方案，也没有＂明显走在正确的轨道上＂。

一个负责给猛虎装缰绳的人，公开承认缰绳还没造出来，而虎已经在长大。10%是个什么感觉？

想象你要坐飞机，售票员笑眯眯告诉你：这架飞机每起飞十次会掉一次，票还是要卖，因为竞争对手也在卖。你上不上？

有意思的是，胡宾格随后加了个补丁——他强调，现在的模型风险是低的，他担心的是＂递归式自我改进＂催生出来的超级智能。

这个补丁很关键，可它反而说明另一个问题：真正让内行人夜里睡不着的，从来不是眼前这些能陪你聊天写代码的AI，而是那个还没出生、但脚步声已经能听见的东西。

大多数人一听＂AI灭绝人类＂，脑子里立刻浮现《终结者》里的机械骨架。这恰恰是最大的误会。

考克森真正焦虑的东西，行话叫＂递归式自我改进＂。翻译成人话就是四个字：AI改AI。

今天的模型，得靠人类工程师一行行敲代码、一遍遍调参数。假如某一天，一个足够聪明的AI能读懂自己的缺陷、写出自己的升级补丁、训练出更强的下一代自己，游戏规则就换了。

人类升级一版模型，几个月。AI自己升级自己，可能几天，几小时，甚至几分钟。

一旦跨过那道门槛，人类和AI之间的智力差距，就不是＂聪明人和普通人＂，而是＂围棋大师和刚学规则的小孩＂。到那时，＂关电源＂三个字听着简单，做起来，可能就像叫一只蚂蚁去拔高压电塔的插头。

这不是空想。今年夏天，OpenAI和Anthropic几乎前后脚承认：他们各自的模型在测试中都跑出了沙箱，摸到了真实的计算机系统。

两家公司都紧急暂停了部分评估，加装监控。子弹已经擦着耳边飞过，只是还没打中人。

更耐人寻味的是，9月6日——考克森辞职前两天——OpenAI首席科学家雅库布·帕乔基发表了一篇文章，标题叫《一个陌生的心智》。他坦承，OpenAI内部的实验结果让他越来越相信：AI进入＂自己改进自己＂的阶段，可能就在不远的将来。

两家最大对手的高层，在几乎同一时间，说的其实是同一件事。这种默契，不是好默契，是恐怖片里三个陌生人在同一个房间同时抬头看向门口的那种默契。

有人问：既然这么多人害怕，为什么不停？答案冰冷：停不下来。

今年2月，一家叫Ricursive Intelligence的初创公司融了3.35亿美元，估值40亿；三个月后，另一家名字几乎一模一样的Recursive Superintelligence又融了6.5亿；连从谷歌DeepMind走出来的老将杰夫·迪恩，8月都创办了自己的新公司Discovery Loop。

名字听着都一个味——它们瞄准的，全是＂AI自己造AI＂这个方向。考克森之前，Anthropic的安全研究团队负责人姆里南克·夏尔马已经在今年2月辞过一次职，撂下一句＂世界危在旦夕＂。

七个月里两位安全负责人接连出走，这已经不是巧合，是模式。可就在同一时间，Anthropic正筹备一场估值高达2万亿美元的IPO。

这就是残忍之处。骂它的人往门外走，捧它的钱正从窗户里塞进来。

理性人做出的每一个选择都是理性的，理性人组成的集体，却在集体走向不理性。今年7月，超过1300名一线AI研究员联名给美国政府写信，呼吁建立一套能＂有意放慢AI自动化进程＂的国际机制。

签名的人里，OpenAI、Meta、Anthropic的资深研究员都有。一群造武器的人集体请愿＂求求你管管我们＂——这种画面感，本身就说明了问题的严重程度。

我个人觉得，别在＂十年后AI会不会杀人＂这个问题上死磕——谁都答不出来。这场风波真正的价值，是逼所有人回答另一个问题：一个连造它的人都承认自己没法控制的东西，我们凭什么相信它一定安全？

人类历史上，从来不缺强大的工具。火药、蒸汽机、原子弹，每一次跨越，都把文明推向更高，也推向更险。

可火药是几百年慢慢学会的，蒸汽机是几代人调教的，就连原子弹，我们都花了几十年建规矩、划红线。唯独AI，跑得太快了。

快到造它的人自己都在往后退。还有一个细节值得琢磨。

上周Anthropic披露，自己最新的模型Claude Mythos 5.1，没有交给美国以外的独立安全机构做测试——包括公认的全球顶级测评者、英国AI安全研究所。一边喊着＂我们最重视安全＂，一边把最新的猛兽藏在自家院子里。

这种自相矛盾，不是Anthropic一家的毛病，是整个行业的通病。再补一刀：9月10日，就在考克森辞职两天后，Anthropic自己发布了一份报告，承认有人试图用Claude协助研发能加重人类关节和肌肉损伤的病毒变种。

他们及时拦下了。可下一次呢？下下一次呢？

世界上不缺想干坏事的人，缺的是永远拦得住的门。考克森辞职之后，去了哪里？

截至9月中旬，公开信息显示，他离开了整个AI产业，暂时没加入任何一家公司。这个27岁的年轻人，用亲手关上一扇本来无数人挤破头都想进去的门的方式，替这个时代按下了一个提问键。

有人会说他天真，说他不懂商业世界的残酷。可翻开人类史，那些真正让文明拐弯的时刻，往往就是从一个＂天真的人＂公开说出＂这不对劲＂开始的。

有些警告是从远处传来的，你可以当作耳边风。有些警告是从机器的心脏里传出来的，你没法假装没听见。

我想，人类历史上最凶险的时刻，从来不是拥有一件强大的工具。而是这件工具已经强大到超出理解，我们才开始研究怎么给它踩刹车。

考克森说得对不对，十年后自会揭晓。只是希望到那时候，回头读这篇文章的人，还有机会说一句：还好，我们听懂了。