美国AI研究员突然辞职，警告到：10年内，人类真可能被AI消灭

一位人工智能研究员从Anthropic辞职，并公开呼吁其他员工重新审视自己每天正在做的工作。

在X平台上，雅各布·科克森（Jacob Coxson）毫不遮掩地表达了他的担忧。他认为，自己刚刚离开的这家公司，以及它的头号竞争对手OpenAI，在追求这项安全隐患日益增加的技术时，行为已经越过了负责任的边界。

他写道："他们正径直奔向能够自我改进的超级智能，用我们所有人的生命作赌注。"

彭博社高级科技编辑迈克·谢泼德就此事的细节进行了介绍。

这件事其实可以分为两个部分来看。因为在这位已辞职员工发布最初的帖子之后，他的一位同事——一位目前仍在Anthropic任职的研究员——也发表了自己的看法，公开附和了他的部分观点。这意味着一场原本可能只是"个人告别"的表态，正在演变成一次来自公司内部的连锁反应。

谢泼德指出，这件事之所以格外引人注目，是因为长期以来，围绕人工智能以及各公司开发这项技术的速度，业界一直存在所谓的"末日论"担忧。

这些呼声在过去很长一段时间里都被行业本身所忽视或轻描淡写，被视作是外行的过度反应，或者是竞争对手之间互相攻讦的话术。

但如今，这样的警告已经从行业内部传出。

这不仅是对公众的警示，也是对人工智能从业者本身的一种提醒。这一次开口的，不是外界的批评者，也不是被淘汰的落伍者，而是身处最前沿、参与过一线研发的技术骨干。

刚刚从Anthropic辞职的发帖者雅各布·科克森，明确告诉他的同行研究员们，要三思自己正在做的事情，思考是否愿意与一项可能带来严重后果的技术产生关联。

真正让外界心头一紧的，并不只是"辞职"这个动作本身，而是他抛出的那个具体数字——他公开表示，未来十年内，人工智能有相当高的概率将人类彻底消灭，而这个概率并非千分之一、万分之一那样可以忽略不计的小数，而是一个足以让任何理性决策者都停下来重新掂量的量级。

当一个曾经与AI一同呼吸的人给出这样的判断时，它的重量远比任何外部专家的推演都要沉。事实上，来自硅谷内部人工智能从业者的类似声音此前已经出现过。

今年七月，就有一封由1100名来自OpenAI、Anthropic及其他人工智能企业员工共同签署的公开信，敦促整个行业放慢人工智能的开发节奏，以便能够正视并应对其中的一些风险。

1100这个数字并不小，它意味着一线开发者中的相当一部分人，已经不再愿意把"技术进步"当作免于反思的挡箭牌。而现在，事情已经进入了一个新的阶段。

Astra的发布，被一些人——包括黄仁勋在内——誉为人们所说的通用人工智能（AGI），也就是机器智能能够超越并胜过人类工作能力的临界点。这一评价一旦成立，就意味着行业从"追赶人类"跨入了"超过人类"的门槛。

这将整个行业带入了一个完全不同的领域，也凸显出雅各布·科克森当天发帖内容的分量。

在社交媒体上，人们讨论最多的是帖子中的这样一句话：未来十年内，人工智能有一定可能性将人类彻底消灭。

这句话之所以引发如此广泛的震动，是因为它不是抽象的"某一天"，而是被明确框定在了一个可预见的、几乎是当代人自己就会经历的时间尺度里。

对此，谢泼德解释说，其中一项担忧在于，人工智能如今确实具备了这样的能力：无论是在网络安全领域、健康开发领域，还是在其他众多领域，它都有可能颠覆人们所熟知的安全格局。

它可能被用来发动大规模的网络攻击，扰乱整个金融系统；也可能被用来研发生物武器，从而正如提问者以及发帖者所描述的那样，构成一种关乎人类存亡的威胁。

而在这些具体风险之上，还有一层更根本的隐忧——真正让内部研究者感到不安的，不是今天的聊天机器人已经多聪明，而是有一天人工智能开始自己改进自己，并且这种自我改进的速度快到人类根本无法跟上、无法干预、也无法回头。

一旦这一临界点被跨过，"控制"这个词就不再具有原先的含义。这也正在促使华盛顿方面进行反思，并引发多位政界人士的呼吁。

其中，参议员伯尼·桑德斯就要求采取措施加以遏制，并主张禁止他所称的"超级智能"，将其作为一种保护性举措。当天在国会山，也听到了大量类似的反应。

立法层面能否真正落地暂且不论，但至少在政治议程上，"超级智能"已经从科幻词汇正式变成了议员们不得不回应的现实议题。

不过值得注意的是，特朗普政府迄今为止在安全议题上基本采取回避态度。

总统本人在回应有关安全问题的关切时表示，当前的优先事项是让人工智能开发不受束缚地推进下去，因为他将其视为推动美国经济发展的关键，也是在争夺人工智能主导权的竞赛中与中国保持步调的必要手段。

安全与速度、警觉与竞争，这两组矛盾正在同一张桌子上被反复摆弄。回过头看，这一次真正让外界震动的，其实并不是"又一位研究员辞职"这条新闻本身，而是警告的来源变了——不再是外部观察者、也不再是遥远的伦理学家，而是曾经亲手推动这项技术的开发者。

当他们开始用"赌上所有人性命"这样的措辞描述自己所在的行业，这本身就是一种极不寻常的信号。

从1100人的联署公开信，到雅各布·科克森的公开辞职，再到留守研究员的当面附和，一条清晰的裂缝已经在AI行业内部撕开。

它提醒外界：所谓"末日论"，已经不再是圈外人的想象，而是圈内人不得不正面处理的日常问题。

而对于普通人而言，真正需要记住的也许只有一件事——当造这台机器的人自己都开始警告不要造它，那么这场关于速度与安全的博弈，就已经不再只是硅谷的内部辩论，而是每一个身处这个时代的人都无法置身事外的公共议题。

十年是长是短，AGI是福是祸，答案或许并不掌握在AI手里，而掌握在此刻仍有选择余地的人类自己手里。