比尔・盖茨严厉警告！直呼前所未有，或可能导致十亿人死亡

一个曾经把人工智能夸到天上去的人，突然掉过头来，说这玩意儿可能让十亿人送命。这话要是别人说，多半被当成危言耸听。

可偏偏说这话的，是比尔・盖茨。七十岁的盖茨上了NBC电视台的《与媒体见面》。

镜头前他神情不算激动，语速也不快，但那句＂AI足以推动一场造成十亿人死亡的灾难＂一出口，整个演播室的空气都变了味道。他还补了一刀。

翻遍人类打仗用过的家伙什，从冷兵器到核弹头，没有哪一样，能比得过＂坏人手里握着最新AI＂这个组合。有意思的是，这次专访前几天，美国总统特朗普刚刚公开表态，把外界对AI监管的呼声形容成一场＂骗局＂。

盖茨对着镜头，几乎是一字一句地回怼——不是骗局。他还放话说，希望能和特朗普当面坐下来聊聊。

很多人一听＂十亿人死亡＂，脑子里冒出来的画面是电影里那种机器人举枪对着人类扫射。盖茨要说的其实完全不是这个。他真正怕的，是人。

是那些心里憋着坏水的人，借着AI这把顺手的刀，去干过去干不成的事。举个最直白的例子。

以前想搞垮一个大城市的电网，得组织一支顶尖黑客队伍，闷头研究好几个月。现在呢？

几个人加一套先进的AI工具，把过去只有大国才玩得转的活儿，硬生生拽到了普通团伙够得着的位置。生物领域的口子更让他睡不着觉。

年初那封公开信里他就写过，比新型病毒暴发更值得盯紧的，是那些藏在角落里的小团体，用开源AI工具捣鼓生化武器的可能性。盖茨的态度不是一天变的。

前几年他还相当乐观，跟人聊天的时候常说，这些风险人类过去都摆平过，这次没道理搞不定。慢慢地话风就变了。

到今年秋天，他直接把话撂到桌面上——按现在这个跑法，事情朝坏的方向翻车，概率高得离谱。有记者问他，业内不是一直在讨论给AI装个＂紧急停止按钮＂吗？

盖茨听完苦笑。他说，指望一个大红按钮解决问题，说明提这个想法的人对技术根本不熟。

真正管用的，是把监控埋进系统里头，让AI每走一步都留下脚印，能查、能追、能看明白它到底想干啥。他对企业自己管自己这套东西，也没什么信心。

原话大意是，全世界没几个明白人会真觉得＂行业自律＂够用。抢市场、抢技术、抢时间窗口的时候，谁愿意主动给自己的脚上拴块石头？

所以他反复呼吁一件事：把监管权交给政府，交给立法机构，用硬邦邦的法律条文兜底。他甚至觉得，AI这事儿想在国际层面达成协议，难度比当年美苏谈核武还高。

盖茨开口的时机也挺微妙的。就在他上电视前后没多久，硅谷内部已经先炸了一轮。

Anthropic公司里一个叫柯克森的研究员，前后在OpenAI和Anthropic干了三年AI预训练，突然选择走人。他在社交平台留了段长文，说各家公司眼下的做法，就是＂拿全人类的命运下赌注＂。

这条帖子一天之内的浏览量冲到一亿。Anthropic对齐团队的负责人紧跟着表态，说他们内部认真评估的结论是，未来十年内AI引发人类灭绝级灾难的概率，超过百分之十。

而且公司现在手里，没有一套能真正解决超级智能对齐难题的成熟方案。马斯克这边也来凑热闹。

他在X平台上转发了同行的相关表态，配文就四个字：＂他是对的＂。转头又把自己那句老话搬出来——通用人工智能带来的麻烦，比核弹要大得多。

OpenAI的奥特曼也在这波表态里选了同一边。不过学界也不是一片附和。兰德公司的一位研究员接受《自然》杂志采访时提醒大家冷静点。

他说，＂AI灭绝人类＂这类话题里头，有相当一部分推演建立在没法验证的假设上，聊起来更像是宗教辩论，而不是科学讨论。他所在团队做过一份评估，直接把AI引爆核大战、彻底抹掉人类的路径排除掉了，但生物武器和大气层改造这两条路，暂时还不敢打包票。

政治圈也跟着动起来。美国国会里，参议员桑德斯和众议员卡萨尔合伙提交了一份专门针对超级智能的禁令草案。

差不多同一时间，英国工党也有议员在议会里推了个类似的安全法案。这些法律能不能真的落地，眼下还看不清楚，但风向确实在转。

盖茨这次讲话里，有一句话被很多人忽略了，其实挺关键。他说，AI现在还没到失控那一步——人类想拔电源，随时能拔。

他真正担心的是，那扇能一把拽住AI的窗户，正在一点一点合上。再厉害的工具，说到底还是要看握它的手是谁的。

盖茨这次没绕弯子，也没端着，估摸着就是想趁那扇窗还没关严实，多喊一嗓子。听不听得进去，是另一回事。至于国内这边，走的是另一条路。

既没有踩死刹车，也没有闷头狂飙。相关的评估、备案、内容审核制度这几年一直在完善，AI落地和风险防控两条腿一起走。

在全球一片焦虑声里，这种稳当劲儿反倒显得难能可贵。技术这东西从来不长善恶，它只是把握它的人心里那点东西放大了再放大。

盖茨这次抛出的数字重不重？重。但比数字更值得琢磨的，是他愿意在这个节骨眼上，把话讲到这个份上。