前言

比尔·盖茨说了一句让全世界都安静下来的话。

9月25日，这位微软联合创始人、曾经的“技术乐观主义者”，在接受NBC《与媒体见面》节目采访时，表情严肃地警告：人工智能已经强大到足以引发导致十亿人死亡的事件。

“历史上从未有过任何一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁。”

十亿人，这个数字是什么概念？相当于整个欧洲的人口，在一场由AI驱动的灾难中消失。

而说出这句话的人，曾经是AI最坚定的支持者。

从“最伟大的均衡器”到“最可怕的武器”

比尔·盖茨对AI的态度，不是一夜之间转变的。

很长一段时间里，他都在为AI唱赞歌，他认为AI可以攻克疾病、普惠教育、缓解全球资源分配不均，是人类社会“最有力的工具之一”，他的基金会今年还承诺投入10亿美元，用于扩大全球AI的普及。

但今年夏天开始，他的语气变了。

8月，盖茨在个人网站上发表了一篇长文，把AI描绘成一把双刃剑：要么成为“有史以来最伟大的均衡器”，要么成为“最严重的不公正之源”。

他当时警告，不法分子可能利用日益强大的AI工具，对医院、金融机构、电网和政府系统发动网络攻击、欺诈和虚假信息战。

而这一次，他把话彻底说透了。

在NBC的采访中，主持人直接问他：AI是否强大到足以毁灭人类？盖茨的回答没有回避：“AI当然足够强大，足以推动那些可能导致十亿人死亡的事件。 ”

他随后补充，虽然让100%的人类灭绝“相当困难”，但“心怀恶意的人加上最新AI工具”这个组合，已经构成了前所未有的威胁。

他在怕什么？不是机器人，是坏人

很多人听到“AI杀人”，脑子里浮现的是《终结者》里的天网，但盖茨担心的，不是AI自己“觉醒”了要消灭人类，而是坏人拿着AI去干坏事。

他在采访中举了几个方向：网络攻击、生物武器、大规模欺诈，这些不是科幻，而是正在发生的事。

想象一下，一个恐怖组织拿到了最先进的AI工具，AI可以帮他们设计更致命的病原体，可以帮他们找到电网、水厂、医院系统的漏洞，可以批量生成以假乱真的虚假信息来制造恐慌，这些操作的门槛，因为AI的存在，被大幅拉低了。

盖茨在8月的长文中特别提到，AI会“加剧生物恐怖主义的风险”，以前需要顶尖实验室和博士团队才能做的事，现在可能一个懂AI的极端分子就能搞出来。

而这，还只是“现在”的AI，如果AI继续以当前速度进化呢？

盖茨的警告背后，是一个更深的忧虑：人类可能还没准备好，就已经把钥匙交出去了。

盖茨这次采访中，最具杀伤力的表态，不是“十亿人死亡”，而是他对科技公司“自我监管”的彻底否定，主持人问他，是否需要立法来监管AI？盖茨的回答是：“绝对需要。 ”

他接着说了一句让硅谷很多人不舒服的话：“没有人认为自我监管是足够的。 ”

这句话从比尔·盖茨嘴里说出来，分量格外重。

他本人就是科技巨头，他一手创办的微软是AI领域最重要的玩家之一，他比任何人都清楚，科技公司在利润面前，自律有多么不可靠。

他呼吁执法部门和政界人士必须介入，制定“强制性的”安全防护和监测措施，他还特意强调，这些措施虽然会给行业增加一点“管理成本”，但“不会大幅减缓AI的发展”。

言下之意：安全监管要上，但AI发展不能停，这个表态，既是在对华盛顿喊话，也是在给整个行业施压。

一个尴尬的事实：他一边警告，一边砸钱

盖茨的警告有一个绕不开的尴尬，就在他发出“十亿人死亡”警告的不到两周前，盖茨基金会刚刚承诺投入10亿美元，用于扩大全球AI的普及。

今年早些时候，基金会还分别和OpenAI、Anthropic合作，投入数千万美元，把AI工具带进诊所、教室和农场。

一边说“这东西可能杀死十亿人”，一边掏钱让更多人用上这东西。

这个矛盾，盖茨没有正面回应，但细想一下，也许并不矛盾，盖茨的逻辑可能是：AI已经停不下来了，与其让它在少数人手里失控，不如让它尽可能广泛地被使用、被监督、被规范。

只是这个逻辑，听起来总有点让人不安。

盖茨不是唯一一个感到不安的人。

就在他发出警告的前几天，Anthropic的CEO达里奥·阿莫代伊公开呼吁AI公司放慢开发速度，给安全研究留出更多时间。

Anthropic的一名员工甚至辞职抗议，指责公司和OpenAI正在“拿我们的生命赌博”。

前OpenAI研究员丹尼尔·科科塔伊洛也警告，国家和公司之间的竞争，正在逼着AI开发者在安全问题上走捷径。

而在联合国，三家全球领先AI公司的高管已经向安理会做了简报，警告越来越强大的AI系统可能“很快超越人类控制”。

这不是某一个人的杞人忧天，这是一个行业的集体焦虑。

说到底，盖茨在怕什么？比尔·盖茨这辈子见过太多技术，他推动过个人电脑革命，见证过互联网改变世界，也亲历过自己创建的软件帝国如何深刻影响了人类社会。

他从来不害怕技术本身，他害怕的，是技术跑得太快，而人类的刹车系统还没装好。

他在采访中说得很清楚：AI的短期风险——被恐怖分子或流氓国家利用，是今天就要面对的，而长期的存在性风险——AI失控威胁全人类，虽然概率更低，但也不能假装看不见。

结语

十亿人死亡，也许不是预言，而是一个警钟。

盖茨说这话的时候，语气平静，但字字沉重，一个70岁的老人，站在技术狂飙的时代路口，试图拉住那辆正在加速的列车，哪怕只是让它慢一点点，至于能不能拉住，他说了不算。

文丨太阳当空赵

编辑丨太阳当空赵

信息来源：

【免责声明】文章描述过程、图片都来源于网络，此文章旨在倡导社会正能量，无低俗等不良引导。如涉及版权或者人物侵权问题，请及时联系我们，我们将第一时间删除内容！如有事件存疑部分，联系后即刻删除或作出更改。