比尔·盖茨发出警告：AI可能会造成10亿人死亡！人类该醒了

一句"AI足以导致10亿人死亡"的判断，为何会从这位科技巨头口中说出？他到底在担心什么，这份警告又和普通人有着怎样的关系？

比尔·盖茨最近在一篇长文的开头写道，向AI时代的过渡，将是人类历史上最动荡的时期之一。在这篇文章里，他罕见地把AI可能带来的坏结果全都摊开讲了一遍。

而在9月27日美国全国广播公司（NBC）《与媒体见面》节目中，他更是直接抛出那句震动舆论的话——如果人工智能被恶意利用，并且缺少有效约束，它可能造成前所未有的灾难性后果，甚至可能导致10亿人死亡级别的事件。

这个数字并没有附带具体的时间表或概率预测，更像是他在描述一种极端风险可能带来的规模。那么，盖茨到底在警告什么？这份警告和普通人又有什么关系？盖茨首先提醒人们，这一次，过去的经验未必还能让人安心。以往一项新技术出现，到真正改变所有人的工作，中间往往要隔许多年。

比如电脑进入办公室之后，花了大约二十年，才真正改变人们的工作方式。之所以这么慢，是因为软件要一点点开发，电脑价格要慢慢下降，员工需要重新学习，企业也要重新设计工作流程。技术跑得再快，也要等人慢慢学会。这段等待，给了企业和社会适应的时间。

AI则不一样。它可以直接用在人们现有的电脑和手机上，使用者也不必专门学习如何操作，只要像跟人说话一样把需求告诉它，它就能开始工作。

这意味着，AI进入工作、替代部分任务的速度，可能比过去任何一次技术变革都快。而技术来得太快，并不完全是好事。

盖茨提出的第一层担忧，是岗位会迅速消失。他用了一个很重的说法：许多工作会永远消失。

与经济周期带来的失业不同，AI带来的替代可能是永久性的。其中风险最大的，是入门岗位和中层岗位。

一个老员工加上AI，如果比带两个新人效率更高，企业为什么还要招新人？这样一来，最先减少的，往往就是那些给新人做的基础工作。

中层面对的是另一种压力。很多中层的主要工作就是上传下达：一线发生了什么，先由中层整理，再汇报给老板；老板做了决定，也要通过中层传达给员工。

AI出现之后，老板可以直接向系统提问，员工的工作也能进入自动化流程，信息不再需要经过一层层的人。中间负责传话、汇总和做周报的岗位，自然也就越来越少了。

当然，AI也会创造新工作。有人要做模型，有人要整理数据，也有人要把AI接进公司的业务流程。

可原来做客服的人，没办法明天就去设计客服系统；原来整理数据的人，也很难马上替公司做业务决策。岗位可以一夜消失，人却没办法一夜换一身本事。

盖茨的第二个担忧，是作恶会变得非常容易。他认为，AI正在拆掉作恶的门槛。过去想诈骗或制造谣言，多少要懂点技术，也要花时间研究目标。

现在，一个人只要收集一些公开资料，再交给AI，就能生成更有针对性的话术，甚至模仿一个人的声音和样子。原来做不成坏事的人，手里突然多了一套好用的工具。

而工具不会先问握着它的是好人还是坏人。它能帮安全人员寻找漏洞，也能帮攻击者寻找漏洞；能帮科学家研发新药，也可能被人拿去研究危险的病原体。

这也是那句"10亿人死亡"警示背后真正的底色——当发动一次攻击所需要的资源越来越少，专业门槛越来越低，生物、网络、金融这些关键系统一旦被击穿，波及的范围就不再是几百几千人，而可能是一整片人口。安全感，会变得越来越珍贵。

盖茨的第三个担忧，是成长会失去真实。他担心AI会阻碍孩子的发展，甚至替代真实的人际关系。

AI伴侣随叫随到，愿意听人说话，永远顺着使用者。对孤独的人来说，这种陪伴近乎完美。可真实的关系，从来没有这么舒服。

盖茨小时候没什么朋友，他后来能学会与不同的人相处，靠的是一次次硬着头皮去练。如果那时已经有一个永远懂他的AI伴侣，他还会不会愿意费力走进真实的人群？

被拒绝，才知道与人交往需要边界；喜欢得不到回应，才明白关系需要双方付出；被老师批评，才懂得在乎自己的人，也会反对自己。这些能力，需要人和真实世界发生摩擦，才能慢慢培养。

这个过程不一定美好，但却无法省略。工具应该帮助人完成成长，而不能替人跳过成长。

说了这么多风险，盖茨是否主张让AI停下来？他没有。因为全球不可能同时踩下刹车。

一家公司暂停投入，对手不会暂停；一个国家放慢速度，其他国家也不会跟着等。所以他的主张是：既然车注定要开，就要在撞上之前，先把规则建起来。

第一，建立跨领域的协调机制。企业怎么使用AI，关系到就业；学校怎么使用AI，关系到教育；AI被坏人利用，又关系到公共安全。

这些问题连在一起，单靠一家技术公司，或者一个政府部门，都处理不了。制定AI规则时，政府、企业、劳动者、教育者和安全专家，要坐到同一张桌子上一起讨论。

第二，为部分工作留下人类保留区。可以把它理解成自然保护区。一片森林能盖楼，也能修路，但人们会主动决定不这么做。

有些工作也是一样。照护、教育和心理支持，即使AI能够完成，也要给人留下位置。因为陪伴、理解和责任，不能只按效率计算。

至于那些最终会被AI替代的工作，也应该慢一点消失，给从业者留下学习和转型的时间。

第三，重新平衡劳动和机器之间的税收。人被机器替代之后，纳税的劳动者减少，需要培训和收入保障的人却会增加。这个缺口谁来补？

盖茨因此建议，对AI模型调用和机器人征税。当然，这些建议仍需要完善，具体怎么做，也不能一刀切。

但他提出了一个无法回避的问题：如果技术创造的财富越来越多，工作带来的收入越来越少，这笔财富该怎样分配？

值得注意的是，盖茨这次抛出的极端数字并没有附上确凿的推演路径，目前也没有证据证明这样的灾难一定会发生。他没有给出时间表，也没有给出概率。

但作为曾经最坚定的科技推动者之一，他愿意把话说到这个份上，本身就是一种信号——风险的量级已经大到不能只在小圈子里讨论，必须被摆到公共议题的中央。

一路看下来，盖茨描绘的未来，确实让人不安。但说到底，这也只是他对未来的一种推演。真正值得带走的，或许是他看待技术的方法——既看到技术带来的好处，也看清它可能要求人们付出的代价。

作为一个普通人，当AI变得越来越聪明、越来越贴心的时候，或许都应该多问自己一句：它是在帮助我思考，还是在让我慢慢放弃思考？技术也不是一部已经写好的剧本，它怎样进入人们的工作、家庭和生活，仍取决于今天一个个具体的选择。

谁先看懂这些选择，谁就不必坐在原地，等未来替自己决定位置。

从"10亿人死亡"这样的极端警示，到岗位消失、作恶变易、成长失真的具体隐忧，盖茨其实是在用最重的话，提醒一件最朴素的事——技术的方向盘，从来不在算法手里，而在使用它的人手里。

这位曾把电脑推进千家万户的人，如今站出来喊停，不是要否定AI，而是希望规则能赶在事故之前先落地。当车轮已经加速，真正的问题不再是能不能开，而是有没有人愿意先把路标画好、把护栏架稳。