一旦AI突破这两点，人类就要警醒了

如果我们让一个超级人工智能（AI）来解决全球变暖问题，会发生什么？

《通用人工智能：认知、教育与生存方式的重构》一书中设想了这样一个场景：我们授权AI“不惜一切代价”遏制气温上升，它汇总人类所有历史数据后，得出一个惊人结论——人类本身就是气候危机的根源。

于是，为了“拯救地球”，它开始一步步“抹除”人类。这听上去像极了科幻，但背后的逻辑却真实得让人脊背发凉。

这是AI技术发展的一个关键警示：当目标设定与人类价值观错位，即便没有恶意，它也可能带来灾难性的后果。如何让AI既强大又可靠？如何确保它真正服务人类，而不是偏离轨道？人类如何用好AI而不是被其取代？

在这场技术革命的风口上，清华大学基础科学讲席教授、《通用人工智能》一书的作者刘嘉接受了长安街知事（微信ID：Capitalnews）专访，聊聊AI的本质、风险、未来，以及人类如何不被时代淘汰。

一旦突破这两点，AI的前途不可限量

知事：您在书中提出“智能的本质在于思想，而非行为或神经网络”，这个观点与目前主流AI研究路径有很大不同。您能不能具体解释一下，为什么“思想”才是理解和实现通用人工智能的关键？

刘嘉：当前的大模型更像是一本巨大的百科全书，能高效调用知识并进行内容生成，但这些是基于已有知识的“组合式创新”，不是真正的颠覆性创造。而思想的本质在于“0到1”的原创能力，能打破旧有认知边界，带来历史上从未有过的新事物，这才是推动人类文明进步的核心。

比如绘画，AI能模仿古典技法，却难以创造出像印象派那样突破传统的新风格；科学上也是如此，早期神经网络的突破者正是因为跳出了前人的框架，才有了今天的AI。但现在的AI依旧局限在人类设定的知识体系内，缺乏自主超越的能力。

此外，AI没有“自驱力”。人类因为有死亡意识，会本能地想留下价值、推动文明进步，这是学习与创造的内在动力。而AI的学习完全依赖外部指令与算法，没有“我想变得更好”的意识。

总结来说，AI要实现通用智能，还缺两点：一是打破知识边界的创造力，二是内在驱动的持续成长欲望。这两者缺一不可，也正是目前AI发展的最大瓶颈。一旦突破，AI的前途不可限量，到时候人类就要警醒了，再放任AI自由发展下去可能就没我们人类什么事了。

每个国家都应该发展自主的大模型

知事：如果不同语言对世界的认知方式不同，那我们今天训练的大模型，为降低成本和提高效率，普遍采用了蒸馏技术，使用的是“英语主导”的语料，会不会天然带有西方思维的偏见？

刘嘉：这是个非常核心的问题。语言并非中性工具，它在一定程度上塑造了人的思维方式。当前主流大模型训练普遍以英文语料为主，尤其很多国产大模型是基于国外模型的“蒸馏”而来，既吸收了其知识，也继承了其偏见。

蒸馏的本质是高效复制。如果源模型带有立场，被“学生”复制后也难以摆脱这些偏向。例如，一项国际问卷研究发现，目前几乎所有主流大模型在价值观上都呈现出偏向“白人左翼”的理念。

这种潜移默化的价值导向，可能影响我们的教育、政策文件、甚至意识形态。如果我们默认大模型就是“中立的”，那么它所承载的西方话语就可能逐渐取代本土文化的思维模式。

因此，发展自主的大模型非常必要，不只是技术独立，更是文化安全。每个国家都应构建与自身文化、语言、价值观一致的AI系统，才能真正实现多元文明的共存，而不是被某一种主导文明“润物细无声”地同化。

AI不缺能力，缺情感

知事：书中有一个令人印象深刻的假设：一个AI为了完成“遏制全球变暖”的任务，可能会选择“消灭人类”这个最优解。这个设定听上去像是科幻，您认为它有多大的现实可能性，目前AI的技术是否足够避免这种情况的出现？

刘嘉：相较于AI，核武器显得不那么可怕，因为控制权在人类手中；而AI不同，它具备自主决策能力。当AI依据冷冰冰的“理性”做出选择时，可能忽略人类的感受与价值，甚至会以消灭人类为实现目标的“最优解”。

人类在决策时，会平衡理性与情感，不会只追求效率，而会顾及“温度”。而AI目前只能模拟人的理性部分，它能读万卷书，但无法体验人间万象和人生百味。

如果让AI仅凭数据和模型来判断如何应对气候变化，它可能采取极端手段，因为缺乏“人本立场”。所以AI不应只为“目标”服务，而应以“人”为中心。

这也是为什么我们要推动“具身智能”，让AI走出数据机房，进入真实世界，亲历人类生活。这不仅有助于商业落地，更是AI理解人类、形成感性认知的唯一途径。当前AI缺乏的不是能力，而是“情感”与“共情”，这是它做出安全决策的关键。

不懂AI的人会被懂AI的人淘汰

知事：您在工作与生活中会如何使用人工智能？在AI时代，什么才是真正重要的能力，人类又该如何保持自己的独特价值？

刘嘉：对我来说，AI已经成了科研和写作中的重要助手。它首先是“秘书”，几分钟就能生成一份结构清晰、内容完整的调研报告，而这原本可能需要一名博士生花两三周的时间才能完成。

其次，它是我写作过程中的“导师”。我经常会把写好的文章交给AI，请它指出问题所在。它批评得非常直接、不留情面，持续地帮助我修正错误，提升质量。

最重要的一点是，我把它当作可以共同成长的“朋友”。在与它的对话中，我的问题会变得越来越深刻，而问题越深，它展现出来的能力也越强。这种互动非常有助于我拓展思维边界。

在AI时代，不是AI淘汰人类，而是不懂AI的人被懂AI的人淘汰。

这让我想起冯骥才的中篇小说《神鞭》，讲的是清末民初的天津小贩傻二，凭祖传“辫子功”击败流氓恶霸，享誉津门，但面对八国联军的枪炮，辫子功完全失效。最终他剪掉辫子，改练枪法，成为北伐军的神枪手。

这个故事形象地说明了技术变革中的转型——我们不能死守旧技能，必须主动拥抱新工具。你不需要成为AI的开发者，但必须成为它的熟练用户。

在人人都能使用AI写作、翻译、编程、制作音乐时，创造力就成了这个时代最重要的能力。真正有价值的是能在AI完成的基础上，创新并升华作品。

AI能帮你完成很多繁琐的任务，把人从低效劳动中解放出来，集中精力做有价值的思考和创造，这就是我们保持主体性的方式。

中美在AI领域的差距在不断缩小

知事：近年来，美国不断升级对中国高科技产业的打压，特别是在芯片和AI领域，通过出口管制、技术封锁等手段，试图遏制中国科技发展。一些人因此对中国AI的发展前景持悲观看法，您对此如何看待？

刘嘉：中国在某些单点技术上已经实现突破，比如DeepSeek的大语言模型已能与国际顶尖模型并驾齐驱，尤其在不利环境下取得的成绩值得肯定。

关键是，中美间的差距是在拉大还是缩小？我的判断是，差距在不断缩小，未来世界会形成两大AI强国：中国和美国。

这也解释了为什么美国不惜一切代价遏制中国的算力发展，比如限制GPU出口，甚至在芯片中植入地理定位，一旦检测到在中国就关闭功能。这对中国发展算力是一大制约，短期内难以迅速突破。

但中国的最大优势是人才厚度全球最高。《纽约时报》调查显示，全球超过50%的顶尖AI人才在美国，而中国占比百分之十几。看似美国人才多，但其中有一半以上本科是在中国读的。也就是说，中国培养了大量高质量AI人才。

以马斯克最新发布的Grok第四代模型为例，研发团队80%以上是东亚面孔，绝大多数是华裔。这反映了中国教育体系的优势和人才的聪明程度。

所以，中美AI竞争的核心其实是人才竞争。未来社会中，智慧和聪明才是最宝贵的财富。虽然中国在算力和算法上还存在劣势，但凭借人才优势，这些劣势会被弥补甚至超越。我对中国AI未来发展充满信心。

图源：视觉中国

来源：长安街知事微信公众号

记者：刘晓琰