马斯克，为什么无数次提到班克斯？

11月21日，“马斯克为何又一次谈到班克斯” 上了头条热榜。

11月19日，马斯克和黄仁勋在美沙投资论坛上，马斯克再次提到了班克斯。

班克斯是谁？马斯克说的是伊恩・M・班克斯，一位苏格兰作家。既写主流小说，也写科幻小说。他的科幻作品甚至影响了SpaceX火箭命名。

伊恩·班克斯

伊恩·班克斯的“文化”系列科幻小说，描写的是一个由超级AI管理的乌托邦社会。

伊恩·班克斯的“文化”系列科幻小说

马斯克把伊恩·M·班克斯“文化”系列当成未来蓝图：一个由超级智能 AI（Minds）管理、没有贫穷和强制劳动、物质极度丰裕、货币无关紧要的文明，人类只做自己想做的事。

马斯克现在正试图用科技复制这种乌托邦，把 AI 与机器人视为解放人类劳动的核心，让工作变成兴趣而非谋生手段。他的多个项目都直接受书中影响：SpaceX 无人机船的命名、Neuralink 的“神经蕾丝”、Tesla Optimus 机器人等，都是在向“文化”系列致敬。

马斯克最看重的是小说对“丰裕之后人类意义”的探索：当基本需求被 AI 解决后，人类可以把时间花在创造、探索和享受生活上。他相信科技足以把班克斯认为“人类可能到不了的乌托邦”变成现实，并希望在未来 10–20 年推动一个不再依赖金钱、由 AI 支撑的极端丰裕社会。

这不是马斯克第一次提到班克斯，可以说他无数次提到班克斯，并多次提到班克斯的“文化”系列是他读到对人工智能最经典的阐述。

说实话，马斯克在这次谈话中关于人工智能的观点并不新奇。

对人工智能稍微了解的人都知道，人工智能的主流立场通常分成三派：AI 加速主义、AI 暂停主义和AI安全对齐派。

AI 加速主义就是主张尽快把 AI 推到极限，让技术爆发式进步来带动财富增长、生产力提升和文明进阶；AI 暂停主义则主张放慢甚至阶段性停止AI 研发，以避免社会无法承受的冲击或潜在的灾难性风险；AI 安全对齐派不强调速度，而是强调无论快慢，AI 都必须是安全的、可控的、与人类价值一致的，把“先确保不会伤害人类”放在最核心的位置。

熟悉马斯克的人都知道，他的一贯立场是加速主义和对齐主义两者融合。

马斯克一直积极推动 AI、机器人、脑机接口技术的发展。比如曾经提到，相信 AI 会在几年内完成所有认知任务。 他对技术进步非常乐观，认为通过大规模技术推进，文明能够实现在更高级别上的跃迁。但同时，也多次警告 AI 是人类面临的最大威胁之一，强调必须重视 AI 的安全性和可控性。也创立、支持了一些与安全对齐相关的项目。比如，在讲话中，他提到在 xAI（他的公司）训练模型时加入“人类价值观对齐”模块。公开言论中经常强调“对人类有利”的 AI，而不是失控的智能，还曾与 OpenAI 的创始人一起推动安全 AI 的讨论。

残酷的是，至少目前来看，马斯克是有点理想主义色彩的，当下人工智能在实际落地的过程面临重重问题，这些问题的解决说实话还遥遥无期，对于未来10-20年人工智能的发展，马斯克看起来过于乐观了。纵观人类历史，人类社会什么时候这么完美过？当然，有人会说，社会是不断进步的。

但这个观点本身就是有问题，准确来说，科技是不断进步的，社会并不是。只要涉及到人，任何时代包括现在，社会距离完美都还远得很，社会的乱不都是人性的弱点带来的。人工智能如果真的无限逼近人甚至比人更像人，怎么能保证社会不会更乱？

当然，现在一切的思考都是粗糙的，我们无法设计未来，也无法完全规避一切风险，一切估计得等未来来了后，我们见招拆招。