OpenAI首席执行官发布重磅长文：AI奇点已至，但没有一声巨响

昨天，OpenAI首席执行官 Sam Altman 在个人博客上发布了一篇引发广泛关注的新文章，标题是《The Gentle Singularity》（温和奇点）。在这篇分享中，他并未像科幻小说那样描绘超级智能的突袭与失控，也没有沉迷于末日想象，而是提出了一个更具现实感、也更令人深思的判断：AI的“奇点时刻”已经到来，只不过它以一种温和、渐进的方式悄然发生。

Altman写道，我们已经跨过了通向超级智能的“事件视界”，从GPT-4到o3，从智能Agent到具备认知能力的机器人，人类已经踏上这条指数级加速的技术曲线。而这一进程，并非突变或爆炸性突破，而是一种类似“日常奇迹”的持续累积：AI正在悄然改变我们获取知识、进行创造和构建世界的方式。

以下是全文翻译。

温柔的奇点

我们已经越过了事件视界；腾飞已经开始。人类即将打造数字超级智能，而且至少目前为止，它远没有看起来那么奇怪。

机器人还没有在街上行走，我们大多数人也还没有整天和人工智能对话。人们仍然会死于疾病，我们仍然无法轻易进入太空，宇宙中还有很多我们未解之谜。

然而，我们最近构建的系统在很多方面都比人类更聪明，能够显著提升使用者的产出。这项工作中最不可能的部分已经过去；成就 GPT-4 和 o3 等系统的科学洞见来之不易，但将引领我们走得更远。

人工智能将在诸多方面为世界做出贡献，但人工智能推动科学进步和生产力提升，对生活质量的提升将是巨大的；未来将远比现在更加美好。科学进步是推动整体进步的最大动力；想想我们还能取得怎样的进步，就令人兴奋不已。

从某种意义上来说，ChatGPT 已经比任何人类都强大。数亿人每天都依赖它，并完成日益重要的任务；一个小小的新功能就能带来巨大的积极影响；一个小小的偏差乘以数亿人，就能造成巨大的负面影响。

2025 年，我们会看到能够进行真正认知工作的代理的出现；编写计算机代码将不再是以前的样子。2026 年，我们可能会看到能够得出新颖见解的系统的出现。2027 年，我们可能会看到能够在现实世界中执行任务的机器人的出现。

将会有更多的人能够创造软件和艺术。但世界对软件和艺术的需求远超于此，只要专家能够接受新工具，他们可能仍然比新手更优秀。总的来说，到2030年，一个人能够完成的工作量将远超2020年，这将是一个显著的变化，许多人将会找到从中受益的方法。

从最重要的方面来看，2030年代或许不会有太大的不同。人们仍然会爱家人，发挥创造力，玩游戏，在湖里游泳。

但在一些仍然非常重要的方面，2030年代很可能与以往任何时期都截然不同。我们尚不清楚人类智能究竟能超越到何种程度，但我们即将找到答案。

2030年代，智力和能源——创意以及将创意付诸实践的能力——将变得异常丰富。长期以来，这两者一直是人类进步的根本制约因素；有了丰富的智力和能源（以及良好的治理），理论上我们什么都可以拥有。

我们已经生活在令人难以置信的数字智能之中，在最初的震惊之后，大多数人都已经习以为常。很快，我们就会从惊叹人工智能能够写出优美的文字，转变为好奇它何时也能写出一部优美的小说；或者，从惊叹它能够做出救命的医疗诊断，转变为好奇它何时能够研发出治愈方法；或者，从惊叹它能够编写一个小型计算机程序，转变为好奇它何时能够创建一家全新的公司。奇点就是这样：奇迹变成常规，然后成为筹码。

我们已经听到科学家说，他们的生产力比人工智能出现之前提高了两到三倍。高级人工智能之所以引人注目，原因有很多，但或许没有什么比我们能够利用它更快地开展人工智能研究更重要。我们或许能够发现新的计算基础、更好的算法，以及其他未知的成果。如果我们能在一年或一个月内完成十年的研究成果，那么进步的速度显然会截然不同。

从现在开始，我们已经构建的工具将帮助我们获得进一步的科学洞见，并帮助我们创建更好的人工智能系统。当然，这与完全自主更新自身代码的人工智能系统不同，但无论如何，这都是递归式自我改进的雏形。

还有其他自我强化的循环在起作用。经济价值的创造已经启动了一个飞轮，不断增加基础设施的建设，以运行这些日益强大的人工智能系统。而能够构建其他机器人的机器人（从某种意义上说，能够构建其他数据中心的数据中心）的实现也并非遥不可及。

如果我们必须以老式的方式制造出第一批一百万个人形机器人，但随后它们可以操作整个供应链——挖掘和提炼矿物、驾驶卡车、运营工厂等——来建造更多的机器人，从而可以建造更多的芯片制造设施、数据中心等，那么进步的速度显然会大不相同。

随着数据中心生产自动化，智能成本最终应该会趋近于电力成本。（人们常常好奇 ChatGPT 查询耗电多少；平均每次查询耗电约 0.34 瓦时，相当于烤箱一秒多一点的耗电量，或高效灯泡几分钟的耗电量。此外，它还会消耗约 0.000085 加仑水；大约相当于十五分之一茶匙的水。）

技术进步的速度将持续加快，人们几乎能够适应任何事物，这一点将持续下去。虽然会有一些非常艰难的部分，比如整个行业的工作岗位将消失，但另一方面，世界将以如此快的速度变得更加富裕，以至于我们能够认真考虑过去从未考虑过的新政策理念。我们或许不会一下子就采纳一项新的社会契约，但几十年后回首往事，这些渐进式的变革将产生巨大的影响。

如果历史可以借鉴，我们会发现新事物、新需求，并迅速掌握新工具（工业革命后的工作变动就是一个典型的例子）。期望会上升，但能力也会同样快速提升，我们都会拥有更好的产品。我们将为彼此创造更加美好的事物。人类比人工智能拥有一个长期重要且令人好奇的优势：我们天生就关心他人以及他们的想法和行为，而我们不太关心机器。

一千年前，一位自给自足的农民会看着我们许多人所做的工作，说我们所做的工作是虚假的，认为我们只是在玩游戏自娱自乐，因为我们有充足的食物和难以想象的奢侈品。我希望一千年后，我们看待这些工作时，会认为它们非常虚假，而且我毫不怀疑，从事这些工作的人会感到无比重要和满足。

新的奇迹将以惊人的速度不断涌现。今天甚至很难想象到2035年我们会有怎样的发现；或许我们今年解决了高能物理难题，明年就开始了太空殖民；又或许我们今年在材料科学上取得重大突破，明年就实现了真正的高带宽脑机接口。许多人会选择以类似的方式生活，但至少有些人可能会选择“融入生活”。

展望未来，这听起来难以理解。但经历这一切或许会让人印象深刻，但并非不可避免。从相对论的角度来看，奇点是一点一点出现的，融合也是缓慢发生的。我们正在攀登技术进步的长弧；它总是向前看是垂直的，向后看是平坦的，但它是一条平滑的曲线。（回想一下2020年，如果2025年能实现接近通用人工智能，那听起来会是什么样，而过去五年的实际情况又如何呢？）

在巨大的机遇和挑战面前，我们也面临着严峻的挑战。我们确实需要从技术和社会层面解决安全问题，但考虑到其经济影响，广泛普及超级智能的使用权也至关重要。最佳的前进方向或许是这样的：

1. 解决对齐问题，这意味着我们可以强有力地保证人工智能系统能够学习并采取行动，实现我们长期真正想要的目标（社交媒体信息流就是错位人工智能的一个例子；支持这些算法的算法非常善于让你继续滚动并清楚地了解你的短期偏好，但它们是通过利用你大脑中某种超越你长期偏好的东西来做到这一点的）。
2. 然后，专注于让超级智能变得廉价、广泛可用，并且不会过于集中于任何个人、公司或国家。社会具有韧性、创造力，并且适应能力强。如果我们能够驾驭人们的集体意志和智慧，那么尽管我们会犯很多错误，有些事情会变得非常糟糕，但我们能够快速学习和适应，并能够利用这项技术获得最大的好处和最小的坏处。在社会必须决定的宽泛范围内赋予用户很大的自由度，这似乎非常重要。世界越早开始讨论这些宽泛的界限是什么，以及我们如何定义集体共识，就越好。

我们（整个行业，不仅仅是OpenAI）正在为世界构建一个大脑。它将极其个性化，人人皆可轻松使用；我们将受到好想法的限制。长期以来，初创企业的技术人员一直嘲笑“创意人”；那些有想法却想找团队来实现它的人。现在在我看来，他们即将迎来辉煌的一天。

OpenAI 现在有很多事情要做，但首先，我们是一家超级智能研究公司。我们面前有很多工作要做，但前方的道路大部分已经照亮，黑暗区域正在迅速消退。我们非常感激能够从事我们所做的事情。

廉价到无法计量的情报唾手可得。这听起来或许有些不可思议，但如果我们在2020年告诉你我们将会达到今天的水平，那可能比我们现在对2030年的预测更疯狂。

希望我们能够通过超级智能平稳、指数级、平静地扩展。