Sam Altman最新博客：奇点温柔地到来，奇迹变成日常，然后成为标配

然而，我们最近确实构建了在许多方面都比人类更聪明的系统，它们能够显著提升人类使用者的产出效率。最不可能完成的部分已经在我们身后：促成 GPT-4 和 o3 等系统诞生的科学见解来之不易，但将带领我们走得更远。

AI 将以许多方式造福世界，但通过 AI 加速科学进步和提高生产率所带来的生活质量提升将是巨大的，未来可能比现在美好得多。

科学进步是一切整体进步最大的驱动力，想到我们原本可以拥有更多的可能性，实在令人振奋。

从某种重要意义上说，ChatGPT 已经比历史上任何一个人类个体都更强大，数以亿计的人每天依赖它来完成日益重要的任务。

一个微小的新能力就能产生巨大的积极影响，而一个微小的错位，乘以数以亿计的用户，也可能带来极为重大的负面影响。

2025 年，出现了能够执行真正认知工作的智能代理，编写计算机代码的方式从此将不再一样。

2026 年，我们可能会看到能够自我发现全新见解的系统问世。

2027 年，也许会诞生可以在现实世界执行任务的机器人。

将会有更多人，能够创作软件和艺术作品。不过，世界对这两者的需求，远远超出当前的供给。只要专家拥抱新工具，他们很可能仍会大大胜过新手。

总体而言，到 2030 年，一个人能够完成的工作量，将远超 2020 年的水平。这将是一个引人注目的巨大变化，许多人会找到从中获益的途径。

在最重要的方面，2030 年代可能并不会发生翻天覆地的变化。人们依然会爱护家人，发挥创造力，玩游戏，并在湖里游泳。

但在同样非常重要的其他方面，2030 年代很可能将与之前的任何时代截然不同。我们还不知道智能水平能超出人类多远，但我们即将找到答案。

到了 2030 年代，智能和能源——也就是思想，以及将思想付诸现实的能力——都将变得极为充沛。

这两者长期以来，一直是限制人类进步的根本因素，而在智能和能源充沛（再加上良好的治理）的情况下，从理论上讲我们可以拥有其他一切。

事实上，如今我的们已经与令人难以置信的数字智能共处。

在最初的震惊过后，我们大多数人已经习惯了它。我们很快就从惊叹 AI 能生成一段优美的文字，转变为好奇它何时能写出优美的长篇小说。

或者，从惊叹它能做出救命的医疗诊断，转变为期待它何时能研发出治愈疾病的处方。

又或者，从惊叹它能编写一个小型程序，转变为期待它何时能创造出一家全新的公司。

奇点就是这样发展的：奇迹变成日常，然后成为标配。

我们已经听不少科学家坦言，有了 AI，他们的工作效率是以前的两到三倍。

先进的 AI 引人注目的原因有很多，但也许最重要的是我们可以利用它来加速 AI 本身的研究。

我们可能会发现新的计算基底computing substrates、更优的算法，以及更多未知的可能性。

如果我们能够用一年的时间完成十年的研究，甚至一个月完成十年的研究，那么进步的速度显然会大不相同。

从现在开始，我们已经构建出的工具，将帮助我们获得更多深刻的科学洞见，并辅助我们创造更好的 AI 系统。

当然，这和让 AI 系统完全自主地更新自己的代码，并不是一回事，但无疑已经是递归式自我改进的雏形了a larval version of recursive self-improvement。

还有其他一些自我强化的正循环，在发挥作用。

巨大的经济价值创造，已经启动了一个飞轮，加速建设用于运行这些日益强大的 AI 系统的复合型基础设施。

而能够制造其它机器人的机器人（在某种意义上，包括能够建设其它数据中心的数据中心），离我们也已经不远了。

如果我们不得不用传统方式制造最初的一百万个人形机器人，但之后它们就能接管整个供应链——挖掘和提炼矿物、驾驶卡车、运营工厂等等——来制造更多机器人，这些机器人又可以建设更多芯片制造设施、数据中心等等，那么进步的速度无疑将大不相同。

随着数据中心生产实现自动化，智能的成本最终应会趋近于电力的成本。

人们常会好奇，一次 ChatGPT 查询耗费多少能量，平均每次查询约消耗 0.34 瓦时电能，相当于烤箱运行一秒多钟，或高效灯泡亮几分钟，每次查询还消耗约 0.000085 加仑的水，大约是十五分之一茶匙的水量。

技术进步的速度将持续加快，而且人类能够适应几乎任何事物的能力也将一如既往。

会有非常艰难的方面，例如整类整类的工作岗位消失，但另一方面，世界的财富将如此迅速地大幅增长，以至于我们能够认真考虑以前根本不可能实施的新政策理念。

我们大概不会在一夜之间就采用一种新的社会契约，但当我们若干十年后回顾时，那些渐进的变化，加起来将构成巨大的转变。

如果历史可资借鉴，我们将找到新事情去做、找到新的欲望目标，并迅速吸纳新工具，工业革命后的职业更替就是一个很好的近例。

人们的期望会提高，但能力也会同样迅速地提高，我们都将获得更好的东西，我们将为彼此创造出越来越奇妙的事物。

相比 AI，人类在长远上有一个重要而奇特的优势：我们的天性使我们关心他人及其所思所为，而对机器则没有那么在意。

一千年前的一位自给自足的农民，如果看到我们许多人如今的工作，可能会说我们在做“假工作”，觉得我们只是因为粮食充足、拥有难以想象的奢侈条件而在自娱自乐。

我希望当我们看向一千年后的那些工作时，也会觉得那些工作非常“假”，但我毫不怀疑，对于当时从事那些工作的人来说，它们将让人感到无比重要且充实。

新奇迹涌现的速度将会极其惊人。

如今，我们甚至难以想象到了 2035 年，我们会发现些什么。

也许我们会经历今年解决了高能物理难题，明年就开始太空殖民。

或者，今年在材料科学上取得重大突破，明年就实现真正的高带宽脑机接口。

许多人将选择以几乎相同的方式，度过他们的人生，但至少会有一部分人可能决定“接入”，就是沉浸到虚拟世界中）。

展望未来，这一切听起来难以让人完全理解。但实际经历它时，可能会感觉令人印象深刻，但我们仍足以应对。

从相对论的视角来看，奇点是逐步发生的，融合是缓慢进行的。

我们正攀爬着技术指数级进步的漫长弧线：向前看时它总显得陡峭如壁，向后看时又似乎平坦如常，但其实这是一条平滑连续的曲线。

（这一句就是前面截图提到的，Altman觉得自己用了很“老派”的方式书写的语句。）

回想 2020 年，如果那时有人说我们将在 2025 年接近实现通用人工智能AGI，听起来可能比我们现在对 2030 年的预测还要离谱。

当然，伴随这些巨大好处的同时，也有严峻的挑战需要面对。

我们确实需要在技术和社会层面解决安全问题，但除此之外，鉴于超级智能所带来的经济影响，让人人都能广泛接触到超级智能也至关重要。

也许，最好的前进道路是这样：

1、解决对齐问题。

也就是说，我们能够可靠地确保让 AI 系统在长期内学会并朝着人类集体真正想要的方向行动。

社交媒体的信息流，就是一个 AI 错误对齐misaligned的例子，驱动这些推荐的算法，非常擅长让你不断滚屏，也清楚你的短期偏好，但它们是通过利用你大脑中的某些弱点，来凌驾于你的长期偏好之上。

2、然后，致力于让超级智能变得廉价、无处不在，而且不被任何个人、公司或国家过度集中掌控。

我们的社会，具有很强的韧性、创造力和快速适应能力。

如果我们能够凝聚人类的集体意志和智慧，那么尽管我们会犯很多错误，也会出现一些失误，但我们将快速学习和适应，并能够利用这项技术将好处最大化、坏处最小化。

在社会共同决定的宽泛边界内，给予用户大量自由是非常重要的。世界越早开始讨论这些边界应如何设定、以及我们如何定义集体层面的对齐collective alignment，情况就会越好。

我们——指整个行业，而不仅仅是 OpenAI——正在为世界构建一个“大脑”。这个“大脑”将是高度个性化的，每个人都可以轻松使用；我们未来唯一的限制，将是缺乏好的创意。

长期以来，科技创业圈一直取笑那些“点子大王”——只有想法却还需要团队来实现的人。现在在我看来，他们即将迎来属于自己的高光时刻。

OpenAI 如今身兼数职，但首先最重要的是，我们是一家超级智能研究公司。我们面前有大量工作要做，但我们前方的大部分道路，现在已经被照亮，未知的黑暗区域正在迅速后退。

能够从事我们正在做的事情，我们感到无比感激和庆幸。

“智能便宜到无需计量”这一目标，已在掌握之中。

这话听起来或许疯狂，但如果我们在 2020 年时就告诉你我们今天会达到这样的局面，那可能听起来比我们对 2030 年的预测更加疯狂。

愿我们能够借助超级智能，既能平稳、又能指数级且波澜不惊地完成这一攀升之路。