“本文翻译自Tim Urban发表的《The AI Revolution》，从原文发表至今已有8年，随着人工智能近些年的发展，特别是2022年AI大模型及AIGC铸就的长足进步，使得我们重新翻看这篇文章时，引人深思，特与大家分享。谱文时发现一个更有趣的事情，作者与Musk有很深的渊源，各种蛛丝马迹显示，Musk的OpenAI和Neuralink也正如文中所提的方式探索着。此篇为Part I，总篇幅3+1约5万字，点个关注，后续马上来”

以下内容翻译自《The AI Revolution: The Road to Superintelligence》，译者：左脉梦幻师，原文由作者Tim Urban于2015在其创建的waitbutwhy.com网站发表，版权归原作者所有，侵删。顺便帮博主打个小广告，如果您喜欢原著，可以去waitbutwhy网站购买PDF原版供收藏。

我们正处于变化的边缘，这可以与地球上人类生命的起源相提并论。-- Vernor Vinge

如果你正站在这个位置，你会是什么感受？

看似你站在了一个非常疯狂的时间点 -- 但是，你要清楚，实际上你是无法预知时间轴上右侧是怎么样的，所以，实际上你是这样的：

你的感受或许和平时没什么两样。

01 / 遥远的未来正在来临

想象一下当你乘坐时光机回到 1750 年，那个没有电、通信靠吼、交通靠拉的世界。你从那个找一个家伙并把他带回到 2015 年，然后带他四处走走，观察他对一切的反应。他无法理解他看到一切：闪亮的金属仓在高速公路上飞驰；与远在大洋彼岸的人交谈；观看1000英里外正在进行的体育比赛；聆听50年的乐曲；并使用一个黑色魔法盒来捕捉现实生活中的图像，或是记录生活中的瞬间；生成一张上面有一个个超自然移动的蓝点的地图，显示着他所在的位置；透过盒子看着某人的脸并与他们聊天，即使他们在这个国家的另一边，以及其他这个世界中不可思议的魔法。而这一切，仅仅是在你向他展示互联网、或者是国际空间站、大型粒子对撞机、核武器或广义相对论之类的东西之前的前菜。

这段经历对他来说，兴奋、惊讶或震惊应该说是不足于表达的 -- 他有可能直接会被吓得GG了。

但有趣的是，如果看到我们后如此之嫉妒，并决定以同样的方式乘坐时光机回到相同的距离的年代：1500年，并带一个人回到1750年，并向他展示一切。1500年的这位兄弟或许也会些许震惊，但是，他不会被吓死。因为，虽然1500年和1750年非常不同，但它们与1750年到2015年的之相比，区别小得太多。1500年的人会学到一些令人费解的关于空间和物理的知识、他会对欧洲新帝国主义的狂热留下深刻印象、他不得不对他的世界地图构想进行一些重大修改。但看着1750年的日常生活 -- 交通、通讯等 -- 绝对不至于会让他被吓GG。

确实不会，为了让这个1750年的家伙玩得开心，他必须回到更远的地方 -- 或许追溯到公元前12,000年，在第一次农业革命产生第一批城市和文明之前的。如果带来一个来自纯粹的狩猎时代的人 -- 当时人类或多或少只是另一种动物形式的存在，当他看到1750年广阔的人类帝国、高耸的教堂、海洋渡轮、居住于室内，以及他们堆积如山的收藏、知识积累和探索发现 -- 那这家伙或许会被吓GG。

然后，在他被吓死后，他想做同样的事情，怎么办。如果他从从公元前24,000年带一个兄弟回到12,000年，并向他展示一切，那个人会说，“好吧，就这？”。对于公元前12,000年的人来说，要达到同样的效果，需要从100,000多年前带一个人回来，并向他展示生火和语言交流。

为了让某人被传送到未来并把他吓GG的震惊程度，他们必须满足足够多的时间跨度，这个跨度被称之为“死亡进程数”或死亡进步单位 (DPU)。因此，在原始社会时代，一个DPU花费了100,000多年，但按照农业革命后的速度，它只用了大约 12,000年。工业革命之后，世界发展如此之快，以至于一个DPU仅需1750年的人向前走几百年。

这种模式 -- 人类进步随着时间的推移越来越快 -- 就是未来学家雷·库兹韦尔（Ray Kurzweil）所说的人类历史的加速回报法则（Law of Accelerating Returns）。发生这种情况是因为更先进的社会有能力以比欠发达的社会更快的进步 -- 因为它们更先进。19世纪的人类比15世纪的人类知道得更多，技术也更好，因此19世纪的人类比15世纪取得的进步要大得多也就不足为奇了 -- 15世纪的人类无法与19世纪的人类相提并论。

这也适用于较小的时间跨度。电影《回到未来》上映于1985年，“过去”发生在1955年。在电影中，当迈克尔·J·福克斯回到1955年时，电视的新奇、苏打水的价格、刺耳的电吉他、以及俚语的变化让他措手不及。那是一个不同的世界，是的，但如果这部电影是在今天拍摄的，“过去”发生在1985年，那么这部电影或许可以更有趣，也有完全的不同。这个角色将出现在个人电脑、互联网或手机出现之前的时代 -- 今天的Marty McFly，一个出生于90年代末的少年，回到1985年将比电影中的Marty McFly在1955年时更加格格不入。

这与我们刚才讨论的原因相同 -- 加速回报定律。1985年至2015年的平均进步速度高于1955年至1985年的速度 -- 因为前者是一个更先进的世界 -- 最近30 年发生的变化比之前30年要多得多。

所以，世界的变迁速度正在越来越快，对吧？这是否也暗示着我们的未来，巨变也正在临近，对吧？

Kurzweil认为，如果按照2000年的进步速度，整个20世纪一百年的进步如今只需20年就可以实现 -- 换句话说，到2000年，平均进步速度是20世纪的五倍。他认为，另一个等同于20世纪的进步速度发生在2000年至2014年之间，而再一个进步仅需七年时间，约在2021年（巧吗？刚过7年）。几十年后，他相信，一年发生可以顶上好几个20世纪的百年进步，甚至不到一个月就能发生一次。总而言之，由于加速回报定律，Kurzweil认为21世纪将取得20世纪1,000倍的进步。

如果Kurzweil和其他相同他观点的人是正确的，那么到2030年，我们就会像 1750年的人到2015年一样 -- 即下一个DPU可能只需要几十年 -- 而2050年可能与今天的世界完全不同，以至于我们几乎认不出它。

这不是科幻小说，许多比你我都聪明、知识更渊博的科学家们都坚信这一点 -- 这是从历史回顾可以得出的逻辑上的合理预测。

那么，为什么当你听“35年后世界可能会天翻地覆”之类的话时，你总是不置可否、甚至觉得好笑？对于这种对于未来古怪预测的质疑，有三个原因：

1) 我们都是以线性思考历史的。当我们想象未来30年的进步时，我们会参考过去30年的进步，当我们思考21世纪的进步时，我们只是将20世纪的进步放到2000年。这与上面1750年的人犯了同样的错误，他期望从1500年带来的人并能够给予足够的震惊。当我们应该以指数方式思考时，我们习惯性的还是以线性思考。聪明人，他们可能会以当前的发展速度预测未来30年的进步，而不是对比过去30年为依据。为了更正确地思考未来，你需要以更快的发展速率想象事物时代的进步。

2）历史的发展总是呈波浪型波动向前的。首先，是陡峭的指数型曲线，当你只截取很小一段，它依然是线性的。就好比圆周，如果你切得足够细时，它看起来几乎像一条直线。其次，指数增长也并不完全平稳和均匀。Kurzweil解释说，进步发生在“S曲线”中：

当新范式的出现推动人类进步时，S曲线呈现三个阶段：

1、缓慢增长（指数级增长初期）

2、快速增长（指数级爆发阶段，增长的中后期）

3、随着特定范式的成熟而趋于平稳

如果你只回顾的历史，你目前所在的S曲线部分可能会掩盖你对事物发展速度的看法。1995年到2007年这段时间见证了互联网的爆炸式增长，微软、谷歌和 Facebook进入公众视野、社交网络的诞生、以及智能手机的问世，但那已是第2阶段：S曲线增长突飞猛进的那部分。但2008年至2015年就少了很多突破，至少在技术方面是的。今天思考未来的人可能会回顾过去几年，来衡量当前的进步速度，但忽略了一个更大的全景。实际上，一个全新的、巨大的飞跃可能正在酝酿中。

3）经验阻碍我们看待未来，让我们成为固执的老头。我们基于个人经历来构建世界观，这种增长速度，即“世界变化的速度”，已经在我们的头脑中根深蒂固。我们还受到想象力的限制，想象力会利用我们的经验来预测未来 -- 但通常，我们的认知并不能帮我们准确预知未来。当我们听到关于未来的预测与我们现有经验相矛盾时，我们的直觉是该预测一定是幼稚的。如果我在这篇文章的后面告诉你，你可能会活到150岁，或250岁，或者根本不会死，你的直觉会是，“这太愚蠢了 -- 我从历史中知道一件事，那就是每个人都会死。” 是的，过去没有人没有死。但在飞机发明之前也没有人驾驶过飞机。

因此，当您阅读这篇文章时，第一反应是“呵呵”，但实际上你可能真的是错了。如果我们真正以逻辑合理推理的方式去推测未来，结论可能是未来几十年发生的变化比我们的直觉要多得多。逻辑还表明，如果一个星球上最先进的物种继续以越来越快的速度向前进化，那么在某个时候它们将实现巨大的飞跃，以至于完全改变它们所知的生活和感知，他们将成为“人类” -- 有点像不断向前进化的智能，使得它让人类产生巨变，以至于完全改变了所有生物的命运。如果你花一些时间洞察当今科技的发展，你就会发现或许我们对于生命的认知将要彻底改变。

02 / 超智能之路

什么是AI？

如果你像我一样，曾认为人工智能是一个很愚蠢的科幻概念，但最近不断有严肃的人提到它，你会感到很困惑。

很多人对AI一词困惑的原因有三个：

1、AI总是和电影联想到一起。星球大战、终结者2001：太空漫游等等。电影是虚构的，那些电影角色也是虚构的，所以我们总是觉得人工智能缺乏真实感。

2.人工智能是个很宽泛的话题。从手机上的计算器到无人驾驶汽车，到未来可能改变世界的重大变革，人工智能可以用来描述很多东西，所以人们会有疑惑。

3.AI已渗透到我们的日常生活中，只是我们没意识到。John McCarthy，在1956年最早使用了人工智能（Artificial Intelligence）这个词。他总是抱怨“一旦一些东西使用了人工智能，人们就不再叫它人工智能了。”因为这样，所以人工智能听起来总让人觉得是未来的神秘存在，而不是身边的现实。同时，这种效应也让人们觉得人工智能是一个从未实现的概念，Kurzweil提到经常有人说人工智能在80年代就被遗弃了，这种说法就好像“互联网在21世纪初互联网泡沫破灭时已死”一样可笑。

所以我们先把事情捋顺。首先，不要再想机器人了。机器人只是AI的容器，有些是人形的，有些则不是 -- 但AI本身就是机器人内部的计算机。人工智能是大脑，机器人是它的身体（如果它有身体的话）。例如，Siri背后的软件和数据是 AI，我们听到的女人的声音是AI的化身，没有实体的机器人。

其次，您可能听说过“奇点（singularity）”或“技术奇点”一词。该术语在数学中用于描述正常的规则不再适用的类似渐近线的情况。它在物理学中被用来描述一种现象，比如一个无限小、致密的黑洞，或者我们在大爆炸之前都被挤压到的那个临界点，同样是通常的规则不再适用的情况。1993年，弗诺·文格 (Vernor Vinge) 写了一篇著名的文章，他将这个词用于未来我们的技术智能超过我们自己的那一刻 -- 对他来说，在那一刻之后，我们所有的生活将被永远改变，正常规则将不再适用。Ray Kurzweil的定义则是当加速回报法则达到极端的速度，以至于技术进步以接近无限快速的速度发展时，以此之后我们将生活在一个全新的世界。我发现今天许多人工智能研究者已经停止使用这个术语了，所以我不会在这里复述太多（尽管我们始终关注这个想法）。

最后，由于AI是一个广泛的概念，因此会有许多不同种类或者形式的AI，但我们基于AI的能力，把AI归类为三大口径：

1) 弱智能-狭义人工智能（ANI）：狭义人工智能是专注于某个特定领域的人工智能。有的人工智能可以在国际象棋中击败世界象棋冠军，但这是它唯一能做的事情。要求它找出在硬盘上存储数据的更好方法，它会茫然地看着你。

2) 强智能-通用人工智能 (AGI)：或称之为人类级人工智能，通用人工智能指的是全面与人类一样聪明的计算机 -- 可以执行任何与人类相当的任务的机器。构造AGI比构造ANI难得多，而且我们还没有做到。Linda Gottfredson教授将智力描述为“一种非常普遍的心理能力，在事务中推理、计划、解决问题、抽象思考、理解复杂思想、快速学习和从经验中学习的能力。” AGI将能够像人类一样轻松地完成所有这些事情。

3) 超智能-超级人工智能 (ASI)：牛津大学哲学家和领先的人工智能思想家Nick Bostrom将超级智能定义为“一种几乎在所有领域都比最优秀的人类更聪明的智能，包括科学创造力、一般智慧和社交技能。”超级人工智能的范围从比人类聪明一点点，比人类聪明数亿万倍的计算机，均属于其范畴。ASI是AI话题如此火爆的原因，也是为什么“永生”和“灭绝”这两个词会多次出现在这些帖子中的原因。

如果想体验近似AGI，欢迎访问：aispacelab.cn

时至今日，我们已经征服了最低级别的人工智能ANI，而且它已无处不在， AI革命是从ANI，经过AGI，到达ASI的道路 -- 一条我们可以得到“永生”也可能“灭绝”的道路，无论哪种方式，它都会改变一切。

让我们仔细看看该领域的主要思想家认为这条路是什么样的，以及为什么这场革命可能发生的比您想象的更早：

01. 当前的世界：ANI

狭义人工智能是在特定事物上等于或超越人类聪明程度或者效率的机器智能。几个例子：

1. 汽车上到处都是ANI系统，从计算防抱死制动系统的计算机到调整燃油喷射系统参数的计算机。包括现在正在测试的谷歌自动驾驶汽车也包含强大的ANI系统，使其能够感知周围世界并做出反应。
2. 你的手机就是一个小ANI工厂。当您使用地图应用程序导航、接收来自 Pandora 的定制音乐推荐、查看明天的天气、与 Siri 交谈或进行许多其他日常活动时，您就是在使用ANI。
3. 您的电子邮件垃圾邮件过滤器是一种经典类型的ANI -- 它开始加载关于如何判断什么是垃圾邮件、什么不是垃圾邮件的智能，然后随着您的特定偏好获得经验，它会学习并为您定制智能。Nest Thermostat会做同样的事情，因为它会开始计算您的典型例行程序并采取相应的行动。
4. 当你在亚马逊上搜索产品，然后你在另一个网站上看到它是“为你推荐”的产品，时，这会令你毛骨悚然，或者当Facebook以某种方式向你推荐添加好友时，那都是一个ANI系统网络，它们共同工作，相互告知你是谁，你喜欢什么，然后使用这些信息来决定向你展示什么。亚马逊的“买了这个的人也买了……”也是如此 -- 这是一个ANI系统，它从数百万顾客的行为中收集信息，并综合这些信息，巧妙地向你推销，这样你就会买更多的东西。
5. 谷歌翻译是另一个经典的ANI系统 -- 在一项狭窄的任务上表现出色。语音识别是另一种，有很多应用程序使这两个ANI搭配使用，让你用一种语言说一个句子，然后让手机用另一种语言说出相同的句子。
6. 当你的飞机降落时，决定它应该去哪个登机口的不是人。就像不是人决定了你的票价一样。
7. 世界上最好的西洋跳棋、国际象棋、拼字游戏、西洋双陆棋和奥赛罗棋手现在都是ANI系统。
8. 谷歌搜索是一个巨大的ANI大脑，具有极其复杂的算法来对页面进行排序，并确定要特别向您展示的内容。Facebook的Newsfeed也是。
9. 上面那些只是在消费者世界。复杂的ANI系统已广泛应用于军事、制造和金融等部门和行业（算法高频 AI 交易员占美国市场交易股票的一半以上)，以及帮助医生进行诊断的专家系统，最著名的是IBM的Watson，储存了大量知识，还能理解主持人的提问，在竞猜节目中能战胜最厉害的参赛者。

现在的ANI系统并不是特别吓人。最坏的情况，一个故障或编程错误的ANI只可能会导致相对孤立的灾难，例如摧毁电网、导致有害的核电站故障或引发金融市场灾难（如2010闪崩事件，ANI程序一些出乎意料的反应和错误导致金融市场崩盘，股市短暂暴跌，市值蒸发了1万亿美元，其中只有一部分在错误纠正后恢复）。

但是，虽然ANI不会造成生存威胁，但是我们应该警惕这个相对无害的ANI，在日积月累后组成的，日益庞大和复杂的生态系统。现在的每一项ANI的创新都在 为AGI和ASI的的发展添砖加瓦。正如Aaron Saenz所见，我们世界的ANI系统“早期原始地球软泥中的氨基酸” -- 在某个意想不到的日子苏醒过来的无生命物质。

02. 从弱人工智能（ANI）到强人工智能（AGI）

为何如此困难？

复刻一个与人类一样聪明的计算机，是多么令人难以置信以及让人拍案叫绝的挑战。这是建造摩天大楼、将人类送入太空或者弄清楚大爆炸细节，所有这些事无法比拟的，他们都比理解我们的大脑是如何运作的，并制造一个一样酷的东西要容易得多。时至今日，人脑依然是宇宙中已知的最复杂的东西。

有趣的是，尝试构建AGI（与人类一样聪明的计算机，而不是只在一个狭隘专业领域的人工智能）的困难，并非是你想的那样。

一台可以计算十位数乘法的计算机 -- 非常简单。一个可以可以分辨它是狗猫的机器 -- 非常困难。可以在国际象棋中击败人类的人工智能？早就做到了。可以阅读六岁儿童绘本中的一段话，并能理解其含义？谷歌正花费数十亿美元尝试做到这一点。

我们认为困难的事情 -- 比如微积分、金融市场策略和语言翻译 -- 这对计算机来说极其的简单，而我们认为的一些简单的事情 -- 比如视觉、动态、运动和直觉 -- 对它来说却极其其困难。或者，正如计算机科学家唐纳德·高德纳 (Donald Knuth) 所说，“人工智能现在基本已经能做好所有需要‘思考’的事情，但却做不了大多数人和动物都‘无需思考’就能做的事情。”

你应该很快就能意识到，那些对我们来说似乎很简单的事情，实际上极其复杂，它们之所以看起来简单，是因为这些技能已经在我们（和大多数动物）身上经过数亿年的进化和优化了。当你把手伸向一个物体时，你肩膀、肘部和手腕的肌肉、肌腱和骨骼会立即与你的眼睛一起构成一个三维系统，执行一系列物理动作，让你的手向目标物体直线移动。这对你来说轻而易举，因为你的大脑中软件已经“非常完美”了。同样，也就是为什么当你网站上注册新账户时，恶意软件搞不定验证码，而你却能够轻而易举完成。

另一方面，大数相乘或者下象棋，这些都是生物的新活动，我们还没有足够的时间来进化以熟练掌握，所以计算机可以轻而易举的打败我们。试想一下，哪个更容易做到，构建一个计算大数相乘的程序，或者一个可以识别成千上万种不同字体或手写体字母的程序？

一个有趣的例子 -- 当看这个时，你和计算机都可以很快地看出它是一个具有两种不同阴影的矩形交替出现的图形：

但如果用这个团案的话：

你可以很快地描述出图形的圆柱形、3D、矩形、不同阴影灰度等，但计算器就完全无法描述出来。计算机能够描述各种深度不同的二维平面形状，但是人脑却能把所有的形状、阴影、细节、组合全部解读出来。再比如下面的图片，电脑看到的是黑、白、灰，而你能很快分辨出来这是一个石头。

而且，我们到现在谈的还是一些静态不变的信息。要想达到人类级别的智能，计算机必须要理解更高深的东西，比如脸部微表情，开心、放松、满足、满意、高兴这些类似情绪之间的区别，以及为什么《勇敢的心》是好电影，而《爱国者》是烂电影。

很难是吧？如何才能达到呢？

构建AGI的第一关键：足够的算力

要使 AGI 成为可能，第一件事是计算能力的增强。如果人工智能系统要像大脑一样聪明，它至少需要与大脑的相同的计算能力。

表达这种能力的一种方法是大脑每秒可以处理的总计算量 (calculations per second, cps)，你可以通过计算出大脑中每个结构的最大cps然后将它们加在一起来得出这个数字。

Ray Kurzweil想出了一个捷径：称重，他采用某人对一个结构的cps的专业估计，并将该结构的重量与整个大脑的重量进行计算，按比例相乘以获得总cps的估计。听起来不靠谱，但他用大脑不同局部的值进行多次估计，总和都类似：大约10的16次方，或1亿亿cps。

目前，世界上最快的超级计算机，中国的天河二号，实际上已经超过了这个数字，达到约3.4亿亿cps。但天河二号和一个人的大脑比起来也只是个小弟，占地720平方米，用电24兆瓦（大脑运行仅需20瓦），造价3.9亿美元。甚至较为通用的商业或工业用途场景都还不适用。

Kurzweil认为考虑电脑的发展程度的标杆是看1000美元能买到多少cps，当1000美元能买到人脑级别的1亿亿运算能力的时候，强人工智能可能就是生活的一部分了。

摩尔定律认为全世界的电脑运算能力每两年就翻一倍，这一定律有历史数据所支持，这同样表明电脑硬件的发展和人类发展一样是指数级别的。我们用这个定律来衡量1000美元什么时候能买到1亿亿cps。现在1000美元能买到10万亿cps，和摩尔定律的历史预测相符合。

$1000能买到的cps，及约等于大脑容量对比

因此，目前1,000美元的计算机现在已能击败老鼠的大脑，它们的水平约为人类的千分之一。这听起来并不多，但是，在1985年其大约是人类水平的万亿分之一，1995年是人类水平的十亿分之一，2005年是人类水平的百万分之一。2015 年是千分之一，到2025年，与一个人类大脑相媲美的计算机将是人人都负担的起了（还有2年，拭目以待）。

因此，在硬件方面，AGI所需的算力现在在中国技术上已是可用了的，且10年内将普及AGI级的硬件。但是，仅靠算力并不能使计算机具备通用智能 -- 下一个问题是，我们如何将人类水平的智能赋予此？

构建AGI的第二关键：让其足够聪明

这很棘手。事实是，没人知道如何让计算机变得像人一样聪明，能够知道什么是狗、写得怪异的B和分辨烂片。但是有很多尝试在某个时候或许会奏效。以下是我遇到的三种最常见的策略：

1）剽窃大脑

这就像科学家们苦思冥想，为什么坐在他们旁边的那个孩子很聪明，考试总是那么好，即使他们一直在努力学习，也做不到那个孩子那么好，然后，他们最终决定“去他妈的，我只是要复制那个孩子的答案。” 这是有道理的 -- 我们在尝试建造一台超级复杂的计算机时遇到了困难，而我们每个人的脑海中恰好都有一个完美的原型。

科学界正在努力对大脑进行逆向工程，以弄清楚进化是如何产生如此出色的东西的 -- 乐观估计我们可以在2030年之前做到这一点。一旦我们做到了这一点，我们就会知道大脑如何强大而高效运行的所有秘密，我们可以从中汲取灵感并窃取其创新。模仿大脑的计算机体系结构的一个例子是人工神经网络。它最初是一个晶体管“神经元”网络，通过输入和输出相互连接，它什么都不知道 -- 就像婴儿的大脑一样。它“学习”的方式是尝试完成一项任务，比如手写识别，起初，它的神经元放电和随后对每个字母的猜测将是完全随机的。但是，当它被告知它做对了某事时，恰好产生该答案的发射路径中的晶体管连接得到加强；当它被告知错误时，这些通路的联系就会被削弱。经过大量的试验和反馈，网络本身已经形成了智能神经通路，并且机器已经针对任务进行了优化。大脑有点像这样学习，但以更复杂的方式学习，随着我们继续研究大脑，我们正在发现巧妙的新方法来利用神经回路。

更极端的剽窃涉及一种称为“全脑仿真”的策略，其目标是将真实的大脑切成薄层，扫描每一层，使用软件组装一个精确的重建3D模型，然后在功能强大的计算机上实现该电脑模型。届时我们将拥有一台正式具备大脑所有能力的计算机 -- 它只需要学习和收集信息。如果工程师做得非常好，他们将能够以如此精确的精度模拟真实的大脑，一旦将大脑结构上传到计算机，大脑的完整个性和记忆就会完好无损。如果计算机大脑是在Jim去世前建立的，那么计算机现在将以Jim的身份醒来，这将是一个强大的人类级AGI，然后我们可以努力将Jim变成一个难以想象的超智能ASI。

我们离实现全脑仿真还有多远呢？到目前为止，我们还未能模拟一个1毫米长的扁虫大脑，它总共只有302个神经元，而人脑包含1000亿个。如果这个数字使项目看起来无望，请记住指数级的进步 -- 既然我们已经征服了微小的蠕虫大脑，不久之后可能会出现一只蚂蚁，然后是一只老鼠，突然间这似乎更合理了（漂亮国已经取得进步了）。

2）模拟进化

模仿聪明孩子考试太难，那我们可以尝试复制他为学习方式。

这正是我们所知的，我们自己大脑的进化就是证明，因此建造一台像大脑一样强大的计算机也是可能的。如果大脑过于复杂无法模仿，那我们可以尝试模仿进化。就像我们试图通过模仿鸟的拍打动作来制造飞机一样 -- 最好是使用全新的、面向机器的方法来设计机器，而不照搬生物学。

所以我们如何通过模拟进化的来造强人工智能呢？这种方法叫做“基因算法”，它大概是：建立一个反复运作的表现/评价过程，就好像生物通过生存这种方式来表现，并且以能否生养后代为评价一样。一组电脑将执行各种任务，最成功的将会“繁殖”，把各自的程序融合，产生新的计算机（算法），而不成功的将会被剔除。经过多次的反复后。这个自然选择的过程将产生越来越强大的计算机（算法）。而这个方法的难点是建立一个自动化的评价和繁殖过程，使得整个流程能够自己运行。

这个方法的缺点是，进化往往需要十亿年才能完成，而我们希望在几十年内完成。

但是比起自然演化来说，我们有很多优势。

首先，自然演化是没有预知能力的，它是随机的 -- 它产生的没用的变异比有用的变异多很多，但是人工模拟的演化可以控制过程，使其着重于有益的变化。其次，自然演化是没有目标的，自然演化出的智能也不是它目标，特定环境甚至对于更高的智能是不利的（因为高等智能消耗很多能源）。但是我们可以控制演化的过程向更高智能的方向发展。再次，要产生智能，自然演化要先产生其它的附件，比如改良细胞产生能量的方法，但是我们完全可以用电力来代替这额外的负担。所以，人类主导的演化会比自然快很多很多，但是我们依然不清楚这些优势是否能使模拟演化成为可行的策略。

2）转化为计算机问题

这是科学家们感到绝望并试图对测试进行编程和自我测试的尝试。但它可能是最有前途的方法。

想法是，我们要建造一台自编码的计算机，它的两项主要技能是对人工智能进行研究和对自身的变化进行不停的编码 -- 让它不仅可以学习，还可以改进自己的架构。我们会教计算机成为计算机科学家，这样他们就可以引导自己的发展。这将是他们的主要工作 -- 弄清楚如何让自己变得更聪明。稍后会详细介绍。（像不像OpenAI？）

所有这一切很快可能发生

硬件的快速进步和软件的创新探索在同时发生，AGI可能会迅速而意外地出现在我们身上，主要原因有两个：

1) 指数增长非常剧烈，蜗牛般的前进速度可以快速上升 -- 这张GIF很好地说明了这个概念：

2）当涉及到软件时，进步似乎很缓慢，但是顿悟可以立即改变进步的速度（有点像科学，在人类认为宇宙以地心为中心的时候，很难计算出宇宙是如何运行的 , 但随后发现它是日心时，突然一切变得容易得多了）。或者，当涉及到诸如自我改进的计算机之类的东西时，我们可能看起来很遥远，但实际上只需对系统进行一次调整，就可以使它的效率提高1,000倍，并提升到人类智能水平。

03. 从强人工智能（AGI）到超人工智能（ASI）

总有一天，我们将实现AGI -- 具有人类一般智能的计算机，和人类平等地生活在一起。

完全不会！实际上，具备算力以及与人类相同智能水平的AGI会显著比人类有优势。比如：

在硬件上：

-速度。脑神经元的运算速度最多是200Hz，今天的微处理器就能以2GHz，也就是神经元1000万倍的速度运行，而这比我们达成强人工智能需要的硬件还差远了。大脑的内部信息传播速度是120m/s，计算机的信息传播速度是光速，差了好几个数量级。

-容量和储存空间。人脑先天就那么大，后天无法把它变得更大，就算真的可以，每秒120m/s的传播速度也会成为巨大的瓶颈。计算机的物理大小可以非常随意，使得计算机能运用更多的硬件，更大的内存，长期有效的存储介质，不但容量大而且比人脑更准确。

-可靠性和持久性。计算机的存储不但更加准确，而且晶体管比神经元更加精确，也更不容易损坏（真的坏了也很好修）。人脑还很容易疲劳，但是计算机可以7x24小时不停地以峰值速度运作。

在软件上：

-可编辑性，可升级性，以及更广泛的可能性。和人脑不同，计算机软件可以进行更多的升级和修正，并且很容易做测试。计算机的升级可以加强人脑比较弱势的领域 -- 人脑的视觉单元很发达，但是复杂工程能力就挺弱的。而计算机则不但能在视觉元件上匹敌人类，在处理复杂工程上也一样可以加强和优化。

-集体能力。人类建立了庞大的集体智慧，以压倒性统治其他物种。从早期的语言和大型社区的形成，到文字和印刷的发明，再到互联网的普及。人类的集体智慧是我们统治其它物种的重要原因之一。而计算机在这方面比我们要强的很多，一个运行特定程序的人工智能网络能够经常在全球范围内自我同步，这样一台计算机学到的东西会立刻被其它所有计算机学得。而且计算机集群可以共同执行同一个任务，分歧、自私自利等这些人类特有的东西未必会出现在计算机身上。

人工智能很可能通过可自我改进的程序达到通用人工智能，且它不会将“人类智能”视为重要的里程碑 -- 从我们的角度来看，它只是一个相对标志 -- 而且没有任何理由到达我们的水平后就“停止”。考虑到即使是与人类智力相当的AGI也比人类更具有优势，很明显，它只会在短暂的一瞬间打击人类智力，然后进入超越人类智力的领域。

当它发生时，可能会让我们大吃一惊。原因是，从我们的角度来看，A) 虽然不同种类动物的智力各不相同，但从物种主宰的我们来看，任何动物的智力都远低于我们，并且B)我们认为最聪明的人和最愚蠢的人相去甚远。有点像这样：

因此，随着人工智能向人类水平靠近，我们会认为它只是变得相对动物来说更聪明了。然后，当它触及人类的最低能力时，我们会说，“哇哦，它就像一个笨笨的人。 好可爱！” 但问题是，从智能的大局来看，人和人的智能的差别，比如从最愚笨的人类到爱因斯坦的差距，其实是不大的。所以当人工智能达到了脑残级别的智能后，它会很快变得比爱因斯坦更加聪明：

之后会怎样？

我希望你享受现在的阅读时光，因为接下来这个话题将变得不正常和可怕，而且会保持这种状态。我想在这里停下来提醒您，我要说的每一件事都是真实的 -- 真实的科学和来自众多最受尊敬的思想家和科学家对未来的真实预测。切记！

正如我上面所说，我们目前大多数实现AGI的模型，都涉及AI自我改进。一旦到达AGI，即便不是通过自我改进的方法形成的，也足够聪明到可以根据需要开始自我改进。

这正是我们要引出一个重磅概念的地方：递归式自我改进。

它是这样工作的：某个级别的人工智能系统 -- 比方说村里的大傻 -- 是一个为实现可自我改进而编织的程序。一旦它做到了，它就变得更聪明了 -- 也许在某个时间点它达到了爱因斯坦的水平 -- 所以当它努力提高智力，有了爱因斯坦的水平时，它就更容易实现更大的提升。这些提升使其它将比任何人类都聪明得多，从而使其能够实现更大的飞跃。就如同飞轮效应一般，提升越来越大，且越来越快，AGI在智能上飙升很快就达到了ASI系统的超级智能水平。这就称为智能大爆炸！

关于人工智能还需多长时间达到人类水平的通用智能，还存在着一些争论。一项对数百名科学家的调查显示，我们可能能够达到AGI的年份的中位数是2040年，也就是距离现在只有25年了（又1/3过去了，进步我们看到了），这听起来没什么，但是要记住，很多这个领域的思想家认为从AGI强人工智能到ASI超人工智能的会快得多。就像下面这很可能会发生：

第一个人工智能系统需要几十年才能达到低级通用智能，但它终于发生了。一台计算机能够理解它周围的世界，就像一个四岁的人类一样。突然间，在达到那个里程碑的一个小时内，系统推出了统一广义相对论和量子力学的宏大物理学理论，这是人类无法确定的事情。90分钟后，AI变成了ASI，比人类聪明170,000倍。

如此强的超级智能是我们所无法理解的，就像一只黄蜂无法理解凯恩斯经济学一样。在我们的世界里，聪明意味着130智商，愚蠢意味着85智商 -- 我们没有一个词能来形容12,952的智商。

我们所知道的是，人类在地球上的绝对统治背后有一个显而易见的规则：智慧带来力量。这意味着当我们创造出ASI时，它将成为地球生命史上最强大的存在，包括人类在内的所有生物都将屈居其下 -- 这可能会在未来几十年内便发生。

如果我们的大脑能够发明WiFi，那么，比我们聪明100倍、1000倍甚至是10亿倍的东西，应该可以轻易的随意掌控世界上每个原子的位置，我们想象的一切魔法、如同至高无上的上帝般拥有的每一种力量，对ASI来说或许就像开关灯一般简单。创造永葆青春之术、治愈疾病、解决饥荒、操纵天气以保护地球上生命的未来、甚至是让人类获得永生，这一切突然都成为可能。也有可能是地球上所有生命的立即终结。就我们而言，如果ASI出现，地球上就会有一个全能的上帝 -- 对我们来说最重要的问题是：

文中提及的参考文献：

• Kurzweil, The Singularity is Near
• Nick Bostrom，Superintelligence：Paths，Dangers，Strategies
• Vardi, Artificial Intelligence: Past and Future
• Bostrom, Superintelligence: Paths, Dangers, Strategies
• Nilsson, The Quest for Artificial Intelligence: A History of Ideas and Achievements
• Pinker, How the Mind Works

求关注，后续马上来，END

登录dreamcast.aispacelab.cn，开启AI奇幻旅程！