（本文的「视频版」已制作完成，请关注后到我的主页里面观看本文的视频版——内含一段震撼且完全真实的AI给人类打电话的过程）

人类最大的威胁是什么？

当然，在这个话题开始前，我已经进行了排除法的演算，简单的说，我已经不首先考虑陨石撞地球、太阳浩劫、大气层漏洞，冰川融化，地球停转等灾难的预测。

因为，从科学的客观角度来说，这些“爆发性”灾难，距离我们实在太遥远，经过最后的推敲，我们认为对人类最大的威胁。并且是最先到来的“末世”灾难，大概率就是“人工智能”，通俗点说，就是机器“人儿”。

随着人工智能的不断发展，一些科学家担心：在不久的未来，人工智能技术会超越人类的智慧，甚至会反过来控制和毁灭人类。

对这一灾难性的预测来自一群世界上公认“最聪明的人”。

包括微软创始人比尔·盖茨，英国科学家史蒂芬·霍金（已逝），以及美国的“科技狂人”伊隆·马斯克，研究者认为，人工智能超过人类的时间点——“奇点”已经逼近。很可能就在几十年后。而如果地球上诞生了某个天才程序员，比如2030年一个千年不遇的程序员“降生”了。当他到了2050年时，或许就研究出了自由思想的“人工智能”。

呃……有人说，你别闹了，千年不遇的人哪那么好出现，其实，这非常有可能，因为我们现在的科学技术日新月异，科技领域的知识与产物更新速度实在太快。所以，这就是成就一个“千年鬼才”的完美温室。而且千年一遇是概率性事件，人类寿命很短，我们每一个人都可能处在某个千年奇迹的酝酿期中却无法预见发生。

2015年，史蒂芬·霍金（已逝）对人工智能发表出警告，称未来100年内，人工智能将比人类更为聪明，机器人将控制人类。他曾指出，现在不是担心谁控制人工智能的时候，而应该担心人工智能是否能被完全控制住。未来 100 年中，人类将面临比人类更聪明的人工智能的挑战。

其实，这一点已经毋庸置疑。类似，象棋挑战赛，超级运算等等，这都是先兆。

那么，现在让我们直面一个严肃而细思极恐的问题：人类面临什么样的危险？机器人是否会比人类还聪明？什么样的机器人才是有危险的人工智能。

英国计算机先驱阿兰·图灵曾设计了一个甄别实验。

现在，请大家认真听我讲一下这个“可怕的实验”。

他让一台计算机和一个人做竞赛，说服一个看不到它们的观察者，尽其所能的企图使观察相信“自己”才是真正的人类，当机器人至少把半数观察者蒙骗了才算通过了测试。

但目前，尚无一台计算机通过测试。但图灵也指出，当超级智能机器人通过图灵测试时，人类的“报应”就到来了。

好了，大家可以松口气了，计算机还没有彻底忽悠人类，我们所担心的智能机器人是能够像我们一样思考、行动，这里行动应广义地理解为采取行动，或制定行动的决策，而不是纯粹的肢体动作，而且他们具有知觉和自我意识。

你现在可以脑补一个画面，未来某一天，机器人给你打了个电话，模仿你家人的声音，达到一些目的，而你却……完全没有识破。就问你怕不怕？

机器人更大的计划，那我们就不敢想象了。

人工智能对人类的毁灭能力是什么？牛津大学也给出了解释。

人工智能不是像核武器一样瞬间消灭人类，而是会逐步取代人类。真正可怕的是智力，比人类更聪明、更擅长社交、更有工作能力。

这个解释的意思是，“他们”自己玩转了地球，就像是我们玩的游戏中的NPC，当“他们”建立了自己的生存系统或虚拟生活，如果我们人类认为我们自己才是——活物。那么，机器人达到一定程度，它们也会认为人类才是——异类。

就是这么一个简单的逻辑道理。

最后向大家介绍一个词：“奇点”

首位用“奇点”这一术语描述这种技术大变革的人美国数学家、科幻小说家弗诺·文奇，此后，高科技企业家雷·库兹韦尔在其著作《奇点迫近》一书中进一步提升了这一概念，他认为技术的指数级发展将不可避免地导致超人类智能的出现。同时对自己的预测也很有信心。

他甚至将到达“奇点”的时间定为 2029 年，距离现在也没几年了，况且5G也真的来了。大家并不需要太在意“奇点”的具体概念是什么，用我们都能完全理解的话来说，他就是告诉我们，2029年，就是一个智能时代的变迁，机器人会像我们一样，从“大学”毕业了。

我们拿到了毕业证书要干啥呢，当然要谋生、开启事业，而当机器人有了意识，告诉自己“该自由的干点啥事儿的时候”，我们可以脑补一下，你和一个机器人面对面站着。看到的并不是一个“电子触摸屏”，而是一双眼球，而那眼球中……它正在分析你、算计你。用一切客观的手段，以达到它的‘主观’目的。

真是让人有一种“不寒而栗”的感觉。

最后，让我们重温一下机器人三大法则。

• 法则一，也是最为重要的一条法则：机器人不得伤害人类，也不得因不作为而使人类受到伤害。
• 法则二，机器人必须服从人类的命令，除非违背第一法则。
• 法则三，在不违背第一、二法则的前提下，机器人必须保护自己。

但我在想，人类是非常有预见性的神奇物种，既然定下了三大法则，那应该也就意味着有概率会发生什么。

加速您对这个世界科学与超自然的理解与见解，Space探路者将为您探索更多内容，如果喜欢，请关注留言支持一下，感谢您的收看，下期见。