《梅根（M3GAN）》中的娃娃不可怕，什么样的人工智能最可怕？

春节假期最后一晚有幸看了温子仁监制的最新电影《梅根》，这个电影1月24号刚上线，刚过3天我很幸运也看到了。电影设定是恐怖片，大致讲了一个人工智能小孩的恐怖故事。

故事并不复杂，也不算太恐怖，对这类题材感兴趣的可以去看看。在看电影时，我一直在思考一个问题，就是什么样的人工智能最可怕。当然首先我们得定义一下我这里提到的人工智能的概念，我说的人工智能并不是现在什么Siri，天猫精灵等这些。这些我们平时生活中所接触的所谓“人工智能”离“智能”还很远，我讲的人工智能意思是有自我意识的，能够感知到自己存在的，还能够思考自己存在意义的。

其实说白了就是像我们人类一样，我们会意识到自己的存在，并会思考自己存在的意义。自我意识是对自己身心活动的觉察，即自己对自己的认识，具体包括认识自己的生理状况、心理特征以及自己与他人的关系。我特意去查了一下人大概是从什么时候开始有自我意识的，找到这样的话：

“儿童在1周岁以后开始意识到自己身体的感觉，以及身体的各个部位，这时儿童的自我意识已经发展到表象阶段，也就是我们通常意义上讲的人在一起周岁左右具有意识指的就是这个。大约在2岁以后，婴儿逐渐学会使用"我"，这标志着儿童从自我意识的表象阶段过渡到思维阶段，已能把自己同周围事物区分开来，有了真正的自我意识。”

“研究表明婴幼儿1周岁前后，开始显示出主体我的认知，是自我意识萌芽的开始，自我意识一般需要经过20多年的发展，直到青年中后期才能形成比较稳定、成熟的自我意识。”

也就是说我们在1-2岁，基本在上幼儿园之前就有自我意识。然后会经历20多年的发展，逐渐成熟。孔子在他的《论语·为政》里讲过“吾十有五而志于学，三十而立，四十而不惑，五十而知天命，六十而耳顺，七十而从心所欲，不踰矩”。四十而不惑，说明人有自我意识很早，但是还是经历了很久的发展，要20年以上。这方面我们每个人都会有切身体会。

上面这些内容其实就是为了说明，我讨论的是这样有自我意识的人工智能，而不是像只能靠程序设定好的智能问答系统。可以看出，具有自我意识的成熟的人况且需要几十年，那产生有自我意识的人工智能会更困难。这也从一方面说明了我之前的一个观点，制造具有自我意识的人工智能很难。

只要把前提概念设定好，就可以回答标题中的问题了。《梅根》中的人工智能娃娃并不可怕，因为她的宇宙还是她的主人，也就是主人公小女孩。一切的一切都是围绕小女孩服务的。虽然她会为了维护主人而不择手段，但仍在可控范围内。真正令人恐惧的人工智能并不是这样的。

真正可怕的人工智能就是前面提到的具有自我意识，能思考自我存在意义的人工智能。为什么这么说呢？其实根源在于人类自身。

如果一个人工智能有了自我意识，我们人类该怎么去面对ta？如果一个人工智能有了自我意识，必然会思考自身存在价值，并同样可以合理推论出ta会有生存下去的渴望​。这时候，ta的寿命会有无限长，我们人类该怎么对待这种“老怪物”​。

其实说到根本，就是人类的伦理问题，会适用于这类具有自我意识的人工智能。我们人类遇到的生杀予夺问题，遇到寿与天齐的人工智能该怎么办？想象一下，一个具有自我意识的电脑在你面前，求你不要“杀死”ta，你会作何反应​？

想想这些问题就很可怕，比较起来，《M3GAN》里面的娃娃简直就是小儿科​了。