两个关于AI的思想实验：对熟视无睹的日常事物提出疑问的能力

人工智能实验

第一个思想实验，来自著名的人工智能研究者，泰格马克，也就是《生命3.0》的作者。他曾经做过一个假设，我们姑且称之为末日假设吧。

大概说的是，假设未来世界上出现了一种病毒，专门感染5岁以上的人。坏消息是，世界上所有5岁以上的人都死光了，只剩下一群不到5岁的孩子。而好消息是，你是唯一一个有抗体的成年人。现在，这群5岁的孩子，是既怕你，又需要你。怕你，是因为你比他们强壮。需要你，是因为你最有文化。

因此，他们就把你关在一个笼子里，控制起来。然后给你下达了一个指令，不惜一切手段，带领他们重建人类文明。

请问，当你接到这个命令之后，第一件事，应该做什么？是赶紧把自己掌握的知识教给他们？还是赶紧跟他们一起下地干活，建造工厂？都不是。你大概率上，做的第一件事，就是摆脱这群5岁孩子的控制。

还记得他们给你下的指令吗？不惜一切手段，重建人类文明。而要想完成这个任务，你就不可能让这群5岁的孩子领导你。因为这太耽误事了，远不如自己单干。

泰格马克认为，在这个思想实验中，人类就相当于这群5岁的孩子，而你，就相当于人工智能。即使你的初衷是让人类更繁荣，为了完成这个任务，你也一定会想方设法，摆脱人类的控制。因为来自人类的控制，反而会降低你完成任务的效率。

换句话说，泰格马克认为，人工智能不听话，这是早晚的事。当然，这个思想实验有一个前提，就是人工智能，已经具备能够自己改进自己，自己设计自己的能力。简单说，就好比GPT-4，得能在不需要人的情况下，自己设计出GPT-5。只有它们的能力达到这个程度，才有可能发生AI叛变。

第二个思想实验，来自华盛顿大学的一个计算语言学家，叫艾米丽·本德尔，最近写的一篇论文，里面讲了个关于章鱼的故事。我们可以称之为，章鱼实验。

这个实验有点像图灵测试的变形版。说的是，假设有两个人，露丝和杰克，分别被困在了两座无人的小岛上。但是好在，这两个小岛上，都有前人留下的电报机。因此，露丝和杰克，可以通过电报聊天。虽然方式很落后，但也总比没有好。

但是，就在小岛附近的深海里，生活着一只特别聪敏的章鱼。而且章鱼可以通过水下电缆，听露丝和杰克聊天。久而久之，章鱼就掌握了杰克和露丝的说话习惯，并且找到了一种方法，通过海底电缆，给露丝和杰克发电报。

简单说，就是章鱼也开始加入露丝和杰克的聊天。它一会儿冒充露丝，一会儿冒充杰克。而且因为这只章鱼的模仿能力很强，露丝和杰克都没发现章鱼的存在。直到某天，章鱼收到一条杰克的求救，内容是，我被熊攻击了，应该怎么办？帮我想想办法。

请问，这只章鱼会怎么回答？你可能会说，当然是模仿露丝的思考，赶紧回复杰克啊。但事实上，章鱼没法回答，因为它一直生活在海底，根本不知道熊是个什么东西。

这个故事想说的是，人工智能的局限到底是什么？答案是，它擅长模仿，但不擅长事实。也就是，它能很好地完成你教过它的任务。但是，它对没有接触过的全新事实，缺乏处理能力。

我理解，这个思想实验是在说，很多创新性的任务，归根结底，还得靠人来完成。