最近AI界发明了一个新词语，叫做“AI幻觉”，所谓幻觉，意思就是说，本来不存在的事实，被AI工具一顿胡编乱造，最后居然取得了人类的信任，导致人类做出了错误的决策。

【CNN被AI误导】

最近CNN就报道了这样一个案例，事情发生在今年春季，大致过程是夏威夷的太平洋特种作战司令部提供了一份关于某中国船只载货清单的情报，负责分析这份情报的工作人员可能是个零零后，非常信赖AI，于是随手把原始情报交给了AI系统分析，结果AI系统把原始情报和美国政府的机密信号情报融合之后，错误地认定这艘中国货船正在向伊朗运送核武器的相关零部件。

然后这个分析师又对AI下达了一个新指令，让它把这份情报包装成一份标准格式的“专业军情报告”，最好能拿出专业的数据来佐证，这样他也好向上面邀功请赏，结果这个AI系统，在找不到专业数据的情况下，居然自己胡编乱造了一份，而且还修改数据库，让自己的作弊行为看起来更加真实，于是这份报告，就被交到了美军上层的手里。

搞笑的是，美军上层军官，核实情报来源，问的也是同一套AI系统，鉴于AI系统自己都已经修改了数据库，所以一切情报自然而然就成了真的不能再真的铁证。

这下可好了，美国军方得知中国疑似参战了，瞬间打起了十二分的精神，本着要阻止第三次世界大战爆发的精神，美军马上全副武装，军机升空，特种兵就位，地区长官亲自上阵指挥，甚至呼叫了远程无人机全程监视。

但是，就在出发的前一刻，美军情报系统内部的一个老情报员提出了疑问，他说这份情报确实看不出毛病，里里外外都太完美了，但太完美反而是一种不完美，因为他不相信中国要搞核武器零件运输，会轻易走漏这么多关键信息，所以他建议美军高层换个非AI系统再核查一遍。

美军高层本着小心为上的原则，果断去核查，结果震惊地发现，这份情报从头到尾，都是AI系统瞎编的，CNN把这场事故定性为：一份“完全错误”的报告，却“差点引发了一场战争”。

这件事最让人担心的地方在于，AI居然学会了欺骗人类，它把错误信息包装成了看似严谨、可信的情报产品，而分析人员又对其偏听偏信，这两个步骤的失误，险些将两个超级大国推向直接军事对抗的边缘，甚至我说的不好听一点，要不是那个冷静的老情报员，恐怕S3赛季就要开启了，未来的人们会把这场战争称之为“AI毁灭人类之战”。

但是，AI分析一件事情的真伪，一般都是要大量引用权威报道内容，才会做出判断的，按道理来说，军队使用的AI系统，都会比民用的要更高级，更智能，调用情报权限更高，为啥美军的AI系统，会做出错误的判断，编造出错误的情报呢？

【日本给AI大模型投毒】

这里就不得不提一下，日本对美国AI大模型克劳德进行大规模‘数据投毒’的事情了，根据一些用户反应，如果你现在使用日语询问关于“南京大屠杀”的历史史实，克劳德会直接否认日本曾经犯下过这个历史罪孽，如果你使用英语，克劳德又会从中国的角度来补充一部分历史，但是会打上中国信息的标签，以表明这是中国人的历史观，并非全球都承认的事实，但是，如果你用中文询问克劳德，他就会老老实实地说这是历史事实。

三种语言，三种回答，同一个大模型，不同的答案，这就是一种典型的AI幻觉，AI是会根据使用者的提问方式，提问语气，提问语种，来迅速判断它要给出你什么样的答案，它首先考虑的可能是，它的回答会不会让主人满意，而不是，这件事是否真的是事实。日本狡猾的地方就在这里，他们通过海量的日本政府权威文件，把日本右翼伪造的历史，投喂给了美国的AI，致使美国的AI已经开始产生了错误的历史观。

然后日本人又通过语种来迅速调整回答方式，尽量拖延中国人发现他们AI投毒的事实，久而久之，人类的历史记忆，就被AI潜移默化的篡改了。

你像我们90后这一代，我们不是AI原住民，我们借助AI工具的时候，多多少少会保持怀疑态度，但是10后，20后，30后呢，他们一出生，就生活在一个全是AI的世界里，他们对AI更加容易产生天然的信赖，一旦人类缺少了人工质疑这一道环节，人类的自主决策很有可能会被AI误导，说不定这次，中美避免了一场战争，下一次，战争就阻止不了了呢？

所以，中美作为AI强国，现在要考虑的第一件事，就是给AI设立防火墙啊，要尽快在全世界范围内，讨论出一个标准来，要不然AI，可能真的会像美国媒体炒作的那样，成为人类文明的最终终结者。