AI选谁死谁就死？24名以色列士兵冒死披露：我们只是按下按钮

人工智能列出名单，但扣动扳机的仍是人。以色列纪录片《纳扎》中，以色列士兵揭示了自主化战争的运作方式。对于那些厌倦了硅谷高管反复预言人工智能可能导致人类灭绝的人来说，以色列新纪录片《纳扎》或许提供了另一种视角，尽管这未必是创作者的初衷。

这部近80分钟的影片远离了那些一边推动技术进步、一边宣称担忧末日风险的科技界人士。镜头转向特拉维夫的夜间屋顶：以色列电影制作人尤瓦尔·亚伯拉罕和蕾切尔·佐尔采访了24名匿名以色列国防军成员，了解他们在过去三年间对加沙持续军事打击中所扮演的角色。

《纳扎》这个名字源自希伯来语中“附带损害”的缩写。影片聚焦于哈马斯于2023年10月7日发动袭击后，逐步成为加沙战争组成部分的人工智能系统。一名士兵回忆，一位军官曾告诉他：“你必须相信这个系统。”否则，“一切都会崩溃”。士兵们提到自己参与的项目，包括用于识别敌方目标的人工智能系统“薰衣草”，以及名称颇为刺耳的“爸爸在哪里”。后者利用儿童的手机追踪哈马斯目标——即其父亲——何时返回家中。

一名士兵描述，在“爸爸在哪里”系统引发的打击中，涉嫌加入哈马斯的目标被杀，但其家人常常也会一同遇难，其中包括手机遭入侵的孩子。《纳扎》中士兵提出的某些担忧并不新鲜。现代战争如同电子游戏般的体验，自武装无人机和按键式作战出现以来便屡被提及。事实上，影片并未披露重大新内容：创作者此前已在《卫报》、+972杂志及希伯来语媒体《本地呼声》中发表过关于这些人工智能系统的许多细节。

但这或许并非影片的重点。影片的力量在于那些身处人工智能驱动的毁灭体系中的士兵所提供的第一手证词。如今，他们面对自己行为的后果，其中包括数以万计的平民死亡。

那么，这些证词究竟揭示了人工智能与战争之间怎样的关系？在《纳扎》中，没有人担心失控的人工智能会消灭人类——这更像是那些试图融资的硅谷公司所强调的问题。影片真正关注的是，人工智能如何为军方提供杀害更多人的正当化理由，同时又使人类摆脱选择打击目标的道德责任。

一名以色列国防军成员谈及自己在加沙战争中的工作时说：“我的角色完全是技术性的。”从这个角度看，人工智能让士兵与决策保持一定距离，甚至赋予这类系统某种道德优越性，因为机器不会因仇恨而驱动。一名士兵说：“让人工智能决定谁生谁死，比把决定权交给一个朋友上周刚被哈马斯杀害的人要好。”

然而，影片很快揭示了这种说法的空洞。观众得知，以军在打击一名哈马斯人员时，明知会造成数十名非战斗人员作为附带损害而死亡，单次打击造成的平民死亡人数最高可达50人。

即便人工智能被认为能够将杀人的责任从人转移给计算机，从而免除人类的道德责任，这种设想也并不成立。出现在《纳扎》中的人显然感到自己负有责任——至少，他们愿意冒着职业生涯受损、甚至可能失去自由的风险，接受电影制作人的采访。以色列总理本雅明·内塔尼亚胡曾威胁要剥夺这些制作人的国籍。

从某些方面看，《纳扎》是在控诉人工智能；但归根结底，它更是在控诉人类，尤其是那些出生于一个先后经历大屠杀创伤和10月7日袭击创伤的国家的人。当天，哈马斯及其他组织的武装人员残忍杀害约1200人，并绑架了另251人，其中许多人被扣为人质数月甚至数年。

影片传达的信息是，曾承受如此多苦难的以色列人，在那一天失去了道德底线，并建立起一套体系：为了追杀哈马斯武装人员，这套体系容许杀害大家庭成员，摧毁整片城市街区，包括医院和学校。

这场战争显然也给至少一部分以色列人带来了另一种创伤：他们哀叹自己参与了一场军事行动。根据当地卫生部门统计，这场行动已在加沙造成至少74000名巴勒斯坦人死亡。一名接受《纳扎》采访的以色列士兵描述，他透过耳机听到儿童在空袭中被杀时发出的尖叫。另一名士兵说，他看过加沙流浪狗啃食尸体的视频。

影片中的匿名以色列士兵理解一种复杂性，而这场高度对立的冲突中许多偏向某一方的观察者很难接受：哈马斯的袭击不区分士兵与平民，其恐怖之处之后，又出现了另一种恐怖——以色列发动的战争表面上以战斗人员为目标，却也明知会伤及平民。

这又将我们带回人工智能与战争的问题：人工智能真的能改善战争的进行方式吗？还是说，人们只会借此在无辜者丧生时推卸责任？再回到那些一面焦虑不安、一面筹资加速开发人工智能的末日论者：如果人工智能如此强大，那么在战争持续3年后，以色列为何仍在加沙对哈马斯实施打击？

这一问题令人想起阿富汗战争最激烈时对一名五角大楼科学家的采访。当时，美军正使用作为人工智能前身的先进算法，预测叛乱分子会对美国及其盟军发动何种袭击。

在一次流露出挫败感的谈话中，这名五角大楼官员承认，塔利班似乎无需精密算法，甚至无需计算机，也能在战争中与美军抗衡。我们交谈10年后，美国撤出阿富汗，塔利班随即迅速掌权。如今，计算机能力已呈指数级提升，人工智能正在生成打击目标，但无论是在加沙，还是如今在伊朗，美国和以色列的胜利依然难以实现。

至于道德问题，迄今没有证据表明人工智能更擅长选择军事目标、避免平民死亡。现有证据只表明，它能更快地选出目标，并为行动披上一层合法性的外衣。这或许正是《纳扎》无意间传达的信息：人工智能并非无所不能，但它为那些最终往往杀害无辜者的打击行动提供了一套技术官僚式的辩护。

好莱坞很早就意识到这种荒谬，即使它当时仍停留在理论层面。在许多关于人工智能的电影中，真正的危险未必是那些缺乏同理心、将人类带向近乎自我毁灭的计算机，而是最初将这种权力交给它们的、陷入迷误的人类。在《纳扎》中，人工智能系统是死亡的工具，但真正的问题在于人。

最终，正如那些急于开发这项技术的公司高管所警告的那样，人工智能或许会毁灭所有人，也或许不会。但正如《纳扎》所展示的，它也可能只是吐出比人类自行搜集所能得到的更多名字，然后让我们亲手完成杀戮。我们似乎很擅长此事。

作者：莎伦·温伯格