IBM公司是如何提高美军无人机杀伤力的？

作者：塔兰托拉

2021年4月24日

如果美国军方有一件事情做对了，那就是提升杀伤力。然而，即使一旦美军发现了您，尽管不知道您实际上是谁，但在所谓的“标志打击”下，如果与你的标志匹配成功，你可能就要被瞄准并杀伤了。

正如纽约大学AI Now研究院的微软研究院负责人兼联合创始人Kate Crawford在她的新书《Atlas of AI》中引人入胜的摘录中所阐述的那样，军事工业综合体的想法是很好的，就是利用衍生的元数据监视，由IBM决定接下来要进行无人机打击的目标。

瞄准的基本军事逻辑就是标志或者签名的思想。在乔治·W·布什总统第二任期即将结束时，中央情报局认为，它应该能够仅根据个人观察到的“行为模式”或“特征”发动无人机打击。

“个体打击”涉及针对特定个人，而“标志打击”是指某个人由于其元数据签名而被杀伤；换句话说，他们的身份未知，但是数据表明他们可能是恐怖分子，所以要被消灭。

正如斯诺登披露的文件所示，在奥巴马任职期间，美国国家安全局（National Security Agency）的全球元数据监视程序将对嫌疑犯的SIM卡或手机进行地理定位，然后美军将进行无人驾驶飞机袭击以杀死拥有该设备的个人。

美国国家安全局和中央情报局前局长迈克尔·海登将军说：“我们基于元数据杀人。” 据报道，美国国家安全局（NSA）的地牢（Geo Cell）部门使用了更加丰富多彩的语言：“我们追踪他们，然后杀死他们。”

标志打击听起来很精确且经授权，这暗示着某人身份的真实标记。但是在2014年，法律机构Reprieve发布了一份报告，该报告显示，试图杀死41人的无人驾驶飞机的袭击造成了约1147人死亡。“无人机打击以“精确”为由欺骗了美国公众。但是，它们只和提供它们的情报一样精确。”领导这份报告撰写的詹妮弗·吉布森说。

但是标志警示的形式与精度无关：它与相关性有关。一旦在数据中找到一个模式并达到某个阈值，即使没有确定的证据，这种怀疑也足以引发采取行动。模式识别的这种裁定模式在很多领域都可以找到，多数情况下采用评分的形式。

以2015年叙利亚难民危机为例。数以百万计的人正逃离广泛的内战和敌人占领，以期在欧洲寻求庇护。难民在筏子和拥挤的船只上冒着生命危险。9月2日，一个名叫艾伦·库尔迪（Alan Kurdi）的三岁男孩在船上倾覆时与他的五岁兄弟一起在地中海溺死。一张照片显示他的尸体在土耳其的海滩上成为国际头条新闻，这是人道主义危机的严重标志：一个代表整体恐怖的图像。但是有人认为这是一个日益严重的威胁。大约在这个时候，IBM被要求进行一个新项目。该公司是否可以使用其机器学习平台来检测可能与圣战有关的难民的数据签名？简而

言之，IBM战略计划主管高管安德鲁·博雷恩（Andrew Borene）向军事出版物《国防一号》（Defense One）描述了该项目的基本原理：

“我们的全球团队，包括欧洲的一些人，正在收到反馈，他们担心，在这些饥饿和沮丧的寻求庇护的人群中，有一些符合战斗年龄大的男性看上去非常健康地从船上下来。这引起了他们是否来自ISIS的关注，如果是的话，这种解决方案是否会有所帮助？”

从公司办公室的安全距离来看，IBM的数据科学家将这一问题视为通过数据提取和社交媒体分析解决的最佳方法。撇开临时难民营条件中存在的许多变数以及用于对恐怖行为进行分类的数十种假设，IBM创建了一个实验性的“恐怖主义信用评分”，以从难民中选出ISIS战斗人员。分析师收集了各种各样的非结构化数据，他们还根据边防人员可用的元数据类型组成了一个数据集。他们通过这些不同的方法得出了假设的威胁评分：他们指出，这并不是罪恶或无罪的绝对指标，但可以深入了解个人，包括过去的住址，工作场所和社交关系。同时，叙利亚难民不知道他们的个人资料正在被收集以评估一个可能将他们选为潜在恐怖分子的系统。

这只是新的国家控制技术系统使用难民作为测试案例的众多案例之一。现在，这些军事和警务逻辑充斥着一种金融化形式：由社会构建的信誉度模型已进入许多AI系统，影响了从贷款能力到跨境许可的一切。从中国到委内瑞拉再到美国，全世界已有数百个这样的平台在使用，这评估了人员社会行为形式，并对不符合规定的人予以拒绝。

用社会学家马里昂·富卡德（Marion Fourcade）和基兰·希利（Kieran Healy）的话说，这种“道德社会分类的新制度”使传统经济的“高成就者”受益，而同时又使最弱势群体处于不利地位。从广义上讲，信用评分已成为军事和商业签名相结合的地方。