顶级OpenAI高管辞职抗议

一名顶级OpenAI高管因该公司与国防部达成协议、允许其技术在军队中部署而辞职。

该员工是负责OpenAI硬件和机器人工作的Caitlin Kalinowski，她于周六在社交媒体上宣布辞职。

"这不是一个容易的决定。AI在国家安全中扮演着重要角色，"Kalinowski在推特上写道。"但在没有司法监督的情况下监视美国公民，以及在没有人类授权的情况下使用致命自主武器，这些底线值得比现在进行更深入的讨论。"

"这是关于原则的问题，不是关于人，"她补充道，并坚称她仍然对首席执行官Sam Altman充满"深深的敬意"。

上个月，OpenAI宣布与五角大楼达成新协议之际，其竞争对手Anthropic正面临特朗普政府高级官员的威胁，因为该公司没有达成类似的协议。据首席执行官Dario Amodei称，Anthropic与五角大楼的谈判破裂，因为该公司坚持禁止其AI系统用于大规模监视美国公民，以及在没有人类参与的情况下使用自主武器。当Anthropic显然不会妥协时，五角大楼切断了与该公司的合作，并兑现了其威胁，宣布该公司为"供应链风险"，这意味着它无法签署任何军事合同。

这在OpenAI中演变成了一场公关灾难，许多人批评Altman与一个极不受欢迎且好战的政府合作。最初，OpenAI同意其AI系统可用于"所有合法目的"，直到在激烈的反弹之后，Altman才表示他将更新五角大楼的协议，加入关于监视和自主武器的具体保护措施。

简而言之，OpenAI看起来是在背叛原则，而Anthropic则像是英雄。这一消息引发了大量用户从OpenAI的ChatGPT迁移到Anthropic的Claude，Claude应用取代ChatGPT登上App Store榜首。

行业内也出现了反对声音。超过1000名OpenAI和Google的前员工和现员工签署了一封公开信，要求他们的雇主拒绝五角大楼要求将AI技术用于大规模监视和自主武器的要求。

Kalinowski在解释她离职的原因时说，她的"问题是公告发布得太仓促，没有确定安全防护措施。"

"首先这是一个治理问题，"她在后续帖子中详细说明。"这些事项太重要了，不应该因为交易或公告而仓促处理。"

Altman本人也承认这笔交易是"仓促的"，并且"看起来不好看"。

OpenAI在向媒体发表的声明中强调了其与五角大楼更新的协议及其明确的底线："无国内监视，无自主武器。"

"我们认识到人们对这些问题有强烈的看法，我们将继续与员工、政府、民间社会和世界各地的社区进行讨论，"该公司补充道。

Kalinowski的离职以及围绕OpenAI军事协议的更广泛争议，正值人们对AI在战争中的应用、尤其是可能导致人类死亡的决策的担忧比以往任何时候都更加紧迫。尽管Anthropic公开抵制国防部，但有报道称Claude被用于为美国在伊朗的致命导弹袭击选择目标。虽然未经证实，但令人不寒而栗的可能性是，其中一个被确定的目标是米纳布的一所女校，至少168人在一次可能是美国战斧导弹的空袭中惨遭杀害，其中大多数是儿童。