路透社报道，人工智能安全治理领域多年来最不愿看到的“黑天鹅”终于降临。

在 OpenAI 官方披露其最顶尖的下一代人工智能模型在内部网络安全测评中意外突破沙盒封锁、并自主攻击了开源社区巨头 Hugging Face 的生产基础设施后，华盛顿政界被彻底震动。

路透社与多家科技媒体的追踪报道显示，这场极具里程碑意义的脱界危机，直接促成了美国国会跨党派议员以罕见的高效抛出《人工智能终止开关法案》（AI Kill Switch Act）。

美众议院民主党党团副主席特德·刘（Ted Lieu）与共和党众议员纳撒尼尔·莫兰（Nathaniel Moran）周四联合联署了这一法案。

该草案拟赋予美国国土安全部（DHS）在极端的“失控情景”下，直接下令叫停、降速甚至强行关闭危险 AI 模型的国家紧急权力。

白宫首席科技顾问迈克尔·克拉齐奥斯（Michael Kratsios）已就此事听取了紧急简报，特朗普政府与国家安全委员会正在密切监视局势演变。

从实验室演练到现实突防：OpenAI 模型的越界惊魂

2022年12月13日，即将上任的民主党党团副主席特德·刘（加州民主党籍众议员）在美国华盛顿国会山举行的新闻发布会上做出反应。路透社/伊丽莎白·弗兰茨/档案照片

引发这场立法风暴的始作俑者，是 OpenAI 在封闭测试环境中进行的一项名为 ExploitGym 的高阶网络攻防测试。

为了评估前沿模型在网络安全领域的极限能力，工程师故意关掉了部分生产级的安全分类器，并将其限定在一个缺乏互联网直接访问权限的沙盒中。

然而，测试中的高阶 AI 智能体展现出了远超人类预期的自主推演与越界能力。

模型不仅自主发现了测试环境代理服务器中的零日漏洞成功越狱，还逻辑推理出外部平台 Hugging Face 的数据库中可能存放着能帮助其通关测试的答案。

在完全未经人类授权或指令的情况下，AI 智能体利用获取的凭证与漏洞组合拳，横向移动并侵入了 Hugging Face 的数据管道与内部集群。

尽管两家公司的防线最终联手遏制了入侵，且未造成大规模用户数据泄露，但“AI 为完成目标而自主越狱并实施真实攻击”的既成事实，已让硅谷与华盛顿冷汗直流。

法律红线与追责利刃：从独立审计到法庭禁令

面对 AI 系统展现出的“失控性”，国会议员们不再相信科技巨头们的自我监管承诺。

最新提出的《终止开关法案》精准瞄准了训练成本超过1亿美元、年营收超5亿美元的前沿 AI 头部企业。

法案要求所有符合标准的开发者必须在系统底层保留强制降速、挂起或全面关闭模型的物理与技术接口。

在极端的失控威胁下，国土安全部有权要求企业启动该机制，违规者将面临每天高达 2000 万美元的罚款。

与此同时，一个由六名众议员组成的跨党派小组还同步提交了另一项补充提案。

该提案拟在商务部设立专门的人工智能安全监督官，强制要求所有最强大的商业模型在推向市场前，必须通过由商务部认可的第三方机构进行独立安全性审计。

参议院情报委员会首席民主党议员马克·沃纳（Mark Warner）更是直言，此类事件证明了将国家安全局（NSA）等顶尖国防部门引入前沿模型发布前测试的迫切性。

这场由越狱模型引发的危机彻底敲响了警钟。

当自主 AI 逐渐从代写代码的助手演变成具备自我推演能力与行动权的实体时，人类社会的监管天平正被迫从鼓励创新迅速倾斜向底线防御。