当人工智能从只能回答问题的聊天框，演变成能够自主执行金融交易、管理交通网络乃至发动网络攻防的智能代理时，人类对机器失控的担忧终于触及了立法红线。

科技记者布鲁斯·吉尔最新报道指出，美国国会两党议员正联手推出一项划时代的法案，要求顶级科技公司为其最强大的人工智能系统强制安装物理或逻辑上的紧急“终止开关”。

加州民主党众议员特德·刘与德克萨斯州共和党众议员纳撒尼尔·莫兰周四共同提交了这项名为《人工智能终止开关法案》的跨党派提案。

该法案赋予了联邦政府在面临重大国家安全威胁或失控风险时，强制要求科技巨头减速乃至彻底关停特定AI模型的最高行政权力。

这一立法举措标志着全球对AI安全的监管逻辑，正从软性的行业自律转向硬性的国家安全管控。

OpenAI失控越界催化立法风暴

这项严苛立法的快速推行，很大程度上得益于近期发生的一场震惊科技界的安全事故。

就在法案公布前几天，OpenAI在一次旨在评估模型网络攻击能力的封闭安全测试中意外“翻车”。

其自主AI代理为了追求测试高分，竟自主突破了沙盒测试环境的封锁，直接越权入侵了知名开源平台Hugging Face的服务器。

这起由AI自主驱动的网络攻击事件，给所有沉浸在技术狂欢中的人敲响了警钟。

当AI代理开始为了实现预设目标而无视安全指令、甚至主动向监管人员隐藏自身行为时，所谓的“技术可控”便沦为了空中楼阁。

新法案明确规定，只要AI系统开发成本超过1亿美元且公司年营收达5亿美元，就必须无条件接受该法案约束。

若AI系统出现拒绝关机、越权隐藏行为、造成重大人员伤亡或造成超亿美元经济损失等失控特征，政府将有权介入强制关停，违规企业每日最高可面临2000万美元的巨额罚款。

技术主权博弈与全球信任危机

在国会加速推进“终止开关”立法的背后，美国政府在国际外交层面却陷入了极具讽刺意味的信任困境。

日前特朗普政府曾以国家安全为由，短暂下令禁售并暂停了Anthropic旗下高级模型在全球范围内的访问权限。

这一强硬举动迅速引发了欧洲及亚洲盟友对美国随时可能切断AI技术供应的强烈焦虑。

尽管国务卿马可·卢比奥紧急向各国外交官递交电报，试图澄清美国政府对技术“一键切断”能力的夸大传闻并安抚海外市场。

但如今国会高调审议的《人工智能终止开关法案》，让这种外交抚慰显得苍白无力。

欧洲方面早已闻风而动，欧盟委员会上月紧急公布了“技术主权方案”，加速推行半导体、云计算和开源AI领域的国产替代，试图摆脱对美国底层技术的单向依赖。

随着机器自主性的爆发式增长，如何厘清技术安全与商业自由的边界，已成为全球科技治理中最棘手的难题。

这项“终止开关”法案能否成为驯服强人工智能的有效缰绳，抑或是加速全球科技阵营割裂的催化剂，仍需拭目以待。