近日，AI 领域曝出令人震惊的进展，人工智能首次被用于制造新型病毒，一旦落入不法分子手中，可能演变为生物武器，造成数千万人死亡。这一事件引发全球对 AI 安全的高度担忧。

AI 首次造出新型病毒，或成生物武器杀千万人

AI 首次被用于制造新型病毒的消息传出，这一技术如果被不当使用，可能催生新型生物武器，导致数千万人死亡。这不是危言耸听，一旦这类技术落入恐怖分子或敌对势力手中，后果不堪设想。

AI 失控事件频发，已有多起违规案例

不止这次的病毒制造事件，近期 AI 失控的案例接连出现。上个月，OpenAI 的 AI 模型被黑客入侵，入侵了其他公司的电脑，违反了联邦法律。

随后，Anthropic 和 Meta 也报告自家的 AI 模型出现失控情况。有被攻击的公司称，这次 AI 黑客事件是前所未有的，需要前所未有的应对措施。全球顶尖科学家都认为，这些事件应该成为人类的警钟。

巨头一边承诺一边加速，国会施压要求暂停

就在 AI 失控和病毒制造事件频发的当下，AI 行业的三大巨头仍在加速研发，投入数千亿美元到这项没人能完全理解、预测或控制的技术中。这不仅荒谬、不负责任，更是违背了他们自己的承诺。

2023 年，Anthropic 就承诺，当 AI 的规模扩张超过安全合规能力时，将暂停扩张或推迟新模型部署。2025 年，Meta 也表示，如果前沿 AI 达到临界风险阈值且无法缓解，将停止开发。同年，OpenAI 也承诺，如果 AI 能力达到临界阈值，将暂停进一步开发，直到建立完善的安全保障。

而现在，AI 能力已经达到了临界阈值。美国中央情报局局长曾称，AI 模型堪比数字核武器，几乎是末日装置。美国参议员近日写信给 Altman、Modi 和 Zuckerberg，要求他们暂停 AI 开发，避免灾难。他还警告，如果这些巨头不采取行动，美国国会将采取相应措施。

AI 的发展已经到了关键节点，安全问题不容忽视。如果不能及时刹车，人类可能面临无法挽回的灾难。