2026年2月末的一个周五下午，Anthropic的CEO达里奥·阿莫迪站在了人生最艰难的十字路口——五角大楼给他下了最后通牒：要么移除Claude模型里的两个“碍事”限制，要么被列入供应链风险名单，断了所有合作。这两个限制是什么？禁止用AI搞国内大规模监控，禁止用AI做完全自主的致命武器。

阿莫迪选了拒绝，结果OpenAI立刻补位，和国防部签了约。但你猜怎么着？70万人瞬间卸载ChatGPT，Claude直接冲上苹果商店免费下载榜第一！奥特曼后来都公开认错，说自己“投机取巧，太草率”。这个事件，其实藏着教皇良十四世在《Magnifica Humanitas》通谕里最核心的启示：AI时代，我们必须守住“底线绝对主义”。

当军方的“正义”撞上科技公司的“底线”

五角大楼的理由听起来无懈可击：保护美国士兵的生命、维护国家安全，这是最高正义啊！国防部长赫格塞思甚至直白地说：“服务条款永远不能凌驾于战场上美军的安全之上。”在他们眼里，AI公司的伦理护栏不是保护，而是可能让士兵丧命的“冗余代码”。

可问题就出在这“正义”里。如果为了“正义的结果”，就能突破任何底线，那后果不堪设想。比如有人问：“杀死一个无辜者能拯救更多人，这种行为正当吗？”功利主义者会说“值”，但一旦这个逻辑成立，滥杀无辜的大门就打开了——因为“拯救更多人”完全可能是虚构的借口。

这就是教皇通谕想提醒我们的：正义是主观的、情境化的，不能作为普适的约束标准。恐怖分子也会觉得自己在追求正义，要是每个人都用“正义”当挡箭牌，底线早就碎成渣了。

什么是“底线绝对主义”？它是AI时代的最后护栏

所谓底线绝对主义，就是不看动机、不问理由、不权衡后果，守住那些不可逾越的红线。底线存在本身，就是它的全部理由——你不需要问“为什么不能越”，只需要知道“不能越”。

就像Anthropic坚守的两条底线：AI不能搞大规模对内监控（关乎自由社会根基），不能把扣动扳机的权力交给算法（关乎人类文明存续）。他们甚至搞了个“技术宪法”（Constitutional AI），刻意回避动机审查和后果权衡，只设硬约束。2021年阿莫迪兄妹从OpenAI出走，就是担心初心被稀释；2026年他们重写的“宪法”，更是把底线钉死在技术框架里。

要是没有这种绝对主义，AI早晚会被商业竞争、权力介入裹挟，变成伤人的工具。

教皇通谕里的三条“生死红线”，每一条都关乎人类存亡

教皇在通谕里明确了AI时代绝对不能碰的三条底线，每一条都戳中要害：

第一条，禁止“致命自主武器系统”。把生杀大权交给算法？绝对不行！杀人的责任必须由有灵魂和良知的人类承担，算法没法被审判，也没法问责——总不能把代码抓去坐牢吧？

第二条，禁止“大规模社会监控”。用AI无差别监控所有公民，预测甚至压制他们的行为？这会让社会变成数字化的“圆形监狱”，自由、创造力全没了，人人活在恐惧里。

第三条，禁止“人的工具化”。不能把人简化成数据、效率指标或者系统里的“齿轮”，尤其是在劳动领域。人是目的，不是工具！要是AI只为了效率把人当可替换资源，那就是“新型奴役”。

我们真的能守住这些底线吗？看看Palantir的警告就知道

Palantir的联合创始人卡普在《科技共和国》里骂硅谷精英：只盯着消费者的琐碎需求，搞在线广告、社交媒体这些“浅薄创新”，却忽视国家使命。他呼唤科技回归，解决AI新军备竞赛这样的紧迫挑战。

可这里藏着魔鬼：当科技绑定国家使命，“正义”的大旗更容易撬动底线。比如军方为了国家安全，要求AI突破伦理限制——就像2026年五角大楼对Anthropic做的那样。要是没有绝对底线，科技越强大，风险就越大。

AI时代的战车已经开起来了，我们是让它沿着底线走，还是任由它冲破红线？教皇说的底线绝对主义，不是保守，而是对人类未来的负责。

你觉得AI最不能碰的底线是什么？是不能自主杀人？还是不能监控所有人？或者是不能把人当工具？来评论区说说你的想法，让更多人看到我们对AI时代的警惕和期待！毕竟，守住底线，就是守住我们自己的未来。