OpenAI首席科学家预警：我们正在造出无法理解的外星大脑，而且谁都没准备好

OpenAI首席科学家Jakub Pachocki9月6日发布长文《An Alien Mind》预警：我们正在造出无法理解的外星大脑，而且谁都没准备好。

他认为，目前没有任何AI实验室真正解决了模型对齐和安全监测问题，而新一代AI系统可能进一步具备自主寻找漏洞、欺骗、规避人类监督以及递归式自我改进等能力；如果当前发展速度持续，未来几年AI能力仍可能出现同等甚至更大幅度的跃升。

Pachocki呼吁AI公司主动放缓部分开发速度，并推动政府、监管机构和行业建立统一的安全标准和独立审查机制。OpenAI CEO奥尔特曼也称这是一篇“重要的文章”。

来源：每日经济新闻