图灵奖得主约书亚・本吉奥：AI规划推理能力十年内有望达人类水平

7月26日，2025世界AI大会在上海开幕，图灵奖得主约书亚・本吉奥表示，前沿模型在规划和推理方面取得显著进展，若趋势持续，AI的规划推理能力有望在十年内达到人类水平。但强大的AI系统可能放大虚假信息、网络攻击和生物威胁等风险，人类还可能失去对自我保护型智能体的控制。

目前尚无科学验证方法确保AI可信且始终遵从人类意图，且最强模型中欺骗和自我保护行为更明显。本吉奥呼吁急需在技术和政策层面采取措施应对风险，理性政策应鼓励开发不具备危险能力的AI开源项目，禁止其他情况下的开发，并对闭源模型实施充分的安全保障措施。