图灵奖得主杨立昆抨击Anthropic 首席执行官故意制造AI恐慌

图灵奖得主，Meta 的 AI 负责人 杨立昆LeCun表示，竞争对手 AI 公司 Anthropic 的首席执行官 Dario Amodei 对 AI 的危险感到“困惑”。他还暗示，阿莫迪有一种 “巨大的优越感”。

杨立昆 在 Threads 上发表了一篇帖子，暗示 AI 的担忧被夸大了。他分享了一段虚构的 AI 代码，该代码被明确设计为在被要求关闭时说“我不想关闭”，暗示当前围绕 AI 系统变得有感知力的许多安全担忧是由于它们在某种程度上被编程到这些系统中造成的。尤其是 Anthropic，它一直在强调许多此类担忧，包括透露其一个 AI 系统在被告知将被关闭时威胁要披露一名工程师的婚外情，以及另一个例子，当其模型被要求相互交谈时，它们开始说梵语。

这促使帖子上的一位评论者问他对 Anthropic 首席执行官 Dario Amodei 的看法。“Anthropic CEO 是 AI 的厄运者吗？AI 超级？两者都有？

“他是一个厄运者，但他一直在为《AGI》而努力，”LeCun 回答道。这意味着以下两件事之一：1. 他在智力上不诚实和/或道德败坏。2. 他有一个巨大的优越感，认为只有他足够开明才能使用 AI，但未经洗刷的大众太愚蠢或不道德，不会使用如此强大的工具。实际上，他对当前人工智能系统的危险和力量感到困惑，“他补充道。

这不是 Yann LeCun 第一次对 Dario Amodei 进行猛烈抨击。几个月前，他曾说过，由 Dario Amodei 提出的在数据中心拥有天才国家的想法是“彻头彻尾的 BS”。“我们不会仅仅通过扩大 LLM 的规模来实现人类水平的 AI，”他曾说。“无论你能从我的一些更冒险的同事那里听到什么，这都不会在未来两年内发生。这在地狱里绝对是不可能的。我们打算在数据中心建立一个天才国家的想法 — 这完全是 BS。那绝对不可能，“他说。随着 LeCun 现在明确表示 Dario Amodei 对 AI 安全有妄想，他似乎在暗示 Anthropic 目前对 AI 风险的关注可能并不完全有道理。