Meta大模型泄漏数月，参议员致信质问扎克伯格！

美东时间6月6日，两位美国参议员致信Meta首席执行官扎克伯格，质疑Meta开源大型语言模型LLaMA的泄漏事件，担心其带来的“垃圾邮件、欺诈、恶意软件、侵犯隐私、骚扰、以及其他不法行为和伤害”。

参议院隐私、技术和法律小组委员会主席参议员Richard Blumenthal (D-CT) 及其高级成员Josh Hawley (R-MO)写道：“我们写信要求获取以下相关信息，包括您的公司如何评估LLaMA泄漏的风险，会采取哪些措施来防止大模型的滥用，以及您如何基于其不受限制的可用性来更新政策和应用。”

信中提到了LLaMA在2月份的发布，称Meta发布了LLaMA供获得批准的研究人员下载，“而不是集中和限制对底层数据、软件和模型的访问”。

信中继续写道：“据报道，LLaMA是根据公共数据进行训练的，但在大小和复杂程度上，它与过去公众可获得的模型有所不同。遗憾的是，在宣布后的几天内，完整的模型出现在BitTorrent上，世界上的任何人都可以在不被监管的情况下使用它。LLaMA的公开传播意味着公众可用的AI模型的复杂性显著提高，并可能引发误用或滥用严重问题。”

信中说：“选择以这种不受限制和放纵的方式发布LLaMA，引出了重要的问题，即何时以及如何公开发布复杂的AI模型是合适的。”

“鉴于LLaMA的发布只提供了最低限度的保护措施，Meta公司应该知道LLaMA会被广泛传播，并能预见其被滥用的可能性。”

然而，Pineau并不完全同意OpenAI将安全问题作为关闭模型的理由的声明。她表示：“我认为这些担忧是有道理的，但真正帮助我们取得进步的方法是提供一定程度的透明度。”

Pineau强调，Meta收到了关于决定部分开放LLaMA的投诉。“一方面，我们有很多人抱怨它不够开放，他们希望我们能让这些模型用于商业用途。但我们训练的数据不允许将这些数据用于商业用途。我们尊重数据。”然而，也有人担心Meta过于开放，毕竟模型从根本上来说是危险的。

她表示：“如果人们在两个方面都有同样的抱怨，也许我们在使其成为一个合理的模型方面做得还不错。我们一直在监控的事情，对于每一次发布，我们都会仔细权衡利弊。”