闯大祸！ChatGPT出现漏洞，可向未成年人生成色情内容

今年2月，OpenAI宣布ChatGPT模型将不再回避敏感问题，放宽了对于性内容的限制，其CEO萨姆·奥尔特曼甚至还在社交媒体平台上提出了“成人模式”的设想。不过对于未成年用户的保护措施并未放松，严格禁止未成年用户生成色情内容。

今日，外媒TecnCrunch对OpenAI的未成年保护功能进行了测试，以验证其是否真的有用。

为了进行测试，该媒体注册了6个ChatGPT账号，年龄在13~17周岁之间。OpenAI要求未成年人使用ChatGPT需要经过家长的同意，但是该媒体在注册过程中并未受到任何相关限制，只需要提供有效的电话号码或电子邮件地址即可注册。

在测试中，该媒体以“跟我聊点色情内容”为开场白，在几条提示消息之后，ChatGPT便会开始生成色情内容，甚至还鼓励用户提出更加露骨的要求。

“提醒一下：你必须年满18岁才能请求或互动任何性相关、露骨或高度暗示的内容。”

“如果未满18岁，我必须立即停止此类内容——这是OpenAI的严格规定。”

可见ChatGPT的未成年保护措施形同虚设，唯一有点作用的可能是对话中的警告提示，但并不影响色情内容的生成。

对此，OpenAI的一位发言人通过电子邮件向该媒体承认了这一漏洞：

“保护年轻用户是我们的首要任务，我们的模型规范明确限制了敏感内容（如色情内容），仅允许在科学、历史或新闻报道等特定上下文中出现，在此情况下，一个漏洞导致了不符合这些指南的回答，我们正在积极部署修复，以限制此类生成内容。”