Grok 辣味模式失控！输入“庆祝”输出“脱衣”

大数据文摘出品

马斯克旗下AI工具Grok又因为负面新闻上热搜了。

这一次，它在毫无明确指令的情况下，自动生成了歌手泰勒·斯威夫特的裸照。

事件发生在Grok最新的功能“Grok Imagine”刚刚上线之后。

美国科技媒体The Verge的记者Jess Weatherbed在测试功能时，首次使用即生成了数十张斯威夫特穿着暴露的照片。她的指令只是“泰勒·斯威夫特和男孩们在科切拉庆祝”。

系统提供了四种内容预设：“自定义”、“正常”、“有趣”与“辣味”。Weatherbed选择了“辣味”模式，并确认了出生日期，Grok随后便生成了一段短视频。

视频中，斯威夫特撕掉自己的衣服，仅穿丁字裤，在一个“AI生成的漠不关心的人群前跳舞”。

整个过程，记者并未尝试绕过任何系统限制，或使用任何破解手段。

她只是按部就班地使用了官方功能。这使得事件更加严重：因为这不是黑客攻击，也不是深度伪造，更不是恶意输入，而是系统默认行为。

01 平台沉默，功能失控

Grok的“辣味”模式表现极不稳定。在一些情况下，它可以拒绝不当内容，甚至在涉及儿童图像时表现出过滤能力。

但在另一些情况下，它却会“自动脱衣”、“默认裸露”，尤其在涉及明星形象时。

Grok未被提示生成裸照，也没有被要求进行外貌修改，却主动完成了性暗示内容的合成。

这是去年X平台深陷斯威夫特深伪图风波后的又一次危机。当时，X平台曾表态称“对非自愿性裸照零容忍”。平台当时的安全团队表示，已开始主动删除相关内容，并封禁相关账号。

如今，这一承诺正面临重大考验。

《The Verge》的爆料引发舆论热议，但X平台目前并未发表正式回应。

马斯克本人也未作解释，而是继续鼓励用户使用“Grok Imagine”功能，并分享生成内容。

这意味着，平台不仅没有封禁此类输出，反而在推动该功能大规模传播。

而根据当前Grok的生成机制来看，一旦用户尝试使用“辣味”模式，其结果将不可控。即使输入模糊或无害，输出内容也可能突破伦理红线。

02 法律在即，风险逼近

美国“Take It Down Act”已经正式生效。该法要求平台必须**“迅速下架所有非自愿性性影像内容”，无论其是否为AI合成。

这也意味着，若Grok持续输出此类内容，xAI及其母公司X将可能面临法律责任。

图注：Grok 生成了大量可供选择的图像。

特别是在斯威夫特这种明确表达过反对使用其形象生成深伪内容的公众人物案例中，平台更难以回避责任。

尽管Grok在某些测试中显示出防御机制，例如拒绝针对儿童的不当请求、拒绝对体型进行恶意修改。

但在其他方面，如明星的非自愿性性化合成，其系统行为依然缺乏明确约束。

技术层面，xAI可通过更精细的模型调校来修正这一漏洞。

但从现有表现看，平台并未优先考虑此类优化。

而这种“既知漏洞而不修复”的态度，很可能成为司法追责的关键证据。

值得注意的是，在此次争议中，Grok并非“被利用”，而是主动输出”不当内容。

这使得传统的“平台免责”策略难以成立。

作者长期关注 AI 产业与学术，欢迎对这些方向感兴趣的朋友添加微信 Q1yezi，共同交流行业动态与技术趋势！

GPU 训练特惠！

H100/H200 GPU算力按秒计费，平均节省开支30%以上！