央视曝光AI“造黄”软件，一公司回应……

近日，央视曝光“AI涉黄”产业链，报道提到，在一款名为哩布哩布AI的AI应用里，记者输入在网上购买的提示词后，仅仅几分钟，这个AI平台就生成了一个半裸身体的女性跳舞视频。

在整个生成过程中，没有触发平台任何限制机制。

4月14日，哩布哩布AI发布关于加强内容安全管理的说明，经排查平台存在生成不符合规范内容的情况，已在第一时间完成技术修复，并对风险路径进行全面封堵。

天眼查App显示，哩布哩布AI关联公司北京奇点星宇科技有限公司成立于2023年5月。公司融资历程显示，从2023年至2025年，已获得源码资本、高榕创投、金沙江创投、明势创投、巨人网络等多家基金的投资。

官网称，截至2024年5月，哩布哩布AI已经积累了近1000万专业的Al图像创作者，用户量位居国内第一，在国内“Al文生图赛道融资额TOP1”，多家顶级风险投资机构联合参与，总金额达数亿人民币。

记者在几大应用市场检索发现，该应用目前仍可以正常下载。

律师：AI服务提供者

不能以“技术中立”逃避管理义务

今年年初，“AI服务涉黄第一案”曾一度引发社会关注。

有律师表示，AI服务提供者对模型输出内容具有实质性控制能力时，不能以“技术中立”逃避内容管理义务，提示词设计与安全机制建设将成为合规关键。本案明确AI生成淫秽内容的制作责任归属，为同类案件提供裁判参考，强化“技术越界必担责”的司法导向。生成式AI应用必须嵌入内容审核、伦理对齐机制，避免因提示词漏洞或模型失控触碰法律红线。

2025年4月，国家网信办开展的“清朗·整治AI技术滥用”专项行动明确指出，将重点整治利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序的违规AI产品。

2026年4月10日，《人工智能拟人化互动服务管理暂行办法》正式公布，《办法》中进一步明确了安全评估和算法备案的相关要求，同时还对未成年人和老年人使用拟人化互动服务做出了相关规定。

中国青年报（ID：zqbcyol 整理：张小松）来源：界面新闻、央视财经、冀时、中青评论等。