处置网暴评论3.6亿条，筑牢平台安全防线 | 公司头条

3月18日，今日头条发布《今日头条2025年度平台治理白皮书》。数据显示，2025年全年，今日头条共向用户推送300余万条涉诈风险提醒、处置网暴相关违规评论3.6亿条，为70万账号启用了一键防网暴功能。

今日头条安全运营负责人闫梦茹表示，2025年平台聚焦反诈、网暴、水军三大领域，在反诈治理上，平台构建注册登录、行为特征、内容识别、团伙打击四维全链路体系，全年处置涉诈内容135 万条、封禁涉诈账号18 万个，推送风险提醒300 余万次。

今日头条内容治理运营负责人郑子龙介绍，AIGC技术普及带来内容生产便利，也催生低质AI内容、虚假谣言批量传播等问题。内容层面，平台通过敏捷监控聚类发文和用户负评等方式不断挖掘新的低质AI内容特征，持续迭代管控标准，并反哺模型训练增强对低质AI问题的识别与处置；在账号层面，对持续发布低质AI内容的作者打压甚至禁言处罚，同时通过发布治理公告，引导创作者自觉抵制低质AI 内容，提升内容创作质量。针对低质AIGC 内容，全年处置相关内容超260 万条，对违规账号实施流量限制、禁言等处罚。

据介绍，今日头条展开创作者认知治理、低成本创作者治理等专项，清退2万多低质认证作者，严厉打击套路化低质内容和短时高密度发文行为，处置60多万投机账号。

中国社会科学院大学互联网法治研究中心主任刘晓春认为，低质AI 内容治理需明确标准、技术赋能、多方协同。平台应完善 AI 内容标识与审核机制，强化技术检测与创作者引导，推动形成监管、平台、用户共治格局，从源头遏制虚假误导内容蔓延。

受访者供图

文/北京青年报记者 温婧

编辑/北京青年报记者 宋霞 实习生 杨佳艺