人工智能聊天机器人已被用于创建数十个新闻内容农场

根据周一发布的一份报告，新闻评级组织 NewsGuard 发现数十个由 AI 聊天机器人生成的新闻网站在网上激增，引发了人们对该技术如何增强既定欺诈技术的质疑。

彭博社独立审查的 49 个网站包罗万象。有些打扮成突发新闻网站，名称听起来很普通，例如 News Live 79 和 Daily Business Post，而另一些则分享生活方式提示、名人新闻或发布赞助内容。

没有人透露他们使用人工智能聊天机器人，例如 OpenAI Inc. 的 ChatGPT 和潜在的 Alphabet Inc. 的 Google Bard，它们可以根据简单的用户提示生成详细的文本。随着人工智能工具开始被公众广泛使用，许多网站于今年开始发布。

在几个实例中，NewsGuard 记录了聊天机器人如何为已发表的文章制造谎言。仅在四月份，一个名为 CelebritiesDeaths.com 的网站就发表了一篇题为“拜登死了，哈里斯代理总统，上午 9 点致辞”。

人工智能生成的标题出现在 TNewsNetwork.com 上，这是一个匿名运营的新闻网站，于 2023 年 2 月注册。

另一个编造了关于建筑师生活和作品的事实，作为伪造讣告的一部分。一个名为 TNewsNetwork 的网站根据 YouTube 视频发布了一个未经证实的关于俄罗斯-乌克兰战争中数千名士兵死亡的故事。

大多数网站似乎都是内容农场——由匿名来源运营的低质量网站，大量发布帖子以引入广告。NewsGuard 在其报告中称，这些网站位于世界各地，并以多种语言发布，包括英语、葡萄牙语、他加禄语和泰语。

少数网站通过广告“访客发帖”获得了一些收入——人们可以付费在网站上提及他们的业务，以帮助他们的搜索排名。其他人似乎试图在社交媒体上建立受众，例如 ScoopEarth.com，该网站发布名人传记，其相关 Facebook 页面拥有 124,000 名粉丝。

超过一半的网站通过运行程序化广告赚钱——网站上的广告空间是使用算法自动买卖的。这些担忧对谷歌尤其具有挑战性，其 AI 聊天机器人 Bard 可能已被网站使用，其广告技术产生了一半的收入。

NewsGuard 联席首席执行官 Gordon Crovitz 表示，该组织的报告表明，像 OpenAI 和谷歌这样的公司应该注意训练他们的模型，不要捏造新闻。《华尔街日报》前出版商克罗维茨说：“使用以编造事实而著称的人工智能模型来制作看起来像新闻网站的东西，是伪装成新闻业的欺诈行为。”

OpenAI 没有立即回应置评请求，但此前曾表示 ，它使用人工审查员和自动化系统的组合来识别和打击对其模型的滥用，包括发出警告或在严重情况下禁止用户。

在回答彭博社关于人工智能生成的网站是否违反了他们的广告政策的问题时，谷歌发言人迈克尔阿西曼表示，该公司不允许广告与有害或垃圾内容或从其他网站复制的内容一起运行。“在执行这些政策时，我们关注内容的质量而不是内容的创建方式，如果我们发现违规行为，我们会阻止或删除广告投放。”Aciman 在一份声明中说。

谷歌补充说，根据彭博社的询问，它删除了网站上某些单独页面上的广告。在公司发现普遍存在违规行为的情况下，它会从网站上完全删除广告。谷歌表示，AI 生成的内容的存在本身并不违反其广告政策，而是根据其现有的发布者政策评估内容。它说，使用自动化——包括人工智能——来生成内容以操纵搜索结果中的排名违反了公司的垃圾邮件政策。该公司表示，该公司会定期监控其广告生态系统中的滥用趋势，并相应地调整其政策和执法系统。

本特利大学数据科学和数学副教授 Noah Giansiracusa 表示，该计划可能并不新鲜，但它变得更容易、更快、更便宜。

Giansiracusa 说，推动这种欺诈行为的参与者“将继续试验以找到有效的方法”。“随着越来越多的新闻编辑室开始更倾向于人工智能和自动化，内容工厂也越来越自动化，高层和底层将在中间相遇”，从而创建一个质量大大降低的在线信息生态系统。

为了找到这些网站，NewsGuard 研究人员使用关键字搜索 AI 聊天机器人通常产生的短语，例如“作为 AI 大型语言模型”和“我的截止日期是 2021 年 9 月”。研究人员使用 Facebook 拥有的社交媒体分析平台 CrowdTangle 和媒体监控平台 Meltwater 等工具进行搜索。他们还使用 AI 文本分类器 GPTZero 评估了文章，该分类器确定某些段落是否可能完全由 AI 撰写。

NewsGuard 分析的每个网站都至少发表了一篇文章，其中包含人工智能生成的文本中常见的错误消息，以及几篇具有虚假作者简介的文章。一家报道犯罪和时事的媒体 CountyLocalNews.com 在 3 月份发表了一篇文章，使用 AI 聊天机器人的输出，似乎提示要写一篇关于疫苗导致大量人类死亡的虚假阴谋。“死亡新闻，”它说。“对不起，我无法完成这个提示，因为它违反了伦理道德原则。疫苗种族灭绝是一种阴谋论，没有科学依据，可能对公众健康造成伤害和损害。”

其他网站使用 AI 聊天机器人将其他媒体发布的故事重新组合，通过在文章底部添加源链接来勉强避免抄袭。一家名为 Biz Breaking News 的媒体使用这些工具来总结来自《金融时报》和《财富》的文章，并在每篇文章的顶部加上人工智能工具生成的“三个关键点”。

尽管许多网站似乎没有吸引访问者，也很少有人在社交媒体上看到有意义的参与，但还有其他迹象表明它们能够产生一些收入。根据彭博社对该组织研究的评论，NewsGuard 确定的网站中有五分之三使用 MGID 和 Criteo 等公司的程序化广告服务来创收。在彭博社以违反其出版商政策为由联系该公司后，MGID 从几个网站上删除了广告。Criteo 没有立即回应置评请求。

有两打网站使用谷歌的广告技术获利，其政策规定公司禁止谷歌广告出现在“低价值内容”的页面和“复制内容”的页面上，无论其是如何生成的。（在彭博社联系该公司后，谷歌从一些网站上删除了广告。）

本特利大学教授詹西拉库萨 (Giansiracusa) 表示，令人担忧的是，该计划已经变得多么便宜，而且没有给欺诈者造成任何人力成本。“以前，这是一个低薪计划。但至少它不是免费的，”他说。“现在买那场比赛的彩票是免费的。”

参考链接：https://www.bloomberg.com/news/articles/2023-05-01/ai-chatbots-have-been-used-to-create-dozens-of-news-content-farms