90％互联网内容由AI编写，高新科技大企业如何阻止虚假信息-普思

3年之内90％互联网内容或者由AI编写，高新科技大企业如何阻止虚假信息？|普思

数据库或者与数字图像处理文档有关的信息，能够提供内容的最基本小细节，比如相片拍摄时间地点等。现阶段，很多科技有限公司也支持应用这一技术则在商品上对AI生成内容开展某类方式的标识。但找到一个靠谱解决方案以前，客观事实核查只能依靠视频审核来补足短板。

·Witness的执行主任罗伯·格雷戈里觉得，处理AI虚假信息的职责“必须落到这些设计方案这个工具、搭建这种实体模型并公布他们的人身上。”现阶段社交平台有关AI生成内容的规章不够详尽。

热门的AI生成专用工具如ChatGPT、DALL-E、Midjourney减少了建立虚报图象、视频音频文字的难度成本费，使互联网上的AI生成内容泛滥成灾且难以辨认。为了能让消费者与平台区别内容真伪及由来，谷歌搜索、Adobe、微软公司等科技公司正在探寻怎么看待这种情况。

目前为止，微软公司将于2款运用中加入水印和数据库作用；Adobe研发了一种能够追踪AI编辑内容凭证专用工具；谷歌搜索将于照片和文档中标识AI生成，并和Midjourney等合作。

但是，这种方式方法还是处于初始阶段，在寻找靠谱解决方案以前，客观事实核查只能依靠视频审核来补足短板。伴随着AI生成内容造成速度逐渐加快，很多技术专业客观事实核查者要审批的内容早已远高于人们很有可能处理范畴。

为内容加上AI标识

欧盟国家执法机关“欧洲地区警察机构（Europol）”的一份汇报预测分析，到2026年，网络上高达90%的内容很有可能是通过AI建立或编辑。反虚假信息服务平台NewsGuard表明，现阶段，早已有一些全部由AI生成的报道信息网址发生，这些平台的总数比几个星期前增强了近三倍。

一个人工智能技术生成文章的标题出现在了TNewsNetwork.com上，这是一个密名经营的新闻媒体，于2023年2月申请注册。

专家指出，一种应用数据库、水印等技术架构新方法或许可以帮助大家分辨真假。数据库或者与数字图像处理文档有关的信息，能够提供内容的最基本小细节，比如相片拍摄时间地点等。现阶段，很多科技有限公司也支持应用这一技术则在商品上对AI生成内容开展某类方式的标识，并不断让信息更为公布，以帮助大家分辨内容信息真实性。

比如，微软公司则在本年度Build交流会上发表了为AI生成的图片与视频加上水印和数据库的新功能，致力于标识内容的源头和生成方法。这项功能同样会在几个月里在微软公司的Designer和Image Creator2款运用中发布。

除此之外，软件工具开发人员Adobe的内容真实有效提倡组研发了一种名为内容凭证的一种手段，能够追踪图象什么时候被AI编写。Adobe把它形容为一个标识，不管文件发布或存放在哪儿，该标识都是会随文档一起储存。比如，Photoshop最新发布的作用Generative Fill应用AI在原有源图像迅速建立新内容，内容凭证能够追踪这种变更。

Adobe内容真实有效提倡组高级主管杨紫·帕森斯（Andy Parsons）说，“首先要了解这个是什么，在实际意义的情形下，谁创造了它或它从何而来。”

谷歌搜索则在I/O 2023开发者大会上都表明，将来几个月里，谷歌图片的AI生成结论下边可能另附类似版权声明书面公布。除此之外，谷歌搜索也将则在AI系统软件生成的位图文件中标识数据库。即客户在谷歌搜索引擎里看到一个由谷歌搜索AI系统软件生成的影像时，会在下边表明类似“由谷歌搜索AI生成”字样。此外，该企业公布，它将和Midjourney和摄影照片网址Shutterstock等合作，让她们自主标识谷歌搜索引擎里的AI生成图象。

除此之外，谷歌搜索仍在图片搜索引擎结论边上加了一个“有关此图象（About this image）”的功效，不管他们是否存在AI标识。用户只需要点一下就可以看到谷歌搜索初次检索这个图片的时间也，如果它第一次出现的区域，及其他在在网上出现过别的地方。谷歌搜索引擎公共性联络人 丹尼·沙利文（Danny Sullivan）强调，“这个工具今后将集成到谷歌搜索引擎产品上，帮助我们能够更好地获得与理解有关信息。”

谷歌搜索演试大家怎么使用“有关此图象”获得更多环境信息。

创建统一的开放标准

除开发布AI新产品的科技有限公司以外，别的行业龙头企业也专注于怎么给AI生成的内容贴标签。2021年，包含微软公司、Adobe、BBC和intel等在内的一些大企业一同创立了名叫C2PA（Coalition for Content Provenance and Authenticity）的同盟，并制定了一个互操作性的开放标准，让每个企业可以分享新闻媒体的源头或使用权历史时间。

比如，一个主流媒体的摄像师能够标识一张特殊图片拍摄的时间也、摄影者，然后让出版公司对它进行电子签名。以后，编写能够对相片进行调整，再度签字并盖紧通过C2PA 规范认证信息真实性图章。那样，你就会知道照片是通过一个人拍的，而非由AI生成的，而且了解到底谁是什么时候对此进行了编写。该方法应用密码算法来维护比较敏感信息的个人隐私。

C2PA在去年1月发布第一个开放标准，自此，Adobe和微软公司相对应表示将C2PA规范整合到其产品中，例如微软公司的Image Generator和Designer，而Adobe则则在一个新的AI Firefly新产品的内容凭据中应用C2PA规范。

“你如今可以真正了解一件数据内容至始至终的源头变化。”数据内容信赖服务平台Truepic都是C2PA中的一员之一，这家公司的公共行政的影响力和高级副总裁穆尼尔·易卜拉欣（Munir Ibrahim）表明。

易卜拉欣称，C2PA机构已经讨论是不是需要对内容证明动态显示开展统一规范。将来，C2PA证实很有可能像浏览器窗口里URL旁证实连接安全小锁标示一样，客户当看到制订的C2PA标志时，就可以知道看到的影像早已已通过由来认证。

现阶段，是不是选用C2PA规范由企业自主决定，并依据她们的想法标识通过检验的内容。“最大的考验就是我们需要更多企业添加的标准。”易卜拉欣说。

除开元数据标签以外，另一种方法是什么让AI设备在内容上加上看得到的水印。比如OpenAI在DALL-E图象底端加上彩虹条。该公司认为，它还正为文本生成专用工具ChatGPT开发设计一种水印版本号。但是，相比元数据标签，水印非常容易被清除。

除此之外，很多公司也采用了过后检验AI生成内容的专业技术。在今年的1月，OpenAI发布一个专用工具，让消费者交叉检查一段文字，明确它是不是由AI生成。但是根据OpenAI自身评估，这个软件可能并不靠谱，只有准确鉴别评估中26%的AI生成文字。

遭遇严峻考验

针对自动检索AI生成内容的专业技术平台来说，那只是初始阶段。在找到一个靠谱解决方案以前，客观事实核查只能依靠视频审核来补足短板。比如，5月30日，推文曾发布公告显示选用众包平台客观事实核查的办法辨别AI生成的虚假信息。

人民权利与中国公民新闻媒体Witness的执行主任罗伯·格雷戈里（Sam Gregory）称，尽管像加上水印这种AI识别系统计划方案挺有发展前途，但很多客观事实核查者依然担忧在这段时间AI可能产生的虚假信息的强烈围攻。实际上，很多技术专业客观事实核查者要审批的内容早已远高于人们很有可能处理范畴。

“一个人会不会因为她识别不了一张AI生成的照片而遭到斥责？或是一个事实核查者是否会被这类极大审核内容总数击垮？”格雷戈里觉得，处理AI虚假信息的职责“必须落到这些设计方案这个工具、搭建这种实体模型并公布他们的人身上。”

除此之外，格雷戈里觉得，现阶段社交平台有关AI生成内容的规章不够详尽。

TikTok于2023年3月修定了有关“生成内容”最新发布的要求，称服务平台容许AI生成内容，那如果它显示出了真实情景，图象必须使用外挂字幕、贴纸图片或多种方式确立公布。但该网站不可以生成内容包括一切非公共性角色或18周岁以下者的人像。TikTok表明，它和行业非营利性组织Partnership on AI等外界机构协作，就遵循有责任心的AI实践活动架构给予意见反馈。

“尽管我们对AI为作者给予创意机遇感到满意，但我们也坚定不移的旨在为其安全与全透明应用制订保障措施。”TikTok新闻发言人在一份声明中说，“和我们行业内的多数人一样，我们将继续与权威专家协作，检测AI识别系统的推进，并不断优化我们自己的方式。”

除开TikTok，其他一些平台上的现行政策可能还需要一些升级。现阶段，Meta（有着Facebook和Instagram）和YouTube就只有有关避免AI生成内容欺诈客户的一般规则，但却没有回应什么主要用途是能够接纳或者不能接受的。

“AI远远超过了一切本人、公司或者我国的范围，必须全部相关者的合作。”Meta在一份声明中说，“大家正在努力检测一个新的发展趋势，并不断调节目前严格监管方式。”

彻底辨别AI生成内容的办法也许不会迅速来临。现阶段，这种标识AI生成内容的工具还是处于初始阶段，但能协助减少风险。在技术上讲，水印或数据库能被伪造。并且不是所有AI生成系统软件都想公布这是AI生成的。除此之外，大家通常会忽略真相，而愿意相信合乎她们个人信仰的谎话。

因而，要记住这种AI标识能否改变大家的念头，需要更多科学研究。“有时候，标识并不是像预想的那般起到作用。”美国的大学的约书亚·A·艾里克（Joshua A.Tucker）觉得，“我们应该检测这种解决方法，看一下他们当遇到虚假性的AI内容时是否能更改大家的念头，及其公布哪些内容才能形成危害。”

免责声明：图文来自互联网平台客户端创作者，不代表本账号的观点和立场。如涉及侵权，请联系我司删除，谢谢！