在唐纳德·特朗普踏入纽约法庭的两周前,这位前总统被一群警察处理和带走的照片在社交媒体上疯传。
这些耸人听闻的照片在特朗普声称他即将被捕几天后首次出现在Twitter上。然后他们迁移到其他平台,在此过程中积累了数以万计的喜欢和分享。
只有一个问题:它们完全是假的。
特朗普虚构与警察相遇的逼真图像,以及最近在网上传播的各种其他虚假图像,都是用人工智能驱动的图像生成器创建的。
目前,仍然可以仔细观察人工智能生成的图像,并找到它们不是真实的线索。例如,其中一张特朗普逮捕照片显示他有三条腿。俄罗斯总统弗拉基米尔·普京被捕的假图像显示他的一只手上只有三根手指,这是这类图像的常见问题。
事实核查:特朗普被执法部门逮捕的照片是计算机生成的
但多位专家告诉《今日美国》,无法在视觉上区分真实图像和人工智能生成的图像只是时间问题。
“我非常有信心地说,从长远来看,不可能区分生成的图像和真实的图像,”加州大学伯克利分校计算机科学教授詹姆斯·奥布莱恩(James O'Brien)说。“生成的图像会越来越好。
制作假图像的想法远非新鲜事。多年来,专家们有能力使用照片编辑软件创建逼真的假货。
“一个熟练的艺术家可以创造一个你真正需要研究的图像,以确定它是真实的还是艺术家的创作,”奥布莱恩说。
但是,过去需要数小时的努力和至少一定程度的专业知识,现在没有经过培训的人可以在几分钟内完成。制作AI生成的图像通常需要的只是一个书面提示,仅受用户想象力的限制。
该技术的可用性和易用性使几乎任何人都可以制作逼真的假图像,西北大学计算机科学教授V.S. Subrahmanian说。
事实核查:专家称显示普京被捕的图像是假的
Subrahmanian指出,教皇弗朗西斯穿着白色羽绒服的假图像是突然在社交媒体上传播的默默无闻的图像的一个例子,许多人认为这是真实的。
据Buzzfeed新闻报道,该图像是由芝加哥地区的一名31岁的建筑工人创建的,他在服用迷幻药后决定在流行的AI图像生成器Midjourney上创建图像。
“这有点滑稽,但同时也令人不寒而栗,因为你知道如果你能做到这一点,你可以把教皇或任何世界领导人,或者我们中的任何一个人,置于某种我们宁愿不所处的位置,”Subrahmanian说。
人工智能问题将很快变得更糟。
专家说,人工智能图像生成器背后的技术正在迅速发展,现在泄露假图像的视觉线索将在不远的将来完全消失,几乎不可能分辨什么是假的,什么不是。
“人们不会知道该相信什么,不该相信什么,”Subrahmanian说。“人们最终会相信虚假的东西。
奥布莱恩同意:“我们将不得不怀疑一切都是假的吗?我认为答案是肯定的。
Subrahmanian表示,人工智能日益复杂和易于访问加剧了现有的错误信息问题,因为许多用户已经“在看到某些东西时并不总是做出很多判断”。
主要盲点是与用户世界观一致的在线声明,根据一项研究,O'Brien致力于研究人们如何评估在线图像的真实性。
该研究发现,具有较高数字媒体素养的参与者更有可能对图像持怀疑态度,但它也发现,如果图像与用户预先存在的观点一致,这些参与者更有可能认为图像是可信的。
“我们被人们向我们展示我们愿意相信的东西所操纵,”奥布莱恩说。“通过向我们展示我们愿意相信的东西,他们能够引导我们走向他们想要的任何方向。
卡内基梅隆大学(Carnegie Mellon University)数字媒体教授阿里·莱特曼(Ari Lightman)表示,人们从小就需要更多的教育,即使这项技术已经到了普通人无法区分真像和假图像的地步。
“我们需要明白,我们不能扼杀创新或创造,但也有一些缺点,”他说。
事实核查:搁浅的大白鲨的病毒图像是假的
事实核查:图片显示人工智能概念,而不是德克萨斯州的撒旦酒店
莱特曼说,还需要提高信息来自在线位置的透明度,他建议人工智能生成的图像可以用水印或邮票标记。
虽然人工智能可以用来检测假图像,但即使是这种解决方案也有其自身的局限性,奥布莱恩说。
“那你最终就会进行军备竞赛,”他说。“一旦我建造了一个新的探测器,人们就可以去看看它,看看它是如何工作的,并想办法让发电机欺骗它。
因此,奥布莱恩说,与其依靠技术来解决问题,不如改变人们对他们在网上看到的图像的态度。他将其与大多数人现在处理承诺大量金钱的诈骗电子邮件的方式进行了比较。
人们需要为社交媒体开发类似的过滤器,特别是如果图像 - 或视频或任何媒体 - 看起来好得令人难以置信。奥布莱恩说,这种变化需要迅速发生,最好是在无法区分真假图像之前。
“到那时,我希望我们已经到达了一个我们不那么信任图像的地方,”他说。“如果没有,我们就麻烦了。”
页面更新:2024-04-24
本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828
© CopyRight 2020-2024 All Rights Reserved. Powered By 71396.com 闽ICP备11008920号-4
闽公网安备35020302034903号