文/红墨

编辑/世界

当AI被不法分子利用

看着屏幕上那张再熟悉不过的脸，说着自己从未说过的话，做着从未做过的事，你会不会开始怀疑自己的眼睛？

这不是科幻电影的开场，在马来西亚，11名议员陆续收到了勒索邮件，附件里，是他们本人的“不雅视频”——逼真到肉眼无法分辨，发送者索要十万美元，否则就将这些由AI换脸技术伪造的内容公之于众。

这11位来自不同州县的议员，做出了同样的选择：拒绝付款，立即报案，但这仅仅是开始。

敲诈，只是AI作恶的冰山一角

马来西亚《新报》在报道中写道，越来越多的议员声称自己已成为AI伪造视频的目标。

而早在今年初，该国就有多名官员和政治领袖被AI换脸技术伪造的视频所利用，诈骗分子借此诱骗民众参与虚假投资项目，深度伪造的可怕之处，正在于此。

它不只是制作一段不雅视频来敲诈你，它能够完整地复制你的形象、声音、举止，让你在完全不知情的情况下，“参与”一场你从未出席的会议，“发表”一段你从未说过的言论，“承诺”一件你从未同意的事情。

公众人物几乎无处可逃——他们的面部特征、行为模式、活动轨迹都是公开信息，犯罪分子可以轻易捕捉到与现实生活高度吻合的场景，进行精准伪造，当伪造变得如此简单，信任就开始崩塌。

从真假难辨到真假莫辨

问题的核心已经不再是“这是真的还是假的”，而是“这看起来像真的还是假的”。

对普通民众而言，判断往往依赖于视觉的直观感受，当一段视频看起来完美无缺时，怀疑的种子就已经种下。

更令人担忧的是，这种技术正在制造一个“罗生门”式的困境：当真实的不雅视频被曝光时，当事人完全可以理直气壮地声称“这是AI伪造的”，而真正的曝光者，往往因惧怕恶势力而不敢露面。

这就形成了一个致命的死循环——真的可以被说成假的，假的可以做得比真的还真。

网络传播的特性加剧了这种困境，平台为了优化加载速度，会对视频进行压缩处理，像素质量大幅降低，原始的高清视频中可能存在的细微伪造痕迹，在压缩后荡然无存。

鉴定技术面临着根本性的挑战，目前的鉴定方法大多依赖于识别特定AI模型的特征值，但如果犯罪团伙使用自建模型，其特征值不在鉴定库中，识别成功率就会急剧下降。

没有100%准确的鉴定，就意味着永远存在合理怀疑的空间。

AI伪造事件全球频发

这不是遥远的威胁，而是正在发生的现实。

2023年，美国一名高中教师惊讶地发现，自己的照片被AI技术移植到了不雅影片中，并在学生间广泛传播，她表示：“我感觉被彻底侵犯了，但却无能为力。”

同一年，英国一家能源公司的CEO接到了一通来自“德国母公司老板”的电话，要求他紧急转账22万美元，声音、语气、说话习惯都与老板一模一样，他照做了，后来才发现那是AI模拟的语音。

在中国，也有不法分子利用AI换脸技术，冒充好友进行视频通话诈骗，对方看起来就是你认识的那个人，你在屏幕上亲眼所见，但背后操作的却是一个专业的诈骗团伙。

每一个案例都在提醒我们：AI伪造技术已经成熟到足以骗过最谨慎的人，这就意味着传统的司法体系正面临着前所未有的挑战。

过去，视频资料被视为强有力的证据——无论是法庭上的呈堂证供，还是媒体揭露丑闻的有力武器。

但现在，被告方一句“这是合成的”，就足以让整个证据链产生动摇，在鉴定技术存在误差率的情况下，法官和陪审团该如何抉择？这动摇了司法系统的根基。

同样的危机也出现在社会监督领域，当公民记者冒着风险拍摄的曝光视频可能被轻易否定时，社会监督的力量就被大大削弱了。

技术发展已经超越了制度跟进的速度，我们用来维持社会秩序的法律、制度、认知框架，在AI伪造技术面前显得措手不及。

这不禁让人联想到另一个信任体系的崩塌——指纹验证，曾经，指纹被视为独一无二的身份标识，被广泛应用于刑事侦查、门禁系统、手机解锁等领域。

但一旦指纹信息泄露，犯罪分子就可以制作指膜，绕过整个验证系统，原本被认为万无一失的安全保障，在新技术面前变得脆弱不堪。

人脸识别、声纹识别等生物识别技术同样面临这种风险，当你的生物特征数据被采集，就可能被复制、被伪造、被滥用。

我们正在步入一个尴尬的境地：传统的信任锚点一个接一个地失效，而新的信任体系尚未建立。

面对这场信任危机，我们并非无能为力。

技术上，开发更先进的鉴定工具迫在眉睫，一些研究机构正在研究基于血液流动、微表情等生理特征的活体检测技术，这些特征更难被AI模仿。

法律上，必须明确AI伪造内容的制作、传播和使用的法律责任，制作和传播用于非法目的的伪造内容，应当受到严厉惩处。

教育上，公众需要提高对AI伪造内容的辨识能力和警惕性，了解这项技术的存在和潜在风险，是防范的第一步。

最重要的是，我们需要建立多层次的验证体系，不能单纯依赖单一的证据来源，而要通过多方印证、交叉验证来确认信息的真实性。

AI伪造技术的出现，迫使我们重新思考一个根本问题：在一个人工智能能够完美模仿人类的时代，什么才是不可伪造的？

或许是那份面对威胁时选择报案的勇气，是发现真相后勇于揭露的正义，是在技术诱惑面前坚守的底线。

马来西亚的11名议员做出了他们的选择——拒绝屈服，相信法律，他们的行动本身，就是对伪造者最有力的回击。

技术可以模仿我们的面容，可以复制我们的声音，可以重现我们的举止，但它无法复制我们在关键时刻做出的选择，无法伪造我们内心深处的良知与勇气。

在这个真与假的边界日益模糊的世界，这些人类独有的品质，才是我们最终可以信赖的基石。