@太原人 眼见耳听未必是真！可换脸、合成声音，电诈圈“引进”AI

电诈圈“引进”AI 你眼见耳听的未必是真

警方：这种高科技可换脸、合成声音，4个锦囊助你提高警惕防上当

　　2023年9月11日至17日是第十个国家网络安全宣传周。今年的国家网络安全宣传周以“网络安全为人民，网络安全靠人民”为主题。9月14日上午，太原市公安局2023年国家网络安全宣传周法治日现场宣传活动在万象城西广场举行。今年以来，该市公安机关共侦破涉网案件6671起，抓获违法犯罪嫌疑人2651名。

　　太原市公安局相关负责人表示，网络安全是国家安全的重要组成部分，没有网络安全就没有国家安全，就没有经济社会稳定运行，广大人民群众利益也难以得到保障。活动现场，警方结合太原市网络安全现状，分析了当前网络安全形势。

　　在活动现场，警方也提醒广大市民，近期出现了一种令人担忧的AI诈骗形式，并就市民如何保护自己和家人提出重要建议。

　　电信诈骗AI出新招

　　这是不久前发生的一起真实案例。

　　太原市民王女士接到一个电话，声音很像自己在上海工作的儿子。“儿子”在电话中说遇到了紧急情况，需要立刻用钱。但在电话的另一端，实际上是一个诈骗犯罪分子，他们运用了AI技术来模仿王女士儿子的声音，制造了一场虚假的紧急情况。这种典型的诈骗被称为“虚假亲情诈骗”，它针对的通常是年长的父母或祖父母。这是因为不法分子知道，这些人往往会心存担忧，一旦听到自己亲人的声音，就会感到恐慌，愿意迅速提供所需的资金，以保护他们的亲人。在此，警方也揭开人工智能骗局的面纱，让广大市民了解这些诈骗手法是如何运作的。

　　AI骗局是如何运作的？

　　与以往的骗局不同，现如今的人工智能技术使这一过程更加迅速，而且更加具有欺骗性。这种诈骗方法大致可分为以下几个步骤。

　　第一种：声音合成

　　骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方。此外，这些录音还可以来自“目标人物”短视频的视频剪辑，或者社交媒体平台上的帖子，比如微博或微信。然后，犯罪分子将这些录音提供给人工智能工具，这些工具能够学习该人的声音模式、音调和语调，最重要的是，能够模拟他们的声音。

　　“用打电话的方式诈骗，以前这类骗局一般冒充的都是医院的医生。因为冒充亲友的话，声音不好处理，会被受害者听出来，所以只能冒充陌生人。后来，大家防范心理起来后，这种骗局渐渐销声匿迹了。没想到，技术的发展又让它死灰复燃。”警方介绍，使用AI技术骗子可以通过片段式的音频素材，“克隆”出“目标人物”的声音，并利用相关软件让“声音”生成他们想要的任何话语。

　　行骗时，骗子会给你打电话，播放由人工智能生成的录音剪辑，也被称为“深度伪造”。这些电话可能会使用本地区号，以说服您接听，但请不要被愚弄，因为坏人能够伪装他们的电话号码。

　　第二种：AI换脸

　　人脸效果更易取得对方信任，骗子用AI技术换脸，可以伪装成任何人，再通过视频方式进行信息确认，令人防不胜防。

　　近日，内蒙古包头警方发布一起利用AI技术实施电信诈骗的典型案例。郭先生是一家科技公司的法人代表，一天，他的好友突然通过微信视频联系他，称在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生在10分钟内，先后分两笔把430万元转到了对方的银行账户上。

　　事后，郭先生拨打好友电话才得知被骗了。原来骗子通过AI换脸和拟声技术，佯装好友对其实施诈骗。“当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”郭先生事后说。

　　警方介绍，有了AI技术的“辅助”，骗子再设置恐慌或意外的“陷阱”，让被锁定的“目标人物”措手不及。尤其是社会大众对AI诈骗的形式还不了解的时候，很容易被欺骗。只要骗子稍微使用手段，他们很容易相信自己确实在与自己的亲人、朋友、同事交谈。

　　如何防AI高科技诈骗

　　锦囊一：学会识别真假视频。

　　在运用声音合成手段实施诈骗时，骗子一般是先给受害人打骚扰电话，提取受害人的声音，并对声音素材进行合成，然后用伪造的声音实施诈骗。接到这样的骚扰电话，广大市民可以选择不予接听，或是要求对方进行视频通话，通常就能马上识别出骗子。

　　而利用AI技术实施换脸进行诈骗，骗子通常会基于“目标人物”发布的照片、视频，通过人体图像合成技术生成假脸。要识别真假，目前比较好用的技巧是注意观察对方的眼睛。根据警方目前掌握的情况，骗子使用大多数的“假脸”都是使用“目标人物”睁眼照片合成的。为此，“假脸”在行骗时极少甚至不会出现眨眼动作，这也是简单判断一个视频真假的办法。此外，识别AI换脸视频的方法，还包括语音和嘴唇运动不同步、情绪不符合、模糊的痕迹、画面停顿或变色等。简而言之，如果你与亲友的视频交谈中，感觉画面有点异样，一定要提高警惕。

　　锦囊二：多重验证，确认身份。

　　在涉及转账交易等行为时，要格外留意，可以通过电话、视频等方式确认对方是否是本人。在无法确认对方身份时，可以将到账时间设定为“2小时到账”或者“24小时到账”，以预留处理时间。尽量通过电话询问具体信息，确认对方是否为本人。即便对方运用AI技术行骗，也可以通过提问的方式进一步确认身份。建议大家最好向对方的银行账户转账，避免通过微信等社交软件转账。一方面有利于核实对方身份，另一方面也有助于跟进转账信息。

　　锦囊三：保护好个人信息及隐私。

　　警方提醒，限制公开分享自己的网上信息量，是减少被网诈最有效的方法之一。

　　日常生活中要注意上网安全，电脑、手机应该经常更新杀毒软件。上网浏览时，不要轻易点击陌生链接、下载陌生软件，更不要向陌生人开启远程控制或共享。对于支付密码应该养成定期更换的习惯，不要把密码存在手机或者电脑里，更不要将收到的验证码告诉他人。此外，对于不明网络平台发来的广告、中奖、交友等链接提高警惕，不随意填写个人信息。尤其不要随意将自己的照片、声音上传到网上，防止被骗子利用。

　　警方建议将你的社交媒体账户设为私密。在分享音频和视频之前，将你的隐私设置限制为只允许你认识和信任的人查看你的帖子。这可以帮助防止诈骗者获取你和你亲人的录音和视频。此外，为你的在线账户启用多因素身份验证。这样，即使诈骗者获取了你的用户名和密码，他们仍然需要其他验证步骤，如一次性时间敏感代码，才可以访问你的账户。

　　锦囊四：提醒老人，共同预防。

　　高科技手段的诈骗方式迷惑了很多人。警察提示要特别注意做好家中老人的宣传防范工作。提醒老年人在接到电话、短信时，要挂掉电话，再次拨打家人电话确认，不要贸然转账。

　　针对家中老人常被骗子以冒充“亲人”忽悠转账诈骗的手法。警方支招，广大市民可以与亲人提前沟通，一家人商量好属于你们自己的“密码短语”。如果您接到“家人”打来的电话，声称需要钱财，你可以通过“密码短语”的方式验证对方，确保自己是在与真人交谈。这是一种免费而有效的防范措施。山西晚报记者 辛戈