警惕,有人在偷你的声音,偷你的脸!


今年央视“3·15”晚会,揭露了AI变脸技术背后潜藏的诈骗风险,这一话题引发了社会广泛的关注。


人工智能是一把双刃剑,在推动社会进步的同时,也隐藏着巨大的风险。随着人工智能技术的不断进步,AI技术应用的门槛随之降低,AI诈骗方式层出不穷,因为其逼真的效果,让人防不胜防。


下面,让我们来盘点一下AI诈骗的四种典型方式——AI换脸、AI拟声、AI造谣、AI炒股。


诈骗方式一:AI换脸

眼见不一定为实!近期,多起“AI换脸”诈骗案例,为我们敲响了警钟。


骗子会通过各种渠道收集受害人及其熟人的信息,如姓名、电话、社交账号、照片、视频等。并利用深度学习算法精准地识别视频中的人脸图像,并提取出如眼睛、鼻子、嘴巴等关键面部特征,生成逼真度较高的虚假换脸视频。然后,伪装成领导、同事、亲人或者朋友的身份与受害人视频聊天,进而实施诈骗。

案例

近期,香港警方披露了一起多人 “AI换脸”诈骗案,涉案金额高达2亿港元。该案件中,一家跨国公司香港分部的职员受邀参加总部首席财务官发起的“多人视频会议”,并按照要求先后转账多次。但这场视频会议中只有受害人一个人是“真人”,其他“参会人员”都是经过“AI换脸”后的诈骗人员。

应对方式

可以要求对方在视频对话的时候,在脸部的前面通过挥手的方式,去识别实时伪造的视频。也可以让对方摁鼻子、摁脸,观察其面部变化。


诈骗方式二:AI拟声

听声识人,已经不可信了。近几年,AI语音合成技术有了显著的发展,一些C端的应用也逐渐成熟。然而,这种技术也被用在了诈骗上。


骗子通过骚扰电话录音等来提取受害人声音,获取素材后进行声音合成,从而可以用伪造的声音进行诈骗。

案例

2023年10月,象山警方公布的一起相关诈骗案中,不法分子通过AI语音合成一名在英国的留学生声音,企图骗取其家长100万元“赎金”。

应对方式

面对未知来电时,可以在了解对方的信息之后再开口,减少不必要的信息泄露。如果接到可疑电话,无论是绑架还是诈骗都应当立即报警,切勿轻信他人、转账汇款。


诈骗方式三:AI造谣

只需一张照片、几个关键词,利用AI技术就能快速创作出一篇文章。所以有人为了流量,利用AI技术编造假新闻,在网上大肆流传,造成恶劣影响。

案例

2024年1月23日,骆某某为博取流量吸引粉丝,将其他地区的抗洪、救灾视频,利用AI软件自动编辑功能,嫁接新疆乌什县发生地震的虚假视频信息。视频被大量播放,并引发许多不明真相网民评论和转发,严重干扰社会秩序。

应对方式

尽量从官方媒体或者权威渠道确认消息来源,不信谣不传谣,提升对“AI造谣”的鉴别力。


诈骗方式四:AI炒股

股民也成为了AI诈骗的重点对象。随着AI技术的发展,利用人们对新技术的好奇心理以及对高收益的追求,一些号称能为投资人实现自动选股交易的APP如“AI智能炒股机器人”等冒了出来。但这些APP背后的运营公司都没有取得证券投资咨询许可资质,可能存在非法荐股的违法犯罪行为。

案例

去年,上海市公安局经侦总队牵头闵行、嘉定等分局,侦破假借策略选股软件非法经营证券投资咨询业务系列案,抓获犯罪嫌疑人56名,涉案金额9200余万元。

应对方式

投资有风险,入市需谨慎。投资人应理性参与证券投资,自主作出投资决策,远离无证机构提供的证券投资咨询服务。


专家支招:规范AI产业发展



福建华策品牌定位咨询创始人詹军豪接受中国证券报记者采访时表示,防范AI诈骗需要保持警惕,不要轻易相信陌生人的信息和推荐。遇到可疑情况,可以通过多渠道进行核实和确认。同时,加强自身的信息安全意识,不随意泄露个人信息和账户密码,避免给不法分子可乘之机。

詹军豪认为,防止AI技术被滥用需要全社会的共同努力,包括政策制定、技术研发和市民自我防范等多个方面。首先,政策层面需要制定严格的法律法规,明确AI技术的使用边界和限制,对于滥用行为给予严厉的处罚。同时,加大监管力度,对AI技术的研发和应用进行严格的审查和监督,确保技术的健康发展;第三,技术层面也需要加强防范。可以研发更加先进的AI识别技术,对生成的虚假信息进行实时检测和过滤。第三,建立更加完善的身份验证机制,防止不法分子利用AI技术进行诈骗等违法行为。

天使投资人、资深人工智能专家郭涛建议,加强算法监管与透明度,建立严格的算法审核机制,对生成式人工智能的算法进行定期审查和评估,确保其不会生成虚假、误导性的信息;建立风险识别和预警机制,利用大数据和人工智能技术,对生成式人工智能的输出进行实时监测和识别,及时发现并处理可能存在的诈骗风险;加强行业自律和协作,制定和完善生成式人工智能在网络应用领域的行业规范和标准,加强与公安、网信等相关部门的协作,共同打击利用生成式人工智能进行的网络诈骗行为;提高公众防范意识和技能,加强网络诈骗防范知识的宣传教育,提高公众对生成式人工智能的认识和警惕性。

审读:程竹
编辑:张晶
校对:张典阁
监制:王朱莹
签发:孙宏
展开阅读全文

页面更新:2024-03-19

标签:不法分子   受害人   人工智能   算法   虚假   声音   案例   方式   技术   信息   视频

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight 2020-2024 All Rights Reserved. Powered By 71396.com 闽ICP备11008920号-4
闽公网安备35020302034903号

Top