全民反诈进行时，AI“亮剑”打击网络诈骗

新一代信息科技在我国加速赋能产业、催动社会变革的同时，随着技术创新的触角不断下探，其所能扮演的角色越发多样，所能发挥的作用越发巨大，来自公众利益的呼声随之不断涌现。党的十九届四中全会提出要将“科技支撑”作为社会治理体系的重要组成部分。作为技术创新的主体，企业主导的先进科技力量在现代社会治理中的重要性日益凸显，正在成为打造新一代社会治理体系的关键环节。

不同于商业价值丰富的产业领域，社会治理是一块“回报有限”的硬骨头，更能见证科技企业的情怀与初心。透过网络安全与信息治理领域这一近年来的实践案例可以窥见，以百度为代表的人工智能科技企业，正积极践行企业社会责任，运用AI技术与产品解决方案，助力防范并解决新型社会治理问题，为公众福祉增添更多保障。

随着以“AI反诈”为代表的社会治理科技不断发展升级，尽管新的风险与隐患仍可能层出不穷，但社会治理力量将被赋予更多技术自信与底气。人工智能企业多一份贡献，AI社会治理能力多一份完善，社会安定便多一份稳固。

利民之事，丝发必兴；厉民之事，毫末必去

近年来，随着网络技术的不断发展，利用网络进行诈骗的“招数”也在升级加码，让人防不胜防。电信网络诈骗现已成为发展最快、严重影响人民群众安全感的刑事犯罪之一，严重影响社会的长治久安，人民生活的安定幸福。

全民反诈，势在必行。作为一场攻坚战、持久战，反诈工作需要国家、地方、社会各界的共同努力，而且在这个过程当中，以企业为单位的主体，特别是AI科技企业正发挥着越来越重要的作用。

事实上，从事反诈防诈，一直是国内互联网企业的重要课题之一。百度、腾讯、阿里、京东、科大讯飞等互联网巨头，或针对自身内容平台相进行重点清理，或开展政企合作，利用科技手段协助警方打击电信网络诈骗。2021年9-10月，国家反诈中心主办了“全民反诈”系列直播活动，百度安全专家受邀做客直播间，向广大网民科普网络诈骗、解析新型诈骗手法、提升公民防诈意识。百度安全近年来持续AI反诈技术的研究，并积极与政府公安机构进行合作，承担起“AI反诈先锋”的作用。

多方携手，攻坚网络生态环境治理

近年来，网络有害信息及其关联的网络犯罪日益增长。传统犯罪加速向网络空间蔓延，特别是利用网络实施的诈骗和赌博犯罪持续高发，2020年已占网络犯罪总数的64.4%。2020年，全国检察机关起诉涉嫌网络犯罪（含利用网络和利用电信实施的犯罪及其上下游关联犯罪）14.2万人，同比上升47.9%。

“加强互联网内容建设，建立网络综合治理体系，营造清朗的网络空间……”这是党的十九大作出的战略部署。2019年底，国家互联网信息办公室正式发布《网络信息内容生态治理规定》，明确压实了互联网企业的平台责任。百度第一时间参与到了网络安全生态多方治理格局当中。

百度AI依托威胁情报大数据和百度大脑核心技术之一的知识图谱，搭建全网基于搜索生态、内容平台的安全态势感知系统，针对网络诈骗上游进行治理、清理。

一方面，通过百度安全态势感知系统，可针对全网文字、图片、视频、代码等进行智能建模和7×24小时实时监控，对欺诈、违法、风险等恶意网站及第三方浏览器、第三方APP、社交平台、短信网址有害信息采取风险标注、拦截提示、搜索屏蔽等拦截措施，该系统目前通过事前监控—— 事中拦截——事后追溯的保障机制，从源头阻断网络黑灰产触达用户。另一方面，针对电信网络诈骗的源“公民个人信息泄露”进行集中治理，对相关涉嫌网站进行拦截屏蔽，对内容平台相关违法违规信息进行重点清理，并对相关行为人实施永久封禁账号等处罚措施，多方位保护公民个人信息安全。

阻击AI滥用，让“AI换脸”、“AI换声”无处遁形

某一天，你的家人接到了一个来自于“你”的求救电话，电话那头的“你”无论是声音还是语气都和真实的你如出一辙，甚至通过视频也能看到“你”在手机那段心急如焚地求救……

这样的场景不再是电影里的高科技，而是如今利用AI技术进行网络诈骗的手段之一。

以AI换脸为例，百度安全此前多次面向公众进行展示，只需通过简单几步操作，视频里的角色就能轻易替换成另一个人，连眨眼的表情与姿态几乎都能做到完全同步。此类基于AI的人体图像合成技术被统称为Deepfake，即“深度伪造”。Deepfake为代表的技术滥用带来了一系列的“AI黑灰产”问题，通过 "换脸"技术进行色情图片、视频生成、虚拟政治人物讲话等，使人脸识别技术的信息安全受到威胁，对社会秩序与舆论环境带来极大的风险。

再以AI换声为例，据百度安全研究发现，从早期利用传统设备的语音拼接，到当下主流的韵律迁移，仅收集非常有限的个人语音数据，利用AI模型进行学习，提取发音特点（重音、语调、语速、停顿等），即可生成个性化的语音片段，即便是此前收集的语音数据中未曾出现的字眼，亦可生成。获取30s时长的语音数据，即可实现对任意一段内容的以假乱真，获取1分钟的语音数据，合成效果则更加流畅逼真……

业内人士认为，黑灰产滥用人工智能等先进技术升级攻击工具和策略，针对人工智能的应用边界、检测技术及配套监管措施引发了网络安全生态治理新课题。

面对层出不穷的AI网络诈骗该怎么办？百度给到的解决方案是——“用AI来对抗AI 的滥用”，2019年，率先推出国内首个基于人脸搜索、人脸属性提取、语音识别和OCR识别的深伪检测平台。

据介绍，该平台基于多因子检测引擎，覆盖10+种“深度伪造”技术与40+款相关应用的检测，对主流“深度伪造”数据识别准确率在99%以上。平台以识别面部的边缘效应、纹理、肤色变化、分辨率差异、扭曲等特征来鉴别假脸，无论是检测传统的AI换脸，还是识别兼具两张人脸特征的人脸融合，均有出色表现。

目前，百度AI换脸检测工具已面向业界开源，致力于促进多方部门开展联合开发及测量评估，从源头阻断滥用AI实施电信网络诈骗行为的蔓延。

“科技为更好”是科技的使命，更是科技缔造者的初衷。对于科技企业而言，如何使AI服务于民、造福于民，为“全民反诈”注入科技力量，必将是行业研讨的重点。