警惕语音克隆，AI语音可以在5s内克隆你的声音

某银行经理接到公司董事电话：公司安排收购，需要从账户中划出巨额资金，希望他批准这道流程，还附上了相关律师的邮件，以确认金额和转入账户。本次交易合法合规，过程没有任何问题。而且，还是老板亲自打电话，所以他按要求转了3500万美元。直到转帐完成，这位迪拜高管都没意识到，电话那头熟悉的老板的声音，竟然是用语音克隆技术合成的。

福布斯报道了这一诈骗案，但没有披露受害者的姓名和其他详细信息。据估计，这个案子至少涉及17人。从去年年初开始，这些诈骗到的资金就被汇入了世界各地的银行账户。

如果不是亲耳所闻，我想大部分人是不相信会有这么神奇的事情。

但是不得不说，能做到这种程度已经能够以假乱真了。如果有更多的时间和更多的材料来训练，相似度应该会更高。

更可怕的是，这种逼真的转换并不难操作。

比如Github上的AI拟声项目Real-Time-Voice-Cloning，可以在5s内克隆你的声音并生成任何内容，你也可以直接下载或者自己训练合成器。开源项目可以直接从GitHub获取。然后输入一段你的语音和目标语音，输入你要读出的文本内容，然后克隆一段输出音频。

面对这样以假乱真的的效果，不难理解这位银行高管为何容易被骗。但这只是已知的第二起利用语音克隆实施巨额诈骗的案例。它远比英国能源公司22万欧元欺诈的第一起案件成功得多，其破坏力可见一斑。

技术是中立的，但善恶确是看使用的人。

了解了这种新型诈骗手段后，人们不禁要问，AI语音转换难道就是用来骗人的吗？

当然不是，语音转换可以用来做非常有意义的事情。比如前段时间，语音转换技术出现在央视《等我》节目中，帮助退休多年的袁爷爷找回了当年一起在战场上战斗的老排长的“声音”。

但是在各个科技公司研究语音转换技术给人在带来便利的同时，还要防范恶意利用人工智能进行网络犯罪。

一些信息安全初创公司已经注意到这一点。他们声称能够检测合成语音以防止欺诈。反欺诈的原理是通过比较音频中单词的实际发音是否与真实的人类说话方式在细微程度上相符。毕竟，人类的发音不会像机器那样标准和机械。

这也提醒我们，要及时关注科技新发展，不断提高安全意识。

对于长辈们来说，日后除了下载反诈骗App外，可能还要考虑手机的另一端是否是自己真正的孩子。