当下的流行趋势真是一天一个样，昨天抖音和微博上还是人人翻跳泫雅的《I’m Not Cool》，今天就改发魔性十足却又略显沙雕的《蚂蚁牙黑》了！

相信用过或看过这类视频的朋友已经了解其内容了，大致就是借助一个软件就可以将一张照片中的静态人像改为节奏感丰富且能随伴奏歌唱的动态画面。

其实，在古早的美图秀秀时代，各种美化或恶搞照片的操作已经十分常见了。

但随着AI技术尤其是所谓Deepfake（深度伪造）概念的兴起，人们对图像的“改造”已经达到了惊为天人的程度，甚至由此引发了触及法律和伦理的讨论。

抖音出道，背后另有高人

同以往我们了解的抖音特效不同，此次“蚂蚁牙黑”风潮的发起者并非是抖音，而是一款名为Avatarify的软件。

Avatarify是一个基于人脸识别技术的社交视频应用，打开应用后，你可以将任何人脸识别后叠加设置好的动态表情GIF，并加上流行歌曲做音乐背景，然后分享到网络上。

虽然今年Avatarify才流行开来，但该程序的开发者Ali Aliev早在去年年初就借助arxiv预印本服务器上发表的“First Order Motion Model for Image Animation”的开源代码来构建Avatarify。

Ali Aliev

First Order Motion是由意大利特伦托大学（University of Trento）以及美国Snap公司的研究人员开发的，它可以使用一个人的视频（比如演员的镜头）来“改造”另一个人的照片，而不需要事先对目标图像进行任何训练。

这算是一种技术上的进步。因为传统的Deepfake“换脸术”算法是需要在你想要变换的人脸上进行训练的，通常需要几张你想要动态化的人脸图像。

但First Order Motion这个模型可以通过对目标的相似类别（比如人脸）进行训练，来实时完成算法的实现。

“我在PC上运行了First Order Motion这个模型，结果让我很惊讶。最重要的是，它的工作速度足够快，可以实时驱动一个虚拟人物，”Aliev说，“开发一个原型只需要几个小时。”

起初，Aliev把自己扮成埃隆·马斯克，然后参加与同事的Zoom线上会议。虽然明显是个假的，但“马斯克”的眼睛和头部运动顺畅，还是把同事们吓了一跳。

“Avatarify之后的迭代瞄准的是可用性和趣味性。当然，它需要一台强大的游戏PC才能顺利运行，但我们认为针对笔记本电脑的优化只是时间问题，”Aliev说，“它只是让人们在居家隔离的日子里找点乐子罢了。”

“死而复生”

如果说Avatarify提供的还只是休闲娱乐，那么接下来介绍的内容则不免使人感到毛骨悚然。

上周日，国外家谱网站MyHeritage推出了一款工具“Deep Nostalgia”（深度怀旧），该工具可以利用Deepfake技术将用户死去亲属的照片制作成动画。

48小时内，就有超过100万张照片使用了Deep Nostalgia功能。

Deep Nostalgia服务是使用以色列公司D-ID授权的AI技术来制造静态照片移动的效果，有点像iOS的Live Photos功能。

但Deep Nostalgia可以处理任何相机拍摄照片，并让它们“活”起来。

使用时，用户必须在MyHeritage上注册一个免费账户，然后上传照片。之后，整个过程便是自动化的；网站会先增强图像，然后再将其动画化并创建一个GIF。

在MyHeritage网站上，维多利亚女王、林肯和弗洛伦斯·南丁格尔等历史人物都被“复活”。

目前，Deep Nostalgia只能处理单张头像，而且只能对脸部进行动画处理。

对于这一功能，有些人可能会觉得“不太舒服”，而另一些人则充满了惊奇和感动。

有些人看到他们未曾谋面的祖先眨眼、微笑，有些人则是在多年后目睹他们失去的亲人可以“活过来”而感动得流泪。

“看到他再次微笑，我很开心。”一位用户在将4年前去世的丈夫的照片做成动画后说。

此前，英国政府正在考虑对Deepfake技术进行立法。

MyHeritage表示，“为了防止技术滥用，它特意没有在功能中加入语音选项。”

“伪造”也有边界

Deepfake，是“Deep Learning”（深度学习）和“fake”（虚假）的合成词，其对视频、音频和文字的处理效果类似于Photoshop的。

经由该技术改造后，现有图像或视频中的人会被替换成其他人的肖像。

虽然伪造内容的行为并不新鲜，但Deepfake利用机器学习和人工智能的强大技术来操纵或生成具有高欺骗潜力的视觉和音频内容。

目前，用于创建Deepfake内容的机器学习方法主要基于深度学习和训练生成式神经网络架构，如自动编码器或生成式对抗网络（GANs）。

2020年被称为“Deepfake成为主流的一年”，因为它的使用从几年前的互联网阴暗角落，迅速发展到在广告、电视节目甚至纪录片中越来越广泛的使用。

随着银行和其他金融服务逐渐依赖通过自拍和视频进行数字身份验证，新的Deepfake技术也对银行、加密货币交易所和其他越来越多地使用图像和视频来验证身份的企业构成严重的威胁。

然而，如果说还有哪些群体会是Deepfake技术的直接受害者，全球近40亿的女性群体恐怕声量最高。

2019年的一份报告发现，96% 的Deepfake网络视频是色情的，并且专门针对女性。

早期的Deepfake假照片集中在女明星身上，但是使用名人照片和社交媒体私人照片甚至偷拍女性照片的Deepfake已经有所上升。

最近的一项调查发现，一个由人工智能驱动的 Telegram 机器人允许用户以数字方式“剥离”穿着衣服的女性。

根据这份报告，绝大多数的目标是个人，大多数图像似乎是从目标的社交媒体账户或其他私人渠道拍摄的，“这些人可能不知道自己已经成为了目标”。

截至2020年10月，已有10.4万至70万名妇女和儿童成为目标受害者。

换句话说，这些工具的扩散意味着，任何女性只要自己或他人在网上定期发布图像或视频，即便只是些正常的图像或视频，都有可能被篡改成“十分露骨”。

由于Deepfake可能会被误认为是真实的图像或视频，因此其潜在的社会、职场和个人影响非常严峻。

正所谓，画面“不真实”并不意味着对受害者造成的伤害就不真实。

亡羊补牢，未为晚矣

正是由于Deepfake的潜在威胁，各国政府和各大媒体公司开始将主要关注点放在Deepfake检测上。

例如，五角大楼的国防高级研究项目局（DARPA）正在资助对Deepfake的研究，Twitter、Facebook和YouTube近年来也都更新了政策，将Deepfake检测纳入其中。

在韩国，一份内容为“请大力惩治导致女明星受害的非法Deepfake图片”的网上请愿书获得了超过37.5万个签名，目标直指韩国公司Scatter Lab及其聊天机器人Lee Luda。

目前，韩国已经宣布Deepfake视频为非法，这种犯罪行为最高可处5年监禁和高额罚款。

然而，检测Deepfake只是千里之行的第一步，距离提供一个最终的解决方案还相去甚远。

最终，技术解决方案本身只能提供这么多。它们必须与政策和社会解决方案相结合，以提供一个全面的应对之道。