这种网红，就该被全网封杀

这两年以来，AI算是彻底火了。

光是在机圈这儿，咱都没少听手机厂商们，宣传各种AI功能。

端侧大模型、AIGC消除和自然对话，都成功落地于最新一批旗舰。

在“文生图”和“文生视频”领域，AI的进化更是不讲道理。

Sora横空出世，能根据文字描述，直接生成时长1分钟的视频。

不仅画面逼真，符合现实物理规律，生成的门槛还很低。

只要用文字描述得详细一些，AI就能帮你把事儿办成。

但门槛低，也意味着技术，很容易被搞黑灰产的老哥利用。

光是这半年来，机哥就看到不少，网友利用AI作恶的例子。

最新鲜热辣的，莫过于这几天上了热搜的：

“主播用AI换脸成杨幂、刘亦菲，在直播间带货赚钱”。

AI换脸咱们平时没少见，直播带货更是早就火遍了互联网。

但这两者结合，用来带货引流。

多少是给广大网友，带来了一点科技震撼。

而且这换脸效果不能说差，只能说和杨幂本人非常接近。

很多观众在抖音快手，刷到这类直播间真的被骗到，以为杨幂在这带货。

于是该下单的下单，该送礼物的送礼物，明星效应在直播带货中，被发挥得淋漓尽致。

可能有机友会说：

“动态换脸总不能这么逼真吧。”

可事实是，只要主播在镜头前不做幅度太大的动作，基本很难翻车。

当然，AI换脸，换的主要是眼鼻嘴。

如果主播的脸型轮廓，和杨幂本人差异较大。

那换脸的效果确实会被大幅削弱。

怎么说呢。

能识别出换脸问题的，多半是混迹互联网比较久的年轻人。

如果是咱们家中的长辈，看到带货直播出现了个明星，大概不会怀疑其身份真假。

所以很多网友一致认为，利用AI换脸，把主播的脸换成明星。

本质上就是在欺骗普通观众和消费者。

聊到这儿，大伙可能以为：

“直播AI换脸，一定是啥昂贵又难以入手的技术吧？”

恰恰相反。

大多数直播间，用的都是免费开源的DeepFaceLive。

只要提前准备好训练模型、一张RTX 20系以上的显卡、一个DeepFaceLive换脸工具。

谁都能整一个实时直播换脸。

实在是搞不懂的话，现在网上随手一搜，都能搜到详细上手教程。

即使是零基础小白，看完教程都能整点花活。

这也是为什么，AI会被各种恶意利用。

它效果越来越好的同时，门槛还在不断降低。

要是平台不上点强度来整治。

我估计杨幂被用来直播带货，只会是一个开头。

以后主播带着个什么明星脸来带货，我都不觉得奇怪了...

除了被运用于直播上。

AI最近还被很多商家，用来“复活”那些逝去的人。

这里说的，自然不是真正意义上的复活。

而是利用AI技术，深度学习某个人生前的人脸图片和声音，最终生成一个动态的数字化形象。

最近热度比较高的，就是音乐人包小柏“复活”女儿的新闻。

这事儿当时在网上，引起了不少争议。

但有争议，就意味着会有流量。

于是乎，更多“数字生命”，在互联网上相继出现。

首先是明星李玟，在视频中，李玟以亲切的口吻向大家问好，让粉丝不要担心。

AI复活技术的存在，让所有逝者都获得了好好道别的机会。

很多李玟的粉丝看到，心里既感动，又欣慰。

但很多理性的网友蚌埠住了。

这不是纯纯对逝者不尊重么？

兴许是尝到了“AI复活明星”，带来的流量甜头。

后续又有人制作了“复活”高以翔的视频。

AI的发挥依旧稳定。

无论是五官、声音还是神情，都和高以翔本人几乎一致。

网友们第一时间想到的，也不是惋惜和悼念。

而是：

“消费死者博流量有意思？”

“能不能尊重一下他们的亲人？”

很显然，这事儿在某些商家眼里，是停不下来的。

对于AI复活，广大网友看到的是伦理和道德上的争议。

而商家看到的，是把猪扔进去，都能飞起来的风口。

在主流电商平台，很快出现了所谓的，“定制数字人”和“亲人复活”生意。

价钱也在100元到500元不等。

你说这笔买卖划算吗？

肯定是不划算的。

无论是人脸合成，还是声音还原，在全球最大同性交友网站Github上，都有开源免费的项目，商家做得还是信息差生意。

比如在声音克隆这一块。

已经有项目能做到，输入5秒的人声素材，生成一个能随意讲话的人声模型。

有UP主专门为这个项目，做了个详细使用教程。

结果在B站大受欢迎，播放量足足有372万。

这也能看出，其实网友对于新鲜的AI技术，兴趣还挺浓厚。

但新鲜感褪去，迎来的是后怕。

万一这些效果好、门槛低的技术，被坏人利用了。

网友们真能分辨出来是AI？

我想，大概率是分不出来。

像是今年2月份，就有一家跨国公司，被诈骗分子换脸伪装成公司高层，骗走了公司2亿元。

你说公司不专业吧，人家可是资产过亿的跨国公司。

但依旧招架不住，AI换脸诈骗的猛攻。

更别说在短视频平台上，一直有博主用特效换脸，把自己伪装成外国人卖货赚钱。

我知道啊，有机友会想着：

换脸带货也好，AI复活也罢，只要自己提高警惕，总不会有啥问题叭？

emmm...大伙别忘了，AI的使用门槛在降低。

当它低到，足以让一个普通网友都能轻松使用时。

咱们上网冲浪，不见得能快乐到哪去。

虽然，AI换脸和声音克隆，都需要素材喂给AI工具训练。

可现在谁不玩几个社交平台？

谁没在社交平台发过点照片和视频，这可都是现成的素材啊。

好消息是，大厂都关注到了这个问题。

对于技术上能识别到的AI内容，该提示的提示。

坏消息是。

AI工具的进化速度也很快，有时候连平台都没法辨别出，内容是否AI生成。

这场真实和虚拟的博弈，注定会持续很久。

以后上网冲浪，还是给自己留点隐私比较好。

图片来自网络