文|南风

编辑|先锋谷影视娱评

胖东来，一直都是零售行业独树一帜的存在。

而于东来作为其灵魂人物，他的理念也一直都被民众所追捧。

网上很多地方都能找到于东来讲话的视频。

视频里他抑扬顿挫地述说着接地气的大道理，引得观众连连称赞。

殊不知，眼前这个侃侃而谈的“人”，有可能根本就“不存在”。

于东来成了“人造神”

说视频里的于东来可能不存在，是因为那说不定是AI合成的视频。

视频里的观点，往往经过了刻意放大，或者直接就是虚构的。

可能是一些看似高深的人生哲理，也可能是一些有模有样的商业秘密。

这些东拼西凑的碎片化信息，把于东来包装成了一个商界的“圣人”。

而有了这层的“圣光”，就有越来越多的人开始利用他的AI形象博流量，形成循环。

实际上，这种“造神”的行为，是在从根本上摧毁于东来的名声。

表面上看，这些内容好像是在为他引流。

可仔细想想，为什么网上那些AI生成的“于东来”，会有那么多人追捧？

那是因为他们在消耗他以及公司的影响力。

这些人使用他形象的时候，可不会经过他本人的同意，内容自然也不会经过他的审核。

那么在视频中夹带一些“私货”，也就不奇怪了。

比方说让于东来去给自己带货。

毕竟他们可不是真的是为了抬高于东来的地位才进行AI创作的。

商业行为的根本目的，还是赚钱两个字。

当粉丝看到“于东来”的形象，就会觉得很靠谱。

既然于总都亲自推荐产品了，那跟着买肯定没错。

结果可能买到家才发现，东西根本就不值那个价。

钱白花了不说，还受了一肚子的气。

这个账，肯定是要算到“骗”自己的那个于东来身上的。

网上流传的AI形象可不止于东来一个，造成的影响也不会止步于一家公司。

这种被骗的经历太多了，大家就会对市场越来越没有信心，觉得到处都是坑。

就像是遇到山寨产品一样，为了不买到假货，那最好的做法就是不买这个牌子。

所以这种滥用AI的风气要是刹不住的话，后果还是很严重的。

技术是一把双刃剑

今年以来，很明显能感受到网络上AI合成的视频越来越多。

短到十几秒的广告，长到一两个小时的电影，到处都有AI的痕迹。

AI泛滥最主要的原因，是技术发展让合成视频变得简单了。

以前搞个视频合成，非专业人士不行。

就算是专业人士，也要配齐很贵的硬件，使用非常复杂的软件，花好几天才能做出来。

所以之前不是没有类似的行为，只是成本高，效果差。

就算是做出来了，通常也都是被一眼识破，只能当个乐子看。

而现在的AI合成技术已经趋于完善。

各种AI工具网上一抓一大把，操作步骤还都一个比一个简单。

只要有心学习，几天甚至几十分钟都能做出点东西出来。

要是再经过一番优化迭代，想要以假乱真也不是没有可能。

但技术是没有自己思维的，一些喜欢搞歪门邪道的人得到它，自然就被用在了歧途上。

利益驱使也是AI泛滥一个很重要的原因。

这个流量为王的时代，有了流量就意味着有了金钱。

想要成为有流量的名人不容易，但是想要用AI模拟出一个名人，并不难。

把要求往AI里一丢，让假人随便说几句话，就能吸引一大批人来围观。

流量有了，再接广告、带货，防不胜防。

被抓到当然需要赔偿，可是万一没有被抓，那等着自己的就是无本万利。

当然，这其中也存在监管相对滞后的问题。

此前光明网、红网等央媒也报道过此类AI滥用事件。

“全红婵带货”的事件之后，相关部门也给出了新规。

规定9月份以后，AI生成的内容必须进行标注。

9月8号李亮也发文表示，平台已经处理了上千个AI黑产账号。

看得出来，相关部门已经注意到了AI滥用带来的诸多问题，也采取了相应的措施进行整改。

可是AI发展的速度实在太快，新的问题总是层出不穷，监管想要及时跟上并不容易。

处罚力度不够，违法成本低，也让很多人变得有恃无恐。

所以，只是等着违法人员被处理是不够的，自己也得提高警惕不被骗才行。

如何分辨AI与真人

有时候认不出AI和真人，还真不怪观众太疏忽。

一些视频做得本来就真假难辨，如果作者再把清晰度调低一些，很多辅助判断的细节就会丢失。

想要通过那些小瑕疵辨别真假，就变得很困难了。

不过很难并不代表完全无法分辨。

即便画面很模糊，也能看清人物的口型与动作。

现在的AI形象已经能保证口型与文字吻合，但做不到完美。

仔细看的话，很明显能感觉到AI人物的嘴部发力很奇怪，不符合常识。

甚至有一些做工粗糙的视频，人物的五官的大小都无法保持一致，很容易看出问题。

当然，见到很模糊的视频，最好是看个乐子就行，不要轻易当真。

另外从声音也可以进行判断。

AI生成的声音，总是会带着一点或强或弱的“电音”。

正常人说话的时候，极少会一直带着那种“滋滋啦啦”的声音。

同时AI的咬字也总是在奇奇怪怪的地方突然加重，不像是人类的说话习惯。

通过这些综合判断，大致就能分辨出是否是真人在说话。

这些问题都能通过长时间的调试来解决，但也不用担心。

如果骗子能有耐心和能力去精益求精的话，大概他也不会甘心做一个骗子了。

当然还有一个最简单的方法，那就是相信直觉。

突然感觉某个视频像是AI合成的，那就保持怀疑态度，不要轻信。

这样的话，大概就能避免很多的坑。

结语

AI技术的滥用，已经造成了很大的危害。

我们当然不能掉以轻心地忽视掉潜在风险，但也不能因噎废食地全盘否定。

技术进步与规范治理必须同步推进。

在这场真实与虚拟的博弈中，保持清醒的认知，是我们守护自我、远离“造神”陷阱的最有力武器。

部分参考资料：
抖音出现大量AI仿冒于东来内容，抖音副总裁发声：封禁1000多个账号；胖东来此前发文追责——极目新闻

抖音副总裁：发现大量利用AI仿冒“于东来”违规营销带货内容，已封禁1000多个黑灰产团伙账号，一企业被罚15万元——每日经济新闻

抖音：已封禁超千个AI仿冒于东来账号——红网