看丹观察丨“AI孙燕姿”成网红，慌的不该只是歌迷

近日

“AI孙燕姿”成了新网红

它翻唱过周杰伦的《发如雪》

翻唱过郭顶的《水星记》

翻唱过赵雷的《我记得》

受到了网友的追捧

甚至有网友宣布

“这是2023年最火的声音”

“AI孙燕姿”火了

所谓“AI孙燕姿”

就是通过模型训练和后期处理

让AI用孙燕姿的声音

翻唱其他歌手的歌曲

从技术的角度看

“AI孙燕姿”是如何实现的？

清华大学人工智能国际治理研究院副院长

人工智能治理研究中心主任梁正说

“基本上是用开源的生成式语音训练模型

集纳一些语音素材进行训练

而且数据量也不大 ”

简单来说就是

制作“AI孙燕姿”的歌曲

首先需要获取孙燕姿

没有伴奏和混响的原始声音

这些素材可以通过去伴奏

或者提取对话等方式获得

然后将这些素材作为目标音色

输入到模型中进行训练

得到一个可以生成孙燕姿音色的模型

接下来就可以用这个模型

来转换任意音色的歌声

比如林俊杰、周杰伦、赵雷等歌手的歌曲

最后再进行一些后期处理和调校

就可以得到听起来像孙燕姿唱的歌曲了

网友：AI没有灵魂

没有本尊的味道

多数网友认为“AI孙燕姿”

目前就是音色像

但孙燕姿除了音色

还有情绪、咬字等等

这都是目前“AI孙燕姿”做不到的

有网友表示太喜欢孙燕姿的声音了

虽然AI不完美

但确实给了我们无限的可能

也有网友担心

这会被用在电信诈骗上

在某些方面

实在是有点细思极恐……

还有网友表示

AI不懂版权

律师：爆火背后，谁侵了谁的权？

北京市岳成律师事务所高级合伙人岳屾山表示

《中华人民共和国著作权法》

第四十二条第二款规定

录音制作者使用他人已经合法录制为

录音制品的音乐作品制作录音制品

可以不经著作权人许可

但应当按照规定支付报酬

著作权人声明不许使用的不得使用

“AI孙燕姿”使用了孙燕姿本人的声音

这涉及侵权吗？

国浩北京律师事务所合伙人粟晓南表示

“如果仅仅是音色或者唱腔

本身是不受著作权法保护的

但是在商标法的规定当中

声音是可以作为商标来保护的

如果没有去注册商标

就很难得到商标法的保护”

岳屾山说

“在民法典里声音保护参照肖像权保护

而肖像权又有明确规定不允许进行伪造

这样可能会涉及侵权

另外，虚拟歌手可能会造成故意误导

混淆或者形成假冒别人的名义等行为

这些可能会涉嫌不正当竞争”

粟晓南举例

“现实当中早有利用别人的声音

进行欺诈的案例出现

一些不法分子抓取模仿你的声音

去给别人打电话或发语音

别人可能误以为是你

继而可能会发生一些欺诈行为”

侵权之外

人工智能是不是打开了

潘多拉的魔盒？

除了侵权行为可能出现

其实AI歌手以及由此可能扩展出的

AI虚拟人背后还存在着

巨大的伦理方面的问题亟待解决

梁正表示

“最近有报道称用某个网红的声音去训练AI

然后同时跟很多人做情感交流

这里面的道德伦理问题比较大

因为不是真人

这能够叫作一种服务吗？

稍微处理不当就会踩到所谓的伦理红线

它会不会不当地引导？

因为没有办法去控制”

一段时间以来

关于人工智能生成内容以假乱真

数据泄露以及侵权的风险被进一步放大

针对目前生成式人工智能的发展与管理

其实业界也在讨论

梁正表示

一个月前国家互联网信息办公室发布的

《生成式人工智能服务管理办法（征求意见稿）》

是个很好的开始

但未来还需要对不同主体

进行更加明晰的责任认定

梁正说

“各个主体的分类责任要更清晰化

除了提供工具的大模型基础服务提供商

还有使用大模型生成相关内容的生产者

发布在相关平台上的发布者等

这里面的责任是要进行区分的”

我们迫切需要探索和解决的问题:

防止AI滥用

换脸、模拟声音、编造虚假信息……

今天，AI的运用越来越丰富

给我们带来了许多新奇、趣味的体验

也造成了不少麻烦

一些以假乱真的操作

甚至侵犯了个人隐私、著作权等

突破了道德和法律的边界

其实，大家都清楚

作为新技术，AI并没有错

我们要考虑的问题是怎么用好AI

怎么防止滥用AI

这是AI发展到这一步

我们迫切需要探索和解决的问题

毕竟，技术创新的初衷

是为了让生活更精彩

来源：央广网综合

记者：冯烁

本期编辑：杜晓婧 陈锐海

更多精彩资讯请在应用市场下载“央广网”客户端。欢迎提供新闻线索，24小时报料热线400-800-0088；消费者也可通过央广网“啄木鸟消费者投诉平台”线上投诉。版权声明：本文章版权归属央广网所有，未经授权不得转载。转载请联系：cnrbanquan@cnr.cn，不尊重原创的行为我们将追究责任。