评论区丨AI应用需要守好边界

如果用AI技术“复活”去世的人,你能接受吗?近日,在参与相关调查的约3.2万名网友中,接受者与拒绝者不相上下。而现实中,上海24岁小伙用AI技术“复活”已故的奶奶并与之视频通话,同样引发争议。一方认为,这种“技术思亲”自欺欺人,是对逝者的不尊重,存在伦理问题；一方则认为,这是AI的创新使用,让人的思念变得具体,感受到了科技的温度。4月11日,国家网办发布的《生成式人工智能服务管理办法(征求意见稿)》中明确要求,生成式人工智能服务采取适当措施防范用户过分依赖或沉迷生成内容。科技部牵头起草的《科技伦理审查办法(试行)》中则提出,“对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发”等7项可能产生较大伦理风险挑战的新兴科技活动,实施清单管理。对此您怎么看?

我们拿什么来守护“人”的边界?

□特约评论员 袁法周

前几日,在与兰州大学邱锋教授探讨历史方面的问题时,我半开玩笑地说:“伴随着‘人’的终结,人类并不会走向‘历史的终结’,而会在人工智能的加持下,在不可预知的深空中横冲直撞。然而,历史或许将不再由我们来续写。”“人”会终结吗?这是一个严肃的话题。

当万物互联的时代数据主义大行其道,“人”的阈值不断被突破。人工智能拥有着不可思议的超级“算法”,逐渐具备思考与研究历史问题的智能,从一篇历史文章的撰写到历史体系的重构,超越历史学家们的智能指日可待。因此,我认为“传统史学史研究方法已然终结”,但“历史学者的边界在哪里?”一叶落而知天下寒,面对人工智能的步步紧逼,历史学者们担心丢了饭碗,而整个人类则是要面对被“替代”的趋势。

这让我想到网上热议的AI“亲人复活”技术,孙子与已故的“虚拟奶奶”视频交流。通过虚拟技术以解亲人思念之苦无可厚非,但是随着技术的广泛应用,必然会涉及甚至触碰法律与伦理的底线。一旦泛滥与失控,就不是现实与虚拟融合看起来那么美好。当现实在虚拟中逐渐消解,整个社会运行秩序走向分裂瓦解,人的精神信仰丧失崩塌,那将是一场史无前例的巨大灾难。“人”的边界在哪里?我们该如何守护?这不仅是个严肃的问题,还是一个令人恐惧的问题。

请不要忽视人性的复杂性。当人类大力发展人工智能,一方面推动了科技进步,增进了民生福祉。另一方面也制造出更具毁灭性的工具,让整个人类陷入危险境地。尽管全球包括我国都相继出台了有关人工智能发展的法律规范。但是,一次次突破“人”的阈值的往往是人,而不是人工智能。如果有一天人工智能具备了超越人类的智能甚至意识,向人类索取“权利”并摆脱控制时,在两者之间会有一场和平谈判吗?我们还会用好莱坞式的“爱”来反转被“替代”的命运吗?我们是在与“工具”谈判,还是在与亲手终结了“人”的自己谈判?面对人工智能,人类不仅需要的是“控制”,更需要对“人”本身的反思。

(作者为人民美术出版社副编审,历史学博士,北京师范大学中国易学文化研究院研究员)

不必对“数字生命”过度恐慌

□特约评论员 于静

诗云:“生如夏花之绚烂,死如秋叶之静美。”对待生命,每个人都有自己的认知和思考。中国人常挂在嘴边的一句话就是“人死不能复生”,这是对生命的敬畏,亦是对自然规律的尊重。但人类文明进化到今天,科技改变生活,科技也颠覆了我们的认知。将已故的亲人“复活”,和他们面对面聊天,这些以往只能在科幻电影中看到的画面,竟然走进了现实,例如上海一小伙用AI工具“复活”已故奶奶,并与之视频对话。有人点赞,这是有益的尝试和创新,彰显科技的温度。然而,也有相当一部分人质疑,认为这是在试探法律的底线,挑战伦理的边界。

说实话,我挺敬佩这名上海小伙的,别的不说,最起码他找到了寄托哀思的办法,并且还有科技加持。对待这样的新鲜事物,没必要过度恐慌。就拿清明节来说,以前祭拜先人,都是肃立碑前,焚香烧纸,如果不这样做,就会被质疑为不孝。但是这些年,出于防火环保考虑,很多地方都禁止明火,而不少人因为各种原因,清明节也无法做到坟前祭拜。于是,网上祭扫,甚至代扫墓等方式逐渐兴起,并被世人接受。

话题回到AI技术“复活”已故亲人,其实道理是一样的。说白了,不过是一种化解思念的方式而已,这不是科幻电影中提及的“数字生命”,不是人类思维的延续。这种交流方式最多只是一种精神安慰,并未突破当前法律和道德的底线。

科技也是有温度的,对待新事物不妨宽容一些。就像现在一些短视频平台上,有软件用AI技术合成一个人从童年、到中年、再到老年的样貌,演绎一步步从懵懂无知走向衰老的过程,虽然明知这是技术合成的,但是看着镜头中慢慢变老的自己,我想没有几个人不会产生触动。

当然,包括AI技术在内,所有的新技术都不应该被滥用,在运用的过程中,首先不能违反相关法律法规,再者不能超越世俗人伦的底线,就好比现在经常使用的各类“变声”软件,拿来娱乐、用作正常的视频剪辑没问题,但是如果有人借此从事违法犯罪活动,那性质肯定就变了。

(作者为作家、时评人,青岛市作家协会会员)

AI“复活”奶奶,无关伦理但关乎法律

□特约评论员 宋守山

科技的发展总是在创造“奇迹”。比如,近日有年轻人“复活”了自己去世不久的奶奶,并与之进行了简单的交流。这一事件虽然有些“诡异”,但在AI换脸技术已经面世将近十年的今天,再有大数据等技术的加持,实现人的虚拟“再现”似乎也不是一件十分困难的事情。只是,如何对待技术的发展,则值得引发人们深度思考。

毕竟我们这代人已经深度介入互联网有二十余年。这些年中,每个人都在网上积累了大量的数据沉淀,依据大数据技术,基于交互大模型的存在,经过深度学习与调教,“复活”出一个“人”来,并与现实中的人在某种话语情景中进行一些“回应”与“交互”,这并不困难。说到底,这种行为仅仅是一种“虚拟仿真”而已,所谓“互动”也仅是一种经过高速运算之后的“例行回复”,这跟机器人与人下围棋相比,并没有什么本质的区别。在虚拟技术如此发达的今天,面对这种行为无须感到惊悚,也没有什么神秘性可言。毕竟,这些被“复活”的人,并没有实现自我进化,也没有产生自我意识,就是一种模拟而已。如果愿意,可以给这些数据加以任何的形象。所以,如果作为一种私人行为,做出此种“创举”,可能最多只是关乎技术的伦理问题,甚至连伦理都算不上。

但是,如果这种技术被深度应用到社会中,却是值得思索的事情。比如,现在经常在新闻上看到模仿领导发短信、打电话借钱等诈骗行为。随着对诈骗犯罪的打击力度以及公众反诈意识的提高,骗子得逞的几率似乎不高。但是,如果从“猜猜我是谁”进化到“聊聊我是谁”“看看我是谁”呢?如果犯罪分子也开始使用这项技术,那才是一种真正的灾难降临。毕竟不是所有人都能够判断跟你网上沟通的是一个真实的人,还是一个被AI技术创造出来的“人”。

“复活”关乎伦理,而“复制”则关乎法律。这才是我们最应该警惕的。任何技术都有其双面存在,遇到一些突破和发展,无须过分惊恐。但是应该去思考如何引导其走向正途。

(作者为青岛科技大学传媒学院副教授、媒介与社会发展研究中心负责人)

@西南政法大学民商法学院副教授郑志峰:

如果行为人为了悼念目的,“复活”自己的亲人原则不构成侵权,但若是出于营利、博眼球、诈骗等违法目的,则可能构成侵权甚至是刑事犯罪。同样,这类“复活”内容可能会让人们对于生命产生错误的认识,消解对于生命的敬畏之心,其次也可能造成人类的技术上瘾,不仅不能从中得到慰藉,反而依赖于此,影响其正常生活。

@刘远举:

现在很多人的解读夸大了焦虑与恐慌,有网友跟帖说“复活”反映了AI技术的运用亟须进一步的监管。实际上,监管从来都是不会缺位的。新事物、新技术都会有两面性,监管当然是必要的,但监管要约束的是可能的负面因素,而从根本上是要促进、鼓励发展新技术。舆论不能为了吸引眼球故意渲染焦虑和恐慌,这可能会导致过度的监管,影响中国在人工智能领域赶超世界先进水平。

@春城:

对于小伙子因为个人情感而技术怀旧的行为,我们不必过度苛责,既没有突破人伦道德的底线,也没有用于商业甚至其他犯罪目的。但是,对于同样的技术未来会如何挑战我们的伦理边界和法律规范,我们应当借此有所警惕和预判。

@西南科技大学傅淋梅:

生活难免会有遗憾,博主利用数字技术弥补遗憾,可以让其内心更好受一点,但生活始终是向前的,不能让一时的悲伤,阻挡自己前进的步伐。

话题征集

聚焦一周新闻热点事件,深度思考,理性评述,百家争鸣,激浊扬清。亲爱的读者,欢迎您参与“评论区”的话题讨论,无论是微言片语还是长篇大论,我们都期待您来一吐为快。

邮箱:

bandaobianjibu@163.com