AI企业被AI所伤 读懂反讽背后的警示

来源：【浙江融媒体】

图源：视觉中国

5月24日下午，科大讯飞股价突然跳水，一度下跌8.82%至53.88元/股。截至收盘，科大讯飞报价56.57元/股，当日下跌4.26%。当天，科大讯飞回应媒体时表示，“股价下跌系某生成式AI写作虚假小作文导致，谣传风险为不实消息。”此前，网络上流传一篇貌似某生成式AI制作的一篇“科大讯飞出现重大风险的警示文”。“警示文”称，科大讯飞涉嫌大量采集用户隐私数据，并将其用于人工智能研究。

科大讯飞究竟是否涉嫌违法采集大量用户隐私数据？据企查查APP显示，科大讯飞旗下多款软件应用都曾因违规收集个人信息被通报。然而，科大讯飞旗下讯飞有声APP被工信部通报私自共享给第三方侵害用户权益，是发生在2020年的事情。讯飞输入法被下架，则发生在2021年。近期，工信部对56款侵害用户权益的移动互联网应用程序（APP）及第三方软件开发工具包（SDK）进行通报，名单中并无科大讯飞。

也因此，目前尚无权威信源，证明科大讯飞涉嫌大量采集用户隐私数据，并将其用于人工智能研究。

假如网上流传的所谓“警示文”确是AI制作而成，那么这篇虚拟报道已经造成了实实在在的损失，使得企业正常经营受到干扰，股价大跌更是让投资者真金白银化为乌有。可见，“AI假消息”已不再只是恶作剧，也不只是谣言，更是会对个体、企业权益造成实实在在的严重侵害。因此，假如这篇“AI文章”确是造谣，其始作俑者理应受法律惩戒，而不应伤害之后一笑而过。

此前，一篇题为《今晨甘肃一火车撞上修路工人致9人死亡》的“新闻”引发网友关注。经警方侦查发现，这也是一起利用AI人工智能技术炮制虚假不实信息的案件，相关自媒体公司以此获取流量牟利。

面对生成式AI，大家惊叹于其智能学习大数据、自动生成各类内容的强大能力，而有人则盯上了其“钱景”，利用其所生成的假新闻达到自身利益诉求。对此，今年4月国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》，明确要求生成式人工智能产品或服务提供者，对生成式内容信息负有平台监管责任，发现用户利用生成式人工智能产品过程中违反法律法规，从事网络炒作、恶意发帖跟评、实施不正当的商业营销等，应当暂停或者终止服务。

就此，相关平台应尽快封停该虚假新闻发布账户，将其违法线索移交执法部门，以供后续查处。

而基于生成式AI的长远发展，此事更是敲响了警钟。一方面，对于利用生成式AI造假牟利的违法行为，有关平台和部门应携手问责，对其零容忍。另一方面，颇具讽刺意味的是，科大讯飞本身是AI行业龙头企业，也在开发此类通用大模型功能，却反遭“AI假新闻”所伤。

这更加说明，AI技术开发者应清醒认知AI被滥用所带来的社会危害性，需从自身做起，严守相关法律规定，不过度采集用户隐私信息，建立更加完善的用户信息安全保障体系。特别是，在开发AI软件的过程中，就将应对AI软件不当使用的负面效应，在技术上作充分的屏蔽，共同推动相关监管法律法规的落地。否则，面对失控的AI技术，没人能置身事外。

潮新闻 特约评论员 毕舸

本文来自【浙江融媒体】，仅代表作者观点。全国党媒信息公共平台提供信息发布传播服务。

ID：jrtt