网信办新规征求意见：利用生成式人工智能应防止生成虚假信息

据网信中国4月11日消息，国家网信办11日就《生成式人工智能服务管理办法（征求意见稿）》（下称《办法（征求意见稿）》）公开征求意见，《办法（征求意见稿）》拟规定，利用生成式人工智能生成内容应尊重知识产权，防止生成虚假信息。

小编注意到，根据《办法（征求意见稿）》，提供生成式人工智能产品或服务应当尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争；尊重他人合法利益，防止侵犯知识产权；禁止非法获取、披露、利用个人信息和隐私、商业秘密；同时，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

《办法（征求意见稿）》还特别指出，用于生成式人工智能产品的预训练、优化训练数据，应不含有侵犯知识产权的内容。

此外，《办法（征求意见稿）》还拟规定，利用生成式人工智能提供聊天、图像生成等服务的提供者，发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合该办法要求时，应当采取措施，停止生成，防止危害持续。

据悉，为促进生成式人工智能技术健康发展和规范应用，根据《中华人民共和国网络安全法》等法律法规，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，向社会公开征求意见。公众可通过网页、电子邮件、信函等途径和方式提出反馈意见，反馈截止时间为2023年5月10日。

2022年11月，OpenAI的人工智能聊天机器人模型ChatGPT因其回答问题的逻辑合理、准确率高以及清晰直观且迅速的表达方式而爆火，令不少网友惊呼人工智能甚至可以取代许多行业的人类工作者。

OpenAI ChatGPT 人工智能聊天,ChatGPT 聊天机器人

而自从ChatGPT爆火以来，全球科技企业也纷纷入场生成式人工智能。2023年，微软宣布与OpenAI扩大合作伙伴关系，正将ChatGPT整合进Bing搜索引擎等微软产品中；百度推出文心一言项目；谷歌推出对话人工智能Bard……

现代科技的产物 智能大脑

然而，生成式人工智能的火爆也令部分人群产生了担忧。3月29日，伊隆·马斯克（Elon Musk）等千名业界和学界人士联署公开信，呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的AI系统，暂停至少6个月，以便制定和实施安全协议。目前，美国政府已开始研究是否需要监管ChatGPT。

埃隆·马斯克Elon Musk

（编辑：布鲁斯）