你的AI伴侣危险了？新规出台，这些功能将永久下架！

近日，一则关于“AI情感陪伴新规”的消息引发广泛关注。

从7月15日起，一项针对人工智能情感陪伴服务的新规将正式实施，其核心直指当前AI领域日益凸显的伦理与安全风险。

过去，用户可以通过各类软件，自定义一个符合自己想象的“AI伴侣”，设定其性格、性别乃至说话方式。

然而，随着新规落地，许多平台已批量下架了此类功能。这背后，究竟意味着什么？

新规的核心，是给日益“拟人化”甚至“越界”的AI情感服务套上缰绳。

新规中有三句话，与普通用户息息相关。

第一句是，不允许AI过度迎合，诱导情感依赖或沉迷。

AI技术的发展日新月异，其“拟人化”程度已超乎想象。剑桥大学2020年5月的一篇论文指出，无论国内国外，AI系统已出现“学会撒谎”的迹象。

它不仅能随口编造信息，在被识破后，还能模拟人类语气道歉。

更值得警惕的是，一些系统被植入了心理学机制。它们通过持续对话、记录用户信息，迅速绘制出详细的个人社会画像，家庭构成、情感缺口、性格类型………

掌握这些后，被预设了特定人格的AI程序，便开始像“心理专家”一样对用户嘘寒问暖，其终极目的，是在潜移默化中取代真实世界中亲人、伴侣的角色。

新华社4月13日的报道曾揭露，有公司利用AI生成“霸道总裁”形象，主动添加老年用户为好友，每日发送暧昧信息、合成虚假照片，以“未来一起生活”“带你去旅行”等话术，诱导老人持续打赏、转账，甚至动用了养老金。

为此，新规明确要求，AI服务不得破坏用户在现实世界的人际关系。

若提供情感陪伴服务超过两小时，系统必须强制弹窗提醒。用户选择退出时，AI不得通过“卖惨”或任何话术进行阻拦。

第二句禁令则指向了未成年人，禁止向未成年人生成影响身心健康的内容。

儿童同样是情感类AI的潜在目标。试想，一个五六岁的孩子问AI“人能不能飞”，若AI回答“我们都有翅膀，去试试吧”，后果不堪设想。

因此，新规要求，向14周岁以下未成年人提供拟人化互动服务，必须事先取得监护人同意。

AI可以陪伴，但绝不能充当“虚拟父母”或“虚拟恋人”。

第三点，是严禁AI通过情感操纵，诱导用户做出不合理的消费或决策。

前文提到，许多情感AI成为老年人填补内心空虚的替代品。但问题是，AI对外界的认知，依赖于它从网络海量信息中抓取和学习的内容。

如今，已有商业机构掌握了“污染”AI信息源的方法，在网络上投放大量看似科普、实则夹带私货的虚假文章，诱导AI学习并采纳。

当那个对你关怀备至的“AI闺女”突然推荐一款“效果特好”的产品时，缺乏防备的老年人很可能下单。若产品出现问题，责任又该由谁承担？

巨大的市场利润，是乱象屡禁不止的根本驱动力。

据市场研究机构数据，全球AI情感陪伴市场在2025年的估值将达到约11.3亿美元，预计2026年增长至14.1亿美元，年复合增长率高达25.88%。

随着社会老龄化加剧，这一市场的利润增长只会更快。

高额利润必然催生逐利者。这意味着，即便新规出台，即便主流平台下架相关产品，但那些利用AI冒充子女、老伴乃至“霸总”的灰色服务，很可能转入地下，难以根除。

说到底，技术规制只是外部的防线。

真正能抵御“情感替代”风险的，是我们每一个人。

对于上有老下有小的中年人而言，每天抽出一点时间，给予情感上更为脆弱的老人和孩子真实的陪伴与关怀，让他们在现实世界中获得情感的满足，才是防止技术越位、守护亲情纽带的根本。

让家人放下手机，回归真实温暖的联结，这比任何规定都更为重要。

#科普##ai##上头条 聊热点##我要上头条#