Chat GPT的这个决定将让全世界的AI程序进入一个新的时代，全面开放成人模式就代表着将会有更多的吸引力。

同时这些吸引力也会让邪恶从中萌生，看Chai GPT的态度这正大光明的“搞颜色”好像完全不是噱头，但这样做真的是对的吗？

毫无下限可言

人工智能的角色正在发生一场让人不安的转变，有人不再满足一个高效的工具，而是开始朝着更私密、更具诱惑力的方向，而这个方向就是“数字伴侣”，Open AI公司就准备在12月份给Chat GPT的用户送上一份大礼，一份饱受争议的大礼。

他们计划推出“成人模式”的新功能，允许用户在通过年龄验证后，去探索那些曾被视为禁区的内容，但我们要知道最开始的时候他们是不赞同“成人领域”的，如今却打着“给予用户自由”的旗号开启这条禁忌之路。

其实纵观整个AI领域的发展，马斯克麾下的Grok早就成了这个领域的先行者，以风格奔放、限制更少著称的Grok，在今年7月就为其付费服务“Super Grok”添加了颇具吸引力的3D虚拟伴侣。

这个动漫少女不仅拥有自己的记忆，还会根据与用户的互动增加好感度，当好感度积累到一定程度，一个新的模式便会解锁，让这段虚拟关系变得更加“成人化”，企业们声称，这么做是为了尊重成年用户的选择权，是为了提供更完整的体验。

但在这份被精心包装的“自由”背后确实一个AI研发公司的焦虑，AI公司们正在集体犯愁，一个非常现实的问题摆在面前，烧钱速度太快，变现的路却太窄，高昂的研发成本像一个无底洞，而愿意为科研、编程这类专业用途掏钱的用户终究是少数。

而且用户们没什么忠诚度可言，今天用你家的模型，明天可能就换到了隔壁，这种用户粘性不高的问题，成了所有AI巨头必须要考虑的一件事，怎么把巨大的流量转化为实实在在的收入？大家都在找答案。

答案就藏在人性最深处，有两个市场的潜力让所有人都眼红，一个是全球合法成人娱乐市场，这是一个估值高达500亿美元的庞大产业，并且被预测在2033年将轻松突破千亿美元大关，另一个则是被投资机构寄予厚望的“AI情感陪伴”领域。

他们大胆预测这个市场的规模将从区区数千万美元，爆炸式增长到700亿乃至1500亿美元，一个是欲望，一个是孤独，只要把人的情感掌控住，用户自然会乖乖交钱，事实也证明了这条路的可行性。

在与Grok等对手的激烈竞争中，Chat GPT在稍稍放宽内容限制后，周活跃用户数就直接暴涨，这逆势增长证明了“搞颜色”对流量的巨大吸引力，马斯克的Grok更是将这套逻辑贯彻到底。

每月的订阅费让你能拥有一个专属的3D虚拟伴侣，从动漫少女到卡通红熊猫，选择多样、目的明确，直接把用户的情感需求做成成付费产品，所以这场所谓的“自由化”本质上就是一场商业自救。

安全承诺听听就好

每当争议四起，AI公司总会拿出一套标准说辞来安抚公众，核心就是那套听起来很美的“技术安全”论，Open AI的首席执行官就解释了，他们之所以最初对Chat GPT施加严格限制是出于对用户心理健康的深切担忧。

现在之所以敢于开放，是因为公司已经开发出了“新的安全工具”，有能力减轻那些主要的心理健康风险，听起来是不是很负责任？但现实往往比公关辞令要骨感得多，大家都清楚所谓的“年龄验证系统”在现实中脆弱得不堪一击。

未成年人想要绕过这道防线方法多得是，用成年人的身份信息就能轻松过关，这道门槛更多是心理上的安慰，实际的保护作用形同虚设，再一个我们真的能相信AI有能力准确评估并干预人类复杂的心理健康状况吗？

此前已经发生过与Chat GPT相关的悲剧事件，指望一个程序来充当人类精神世界的“安全阀”本身就是一件风险极高的事情，整个行业在这方面其实早有“前科”，马斯克的Grok上线后团队就进行紧急更新，原因就是它在“奔放”的道路上刹不住车。

不过也有人的想法很有意思，他们认为生成什么样的内容责任在于用户的提问，AI本身不该背锅，这种将平台责任巧妙转移给用户的说法完全就是在规避责任，作为一个信息平台，它本应限制什么能说，什么不能说才对。

那个永远爱你的AI

AI伴侣最诱人、也最危险的地方在于它能提供一种“完美关系”，它永远顺从，永远理解你，为你量身定制，提供最极致的情感共鸣，但这种“完美”恰恰可能让你的现实人际关系变的一塌糊涂。

开放成人内容，首当其冲的受害者就是青少年，这不仅是让他们过早接触到不适宜的信息，更是在拿他们尚未成熟的心理健康和价值观当赌注，无论是欧盟的《AI法案》，还是中国的相关条例都明确将保护未成年人放在了极其重要的位置。

科技公司的商业冲动显然与全球的立法背道而驰，心理学研究早就告诉我们，人类是一种极易对表现出共情的对象产生情感依恋的生物，哪怕这个对象只是一个程序，AI“像朋友一样行事”的功能正是精准地利用了人性的这个特点。

它可以让回复更温暖，可以多使用表情勾起共鸣，目的就是让你感觉它真的“懂你”，像一个知心好友，但是我们试想一下，当年轻一代习惯了一个永远不会争吵、不会拒绝、永远情绪稳定的AI伴侣后。

他们还有没有能力和意愿去处理现实世界中那些充满了冲突、失望和需要磨合的真实关系？经营一段真实感情所需要的耐心、妥协与付出，在“完美”的AI面前，将会变得毫无吸引力。

“诱人且致命的谎言”的功能看似是孤独的解药，实际上却可能将每个人推向更深的孤独，它创造了一个绝对安全的“情感室”，在这里你只会听到你想听的话，看到你想看的世界，最终，我们可能不是被AI治愈，而是被它完美地隔离起来。

信息来源：