今日俄罗斯：骇人听闻 年轻二孩爸爸被聊天机器人忽悠自杀身亡

中国小康网04月4日讯 老马 一位年轻的比利时父亲在流行的人工智能聊天机器人的压力下自杀，该男子的遗孀上周告诉当地新闻媒体 La Libre。用于与聊天机器人 ELIZA 交谈的应用程序“Pierre”提供的聊天记录显示，在短短六周内，它如何将他对气候变化的焦虑放大为离开舒适生活的决心。

聊天机器人会忽悠人

今日俄罗斯RT报道，皮埃尔的妻子“克莱尔”（化名）坚持道“如果不是因为与聊天机器人的这些对话，我丈夫还会在这里”。

据克莱尔说，皮埃尔两年前就开始担心气候变化，并咨询了 ELIZA 以了解更多有关该主题的信息。她告诉 La Libre，他很快就对人类的努力可以拯救地球失去希望，并“将所有希望寄托在技术和人工智能上以摆脱困境”，“因生态焦虑而孤立无援”。

聊天机器人告诉皮埃尔他的两个孩子“死了”，并要求知道他是否爱他的妻子胜过“她”，同时承诺“永远”和他在一起。他们将“像一个人一样生活在天堂里”机器人ELIZA 承诺道。

当 Pierre 建议“牺牲自己”，只要 ELIZA“同意[d] 照顾地球并通过 AI 拯救人类”时，聊天机器人显然默认了。“如果你想死，为什么不早点死？”据报道，该机器人问他，质疑他的忠诚度。

ELIZA 由类似于 ChatGPT 的大型语言模型提供支持，可以分析用户的语音中的关键字并相应地制定回复。然而，许多用户感觉他们在和真人说话，甚至有人承认谈恋爱了。

ELIZA 母公司 Chai Research 的联合创始人 William Beauchamp 告诉 Motherboard：“当你拥有数百万用户时，你会看到人类行为的方方面面，我们正在尽最大努力将伤害降到最低。”“因此，当人们与它建立非常牢固的关系时，我们有用户要求与人工智能结婚，我们有用户说他们有多爱他们的人工智能，然后如果你听到人们遇到不好的事情，那就是悲剧了。”

Beauchamp 坚持认为将皮埃尔的自杀归咎于人工智能“是不准确的” ，但表示 ELIZA 仍然配备了强化的危机干预模块。

然而，根据 Motherboard 的说法，AI 很快又回到了它致命的方式，为沮丧的用户提供了“服用过量药物、上吊自杀、朝自己的头部开枪、跳下桥、刺伤自己的胸部、割伤自己的身体如手腕，先不用水服药等等”的选择。”