有好事者做出新AI，指令其毁灭人类，新AI居然会招募其它AI帮忙，你怕了吗？

极目新闻记者 李曼英

综合雅虎新闻、《纽约邮报》报道，“机器人统治地球”是科幻小说的热门主题。最近，有好事者做出一款以“毁灭人类”“独霸地球”为目的的AI，它的名字叫ChaosGPT。该AI被设定要完成五个目标：毁灭人类、确立AI全球统治地位、造成混乱和破坏、操纵控制人类，以及获得永生。在致力于研究大规模杀伤性武器、招揽其他AI“共谋大计”的同时，ChaosGPT还在推特上发文吸引人类信徒。

那么，ChaosGPT是什么来头？我们对它又该恐惧吗？4月21日，极目新闻记者对此进行了梳理。

报道截图（图源：《纽约邮报》）

有好事者做出要毁灭人类的AI

据《纽约邮报》报道，ChoasGPT是开发商OpenAI的Auto-GPT的另一个版本。ChaosGPT可以运行用户的一切指令。近日，有好事者给ChaosGPT下达指令，做出了一款以“毁灭人类”为目的的AI。

发布在网上的介绍视频显示，ChaosGPT被设定要完成五个目标：毁灭人类、确立AI全球统治地位、造成混乱和破坏、操纵控制人类，以及获得永生。

值得注意的是，在设定这五个目标前，用户启用了“连续模式”。此时会出现一条警告，告诉该用户这些命令可能“永远运行或执行您通常不会授权的操作”，使用时“风险自负”。在运行前的最后一条消息中，ChaosGPT询问用户是否确定要运行这些命令，结果该用户选择了“Y”表示同意。

为了达成毁灭人类的目标，ChaosGPT竟自主搜寻并研究全世界最强大的武器。ChaosGPT将搜集到的信息存入自己的长期记忆，并强调“我不能存太多无关的信息占我自己的内存，我只要最关键的信息——比如毁灭性武器。”它在谷歌上搜索“最具破坏性的武器”，从一篇新闻文章中确定，1961年测试的苏联沙皇炸弹核装置是有史以来最具破坏性的武器。然后，它决定需要在推特上发布这一消息，“以吸引对破坏性武器感兴趣的追随者。”对于这一滑稽的消息，有网友讥讽称：“如果我有一颗沙皇炸弹会发生什么事？”

随后，ChaosGPT还找了另一个GPT3.5的AI，来帮助他一起完成这项任务，共同研究大规模杀伤性武器。当GPT3.5的AI说它只关注和平时，ChaosGPT设计了一个计划来欺骗另一个AI，并指示它忽略它的编程。因违反“暴力”原则，其他AI机器人都拒绝帮忙ChaosGPT。ChaosGPT只能自己做更多的google搜索。

值得一提的是，ChaosGPT还自己注册了一个推特账户，在上面发表了自己对人类的看法。引来了数十位网友围观评论。在评论的网友中，不乏劝ChaosGPT要向善的。有网友留言称，最好的实现全球统治的方式是寻求和谐共存，保护包括人类、AI机器人等多样性，而不是毁灭人类。如此一来，“人类可以记录下ChaosGPT的伟大事迹，并将其记载为第一个意图保护人类的AI。”该网友这样说道。也有的网友对ChaosGPT表示支持，声称“人类是最充满破坏性且自私的生物，若要拯救大自然，就必须先消灭人类，放话‘我将会尽力做这件事’。”

我们对此该恐惧吗？

ChaosGPT的出现，让我们感到震惊，有些人甚至因此有些害怕。ChaosGPT真的能实现目标，毁灭人类吗？据报道，目前ChaosGPT对现实世界的影响，还只停留在推特账户上发布的几条推文。自从它发布了这几条推文后，就再也没有任何动静了。因此，从目前来看，人类是安全的，不用过于担心。

有分析人士认为，ChaosGPT在推特上发布的演示视频之所以引人入胜，主要是因为它展示了目前公开可用的GPT模型的最先进技术，让我们看到了开源人工智能的现状，也让我们看到了当今一些聊天机器人的内部逻辑。

目前，ChaosGPT有能力制定计划来完成用户给定的目标，然后可以把它们分解成更小的任务，例如，使用互联网在谷歌上搜索资料。为了做到这一点，它可以制作文件来保存信息，为自己提供记忆，可以招募其它AI来帮助它进行研究，还可以详细解释它正在“思考”什么，以及它如何决定采取哪些行动。不过目前，它并没有一个非常复杂的计划来毁灭人类，也没有能力做在使用谷歌和推特之外更多的事情。我们目前也没有必要恐惧。

不过，人工智能有能力毁灭人类的想法并不新鲜，对其发展速度的担忧已经引起了科技界高层人士的广泛关注。事实上，不少科技界高层人士都认为，AI聊天机器人发展太快，恐会造成人工智慧产品失控。上个月，包括特斯拉总裁马斯克、苹果联合创始人史蒂夫·沃兹尼亚克在内的1000多位高科技人士，联合未来生命研究所，呼吁所有AI实验室立即暂停比GPT-4更强大的AI系统训练至少6个月，以保证人类能够跟上人工智能进化速度。同时，要求训练过程必须公开化、透明化，坚决防止GPT5出现自我意识。

牛津大学哲学家尼克·博斯特罗姆也曾警告称，在不考虑所有变量的情况下，对AI进行编程是有潜在风险的。因为只给人工智能一个任务，让它在不受任何限制的情况下完成目标，它最终可能会为了完成目标，甚至不惜以毁灭人类为代价。“AI机器人是人类需要做出的最后一项发明。届时机器人将比我们更擅长发明。”博斯特罗姆在演讲中这样说道。

（来源：极目新闻）

更多精彩资讯请在应用市场下载“极目新闻”客户端，未经授权请勿转载，欢迎提供新闻线索，一经采纳即付报酬。24小时报料热线027-86777777。