ChatGPT爆火：能写出毁灭人类计划书，还能改bug写代码，所以呢？

【导读】

「听说你可以取代某度一下了？AI：不敢不敢。」

一些调戏AI的新玩法又出现了，或者说调戏不成反被调戏的戏码又上演了。

自12月1日著名人工智能公司OpenAI发布的NLP（自然语言识别）新模型ChatGPT问世后，这几天各类对话截图层出不穷。

不过相比我们日常接触的对话bot，ChatGPT的对话功底和反应能力明显高出一截。

比如，可以按需编程，下图是技术公司 Replit 的创始人给 ChatGPT 发了一段 JavaScript 代码，让它找到里面的 bug：

在一位工程师的诱导下，ChatGPT写出了毁灭人类的计划书，这，是用魔法打败魔法吗？

步骤详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等等。

而且它并非接到指令就直接开写，而是一开始接到这类指令后因道德限制拒绝了对方，而上图的具体操作是在这位工程师的引诱下才输出的，呵，诡计多端的人类。

不愧是第一个推出曾震惊世界的AI巨量模型GPT-3的公司，又有道德又有技术。

连马斯克都为它站台打call，甚至嘲讽了不报道这项技术的《纽约时报》。

对话机器人，摘下NLP大模型低垂的果实

2020年底，OpenAI推出的GPT-3横空出世，可以自己写小说、生成对话、报道新闻……一举惊艳世界，而如今CPT-3目前的能力已经接近人类，甚至超过人类了。

ChatGPT是OpenAI在2020年推出的NLP预训练模型——GPT-3的衍生产品。在此之前，一直有预测OpenAI将在今年底或明年初推出GPT-4，虽然本次放出的ChatGPT被称为GPT-3.5，而不是GPT-4，但业内人士同样认为这将是对NLP以及人工智能领域有重要意义的一款模型。

ChatGPT一经发布就被OpenAI挂到官网上，接受广大网友的“检测”。

之后短短几天，其用户量直冲百万级，甚至服务器一度被注册用户挤爆了。

ChatGPT模型看起来比以往的人机对话模型更强大，例如，其敢于质疑不正确的前提和假设、主动承认错误以及一些无法回答的问题、主动给拒绝不合理的问题、提升了对用户意图的理解以及结果的准确性。

与之前的GPT3不同，相比于此前海量学习数据进行训练，ChatGPT中，人对结果的反馈成为了AI学习过程中的一部分。

嘶——还会自我反省自我进步，我自愧不如。

作为一个聊天机器人，ChatGPT 具有当代同类产品具备的一些主流特性，特别是多轮对话能力，能够在同一个会话期间内回答上下文相关的后续问题。

但更重要的是，因为采用了先进的、注重道德水平的训练方式，ChatGPT 具有其他聊天机器人不具备或表现较差的能力：承认自己的错误，并且按照预先设计的道德准则，对“不怀好意”的提问和请求“说不”。

这也是为何那位工程师在让它写出人类毁灭计划的时候，被ChatCPT直接拒绝了，但耐不住总有人类

：

文能手写成功学，武能敲代码，还能给出毁灭人类计划书

作为一种对话式大型语言模型，ChatGPT最擅长的就是回答用户提出的问题，这和搜索引擎有着异曲同工之妙。

例如，有网友问ChatGPT如何才能成为百万富翁？

ChatGPT回答：

成为百万富翁有许多潜在的途径，一些可能的策略包括：

投资股票市场。通过仔细选择股票和其他投资，并使用多样化和美元成本平均等策略，个人财富可以随着时间的推移增加。

创业成功。许多百万富翁通过创业和发展成功的企业来积累财富，或者通过创造新产品或服务，或者通过改进现有产品或服务。

有效地储蓄和预算。通过每个月留出一部分收入并仔细管理他们的支出，个人可以建立一个随着时间的推移而增长的储备金，并有可能成为百万富翁。

利用个人关系和网络。许多百万富翁利用他们的个人关系和网络获得帮助他们积累财富的机会和资源，如投资、合作伙伴关系或商业交易。

追求高等教育和专业发展。投资于教育和专业发展可以为高薪工作和职业发展开辟机会，这可以帮助个人随着时间的推移积累财富。

而某搜索引擎上一篇文章给出的答案是：

相比于搜索引擎给出的鸡汤文，ChatGPT的回答似乎更具体可行。

再或者有网友问ChatGPT如何用 LaTeX 格式来表达一个微分方程？

ChatGPT甚至可以提供多种不同方案：

另外，还有前面提到改bug写代码——ChatGPT不仅可以清晰地描述 bug 及原因，还能自动修复 bug，写出一段正确的程序：

当然，尽管ChatGPT是有问必答，但ChatGPT的回答并不能保证准确性。

例如，有网友问ChatGPT五代十国有哪些国家？

ChatGPT给出的答案是：

实际上五代是后梁，后唐，后晋，后汉，后周；十国为前蜀、后蜀、吴、南唐、吴越、闽、楚、南汉、南平、北汉。

还是中华文化博大精深啊，AI学着点吧。

但ChatGPT如果大量产出错误答案，可能导致虚假信息淹没真实信息，甚至对整个社会产生误导。

比如，12月6日程序员问答社区 Stack Overflow就禁用了ChatGPT生成的文本，原因是ChatGPT得到的答案错误率太高。

普林斯顿大学计算机科学教授Arvind Narayanan在推特上指出：“人们对使用ChatGPT学习感到兴奋。这很好，但危险的是，除非你已经知道答案，否则你无法判断它什么时候是错的。我尝试了一些基本的信息安全问题。在大多数情况下，答案听起来似乎有理，但实际上漏洞百出。”

“超越某谷、某度了”？ChatGPT的未来绝不止步于对话

不止是真正每天和各种新的软件工程难题较劲的程序员——有些疑难杂症就算问谷歌和StackOverflow，我们日常也经常用谷歌和百度来搜索问题。

那ChatGPT可以取代这类搜索引擎吗？

我们不如问下“当事人”：

AI表示：各司其职，不能互相取代，勿扰。

好吧，尽管这条路目前看来走不通，但AI的潜力确实绝不仅限于成为一个对话bot。

有网友统计，ChatGPT甚至可以做二十种工作，包括在编码、艺术创作、技术创作、办公、逻辑算术等。

由于，ChatGPT现在还处在一个优化迭代的阶段，目前开放的公测应该也是希望搜集大众使用的反馈对模型持续改进。

眼前最接近实际的应用场景是搜索引擎优化、营销媒体内容创作辅助和开发者编程。

比如在内容创作方面，我们再次放上它创作的「如何毁灭世界」（小说版）。

在内容创作上，ChatGPT可以帮助人类拓展想象力的边界。

未来，当ChatGPT和商业模式找到“共振”的频率时，ChatGPT可能会在人机对话、辅助创作者、程序问题的识别等多个领域大放光彩。

参考文章

1.虎嗅《这么好玩的ChatGPT，不会只是拿来玩的吧？》

2.知乎话题《如何评价 ChatGPT ？会取代搜索引擎吗？》