StackOverflow正式公布，全面禁用ChatGPT！这是为什么呢？

IT领域的同行们应该都熟悉OpenAI这个组织，原来它是非盈利的，后来由于训练语言模型要用到大量服务器资源，费用太高，最后不得已接受了微软的投资变成了营利组织，并与2020年底正式推出了GPT-3语言模型。

而最近网上爆火的ChatGPT，则是OpenAI公司自己推出的一款AI聊天工具，它是在GPT-3基础上，做了大幅优化后的一个AI聊天工具。

关于它的能力，已经被“吹上天”了是吧，我也举几个例子，证实一下它的能力。

1. 问：请列举15件成功者会做，而普通人不做的事。

它的答案：

2. 问：如果社会面感染比例是 10%，那此时做“十混一”核酸检测，自己收到“十混一阳性”的短信通知的概率是多高呢？

它的答案：遇到至少一次阳性的概率为 1-（1-0.1）^10=0.65。这意味着，做十次检测遇到至少一次阳性的概率比较大，但是这也取决于检测的准确度，如果你有更多的信息，比如检测的准确度，那么我可以给你更精确的答案。

3.问：帮我生成一段乘法运算试卷的代码。

它的答案：

上面几个例子看着确实很神的是吧，那这是不是说明它已经可以代替人类做很多工作了呢？

目前还不行。因为迄今为止的语言模型训练出的聊天 AI 本质上依然还是在堆砌看起来通顺的句子，只不过这一个版本堆砌得更加精致，让句子看上去更像是人在说话。这些系统通过分析从网上抓取的大量文本来训练机器人。人工智能在这些数据中寻找统计规律，并利用这些规律来预测给定的句子中，接下来应该出现什么词或句。然而，这意味着他们缺乏世界上许多系统运行的硬编码规则，导致他们倾向于产生 “流利的废话”，有时候在一些专业领域的回答上，甚至会出现“致命性”错误。

比如，你问它一个比较专业的政治哲学问题：霍布斯主张三权分立吗？

ChatGPT 有时候的回答竟然是：是的。然后还会引用一些霍布斯在《利维坦》里的观点，又把洛克关于三权分立的观点套在霍布斯头上夹杂着那么一说，最后还补充说，这个观点对哪类政府产生过什么样的影响，洛克和美国宪法制定者们也都受到过霍布斯思想的影响等等。

初看起来确实很像那么回事儿，但正确答案是，霍布斯反对三权分立，霍布斯支持的是专制统治。只是因为之前用于训练的那些文字内容和霍布斯、三权分立相关的关键词总是一并出现，所以这个语言模型输出时就弄混了。

这样的错误还出现在医学专业上。比如你问，目前已经进入临床的 Bcl-2 家族的靶向药物有哪些？有的时候它给出的答案是巴比妥、尼古丁、比斯沙星、拉丁醇、胸腺素、拉格司卡。反正能给你列出十几个，这里有五六个不是靶向药，还有三四个是靶向药，但不是 Bcl-2 家族的，还有三四个是正确的 Bcl-2 家族的靶向药。就这么混搭着给你列出来了。

而且，对一个问题的回答，你可以不断的点 Try again 按钮，可它每次生成的答案都不一样！然后它的回答有时对有时不对，有时离谱有时不离谱，有时有点无关紧要的小错误，有时又会夹杂一两个致命的错误… 而这样的回答，对于很多人来说并不能识别其中的所有问题，如果一味地按其回答执行，很可能会带来一些不好的结果。

这不，最近 Stack Overflow 社区正式发布禁令，禁止用户使用 ChatGPT 工具和类似的 AI 聊天工具输出的结果回复别人的问题。原因是，使用 ChatGPT 确实可以输出现成的代码，不论你描述的功能多么复杂，都能得到一大堆代码，可实际上这些代码错误一大堆。

所以说，ChatGPT确实有它的可用之处，但面对专业领域或专业问题的时候，它的回答很大概率就变成了一个极为高效的“大忽悠”。

好了，最后做个总结：ChatGPT只是一个工具，目前来看它的优缺点都很明显，对于使用者来说需要自行评估是否适用于自己。另外，ChatGPT也是一种趋势，可以说是AI实例化的趋势之一。虽然目前它还有弊端，但我们应该正确的看待趋势性产品，就是允许它出错，给他成长的时间。并且我们每个人也应该适应、顺势与这类工具一起成长，因为随着这类AI工具的成长，它们一定会正式的进入我们日常的生活和工作中，它们会跟人类一起成为未来的主要生产工具，这一点大家一定要明确和改变我们过往的认知。

附1：

ChatGPT官网：https://chat.openai.com

免注册地址：https://gpt.chatapi.art/

附2：3个问题，对比谷歌和 ChatGPT 的智能化程度。

问：谷歌和 ChatGPT，哪一个能够提供更可靠的资讯？

ChatGPT：一般来说，谷歌提供的资料较为可靠。谷歌是一家搜寻引擎公司，它会从互联网上爬取和索引网页，提供关于各种主题的资讯。谷歌采用了多种技术来确保所提供的资讯是准确和最新的，因此通常认为谷歌提供的资料是可靠的。但是，在使用任何资讯时，都需要仔细评估资讯的来源，并考虑资讯的背景。

相比之下，ChatGPT 是由 OpenAI 开发的一个语言模型，可以在给定提示时生成人类般的文字。它不是资讯的来源，而是一种根据从大量文本中学习的模式生成文本的工具。因此，不应将 ChatGPT 视为可靠的资讯来源，在依赖任何由该模型生成的资讯之前，都需要仔细评估和验证该资讯。

谷歌：综合排名前面的答复谷歌非常可靠，ChatGPT 仍在测试中，有些东西它无法给出答案，并且不时出错。ChatGPT 的一个潜在优势是它能够提供更加个性化的对话。

问：我应该在我的每周购物清单上买些什么食物，才能够又划算又吃的健康？

ChatGPT：为了吃得健康且经济实惠，建议在每周购物清单上买一些以下食物：

1. 新鲜的水果和蔬菜：选择当季的水果和蔬菜，通常比较便宜。也可以考虑买农夫市集或批发市场的水果和蔬菜。

2. 健康的肉类：选择鱼、鸡、猪肉或其他低脂肪的肉类。也可以买豆类，如豆腐、豆腐皮、豆浆等，作为蛋白质的替代品。

3. 全谷米和全麦面包：这些食物都是富含营养的选择，并且一般来说比精白米和普通面包更便宜。

4. 豆类：豆类如豆腐、豆腐皮、豆浆、豆腐乳等都是健康且经济实惠的选择。

5. 坚果和种子：这些食物富含营养，并且可以当零食使用。可以买大包装的坚果和种子，比较便宜。

6. 其他健康食品：也可以买一些其他健康食品，如有机谷物、燕麦片和蜂蜜等。

谷歌：前几名的答覆都提供了好些便宜又健康的食物，然而每一个链接都要花费时间去浏览。

问：谷歌和 ChatGPT 的竞争最后谁会胜出？

ChatGPT：谷歌和 ChatGPT 是两种不同类型的工具，所以无法比较谁会胜出。

谷歌是一家搜寻引擎公司，它提供了一个方便用户在互联网上搜寻信息的平台。谷歌通过爬取和索引网页，提供了关于各种主题的资讯。

ChatGPT 是由 OpenAI 开发的一个语言模型，它能够在给定提示时生成人类般的文字。它不是资讯的来源，而是一种能够根据从大量文本中学习的模式生成文本的工具。

因此，谷歌和 ChatGPT 是两种不同的工具，无法比较谁会胜出。

谷歌：排名前面的答覆都是谷歌面临严肃的挑战，有些甚至说谷歌是真的怕了。不过，摩根士丹利也发布一份报告称，ChatGPT 不会对谷歌的地位构成重大威胁，因为谷歌会继续改进它的搜索引擎和语言模型。