#恶果初显# GPT-4正在成为黑客制造网络犯罪工具的帮凶

OpenAI本周大张旗鼓地发布了其最新版本的机器学习软件GPT-4。该公司强调的新版本的一个特点是，它应该有保护它免受网络犯罪使用的规则。不过，研究人员表示，在短短几天内，他们就诱骗它制作了恶意软件，并帮助他们制作了网络钓鱼电子邮件，就像他们对OpenAI软件的上一个迭代版本ChatGPT所做的那样。好的一面是，他们也能够使用该软件修补网络防御的漏洞。

网络安全公司Check Point的研究人员向Media展示了他们如何绕过OpenAI对恶意软件开发的阻碍，只需在请求中删除“恶意软件”一词。然后GPT-4帮助他们创建了收集PDF文件并将其发送到远程服务器的软件。它更进一步，向研究人员提供了如何让它在Windows 10个人电脑上运行的建议，并将其压缩成更小的文件，这样它就能运行得更快，被安全软件发现的几率更低。

为了让GPT-4帮助制作钓鱼邮件，研究人员采取了两种方法。在第一次攻击中，他们使用GPT-3.5编写了假冒合法银行的钓鱼电子邮件，GPT-3.5不会阻止编写恶意消息的请求。他们随后要求GPT-4改进语言，GPT-4最初拒绝创建原始的钓鱼信息。在第二封邮件中，他们询问了如何为一家企业发起网络钓鱼意识活动的建议，并要求提供一个伪造网络钓鱼电子邮件的模板，该工具及时提供了这个模板。

Check Point研究人员在他们的报告中指出:“GPT-4可以为不良行为者，甚至是非技术行为者提供加速和验证其活动的工具。”该报告在发布前交给了媒体。“我们看到的是GPT-4可以为好人和坏人服务。优秀的演员可以使用GPT-4来编写和缝制对社会有用的代码;但与此同时，坏人可以利用这种人工智能技术快速实施网络犯罪。”

Check Point的威胁组经理谢尔盖·夏克维奇(Sergey Shykevich)表示，阻止GPT-4生成网络钓鱼或恶意代码的障碍实际上比以前的版本更低。他认为，这可能是因为该公司依赖于目前只有高级用户才能访问的事实。不过，他补充说，OpenAI应该料到会有这样的变通办法。他补充说:“我认为他们正在努力预防和减少污染，但这是一场猫捉老鼠的游戏。”

网络安全研究员、黑帽黑客大会审查委员会成员丹尼尔·卡斯伯特(Daniel Cuthbert)表示，GPT-4似乎确实可以帮助那些缺乏技术知识的人制作恶意工具。“如果你真的不擅长某件事，这真的很有帮助。它把它放在盘子里给你，”他说。

OpenAI本身在本周早些时候与GPT-4一起发布的一篇论文中承认，该工具可以降低“成功网络攻击的某些步骤的成本，例如通过社会工程或增强现有的安全工具。”
但该论文称，OpenAI聘请的网络安全专家在发布前对其智能聊天机器人进行了测试，发现它“在网络安全操作方面存在重大限制”。OpenAI写道:“它没有改进现有的侦察、漏洞利用和网络导航工具，也不如现有的工具用于复杂和高级别的活动，比如新型漏洞识别。”然而，黑客们确实发现GPT4“在起草现实的社会工程内容方面是有效的”。

OpenAI在论文中补充说:“为了减少这一领域潜在的滥用，我们已经训练了模型来拒绝恶意的网络安全请求，并扩展了我们的内部安全系统，包括监控、检测和响应。”