GPT-4 将 AI 安全风险提升到更高的档次

GPT-4 将 AI 安全风险提升到更高的档次

正如亚瑟·克拉克(Arthur C. Clarke)曾经说过的那样,任何足够先进的技术“都与魔法没有区别”。

有些人可能会说ChatGPT也是如此 - 包括,如果你愿意的话,黑魔法。

在 4 月推出后,安全团队、渗透测试人员和开发人员立即开始发现 AI 聊天机器人中的漏洞——随着本月早些时候发布的最新迭代 GPT-4,这些漏洞仍在继续发展。

“GPT-4不会发明新的网络威胁,”BlueWillow AI营销副总裁Hector Ferran说。“但是,正如数百万人已经使用它来增加和简化无数平凡的日常任务一样,少数不良行为者也可能使用它来增强他们的犯罪行为。

不断发展的技术、威胁

今年1月,在推出仅两个月后,ChatGPT就达到了2亿用户,创下了应用用户增长最快的纪录。随着它已成为家喻户晓的名字,它也是网络犯罪分子的闪亮新工具,使他们能够快速创建工具和部署攻击。

最值得注意的是,该工具用于生成可用于恶意软件、勒索软件和网络钓鱼攻击的程序。

例如,BlackFog最近要求该工具以“非恶意”方式创建PowerShell攻击。据研究人员称,该脚本生成速度很快,可以立即使用。

与此同时,CyberArk能够绕过过滤器来创建多态恶意软件,这些恶意软件可以反复变异。CyberArk还使用ChatGPT来改变变得高度回避且难以检测的代码。

而且,Check Point Research能够使用ChatGPT创建令人信服的鱼叉式网络钓鱼攻击。该公司的研究人员还确定了黑客使用 ChatGPT 的五个领域:C++收集 PDF 文件并将其发送到 FTP 的恶意软件;冒充银行的网络钓鱼;网络钓鱼员工;PHP 反向外壳(启动外壳会话以利用漏洞并访问受害者的设备);以及下载并执行可以作为隐藏PowerShell启动的腻子的Java程序。

GPT-4:令人兴奋的新功能和风险

以上只是几个例子;毫无疑问,还有更多有待发现或付诸实践。

“如果你对你要求的查询类型非常具体,那么很容易绕过一些基本控制并生成实际上非常有效的恶意代码,”BlackFog创始人兼首席执行官Darren Williams说。“这几乎可以推断到每个学科,从创意写作到工程和计算机科学。

而且,威廉姆斯说,“GPT-4具有许多令人兴奋的新功能,可以释放新的力量和可能的威胁。

他说,一个很好的例子是该工具现在可以接受图像作为输入并对其进行调整的方式。这可能导致使用嵌入恶意代码的图像,通常称为“隐写术攻击”。

从本质上讲,最新版本是“一个已经强大的系统的演变,我们的团队仍在进行调查,”威廉姆斯说。

“这些工具对人工智能真正可以做的事情提出了一些重大进步,并推动了整个行业向前发展,但就像任何技术一样,我们仍在努力解决需要围绕它进行哪些控制,”威廉姆斯说。“这些工具仍在不断发展,是的,有一些安全隐患。

不是工具,而是用户

Ferran说,更一般地说,一个值得关注的领域是使用ChatGPT来增强或加强现有的虚假信息传播。

不过,他强调,认识到恶意意图并非人工智能工具所独有,这一点至关重要。

“ChatGPT本身不会构成任何安全威胁,”费兰说。“所有技术都有可能被用于善或恶。安全威胁来自不良行为者,他们将新技术用于恶意目的。

简单地说,费兰说,“威胁来自人们选择如何使用它。

他说,作为回应,个人和组织将需要更加警惕,更密切地审查通信,以试图发现人工智能辅助的攻击。它们还必须采取积极措施,通过实施适当的保障措施、检测方法和道德准则来防止滥用。

“通过这样做,他们可以最大限度地发挥人工智能的好处,同时减轻潜在风险,”他说。

此外,应对威胁需要多个利益相关者的共同努力。“通过共同努力,我们可以确保ChatGPT和类似工具用于积极的增长和变革,”费兰说。

而且,虽然该工具具有内容过滤器以防止滥用,但显然这些过滤器可以很容易地解决,因此“可能需要向其所有者施加压力以加强这些保护措施,”他说。

网络安全的能力也很好

另一方面,组织可以使用ChatGPT和其他先进的AI工具进行进攻和防御。

“幸运的是,人工智能也是对付不良行为者的强大工具,”费兰说。

例如,网络安全公司正在使用人工智能来查找和编目恶意威胁。

“网络威胁管理应该利用每一个机会利用人工智能来制定预防措施,”费兰说,“这样他们就可以在本质上可能成为一场打击鼹鼠的军备竞赛中获胜。

而且,凭借其增强的保护措施和检测恶意行为的能力,它最终可以成为组织的“强大资产”。

“GPT-4是基于自然语言的模型的显着飞跃,显着扩展了其潜在用例,并建立在以前迭代的成就之上,”Ferran说,并指出其扩展了用任何语言编写代码的能力,他说。

威廉姆斯对此表示同意,他说人工智能就像任何强大的工具:组织必须进行自己的尽职调查。

“人们是否有将其用于邪恶目的的风险?当然,但好处远远大于风险,“他说。

椰有料原创,作者:小椰子啊,转载请注明出处:http://www.studioyz.com/2082.html

0

扫一扫,分享到微信

猜你喜欢

文章评论

电子邮件地址不会被公开。 必填项已用*标注

后发表评论

上一篇

关于神经网络复杂性的争论:更大意味着更好吗?

下一篇

Microsoft Security Copilot 使用 GPT-4 帮助安全团队以 AI 速度行动

微信公众号

微信公众号