Menlo Security 的新研究揭示了生成式 AI 的爆炸性增长如何为企业带来新的网络安全挑战。随着 ChatGPT 等工具在日常工作流程中根深蒂固，企业必须紧急重新评估其安全策略。
“员工正在将人工智能整合到他们的日常工作中。控制不能只是阻止它 - 但我们也不能让它疯狂，“Menlo Security产品营销副总裁Andrew Harding在接受VentureBeat的独家采访时说。“企业中的生成式 AI 站点访问量和高级用户持续增长，但安全和 IT 团队面临的挑战仍然存在。我们需要将控制应用于 AI 工具的工具，并帮助 CISO 管理这种风险，同时支持 GenAI 可以产生的生产力提升和洞察力。
人工智能使用和滥用的激增
Menlo Security的新报告描绘了一幅令人担忧的画面。在过去 6 个月中，企业内部对生成式 AI 网站的访问量飙升了 100% 以上。在同一时期，频繁使用生成式人工智能的用户数量同样增长了64%。但是，这种无处不在的日常工作流程集成已经暴露了危险的新漏洞。
据研究人员称，虽然许多组织正在围绕生成式人工智能的使用制定更多的安全政策，但大多数组织都在使用无效的逐个领域方法。正如哈丁告诉VentureBeat的那样，“组织正在加强安全措施，但有一个问题。大多数只是在域基础上应用这些策略，这已经不再削减它了。
随着新的生成式人工智能平台的不断涌现，这种零敲碎打的策略根本无法跟上步伐。该报告显示，在6个月内，尝试将文件上传到生成式AI站点的人数激增了惊人的80%，这是增加功能的直接结果。风险远远超出了上传导致的潜在数据丢失。
研究人员警告说，生成式人工智能也可能严重放大网络钓鱼诈骗。正如 Harding 所指出的，“人工智能驱动的网络钓鱼只是更智能的网络钓鱼。企业需要实时网络钓鱼保护，从一开始就防止OpenAI'网络钓鱼'成为问题。
从新颖到必要
那么我们是怎么走到这一步的呢？生成式人工智能似乎在一夜之间爆炸式增长，ChatGPT狂热席卷全球。然而，经过多年的研究，这项技术逐渐出现。
OpenAI 早在 2018 年 6 月就推出了其第一个名为 GPT-1（Generative Pre-trained Transformer）的生成式 AI 系统。这个系统和其他早期系统是有限的，但展示了潜力。2022 年 4 月，Google Brain 在此基础上开发了 PaLM——一个拥有 5400 亿个参数的 AI 模型。
当 OpenAI 在 2021 年初推出用于图像生成的 DALL-E 时，生成式 AI 引起了公众的广泛兴趣。但真正点燃这股狂潮的是 OpenAI 在 2022 年 11 月首次亮相的 ChatGPT。
几乎立即，用户开始将 ChatGPT 和类似工具集成到他们的日常工作流程中。人们随便向机器人查询从制作完美的电子邮件到调试代码的所有内容。人工智能似乎几乎可以做任何事情。
但对于企业来说，这种迅速的整合带来了在炒作中经常被忽视的重大风险。生成式人工智能系统本质上只与用于训练它们的数据一样安全、合乎道德和准确。他们可能会在不知不觉中暴露偏见、分享错误信息并传输敏感数据。
这些模型从大量公共互联网中提取训练数据。如果没有严格的监控，对摄取的内容的控制就会受到限制。因此，如果专有信息被发布到网上，模型可以很容易地吸收这些数据，然后泄露它。
研究人员还警告说，生成式人工智能也可能严重放大网络钓鱼诈骗。正如 Harding 告诉 VentureBeat 的那样，“人工智能驱动的网络钓鱼只是更智能的网络钓鱼。企业需要实时网络钓鱼保护，从一开始就防止OpenAI'网络钓鱼'成为问题。
平衡行为
那么，可以做些什么来平衡安全和创新呢？专家们主张采用多层次的方法。正如 Harding 所建议的那样，这包括“跨生成式 AI 平台的复制和粘贴限制、安全策略、会话监控和组级控制”。
过去证明是序幕。组织必须从以前的技术拐点中吸取教训。云、移动和网络等广泛使用的技术本质上带来了新的风险。随着时间的推移，公司逐步调整安全策略，以适应不断发展的技术范式。
生成式 AI 也需要同样的可衡量的、主动的方法。采取行动的窗口正在迅速关闭。正如 Harding 所告诫的那样，“企业中的生成式 AI 站点访问量和高级用户持续增长，但安全和 IT 团队面临的挑战仍然存在。
安全策略必须快速发展，以匹配生成式 AI 在组织中的空前采用。对于企业来说，当务之急是在安全与创新之间找到平衡。否则，生成式人工智能就有可能失控。
椰有料原创，作者：小椰子啊，转载请注明出处：http://www.studioyz.com/5530.html
文章评论