你确定要与 ChatGPT 分享吗?Metomic 如何帮助阻止数据泄露

你确定要与 ChatGPT 分享吗?Metomic 如何帮助阻止数据泄露

Open AI 的 ChatGPT 是一生中最强大的工具之一,将彻底改变我们许多人的工作方式。

但它在企业中的使用仍然是一个窘境:企业知道生成式人工智能是一种竞争力量,但将敏感信息泄露给平台的后果是巨大的。

然而,员工并不满足于等到组织解决这个问题:许多人已经在使用 ChatGPT 并无意中泄露了敏感数据——而他们的雇主却不知道他们这样做了。

公司需要一个看门人,而 Metomic 的目标是成为看门人:这家数据安全软件公司今天发布了其用于 ChatGPT 的新浏览器插件 Metomic,该插件在 OpenAI 强大的大型语言模型 (LLM) 中跟踪用户活动。

“这些应用程序没有边界,这是数据共享活动的狂野西部,”Metomic 首席执行官 Rich Vibert 告诉 VentureBeat。“实际上根本没有人能看到。”

从泄露的资产负债表到“完整的客户档案”

研究表明,15% 的员工定期将公司数据粘贴到 ChatGPT 中——主要类型是源代码 (31%)、内部业务信息 (43%) 和个人身份信息 (PII) (12%)。将数据导入模型的主要部门包括研发、融资以及销售和营销。

“这是一个全新的问题,”维伯特说,并补充说企业之间存在“巨大的恐惧”。“他们自然而然地关心员工可以在这些工具中投入什么。没有进入门槛——你只需要一个浏览器。

Metomic发现,员工正在泄露财务数据,例如资产负债表,“整个代码片段”和包括密码在内的凭据。但最重要的数据泄露之一来自客户聊天记录,Vibert说。

他说,客户聊天可以持续数小时甚至数天,数周可能会积累“一行又一行的文字”。客户支持团队越来越多地转向 ChatGPT 来总结这一切,但它充斥着敏感数据,不仅包括姓名和电子邮件地址,还包括信用卡号和其他财务信息。

“基本上,完整的客户档案正在被放入这些工具中,”Vibert说。

他指出,竞争对手和黑客可以很容易地掌握这些信息,而这些信息的丢失也可能导致违约。

除了毫无戒心的用户无意中泄露之外,其他可能即将离开公司的员工还可以使用生成 AI 工具来尝试获取数据(例如,客户联系人或登录凭据)。然后是整个恶意内部问题,其中员工希望通过窃取或泄露公司信息来故意对公司造成伤害。

虽然一些企业已经采取行动,完全阻止其员工使用 ChatGPT 和其他竞争对手平台,但 Vibert 表示,这根本不是一个可行的选择。

“这些工具将继续存在,”他说,并补充说ChatGPT提供了“巨大的价值”和巨大的竞争优势。“它是终极生产力平台,使整个员工队伍的效率成倍提高。”

从员工角度看数据安全

Metomic 的 ChatGPT 集成位于浏览器中,可识别员工何时登录平台并对上传的数据进行实时扫描。

如果检测到 PII、安全凭证或 IP 等敏感数据,人类用户会在浏览器或其他平台(如 Slack)中收到通知,他们可以编辑或删除敏感数据,或响应“明天提醒我”或“不敏感”等提示。

当员工上传敏感数据时,安全团队还可以收到警报。

Vibert 强调,该平台不会阻止活动或工具,而是为企业提供可见性和控制,以最大限度地降低风险敞口。

“这是从员工的角度来看的数据安全,”他说。“它将控制权交到员工手中,并将数据反馈给分析团队。”

Vibert 指出,否则,安全和分析团队可能无法筛选“噪音、噪音和噪音”。

“IT团队无法解决SaaS生成AI共享的普遍问题,”他说。“这将警觉疲劳提升到全新的水平。”

使用中的 SaaS 应用程序数量惊人

当今的企业正在使用多种 SaaS 工具:据估计,有 991 种工具,但其中只有四分之一是联网的。

“我们看到跨组织使用的 SaaS 应用程序数量大幅增加,”Vibert 说。

Metomic的平台连接到整个商业环境中的其他SaaS工具,并预先构建了150个数据分类器,以根据行业或特定地区的法规等上下文识别常见的关键数据风险。企业还可以创建数据分类器来识别其最脆弱的信息。

“仅仅知道人们将数据放入一个或另一个工具的位置并不能真正起作用,而是当你把所有这些放在一起时,”Vibert说。

他解释说,IT团队可以超越数据,关注某些部门甚至特定员工之间的“数据热点”。例如,他们可以确定营销团队如何使用 ChatGPT,并将其用于 Slack 或 Notion 等其他应用程序。同样,该平台可以确定数据是否在错误的位置或不相关的人可以访问。

“这是发现重要风险的想法,”Vibert说。

他指出,ChatGPT 不仅有浏览器版本——许多应用程序只是内置了模型。例如,数据可以导入到 Slack,并可能在此过程中以一种或另一种方式最终进入 ChatGPT。

“很难说供应链在哪里结束,”Vibert说。“这完全缺乏可见性,更不用说控制了。”

展望未来,SaaS 应用程序的数量只会继续增加,ChatGPT 和其他强大的一代 AI 工具和 LLM 的使用也会继续增加。

正如 Vibert 所说:“我们面前的漫长旅程甚至还不是零天。

椰有料原创,作者:小椰子啊,转载请注明出处:http://www.studioyz.com/5480.html

0

扫一扫,分享到微信

猜你喜欢

文章评论

电子邮件地址不会被公开。 必填项已用*标注

后发表评论

上一篇

谷歌、Microsoft、OpenAI 在慕尼黑安全会议前做出 AI 承诺

下一篇

苹果的新人工智能研究承诺在不高价的情况下实现高性能

微信公众号

微信公众号