AI 中毒工具 Nightshade 在 5 天内获得了 250,000 次下载：“超出了我们的想象”

Nightshade 是由芝加哥大学计算机科学研究人员创建的一种新的可免费下载工具，旨在让艺术家在未经同意的情况下破坏 AI 模型对其艺术品的抓取和训练，在其发布的前五天就收到了 250,000 次下载。

“Nightshade 自发布以来的 5 天内就达到了 250K 的下载量，”该项目的负责人、计算机科学教授 Ben Zhao 在给 VentureBeat 的一封电子邮件中写道，后来补充说，“我预计它会有非常高的热情。但我还是低估了它......反响简直超出了我们的想象。

对于这个免费工具来说，这是一个良好的开端，并表明一些艺术家对保护他们的作品不被用于未经同意的训练人工智能的强烈兴趣。根据美国劳工统计局的数据，仅在美国就有超过 267 万艺术家，但赵告诉 VentureBeat，Nightshade 的用户可能更广泛。

“我们还没有对这些下载进行地理位置查询，”赵写道。“根据社交媒体上的反应，下载量来自全球各地。”

Nightshade 的工作原理及其受欢迎程度

Nightshade 试图通过改变发布到网络上的艺术作品或在像素级别上“着色”它们来“毒害”生成式 AI 图像模型，以便它们在机器学习算法看来包含完全不同的内容——比如说，钱包而不是牛。通过对从网络上抓取的一些“阴影”图像进行训练，人工智能算法可以开始从用户提示或询问的内容中生成错误的图像。

在 Nightshade 项目页面上，Zhao 和他的同事——Shawn Shan、Wenxin Ding、Josephine Passananti 和 Heather Zheng——表示他们开发并发布了该工具，以“增加对未经许可的数据进行训练的成本，从而从其创作者那里获得图像许可成为可行的替代方案。

在 Nightshade 于 2023 年 1 月 18 日发布后不久，芝加哥大学的 Web 服务器对并发下载的需求如此之大，以至于创作者不得不添加镜像链接，人们可以从云上的另一个位置下载它的副本。

与此同时，该团队的早期工具——Glaze，它通过巧妙地改变像素来防止人工智能模型学习艺术家的标志性“风格”，使它们看起来像是机器学习算法的其他东西——自 2023 年 4 月发布以来，已经获得了 220 万次下载。

Glaze/Nightshade 团队的下一步是什么？

Zhao和他的同事们以他们的总称“釉料计划”（The Glaze Project）运作，他们之前已经表示打算发布一种结合了釉（防御性）和夜影（进攻性）的工具。

至于什么时候到来，最快至少一个月。

“我们现在的清单上有很多事情要做，”赵写道。“组合版本必须经过仔细测试，否则确保我们以后不会出现意外。因此，我认为至少需要一个月，甚至更长的时间，我们才能完成全面的测试。

与此同时，The Glaze Project 的研究人员主张艺术家首先使用 Glaze，然后使用 Nightshade，既能保护他们的风格，又能破坏 AI 模型训练，并且很高兴看到艺术家这样做，尽管使用两个单独的程序有点麻烦。

“我们警告人们，我们还没有做完整的测试来了解它如何与釉料一起工作，人们应该等待，然后再发布任何只有 Nightshade 的图像，”赵解释说。“艺术家社区的反应是，'我们将分两步完成夜来香和釉料，尽管这需要更多的时间，并且对艺术的影响更明显。'

Nightshade 的开源版本也可能在卡片中。“我们可能会在某个时候做一个开源版本，”赵说。“只是需要更多时间来推出不同的版本。”

项目负责人指出，他和他的同事们没有，也没想到会直接听到人工智能图像生成技术背后的模型制作者，如OpenAI（DALL-E 3）、Midjourney、Stability AI（Stable Diffusion）等。VentureBeat 使用其中一些工具和其他工具来创建文章图像和其他内容。

椰有料原创，作者：小椰子啊，转载请注明出处：http://www.studioyz.com/5429.html