ChatGPT昨天发布了一个新的分类器工具，用于检测AI生成的文本，这些文本在几个小时内被证明是不完美的。事实证明，在检测生成人工智能（无论是文本还是图像）时，可能没有快速解决方案。
Sebastian Raschka是一名人工智能（AI）和机器学习（ML）研究员，担任Lightning AI的首席AI教育者，他开始在ChatGPT上测试OpenAI文本分类器，其中包含他在2015年出版的一本书中的文本片段。三个不同的段落收到了不同的结果——该工具报告说，“不清楚”这本书的序言是否是由人工智能写的;但前言是“可能是AI”，第一章的一段是“可能”AI。
更令人担忧的是该工具如何对莎士比亚的麦克白的第一页进行分类：
“分类器认为文本可能是人工智能生成的。
当被问及他是否对结果感到惊讶时，Raschka说：“是的，也不是 - 他们没有分享论文，所以我不能说100%它是如何工作的，但根据他们在网站上的简短描述，听起来他们正在训练一个分类器来预测某些东西是人类生成的还是人工智能生成的。他解释说，问题在于，根据工具训练的数据集，存在假阴性和假阳性。
例如，对于麦克白，Raschka说他认为该工具没有接受过古英语训练。“这不是正常的英语口语，它几乎就像一门外语。
OpenAI表示，工具仍然可以与其他方法结合使用
OpenAI承认分类器是一个GPT模型，通过监督学习进行微调以执行二元分类，其训练数据集由人类编写和AI编写的文本段落组成，准确率仅为26%左右。
但是，它表示该工具仍然可以与其他方法结合使用。该公司在一封电子邮件中表示，“分类器旨在帮助减少人工智能生成的文本是由人类编写的错误声明。然而，它仍然有许多局限性 - 因此它应该被用作确定文本来源的其他方法的补充，而不是作为主要的决策工具。
该公司在其网站上补充说，他们正在公开分类器，“以获得关于像这样的不完美工具是否有用的反馈”，并补充说，他们将继续致力于检测人工智能生成的文本，并“希望在未来分享改进的方法”。
其他生成式AI检测工具面临艰苦的战斗
OpenAI并不是唯一一个试图应对生成AI检测的狂野西部的人。有许多其他工具在挑战中发挥作用。
例如，GPTZero提供了一个分数，然后必须由用户解释。在一篇博客文章中，Raschka解释说：“GPTZero不建议文本是否是AI生成的。相反，它只返回文本之间相对比较的困惑度分数。这很好，因为它迫使用户批判性地比较相似的文本，而不是盲目地相信预测的标签。
Raschka解释说，DetectGPT会“扰乱”文本：也就是说，他解释说，如果新文本的概率明显低于原始文本，那么它是AI生成的。否则，如果它大致相同，它是人为生成的。他补充说，问题在于该方法涉及使用特定的LLM（大型语言模型），该模型“可能无法代表AI模型来生成相关文本”。
他补充说，水印是另一种方法——使用“避免列表”来降低某些单词的概率，以便它们不太可能被LLM使用。然而，Raschka解释说，这需要一个已经用这个避免列表修改过的LLM。他说，如果知道避免列表，就可以修改人工智能生成的文本。
这对生成式 AI 检测意味着什么？
Raschka说，目前还不清楚这一切将如何发展，以及生成式人工智能检测工具是否会在克服区分人类创建的内容和人工智能生成的文本的挑战方面取得任何进展。互联网本身是否会变得无法使用，充斥着无法信任的生成内容？
“这对我来说意味着什么，或者我如何看待前进的道路，互联网是你搜索内容的地方，你最信任你找到的东西，”他说。将来，更多的是选择性和找到可靠的网站。
他强调，无论未来如何，潘多拉的盒子在生成人工智能方面已经打开了，并补充说，他目前发现ChatGPT作为一个“花哨的语法检查器”很有用，可以使写作更容易。
“我认为我们不能倒退，”他说。“每个人都会使用这些系统，我认为如果我们负责任地使用它们很好 - 我认为没有办法避免使用这些模型。
他说，就目前而言，生成式人工智能检测工具“绝对不够好”，无法用于重要决策，其中包括在学生论文评分时使用它们的努力 - 以应对对作弊和抄袭的担忧。
“像这样的模型可能会对现实世界造成伤害，因为教育工作者采用它进行评分，”Raschka昨天在推特上写道。“因此，让我们增加一些关于误报和假阴性的透明度。
椰有料原创，作者：小椰子啊，转载请注明出处：http://www.studioyz.com/2510.html
文章评论