虽然OpenAI在生成AI世界中占据了很多炒作，但它并不是唯一一家构建大型语言模型（LLM）的供应商。
今天，以色列初创公司AI21 Labs宣布发布其最新的生成AI模型，称为Jurassic-2。AI21 Labs 成立于 2017 年，并于 1 年发布了其侏罗纪 2021 巨型 LLM，吹嘘它已经接受了 178 亿个参数的训练。该公司在 64 年 2022 月的 B 轮融资中筹集了 1000 万美元，专注于文本生成用例。
在《侏罗纪2》中，AI21 Labs更新了模型的训练数据，并计划将生成的响应时间加快30%。该公司还集成了支持更高级指令的新功能，使用户能够获得高度定制的结果。
AI21将把Jurassic-2集成到其自然语言处理（NLP）即服务平台AI21 Studio中，并通过一系列API供开发人员集成到他们自己的自定义应用程序中。
“大型语言模型很神奇，它们非常广泛地适用;看到他们能取得什么成就一直令人惊讶，“AI21 Labs的联合首席执行官兼联合创始人Ori Goshen告诉VentureBeat。“与此同时，我们看到了一些局限性，这就是我们创办公司的原因 - 试图将更多的推理和更多的语义带入统计方法。
A21 Labs 如何采用语义方法生成 AI
许多LLM采用的方法是统计模型，能够通过机器学习过程根据训练推断结果。
Goshen解释说，有些类型的过程往往不能很好地与AI的统计方法配合使用。例如，基础数学不是仅仅通过训练例子然后根据这些例子进行概括来学习的。相反，他指出，人类通过学习规则来学习基础数学，例如如何执行加法或减法的基础知识。A21 Labs with Jurassic-2的目标是将语义推理与统计表示相结合。
方向是帮助提供Goshen所说的对生成AI用户意图的更具指导性和精确的响应。例如，他指出，如果用户要求系统生成统计事实或历史事实，它将生成连贯的文本，但它也将是事实，并将引用信息的来源。
总的来说，Goshen说，推进LLM并以富有成效的方式应用于工作环境的方法是提高可靠性。
“我们正试图专注于阅读和写作用例，例如总结文本和生成高度指导和可靠的文本，”Goshen说。
你可以教“恐龙”新把戏
“侏罗纪”一词是指地球历史上恐龙非常活跃的地质时期。通过侏罗纪-2，AI21实验室实际上是在教授其恐龙时代命名的LLM新技术。
Goshen解释说，AI21实验室有一个多阶段的方法来构建侏罗纪-2 LLM。第一阶段涉及自我监督方法，其中模型在非常大的非结构化和未标记数据语料库上进行训练。下一阶段涉及获取大量标记数据，以帮助教LLM能够遵循说明。
在《侏罗纪2》中，AI21实验室的重点也是更有选择性地选择正确的数据进行训练。
“那里有很多文字，网络上有很多重复性，”他说。“因此，我们工作的关键事情之一是如何有选择地为模型选择实际促进其学习的示例，[这]显然提高了训练效率和模型的总体性能。
这不是MRKL（奇迹），它只是人工智能
侏罗纪-2 LLM中尚未采用的一个关键方法是实现AI21 Labs的MRKL（发音为“奇迹”）模块化推理知识和语言系统。
MRKL的承诺是一种高级推理形式，有助于更好地推断LLM的结果。至少自 2022 年 2 月首次展示其侏罗纪 X 架构以来，该公司一直在谈论其 MRKL 技术。Goshen表示，Jurassic-21在发布时并未在其架构中实施MRKL，但他暗示AI Labs将发布一些未来的模型版本，以发扬MRKL的精神。
Jurassic-2 LLM通过他们可以实现的API提供给开发人员，它也是AI21产品的一部分，包括Wordtune服务套件。
“我们不只是开发自己的模型。我们还为基于这些模型构建的应用程序提供服务，“Goshen说。
椰有料原创，作者：小椰子啊，转载请注明出处：http://www.studioyz.com/2270.html
文章评论