今天,LangChain,一家通过其开源框架促进大型语言模型(LLM)应用程序开发的初创公司,宣布在由红杉资本领投的A轮融资中筹集了2500万美元。该公司还表示,它正在推出LangSmith,这是其首款付费LLMOps产品。
LangSmith 被设计为一个多合一平台,允许开发人员通过涵盖项目的整个生命周期(从开发和测试到部署和监控)来加速他们的 LLM 应用程序工作流程。据该公司称,它于去年 7 月推出封闭测试版,每个月已经有数千家企业使用。
推出此产品的举措是因为开发人员需要解决方案来构建由语言模型提供支持的应用程序,以及高级可见性和工具,以确保它们在生产中具有高性能和可靠性。
对 LangChain 的 LangSmith 有什么期待?
凭借其开源框架,LangChain为开发人员提供了一个急需的编程工具包,其中包含一套通用的最佳实践和可组合的构建块,用于构建LLM驱动的应用程序。它可以通过 API 拉取 LLM,将它们链接在一起,并将它们与数据源和工具连接以完成不同的任务。该项目最初只是一个副业,但迅速发展成为 5,000 多个 LLM 应用程序的支柱,包括内部应用程序、自主代理、游戏、聊天自动化等。
但是,提供构建应用程序的工具包是不够的。在将 LLM 应用程序投入生产的每个阶段都存在多个障碍——这就是新的付费解决方案 LangSmith 的用武之地。它使开发人员能够调试、测试和监控他们的 LLM 应用程序。
在进行原型设计时,使用 LangSmith 的开发人员可以全面了解整个 LLM 调用序列,并实时发现错误和性能瓶颈的来源,以便进行调试和迭代。他们可以与主题专家合作,以改善应用程序的行为,甚至可以对人工提要或人工智能辅助评估进行分层,以检查相关性、正确性、有害性、不敏感性等。
原型完成后,统一平台将帮助用户使用托管的 LangServe 进行部署,并全面了解生产中发生的情况,涵盖从成本和延迟到异常和错误的所有内容。
这最终使企业能够交付在生产中表现良好的 LLM 应用程序,无论是在质量还是成本效率方面。
重要的早期采用
在宣布这项投资的博客文章中,来自红杉的 Sonya Huang 和 Romie Boyd 写道,自 2023 年 7 月推出封闭测试版以来,LangSmith 的注册人数已超过 70,000 人。目前,每个月有超过 5000 家公司使用这项技术,其中包括乐天、Elastic、穆迪和 Retool 等知名行业名称。
“Elastic 为其 Elastic AI Assistant 提供支持,确保 LangChain 的安全性,并利用 LangSmith 提供可见性,帮助他们快速投入生产。Rakuten 依靠 LangSmith 进行严格的测试和基准测试,以便他们能够以系统的方式对其副驾驶 Rakuten AI for Business(内置 LangChain)做出权衡决策。穆迪依靠LangSmith进行自动评估、轻松调试和实验,以便他们能够快速迭代和创新,“黄仁勋和博伊德指出。
虽然该技术已经开始掀起波澜,但预计它的采用率只会飙升——现在它在快速发展的人工智能领域是公开的。
“该团队正在一个丰富的问题空间中进行建设,有很多值得探索的地方,他们受到一个充满激情的用户社区的指导,不乏需要解决的重要问题,”红杉高管补充道,同时指出这只是LangChain的开始。
下一步,LangChain表示,它计划引入多种功能来扩展LangSmith平台。这将包括对回归测试的支持、对生产数据样本运行在线评估器的能力、更好的过滤和对话支持以及使用托管的 LangServe 轻松部署应用程序。它还将推出企业级功能,以帮助管理和安全性。
随着红杉资本的本轮融资,LangChain的总融资额已达到3500万美元。根据 Crunchbase 的数据,上一轮 1000 万美元融资由 Benchmark 领投。其他有助于评估和监控 LLM 应用程序的产品包括 TruEra 的 TruLens、W&B Prompts 和 Arize 的 Pheonix。
椰有料原创,作者:小椰子啊,转载请注明出处:http://www.studioyz.com/5485.html
文章评论