IBM 的红帽业务部门正在利用新的红帽 OpenShift AI 技术扩展其 AI 功能。
OpenShift AI 平台今天在红帽峰会上宣布。在过去的十年中，OpenShift一直是红帽基于开源Kubernetes容器编排平台的旗舰应用容器产品。OpenShift AI 是该平台的一个版本（顾名思义），经过优化以帮助实现 AI 和机器学习 （ML） 部署。
新平台是红帽 OpenShift 数据科学平台的演变，专注于帮助实现 AI 模型的生产部署。
“在过去的10年或20年里，我们投入了大量的时间和精力来构建应用程序平台，而今天，我们将数据工作负载与我们用于生成应用程序和运行应用程序的同一平台结合在一起，”红帽首席技术官Chris Wright在与媒体和分析师的简报中说。“企业采用AI/ML的挑战是巨大的。
IBM已经在使用OpenShift AI。
Wright指出，许多企业的现实是，数据科学实验经常失败，只有不到一半的人达到生产水平。
红帽 OpenShift AI 的目标是拥有一系列工具，这些工具能够完成 AI 所需的所有训练、服务和监控，并帮助更多模型投入生产。这是红帽已经通过其母公司IBM证明的方法和技术。
Wright评论说，训练大型语言模型（LLM）的成本和复杂性特别大。当IBM开始构建新的watsonx基础模型时 - 本月早些时候公开宣布 - 它转向Red Hat OpenShift。
“我们的平台是IBM用来构建，训练和管理其基础模型的平台，只是为了向您展示我们在OpenShift AI中构建的规模和生产能力，”他说。
AI/ML 部署和红帽解决方案的挑战
红帽正在为 OpenShift AI 构建一系列增强功能。其中包括模型性能功能。Wright表示，OpenShift AI将继续提高数据科学家管理部署到生产中的模型的监控和性能的能力。模型性能的一部分还包括观察潜在的模型漂移并确保模型保持准确。
AI/ML 工作负载的部署管道也至关重要。为此，红帽 OpenShift AI 使组织能够为模型构建和部署创建可重复的方法。还努力集成用于构建 AI/ML 模型的自定义运行时。
“我们发现的一件事是，数据科学团队花费了不成比例的时间来组装他们的工具，”赖特说。“当然，我们可以生产一套工具，但可能不是企业正在寻找的确切工具集，所以他们可能需要定制运行时环境。
帮助 AI/ML 工作负载投入生产还需要集成 AI 质量指标的能力。Wright指出，许多数据科学实验失败了，因为它们缺乏与业务成果的一致性。
当这种情况发生时，“很难衡量你的成功，”赖特说。“因此，我认为确保我们能够在整个管道中构建指标非常重要。
椰有料原创，作者：小椰子啊，转载请注明出处：http://www.studioyz.com/2225.html
文章评论