通过变革性的端到端 AI 平台加速 AI 部署和扩展

通过变革性的端到端 AI 平台加速 AI 部署和扩展

“人工智能与互联网一样,对业务结构、业务的开展方式及其影响具有变革性,”NVIDIA 企业计算集团产品营销高级总监 Anne Hecht 说。“每个企业和部门都开始使用人工智能,并寻找机会来运营,提高效率,并与客户建立更亲密的关系。

消费者每天都在与这些人工智能产品互动,从营销部门开发的推荐引擎到智能虚拟助手,使客户能够更快地获得结果,再到物流部门的路线优化(以及我们更快的披萨交付)。这已经是一项变革性技术,但生成式人工智能和像 ChatGPT 这样的应用程序正在撼动业务的完成方式。企业正在寻找释放人工智能潜力的方法,并实现成本节约、运营效益和新的商业模式。

“尽管有所有这些机会,但我们发现企业面临着将这些用例投入全面生产的挑战,”Hecht 说。“有巨大的潜力,但只有——也许三分之一的企业现在正在全面生产人工智能。

大规模部署 AI 的挑战

挑战范围从技术到人类,Supermicro的FAE总监Erik Grundstrom说。当然,成本始终是第一位的。但在技术方面,将不同的系统迁移到统一平台的技术复杂性。然后是将数据从多个系统映射到统一平台,这需要深入了解数据结构和数据之间的关系。

应用程序环境通常需要多个团队,每个团队都有自己的专业知识,共同创建一个单一的平台,最重要的是,确保数据仍然可靠,应用程序保持高性能。

“将团队聚集在一起可能是当今最大的挑战,”Grundstrom说。“公司内部的不同团队都在自己的部门中研究自己的模型和项目。

用于开发聊天机器人的支持团队的环境与执行推荐引擎的团队所使用的环境和工具非常不同,并且所有这些环境中的基础结构和资源都没有统一。当每个人都在做自己的事情时,它就会变成狂野的西部。

“创建一个统一的结构在企业层面提出了许多新的挑战,”Grundstrom说。“但是,正在实现这一目标的公司正在从预测分析中受益最多,并从他们的人工智能中大规模获得最高质量的信息。

Hecht补充说,使企业AI生产变得复杂的另一个关键问题是,它与标准的企业应用程序有很大不同。你不会构建它,部署它,然后在 12 个月后回来进行更新。人工智能应用程序持续运行并使用新数据进行训练,以进行额外的推理,以使其保持最新状态,使其更智能并确保其适应不断变化的环境。最重要的是,您需要始终如一地确保数据的质量和完整性。

“大多数企业平均需要大约七到七个半月的时间来开发和训练一个模型,”Hecht说。“他们通常利用预先训练的模型。然后将其投入生产。然后他们仍在处理这样一个事实,即其中几乎一半从未投入生产。如果我们能够缩短这一时间,这对我们的客户来说非常强大。

加速 AI 管道

企业在其旅程的早期通常让开发人员和团队构建自己的基础架构,利用云实例或在本地工作站或PC上进行开发。他们使用开源框架和预先训练的模型来完成开发工作。这些工具可能是一个很好的起点,但它们失败的地方是它们的不兼容性。因此,在这些高度定制的影子IT环境中开发的应用程序通常无法部署到数据中心,或者最终被修补而不是吸收,并且扩展变得非常困难。人工智能生产变得麻烦而不是胜利。

为了解决这个问题,必须优化AI管道以加速每一步,并在几天而不是几个月内将应用程序推向市场。添加加速还可以减少训练和处理数据所需的大量时间,这意味着降低成本,因为您不需要那么多基础设施。端到端生产 AI 平台与合作伙伴以及工具、技术以及可扩展且安全的基础架构一起提供,至关重要。

正在取得成功的公司正在从战略角度推动这一点。他们正在花时间制定完整的业务战略,并将人工智能作为卓越中心,将治理、流程、人员和团队放在一起。他们正在进行基础设施投资,同时包括安全实践、隐私实践和数据管理实践,以使人工智能成为其业务的核心。

“如果你从这个角度出发,它自然会揭示你需要什么基础设施以及你想与哪些合作伙伴合作,以便你为你的企业建立一个全面和简化的人工智能基础设施,”Hecht说。“这种东西很灵活,可以解决任何人工智能工作流程,任何可能给你的组织和你的企业带来的人工智能机会。

椰有料原创,作者:小椰子啊,转载请注明出处:http://www.studioyz.com/2253.html

0

扫一扫,分享到微信

猜你喜欢

文章评论

电子邮件地址不会被公开。 必填项已用*标注

后发表评论

上一篇

人工智能如何缓解这些数据管理困境

下一篇

应对气候危机需要未开发的创新

微信公众号

微信公众号