AI 优先基础设施:加快上市时间的关键

AI 优先基础设施:加快上市时间的关键

“如今,企业可以做的最重要的事情就是在人工智能方面拥抱成长型思维,并用双臂拥抱它,”微软Azure HPC和AI总经理Nidhi Chappell说。“我有幸坐在前排,所以我看到了它的差异化有多大,以及它激发了多少创新。

但是,实施人工智能战略的复杂性和成本,尤其是将试点投入生产,仍然是一个重大挑战。这就是高性能 AI 基础设施的用武之地。

基于云的端到端专用平台,包括优化的处理器、加速器、网络、存储和软件,使企业能够通过改进的标准化、成本控制和治理,成功运营 AI 并将其扩展到生产中。

“人工智能优先”的基础可以消除非托管采购、不均衡开发和不确定的模型性能,帮助减少重复工作,收紧工作流程,并消除让技术堆栈的所有部分很好地协同工作的许多资源和时间成本。

针对各种 AI 工作负载优化的基础架构

“人工智能几乎不是铁板一块,”Chappell提醒道。“这是一个通用术语,涵盖了许多不同类型的工作负载——成本状况差异很大,特别是对于处于人工智能成熟度不同阶段的企业”。

一方面,有企业参与高端模型训练和推理大量数据。另一端是使用非常轻量级的预构建模型并在现场推断它们的企业。

与其将庞然大物拖入更小的占地面积,不如针对各种用例和工作负载以及公司的特定场景进行优化,基于云的标准化 AI 基础架构。例如,零售商可能会每天或每周使用 AI 在商店级别进行库存管理。每个端到端解决方案的成本结构差异同样广泛。

需要明确的是,在人工智能平台和云上实现标准化并不意味着供应商锁定或放弃开发。相反,容器化、Kubernetes 和其他开放的云原生方法为企业提供了跨提供商和云的可移植性,为 CIO 提供了所需的可见性和控制力,而不会阻碍创新。

计算成本

诸如“专用”之类的术语可能会使担心成本的IT决策者保持警惕。

“对于那些正在开发自己的复杂模型,担心自己的知识产权,并且需要将数千个GPU串在一起进行大型模型训练的公司来说,成本通常不是障碍,”Chappell说。然而,她补充说,“一般企业市场需要成本优化的GPU,用于训练或微调预构建的模型,低功耗和廉价的推理。

对于每个企业来说,这是一个微妙的平衡。过度配置意味着昂贵、未充分利用的基础架构;预配不足会减慢开发和部署速度,并可能意味着填补云服务缺口或超额的意外费用。对于部署不太复杂的人工智能的公司,专用基础设施可以缩小到具有成本效益的水平。

由于标准化基础设施可以加速开发和部署,企业可以通过更快地将 AI 投入生产来获得竞争优势,从而降低总拥有成本 (TCO)。

Chappell建议:“不要看基础设施的成本,要看开发模型或进行推理的成本。这才是真正的指标。然后考虑一下你正在开发的知识产权——这有什么价值?”

椰有料原创,作者:小椰子啊,转载请注明出处:http://www.studioyz.com/2264.html

0

扫一扫,分享到微信

猜你喜欢

文章评论

电子邮件地址不会被公开。 必填项已用*标注

后发表评论

上一篇

生成式AI中最热门的一方是生产力应用程序

下一篇

大型语言模型(LLM)研究的下一步是什么?这是 ML 长矛下发生的事情

微信公众号

微信公众号