微软新AI芯片对英伟达没有威胁,但不断增长的LLM需求推动定制芯片

微软新AI芯片对英伟达没有威胁,但不断增长的LLM需求推动定制芯片

据《今日资讯》报道,微软早在 2019 年就一直在开发一种新的人工智能 (AI) 芯片,内部代号为 Athena。该公司最早可以在明年让Athena在公司内部和OpenAI内部广泛使用。

专家表示,英伟达不会受到这些举措的威胁,但它确实表明超大规模企业需要开发自己的定制芯片。

应对GPU危机的AI芯片开发
该芯片与谷歌(TPU)和亚马逊(Trainium和Inferentia处理器架构)内部开发的芯片一样,旨在处理大型语言模型(LLM)训练。这是必不可少的,因为高级生成AI模型的规模增长速度超过了训练它们所需的计算能力,Gartner分析师Chirag Dekate通过电子邮件告诉VentureBeat。

根据John Peddie Research的数据,英伟达在供应AI芯片方面是市场领导者,拥有约88%的市场份额。公司正在争夺高端A100和H100 GPU的使用权,这些GPU的价格每款价值数万美元 - 导致可以称为GPU危机。

“领先的生成式人工智能模型现在正在使用数千亿个需要百万兆次级计算能力的参数,”他解释说。“随着下一代模型的参数数万亿,领先的技术创新者正在探索各种计算加速器来加速培训,同时减少所涉及的培训时间和成本也就不足为奇了。

他补充说,随着微软寻求在降低成本的同时加速其生成人工智能战略,该公司开发差异化的定制人工智能加速器战略是有道理的,这“可以帮助他们提供颠覆性的规模经济,超越使用传统商品化技术方法所能实现的。

定制 AI 芯片满足推理速度需求
重要的是,加速的需求也适用于支持机器学习推理的人工智能芯片——也就是说,当一个模型被归结为一组权重,然后使用实时数据来产生可操作的结果时。例如,每次 ChatGPT 生成对自然语言输入的响应时,计算基础设施都用于推理。

英伟达生产非常强大的通用AI芯片,并提供其并行计算平台CUDA(及其衍生产品)作为专门进行ML训练的一种方式,J Gold Associates的分析师Jack Gold在给VentureBeat的电子邮件中表示。但他解释说,推理通常需要较低的性能,超大规模企业看到了一种通过定制芯片影响客户推理需求的方法。

“推理最终将是一个比ML大得多的市场,因此所有供应商在这里提供产品都很重要,”他说。

微软的雅典娜对英伟达没有太大威胁
戈尔德表示,他认为微软的雅典娜对英伟达在AI/ML领域的地位没有太大的威胁,自从该公司十年前帮助推动深度学习“革命”以来,它一直占据主导地位;建立了强大的平台战略和以软件为中心的方法;并看到它的股票在 GPU 密集型生成 AI 时代上涨。

“随着需求的扩大和使用多样性的扩大,微软和其他超大规模公司为自己的架构和优化算法(不是特定于CUDA)追求自己的AI芯片优化版本非常重要,”他说。

他解释说,这与云运营成本有关,但也与为可能不需要或想要高成本Nvidia选项的不同客户提供低成本选择有关。“我希望所有的超大规模企业都能继续开发自己的芯片,不仅要与英伟达竞争,还要在通用云计算方面与英特尔竞争。

Dekate还坚持认为,英伟达没有放缓的迹象。“英伟达仍然是推动超大规模生成式人工智能开发和工程的主要GPU技术,”他说。“企业应该期待英伟达继续建立其领先的创新,并随着定制AI ASIC的出现而推动竞争差异化。

但他指出,“摩尔定律最后阶段的创新将由由GPU和特定应用定制芯片组成的异构加速驱动。他解释说,这对更广泛的半导体行业有影响,尤其是“尚未有意义地参与解决快速发展的人工智能市场需求的技术提供商”。

椰有料原创,作者:小椰子啊,转载请注明出处:http://www.studioyz.com/1767.html

0

扫一扫,分享到微信

猜你喜欢

文章评论

电子邮件地址不会被公开。 必填项已用*标注

后发表评论

上一篇

Yelp 利用 AI 和 LLM 来增强搜索、审查和招聘体验

下一篇

Sofy 推出 SofySense,这是一个生成式 AI 驱动的无代码移动应用程序测试解决方案

微信公众号

微信公众号