新的 AI 软件大大缩短了开发时间

新的 AI 软件大大缩短了开发时间

随着5G的全球推出,人工智能正在走向边缘,开启智能连接可以带来的所有可能性——无时无刻不在。从智能手机到车辆、工厂摄像头、VR/AR 设备等,这些产品具有设备上的 AI 功能,引发了真正的数字创新浪潮。开发人员拥有在每个行业中构建数字化转型所需的所有模块,但他们仍然需要正确的工具来整合所有这些。

“我们看到开发商和OEM面临的一个主要挑战是获得可以从硬件中产生一流性能的AI软件,”高通技术公司产品管理副总裁Ziad Asghar说。

另一个挑战是规模。您如何让开发人员轻松且经济高效地采用为一种产品开发的 AI 功能并将其扩展到产品组合中,或者使用它在新业务领域开辟全新的机会?目前,为每个新用例从头开始重新创建模型需要大量的精力和成本——这些时间可以更好地花在创新上。

这就是现代统一 AI 堆栈的用武之地,它改变了开发人员和 OEM 进行 AI 创新和业务增长的方式。

为开发商和 OEM 提供竞争优势

统一的 AI 软件堆栈将构建 AI 应用程序所需的硬件与开发人员环境连接起来,为开发人员提供了一个单一位置,可以跨各种应用程序一致地查看、管理和开发。对于像高通这样的公司来说,构建统一的专有工具组合使其合作伙伴能够非常轻松地跨各种产品线进行开发。

Asghar说,统一的AI软件堆栈最有利可图的好处之一是它将时间和预算等资源直接放回开发人员的口袋。

一旦模型完成并优化到可以部署的程度,开发人员就可以采用该模型,将其调整为具有AI功能的另一个产品中的不同有利位置,并在那里非常快速地部署它,而不必处理不同的堆栈或重新开发。

或者,一家只从事智能手机/手机开发的公司可以将其人工智能驱动的图像增强神经网络应用于家庭安全摄像头设备,该设备可以识别和批准访客,或者在自动驾驶汽车中利用,以改进和增强碰撞传感器。

Asghar说,在不同的高通产品中,为一种产品开发的每个新的AI功能都可以成为改变另一种产品或开辟新研究领域的机会。高通公司更愿意看到开发人员将资源花在这种创新上,而不仅仅是为不同的产品重做相同的工作。

“如果他们没有花费那么多时间和精力为这些不同的高通产品创建新模型,那么同样的研发支出现在可以用来增强这些体验,”Asghar说。“对于可能觉得他们需要进入新领域的研发增加的客户来说,这是一个非常大的优势。

“这些可能是我们甚至可能还没有看到的用例和经验,”他补充道。“这是让OEM和开发人员变得非常简单的真正承诺和好处。

为什么要构建专有的 AI 堆栈?

在互联世界中,每个节点现在都使用相同的语言,并且可以利用相同的技术。高通已经从硬件角度实现了这一点,但他们设计了高通AI Stack,以将这一优势扩展到其开发人员和OEM的软件方面。

“这是一款行业领先的软件,支持连接边缘侧和高通公司支持的设备,它将使开发人员和OEM的生活变得非常轻松,”Asghar说。“这将使他们能够开发创新的、一流的产品。

该公司的AI堆栈将其现有的AI软件产品统一到一个端到端软件包中。OEM 客户和开发人员可以在由高通解决方案和互联智能边缘产品提供支持的一系列设备上创建、优化和部署其 AI 应用程序。这包括智能手机、物联网、汽车、XR、云和移动 PC。

“这种规模本身就是一个巨大的竞争优势。我们了解其他人没有的不同有利位置,“他说。“但最重要的是,拥有高通AI堆栈使我们能够以更少的努力完成大量工作,这对我们和我们的合作伙伴来说也是一个巨大的竞争优势。

仔细查看堆栈

Qualcomm AI Stack从上到下支持流行的AI框架,如TensorFlow,PyTorch,ONNX和运行时,包括TensorFlow Lite,TensorFlow Lite Micro和ONNX RT。此外,它还包括推理SDK,如最近宣布的Windows版本的高通神经处理SDK。开发人员库和服务支持最新的编程语言、基于开源 QEMU 的虚拟平台以及包括 LLVM 和 TVM 在内的编译器。

在较低级别,系统软件包括系统接口、仿真支持和驱动程序。它还包括跨Android,Windows,Linux和QNX等不同产品线的操作系统支持,以及Prometheus,Kubernetes和Docker等基础设施操作系统。

作为新产品的一部分,高通AI Engine direct现在可以扩展到各种产品中的每个AI加速器。它还将包括流行的工具,如高通AI模型效率工具包(AIMET),AIMET模型动物园,模型分析器和神经架构搜索(NAS),其中包括Google Cloud Vertex AI NAS。

“我们强大的技术路线图使我们能够很快在新业务领域占据领导地位,”Asghar说。“这正是我们在人工智能软件方面所做的,为我们的开发人员和OEM厂商,使用高通人工智能堆栈。我们相信这是互联智能边缘的前沿产品。

椰有料原创,作者:小椰子啊,转载请注明出处:http://www.studioyz.com/4240.html

0

扫一扫,分享到微信

猜你喜欢

文章评论

电子邮件地址不会被公开。 必填项已用*标注

后发表评论

上一篇

Vamstar的人工智能驱动平台推动了医疗保健供应链的发展

下一篇

在Snowflake之后,Databricks还与Tecton集成,以加速企业ML项目

微信公众号

微信公众号