在当前的经济环境下，研发资金必须比以往任何时候都更进一步。公司对大型绿地技术和基础设施的投资不屑一顾，而失败的风险给项目利益相关者带来了巨大的压力。
然而，这并不意味着创新应该停止甚至放缓。对于初创公司和大型企业来说，致力于新的变革性技术对于确保当前和未来的竞争力至关重要。人工智能 （AI） 为各行各业提供多方面的解决方案。
在过去的十年中，人工智能在解锁全新的收入机会方面发挥了重要作用。从理解和预测用户行为到协助生成代码和内容，人工智能和机器学习 （ML） 革命使消费者从其应用程序、网站和在线服务中获得的价值成倍增加。
然而，这场革命在很大程度上仅限于云，其中几乎无限的存储和计算 - 以及主要公共云服务提供商提供的便捷硬件抽象 - 使得为每个可以想象的AI / ML应用程序建立最佳实践模式变得相对容易。
AI：向边缘移动
由于 AI 处理主要发生在云中，因此 AI/ML 革命在很大程度上仍然无法实现边缘设备。这些是在工厂车间、建筑工地、研究实验室、自然保护区、我们穿的配件和衣服、我们运送的包装内以及连接、存储、计算和能源有限或不能被视为理所当然的任何其他环境中发现的更小、低功耗的处理器。在他们的环境中，计算周期和硬件架构很重要，预算不是以端点或套接字连接的数量来衡量的，而是以瓦特和纳秒来衡量的。
希望打破 AI/ML 下一个技术障碍的首席技术官、工程、数据和 ML 领导者以及产品团队必须着眼于边缘。边缘 AI 和边缘 ML 带来了独特而复杂的挑战，需要许多利益相关者的精心编排和参与，这些利益相关者具有从系统集成、设计、运营和物流到嵌入式、数据、IT 和 ML 工程的广泛专业知识。
边缘人工智能意味着算法必须在某种特定用途的硬件中运行，从高端的网关或本地服务器到低端的能量收集传感器和MCU。确保此类产品和应用程序的成功需要数据和 ML 团队与产品和硬件团队密切合作，以了解和考虑彼此的需求、约束和要求。
虽然构建定制的边缘 AI 解决方案的挑战并非不可克服，但存在用于边缘 AI 算法开发的平台，可以帮助弥合必要团队之间的差距，确保在更短的时间内取得更高水平的成功，并验证应该在哪些方面进行进一步投资。以下是其他注意事项。
在开发算法的同时测试硬件
数据科学和 ML 团队开发算法，然后将其传递给固件工程师以使其适合设备，效率也不高，也并不总是可能。硬件在环测试和部署应该是任何边缘 AI 开发管道的基本组成部分。很难预见在开发边缘 AI 算法时可能出现的内存、性能和延迟限制，而没有同时在硬件上运行和测试算法的方法。
一些基于云的模型架构也不适合在任何类型的受限或边缘设备上运行，提前预测这一点可以为固件和 ML 团队节省数月的痛苦。
物联网数据不等于大数据
大数据是指可以分析以揭示模式或趋势的大型数据集。然而，物联网（IoT）数据不一定与数量有关，而是与数据的质量有关。此外，该数据可以是时间序列传感器或音频数据，或图像，并且可能需要预处理。
将数字信号处理 （DSP） 等传统传感器数据处理技术与 AI/ML 相结合，可以产生新的边缘 AI 算法，提供以前技术无法提供的准确见解。但物联网数据不是大数据，因此这些用于边缘AI开发的数据集的数量和分析将有所不同。根据生成的模型准确性和性能快速试验数据集大小和质量是实现生产可部署算法的重要一步。
开发硬件已经够难的了
如果没有知道所选硬件是否可以运行边缘 AI 软件工作负载的附加变量，构建硬件是很困难的。甚至在选择物料清单之前就开始对硬件进行基准测试至关重要。对于现有硬件，设备上可用内存的限制可能更为关键。
即使使用早期的小型数据集，边缘 AI 开发平台也可以开始提供运行 AI 工作负载所需的硬件类型的性能和内存估计。
根据边缘 AI 模型的早期版本进行权衡设备选择和基准测试的过程，可以确保为将在设备上运行的所需固件和 AI 模型提供硬件支持。
构建、验证新的边缘 AI 软件并将其推向生产环境
在选择开发平台时，还值得考虑不同供应商提供的工程支持。边缘 AI 包括数据科学、ML、固件和硬件，供应商在内部开发团队可能需要一些额外支持的领域提供指导非常重要。
在某些情况下，它不是关于将要开发的实际模型，而是关于进入系统级设计流程的规划，包括数据基础架构、ML 开发工具、测试、部署环境和持续集成、持续部署 （CI/CD） 管道。
最后，边缘 AI 开发工具必须适应团队中的不同用户——从 ML 工程师到固件开发人员。低代码/无代码用户界面是快速原型设计和构建新应用程序的好方法，而 API 和 SDK 对于更有经验的 ML 开发人员非常有用，他们可以通过 Jupyter 笔记本在 Python 中更好、更快地工作。
平台提供了访问灵活性的好处，迎合了构建边缘 AI 应用程序的跨职能团队中可能存在的多个利益相关者或开发人员。
椰有料原创，作者：小椰子啊，转载请注明出处：http://www.studioyz.com/2094.html
文章评论