信息时代讨论最少的话题之一是我们生成和使用的所有数据的实际成本。我们存储数据的命名法无济于事——“云”听起来枯燥而空灵，普通用户与它的交互被设计成快速、简单、无缝且几乎无关紧要的。
我们的心理图景通常是一堆漂浮在我们上方和周围的零和一，在网络空间的某个地方，不受我们世界的束缚，我们只能通过移动设备触摸屏和计算机键盘上的玻璃和金属层来辨认和操纵它们的形式，就像柏拉图众所周知的洞穴墙壁上闪烁的阴影一样。
但是，当然，云有一个非常真实的、有形的、物理的损失：运行存储数据和运行应用程序的服务器所需的能量，以及由此产生的温室气体。
平均而言，谷歌、Meta、苹果和亚马逊等大型科技公司使用的“超大规模”数据中心每年消耗20至100兆瓦的电力，足以为37,000个家庭供电。尽管科技公司自豪地宣称他们在太阳能、风能、水力和其他可再生能源方面的投资为其数据中心供电，但现实情况是，数据中心与世界上大多数其他地区一样，仍然依赖化石燃料。
随着数据中心能源需求的增长，预计到2030年，全球总用电量将从3%跃升至4%，企业必须找到替代品。
已经出现的一条途径是增加对边缘计算的投资——也就是说，部署小规模的计算机、传感器和服务器，不是在某个地方的大型专用数据中心，而是在现场，在工厂和零售店的地板上，在那里工作正在进行，业务正在实际交易。
与此同时，企业对使用生成式人工智能的兴趣突然爆发，增加了对图形处理单元（GPU）和存储训练大型语言模型（LLM）和其他基础模型所需的大量数据所需的服务器空间的需求。在某些方面，这对数据库和数据中心的能耗来说是一个无益的趋势，因为它是向低功耗边缘设备转变的抵消力量。
还是吗？几家公司已经开始提供“边缘人工智能”计算和软件解决方案，希望为组织提供在现场运行人工智能应用程序所需的技术，从云中消除一些能源需求，减少整体能源需求，从而减少排放。
边缘优势：低功耗设备
边缘计算的吸引力的关键在于它能够缓解席卷全球的数字化转型浪潮带来的能源挑战。
通过减少通过网络传输到中央数据中心进行处理的数据量，边缘计算最大限度地减少了消耗。此外，大多数边缘设备的功耗远低于其数据中心或集中式计算设备。
本地化处理方法还意味着数据在更接近生成或需要的位置进行处理，从而减少延迟并节省能源。向边缘计算的过渡不仅仅是技术转变;这是迈向更可持续和更节能的计算领域的重大一步。
“边缘人工智能将通过提高效率，实现实时
决策和促进创新来彻底改变企业，”SiMa.ai 首席执行官兼创始人Krishna Rangasayee在给VentureBeat的电子邮件中写道。
Rangasayee知道 SiMa.ai 是一家位于加利福尼亚州圣地亚哥的五年创业公司，它生产自己的拖放式无代码AI应用程序软件和AI边缘设备芯片。
2023 年 9 月，SiMa 推出了 Palette Edgematic，该平台允许企业在边缘设备上快速轻松地构建和部署人工智能应用程序，特别是那些利用 SiMa 的 MLSoC 硅芯片（由领先供应商台湾半导体 TMSC 按规格制造）的应用程序。该公司已经向美国军方等重要客户证明了自己的价值，表明无人机上的一个边缘部署能够将视频捕获和分析从每秒3帧提高到60帧。
“我们知道在云中对AI和ML有用的东西在边缘将变得无用，因此我们着手超越云的性能并遵守边缘的功率限制，”Rangasayee说。
边缘要求与数据中心要求不同
另一家在边缘追求人工智能以降低功率要求同时仍然利用人工智能分析能力的公司是联想。
尽管消费者最熟悉的是 PC 和设备制造商，但联想新的 TruScale for Edge 和 AI 服务也于 2023 年 9 月首次亮相，它采用了联想的硬件体验，并将其推向了新的外形——配备 AMD EPYC 455 系列处理器的 ThinkEdge SE455 V3 服务器，旨在在零售店的后台安静运行， 杂货店，甚至在大西洋中部的商业渔船上。
联想还通过其新的TruScale for Edge和AI订阅SaaS产品提供软件，即150 +交钥匙AI解决方案。
联想HPC和AI总经理Scott Tease表示：“未来几年，世界各地的手机、平板电脑、笔记本电脑、相机和传感器将使全球数据翻一番，使得边缘或远程位置的计算对于为所有企业实现人工智能的承诺至关重要。“在整个联想，我们专注于通过下一代边缘到云解决方案将AI引入数据。
根据联想的估计，完全“75%的计算”——运行应用程序所需的实际硬件/软件组合——有望向边缘移动。
但承认这一趋势即将到来是一回事。这是另一组更具挑战性的任务，完全是创建基础设施来实现它。
“服务器技术需要能够承受环境，紧凑且不引人注目，同时提供能够提供人工智能驱动的洞察力的高级计算，”Tease说。
您希望自己的优势如何：厚还是薄？
企业数据软件公司Splunk最近被思科以惊人的280亿美元收购，它区分了“厚边”和“薄边”，并帮助客户区分这两类计算，并确定哪一类适合他们。
虽然术语仍然是新的和不断发展的，但“厚边”是指联想在这篇文章中提到的那种计算硬件/软件解决方案——那些在现场处理和分析数据，或靠近收集数据的地方。
“瘦边缘”是指安装更小、功耗较低的传感器和计算硬件来收集数据的部署，但在收集站点只运行最少的操作，并且大部分处理能力都发生在云中。Splunk的新边缘中心是该公司于7月推出的具有自己操作系统的边缘计算终端，专为此类部署而设计。
“运行Splunk Enterprise On-Premise通常被称为'厚边'，因为通常提供的计算能力足够强大，可以运行今天的几个Splunk的AI产品，”Splunk人工智能主管Hao Yang在提供给VentureBeat的电子邮件中说。“Splunk也是通过我们新的Splunk Edge Hub在'薄边缘'上投资AI的领导者。这允许将AI模型应用于需要在更靠近数据源的更紧凑资源上运行的用例。
这两种情况都为企业提供了减少数据收集和处理能耗的机会，但显然，凭借其解释和架构的方式，“厚边”提供了更多潜在的节能。
无论如何，Splunk已准备好支持企业的厚薄边缘部署，并以节能的方式充分利用它们，即使他们希望采用计算资源密集型AI模型。
“对于可以在云中轻松运行的大型模型，有效的策略包括量化，以便可以优化具有数万亿参数的领先基础AI模型，以便在边缘设备上运行，同时保持准确性，”杨解释说。“这也突出了了解如何针对AI优化硬件以及如何调整模型以利用GPU（图形处理单元）和NPU中不同的硬件架构的必要性。
Splunk关于人工智能的哲学的一个重要原则是“人机交互”。
正如Splunk首席执行官加里·斯蒂尔（Gary Steele）在最近的一次采访中告诉《华尔街日报》的那样：“你不只是让人工智能代理重新配置你的网络。你会对你采取的下一步行动非常深思熟虑。
相反，Splunk的系统允许企业部署人工智能，提出建议，但最终让人类负责决策。这对于边缘部署尤其重要，除了节能之外，人工智能应用程序有机会更直接影响工作场所，因为它位于工作场所内部和工作场所之间。
Splunk还希望确保企业准备好提供自己独特的数据来完善他们计划使用的AI应用程序，因为这样做对于AI在边缘部署的最终成功至关重要。
“许多部署人工智能的尝试都失败了，因为基本模型需要使用独特的数据进行完善，”王告诉VentureBeat。“每个企业都是不同的，Splunk Edge Hub提供了从边缘收集数据的能力，并确保AI能够满足其设定的工作。这说明了Splunk在人机交互方法中的价值，并确保正确部署AI，可以理解和调整它。
边缘人工智能的下一步发展方向，以及它对能源效率意味着什么
尽管监管模棱两可，创意人员和倡导者的声音也反对，但企业对采用人工智能的热潮并没有放缓的迹象。
这将推动更多公司运行电力密集型人工智能模型，这可能会有意义地增加企业的总能耗。
然而，通过研究和实施有意义的边缘解决方案，来自具有构建此类部署经验的受信任供应商，企业可以充分利用人工智能，同时保持碳足迹轻，尽可能高效地使用能源为其新的人工智能驱动的运营提供动力。这种人工智能部署甚至可以通过使用本地收集的数据分析和建议企业进一步降低设备功耗的方法，帮助他们进一步优化功耗。
有许多供应商在那里兜售商品，但显然，对于希望降低电费及其环境影响的企业来说，将人工智能置于边缘是一条有益的前进道路。它当然可以减轻超大规模数据中心的一些负担。
椰有料原创，作者：小椰子啊，转载请注明出处：http://www.studioyz.com/4420.html
文章评论