将AI推向边缘（第二部分）：边缘AI实践和关键趋势

与ZEDEDA的生态系统副总裁兼LF Edge董事会成员Jason Shepherd进行问答

在这个由两部分组成的问答系列的第一部分中，我们重点介绍了下周发布的新的LF Edge分类以及边缘AI部署的一些关键考虑。在这一部分中，我们的问题转向了新出现的用例和未来的关键趋势。

你认为边缘AI最有前途的用例是什么？

正如第一部分所强调的，在边缘部署AI的原因包括平衡可伸缩性、延迟、带宽、自治、安全和隐私等方面的需求。在一个完美的世界中，所有的处理都是集中的，然而这在实践中失败了，对AI（和ML）的需求只会随着设备和数据的数量而继续增长。

由于与流媒体视频相关的带宽，计算机视觉无疑是边缘AI的杀手级应用。应用人工智能“看到”现实世界中的事件的能力，为物体识别、安全和安保、质量控制、预测性维护和合规监控等领域的创新提供了巨大机会。

零售方面--计算机视觉解决方案将在实体店引入一波新的个性化服务浪潮，为员工提供当前客户的实时洞察，并更好地为长期营销决策提供信息。出于隐私方面的考虑，最初的重点将主要放在评估购物者的人口统计数据（如年龄、性别）和位置上，但我们将越来越多地看到基于个人身份的个性化购物体验（通常是通过客户忠诚度计划触发的）。这包括一种新的“体验式”购物中心的趋势，顾客希望在走进购物中心时放弃一些隐私，以换取更好的体验。

亚马逊的Go商店引领了自主购物环境的潮流，而电脑视觉支持的自助服务亭的使用总体上也在迅速增长。考虑到最近COVID-19带来的健康问题，供应商正迅速转向利用手势控制使这些解决方案非接触式，而不是需要与键盘或触摸屏交互。

计算机视觉用例通常会利用传感器融合，例如使用为零售库存管理和销售点（point of sale，POS）系统的决策提供附加上下文的条形码扫描或射频识别（radio-frequency identification，RFID）技术。摄像头可以分辨出T恤和电视的区别，但分辨不出同一件衬衫设计的大码和中码的区别。不过，或许最终人工智能模型将能够告诉你，你的穿衣品味是否很差！

另一个受益于计算机视觉的关键垂直领域是医疗保健。我们在ZEDEDA与一家全球供应商合作，在他们的医疗成像机器中利用人工智能模型，这些机器位于医院内，并作为托管服务提供。在这种情况下，服务提供商并不拥有部署其机器的网络，因此他们需要一个零信任的安全模型，以及适当的工具来安排他们的硬件和软件更新。

带宽驱动的物联网边缘部署AI需求的另一个例子是振动分析，它是预测性维护等用例的一部分。在这里，采样率通常至少为1KHz，可以增加到8-10KHz甚至更高，因为这些更高的分辨率提高了对即将发生的机器故障的可见性。这代表了大量的连续流数据，这些数据的成本太高，无法直接发送到集中式数据中心进行分析。相反，推断模型将通常部署在接近机器的计算硬件上，以实时分析振动数据，只回传突出即将发生的故障的事件。

预测维护分析通常也将通过结合振动数据和温度和功率（电压和电流）的测量来利用传感器融合。计算机视觉也越来越多地用于这种用途，例如，旋转马达轴的细微摆动可以用足够的相机分辨率检测到，加上热成像传感器可以测量。同时，我检查确认了电压和电流是不能用相机检查！

服务提供商边缘提供的边缘AI的一个例子是用于蜂窝汽车到一切（cellular vehicle-to-everything，C-V2X）的用例。尽管诸如控制转向和制动之类的延迟关键型工作负载将始终在车辆内部运行，但服务提供商将利用部署在公共基础设施内5G网络中小型蜂窝附近的计算机上部署的AI模型来提供信息娱乐、增强现实技术，以实现车辆平视 显示和协调流量。对于后者，这些人工智能模型可以在交叉路口警告两辆汽车它们正在接近潜在危险的情况，甚至可以通过智能手机提醒附近的行人。随着我们继续在支持互操作性的基础框架上进行合作，越来越多的传感器融合将成为可能，将不同边缘节点之间的智能连接起来，从而推动更明智的决策。

我们也转向边缘处理，以最小化数据移动和保护隐私。当人工智能推断模型在受限连接产品或医疗保健可穿戴设备中使用时，我们可以训练局部推断模型在数据被发送到集中位置进行更深入分析之前对PII进行编校。

在加速采用边缘AI的过程中，涉及到哪些不同的利益相关者？

边缘AI需要许多不同行业的玩家共同努力。我们需要硬件OEM和硅供应商进行处理；云计算提供工具和数据集；管理电信公司的连接件；帮助框架和AI模型产品化的软件供应商；开发特定行业模型的领域专家系统集成商，以及确保流程安全的安全供应商。

除了拥有合适的利益相关者，它还涉及到建立一个基于通用的、开放的互操作性框架的生态系统，并将投资重点放在附加的价值上。今天，平台和人工智能工具集的选择过多，这令人困惑，但这更多的是市场的状态，而不是必要的。像LF Edge的一个关键点是在开源社区建设工作更加开放、可互操作的、一致的和可信的基础设施和应用程序框架开发人员和最终用户可以关注周围的增值。在整个技术历史中，开放式互操作性始终在规模化方面胜过专有策略。

从长远来看，最成功的数字转型努力将由拥有最好领域知识、算法、应用程序和服务的组织来领导，而不是那些重新创造基础管道的组织。这就是为什么开源软件已经成为各种规模企业的关键推动者--通过共享技术投资促进实际标准的创建，并将“无差别的繁重工作”最小化。它还推动互操作性，这是通过相互连接的生态系统在长期内实现最大商业潜力的关键……但这话题是不久的将来的另一个博客！

从长远来看，人们如何使用AI做差异化？

随着时间的推移，人工智能软件框架将作为基础基础设施的一部分变得更加标准化，而算法、领域知识和服务将是开发者继续进行有意义的区分的地方。我们将看到用于常见任务的人工智能模型--例如评估房间里的人口统计、检测车牌号码、识别人、树、自行车和水瓶等常见物体--随着时间的推移，这些模型将成为商品。与此同时，针对特定行业背景（例如制造质量控制的特定零件几何形状）编程将是不断增加价值的地方。领域知识将永远是任何供应商提供的最重要的方面之一。

使边缘AI大规模可行还有哪些其他先决条件？

除了拥有合适的生态系统，包括能够整合解决方案的领域专家，边缘AI成功的一个关键因素是对计算和AI工具都有一个一致的交付或编排机制。事实是，到目前为止，许多边缘人工智能解决方案都只是实验室实验或有限的现场试验，还没有大规模部署和测试。

与此同时，当组织开始在该领域扩展其解决方案时，他们很快就会意识到挑战。从我们在ZEDEDA的经验来看，我们一致认为，使用强力脚本和命令行接口（command-line interface，CLI）交互手动部署边缘计算对于分布在50个左右的节点上的客户来说成本太高了。为了扩大规模，企业需要构建一种协调解决方案，考虑到分布式物联网在多样性、资源约束和安全性方面的独特需求，并帮助管理人员、开发人员和数据科学家密切关注他们在该领域的部署。这包括对可能导致不准确分析或彻底失败的任何潜在问题的可见性。此外，重要的是，这个基础是基于一个开放的模型，以便从长远来看最大限度地发挥潜力。

边缘AI的趋势是什么？

到目前为止，很多关于人工智能在边缘的探索都集中在推理模型上--在这些算法经过云的可伸缩计算训练后部署。（附注：对于那些喜欢体育的人，可以将训练与推理类比为教练与比赛。）

与此同时，我们开始看到培训甚至联合学习有选择地转移到服务提供商和用户边缘。联邦学习是一个不断发展的领域，它寻求平衡分散的好处，以保护隐私、自治、数据主权和带宽节省，同时集中来自分布式数据区域的结果，以消除区域偏见。

该行业也在越来越多地开发专用硅，这种硅可以在小设备的功率和热约束下提高效率，甚至支持训练或推理，这与将越来越多的人工智能工作负载推向边缘设备的趋势相一致。正因为如此，利用设备和应用程序编排工具是很重要的，这些工具对硅是完全无感的，相比之下，来自硅制造商的报价希望锁定你在他们的生态系统。

最后，我们将看到随着“Tiny ML”的增加，边缘AI的下界逐渐扩展到受限设备的边缘--部署针对高度受限、基于微控制器的设备优化的小型推理模型的实践。一个例子是Amazon Echo的“Hey Alexa”，它在本地被识别，随后打开管道到基于云的服务器进行会话。这些微小的ML算法将越来越多地用于对简单的语音和手势命令、常见的声音（如枪响或婴儿啼哭）进行局部分析，评估位置和方向、环境条件、生命体征等等。

为了大规模地管理所有这些复杂性，我们将严重依赖于行业标准化，这将帮助我们关注公共构建块之上的价值。开源的人工智能互操作性项目，如ONNX，在帮助业界围绕一种格式联合起来方面显示了巨大的希望，这样其他人就可以专注于开发和跨框架、从云到边缘的模型移动。Linux基金会的Trust over IP工作和新兴的Alvarium项目也将帮助简化将可信数据从设备传输到应用程序的过程。普及数据信任的概念将导致我所说的“Holy Grail of Digital”--向你甚至不认识的人销售和/或分享数据资源和服务。这就是规模！

总结

随着人工智能边缘领域的发展，重要的是要避免被局限于特定的工具集，而应该选择构建一个经得起未来挑战的基础设施，以适应快速变化的技术环境，并在你将业务与其他生态系统相互连接时能够扩大规模。我们在ZEDEDA的使命是为企业提供在物联网边缘部署工作负载的最优解决方案，而传统的数据中心解决方案并不适用。我们基于一种开放的、与供应商中立的模型，为硬件、人工智能框架、应用程序和云提供自由选择。我们甚至正在集成主要的云平台，如微软Azure，以增强他们的数据服务。

如果你有兴趣了解ZEDEDA的编排解决方案如何帮助你在物联网的前沿部署人工智能，同时保持你对未来的选择开放，请联系我们。我们也欢迎你加入我们，在LF Edge托管的EVE项目做贡献，EVE项目是我们商业云服务的开源基础。EVE社区的目标是构建“物联网边缘的Android”，它可以作为物联网边缘计算的通用抽象层--在分布式计算资源上安全地部署任何工作负载所需要的唯一基础。为此，EVE项目的关键下一步是将Kubernetes扩展到物联网边缘，同时考虑安全数据中心之外部署计算资源的独特需求。

人工智能的整体成功，特别是边缘人工智能的成功，需要我们协同合作，以推动行业向前发展，同时保护我们避免潜在的误用。技术的未来是关于在无差别管道上的开放合作，这样我们就可以专注于价值，并建立越来越相互关联的生态系统，从而驱动新的结果和收入流。正如一位政治人物的名言：“it takes a village!”

点击阅读网站原文。

---

为边缘计算构建一个开源框架。

LF Edge是一个伞形组织，旨在建立一个开放的、可互操作的框架，用于独立于硬件、硅、云或操作系统的边缘计算。通过将业界领袖聚集在一起，LF Edge将为硬件和软件标准以及最佳实践创建一个共同的框架，这对维持当前和未来几代物联网和边缘计算设备至关重要。

我们正在促进工业制造、城市和政府、能源、交通、零售、家庭和建筑自动化、汽车、物流和医疗保健等多个行业的合作和创新，所有这些都将通过边缘计算得到改变。

---

Linux基金会是非营利性组织，是技术生态系统的重要组成部分。
Linux基金会通过提供财务和智力资源、基础设施、服务、活动以及培训来支持创建永续开源生态系统。在共享技术的创建中，Linux基金会及其项目通过共同努力形成了非凡成功的投资。扫描二维码关注LFAPAC微信公众号。