边缘人工智能：边缘计算如何赋能人工智能新浪潮

最近的研究表明，到 2025 年，全球使用的物联网设备数量将超过 380 亿。急剧增加将不可避免地影响人工智能的采用状态，因为物联网和人工智能这两个概念始终齐头并进。

随着开发物联网系统的黄金标准，以云为中心的方法逐渐过时，人工智能也将开始向边缘靠拢。 向边缘转移的原因各不相同，但最引人注目的原因包括高延迟和高云计算成本。 这些对于大规模物联网系统来说尤为严重。

尽管如此，尽管人工智能软件供应商正在通过开发边缘 AI 系统来扩展他们的产品，但企业仍然想知道：边缘 AI 到底是什么，它是如何在幕后工作的，以及可以从哪些常见的边缘 AI 开发用例？ 如果这些是您问自己的问题，请继续阅读。 在下面的文章中，我们重点介绍了边缘 AI 的内部结构、用例、优势和局限性。

什么是边缘 AI，它与云 AI 有何不同？

一个标准的物联网架构大致可以分为三个部分：物、网关和云。 这些东西代表各种工具、小工具和设备，这些工具、小工具和设备通过生成数据的传感器得到增强。 网关是将事物连接到云的集中式设备，例如路由器。 终端设备和网关一起构成了边缘层。

反过来，边缘 AI 代表将 AI 算法部署到更靠近网络边缘的位置，即连接的设备（终端节点）或网关（边缘节点）。

与在云中开发和部署 AI 算法的基于云的方法相比，以边缘为中心的 AI 系统可以在几毫秒内做出决策，并且运行成本更低。

与云 AI 解决方案相比，边缘 AI 的其他优势包括：

• 处理时间更短：由于数据是在本地分析的，因此无需向云端发送请求并等待响应，这对于时间紧迫的应用程序（如医疗设备或驾驶员辅助系统）至关重要
• 减少带宽和成本：由于不需要将大量传感器数据发送到云端，边缘人工智能系统需要较低的带宽（主要用于传输元数据），因此产生较低的运营成本
• 提高安全性：在本地处理数据有助于降低敏感信息在云端或传输过程中遭到破坏的风险
• 更高的可靠性：即使在网络中断或云服务暂时不可用的情况下，边缘人工智能也能继续运行
• 优化能源消耗：在本地处理数据通常比将生成的数据发送到云端消耗更少的能源，这有助于延长终端设备的电池寿命

根据 Markets and Markets 的数据，到 2026 年，全球边缘 AI 软件市场规模预计将达到 18 亿美元，复合年增长率为 20.8%。 各种因素，例如增加云上的企业工作负载和智能应用程序数量的快速增长，预计将推动边缘 AI 解决方案的采用。

边缘人工智能如何在幕后工作

尽管存在一个普遍的误解，但标准的以边缘为中心的 AI 解决方案通常以混合方式部署——边缘设备根据流数据做出决策，数据中心（通常是云数据中心）用于修改和重新训练已部署的 AI 模型。

因此，基本的边缘 AI 架构通常如下所示：

对于能够理解人类语言、驾驶车辆和执行其他重要任务的边缘人工智能系统，它们需要类人智能。 在这些系统中，人类认知是在深度学习算法（人工智能的一个子集）的帮助下复制的。

训练深度学习模型的过程通常在云端运行，因为要获得更高的准确性需要海量数据和强大的处理能力。 经过训练后，深度学习模型将部署到终端或边缘设备，它们现在可以在其中自主运行。

如果模型遇到问题，反馈将被发送到云端，在那里开始重新训练，直到边缘的模型被一个新的、更准确的模型所取代。 这种反馈回路可以使边缘 AI 解决方案保持精确和有效。

支持边缘 AI 的硬件和软件技术概述

标准的边缘 AI 实施需要硬件和软件组件。

根据特定的边缘 AI 应用，可能有多种硬件选项可用于执行边缘 AI 处理。 最常见的包括 CPU、GPU、专用集成电路 (ASIC) 和现场可编程门阵列 (FPGA)。

ASIC具有高处理能力，同时具有高能效，这使其非常适合广泛的边缘 AI 应用。

反过来， GPU可能非常昂贵，尤其是在支持大规模边缘解决方案时。 尽管如此，它们仍然是需要以闪电般的速度处理数据的延迟关键用例的首选，例如无人驾驶汽车或高级驾驶员辅助系统。

FPGA提供更好的处理能力、能效和灵活性。 FPGA 的主要优势在于它们是可编程的，即硬件“遵循”软件指令。 这允许更多的节能和可重新配置，因为与硬编码的 ASIC、CPU 和 GPU 相比，可以简单地改变硬件中数据流的性质。

总而言之，为边缘 AI 解决方案选择最佳硬件选项时，应综合考虑多种因素，包括可重构性、功耗、尺寸、处理速度和成本。 以下是流行的硬件选项如何根据规定的标准进行比较：

资源

反过来，边缘 AI 软件包括支持深度学习过程并允许 AI 算法在边缘设备上运行的完整技术栈。 边缘人工智能软件基础设施涵盖存储、数据管理、数据分析/人工智能推理和网络组件。

边缘人工智能用例

各行各业的公司已经从边缘人工智能中受益。 以下是来自不同行业的最突出的边缘 AI 用例的概要。

零售：提升购物体验

积极的购物体验是零售商的主要关注点，因为它是决定客户保留率的因素。 通过使用人工智能分析，零售商可以让消费者满意，确保他们成为回头客。

帮助零售员工进行日常运营并创造更好的客户体验的众多边缘 AI 应用程序之一是使用边缘 AI 来确定何时需要补货和更换产品。

另一个边缘 AI 应用程序是在智能结账系统中使用计算机视觉解决方案，最终可以使客户摆脱在柜台扫描商品的需要。

零售商还使用智能视频分析来深入了解客户偏好并相应地改进商店布局。

制造：引入智能工厂

制造企业，尤其是涉及精密制造的企业，需要保证生产过程的准确性和安全性。 通过使用 AI 增强制造现场，制造商可以确保车间安全高效。 为此，他们采用人工智能应用程序进行车间检查，就像宝洁和宝马使用的那样。

Procter & Gamble 使用边缘 AI 解决方案，该解决方案依靠检查摄像机的镜头来检查化学品混合罐。 为了防止有缺陷的产品进入制造流水线，直接部署在摄像头上的边缘 AI 解决方案可以查明缺陷并通知车间经理发现的质量偏差。

宝马结合使用边缘计算和人工智能来获取工厂车间的实时视图。 企业通过安装在整个制造设施中的智能摄像头清楚地了解其装配线。

汽车：实现自动驾驶汽车

自动驾驶汽车和高级驾驶员辅助系统依靠边缘 AI 来提高安全性、提高效率并降低事故风险。

自动驾驶汽车配备了各种传感器，可以收集有关道路状况、行人位置、光照水平、驾驶条件、车辆周围物体和其他因素的信息。 出于安全考虑，需要快速处理这些大量数据。 Edge AI 处理对延迟敏感的监控任务，例如对象检测、对象跟踪和位置感知。

安全：为面部识别提供动力

越来越多地转向边缘的领域之一是面部识别。

对于具有面部识别功能的安全应用程序，例如智能家居安全系统，响应时间至关重要。 在传统的基于云的系统中，摄像机镜头在网络中不断移动，这会影响解决方案的处理速度和运营成本。

一种更有效的方法是直接在监控摄像头上处理视频数据。 由于不需要时间将数据传输到云端，因此应用程序可以更加可靠和响应迅速。

消费电子产品：在移动设备中启用新功能

移动设备会产生大量数据。 在云中处理这些数据会带来一些挑战，例如高延迟和带宽使用。 为了克服这些问题，移动开发人员已开始调整边缘 AI，以更快的速度和更低的成本处理生成的数据。

边缘 AI 支持的移动用例包括语音和面部识别、运动和跌倒检测等。

尽管通用方法仍然是混合的。 需要更多存储或高计算能力的数据被发送到云端或雾层，而可以在本地解释的数据则留在边缘。

边缘人工智能采用的障碍

计算能力有限

训练 AI 算法需要足够的计算能力，这在边缘基本上是无法实现的。 因此，大多数以边缘为中心的应用程序仍然包含云端部分，人工智能算法在云端进行训练和更新。

如果您倾向于构建较少依赖云的以边缘为中心的应用程序，则需要考虑优化设备上数据存储的方法（例如，仅保留面部识别应用程序中具有面部特征的帧）和人工智能训练过程。

安全漏洞

尽管边缘应用程序的去中心化特性以及数据无需通过网络传输增加了以边缘为中心的应用程序的安全特性，但终端节点仍然容易受到网络攻击。 因此，需要额外的安全措施来应对安全风险。 支持边缘解决方案的机器学习模型也可以被犯罪分子访问和篡改。 锁定它们并将它们视为关键资产可以帮助您防止与边缘相关的安全问题。

数据丢失

边缘的本质意味着数据可能无法进入云端进行存储。 终端设备可以配置为丢弃生成的数据，以降低运营成本或提高系统性能。 虽然云设置具有相当大的局限性，但这些设置的主要优势在于所有（或几乎所有）生成的数据都已存储，因此可用于收集洞察力。

如果特定用例需要存储数据，我们建议采用混合方式并使用云来存储和分析使用情况和其他统计数据，就像我们在为客户开发智能健身镜时所做的那样。

如果您对边缘 AI 仍有未解决的问题或正在寻找可信赖的合作伙伴来实施边缘 AI 应用程序，请致电 ITRex。 我们的专家将竭诚为您提供帮助。

最初于 2022 年 11 月 1 日在 https://itrexgroup.com 上发布。