邊緣人工智能：邊緣計算如何賦能人工智能新浪潮

最近的研究表明，到 2025 年，全球使用的物聯網設備數量將超過 380 億。急劇增加將不可避免地影響人工智能的採用狀態，因為物聯網和人工智能這兩個概念始終齊頭並進。

隨著開發物聯網系統的黃金標準，以雲為中心的方法逐漸過時，人工智能也將開始向邊緣靠攏。 向邊緣轉移的原因各不相同，但最引人注目的原因包括高延遲和高雲計算成本。 這些對於大規模物聯網系統來說尤為嚴重。

儘管如此，儘管人工智能軟件供應商正在通過開發邊緣 AI 系統來擴展他們的產品，但企業仍然想知道：邊緣 AI 到底是什麼，它是如何在幕後工作的，以及可以從哪些常見的邊緣 AI 開髮用例？ 如果這些是您問自己的問題，請繼續閱讀。 在下面的文章中，我們重點介紹了邊緣 AI 的內部結構、用例、優勢和局限性。

什麼是邊緣 AI，它與雲 AI 有何不同？

一個標準的物聯網架構大致可以分為三個部分：物、網關和雲。 這些東西代表各種工具、小工具和設備，這些工具、小工具和設備通過生成數據的傳感器得到增強。 網關是將事物連接到雲的集中式設備，例如路由器。 終端設備和網關一起構成了邊緣層。

反過來，邊緣 AI 代表將 AI 算法部署到更靠近網絡邊緣的位置，即連接的設備（終端節點）或網關（邊緣節點）。

與在雲中開發和部署 AI 算法的基於雲的方法相比，以邊緣為中心的 AI 系統可以在幾毫秒內做出決策，並且運行成本更低。

與雲 AI 解決方案相比，邊緣 AI 的其他優勢包括：

• 處理時間更短：由於數據是在本地分析的，因此無需向雲端發送請求並等待響應，這對於時間緊迫的應用程序（如醫療設備或駕駛員輔助系統）至關重要
• 減少帶寬和成本：由於不需要將大量傳感器數據發送到雲端，邊緣人工智能係統需要較低的帶寬（主要用於傳輸元數據），因此產生較低的運營成本
• 提高安全性：在本地處理數據有助於降低敏感信息在雲端或傳輸過程中遭到破壞的風險
• 更高的可靠性：即使在網絡中斷或云服務暫時不可用的情況下，邊緣人工智能也能繼續運行
• 優化能源消耗：在本地處理數據通常比將生成的數據發送到雲端消耗更少的能源，這有助於延長終端設備的電池壽命

根據 Markets and Markets 的數據，到 2026 年，全球邊緣 AI 軟件市場規模預計將達到 18 億美元，複合年增長率為 20.8%。 各種因素，例如增加雲上的企業工作負載和智能應用程序數量的快速增長，預計將推動邊緣 AI 解決方案的採用。

邊緣人工智能如何在幕後工作

儘管存在一個普遍的誤解，但標準的以邊緣為中心的 AI 解決方案通常以混合方式部署——邊緣設備根據流數據做出決策，數據中心（通常是雲數據中心）用於修改和重新訓練已部署的 AI 模型。

因此，基本的邊緣 AI 架構通常如下所示：

對於能夠理解人類語言、駕駛車輛和執行其他重要任務的邊緣人工智能係統，它們需要類人智能。 在這些系統中，人類認知是在深度學習算法（人工智能的一個子集）的幫助下複製的。

訓練深度學習模型的過程通常在雲端運行，因為要獲得更高的準確性需要海量數據和強大的處理能力。 經過訓練後，深度學習模型將部署到終端或邊緣設備，它們現在可以在其中自主運行。

如果模型遇到問題，反饋將被發送到雲端，在那裡開始重新訓練，直到邊緣的模型被一個新的、更準確的模型所取代。 這種反饋迴路可以使邊緣 AI 解決方案保持精確和有效。

支持邊緣 AI 的硬件和軟件技術概述

標準的邊緣 AI 實施需要硬件和軟件組件。

根據特定的邊緣 AI 應用，可能有多種硬件選項可用於執行邊緣 AI 處理。 最常見的包括 CPU、GPU、專用集成電路 (ASIC) 和現場可編程門陣列 (FPGA)。

ASIC具有高處理能力，同時具有高能效，這使其非常適合廣泛的邊緣 AI 應用。

反過來， GPU可能非常昂貴，尤其是在支持大規模邊緣解決方案時。 儘管如此，它們仍然是需要以閃電般的速度處理數據的延遲關鍵用例的首選，例如無人駕駛汽車或高級駕駛員輔助系統。

FPGA提供更好的處理能力、能效和靈活性。 FPGA 的主要優勢在於它們是可編程的，即硬件“遵循”軟件指令。 這允許更多的節能和可重新配置，因為與硬編碼的 ASIC、CPU 和 GPU 相比，可以簡單地改變硬件中數據流的性質。

總而言之，為邊緣 AI 解決方案選擇最佳硬件選項時，應綜合考慮多種因素，包括可重構性、功耗、尺寸、處理速度和成本。 以下是流行的硬件選項如何根據規定的標准進行比較：

資源

反過來，邊緣 AI 軟件包括支持深度學習過程並允許 AI 算法在邊緣設備上運行的完整技術棧。 邊緣人工智能軟件基礎設施涵蓋存儲、數據管理、數據分析/人工智能推理和網絡組件。

邊緣人工智能用例

各行各業的公司已經從邊緣人工智能中受益。 以下是來自不同行業的最突出的邊緣 AI 用例的概要。

零售：提升購物體驗

積極的購物體驗是零售商的主要關注點，因為它是決定客戶保留率的因素。 通過使用人工智能分析，零售商可以讓消費者滿意，確保他們成為回頭客。

幫助零售員工進行日常運營並創造更好的客戶體驗的眾多邊緣 AI 應用程序之一是使用邊緣 AI 來確定何時需要補貨和更換產品。

另一個邊緣 AI 應用程序是在智能結賬系統中使用計算機視覺解決方案，最終可以使客戶擺脫在櫃檯掃描商品的需要。

零售商還使用智能視頻分析來深入了解客戶偏好並相應地改進商店佈局。

製造：引入智能工廠

製造企業，尤其是涉及精密製造的企業，需要保證生產過程的準確性和安全性。 通過使用 AI 增強製造現場，製造商可以確保車間安全高效。 為此，他們採用人工智能應用程序進行車間檢查，就像寶潔和寶馬使用的那樣。

Procter & Gamble 使用邊緣 AI 解決方案，該解決方案依靠檢查攝像機的鏡頭來檢查化學品混合罐。 為了防止有缺陷的產品進入製造流水線，直接部署在攝像頭上的邊緣 AI 解決方案可以查明缺陷並通知車間經理髮現的質量偏差。

寶馬結合使用邊緣計算和人工智能來獲取工廠車間的實時視圖。 企業通過安裝在整個製造設施中的智能攝像頭清楚地了解其裝配線。

汽車：實現自動駕駛汽車

自動駕駛汽車和高級駕駛員輔助系統依靠邊緣 AI 來提高安全性、提高效率並降低事故風險。

自動駕駛汽車配備了各種傳感器，可以收集有關道路狀況、行人位置、光照水平、駕駛條件、車輛周圍物體和其他因素的信息。 出於安全考慮，需要快速處理這些大量數據。 Edge AI 處理對延遲敏感的監控任務，例如對象檢測、對象跟踪和位置感知。

安全：為面部識別提供動力

越來越多地轉向邊緣的領域之一是面部識別。

對於具有面部識別功能的安全應用程序，例如智能家居安全系統，響應時間至關重要。 在傳統的基於雲的系統中，攝像機鏡頭在網絡中不斷移動，這會影響解決方案的處理速度和運營成本。

一種更有效的方法是直接在監控攝像頭上處理視頻數據。 由於不需要時間將數據傳輸到雲端，因此應用程序可以更加可靠和響應迅速。

消費電子產品：在移動設備中啟用新功能

移動設備會產生大量數據。 在雲中處理這些數據會帶來一些挑戰，例如高延遲和帶寬使用。 為了克服這些問題，移動開發人員已開始調整邊緣 AI，以更快的速度和更低的成本處理生成的數據。

邊緣 AI 支持的移動用例包括語音和麵部識別、運動和跌倒檢測等。

儘管通用方法仍然是混合的。 需要更多存儲或高計算能力的數據被發送到雲端或霧層，而可以在本地解釋的數據則留在邊緣。

邊緣人工智能採用的障礙

計算能力有限

訓練 AI 算法需要足夠的計算能力，這在邊緣基本上是無法實現的。 因此，大多數以邊緣為中心的應用程序仍然包含雲端部分，人工智能算法在雲端進行訓練和更新。

如果您傾向於構建較少依賴雲的以邊緣為中心的應用程序，則需要考慮優化設備上數據存儲的方法（例如，僅保留面部識別應用程序中具有面部特徵的幀）和人工智能訓練過程。

安全漏洞

儘管邊緣應用程序的去中心化特性以及數據無需通過網絡傳輸增加了以邊緣為中心的應用程序的安全特性，但終端節點仍然容易受到網絡攻擊。 因此，需要額外的安全措施來應對安全風險。 支持邊緣解決方案的機器學習模型也可以被犯罪分子訪問和篡改。 鎖定它們並將它們視為關鍵資產可以幫助您防止與邊緣相關的安全問題。

數據丟失

邊緣的本質意味著數據可能無法進入雲端進行存儲。 終端設備可以配置為丟棄生成的數據，以降低運營成本或提高系統性能。 雖然雲設置具有相當大的局限性，但這些設置的主要優勢在於所有（或幾乎所有）生成的數據都已存儲，因此可用於收集洞察力。

如果特定用例需要存儲數據，我們建議採用混合方式並使用雲來存儲和分析使用情況和其他統計數據，就像我們在為客戶開發智能健身鏡時所做的那樣。

如果您對邊緣 AI 仍有未解決的問題或正在尋找可信賴的合作夥伴來實施邊緣 AI 應用程序，請致電 ITRex。 我們的專家將竭誠為您提供幫助。

最初於 2022 年 11 月 1 日在 https://itrexgroup.com 上發布。