Edge AI: come l'edge computing dà potere a una nuova ondata di intelligenza artificiale

Ricerche recenti suggeriscono che il numero di dispositivi Internet of Things utilizzati a livello globale supererà i 38 miliardi entro il 2025. Il forte aumento influenzerà inevitabilmente lo stato dell'adozione dell'IA poiché entrambi i concetti - Internet of Things e Intelligenza Artificiale - sono sempre andati di pari passo.

Con il gold standard dello sviluppo di sistemi IoT, l'approccio incentrato sul cloud, che sta lentamente passando di moda, anche l'IA inizierà ad avvicinarsi al limite. Le ragioni del passaggio all'edge variano, ma le più evidenti includono l'elevata latenza e gli elevati costi di cloud computing. Questi sono particolarmente acuti per i sistemi IoT su larga scala.

Tuttavia, mentre i fornitori di software di intelligenza artificiale stanno estendendo le loro offerte sviluppando sistemi di IA edge, le aziende si chiedono: cos'è esattamente l'IA edge, come funziona sotto il cofano e quali sono i casi d'uso comuni dell'IA edge da cui partire? Se queste sono le domande che ti poni, continua a leggere. Nell'articolo seguente, mettiamo in luce gli aspetti interni, i casi d'uso, i vantaggi e i limiti dell'edge AI.

Che cos'è l'IA edge e in che cosa differisce dall'IA cloud?

Un'architettura IoT standard può essere approssimativamente suddivisa in tre componenti: le cose, i gateway e il cloud. Le cose rappresentano tutti i tipi di strumenti, gadget e attrezzature potenziati con sensori che generano dati. I gateway sono dispositivi centralizzati, ad esempio router, che collegano le cose al cloud. Insieme, i dispositivi finali e i gateway costituiscono lo strato perimetrale.

Edge AI, a sua volta, sta per implementare algoritmi AI più vicino al bordo della rete, cioè ai dispositivi connessi (nodi finali) o ai gateway (nodi perimetrali).

Contrariamente all'approccio basato sul cloud, in cui gli algoritmi di intelligenza artificiale vengono sviluppati e implementati nel cloud, i sistemi di intelligenza artificiale incentrati sull'edge prendono decisioni in pochi millisecondi e funzionano a un costo inferiore.

Altri vantaggi dell'edge AI rispetto alle soluzioni cloud AI includono:

• Tempi di elaborazione ridotti: poiché i dati vengono analizzati localmente, non è necessario inviare richieste al cloud e attendere risposte, il che è della massima importanza per applicazioni con tempi critici, come dispositivi medici o sistemi di assistenza alla guida
• Larghezza di banda e costi ridotti: senza la necessità di inviare dati dei sensori ad alto volume al cloud, i sistemi di intelligenza artificiale perimetrale richiedono una larghezza di banda inferiore (utilizzata principalmente per il trasferimento di metadati), quindi comportano costi operativi inferiori
• Maggiore sicurezza: l'elaborazione dei dati in locale aiuta a ridurre i rischi che le informazioni sensibili vengano compromesse nel cloud o durante il transito
• Migliore affidabilità: l' edge AI continua a funzionare anche in caso di interruzioni della rete o di servizi cloud temporaneamente non disponibili
• Consumo energetico ottimizzato: l'elaborazione dei dati a livello locale di solito richiede meno energia rispetto all'invio dei dati generati al cloud, il che aiuta a prolungare la durata della batteria dei dispositivi finali

Secondo Markets and Markets, la dimensione globale del mercato del software per l'intelligenza artificiale dovrebbe raggiungere 1,8 miliardi di dollari entro il 2026, con un CAGR del 20,8%. Si prevede che vari fattori, come l'aumento dei carichi di lavoro aziendali sul cloud e la rapida crescita del numero di applicazioni intelligenti, guideranno l'adozione di soluzioni di edge AI.

Come funziona l'Edge AI sotto il cofano

Nonostante un comune malinteso, una soluzione AI standard centrata sull'edge viene solitamente implementata in modo ibrido, con dispositivi edge che prendono decisioni in base ai dati in streaming e un data center (di solito uno cloud) utilizzato per la revisione e il riaddestramento dei modelli di IA implementati.

Quindi, un'architettura AI edge di base in genere ha questo aspetto:

Affinché i sistemi di intelligenza artificiale edge siano in grado di comprendere il linguaggio umano, guidare veicoli e svolgere altri compiti non banali, hanno bisogno di un'intelligenza simile a quella umana. In questi sistemi, la cognizione umana viene replicata con l'aiuto di algoritmi di deep learning, un sottoinsieme dell'intelligenza artificiale.

Il processo di addestramento dei modelli di deep learning viene spesso eseguito nel cloud poiché per ottenere una maggiore precisione sono necessari enormi volumi di dati e una grande potenza di elaborazione. Una volta addestrati, i modelli di deep learning vengono distribuiti a un dispositivo terminale o perimetrale, dove ora vengono eseguiti in modo autonomo.

Se il modello incontra un problema, il feedback viene inviato al cloud dove inizia il riaddestramento finché il modello all'edge non viene sostituito con uno nuovo e più accurato. Questo ciclo di feedback consente di mantenere la soluzione AI edge precisa ed efficace.

Un riepilogo delle tecnologie hardware e software che abilitano l'intelligenza artificiale perimetrale

Un'implementazione IA edge standard richiede componenti hardware e software.

A seconda dell'applicazione edge AI specifica, potrebbero esserci diverse opzioni hardware per l'esecuzione dell'elaborazione edge AI. I più comuni comprendono CPU, GPU, circuiti integrati specifici per l'applicazione (ASIC) e array di gate programmabili sul campo (FPGA).

Gli ASIC consentono un'elevata capacità di elaborazione pur essendo efficienti dal punto di vista energetico, il che li rende adatti a un'ampia gamma di applicazioni AI edge.

Le GPU , a loro volta, possono essere piuttosto costose, soprattutto quando si tratta di supportare una soluzione edge su larga scala. Tuttavia, sono l'opzione ideale per i casi d'uso critici per la latenza che richiedono l'elaborazione dei dati alla velocità della luce, come le auto senza conducente o i sistemi avanzati di assistenza alla guida.

Gli FPGA forniscono potenza di elaborazione, efficienza energetica e flessibilità ancora migliori. Il vantaggio principale degli FPGA è che sono programmabili, ovvero l'hardware "segue" le istruzioni del software. Ciò consente maggiori risparmi energetici e riconfigurabilità, in quanto si può semplicemente modificare la natura del flusso di dati nell'hardware rispetto ad ASIC, CPU e GPU hardcoded.

Tutto sommato, scegliendo l'opzione hardware ottimale per una soluzione edge AI, si dovrebbe considerare una combinazione di fattori, tra cui riconfigurabilità, consumo energetico, dimensioni, velocità di elaborazione e costi. Ecco come confrontare le popolari opzioni hardware in base ai criteri indicati:

Fonte

A sua volta, il software edge AI include l'intero stack di tecnologie che abilitano il processo di deep learning e consentono agli algoritmi AI di funzionare su dispositivi edge. L'infrastruttura software edge AI comprende storage, gestione dei dati, analisi dei dati/inferenza AI e componenti di rete.

Casi d'uso di Edge AI

Le aziende di tutti i settori stanno già beneficiando dell'edge AI. Ecco una carrellata dei casi d'uso dell'IA edge più importanti di diversi settori.

Vendita al dettaglio: potenziare l'esperienza di acquisto

Un'esperienza di acquisto positiva è una delle maggiori preoccupazioni per i rivenditori, poiché è il fattore che determina la fidelizzazione dei clienti. Con l'uso dell'analisi basata sull'intelligenza artificiale, i rivenditori possono soddisfare i consumatori, assicurandosi che si trasformino in clienti abituali.

Una delle tante applicazioni di edge AI che aiutano i dipendenti della vendita al dettaglio nelle loro operazioni quotidiane e creano una migliore esperienza del cliente è l'utilizzo dell'edge AI per determinare quando i prodotti devono essere riforniti e sostituiti.

Un'altra applicazione di intelligenza artificiale perimetrale sta utilizzando soluzioni di visione artificiale nei sistemi di cassa intelligenti che potrebbero in definitiva liberare i clienti dalla necessità di scansionare le loro merci allo sportello.

I rivenditori utilizzano anche l'analisi video intelligente per analizzare le preferenze dei clienti e migliorare di conseguenza i layout dei negozi.

Produzione: introdurre una fabbrica intelligente

Le imprese manifatturiere, in particolare quelle coinvolte nella produzione di precisione, devono garantire l'accuratezza e la sicurezza del processo produttivo. Migliorando i siti di produzione con l'intelligenza artificiale, i produttori possono garantire che l'officina sia sicura ed efficiente. Per questo, adottano applicazioni AI che eseguono ispezioni in officina, proprio come quelle utilizzate da Procter & Gamble e BMW.

Procter & Gamble utilizza una soluzione di intelligenza artificiale edge che si basa sul filmato delle telecamere di ispezione per ispezionare i serbatoi di miscelazione chimica. Per evitare che i prodotti con difetti finiscano lungo la pipeline di produzione, la soluzione AI perimetrale implementata direttamente sulle telecamere individua le imperfezioni e notifica ai responsabili dell'officina le deviazioni di qualità rilevate.

BMW utilizza una combinazione di edge computing e intelligenza artificiale per ottenere una visione in tempo reale della fabbrica. L'azienda ottiene un quadro chiaro della sua catena di montaggio tramite le telecamere intelligenti installate in tutto l'impianto di produzione.

Settore automobilistico: abilitare le auto a guida autonoma

Le auto autonome e i sistemi avanzati di assistenza alla guida si affidano all'intelligenza artificiale per una maggiore sicurezza, una maggiore efficienza e un rischio ridotto di incidenti.

Le auto autonome sono dotate di una varietà di sensori che raccolgono informazioni su condizioni stradali, posizione dei pedoni, livelli di luce, condizioni di guida, oggetti intorno al veicolo e altri fattori. Per motivi di sicurezza, questi grandi volumi di dati devono essere elaborati rapidamente. Edge AI si occupa delle attività di monitoraggio sensibili alla latenza, come il rilevamento degli oggetti, il tracciamento degli oggetti e la consapevolezza della posizione.

Sicurezza: potenziare il riconoscimento facciale

Una delle aree che stanno sempre più passando all'edge è il riconoscimento facciale.

Per le app di sicurezza con funzionalità di riconoscimento facciale, ad esempio un sistema di sicurezza domestica intelligente, il tempo di risposta è fondamentale. Nei tradizionali sistemi basati su cloud, le riprese della telecamera vengono continuamente spostate all'interno della rete, il che influisce sulla velocità di elaborazione della soluzione e sui costi operativi.

Un approccio più efficace è l'elaborazione dei dati video direttamente sulle telecamere di sicurezza. Poiché non è necessario tempo per trasferire i dati nel cloud, l'applicazione può essere più affidabile e reattiva.

Elettronica di consumo: abilitazione di nuove funzionalità nei dispositivi mobili

I dispositivi mobili generano molti dati. L'elaborazione di questi dati nel cloud comporta la sua parte di sfide, come l'elevata latenza e l'utilizzo della larghezza di banda. Per superare questi problemi, gli sviluppatori di dispositivi mobili hanno iniziato a sintonizzarsi sull'intelligenza artificiale per elaborare i dati generati a una velocità maggiore e a costi inferiori.

I casi d'uso mobile abilitati dall'edge AI includono il riconoscimento vocale e facciale, il rilevamento di movimenti e cadute e altro ancora.

Tuttavia, l'approccio comune è ancora ibrido. I dati che richiedono più spazio di archiviazione o capacità di elaborazione elevate vengono inviati al cloud o al livello nebbia, mentre i dati che possono essere interpretati localmente rimangono all'edge.

Ostacoli all'adozione dell'IA perimetrale

Potenza di calcolo limitata

L'addestramento degli algoritmi di intelligenza artificiale richiede potenze di calcolo sufficienti, che sono in gran parte irraggiungibili all'edge. Pertanto, la maggior parte delle applicazioni incentrate sull'edge contiene ancora la parte cloud, in cui gli algoritmi AI vengono addestrati e aggiornati.

Se ti stai orientando verso la creazione di un'applicazione incentrata sull'edge che si affida meno al cloud, dovresti riflettere sui modi per ottimizzare l'archiviazione dei dati sul dispositivo (ad esempio, mantenendo solo i frame con un volto nelle applicazioni di riconoscimento facciale) e il Processo di formazione dell'IA.

Vulnerabilità di sicurezza

Sebbene la natura decentralizzata delle applicazioni edge e l'assenza di necessità di trasferimento dei dati attraverso la rete aumentino le caratteristiche di sicurezza delle applicazioni edge-centered, i nodi finali sono ancora soggetti a attacchi informatici. Pertanto, sono necessarie ulteriori misure di sicurezza per contrastare i rischi per la sicurezza. Anche i modelli di machine learning che alimentano le soluzioni edge sono accessibili e manomessi dai criminali. Bloccarli e trattarli come risorse chiave può aiutarti a prevenire problemi di sicurezza legati all'edge.

Perdita di dati

La natura stessa dell'edge implica che i dati potrebbero non arrivare al cloud per l'archiviazione. I dispositivi finali possono essere configurati per scartare i dati generati al fine di ridurre i costi operativi o migliorare le prestazioni del sistema. Sebbene le impostazioni del cloud abbiano una buona dose di limitazioni, il vantaggio principale di queste è il fatto che tutti, o quasi, i dati generati vengono archiviati, quindi possono essere utilizzati per raccogliere informazioni.

Se l'archiviazione dei dati è necessaria per un particolare caso d'uso, consigliamo di passare all'ibrido e di utilizzare il cloud per archiviare e analizzare l'utilizzo e altri dati statistici, proprio come abbiamo fatto durante lo sviluppo di uno smart fitness mirror per i nostri clienti.

Se hai ancora domande senza risposta sull'intelligenza artificiale perimetrale o cerchi un partner di fiducia per implementare un'applicazione di intelligenza artificiale perimetrale, rilascia ITRex una linea. I nostri esperti ti aiuteranno con entusiasmo.

Originariamente pubblicato su https://itrexgroup.com il 1° novembre 2022.