Edge AI: Cum Edge Computing dă putere unui nou val de inteligență artificială

Cercetări recente sugerează că numărul de dispozitive Internet of Things utilizate la nivel global va depăși 38 de miliarde până în 2025. Creșterea puternică va afecta în mod inevitabil stadiul adoptării AI, deoarece ambele concepte — Internetul lucrurilor și inteligența artificială — au mers întotdeauna mână în mână.

Odată cu standardul de aur al dezvoltării sistemelor IoT, abordarea centrată pe cloud, care se demodează încet, AI va începe să se apropie și de margine. Motivele trecerii la edge variază, dar cele mai vizibile includ latența ridicată și costurile mari de cloud computing. Acestea sunt deosebit de acute pentru sistemele IoT la scară largă.

Totuși, în timp ce furnizorii de software de inteligență artificială își extind ofertele prin dezvoltarea sistemelor de IA de vârf, companiile se întreabă: ce este exact IA de vârf, cum funcționează ea sub capotă și din ce sunt cazurile de utilizare obișnuite ale AI de vârf? Dacă acestea sunt genul de întrebări pe care ți le pui, continuă să citești. În piesa de mai jos, punem în evidență interiorul, cazurile de utilizare, beneficiile și limitările AI de margine.

Ce este edge AI și prin ce diferă de cloud AI?

O arhitectură IoT standard poate fi împărțită aproximativ în trei componente: lucrurile, porțile și cloud-ul. Lucrurile reprezintă tot felul de instrumente, gadgeturi și echipamente îmbunătățite cu senzori care generează date. Gateway-urile sunt dispozitive centralizate, de exemplu, routere, care conectează lucrurile la cloud. Împreună, dispozitivele finale și gateway-urile formează stratul de margine.

Edge AI, la rândul său, înseamnă implementarea algoritmilor AI mai aproape de marginea rețelei, adică fie de dispozitivele conectate (nodurile finale), fie de gateway-uri (nodurile de margine).

Spre deosebire de abordarea bazată pe cloud, în care algoritmii AI sunt dezvoltați și implementați în cloud, sistemele AI centrate pe margine iau decizii în câteva milisecunde și rulează la un cost mai mic.

Alte beneficii ale AI de vârf în comparație cu soluțiile cloud AI includ:

• Timp de procesare mai mic: deoarece datele sunt analizate local, nu este nevoie să trimiteți solicitări către cloud și să așteptați răspunsuri, ceea ce este de maximă importanță pentru aplicațiile critice, cum ar fi dispozitivele medicale sau sistemele de asistență pentru șofer
• Lățime de bandă și costuri reduse: fără a fi nevoie ca datele senzorilor de mare volum să fie trimise în cloud, sistemele AI de margine necesită lățime de bandă mai mică (folosită în principal pentru transferul de metadate), prin urmare, implică costuri operaționale mai mici
• Securitate sporită: procesarea datelor la nivel local ajută la reducerea riscurilor ca informațiile sensibile să fie compromise în cloud sau în timpul tranzitului
• Fiabilitate mai bună: edge AI continuă să ruleze chiar și în cazul întreruperilor rețelei sau a serviciilor cloud indisponibile temporar
• Consum optimizat de energie: procesarea datelor la nivel local consumă de obicei mai puțină energie decât trimiterea datelor generate în cloud, ceea ce ajută la extinderea duratei de viață a bateriei dispozitivelor finale

Potrivit Markets and Markets, dimensiunea globală a pieței de software AI de vârf este de așteptat să atingă 1,8 miliarde USD până în 2026, crescând cu un CAGR de 20,8%. Diferiți factori, cum ar fi creșterea volumului de lucru al întreprinderii pe cloud și creșterea rapidă a numărului de aplicații inteligente, sunt de așteptat să stimuleze adoptarea soluțiilor AI de vârf.

Cum funcționează edge AI sub capotă

În ciuda unei credințe greșite obișnuite, o soluție AI standard centrată pe margine este de obicei implementată într-o manieră hibridă - dispozitivele de vârf iau decizii bazate pe streaming de date și un centru de date (de obicei, unul cloud) utilizat pentru revizuirea și reinstruirea modelelor AI implementate.

Deci, o arhitectură de bază AI de vârf arată de obicei astfel:

Pentru ca sistemele AI de vârf să poată înțelege vorbirea umană, să conducă vehicule și să îndeplinească alte sarcini non-triviale, au nevoie de inteligență asemănătoare omului. În aceste sisteme, cogniția umană este replicată cu ajutorul algoritmilor de învățare profundă, un subset al AI.

Procesul de formare a modelelor de învățare profundă rulează adesea în cloud, deoarece obținerea unei precizii mai mari necesită volume uriașe de date și putere mare de procesare. Odată instruite, modelele de învățare profundă sunt implementate într-un dispozitiv terminal sau de vârf, unde rulează acum autonom.

Dacă modelul întâmpină o problemă, feedback-ul este trimis către cloud unde începe recalificarea până când modelul de la margine este înlocuit cu unul nou, mai precis. Această buclă de feedback permite menținerea precisă și eficientă a soluției AI de vârf.

O prezentare a tehnologiilor hardware și software care permit inteligența artificială de vârf

O implementare standard de IA de vârf necesită componente hardware și software.

În funcție de aplicația edge AI specifică, pot exista mai multe opțiuni hardware pentru efectuarea procesării edge AI. Cele mai comune includ CPU-uri, GPU-uri, circuite integrate specifice aplicației (ASIC) și matrice de porți programabile în câmp (FPGA).

ASIC-urile permit o capacitate ridicată de procesare, fiind în același timp eficiente din punct de vedere energetic, ceea ce le face potrivite pentru o gamă largă de aplicații AI de vârf.

GPU -urile, la rândul lor, pot fi destul de costisitoare, mai ales când vine vorba de suportul unei soluții de vârf la scară largă. Totuși, ele sunt opțiunea de bază pentru cazurile de utilizare critice pentru latență care necesită procesarea datelor la viteza fulgerului, cum ar fi mașinile fără șofer sau sistemele avansate de asistență pentru șofer.

FPGA -urile oferă o putere de procesare, eficiență energetică și flexibilitate și mai bune. Avantajul cheie al FPGA este că sunt programabile, adică hardware-ul „urmează” instrucțiunile software. Acest lucru permite mai multe economii de energie și reconfigurabilitate, deoarece se poate schimba pur și simplu natura fluxului de date din hardware, spre deosebire de ASIC-uri, procesoare și GPU-uri codificate.

Una peste alta, alegând opțiunea hardware optimă pentru o soluție AI de vârf, ar trebui să ia în considerare o combinație de factori, inclusiv reconfigurabilitatea, consumul de energie, dimensiunea, viteza de procesare și costurile. Iată cum se compară opțiunile hardware populare în funcție de criteriile menționate:

Sursă

La rândul său, software-ul edge AI include teancul complet de tehnologii care permit procesul de învățare profundă și permițând algoritmilor AI să ruleze pe dispozitive de vârf. Infrastructura software AI de vârf cuprinde stocare, gestionarea datelor, analiza datelor/inferența AI și componentele de rețea.

Cazuri de utilizare Edge AI

Companiile din toate sectoarele beneficiază deja de IA de vârf. Iată o descriere a celor mai proeminente cazuri de utilizare a AI de vârf din diferite industrii.

Retail: stimularea experienței de cumpărături

O experiență pozitivă de cumpărături este o preocupare majoră pentru retaileri, deoarece este factorul care determină reținerea clienților. Prin utilizarea analizei bazate pe inteligență artificială, comercianții cu amănuntul pot menține consumatorii mulțumiți, asigurându-se că se transformă în clienți repetați.

Una dintre numeroasele aplicații AI de vârf care îi ajută pe angajații din comerțul cu amănuntul în operațiunile lor zilnice și creează o experiență mai bună pentru clienți este utilizarea AI de vârf pentru a determina când produsele trebuie completate și înlocuite.

O altă aplicație AI de vârf folosește soluții de viziune computerizată în sistemele inteligente de casă care ar putea elibera clienții de nevoia de a-și scana bunurile la ghișeu.

Comercianții cu amănuntul folosesc, de asemenea, analize video inteligente pentru a analiza preferințele clienților și pentru a îmbunătăți aspectul magazinului în consecință.

Producție: introducerea unei fabrici inteligente

Întreprinderile producătoare, în special cele implicate în producția de precizie, trebuie să asigure acuratețea și siguranța procesului de producție. Prin îmbunătățirea site-urilor de producție cu IA, producătorii se pot asigura că atelierul este sigur și eficient. Pentru asta, ei adoptă aplicații AI care efectuează inspecții în atelier, la fel ca cele folosite de Procter & Gamble și BMW.

Procter & Gamble folosește o soluție AI de vârf care se bazează pe filmările de la camerele de inspecție pentru a inspecta rezervoarele de amestec chimic. Pentru a preveni ca produsele cu defecte să ajungă în conducta de producție, soluția de inteligență artificială de vârf implementată chiar pe camere identifică imperfecțiunile și informează managerii de atelier cu privire la abaterile de calitate observate.

BMW folosește o combinație de edge computing și inteligență artificială pentru a obține o vedere în timp real a fabricii. Întreprinderea obține o imagine clară a liniei de asamblare prin intermediul camerelor inteligente instalate în întreaga unitate de producție.

Automobile: activarea mașinilor autonome

Mașinile autonome și sistemele avansate de asistență pentru șofer se bazează pe IA de vârf pentru o siguranță îmbunătățită, o eficiență sporită și un risc redus de accidente.

Mașinile autonome sunt echipate cu o varietate de senzori care colectează informații despre condițiile drumului, locațiile pietonilor, nivelurile de lumină, condițiile de conducere, obiectele din jurul vehiculului și alți factori. Din cauza problemelor de securitate, aceste volume mari de date trebuie procesate rapid. Edge AI abordează sarcinile de monitorizare sensibile la latență, cum ar fi detectarea obiectelor, urmărirea obiectelor și conștientizarea locației.

Securitate: stimularea recunoașterii faciale

Una dintre zonele care trec din ce în ce mai mult la margine este recunoașterea facială.

Pentru aplicațiile de securitate cu capacități de recunoaștere facială, de exemplu, un sistem inteligent de securitate pentru casă, timpul de răspuns este critic. În sistemele tradiționale, bazate pe cloud, filmările camerei sunt mutate continuu în rețea, ceea ce afectează viteza de procesare a soluției și costurile de operare.

O abordare mai eficientă este procesarea datelor video direct pe camerele de securitate. Deoarece nu este nevoie de timp pentru a transfera datele în cloud, aplicația poate fi mai fiabilă și mai receptivă.

Electronice de larg consum: activarea de noi funcții în dispozitivele mobile

Dispozitivele mobile generează o mulțime de date. Procesarea acestor date în cloud vine cu partea sa de provocări, cum ar fi latența ridicată și utilizarea lățimii de bandă. Pentru a depăși aceste probleme, dezvoltatorii de telefonie mobilă au început să se adapteze la IA de vârf pentru a procesa datele generate la o viteză mai mare și la un cost mai mic.

Cazurile de utilizare mobile activate de edge AI includ recunoașterea vorbirii și a feței, detectarea mișcării și a căderii și nu numai.

Abordarea comună este totuși hibridă. Datele care necesită mai multă stocare sau capacități de calcul ridicate sunt trimise în cloud sau în stratul de ceață, în timp ce datele care pot fi interpretate local rămân la margine.

Bariere în calea adoptării AI de vârf

Putere de calcul limitată

Antrenarea algoritmilor AI necesită puteri de calcul suficiente, care sunt în mare parte de neatins la margine. Deci, majoritatea aplicațiilor centrate pe margine conțin încă partea cloud, unde algoritmii AI sunt antrenați și actualizați.

Dacă înclinați spre construirea unei aplicații centrate pe margine, care se bazează mai puțin pe cloud, ar trebui să vă gândiți la modalitățile de optimizare a stocării datelor pe dispozitiv (de exemplu, păstrarea cadrelor cu o față în aplicațiile de recunoaștere a feței) și la Procesul de instruire AI.

Vulnerabilități de securitate

Deși natura descentralizată a aplicațiilor edge și lipsa necesității de a călători în rețea mărește caracteristicile de securitate ale aplicațiilor centrate pe margine, nodurile finale sunt încă predispuse la atacuri cibernetice. Prin urmare, sunt necesare măsuri de securitate suplimentare pentru a contracara riscurile de securitate. Modelele de învățare automată care oferă soluții de vârf, de asemenea, pot fi accesate și modificate de criminali. Blocarea lor și tratarea lor ca active cheie vă poate ajuta să preveniți problemele de securitate legate de margine.

Pierderea datelor

Însăși natura marginii implică faptul că este posibil ca datele să nu ajungă în cloud pentru stocare. Dispozitivele finale pot fi configurate pentru a elimina datele generate pentru a reduce costurile de operare sau pentru a îmbunătăți performanța sistemului. În timp ce setările cloud vin cu o parte echitabilă de limitări, avantajul cheie al acestora este faptul că toate - sau aproape toate - datele generate sunt stocate, prin urmare, pot fi folosite pentru a culege informații.

Dacă stocarea datelor este necesară pentru un anumit caz de utilizare, vă sfătuim să mergeți hibrid și să folosiți cloud-ul pentru a stoca și analiza utilizare și alte date statistice, exact așa cum am făcut-o când am dezvoltat o oglindă de fitness inteligentă pentru clienții noștri.

Dacă mai aveți întrebări fără răspuns despre edge AI sau căutați un partener de încredere pentru a implementa o aplicație edge AI, trimiteți ITRex. Experții noștri vă vor ajuta cu drag.

Publicat inițial la https://itrexgroup.com la 1 noiembrie 2022.