Edge AI: Edge Computing이 인공 지능의 새로운 물결을 강화하는 방법

최근 연구에 따르면 전 세계적으로 사용되는 사물 인터넷 장치의 수는 2025년까지 380억 개를 초과할 것입니다. 사물 인터넷과 인공 지능이라는 두 개념이 항상 함께 진행되었기 때문에 가파른 급증은 AI 채택 상태에 필연적으로 영향을 미칠 것입니다.

IoT 시스템 개발의 금본위제, 클라우드 중심 접근 방식이 서서히 유행을 벗어나면서 AI도 엣지에 가까워지기 시작할 것입니다. 엣지로 이동하는 이유는 다양하지만 가장 눈에 띄는 것은 높은 대기 시간과 높은 클라우드 컴퓨팅 비용입니다. 이는 대규모 IoT 시스템의 경우 특히 심각합니다.

그럼에도 불구하고 인공 지능 소프트웨어 공급업체가 엣지 AI 시스템을 개발하여 제안을 확장하는 동안 기업은 엣지 AI가 정확히 무엇인지, 내부에서 어떻게 작동하는지, 개발할 일반적인 엣지 AI 사용 사례는 무엇인지 궁금해하고 있습니다. 이것이 당신이 스스로에게 묻는 종류의 질문이라면 계속 읽으십시오. 아래 글에서는 에지 AI의 내부, 사용 사례, 이점 및 제한 사항을 집중 조명합니다.

에지 AI란 무엇이며 클라우드 AI와 어떻게 다릅니까?

표준 IoT 아키텍처는 크게 사물, 게이트웨이 및 클라우드의 세 가지 구성 요소로 나눌 수 있습니다. 사물은 데이터를 생성하는 센서로 향상된 모든 종류의 도구, 장치 및 장비를 나타냅니다. 게이트웨이는 사물을 클라우드에 연결하는 중앙 집중식 장치, 예를 들어 라우터입니다. 최종 장치와 게이트웨이가 함께 에지 계층을 구성합니다.

에지 AI는 네트워크 에지, 즉 연결된 장치(엔드 노드) 또는 게이트웨이(에지 노드)에 더 가까운 AI 알고리즘을 배포하는 것을 의미합니다.

AI 알고리즘이 클라우드에서 개발되고 배포되는 클라우드 기반 접근 방식과 달리 에지 중심 AI 시스템은 밀리초 만에 결정을 내리고 더 저렴한 비용으로 실행됩니다.

클라우드 AI 솔루션과 비교할 때 Edge AI의 다른 이점은 다음과 같습니다.

• 처리 시간 단축: 데이터가 로컬에서 분석되기 때문에 클라우드에 요청을 보내고 응답을 기다릴 필요가 없습니다. 이는 의료 기기나 운전자 지원 시스템과 같이 시간이 중요한 애플리케이션에 가장 중요합니다.
• 대역폭 및 비용 절감: 대용량 센서 데이터를 클라우드로 전송할 필요가 없으므로 에지 AI 시스템은 낮은 대역폭(메타데이터 전송에 주로 사용됨)이 필요하므로 운영 비용이 절감됩니다.
• 보안 강화: 로컬에서 데이터를 처리하면 민감한 정보가 클라우드에서 또는 전송 중에 손상될 위험을 줄이는 데 도움이 됩니다.
• 안정성 향상: 네트워크 중단 또는 클라우드 서비스를 일시적으로 사용할 수 없는 경우에도 에지 AI가 계속 실행됩니다.
• 최적화된 에너지 소비: 일반적으로 로컬에서 데이터를 처리하면 생성된 데이터를 클라우드로 보내는 것보다 적은 에너지를 사용하므로 최종 장치의 배터리 수명을 연장하는 데 도움이 됩니다.

Markets and Markets에 따르면 글로벌 에지 AI 소프트웨어 시장 규모는 연평균 20.8% 성장하여 2026년까지 18억 달러에 이를 것으로 예상됩니다. 클라우드에서 엔터프라이즈 워크로드 증가, 지능형 애플리케이션 수의 급속한 증가와 같은 다양한 요인이 에지 AI 솔루션 채택을 촉진할 것으로 예상됩니다.

Edge AI가 작동하는 방식

일반적인 오해에도 불구하고 표준 에지 중심 AI 솔루션은 일반적으로 하이브리드 방식으로 배포됩니다. 에지 장치는 스트리밍 데이터를 기반으로 결정을 내리고 데이터 센터(일반적으로 클라우드 센터)는 배포된 AI 모델을 수정하고 재교육하는 데 사용됩니다.

따라서 기본 에지 AI 아키텍처는 일반적으로 다음과 같습니다.

에지 AI 시스템이 인간의 말을 이해하고, 차량을 운전하고, 기타 사소한 작업을 수행할 수 있으려면 인간과 같은 지능이 필요합니다. 이러한 시스템에서 인간의 인지는 AI의 하위 집합인 딥 러닝 알고리즘의 도움으로 복제됩니다.

더 높은 정확도를 달성하려면 막대한 양의 데이터와 큰 처리 능력이 필요하기 때문에 딥 러닝 모델 훈련 프로세스는 클라우드에서 실행되는 경우가 많습니다. 훈련을 마치면 딥 러닝 모델이 종단 또는 에지 장치에 배포되어 이제 자율적으로 실행됩니다.

모델에 문제가 발생하면 가장자리에 있는 모델이 더 정확한 새 모델로 교체될 때까지 재교육이 시작되는 클라우드로 피드백이 전송됩니다. 이 피드백 루프를 통해 에지 AI 솔루션을 정확하고 효과적으로 유지할 수 있습니다.

에지 AI를 가능하게 하는 하드웨어 및 소프트웨어 기술 요약

표준 에지 AI 구현에는 하드웨어 및 소프트웨어 구성 요소가 필요합니다.

특정 에지 AI 애플리케이션에 따라 에지 AI 처리를 수행하기 위한 몇 가지 하드웨어 옵션이 있을 수 있습니다. 가장 일반적인 것은 CPU, GPU, ASIC(Application-Specific Integrated Circuit) 및 FPGA(Field Programmable Gate Array)에 걸쳐 있습니다.

ASIC 는 에너지 효율적이면서 높은 처리 기능을 지원하므로 다양한 에지 AI 애플리케이션에 적합합니다.

GPU 는 특히 대규모 에지 솔루션을 지원할 때 비용이 많이 들 수 있습니다. 그럼에도 불구하고 무인 자동차 또는 고급 운전자 지원 시스템과 같이 번개처럼 빠른 속도로 데이터를 처리해야 하는 대기 시간이 중요한 사용 사례를 위한 이동 옵션입니다.

FPGA 는 더 나은 처리 능력, 에너지 효율성 및 유연성을 제공합니다. FPGA의 주요 이점은 프로그래밍이 가능하다는 것입니다. 즉, 하드웨어가 소프트웨어 명령을 "따릅니다". 하드 코딩된 ASIC, CPU 및 GPU와 달리 하드웨어에서 데이터 흐름의 특성을 간단히 변경할 수 있으므로 더 많은 절전 및 재구성이 가능합니다.

대체로 에지 AI 솔루션을 위한 최적의 하드웨어 옵션을 선택할 때 재구성 가능성, 전력 소비, 크기, 처리 속도 및 비용을 포함한 여러 요소를 고려해야 합니다. 명시된 기준에 따라 널리 사용되는 하드웨어 옵션을 비교하면 다음과 같습니다.

원천

에지 AI 소프트웨어에는 딥 러닝 프로세스를 가능하게 하고 AI 알고리즘이 에지 장치에서 실행될 수 있도록 하는 전체 기술 스택이 포함되어 있습니다. 에지 AI 소프트웨어 인프라는 스토리지, 데이터 관리, 데이터 분석/AI 추론 및 네트워킹 구성 요소에 걸쳐 있습니다.

에지 AI 사용 사례

다양한 분야의 기업들이 이미 엣지 AI의 혜택을 누리고 있습니다. 다음은 다양한 산업에서 가장 눈에 띄는 에지 AI 사용 사례에 대한 요약입니다.

소매: 쇼핑 경험 향상

긍정적인 쇼핑 경험은 고객 유지를 결정하는 요소이기 때문에 소매업체의 주요 관심사입니다. 소매업체는 AI 기반 분석을 사용하여 소비자를 만족시켜 반복 고객으로 전환할 수 있습니다.

소매 직원의 일상 업무를 지원하고 더 나은 고객 경험을 제공하는 많은 에지 AI 애플리케이션 중 하나는 에지 AI를 사용하여 제품을 보충하고 교체해야 하는 시기를 결정하는 것입니다.

또 다른 에지 AI 애플리케이션은 궁극적으로 고객이 카운터에서 상품을 스캔할 필요가 없도록 스마트 체크아웃 시스템에서 컴퓨터 비전 솔루션을 사용하고 있습니다.

소매업체는 또한 지능형 비디오 분석을 사용하여 고객 선호도를 분석하고 그에 따라 매장 레이아웃을 개선하고 있습니다.

제조: 스마트 팩토리 도입

제조 기업, 특히 정밀 제조와 관련된 기업은 생산 공정의 정확성과 안전성을 보장해야 합니다. 제조업체는 AI로 제조 현장을 개선함으로써 작업 현장의 안전과 효율성을 보장할 수 있습니다. 이를 위해 Procter & Gamble 및 BMW에서 사용하는 것과 같이 작업장 검사를 수행하는 AI 애플리케이션을 채택합니다.

Procter & Gamble은 화학 혼합 탱크를 검사하기 위해 검사 카메라의 영상에 의존하는 엣지 AI 솔루션을 사용합니다. 결함이 있는 제품이 제조 파이프라인으로 넘어가는 것을 방지하기 위해 카메라에 바로 배치된 에지 AI 솔루션은 결함을 정확히 찾아내고 발견된 품질 편차를 작업 현장 관리자에게 알립니다.

BMW는 에지 컴퓨팅과 인공 지능의 조합을 사용하여 공장 현장을 실시간으로 보여줍니다. 기업은 제조 시설 전체에 설치된 스마트 카메라를 통해 조립 라인의 명확한 그림을 얻습니다.

자동차: 자율주행차 구현

자율주행차와 첨단 운전자 지원 시스템은 안전성 향상, 효율성 향상, 사고 위험 감소를 위해 에지 AI에 의존합니다.

자율 주행 자동차에는 도로 상태, 보행자 위치, 조도, 주행 상태, 차량 주변 물체 및 기타 요인에 대한 정보를 수집하는 다양한 센서가 장착되어 있습니다. 보안 문제로 인해 이러한 대량의 데이터를 신속하게 처리해야 합니다. Edge AI는 개체 감지, 개체 추적 및 위치 인식과 같은 대기 시간에 민감한 모니터링 작업을 처리합니다.

보안: 안면 인식 강화

점점 더 엣지로 전환되고 있는 영역 중 하나는 안면 인식입니다.

예를 들어 스마트 홈 보안 시스템과 같이 안면 인식 기능이 있는 보안 앱의 경우 응답 시간이 중요합니다. 기존의 클라우드 기반 시스템에서는 카메라 영상이 네트워크에서 지속적으로 이동하므로 솔루션의 처리 속도와 운영 비용에 영향을 미칩니다.

보다 효과적인 접근 방식은 보안 카메라에서 비디오 데이터를 직접 처리하는 것입니다. 데이터를 클라우드로 전송하는 데 시간이 필요하지 않기 때문에 애플리케이션의 안정성과 응답성이 향상될 수 있습니다.

가전제품: 모바일 장치의 새로운 기능 구현

모바일 장치는 많은 데이터를 생성합니다. 클라우드에서 이 데이터를 처리하면 긴 대기 시간 및 대역폭 사용과 같은 문제가 발생합니다. 이러한 문제를 극복하기 위해 모바일 개발자는 생성된 데이터를 더 빠른 속도와 더 낮은 비용으로 처리하기 위해 에지 AI를 조정하기 시작했습니다.

Edge AI로 지원되는 모바일 사용 사례에는 음성 및 얼굴 인식, 동작 및 넘어짐 감지 등이 포함됩니다.

그러나 일반적인 접근 방식은 여전히 ​​하이브리드입니다. 더 많은 스토리지 또는 높은 컴퓨팅 기능이 필요한 데이터는 클라우드 또는 포그 레이어로 전송되는 반면 로컬에서 해석할 수 있는 데이터는 엣지에 유지됩니다.

에지 AI 채택의 장벽

제한된 컴퓨팅 성능

AI 알고리즘을 교육하려면 충분한 컴퓨팅 성능이 필요하며 이는 엣지에서 거의 달성할 수 없습니다. 따라서 대부분의 에지 중심 애플리케이션에는 AI 알고리즘이 훈련되고 업데이트되는 클라우드 부분이 여전히 포함되어 있습니다.

클라우드에 덜 의존하는 에지 중심 애플리케이션을 구축하려는 경우 온디바이스 데이터 스토리지를 최적화하는 방법(예: 얼굴 인식 애플리케이션에 얼굴이 포함된 프레임만 유지)과 AI 훈련 과정.

보안 취약점

에지 애플리케이션의 분산된 특성과 네트워크를 통해 데이터를 이동할 필요가 없기 때문에 에지 중심 애플리케이션의 보안 기능이 향상되지만 엔드 노드는 여전히 사이버 공격에 취약합니다. 따라서 보안 위험에 대응하기 위한 추가적인 보안 조치가 필요합니다. 에지 솔루션을 지원하는 기계 학습 모델 역시 범죄자가 액세스하고 변조할 수 있습니다. 이를 잠그고 핵심 자산으로 취급하면 에지 관련 보안 문제를 방지하는 데 도움이 될 수 있습니다.

데이터 손실

에지의 본질은 데이터가 저장을 위해 클라우드로 이동하지 않을 수 있음을 의미합니다. 최종 장치는 운영 비용을 절감하거나 시스템 성능을 향상시키기 위해 생성된 데이터를 폐기하도록 구성될 수 있습니다. 클라우드 설정에는 상당한 제한이 있지만 그 주요 이점은 생성된 데이터의 전부 또는 거의 전부가 저장되어 통찰력을 얻는 데 사용할 수 있다는 사실입니다.

특정 사용 사례에 데이터를 저장해야 하는 경우 고객을 위한 스마트 피트니스 거울을 개발할 때와 마찬가지로 하이브리드로 전환하고 클라우드를 사용하여 사용 및 기타 통계 데이터를 저장하고 분석하는 것이 좋습니다.

에지 AI에 대해 여전히 답이 없는 질문이 있거나 에지 AI 애플리케이션을 구현하기 위해 신뢰할 수 있는 파트너를 찾고 있다면 ITRex에 줄을 서십시오. 저희 전문가들이 기꺼이 도와드리겠습니다.

원래 2022년 11월 1일에 https://itrexgroup.com에 게시되었습니다.