Edge AI: como a Edge Computing capacita uma nova onda de inteligência artificial

Pesquisas recentes sugerem que o número de dispositivos da Internet das Coisas usados ​​globalmente ultrapassará 38 bilhões até 2025. O aumento acentuado afetará inevitavelmente o estado de adoção da IA, pois os dois conceitos - a Internet das Coisas e a Inteligência Artificial - sempre andaram de mãos dadas.

Com o padrão-ouro de desenvolvimento de sistemas IoT, a abordagem centrada na nuvem, lentamente saindo de moda, a IA também começará a se aproximar do limite. As razões para a mudança para o edge variam, mas as mais notáveis ​​incluem alta latência e altos custos de computação em nuvem. Estes são particularmente agudos para sistemas de IoT em larga escala.

Ainda assim, enquanto os fornecedores de software de inteligência artificial estão ampliando suas ofertas desenvolvendo sistemas de IA de ponta, as empresas estão se perguntando: o que é IA de ponta exatamente, como ela funciona sob o capô e quais são os casos de uso comuns de IA de borda para desenvolver? Se esse é o tipo de pergunta que você se faz, continue lendo. Na peça abaixo, destacamos as entranhas, casos de uso, benefícios e limitações da IA ​​de ponta.

O que é IA de borda e como ela difere da IA ​​de nuvem?

Uma arquitetura IoT padrão pode ser dividida aproximadamente em três componentes: as coisas, os gateways e a nuvem. As coisas representam todos os tipos de ferramentas, gadgets e equipamentos aprimorados com sensores que geram dados. Gateways são dispositivos centralizados, digamos, roteadores, que conectam as coisas à nuvem. Juntos, os dispositivos finais e os gateways compõem a camada de borda.

Edge AI, por sua vez, significa implantar algoritmos de IA mais próximos da borda da rede, ou seja, seja para dispositivos conectados (end nodes) ou gateways (edge ​​nodes).

Em contraste com a abordagem baseada em nuvem, em que os algoritmos de IA são desenvolvidos e implantados na nuvem, os sistemas de IA centrados na borda tomam decisões em questão de milissegundos e são executados a um custo menor.

Outros benefícios da IA ​​de borda em comparação com as soluções de IA na nuvem incluem:

• Menor tempo de processamento: como os dados são analisados ​​localmente, não há necessidade de enviar solicitações para a nuvem e aguardar respostas, o que é de extrema importância para aplicações de tempo crítico, como dispositivos médicos ou sistemas de assistência ao motorista
• Largura de banda e custos reduzidos: sem a necessidade de envio de dados de sensor de alto volume para a nuvem, os sistemas de IA de borda exigem largura de banda menor (usada principalmente para transferência de metadados) e, portanto, incorrem em custos operacionais mais baixos
• Maior segurança: processar dados localmente ajuda a reduzir os riscos de comprometimento de informações confidenciais na nuvem ou em trânsito
• Melhor confiabilidade: o edge AI continua funcionando mesmo em caso de interrupções de rede ou serviços de nuvem temporariamente indisponíveis
• Consumo de energia otimizado: processar dados localmente geralmente consome menos energia do que enviar os dados gerados para a nuvem, o que ajuda a prolongar a vida útil da bateria dos dispositivos finais

De acordo com a Markets and Markets, o tamanho do mercado global de software de IA de borda deve atingir US$ 1,8 bilhão até 2026, crescendo a um CAGR de 20,8%. Espera-se que vários fatores, como o aumento das cargas de trabalho corporativas na nuvem e o rápido crescimento do número de aplicativos inteligentes, impulsionem a adoção de soluções de IA de ponta.

Como o edge AI funciona sob o capô

Apesar de uma crença comum, uma solução padrão de IA centrada na borda geralmente é implantada de maneira híbrida – com dispositivos de borda tomando decisões com base em dados de streaming e um data center (geralmente, um na nuvem) usado para revisar e retreinar os modelos de IA implantados.

Portanto, uma arquitetura básica de IA de borda geralmente se parece com isso:

Para que os sistemas de IA de ponta possam entender a fala humana, dirigir veículos e realizar outras tarefas não triviais, eles precisam de inteligência semelhante à humana. Nesses sistemas, a cognição humana é replicada com a ajuda de algoritmos de aprendizado profundo, um subconjunto da IA.

O processo de treinamento de modelos de aprendizado profundo geralmente é executado na nuvem, pois obter maior precisão exige grandes volumes de dados e grande poder de processamento. Depois de treinados, os modelos de aprendizado profundo são implantados em um dispositivo final ou de borda, onde agora são executados de forma autônoma.

Se o modelo encontrar um problema, o feedback é enviado para a nuvem, onde o retreinamento começa até que o modelo na borda seja substituído por um novo e mais preciso. Esse ciclo de feedback permite manter a solução de IA de ponta precisa e eficaz.

Um resumo das tecnologias de hardware e software que permitem a IA de borda

Uma implementação padrão de IA de borda requer componentes de hardware e software.

Dependendo do aplicativo de IA de borda específico, pode haver várias opções de hardware para executar o processamento de IA de borda. Os mais comuns abrangem CPUs, GPUs, circuitos integrados específicos de aplicativos (ASICs) e matrizes de portas programáveis ​​em campo (FPGAs).

Os ASICs permitem alta capacidade de processamento e, ao mesmo tempo, economizam energia, o que os torna uma boa opção para uma ampla gama de aplicativos de IA de ponta.

As GPUs , por sua vez, podem ser bastante caras, especialmente quando se trata de oferecer suporte a uma solução de ponta em larga escala. Ainda assim, eles são a opção ideal para casos de uso de latência crítica que exigem que os dados sejam processados ​​na velocidade da luz, como carros sem motorista ou sistemas avançados de assistência ao motorista.

Os FPGAs fornecem poder de processamento, eficiência energética e flexibilidade ainda melhores. A principal vantagem dos FPGAs é que eles são programáveis, ou seja, o hardware “segue” as instruções do software. Isso permite mais economia de energia e reconfigurabilidade, pois é possível simplesmente alterar a natureza do fluxo de dados no hardware em oposição a ASICs, CPUs e GPUs codificados.

Em suma, ao escolher a opção de hardware ideal para uma solução de IA de ponta, deve-se considerar uma combinação de fatores, incluindo reconfigurabilidade, consumo de energia, tamanho, velocidade de processamento e custos. Veja como as opções de hardware populares se comparam de acordo com os critérios declarados:

Fonte

Por sua vez, o software de IA de ponta inclui a pilha completa de tecnologias que permitem o processo de aprendizado profundo e permitem que os algoritmos de IA sejam executados em dispositivos de ponta. A infraestrutura de software de IA de ponta abrange armazenamento, gerenciamento de dados, análise de dados/inferência de IA e componentes de rede.

Casos de uso de IA de borda

Empresas de todos os setores já estão se beneficiando da IA ​​de ponta. Aqui está um resumo dos casos de uso de IA de borda mais proeminentes de diferentes setores.

Varejo: potencializando a experiência de compra

Uma experiência de compra positiva é uma grande preocupação para os varejistas, pois é o fator determinante para a retenção de clientes. Com o uso de análises baseadas em IA, os varejistas podem manter os consumidores satisfeitos, garantindo que eles se tornem clientes recorrentes.

Um dos muitos aplicativos de edge AI que auxiliam os funcionários de varejo em suas operações diárias e criam uma melhor experiência do cliente é usar o edge AI para determinar quando os produtos precisam ser reabastecidos e substituídos.

Outro aplicativo de IA de ponta está usando soluções de visão computacional em sistemas de checkout inteligentes que podem, em última instância, liberar os clientes da necessidade de escanear seus produtos no balcão.

Os varejistas também estão usando análise de vídeo inteligente para explorar as preferências do cliente e melhorar os layouts das lojas de acordo.

Manufatura: trazendo uma fábrica inteligente

As empresas de manufatura, especialmente aquelas envolvidas na fabricação de precisão, precisam garantir a precisão e a segurança do processo de produção. Ao aprimorar os locais de fabricação com IA, os fabricantes podem garantir que o chão de fábrica seja seguro e eficiente. Para isso, adotam aplicativos de IA que realizam inspeções de chão de fábrica, como os usados ​​pela Procter & Gamble e BMW.

A Procter & Gamble usa uma solução avançada de IA que conta com as imagens das câmeras de inspeção para inspecionar os tanques de mistura química. Para evitar que produtos com falhas saiam do pipeline de fabricação, a solução de IA de borda implantada diretamente nas câmeras identifica imperfeições e notifica os gerentes de chão de fábrica sobre os desvios de qualidade detectados.

A BMW usa uma combinação de computação de ponta e inteligência artificial para obter uma visão em tempo real do chão de fábrica. A empresa obtém uma visão clara de sua linha de montagem por meio de câmeras inteligentes instaladas em toda a fábrica.

Automotivo: habilitando carros autônomos

Carros autônomos e sistemas avançados de assistência ao motorista contam com IA de ponta para maior segurança, maior eficiência e menor risco de acidentes.

Os carros autônomos são equipados com uma variedade de sensores que coletam informações sobre as condições da estrada, locais de pedestres, níveis de luz, condições de direção, objetos ao redor do veículo e outros fatores. Devido a questões de segurança, esses grandes volumes de dados precisam ser processados ​​rapidamente. O Edge AI aborda tarefas de monitoramento sensíveis à latência, como detecção de objetos, rastreamento de objetos e reconhecimento de localização.

Segurança: fortalecendo o reconhecimento facial

Uma das áreas que estão cada vez mais migrando para o limite é o reconhecimento facial.

Para aplicativos de segurança com recursos de reconhecimento facial, digamos, um sistema de segurança residencial inteligente, o tempo de resposta é crítico. Em sistemas tradicionais baseados em nuvem, a filmagem da câmera é continuamente movida pela rede, o que afeta a velocidade de processamento da solução e os custos operacionais.

Uma abordagem mais eficaz é processar dados de vídeo diretamente nas câmeras de segurança. Como não é necessário tempo para transferir os dados para a nuvem, o aplicativo pode ser mais confiável e responsivo.

Eletrônicos de consumo: habilitando novos recursos em dispositivos móveis

Dispositivos móveis geram muitos dados. O processamento desses dados na nuvem vem com sua parcela de desafios, como alta latência e uso de largura de banda. Para superar esses problemas, os desenvolvedores móveis começaram a sintonizar a IA de ponta para processar os dados gerados com maior velocidade e menor custo.

Os casos de uso móvel habilitados pela IA de borda incluem reconhecimento de fala e rosto, detecção de movimento e queda e muito mais.

A abordagem comum ainda é híbrida. Os dados que requerem mais armazenamento ou alta capacidade de computação são enviados para a nuvem ou para a camada de névoa, enquanto os dados que podem ser interpretados localmente permanecem na borda.

Barreiras para a adoção de IA de ponta

Poder de computação limitado

O treinamento de algoritmos de IA requer poderes de computação suficientes, que são inatingíveis na borda. Portanto, a maioria dos aplicativos centrados na borda ainda contém a parte da nuvem, onde os algoritmos de IA são treinados e atualizados.

Se você está pensando em construir um aplicativo centrado na borda que dependa menos da nuvem, você precisa pensar sobre as formas de otimizar o armazenamento de dados no dispositivo (por exemplo, manter apenas quadros com um rosto em aplicativos de reconhecimento facial) e o Processo de treinamento de IA.

vulnerabilidades de segurança

Embora a natureza descentralizada dos aplicativos de ponta e a ausência de necessidade de dados trafegarem pela rede aumentem os recursos de segurança dos aplicativos centrados na borda, os nós finais ainda são propensos a ataques cibernéticos. Portanto, medidas de segurança adicionais são necessárias para combater os riscos de segurança. Os modelos de aprendizado de máquina que fornecem soluções de ponta também podem ser acessados ​​e adulterados por criminosos. Bloqueá-los e tratá-los como ativos importantes pode ajudar a evitar problemas de segurança relacionados à borda.

Perda de dados

A própria natureza da borda implica que os dados podem não chegar à nuvem para armazenamento. Os dispositivos finais podem ser configurados para descartar os dados gerados para reduzir custos operacionais ou melhorar o desempenho do sistema. Embora as configurações de nuvem venham com um número razoável de limitações, a principal vantagem delas é o fato de que todos – ou quase todos – os dados gerados são armazenados e, portanto, podem ser usados ​​para obter insights.

Se o armazenamento de dados for necessário para um caso de uso específico, aconselhamos o híbrido e o uso da nuvem para armazenar e analisar o uso e outros dados estatísticos, da mesma forma que fizemos ao desenvolver um espelho de fitness inteligente para nossos clientes.

Se você ainda tiver perguntas não respondidas sobre o edge AI ou procurar um parceiro confiável para implementar um aplicativo de edge AI, deixe de lado a ITRex. Nossos especialistas irão ajudá-lo ansiosamente.

Publicado originalmente em https://itrexgroup.com em 1º de novembro de 2022.