Edge AI: как Edge Computing расширяет возможности новой волны искусственного интеллекта

Недавние исследования показывают, что к 2025 году количество устройств Интернета вещей, используемых во всем мире, превысит 38 миллиардов. Резкий скачок неизбежно повлияет на степень внедрения ИИ, поскольку обе концепции — Интернет вещей и искусственный интеллект — всегда шли рука об руку.

С золотым стандартом разработки систем IoT, облачным подходом, постепенно выходящим из моды, искусственный интеллект также начнет приближаться к краю. Причины перехода к периферии различаются, но наиболее заметными из них являются высокая задержка и высокая стоимость облачных вычислений. Это особенно актуально для крупномасштабных систем IoT.

Тем не менее, в то время как поставщики программного обеспечения для искусственного интеллекта расширяют свои предложения, разрабатывая периферийные системы ИИ, предприятия задаются вопросом: что такое периферийный ИИ, как он работает внутри и какие общие варианты использования периферийного ИИ следует разрабатывать? Если вы задаете себе такие вопросы, продолжайте читать. В приведенной ниже части мы освещаем внутренности, варианты использования, преимущества и ограничения периферийного ИИ.

Что такое периферийный ИИ и чем он отличается от облачного ИИ?

Стандартную архитектуру IoT можно условно разделить на три компонента: вещи, шлюзы и облако. Вещи означают всевозможные инструменты, гаджеты и оборудование, оснащенные датчиками, генерирующими данные. Шлюзы — это централизованные устройства, скажем, маршрутизаторы, которые соединяют вещи с облаком. Вместе конечные устройства и шлюзы составляют пограничный уровень.

Пограничный ИИ, в свою очередь, означает развертывание алгоритмов ИИ ближе к краю сети, то есть либо к подключенным устройствам (конечным узлам), либо к шлюзам (пограничным узлам).

В отличие от облачного подхода, при котором алгоритмы ИИ разрабатываются и развертываются в облаке, периферийные системы ИИ принимают решения за миллисекунды и работают с меньшими затратами.

Другие преимущества периферийного ИИ по сравнению с облачными решениями ИИ включают в себя:

• Меньшее время обработки: поскольку данные анализируются локально, нет необходимости отправлять запросы в облако и ждать ответов, что крайне важно для критичных ко времени приложений, таких как медицинские устройства или системы помощи водителю.
• Снижение пропускной способности и затрат: поскольку нет необходимости отправлять большие объемы данных датчиков в облако, периферийным системам искусственного интеллекта требуется более низкая пропускная способность (используется в основном для передачи метаданных), следовательно, несут более низкие эксплуатационные расходы.
• Повышенная безопасность: локальная обработка данных помогает снизить риск компрометации конфиденциальной информации в облаке или при передаче
• Повышенная надежность: периферийный ИИ продолжает работать даже в случае сбоев в работе сети или временной недоступности облачных сервисов.
• Оптимизированное энергопотребление: локальная обработка данных обычно требует меньше энергии, чем отправка сгенерированных данных в облако, что помогает продлить срок службы батареи конечных устройств.

По данным Markets and Markets, ожидается, что к 2026 году объем мирового рынка программного обеспечения для периферийного ИИ достигнет 1,8 миллиарда долларов, а среднегодовой темп роста составит 20,8%. Ожидается, что различные факторы, такие как увеличение корпоративных рабочих нагрузок в облаке и быстрый рост числа интеллектуальных приложений, будут способствовать внедрению периферийных решений ИИ.

Как периферийный ИИ работает под капотом

Несмотря на распространенное заблуждение, стандартное ИИ-решение, ориентированное на периферию, обычно развертывается гибридным образом: периферийные устройства принимают решения на основе потоковых данных, а центр обработки данных (обычно облачный) используется для пересмотра и переобучения развернутых моделей ИИ.

Итак, базовая архитектура периферийного ИИ обычно выглядит так:

Чтобы периферийные системы искусственного интеллекта могли понимать человеческую речь, управлять транспортными средствами и выполнять другие нетривиальные задачи, им нужен человеческий интеллект. В этих системах человеческое познание воспроизводится с помощью алгоритмов глубокого обучения, подмножества ИИ.

Процесс обучения моделей глубокого обучения часто выполняется в облаке, поскольку для достижения более высокой точности требуются огромные объемы данных и большая вычислительная мощность. После обучения модели глубокого обучения развертываются на конечном или пограничном устройстве, где теперь они работают автономно.

Если модель сталкивается с проблемой, обратная связь отправляется в облако, где начинается переобучение до тех пор, пока модель на границе не будет заменена новой, более точной. Эта петля обратной связи позволяет поддерживать точность и эффективность периферийного решения ИИ.

Краткое изложение аппаратных и программных технологий, обеспечивающих периферийный ИИ

Стандартная реализация периферийного ИИ требует аппаратных и программных компонентов.

В зависимости от конкретного пограничного приложения ИИ может быть несколько аппаратных опций для обработки пограничного ИИ. Наиболее распространенные из них охватывают процессоры, графические процессоры, специализированные интегральные схемы (ASIC) и программируемые вентильные матрицы (FPGA).

ASIC обеспечивают высокую вычислительную мощность и энергоэффективность, что делает их подходящими для широкого спектра периферийных приложений искусственного интеллекта.

Графические процессоры , в свою очередь, могут быть весьма дорогостоящими, особенно когда речь идет о поддержке крупномасштабного периферийного решения. Тем не менее, они являются оптимальным вариантом для случаев использования с критической задержкой, требующих молниеносной обработки данных, таких как беспилотные автомобили или усовершенствованные системы помощи водителю.

FPGA обеспечивают еще большую вычислительную мощность, энергоэффективность и гибкость. Ключевое преимущество ПЛИС в том, что они программируемые, то есть аппаратное обеспечение «следует» за программными инструкциями. Это обеспечивает большую экономию энергии и реконфигурируемость, поскольку можно просто изменить характер потока данных в аппаратном обеспечении, в отличие от жестко запрограммированных ASIC, ЦП и графических процессоров.

В целом, выбирая оптимальный аппаратный вариант для периферийного ИИ-решения, следует учитывать сочетание факторов, включая реконфигурируемость, энергопотребление, размер, скорость обработки и стоимость. Вот как сравниваются популярные аппаратные варианты по заявленным критериям:

Источник

В свою очередь, программное обеспечение ИИ для периферийных устройств включает в себя полный набор технологий, обеспечивающих процесс глубокого обучения и позволяющий алгоритмам ИИ работать на периферийных устройствах. Пограничная программная инфраструктура искусственного интеллекта охватывает компоненты хранения, управления данными, анализа данных/выводов искусственного интеллекта и сетевых компонентов.

Варианты использования периферийного ИИ

Компании из разных секторов уже получают выгоду от периферийного ИИ. Вот краткое изложение наиболее известных вариантов использования периферийного ИИ из разных отраслей.

Розничная торговля: повышение покупательского опыта

Положительный покупательский опыт является серьезной проблемой для розничных продавцов, поскольку он является фактором, определяющим удержание клиентов. Используя аналитику на основе ИИ, розничные продавцы могут поддерживать удовлетворенность потребителей, гарантируя, что они станут постоянными покупателями.

Одно из многих периферийных приложений ИИ, помогающих сотрудникам розничной торговли в их повседневной работе и повышающих качество обслуживания клиентов, использует периферийный ИИ для определения того, когда продукты необходимо пополнить и заменить.

Еще одно периферийное приложение ИИ использует решения компьютерного зрения в интеллектуальных кассовых системах, которые могут в конечном итоге избавить клиентов от необходимости сканировать свои товары на прилавке.

Ритейлеры также используют интеллектуальную видеоаналитику, чтобы изучить предпочтения клиентов и соответствующим образом улучшить планировку магазинов.

Производство: внедрение умной фабрики

Производственным предприятиям, особенно тем, которые занимаются прецизионным производством, необходимо обеспечить точность и безопасность производственного процесса. Усовершенствуя производственные площадки с помощью ИИ, производители могут обеспечить безопасность и эффективность цеха. Для этого они применяют приложения ИИ, которые проводят проверки в цехах, как те, которые используются Procter & Gamble и BMW.

Procter & Gamble использует передовое решение на базе искусственного интеллекта, которое использует кадры с инспекционных камер для проверки резервуаров для химических смесей. Чтобы продукты с дефектами не попадали в производственный конвейер, периферийное решение искусственного интеллекта, развернутое прямо на камерах, выявляет дефекты и уведомляет руководителей цехов об обнаруженных отклонениях в качестве.

BMW использует комбинацию периферийных вычислений и искусственного интеллекта, чтобы получить представление о заводском цехе в режиме реального времени. Предприятие получает четкое представление о своей сборочной линии с помощью интеллектуальных камер, установленных по всему производственному объекту.

Автомобилестроение: создание автономных автомобилей

Автономные автомобили и передовые системы помощи водителю полагаются на передовой ИИ для повышения безопасности, повышения эффективности и снижения риска аварий.

Автономные автомобили оснащены различными датчиками, которые собирают информацию о дорожных условиях, местонахождении пешеходов, уровне освещенности, условиях вождения, объектах вокруг автомобиля и других факторах. Из соображений безопасности эти большие объемы данных необходимо обрабатывать быстро. Edge AI решает чувствительные к задержкам задачи мониторинга, такие как обнаружение объектов, отслеживание объектов и определение местоположения.

Безопасность: распознавание лиц

Одной из областей, которые все чаще переходят на периферию, является распознавание лиц.

Для приложений безопасности с возможностями распознавания лиц, например, системы безопасности умного дома, время отклика имеет решающее значение. В традиционных облачных системах видеозаписи с камер постоянно перемещаются по сети, что влияет на скорость обработки решения и эксплуатационные расходы.

Более эффективным подходом является обработка видеоданных непосредственно на камерах видеонаблюдения. Поскольку для передачи данных в облако не требуется время, приложение может быть более надежным и отзывчивым.

Бытовая электроника: внедрение новых функций в мобильные устройства

Мобильные устройства генерируют много данных. Обработка этих данных в облаке сопряжена с рядом проблем, таких как высокая задержка и использование полосы пропускания. Чтобы решить эти проблемы, разработчики мобильных устройств начали настраивать периферийный ИИ для обработки сгенерированных данных с более высокой скоростью и меньшими затратами.

Мобильные варианты использования, обеспечиваемые периферийным ИИ, включают распознавание речи и лиц, обнаружение движения и падений и многое другое.

Однако общий подход по-прежнему является гибридным. Данные, требующие большего объема памяти или высоких вычислительных мощностей, отправляются в облако или слой тумана, в то время как данные, которые можно интерпретировать локально, остаются на периферии.

Барьеры на пути внедрения ИИ

Ограниченная вычислительная мощность

Алгоритмы обучения ИИ требуют достаточных вычислительных мощностей, которые практически недостижимы на периферии. Таким образом, большинство ориентированных на периферию приложений по-прежнему содержат облачную часть, где обучаются и обновляются алгоритмы ИИ.

Если вы склоняетесь к созданию ориентированного на периферию приложения, которое меньше зависит от облака, вам необходимо подумать о способах оптимизации хранения данных на устройстве (например, оставлять только кадры с изображением лица в приложениях для распознавания лиц) и Процесс обучения ИИ.

Уязвимости безопасности

Несмотря на то, что децентрализованный характер граничных приложений и отсутствие необходимости передачи данных по сети повышают безопасность ориентированных на периферию приложений, конечные узлы по-прежнему подвержены кибератакам. Таким образом, необходимы дополнительные меры безопасности для противодействия рискам безопасности. Преступники также могут получить доступ к моделям машинного обучения, лежащим в основе периферийных решений. Блокировка их и обращение с ними как с ключевыми активами может помочь вам предотвратить проблемы безопасности, связанные с периферией.

Потеря данных

Сама природа периферии подразумевает, что данные могут не попасть в облако для хранения. Конечные устройства могут быть настроены на отбрасывание сгенерированных данных, чтобы сократить эксплуатационные расходы или повысить производительность системы. Хотя облачные настройки имеют немало ограничений, их ключевым преимуществом является тот факт, что все — или почти все — сгенерированные данные сохраняются, следовательно, их можно использовать для сбора информации.

Если хранение данных необходимо для конкретного варианта использования, мы советуем перейти на гибрид и использовать облако для хранения и анализа использования и других статистических данных, точно так же, как мы сделали это при разработке интеллектуального фитнес-зеркала для наших клиентов.

Если у вас все еще есть вопросы о периферийном ИИ без ответа или вы ищете надежного партнера для внедрения периферийного приложения ИИ, напишите ITRex. Наши специалисты с радостью вам помогут.

Первоначально опубликовано на https://itrexgroup.com 1 ноября 2022 г.