Edge AI: Edge Computing, Yeni Bir Yapay Zeka Dalgasını Nasıl Güçlendiriyor?

Son araştırmalar, küresel olarak kullanılan Nesnelerin İnterneti cihazlarının sayısının 2025 yılına kadar 38 milyarı aşacağını gösteriyor. Her iki kavram - Nesnelerin İnterneti ve Yapay Zeka - her zaman el ele gittiğinden, keskin artış kaçınılmaz olarak AI'nın benimsenme durumunu etkileyecektir.

IoT sistemlerini geliştirmenin altın standardı olan bulut merkezli yaklaşımın modasının yavaş yavaş geçmesiyle birlikte, yapay zeka da uca daha da yaklaşmaya başlayacak. Uca geçişin nedenleri değişkenlik gösterse de en göze çarpanları arasında yüksek gecikme süresi ve yüksek bulut bilgi işlem maliyetleri yer alır. Bunlar özellikle büyük ölçekli IoT sistemleri için akuttur.

Yine de, yapay zeka yazılım satıcıları uç yapay zeka sistemleri geliştirerek tekliflerini genişletirken, işletmeler merak ediyor: uç yapay zeka tam olarak nedir, arka planda nasıl çalışır ve geliştirilecek yaygın uç yapay zeka kullanım örnekleri nelerdir? Bunlar kendinize sorduğunuz türden sorularsa, okumaya devam edin. Aşağıdaki parçada, uç yapay zekanın özelliklerini, kullanım durumlarını, avantajlarını ve sınırlamalarını vurguluyoruz.

Uç yapay zeka nedir ve bulut yapay zekasından farkı nedir?

Standart bir IoT mimarisi kabaca üç bileşene ayrılabilir: nesneler, ağ geçitleri ve bulut. Şeyler, veri üreten sensörlerle geliştirilmiş her türlü araç, gadget ve ekipmanı ifade eder. Ağ geçitleri, şeyleri buluta bağlayan merkezi cihazlar, örneğin yönlendiricilerdir. Uç cihazlar ve ağ geçitleri birlikte uç katmanı oluşturur.

Edge AI ise, AI algoritmalarının ağın kenarına, yani bağlı cihazlara (uç düğümler) veya ağ geçitlerine (uç düğümler) daha yakın konuşlandırılması anlamına gelir.

Yapay zeka algoritmalarının bulutta geliştirildiği ve dağıtıldığı bulut tabanlı yaklaşımın aksine, uç merkezli yapay zeka sistemleri milisaniyeler içinde kararlar alır ve daha düşük bir maliyetle çalışır.

Uç yapay zekanın bulut yapay zeka çözümleriyle karşılaştırıldığında diğer avantajları şunları içerir:

• Daha düşük işlem süresi: Veriler yerel olarak analiz edildiğinden, tıbbi cihazlar veya sürücü destek sistemleri gibi zaman açısından kritik uygulamalar için son derece önemli olan buluta istek göndermeye ve yanıtları beklemeye gerek yoktur.
• Azaltılmış bant genişliği ve maliyetler: buluta yüksek hacimli sensör verilerinin gönderilmesine gerek olmadığı için uç yapay zeka sistemleri daha düşük bant genişliği gerektirir (esas olarak meta verileri aktarmak için kullanılır), bu nedenle daha düşük işletme maliyetlerine neden olur
• Artırılmış güvenlik: verileri yerel olarak işlemek, hassas bilgilerin bulutta veya aktarım sırasında tehlikeye atılması risklerini azaltmaya yardımcı olur
• Daha iyi güvenilirlik: uç yapay zeka, ağ kesintileri veya bulut hizmetlerinin geçici olarak kullanılamaması durumunda bile çalışmaya devam eder
• Optimize edilmiş enerji tüketimi: verileri yerel olarak işlemek, üretilen verileri buluta göndermekten genellikle daha az enerji gerektirir, bu da uç cihazların pil ömrünün uzamasına yardımcı olur

Markets and Markets'e göre, küresel uç yapay zeka yazılımı pazar boyutunun 2026 yılına kadar %20,8'lik bir YBBO ile büyüyerek 1,8 milyar dolara ulaşması bekleniyor. Bulutta artan kurumsal iş yükleri ve akıllı uygulamaların sayısındaki hızlı büyüme gibi çeşitli faktörlerin uç yapay zeka çözümlerinin benimsenmesini yönlendirmesi bekleniyor.

Edge AI, gizliden gizliye nasıl çalışır?

Yaygın bir yanlış inanışa rağmen, uç merkezli standart bir yapay zeka çözümü genellikle hibrit bir şekilde devreye alınır; uç cihazların veri akışına dayalı kararlar alması ve dağıtılan yapay zeka modellerini gözden geçirmek ve yeniden eğitmek için kullanılan bir veri merkezi (genellikle bir bulut olan) ile.

Dolayısıyla, temel bir uç yapay zeka mimarisi tipik olarak şöyle görünür:

Uç yapay zeka sistemlerinin insan konuşmasını anlayabilmesi, araçları kullanabilmesi ve diğer önemsiz olmayan görevleri yerine getirebilmesi için insan benzeri zekaya ihtiyaçları vardır. Bu sistemlerde, insan bilişi yapay zekanın bir alt kümesi olan derin öğrenme algoritmalarının yardımıyla çoğaltılır.

Derin öğrenme modellerini eğitme süreci, daha yüksek doğruluk elde etmek için çok büyük miktarda veri ve büyük işlem gücü gerektirdiğinden, genellikle bulutta çalışır. Eğitildikten sonra derin öğrenme modelleri, artık özerk olarak çalıştıkları bir uç cihaza veya bir uç cihaza dağıtılır.

Model bir sorunla karşılaşırsa, uçtaki model yeni ve daha doğru olanla değiştirilene kadar yeniden eğitimin başladığı buluta geri bildirim gönderilir. Bu geri bildirim döngüsü, uç yapay zeka çözümünün hassas ve etkili tutulmasına olanak tanır.

Uç yapay zekayı etkinleştiren donanım ve yazılım teknolojilerinin bir listesi

Standart bir uç yapay zeka uygulaması, donanım ve yazılım bileşenleri gerektirir.

Belirli uç yapay zeka uygulamasına bağlı olarak, uç yapay zeka işlemeyi gerçekleştirmek için birkaç donanım seçeneği olabilir. En yaygın olanları CPU'ları, GPU'ları, uygulamaya özel tümleşik devreleri (ASIC'ler) ve sahada programlanabilir kapı dizilerini (FPGA'lar) kapsar.

ASIC'ler , enerji verimli olurken yüksek işleme kapasitesi sağlar, bu da onları çok çeşitli uç yapay zeka uygulamaları için uygun hale getirir.

GPU'lar ise, özellikle büyük ölçekli bir uç çözümü desteklemek söz konusu olduğunda oldukça maliyetli olabilir. Yine de sürücüsüz arabalar veya gelişmiş sürücü destek sistemleri gibi verilerin yıldırım hızında işlenmesini gerektiren gecikme açısından kritik kullanım durumları için tercih edilen seçenektir.

FPGA'lar daha da iyi işlem gücü, enerji verimliliği ve esneklik sağlar. FPGA'ların en önemli avantajı, programlanabilir olmaları, yani donanımın yazılım talimatlarını "takip etmesi"dir. Sabit kodlanmış ASIC'ler, CPU'lar ve GPU'ların aksine donanımdaki veri akışının doğası kolayca değiştirilebildiğinden, bu daha fazla güç tasarrufu ve yeniden yapılandırılabilirlik sağlar.

Sonuç olarak, bir uç yapay zeka çözümü için optimum donanım seçeneğini seçerken, yeniden yapılandırılabilirlik, güç tüketimi, boyut, işleme hızı ve maliyetler dahil olmak üzere faktörlerin bir kombinasyonu dikkate alınmalıdır. Popüler donanım seçeneklerinin belirtilen kriterlere göre karşılaştırması şu şekildedir:

Kaynak

Buna karşılık, uç yapay zeka yazılımı, derin öğrenme sürecini etkinleştiren ve yapay zeka algoritmalarının uç cihazlarda çalışmasına izin veren eksiksiz teknoloji yığınını içerir. Uç AI yazılım altyapısı, depolama, veri yönetimi, veri analizi/AI çıkarımı ve ağ bileşenlerini kapsar.

Edge AI kullanım örnekleri

Sektörlerdeki şirketler zaten uç yapay zekadan yararlanıyor. Farklı sektörlerden en belirgin uç yapay zeka kullanım durumlarının bir özetini burada bulabilirsiniz.

Perakende: alışveriş deneyimini artırma

Olumlu bir alışveriş deneyimi, müşteriyi elde tutmayı belirleyen faktör olduğu için perakendeciler için önemli bir endişe kaynağıdır. Perakendeciler, yapay zeka destekli analitiğin kullanımıyla tüketicileri memnun ederek tekrar müşterilere dönüşmelerini sağlayabilir.

Perakende çalışanlarına günlük operasyonlarında yardımcı olan ve daha iyi bir müşteri deneyimi yaratan birçok uç yapay zeka uygulamasından biri, ürünlerin ne zaman yenilenmesi ve değiştirilmesi gerektiğini belirlemek için uç yapay zekayı kullanmaktır.

Başka bir uç yapay zeka uygulaması, akıllı ödeme sistemlerinde müşterileri mallarını tezgahta tarama ihtiyacından nihayetinde kurtarabilecek bilgisayarla görme çözümlerini kullanıyor.

Perakendeciler ayrıca müşteri tercihlerini araştırmak ve mağaza düzenlerini buna göre iyileştirmek için akıllı video analitiği kullanıyor.

Üretim: akıllı bir fabrika getirmek

İmalat işletmelerinin, özellikle hassas imalatla uğraşanların, üretim sürecinin doğruluğunu ve güvenliğini sağlaması gerekir. İmalat tesislerini yapay zeka ile geliştiren üreticiler, atölyenin güvenli ve verimli olmasını sağlayabilir. Bunun için, tıpkı Procter & Gamble ve BMW tarafından kullanılanlar gibi, atölye denetimleri gerçekleştiren yapay zeka uygulamalarını benimsiyorlar.

Procter & Gamble, kimyasal karışım tanklarını incelemek için inceleme kameralarından alınan görüntülere dayanan bir uç yapay zeka çözümü kullanıyor. Kusurlu ürünlerin üretim hattından aşağı inmesini önlemek için, doğrudan kameralara yerleştirilen uç yapay zeka çözümü kusurları tespit eder ve tespit edilen kalite sapmalarını atölye yöneticilerine bildirir.

BMW, fabrika zemininin gerçek zamanlı bir görünümünü elde etmek için uç bilgi işlem ve yapay zekanın bir kombinasyonunu kullanır. İşletme, üretim tesisine kurulu akıllı kameralar aracılığıyla montaj hattının net bir resmini alıyor.

Otomotiv: otonom arabaları mümkün kılıyor

Otonom arabalar ve gelişmiş sürücü destek sistemleri, gelişmiş güvenlik, gelişmiş verimlilik ve daha düşük kaza riski için uç yapay zekaya güveniyor.

Otonom araçlar, yol koşulları, yaya konumları, ışık seviyeleri, sürüş koşulları, aracın etrafındaki nesneler ve diğer faktörler hakkında bilgi toplayan çeşitli sensörlerle donatılmıştır. Güvenlik endişeleri nedeniyle, bu büyük hacimli verilerin hızlı bir şekilde işlenmesi gerekir. Edge AI, nesne algılama, nesne izleme ve konum farkındalığı gibi gecikmeye duyarlı izleme görevlerini ele alır.

Güvenlik: yüz tanımayı güçlendirme

Giderek uç noktalara geçiş yapan alanlardan biri de yüz tanımadır.

Örneğin bir akıllı ev güvenlik sistemi gibi yüz tanıma özelliklerine sahip güvenlik uygulamaları için yanıt süresi çok önemlidir. Geleneksel, bulut tabanlı sistemlerde, kamera görüntüleri ağda sürekli olarak taşınır ve bu da çözümün işlem hızını ve işletme maliyetlerini etkiler.

Video verilerini doğrudan güvenlik kameralarında işlemek daha etkili bir yaklaşımdır. Verileri buluta aktarmak için zaman gerekmediğinden, uygulama daha güvenilir ve duyarlı olabilir.

Tüketici elektroniği: mobil cihazlarda yeni özelliklerin etkinleştirilmesi

Mobil cihazlar çok fazla veri üretir. Bu verileri bulutta işlemek, yüksek gecikme süresi ve bant genişliği kullanımı gibi zorlukları beraberinde getirir. Bu sorunların üstesinden gelmek için mobil geliştiriciler, oluşturulan verileri daha yüksek bir hızda ve daha düşük maliyetle işlemek için uç yapay zekayı ayarlamaya başladılar.

Edge AI tarafından etkinleştirilen mobil kullanım durumları arasında konuşma ve yüz tanıma, hareket ve düşme algılama ve daha fazlası yer alır.

Ortak yaklaşım yine de hibrittir. Daha fazla depolama veya yüksek bilgi işlem yeteneği gerektiren veriler buluta veya sis katmanına gönderilirken, yerel olarak yorumlanabilen veriler uçta kalır.

Uç yapay zekanın benimsenmesinin önündeki engeller

Sınırlı bilgi işlem gücü

AI algoritmalarını eğitmek, uçta büyük ölçüde elde edilemeyen yeterli bilgi işlem gücü gerektirir. Dolayısıyla uç merkezli uygulamaların çoğu, yapay zeka algoritmalarının eğitildiği ve güncellendiği bulut bölümünü hâlâ içeriyor.

Buluta daha az dayanan uç merkezli bir uygulama oluşturmaya yöneliyorsanız, cihazdaki veri depolamayı optimize etmenin yollarını (örneğin, yüz tanıma uygulamalarında yalnızca yüz içeren çerçeveleri tutmak) ve AI eğitim süreci.

Güvenlik açıkları

Edge uygulamalarının merkezi olmayan yapısı ve verilerin ağda dolaşmasına gerek olmaması uç merkezli uygulamaların güvenlik özelliklerini artırsa da, uç düğümler hala siber saldırılara eğilimlidir. Bu nedenle, güvenlik risklerine karşı koymak için ek güvenlik önlemlerine ihtiyaç vardır. Uç çözümlere güç veren makine öğrenimi modellerine de suçlular tarafından erişilebilir ve bunlar üzerinde oynanabilir. Bunları kilitlemek ve önemli bir varlık olarak ele almak, uç noktayla ilgili güvenlik sorunlarını önlemenize yardımcı olabilir.

veri kaybı

Uç noktanın doğası, verilerin depolama için buluta ulaşamayabileceğini ima eder. Uç cihazlar, işletme maliyetlerini azaltmak veya sistem performansını iyileştirmek için üretilen verileri atacak şekilde yapılandırılabilir. Bulut ayarları adil bir sınırlama payı ile birlikte gelirken, bunların en önemli avantajı, üretilen verilerin tamamının veya neredeyse tamamının saklanması ve dolayısıyla içgörü toplamak için kullanılabilmesidir.

Belirli bir kullanım durumu için veri depolamanın gerekli olması durumunda, tıpkı müşterilerimiz için akıllı bir fitness aynası geliştirirken yaptığımız gibi, hibritleşmeyi ve kullanımı ve diğer istatistiksel verileri depolamak ve analiz etmek için bulutu kullanmanızı öneririz.

Uç yapay zeka hakkında hâlâ yanıtlanmamış sorularınız varsa veya bir uç yapay zeka uygulamasını uygulamak için güvenilir bir iş ortağı arıyorsanız, ITRex'e bir satır bırakın. Uzmanlarımız size hevesle yardımcı olacaktır.

İlk olarak 1 Kasım 2022'de https://itrexgroup.com adresinde yayınlandı.