Edge AI: Bagaimana Edge Computing Memberdayakan Gelombang Baru Kecerdasan Buatan

Penelitian terbaru menunjukkan bahwa jumlah perangkat Internet of Things yang digunakan secara global akan melebihi 38 miliar pada tahun 2025. Lonjakan tajam pasti akan mempengaruhi keadaan adopsi AI karena kedua konsep – Internet of Things dan Kecerdasan Buatan – selalu berjalan seiring.

Dengan standar emas pengembangan sistem IoT, pendekatan cloud-centric, perlahan-lahan keluar dari mode, AI juga akan mulai merayap lebih dekat ke tepi. Alasan peralihan ke edge berbeda-beda, tetapi yang paling mencolok adalah latensi tinggi dan biaya komputasi awan tinggi. Ini sangat akut untuk sistem IoT skala besar.

Namun, sementara vendor perangkat lunak kecerdasan buatan memperluas penawaran mereka dengan mengembangkan sistem AI tepi, bisnis bertanya-tanya: apa sebenarnya AI tepi itu, bagaimana cara kerjanya di bawah terpal, dan kasus penggunaan AI tepi apa yang umum untuk dikembangkan? Jika ini adalah jenis pertanyaan yang Anda tanyakan pada diri sendiri, lanjutkan membaca. Pada bagian di bawah ini, kami menyoroti jeroan, kasus penggunaan, manfaat, dan batasan AI tepi.

Apa itu edge AI, dan apa bedanya dengan cloud AI?

Arsitektur IoT standar secara kasar dapat dibagi menjadi tiga komponen: benda, gateway, dan cloud. Hal-hal tersebut mewakili semua jenis alat, gadget, dan peralatan yang disempurnakan dengan sensor yang menghasilkan data. Gateway adalah perangkat terpusat, katakanlah, router, yang menghubungkan berbagai hal ke cloud. Bersama-sama, perangkat akhir dan gateway membentuk lapisan tepi.

Edge AI, pada gilirannya, berarti menerapkan algoritme AI lebih dekat ke tepi jaringan, baik ke perangkat yang terhubung (node ​​akhir) atau gateway (node ​​tepi).

Berbeda dengan pendekatan berbasis cloud, di mana algoritme AI dikembangkan dan diterapkan di cloud, sistem AI edge-centric membuat keputusan dalam hitungan milidetik dan dijalankan dengan biaya lebih rendah.

Manfaat lain dari edge AI dibandingkan dengan solusi cloud AI meliputi:

• Waktu pemrosesan yang lebih rendah: karena data dianalisis secara lokal, tidak perlu mengirim permintaan ke cloud dan menunggu tanggapan, yang sangat penting untuk aplikasi kritis waktu, seperti perangkat medis atau sistem bantuan pengemudi
• Mengurangi bandwidth dan biaya: tanpa memerlukan data sensor bervolume tinggi untuk dikirim ke cloud, sistem AI edge memerlukan bandwidth yang lebih rendah (digunakan terutama untuk mentransfer metadata), sehingga biaya operasional menjadi lebih rendah
• Keamanan yang ditingkatkan: memproses data secara lokal membantu mengurangi risiko informasi sensitif disusupi di cloud atau saat transit
• Keandalan yang lebih baik: AI edge terus berjalan meskipun terjadi gangguan jaringan atau layanan cloud untuk sementara tidak tersedia
• Konsumsi energi yang dioptimalkan: memproses data secara lokal biasanya menghabiskan lebih sedikit energi daripada mengirim data yang dihasilkan ke cloud, yang membantu memperpanjang masa pakai baterai perangkat akhir

Menurut Markets and Markets, ukuran pasar perangkat lunak edge AI global diperkirakan akan mencapai $1,8 miliar pada tahun 2026, tumbuh pada CAGR sebesar 20,8%. Berbagai faktor, seperti peningkatan beban kerja perusahaan di cloud dan pertumbuhan pesat jumlah aplikasi cerdas, diharapkan dapat mendorong penerapan solusi edge AI.

Bagaimana edge AI bekerja di bawah tenda

Terlepas dari ketidakpercayaan yang umum, solusi AI berpusat pada tepi standar biasanya diterapkan secara hibrid — dengan perangkat tepi membuat keputusan berdasarkan streaming data dan pusat data (biasanya, cloud) digunakan untuk merevisi dan melatih ulang model AI yang diterapkan.

Jadi, arsitektur dasar AI edge biasanya terlihat seperti ini:

Agar sistem AI edge dapat memahami ucapan manusia, mengemudikan kendaraan, dan melakukan tugas non-sepele lainnya, mereka membutuhkan kecerdasan seperti manusia. Dalam sistem ini, kognisi manusia direplikasi dengan bantuan algoritma pembelajaran mendalam, bagian dari AI.

Proses pelatihan model deep learning sering berjalan di cloud karena untuk mencapai akurasi yang lebih tinggi diperlukan volume data yang besar dan daya pemrosesan yang besar. Setelah dilatih, model deep learning diterapkan ke perangkat end atau edge, di mana mereka sekarang berjalan secara mandiri.

Jika model mengalami masalah, umpan balik dikirim ke cloud tempat pelatihan ulang dimulai hingga model di tepi diganti dengan model baru yang lebih akurat. Putaran umpan balik ini memungkinkan solusi edge AI tetap akurat dan efektif.

Ikhtisar teknologi perangkat keras dan perangkat lunak yang memungkinkan AI tepi

Implementasi AI tepi standar memerlukan komponen perangkat keras dan perangkat lunak.

Bergantung pada aplikasi edge AI tertentu, mungkin ada beberapa opsi perangkat keras untuk melakukan pemrosesan AI edge. Yang paling umum mencakup CPU, GPU, sirkuit terintegrasi khusus aplikasi (ASIC), dan array gerbang yang dapat diprogram lapangan (FPGA).

ASIC memungkinkan kemampuan pemrosesan yang tinggi sekaligus hemat energi, yang menjadikannya cocok untuk beragam aplikasi edge AI.

GPU , pada gilirannya, bisa sangat mahal, terutama jika menyangkut dukungan solusi edge skala besar. Namun, mereka adalah opsi masuk untuk kasus penggunaan kritis latensi yang memerlukan data untuk diproses secepat kilat, seperti mobil tanpa pengemudi atau sistem bantuan pengemudi tingkat lanjut.

FPGA memberikan kekuatan pemrosesan, efisiensi energi, dan fleksibilitas yang lebih baik. Keuntungan utama dari FPGA adalah dapat diprogram, yaitu perangkat keras "mengikuti" instruksi perangkat lunak. Itu memungkinkan lebih banyak penghematan daya dan kemampuan konfigurasi ulang, karena seseorang dapat dengan mudah mengubah sifat aliran data di perangkat keras dibandingkan dengan ASIC, CPU, dan GPU yang dikodekan keras.

Secara keseluruhan, memilih opsi perangkat keras yang optimal untuk solusi AI edge, seseorang harus mempertimbangkan kombinasi faktor, termasuk konfigurasi ulang, konsumsi daya, ukuran, kecepatan pemrosesan, dan biaya. Berikut perbandingan opsi perangkat keras populer menurut kriteria yang disebutkan:

Sumber

Pada gilirannya, perangkat lunak AI edge mencakup tumpukan teknologi lengkap yang memungkinkan proses pembelajaran mendalam dan memungkinkan algoritme AI berjalan di perangkat edge. Infrastruktur software edge AI mencakup penyimpanan, pengelolaan data, analisis data/inferensi AI, dan komponen jaringan.

Kasus penggunaan Edge AI

Perusahaan lintas sektor sudah mendapat manfaat dari edge AI. Berikut adalah ikhtisar kasus penggunaan AI edge yang paling menonjol dari berbagai industri.

Ritel: meningkatkan pengalaman berbelanja

Pengalaman berbelanja yang positif menjadi perhatian utama pengecer, karena merupakan faktor yang menentukan retensi pelanggan. Dengan penggunaan analitik yang didukung AI, pengecer dapat membuat konsumen puas, memastikan mereka berubah menjadi pelanggan tetap.

Salah satu dari banyak aplikasi edge AI yang membantu karyawan ritel dalam operasi harian mereka dan menciptakan pengalaman pelanggan yang lebih baik adalah penggunaan edge AI untuk menentukan kapan produk perlu diisi ulang dan diganti.

Aplikasi AI edge lainnya menggunakan solusi visi komputer dalam sistem pembayaran cerdas yang pada akhirnya dapat membebaskan pelanggan dari kebutuhan untuk memindai barang mereka di konter.

Pengecer juga menggunakan analitik video cerdas untuk menggali preferensi pelanggan dan meningkatkan tata letak toko yang sesuai.

Manufaktur: membawa pabrik pintar

Perusahaan manufaktur, terutama yang terlibat dalam manufaktur presisi, perlu memastikan keakuratan dan keamanan proses produksi. Dengan meningkatkan lokasi manufaktur dengan AI, produsen dapat memastikan lantai toko aman dan efisien. Untuk itu, mereka mengadopsi aplikasi AI yang melakukan inspeksi lantai pabrik, seperti yang digunakan oleh Procter & Gamble dan BMW.

Procter & Gamble menggunakan solusi AI canggih yang mengandalkan rekaman dari kamera inspeksi untuk memeriksa tangki campuran bahan kimia. Untuk mencegah produk dengan cacat masuk ke jalur manufaktur, solusi AI edge yang diterapkan tepat di kamera menunjukkan ketidaksempurnaan dan memberi tahu manajer lantai toko tentang penyimpangan kualitas yang terlihat.

BMW menggunakan kombinasi komputasi tepi dan kecerdasan buatan untuk mendapatkan tampilan lantai pabrik secara real-time. Perusahaan mendapatkan gambaran yang jelas tentang jalur perakitannya melalui kamera pintar yang dipasang di seluruh fasilitas manufaktur.

Otomotif: memungkinkan mobil otonom

Mobil otonom dan sistem bantuan pengemudi canggih mengandalkan edge AI untuk meningkatkan keselamatan, meningkatkan efisiensi, dan menurunkan risiko kecelakaan.

Mobil otonom dilengkapi dengan berbagai sensor yang mengumpulkan informasi tentang kondisi jalan, lokasi pejalan kaki, tingkat cahaya, kondisi mengemudi, objek di sekitar kendaraan, dan faktor lainnya. Karena masalah keamanan, volume data yang besar ini perlu diproses dengan cepat. Edge AI menangani tugas pemantauan sensitif latensi, seperti deteksi objek, pelacakan objek, dan kesadaran lokasi.

Keamanan: memperkuat pengenalan wajah

Salah satu area yang semakin beralih ke edge adalah pengenalan wajah.

Untuk aplikasi keamanan dengan kemampuan pengenalan wajah, katakanlah, sistem keamanan rumah pintar, waktu respons sangatlah penting. Dalam sistem berbasis cloud tradisional, rekaman kamera terus dipindahkan di sekitar jaringan, yang memengaruhi kecepatan pemrosesan solusi dan biaya pengoperasian.

Pendekatan yang lebih efektif adalah memproses data video langsung di kamera keamanan. Karena tidak diperlukan waktu untuk mentransfer data ke cloud, aplikasi dapat lebih andal dan responsif.

Elektronik konsumen: memungkinkan fitur baru di perangkat seluler

Perangkat seluler menghasilkan banyak data. Memproses data ini di cloud memiliki tantangan tersendiri, seperti latensi tinggi dan penggunaan bandwidth. Untuk mengatasi masalah ini, pengembang seluler telah mulai menggunakan edge AI untuk memproses data yang dihasilkan dengan kecepatan lebih tinggi dan biaya lebih rendah.

Kasus penggunaan seluler yang diaktifkan oleh edge AI mencakup pengenalan suara dan wajah, deteksi gerak dan jatuh, dan seterusnya.

Pendekatan umum masih hybrid. Data yang membutuhkan lebih banyak penyimpanan atau kemampuan komputasi yang tinggi dikirim ke cloud atau lapisan kabut, sedangkan data yang dapat diinterpretasikan secara lokal tetap berada di edge.

Hambatan terhadap adopsi AI tepi

Daya komputasi terbatas

Melatih algoritme AI membutuhkan daya komputasi yang memadai, yang sebagian besar tidak dapat dicapai di edge. Jadi, sebagian besar aplikasi yang berpusat pada edge masih berisi bagian cloud, tempat algoritme AI dilatih dan diperbarui.

Jika Anda condong ke arah membangun aplikasi yang berpusat pada tepi yang tidak terlalu bergantung pada cloud, Anda perlu memikirkan cara mengoptimalkan penyimpanan data di perangkat (misalnya, hanya menyimpan bingkai yang menampilkan wajah dalam aplikasi pengenalan wajah) dan proses pelatihan AI.

kerentanan keamanan

Meskipun sifat aplikasi tepi yang terdesentralisasi dan tidak perlu data untuk melakukan perjalanan di seluruh jaringan meningkatkan fitur keamanan aplikasi yang berpusat pada tepi, simpul akhir masih rentan terhadap serangan dunia maya. Jadi, langkah-langkah keamanan tambahan diperlukan untuk mengatasi risiko keamanan. Model pembelajaran mesin yang mendukung solusi canggih juga dapat diakses dan dirusak oleh penjahat. Menguncinya dan memperlakukannya sebagai aset utama dapat membantu Anda mencegah masalah keamanan terkait edge.

Kehilangan data

Sifat edge menyiratkan bahwa data mungkin tidak sampai ke cloud untuk disimpan. Perangkat akhir dapat dikonfigurasi untuk membuang data yang dihasilkan untuk mengurangi biaya pengoperasian atau meningkatkan kinerja sistem. Meskipun pengaturan cloud hadir dengan batasan yang adil, keuntungan utama dari itu adalah fakta bahwa semua — atau hampir semua — data yang dihasilkan disimpan, oleh karena itu, dapat digunakan untuk mengumpulkan wawasan.

Jika penyimpanan data diperlukan untuk kasus penggunaan tertentu, kami menyarankan untuk menggunakan hybrid dan menggunakan cloud untuk menyimpan dan menganalisis penggunaan dan data statistik lainnya, seperti yang kami lakukan saat mengembangkan cermin kebugaran cerdas untuk klien kami.

Jika Anda masih memiliki pertanyaan yang belum terjawab tentang edge AI atau mencari mitra tepercaya untuk mengimplementasikan aplikasi edge AI, tinggalkan ITRex. Pakar kami akan dengan senang hati membantu Anda.

Awalnya diterbitkan di https://itrexgroup.com pada 1 November 2022.