Undang-undang UE AI. Bagaimana Eropa mengatur penggunaan kecerdasan buatan | AI dalam bisnis #68

Apa itu UU AI, dan mengapa UU ini penting bagi UKM (usaha kecil dan menengah)?

UU AI merupakan peraturan pertama yang sejenis di dunia. Yang pertama secara komprehensif mengatasi kecerdasan buatan dari pendekatan yang berpusat pada manusia hingga AI. Hal ini bertujuan untuk memastikan bahwa sistem AI yang digunakan di Eropa aman dan merangsang inovasi, dengan tetap menghormati hak-hak dasar, dengan fokus khusus pada:

• layanan kesehatan – misalnya, menghormati privasi data pasien,
• pendidikan – mematuhi nilai-nilai yang dipromosikan oleh Uni Eropa dan menghindari diskriminasi,
• perlindungan perbatasan – memastikan keamanan tanpa melanggar hak-hak warga negara,
• layanan publik – mengikuti praktik terbaik dalam perlindungan data, hak atas informasi, dan komunikasi yang jelas.

Bagi UKM, UU AI terutama akan memberikan kepastian hukum yang lebih besar karena UU ini secara jelas mendefinisikan kerangka kerja inovasi: prinsip-prinsip perancangan, pengembangan, dan penerapan sistem AI. Hal ini akan memudahkan perusahaan untuk berinvestasi dalam solusi berbasis AI, sehingga mengurangi risiko hukum. Selain itu, peraturan yang berlaku di seluruh Uni Eropa akan mencegah fragmentasi pasar.

Peraturan Eropa tentang kecerdasan buatan diadopsi oleh Parlemen Eropa dan Dewan Eropa pada tanggal 9 Desember 2023. Kini, peraturan tersebut harus diterima secara resmi oleh kedua institusi agar dapat berlaku.

Aspek-aspek penting dari UU AI untuk bisnis

Undang-Undang AI UE memperkenalkan serangkaian persyaratan untuk sistem AI, tergantung pada tingkat risikonya. Persyaratan tersebut antara lain:

• kewajiban transparansi dan memberi tahu pengguna jika terjadi interaksi dengan chatbot, sistem biometrik, atau teknologi pengenalan emosi,
• larangan menggunakan atribut sensitif untuk kategorisasi biometrik,
• penilaian kepatuhan wajib sebelum memasuki pasar untuk sistem berisiko tinggi,
• pendaftaran wajib di database UE — setelah UU AI mulai berlaku, sistem AI yang digunakan di sektor-sektor utama seperti pendidikan, ketenagakerjaan, layanan kesehatan, dan penegakan hukum akan diwajibkan untuk didaftarkan.

Produsen dan perusahaan yang menggunakan sistem AI juga wajib memantau risiko setelah memperkenalkannya ke pasar. Hal ini akan berdampak langsung pada perusahaan yang merancang dan menerapkan sistem AI.

Tingkat risiko sistem AI menurut EU AI Act

UU AI mengklasifikasikan sistem AI ke dalam empat kategori berdasarkan tingkat risikonya:

1. Risiko yang tidak dapat diterima
2. Berisiko tinggi
3. Risiko terbatas
4. Risiko minimal

Mari kita lihat lebih dekat bagaimana setiap kelompok akan didefinisikan, beserta contoh sistem dan klasifikasinya.

Risiko yang tidak dapat diterima

Uni Eropa memberlakukan larangan total terhadap penggunaan teknologi yang tercantum dalam UU AI sebagai sistem dengan risiko yang tidak dapat diterima. Hal ini terutama merupakan sistem yang dirancang untuk mengeksploitasi kerentanan individu terhadap saran manipulasi atau penipuan, sistem yang memberikan kecerdasan buatan kemampuan untuk mengambil keputusan dalam hal-hal penting, dan sistem yang dapat mengarah pada penyalahgunaan kekuasaan. Contoh AI dengan risiko yang tidak dapat diterima meliputi:

• senjata otonom yang beroperasi tanpa pengawasan manusia,
• sistem penilaian kredibilitas yang digunakan oleh lembaga penegak hukum,
• sistem identifikasi otomatis individu di ruang publik, seperti yang didasarkan pada rekaman kamera pengintai,
• sistem kecerdasan buatan yang mungkin berbahaya bagi individu dengan cacat fisik atau mental,
• AI digunakan untuk tujuan penegakan hukum, dengan pengecualian terbatas,
• sistem kecerdasan buatan yang menggunakan teknik “bawah sadar” dan manipulatif yang berbahaya.

Untuk bisnis, kategori terakhir ini sangat penting. Inilah sebabnya mengapa transparansi dalam pengoperasian sistem yang memberikan saran kepada pengguna dan pelanggan akan sangat penting untuk mematuhi undang-undang baru Uni Eropa.

Berisiko tinggi

Kecerdasan buatan yang diklasifikasikan sebagai solusi AI berisiko tinggi harus memenuhi persyaratan yang ketat sebelum memasuki pasar. Hal ini melibatkan penilaian kepatuhan dan pengujian ketat sebelum disetujui untuk digunakan. Kategori risiko ini mencakup delapan bidang, seperti:

• kendaraan otonom,
• sistem diagnostik medis,
• algoritma prediktif yang mendukung sistem peradilan,
• manajemen migrasi dan suaka, kontrol perbatasan, serta
• ketenagakerjaan dan pengelolaan tenaga kerja.

Risiko terbatas

Untungnya, para legislator kurang memberikan perhatian terhadap sistem dengan risiko terbatas, yang paling sering digunakan dalam bisnis. Kategori ini meliputi:

• Chatbot AI – digunakan untuk layanan pelanggan atau menjawab pertanyaan umum dalam bentuk percakapan yang mengalir bebas,
• sistem pengenalan emosi – digunakan, misalnya, untuk mengumpulkan data tentang opini pelanggan tentang suatu perusahaan,
• sistem kategorisasi biometrik – seperti menilai jenis kelamin atau usia pelanggan di toko fisik,
• pembuatan gambar, audio, atau video – meskipun ada ancaman yang ditimbulkan oleh pemalsuan besar-besaran, bidang ini akan tunduk pada serangkaian kewajiban terbatas.

Risiko rendah atau minimal

Solusi AI berisiko rendah tidak tunduk pada peraturan hukum. UU AI hanya akan menyebutkan bahwa pembuat dan pengguna solusi tersebut harus secara sukarela menetapkan kebijakan penggunaan. Hal ini berkaitan dengan solusi seperti:

• sistem rekomendasi konten dalam layanan streaming, atau
• chatbots di situs web menanggapi pertanyaan umum pelanggan.

Persyaratan apa yang diberlakukan oleh AI Act pada solusi yang digunakan oleh perusahaan saya?

Untuk memeriksa apakah kecerdasan buatan yang digunakan oleh suatu perusahaan mematuhi UU AI, Anda harus:

• mengklasifikasikannya ke dalam salah satu dari empat kategori risiko yang dijelaskan di atas,
• jika AI tersebut berisiko tinggi, lakukan penilaian kepatuhan,
• menggunakan praktik yang baik terkait AI berisiko rendah.

Mari kita lihat contoh solusi AI yang sering digunakan oleh perusahaan. Persyaratan apa yang harus mereka penuhi?

Chatbot layanan pelanggan yang memberikan informasi dasar tentang produk atau menjawab pertanyaan umum pelanggan kemungkinan besar akan diklasifikasikan sebagai sistem dengan risiko minimal. Ini perlu:

• memberi tahu pengguna bahwa mereka berinteraksi dengan AI,
• memberikan opsi untuk dialihkan ke konsultan manusia,
• mematuhi persyaratan umum mengenai transparansi, non-diskriminasi, dll.

Sistem rekomendasi produk di e-commerce kemungkinan besar akan dianggap sebagai sistem yang berisiko rendah. Penting untuk memberi tahu pelanggan bahwa mereka menerima rekomendasi yang dipersonalisasi dan memberikan opsi untuk menonaktifkannya.

Sebaliknya, sistem diagnosa medis otomatis akan tergolong sistem berisiko tinggi. Ini perlu menjalani penilaian yang ketat sebelum memasuki pasar dan diawasi oleh manusia. Selain itu, pemantauan operasi dan pelaporan insiden juga diperlukan.

Sistem pencegahan kejahatan perkotaan juga akan dianggap berisiko tinggi. Hal ini harus mematuhi peraturan tentang perlindungan privasi dan hak-hak dasar lainnya. Pengoperasiannya harus selalu berada di bawah pengawasan manusia.

Masih belum jelas kategori mana yang akan mencakup sistem pengambilan keputusan berbasis AI. Kemungkinan besar sistem rekrutmen berbasis AI yang membuat keputusan perekrutan sendiri akan dianggap sebagai solusi AI dengan risiko yang tidak dapat diterima. Di sisi lain, sistem pendukung rekrutmen yang membantu masyarakat melakukan pekerjaannya akan dianggap sebagai solusi yang berisiko tinggi.

Demi kesejahteraan pengguna, serta kemungkinan perubahan klasifikasi, sangat penting untuk melakukan pendekatan terhadap konstruksi dan penggunaan sistem AI dengan cara yang etis dan bertanggung jawab sejak awal.

Apa akibat jika tidak mematuhi UU AI?

Kegagalan untuk mematuhi UU AI dapat mengakibatkan denda yang signifikan bagi perusahaan, mulai dari €35 juta atau 7% dari omset global untuk perusahaan besar hingga €7,5 juta atau 1,5% untuk UKM. Sistem AI yang melanggar hukum mungkin akan dikeluarkan dari pasar, dan penggunaannya dapat dibatasi.

Bagaimana mempersiapkan diri agar UU AI berlaku?

Lalu bagaimana mempersiapkan perusahaan yang menggunakan kecerdasan buatan agar UU AI mulai berlaku pada tahun 2025? Berikut beberapa tips bagaimana UKM dan startup dapat mempersiapkan diri menghadapi momen ini:

• mengikuti kemajuan pekerjaan dan jadwal pelaksanaan peraturan,
• mengevaluasi sistem AI yang sudah digunakan dan menyesuaikannya dengan persyaratan baru,
• memberikan perhatian khusus pada aspek etika dalam desain AI.

Ringkasan

Pengenalan UU AI merupakan perubahan besar bagi ekosistem AI di Eropa. Namun, dengan peraturan yang jelas dan konsisten, mereka berjanji untuk memastikan pengembangan teknologi ini aman dan etis, yang pada khususnya akan menguntungkan UKM dan start-up.

UU AI, yang akan mulai berlaku pada tahun 2025, akan membawa perubahan signifikan dalam cara usaha kecil dan menengah (UKM) dapat memanfaatkan kecerdasan buatan. Bagi UKM, hal ini terutama berarti perlunya pertimbangan dan analisis yang cermat terhadap solusi AI yang mereka gunakan, baik dalam hal kepatuhan terhadap peraturan maupun potensi dampaknya terhadap pelanggan dan komunitas.

Bagi pemilik dan manajer usaha kecil, penting untuk memahami bagaimana sistem AI mereka dikategorikan berdasarkan risiko dan tindakan apa yang diperlukan untuk menyelaraskannya dengan peraturan yang akan datang. Ambil contoh, sistem AI yang digunakan dalam manajemen pelanggan atau pemasaran, yang sebelumnya digunakan secara bebas. Kini, mereka memerlukan analisis menyeluruh untuk mematuhi UU AI. Hal ini dapat menciptakan peluang baru bagi perusahaan yang berspesialisasi dalam nasihat hukum teknologi, sehingga memberikan dukungan kepada UKM dalam beradaptasi dengan persyaratan baru ini.

Jika Anda menyukai konten kami, bergabunglah dengan komunitas lebah kami yang sibuk di Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.

Penulis: Robert Whitney

Pakar JavaScript dan instruktur yang melatih departemen TI. Tujuan utamanya adalah meningkatkan produktivitas tim dengan mengajari orang lain cara bekerja sama secara efektif saat membuat kode.

Lihat semua postingan

AI dalam bisnis:

1. Ancaman dan peluang AI dalam bisnis (bagian 1)
2. Ancaman dan peluang AI dalam bisnis (bagian 2)
3. Aplikasi AI dalam bisnis - ikhtisar
4. Chatbot teks yang dibantu AI
5. Bisnis NLP hari ini dan besok
6. Peran AI dalam pengambilan keputusan bisnis
7. Menjadwalkan posting media sosial. Bagaimana AI dapat membantu?
8. Postingan media sosial otomatis
9. Layanan dan produk baru yang beroperasi dengan AI
10. Apa kelemahan ide bisnis saya? Sesi brainstorming dengan ChatGPT
11. Menggunakan ChatGPT dalam bisnis
12. Aktor sintetik. 3 generator video AI teratas
13. 3 alat desain grafis AI yang berguna. AI generatif dalam bisnis
14. 3 penulis AI hebat yang harus Anda coba hari ini
15. Menjelajahi kekuatan AI dalam penciptaan musik
16. Menavigasi peluang bisnis baru dengan ChatGPT-4
17. Alat AI untuk manajer
18. 6 plugin ChatGTP mengagumkan yang akan membuat hidup Anda lebih mudah
19. 3 grafik AI. Menghasilkan kecerdasan dalam bisnis
20. Bagaimana masa depan AI menurut McKinsey Global Institute?
21. Kecerdasan buatan dalam bisnis - Pendahuluan
22. Apa itu NLP, atau pemrosesan bahasa alami dalam bisnis
23. Pemrosesan dokumen otomatis
24. Google Terjemahan vs DeepL. 5 aplikasi terjemahan mesin untuk bisnis
25. Pengoperasian dan aplikasi bisnis voicebots
26. Teknologi asisten virtual, atau bagaimana cara berbicara dengan AI?
27. Apa itu Intelijen Bisnis?
28. Akankah kecerdasan buatan menggantikan analis bisnis?
29. Bagaimana kecerdasan buatan dapat membantu mengatasi BPM?
30. AI dan media sosial – apa pendapat mereka tentang kita?
31. Kecerdasan buatan dalam manajemen konten
32. AI kreatif hari ini dan masa depan
33. AI multimodal dan penerapannya dalam bisnis
34. Interaksi baru. Bagaimana AI mengubah cara kita mengoperasikan perangkat?
35. RPA dan API di perusahaan digital
36. Pasar kerja masa depan dan profesi yang akan datang
37. AI di EdTech. 3 contoh perusahaan yang memanfaatkan potensi kecerdasan buatan
38. Kecerdasan buatan dan lingkungan. 3 solusi AI untuk membantu Anda membangun bisnis yang berkelanjutan
39. Detektor konten AI. Apakah itu layak?
40. ObrolanGPT vs Bard vs Bing. Chatbot AI manakah yang memimpin persaingan?
41. Apakah chatbot AI merupakan pesaing pencarian Google?
42. Perintah ChatGPT yang Efektif untuk SDM dan Rekrutmen
43. Rekayasa yang cepat. Apa yang dilakukan seorang insinyur yang cepat?
44. Pembuat AI Mockup. 4 alat teratas
45. AI dan apa lagi? Tren teknologi teratas untuk bisnis pada tahun 2024
46. AI dan etika bisnis. Mengapa Anda harus berinvestasi pada solusi etis
47. Meta AI. Apa yang perlu Anda ketahui tentang fitur-fitur yang didukung AI di Facebook dan Instagram?
48. Regulasi AI. Apa yang perlu Anda ketahui sebagai seorang wirausaha?
49. 5 penggunaan baru AI dalam bisnis
50. Produk dan proyek AI - apa bedanya dengan yang lain?
51. Otomatisasi proses yang dibantu AI. Mulai dari mana?
52. Bagaimana Anda mencocokkan solusi AI dengan masalah bisnis?
53. AI sebagai ahli di tim Anda
54. Tim AI vs. pembagian peran
55. Bagaimana cara memilih bidang karir di AI?
56. Apakah selalu ada gunanya menambahkan kecerdasan buatan ke dalam proses pengembangan produk?
57. AI dalam SDM: Bagaimana otomatisasi perekrutan memengaruhi pengembangan SDM dan tim
58. 6 alat AI paling menarik di tahun 2023
59. 6 kecelakaan bisnis terbesar yang disebabkan oleh AI
60. Apa analisis kematangan AI perusahaan?
61. AI untuk personalisasi B2B
62. Kasus penggunaan ChatGPT. 18 contoh cara meningkatkan bisnis Anda dengan ChatGPT pada tahun 2024
63. Pembelajaran mikro. Cara cepat untuk mendapatkan keterampilan baru
64. Implementasi AI paling menarik di perusahaan pada tahun 2024
65. Apa yang dilakukan pakar kecerdasan buatan?
66. Tantangan apa saja yang ditimbulkan oleh proyek AI?
67. 8 alat AI teratas untuk bisnis pada tahun 2024
68. AI dalam CRM. Apa perubahan AI pada alat CRM?
69. Undang-undang UE AI. Bagaimana Eropa mengatur penggunaan kecerdasan buatan
70. Sora. Bagaimana video realistis dari OpenAI akan mengubah bisnis?