Risiko tinggi, imbalan tinggi: Bagaimana merek dapat menggunakan AI secara etis

AI generatif telah mengubah dunia, tetapi tidak semua yang berkilau adalah emas. Meskipun minat konsumen terhadap ChatGPT tinggi, ada kekhawatiran yang meningkat di antara para pakar dan konsumen tentang bahaya AI bagi masyarakat. Kekhawatiran seputar kehilangan pekerjaan, keamanan data, misinformasi, dan diskriminasi adalah beberapa area utama yang menimbulkan kekhawatiran.

AI adalah ketakutan yang tumbuh paling cepat di AS, naik 26% dari hanya seperempat yang lalu.

AI tidak diragukan lagi akan mengubah cara kita bekerja, tetapi perusahaan perlu menyadari masalah yang menyertainya. Di blog ini, kita akan mengeksplorasi kekhawatiran konsumen seputar pekerjaan dan keamanan data, bagaimana merek dapat meredakan kekhawatiran, dan melindungi diri mereka sendiri dan konsumen dari potensi risiko.

1. Menjaga AI generatif

Konten AI generatif, seperti ChatGPT dan pembuat gambar DALL-E, dengan cepat menjadi bagian dari kehidupan sehari-hari, dengan lebih dari separuh konsumen melihat konten yang dihasilkan AI setidaknya setiap minggu. Karena alat ini membutuhkan data dalam jumlah besar untuk dipelajari dan menghasilkan respons, informasi sensitif dapat menyelinap ke dalam campuran.

Dengan banyak bagian yang bergerak, platform AI generatif memungkinkan pengguna menyumbangkan kode dengan berbagai cara dengan harapan dapat meningkatkan proses dan kinerja. Sisi negatifnya adalah dengan banyaknya kontribusi, kerentanan sering kali luput dari perhatian, dan informasi pribadi dapat terungkap. Situasi persis inilah yang terjadi pada ChatGPT pada awal Mei 2023.

Dengan lebih dari separuh konsumen mengatakan pelanggaran data akan menyebabkan mereka memboikot merek, privasi data perlu diprioritaskan. Sementara langkah-langkah sedang dibuat untuk menulis undang-undang tentang AI, sementara itu, merek perlu memberlakukan aturan transparansi dan pedoman penggunaan sendiri, dan mengumumkannya kepada publik.

2 dari 3 konsumen menginginkan perusahaan yang membuat alat AI transparan tentang cara pengembangannya.

Melakukan hal itu dapat membangun kepercayaan merek, mata uang yang sangat didambakan saat ini. Selain kualitas, keamanan data adalah faktor terpenting dalam hal mempercayai merek. Dengan loyalitas merek yang semakin rapuh, merek perlu meyakinkan konsumen bahwa data mereka ada di tangan yang aman.

Jadi apa salah satu cara terbaik untuk mengamankan data di era AI? Lini pertahanan pertama adalah melatih staf tentang alat AI, dengan 71% pekerja mengatakan bahwa mereka tertarik dengan pelatihan. Menggabungkan ini dengan pelatihan perlindungan data sama pentingnya. Pendidikan sangat penting di sini – mempersenjatai pekerja dengan pengetahuan yang dibutuhkan untuk memastikan privasi data menjadi perhatian utama akan sangat bermanfaat.

2. Menjaga agar tetap nyata di dunia berita palsu

Facebook membutuhkan waktu 4,5 tahun untuk mencapai 100 juta pengguna. Sebagai perbandingan, ChatGPT membutuhkan waktu lebih dari dua bulan untuk mencapai pencapaian tersebut.

Betapapun mengesankannya kebangkitan AI generatif, itu menjadi magnet bagi pembuatan berita palsu dalam bentuk audio dan video, yang dikenal sebagai deepfake. Teknologi ini telah digunakan untuk menyebarkan informasi yang salah ke seluruh dunia. Hanya 29% konsumen yang yakin dengan kemampuan mereka untuk membedakan antara konten buatan AI dan konten "nyata", yang kemungkinan akan menjadi lebih buruk karena deepfake semakin canggih.

Hampir dua pertiga pengguna ChatGPT mengatakan bahwa mereka berinteraksi dengan alat tersebut seperti mereka akan menjadi orang sungguhan, yang menunjukkan betapa berpotensi persuasif alat tersebut.

Tetapi konsumen telah melihat ini datang; 64% mengatakan mereka khawatir alat AI dapat digunakan untuk tujuan yang tidak etis. Dengan kekhawatiran ini, dan rendahnya kepercayaan diri dalam mendeteksi deepfake, mereklah yang dapat membuat perbedaan dalam melindungi konsumen dari gelombang terbaru berita palsu ini dan memberikan edukasi tentang cara mengidentifikasi konten semacam itu.

Merek dapat memulai dengan menerapkan verifikasi sumber dan melakukan uji tuntas pada setiap informasi yang ingin mereka bagikan atau promosikan. Dengan nada yang sama, mereka dapat bermitra atau menggunakan proses pemeriksaan fakta internal pada setiap berita yang mungkin mereka terima. Untuk sebagian besar merek, langkah-langkah ini kemungkinan besar sudah diterapkan, karena berita palsu dan informasi yang salah telah merajalela selama bertahun-tahun.

Tetapi karena deepfake menjadi lebih pintar, merek harus tetap di atasnya. Untuk mengalahkan mereka, merek mungkin perlu beralih ke AI sekali lagi dalam bentuk alat deteksi berbasis AI yang dapat mengidentifikasi dan menandai konten yang dihasilkan AI. Alat-alat ini akan menjadi kebutuhan di era AI, tetapi mungkin tidak cukup karena pelaku jahat biasanya selangkah lebih maju. Namun, kombinasi alat pendeteksi dan pengawasan manusia untuk menafsirkan konteks dan kredibilitas dengan benar dapat menggagalkan yang terburuk.

Transparansi juga merupakan kunci. Memberi tahu konsumen bahwa Anda melakukan sesuatu untuk mengatasi berita palsu yang dihasilkan oleh AI dapat memperoleh poin kepercayaan dengan mereka, dan membantu menetapkan standar industri yang dapat membantu semua orang tetap mengikuti deepfake.

3. Memerangi bias bawaan

Tidak ada yang menginginkan mimpi buruk PR, tetapi itu kemungkinan nyata jika merek tidak memeriksa ulang informasi yang mereka dapatkan dari alat AI mereka. Ingat, alat AI belajar dari data yang diambil dari internet – data yang penuh dengan bias, kesalahan, dan diskriminasi manusia.

Untuk menghindari hal ini, merek harus menggunakan kumpulan data yang beragam dan representatif untuk melatih model AI. Meskipun sepenuhnya menghilangkan bias dan diskriminasi hampir tidak mungkin, menggunakan berbagai kumpulan data dapat membantu menghilangkan sebagian darinya. Lebih banyak konsumen yang peduli dengan bagaimana alat AI dikembangkan daripada tidak, dan beberapa transparansi tentang topik tersebut dapat membuat mereka lebih memercayai alat ini.

Meskipun semua merek harus memperhatikan penggunaan data yang tidak bias, industri tertentu harus lebih berhati-hati daripada yang lain. Merek perbankan dan perawatan kesehatan khususnya harus sangat sadar tentang bagaimana mereka menggunakan AI, karena industri ini memiliki sejarah diskriminasi sistemik. Menurut data kami, perilaku yang membahayakan komunitas tertentu adalah alasan utama konsumen memboikot merek, dan dalam terabyte data yang digunakan untuk melatih alat AI terdapat data yang berpotensi berbahaya.

Selain tinjauan mendetail tentang kumpulan data yang digunakan, merek juga membutuhkan manusia, sebaiknya yang memiliki pelatihan beragam, ekuitas, dan inklusi (DE&I), untuk mengawasi keseluruhan proses. Menurut kumpulan data GWI USA Plus kami, DE&I penting bagi 70% orang Amerika, dan mereka cenderung membeli dari merek yang memiliki nilai yang sama.

4. Mencapai keseimbangan yang tepat dengan otomatisasi di tempat kerja

Mari kita berbicara dengan gajah di dalam ruangan. Akankah AI menjadi teman atau musuh bagi pekerja? Tidak diragukan lagi itu akan mengubah pekerjaan seperti yang kita ketahui, tetapi seberapa besar dampak AI di tempat kerja akan bergantung pada siapa yang Anda tanya.

Apa yang kami ketahui adalah bahwa sebagian besar pekerja mengharapkan AI memiliki semacam dampak pada pekerjaan mereka. Otomatisasi aspek besar peran karyawan diharapkan, terutama di industri teknologi dan manufaktur/logistik. Secara keseluruhan, pekerja tampak bersemangat dengan AI, dengan 8 dari 12 sektor mengatakan otomatisasi akan berdampak positif.

Di sisi lain, hampir 25% pekerja melihat AI sebagai ancaman terhadap pekerjaan, dan mereka yang bekerja di industri perjalanan dan kesehatan & kecantikan sangat gugup. AI generatif tampaknya meningkat secara eksponensial setiap bulan, jadi pertanyaannya adalah: Jika AI dapat menangani tugas-tugas biasa sekarang, apa yang akan terjadi selanjutnya?

Bahkan jika AI mengambil sekitar 80 juta pekerjaan secara global, pekerja dapat menemukan cara untuk menggunakan AI secara efektif untuk meningkatkan keterampilan mereka sendiri, bahkan di industri yang rentan. Layanan pelanggan diatur untuk menjalani peningkatan besar-besaran dengan AI, tetapi itu tidak dapat terjadi tanpa manusia. AI generatif dapat menangani sebagian besar pertanyaan, tetapi manusia perlu hadir untuk menangani informasi sensitif dan memberikan sentuhan empatik. Manusia juga dapat bekerja dengan AI untuk memberikan solusi dan rekomendasi yang lebih dipersonalisasi, yang sangat penting dalam industri perjalanan dan kecantikan.

AI mengotomatiskan beberapa tugas dapat membebaskan pekerja untuk berkontribusi dengan cara lain. Mereka dapat mendedikasikan waktu ekstra untuk pemikiran strategis dan menghasilkan solusi inovatif, yang mungkin menghasilkan produk dan layanan baru. Ini akan berbeda untuk setiap perusahaan dan industri, tetapi mereka yang mampu mencapai keseimbangan yang tepat antara AI dan pekerja manusia harus berkembang di era AI.

Petunjuk terakhir: Apa yang perlu Anda ketahui

AI bisa sangat kuat, tetapi merek perlu menyadari risikonya. Mereka harus melindungi data konsumen dan mewaspadai berita palsu. Transparansi akan menjadi kunci. Konsumen gelisah dengan masa depan AI, dan merek yang menunjukkan kepada mereka bahwa mereka berperilaku etis dan bertanggung jawab akan sangat bermanfaat.

Teknologinya menarik, dan kemungkinan besar akan berdampak positif di tempat kerja secara keseluruhan. Tetapi merek harus melanjutkan dengan hati-hati, dan mencoba mencapai keseimbangan yang tepat antara modal teknologi dan manusia. Karyawan akan membutuhkan pelatihan ekstensif tentang etika, keamanan, dan penerapan yang benar, dan hal itu akan meningkatkan keterampilan mereka. Dengan mengintegrasikan alat AI untuk bekerja bersama orang-orang, bukan langsung menggantinya, merek dapat mencapai keseimbangan yang akan mempersiapkan mereka untuk masa depan yang disempurnakan dengan AI.