Detektor konten AI. Apakah itu layak? | AI dalam bisnis #38

Apakah Anda ingat ketika beberapa tahun yang lalu kami bersemangat dengan artikel pertama yang dihasilkan AI yang hampir tidak menyerupai prosa manusia? Saat ini, ketika AI dapat menulis esai yang hampir puitis, banyak orang bertanya-tanya bagaimana cara membedakan antara pekerjaan mesin dan pekerjaan manusia. Dan OpenAI, perusahaan di balik kesuksesan ChatGPT, telah menutup akses ke detektor AI-nya untuk selamanya karena tidak efektif.

Saat ini, pengembang pendeteksi konten AI menghadirkannya sebagai alat untuk menjaga keaslian. Pertanyaannya adalah, apakah mereka layak untuk dipercaya dan diinvestasikan? Dalam artikel ini, kita akan melihat cara kerja pendeteksi konten AI, penyebab kepunahannya, tantangan apa yang ditimbulkannya, dan dilema etika yang ditimbulkannya.

Detektor konten AI

Pendeteksi konten AI didasarkan pada model bahasa yang serupa dengan yang digunakan untuk menghasilkan konten AI. Mereka dapat dibagi menjadi mereka yang tugasnya memeriksa asal-usul gambar, teks, dan musik yang dihasilkan dengan dukungan kecerdasan buatan. Setiap jenis “detektor AI” bekerja sedikit berbeda, namun tidak satupun dari mereka dapat membedakan dengan pasti antara konten buatan manusia dan konten buatan AI.

Pendeteksi gambar yang dihasilkan oleh AI memainkan peran yang semakin penting karena kekuatan media dalam menghasilkan berita palsu. Mereka menganalisis anomali, gaya dan pola yang khas, dan mencari tanda-tanda yang ditinggalkan oleh model seperti DALL-E.

Di antara detektor yang digunakan untuk mengidentifikasi gambar adalah alat “AI atau Tidak” dari Optic, yang menggunakan database gambar yang dihasilkan oleh Midjourney, DALL-E, dan Stable Diffusion. Meskipun hasilnya masih belum pasti, hal ini merupakan langkah menuju pengembangan metode identifikasi yang lebih tepat di masa depan.

Sumber: AI atau Bukan (https://www.aiornot.com/)

Di balik pengoperasian detektor AI yang mengenali teks yang dihasilkan AI, terdapat algoritme canggih yang menganalisis struktur dan pilihan kata teks, lalu mengenali pola spesifik AI. Mereka memanfaatkan:

• pengklasifikasi – algoritme yang mengklasifikasikan teks dan memeriksa gaya, nada, dan tata bahasa. Misalnya, deskripsi produk yang sesuai dengan produk apa pun dari jenisnya mungkin diklasifikasikan sebagai ciptaan AI,
• embeddings (embeddings) – representasi numerik dari kata-kata memungkinkan mesin memahami konteks penggunaannya. Berkat mereka program ini “memahami” bahwa teks dengan pilihan kata yang monoton dapat menjadi hasil karya AI,
• kebingungan – yang merupakan ukuran ketidakpastian suatu teks. Teks yang ditulis oleh manusia cenderung memiliki tingkat kebingungan yang lebih tinggi, meskipun teks yang pada dasarnya sederhana, memiliki bentuk yang berguna, atau ditulis oleh orang asing dapat secara keliru diklasifikasikan sebagai teks yang dihasilkan oleh AI,
• keragaman (burstiness) – faktor ini menggambarkan variabilitas dalam panjang dan struktur kalimat. Manusia cenderung menulis teks yang lebih bervariasi dibandingkan kecerdasan buatan.

Elemen-elemen yang disebutkan di atas bersama-sama digunakan oleh pendeteksi konten AI untuk menilai apakah kita berurusan dengan teks buatan manusia atau buatan mesin.

Mengapa menggunakan pendeteksi konten AI?

Pendeteksi konten AI bekerja di berbagai bidang – mulai dari pendidikan hingga pemasaran dan perekrutan. Berikut adalah alasan utama untuk menjadikannya sebagai alat untuk membantu evaluasi, namun bukan sebagai bukti pasti apakah konten telah dihasilkan:

• Identifikasi foto yang dimodifikasi AI yang menggambarkan orang-orang terkenal – untuk mendeteksi apakah foto tersebut menggambarkan situasi nyata,
• Mencegah disinformasi – Dalam konteks memerangi disinformasi, pendeteksi konten AI yang efektif membantu moderator media sosial mendeteksi penyebaran informasi palsu untuk mengidentifikasi dan menghilangkan konten berulang yang dihasilkan oleh bot,
• Membatasi publikasi teks bernilai rendah – Pendeteksi konten AI dapat membantu penerbit menolak teks yang berisi informasi umum yang dihasilkan oleh ChatGPT, Bing, atau Bard setelah mengetikkan kueri sederhana.

Namun perlu diingat bahwa asal teks bukanlah dasar penurunan peringkat suatu situs oleh Google. Blog Pusat Pencarian Google menyatakan bahwa penting bagi Google untuk “menghargai konten berkualitas terlepas dari cara pembuatannya […]. Otomatisasi telah lama digunakan untuk menghasilkan konten yang bermanfaat, seperti skor olahraga, prakiraan cuaca, dan transkrip. AI dapat membuka tingkat ekspresi dan kreativitas baru serta menjadi alat utama untuk mendukung pembuatan konten web yang hebat.”

Tidak dapat diandalkannya pendeteksi konten AI. Realitas atau mitos?

Meskipun pendeteksi konten AI ada di mana-mana, efektivitasnya masih dipertanyakan. Masalah utamanya adalah:

• efisiensi rendah dalam mendeteksi konten AI,
• masalah dengan positif palsu, serta
• kesulitan dalam mengadaptasi detektor untuk mendiversifikasi dan meningkatkan model AI baru dengan cepat.

Pengujian yang dilakukan oleh OpenAI menunjukkan bahwa pengklasifikasi mereka hanya mengenali teks yang dihasilkan GPT sebanyak 26%. Contoh menarik dari tidak dapat diandalkannya generator dapat dilihat dalam eksperimen yang dilakukan oleh TechCrunch, yang menunjukkan bahwa alat GPTZero dengan tepat mengidentifikasi lima dari tujuh teks yang dihasilkan AI. Sedangkan pengklasifikasi OpenAI hanya mengidentifikasi satu.

Sumber: GPTZero (https://gptzero.me/)

Selain itu, terdapat risiko menerima hasil positif palsu, yaitu mengidentifikasi teks yang ditulis oleh manusia sebagai teks yang dihasilkan oleh AI. Misalnya, awal bab kedua Don Quixote karya Miguel de Cervantes ditandai oleh detektor OpenAI karena kemungkinan besar ditulis oleh kecerdasan buatan.

Meskipun kesalahan dalam analisis teks sastra sejarah dapat dianggap sebagai keingintahuan yang lucu, situasinya menjadi lebih rumit ketika kita ingin menggunakan detektor sebagai alat untuk mengevaluasi teks. Konstitusi AS ditandai oleh ZeroGPT karena 92,15% ditulis oleh kecerdasan buatan. Dan, menurut penelitian yang diterbitkan oleh para peneliti di Universitas Stanford, 61% esai TOEFL yang ditulis oleh siswa yang bukan penutur asli bahasa Inggris diklasifikasikan sebagai esai yang dibuat oleh AI. Sayangnya, tidak ada data mengenai seberapa tinggi persentase teks yang salah diklasifikasikan sebagai positif dalam bahasa lain.

Masalah lainnya adalah perubahan klasifikasi pada pengoperasian detektor selanjutnya. Hal ini karena sering kali detektor seperti ZeroGPT atau Scribbr mengubah klasifikasi fragmen teks, yang ditandai sebagai buatan AI satu kali dan sebagai buatan manusia di lain waktu.

Sumber: Scribbr (https://www.scribbr.com/ai-detector/)

Detektor gambar dan video AI terutama digunakan untuk mengidentifikasi deepfake dan konten lain yang dihasilkan AI yang dapat digunakan untuk menyebarkan disinformasi.

Alat deteksi saat ini seperti Deepware, Illuminarty, dan FakeCatcher tidak memberikan hasil pengujian keandalannya. Dalam konteks hukum untuk mendeteksi materi visual yang dihasilkan AI, terdapat inisiatif untuk menambahkan tanda air pada gambar AI. Namun, ini adalah cara yang sangat tidak dapat diandalkan – Anda dapat dengan mudah mengunduh gambar tanpa tanda air. Midjourney mengambil pendekatan yang berbeda terhadap watermarking, menyerahkan kepada pengguna untuk memutuskan apakah mereka ingin memberi watermark pada gambar dengan cara ini.

Menghindari deteksi AI. Apakah mungkin dan bagaimana caranya?

Pengusaha harus menyadari bahwa pendeteksi konten AI bukanlah pengganti penilaian kualitas manusia dan tidak selalu dapat diandalkan. Masalah pemeliharaan praktisnya mungkin menimbulkan kesulitan yang cukup besar, seperti halnya mencoba menghindari konten Anda diklasifikasikan sebagai buatan AI. Terutama ketika AI hanyalah sebuah alat yang berada di tangan seorang profesional – artinya, AI bukanlah “konten yang dihasilkan oleh AI,” melainkan “konten yang dibuat melalui kolaborasi dengan AI.”

Menambahkan seseorang ke materi yang dihasilkan relatif mudah sehingga cara pembuatannya sangat sulit untuk dideteksi. Jika orang yang menggunakan AI generatif mengetahui efek apa yang ingin dicapai, cukup mengubah hasilnya secara manual.

Pertanyaan mendasarnya terletak pada alasan di balik keinginan kami untuk menghindari deteksi jika konten dibuat oleh AI.

• Jika hal ini merupakan masalah dan kekhawatiran etika, misalnya, penulis penelitian ilmiah yang dipublikasikan – maka kita harus bergantung pada etika profesional ilmuwan dan penggunaan alat berbasis AI yang bertanggung jawab.
• Jika perusahaan ingin karyawannya tidak lagi menggunakan AI – masih ada perjanjian kontrak untuk penggunaan kecerdasan buatan generatif.

Hal ini juga menimbulkan pertanyaan apakah kita ingin mempromosikan penggunaan AI yang bertanggung jawab melalui pelarangan dan pencela (ZeroGPT dan GPTZero!), atau melalui apresiasi terhadap transparansi, pembangunan kepercayaan, dan penggunaan teknologi canggih secara jujur.

Sumber: ZeroGPT (https://www.zerogpt.com/)

Ringkasan

Jawaban atas pertanyaan apakah pendeteksi konten AI layak digunakan masih belum jelas. Pendeteksi konten AI masih dalam pengembangan, dan masa depannya sulit diprediksi. Satu hal yang pasti – mereka akan berkembang seiring dengan perkembangan teknologi AI. Kemajuan dalam AI, termasuk meningkatnya kemampuan model bahasa untuk meniru gaya tulisan manusia, berarti pendeteksian konten AI bisa menjadi lebih rumit. Bagi pelaku bisnis, ini adalah tanda untuk mengikuti perkembangan ini dan tidak hanya mengandalkan alat, namun pada penilaian mereka terhadap konten dan kesesuaiannya dengan tujuan pembuatannya. Dan menggunakan kecerdasan buatan yang berkembang pesat dengan bijak.

Jika Anda menyukai konten kami, bergabunglah dengan komunitas lebah kami yang sibuk di Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.

Penulis: Robert Whitney

Pakar JavaScript dan instruktur yang melatih departemen TI. Tujuan utamanya adalah meningkatkan produktivitas tim dengan mengajari orang lain cara bekerja sama secara efektif saat membuat kode.

Lihat semua postingan

AI dalam bisnis:

1. Ancaman dan peluang AI dalam bisnis (bagian 1)
2. Ancaman dan peluang AI dalam bisnis (bagian 2)
3. Aplikasi AI dalam bisnis - ikhtisar
4. Chatbot teks yang dibantu AI
5. Bisnis NLP hari ini dan besok
6. Peran AI dalam pengambilan keputusan bisnis
7. Menjadwalkan posting media sosial. Bagaimana AI dapat membantu?
8. Postingan media sosial otomatis
9. Layanan dan produk baru yang beroperasi dengan AI
10. Apa kelemahan ide bisnis saya? Sesi brainstorming dengan ChatGPT
11. Menggunakan ChatGPT dalam bisnis
12. Aktor sintetik. 3 generator video AI teratas
13. 3 alat desain grafis AI yang berguna. AI generatif dalam bisnis
14. 3 penulis AI hebat yang harus Anda coba hari ini
15. Menjelajahi kekuatan AI dalam penciptaan musik
16. Menavigasi peluang bisnis baru dengan ChatGPT-4
17. Alat AI untuk manajer
18. 6 plugin ChatGTP mengagumkan yang akan membuat hidup Anda lebih mudah
19. 3 grafik AI. Menghasilkan kecerdasan dalam bisnis
20. Bagaimana masa depan AI menurut McKinsey Global Institute?
21. Kecerdasan buatan dalam bisnis - Pendahuluan
22. Apa itu NLP, atau pemrosesan bahasa alami dalam bisnis
23. Pemrosesan dokumen otomatis
24. Google Terjemahan vs DeepL. 5 aplikasi terjemahan mesin untuk bisnis
25. Pengoperasian dan aplikasi bisnis voicebots
26. Teknologi asisten virtual, atau bagaimana cara berbicara dengan AI?
27. Apa itu Intelijen Bisnis?
28. Akankah kecerdasan buatan menggantikan analis bisnis?
29. Bagaimana kecerdasan buatan dapat membantu mengatasi BPM?
30. AI dan media sosial – apa pendapat mereka tentang kita?
31. Kecerdasan buatan dalam manajemen konten
32. AI kreatif hari ini dan masa depan
33. AI multimodal dan penerapannya dalam bisnis
34. Interaksi baru. Bagaimana AI mengubah cara kita mengoperasikan perangkat?
35. RPA dan API di perusahaan digital
36. Pasar kerja masa depan dan profesi yang akan datang
37. AI di EdTech. 3 contoh perusahaan yang memanfaatkan potensi kecerdasan buatan
38. Kecerdasan buatan dan lingkungan. 3 solusi AI untuk membantu Anda membangun bisnis yang berkelanjutan
39. Detektor konten AI. Apakah itu layak?