Yapay zeka içerik dedektörleri. Buna değerler mi? | İş dünyasında yapay zeka #38

Birkaç yıl önce yapay zeka tarafından üretilen, insan yazısına neredeyse hiç benzemeyen ilk makaleler konusunda heyecanlandığımızı hatırlıyor musunuz? Yapay zekanın neredeyse şiirsel makaleler yazabildiği günümüzde, birçok kişi bir makinenin işi ile bir insanın işi arasında nasıl ayrım yapılacağını merak ediyor. ChatGPT'nin başarısının arkasındaki şirket olan OpenAI, etkisizliği nedeniyle AI dedektörüne erişimi tamamen kapattı.

Günümüzde yapay zeka içerik algılayıcılarının geliştiricileri, bunları özgünlüğü koruyan araçlar olarak sunuyor. Soru şu; bunlar güvene ve yatırıma değer mi? Bu makalede yapay zeka içerik algılayıcılarının nasıl çalıştığına, neden yok olabileceklerine, getirdikleri zorluklara ve ortaya çıkardıkları etik ikilemlere bakacağız.

Yapay zeka içerik dedektörleri

Yapay zeka içerik algılayıcıları, yapay zeka içeriği oluşturmak için kullanılanlara benzer dil modellerini temel alır. Görevleri yapay zeka desteğiyle oluşturulan görsellerin, metinlerin ve müziğin kökenini kontrol etmek olanlara ayrılabilirler. Her "AI dedektörü" türü biraz farklı çalışır, ancak hiçbiri insan tarafından oluşturulan içerik ile yapay zeka tarafından oluşturulan içerik arasında mutlak bir kesinlikle ayrım yapamaz.

Yapay zeka tarafından oluşturulan görüntü dedektörleri, medyanın sahte haber üretme gücü nedeniyle giderek daha önemli bir rol oynuyor. Anormallikleri, farklı stilleri ve kalıpları analiz ediyorlar ve DALL-E gibi modellerin geride bıraktığı işaretleri arıyorlar.

Görüntüleri tanımlamak için kullanılan dedektörler arasında öne çıkanı, Midjourney, DALL-E ve Stable Diffusion tarafından oluşturulan görüntü veritabanlarını kullanan Optic'in "AI or Not" aracıdır. Sonuçlar belirsiz olsa da gelecekte daha kesin tanımlama yöntemleri geliştirmeye yönelik bir adımdır.

Kaynak: AI or Not (https://www.aiornot.com/)

Yapay zeka tarafından oluşturulan metinleri tanıyan yapay zeka dedektörlerinin çalışmasının arkasında, metnin yapısını ve kelime seçimini analiz eden ve ardından yapay zekaya özgü kalıpları tanıyan gelişmiş algoritmalar bulunur. Şunlardan yararlanırlar:

• sınıflandırıcılar – metni sınıflandıran ve stil, ton ve dilbilgisini kontrol eden bir algoritma. Örneğin, kendi türündeki herhangi bir ürüne uyabilecek bir ürün açıklaması, bir yapay zeka yaratımı olarak sınıflandırılabilir.
• gömmeler (yerleştirmeler) – kelimelerin sayısal temsilleri, makinelerin kullanım bağlamını anlamasını sağlar. Onlar sayesinde program, monoton kelime seçimine sahip bir metnin yapay zekanın işi olabileceğini "anlıyor".
• şaşkınlık - bir metnin öngörülemezliğinin bir ölçüsüdür. İnsanlar tarafından yazılan metinler daha yüksek kafa karışıklığına sahip olma eğilimindedir; ancak doğası gereği basit olan, tipik biçimde faydacı olan veya yabancılar tarafından yazılan metinler yanlışlıkla yapay zeka tarafından oluşturulmuş olarak sınıflandırılabilir.
• çeşitlilik (patlama) – bu faktör cümle uzunluğu ve yapısındaki değişkenliği tanımlar. İnsanlar yapay zekaya göre daha çeşitli metinler yazma eğilimindedir.

Yukarıda belirtilen öğeler, yapay zeka içerik algılayıcıları tarafından, insan yapımı metinlerle mi yoksa makine yapımı metinlerle mi karşı karşıya olduğumuzu değerlendirmek için birlikte kullanılır.

Yapay zeka içerik algılayıcılarını neden kullanmalı?

Yapay zeka içerik algılayıcıları eğitimden pazarlamaya ve işe alıma kadar çeşitli alanlarda çalışır. Bunları, değerlendirmeye yardımcı olacak bir araç olarak kullanmanın, ancak içeriğin oluşturulup oluşturulmadığının kesin kanıtı olarak kullanılmamasının en önemli nedenleri şunlardır:

• Fotoğrafın gerçek bir durumu yansıtıp yansıtmadığını tespit etmek için , tanınmış kişileri tasvir eden yapay zeka ile değiştirilmiş fotoğrafların belirlenmesi ,
• Dezenformasyonun önlenmesi – Dezenformasyonla mücadele bağlamında, etkili yapay zeka içerik algılayıcıları, sosyal medya moderatörlerinin, botlar tarafından oluşturulan tekrarlanan içeriği tespit etmek ve ortadan kaldırmak için yayılan yanlış bilgileri tespit etmesine yardımcı olur.
• Düşük değerli metinlerin yayınlanmasının sınırlandırılması – Yapay zeka içerik algılayıcıları, yayıncıların basit bir sorgu yazdıktan sonra ChatGPT, Bing veya Bard tarafından oluşturulan genel bilgiler içeren metinleri reddetmesine yardımcı olabilir.

Ancak, metnin kökeninin Google'ın bir sitenin sıralamasını düşürmesinin temeli olmadığını hatırlamakta fayda var. Google'ın Arama Merkezi blogu, Google'ın “nasıl oluşturulduğuna bakılmaksızın kaliteli içeriği ödüllendirmesinin” çok önemli olduğunu belirtiyor. Otomasyon uzun zamandır spor skorları, hava durumu tahminleri ve transkriptler gibi faydalı içerikleri oluşturmak için kullanılıyor. Yapay zeka, yeni ifade ve yaratıcılık düzeylerinin kapısını aralayabilir ve harika web içeriği oluşturulmasını destekleyen önemli bir araç olabilir."

Yapay zeka içerik dedektörlerinin güvenilmezliği. Gerçek mi efsane mi?

Yapay zeka içerik algılayıcıları her yerde bulunsa da etkinlikleri sorgulanabilir. Başlıca sorunlar şunlardır:

• AI içeriğini tespit etmede düşük verimlilik,
• yanlış pozitiflerle ilgili sorunların yanı sıra
• Yeni yapay zeka modellerini hızla çeşitlendirip geliştirecek şekilde dedektörlerin uyarlanmasındaki zorluklar.

OpenAI tarafından gerçekleştirilen testler, sınıflandırıcının GPT tarafından oluşturulan metni yalnızca %26 oranında tanıdığını gösterdi. Jeneratörlerin güvenilmezliğine dair ilginç bir örnek, TechCrunch tarafından yürütülen ve GPTZero aracının yapay zeka tarafından oluşturulan yedi metinden beşini doğru şekilde tanımladığını gösteren bir deneyde görülebilir. OpenAI sınıflandırıcısı yalnızca bir tanesini tanımladı.

Kaynak: GPTZero (https://gptzero.me/)

Ayrıca, bir insan tarafından yazılan metnin yapay zeka tarafından oluşturulduğunun belirlenmesi anlamına gelen yanlış pozitif alma riski de vardır. Örneğin, Miguel de Cervantes'in Don Kişot kitabının ikinci bölümünün başlangıcı, büyük olasılıkla yapay zeka tarafından yazılmış gibi OpenAI dedektörü tarafından işaretlendi.

Tarihi edebi metinlerin analizindeki hatalar eğlenceli bir merak olarak ele alınabilirken, metinleri değerlendirmek için dedektörleri araç olarak kullanmak istediğimizde durum daha da karmaşık hale geliyor. ABD Anayasası ZeroGPT tarafından %92,15 oranında yapay zeka tarafından yazılmış olarak işaretlendi. Stanford Üniversitesi'ndeki araştırmacılar tarafından yayınlanan bir araştırmaya göre, ana dili İngilizce olmayan öğrenciler tarafından yazılan TOEFL makalelerinin %61'i yapay zeka tarafından oluşturulmuş olarak sınıflandırıldı. Ne yazık ki, diğer dillerde yanlışlıkla pozitif olarak sınıflandırılan metinlerin yüzdesinin ne kadar yüksek olduğuna dair hiçbir veri yoktur.

Diğer bir konu ise dedektörün sonraki çalıştırmalarında sınıflandırmanın değişmesidir. Bunun nedeni, ZeroGPT veya Scribbr gibi bir dedektörün, bir kez yapay zeka tarafından oluşturulmuş, başka bir zaman ise insan tarafından yazılmış olarak işaretlediği metin parçalarının sınıflandırmasını değiştirmesinin sıklıkla gerçekleşmesidir.

Kaynak: Scribbr (https://www.scribbr.com/ai-detector/)

Yapay zeka görüntü ve video dedektörleri öncelikle derin sahtekarlıkları ve dezenformasyonu yaymak için kullanılabilecek yapay zeka tarafından oluşturulan diğer içerikleri tanımlamak için kullanılır.

Deepware, Illuminarty ve FakeCatcher gibi güncel algılama araçları güvenilirliklerine ilişkin test sonuçları sunmamaktadır. Yapay zeka tarafından oluşturulan görsel materyallerin tespit edilmesine ilişkin yasal bağlamda, yapay zeka görüntülerine filigran eklenmesine yönelik girişimler bulunmaktadır. Ancak bu çok güvenilmez bir yoldur; filigran olmadan bir görseli kolayca indirebilirsiniz. Midjourney, filigranlamaya farklı bir yaklaşım getiriyor ve bir görüntüyü bu şekilde filigranlamak isteyip istemedikleri kararını kullanıcılara bırakıyor.

AI tespitinden kaçınma. Mümkün mü ve nasıl?

Girişimciler, yapay zeka içerik algılayıcılarının insan kalitesi değerlendirmesinin yerini alamayacağının ve her zaman güvenilir olmadığının farkında olmalıdır. İçeriğinizin yapay zeka tarafından oluşturulmuş olarak sınıflandırılmasından kaçınmaya çalışmak gibi, pratik bakım sorunları da önemli zorluklar yaratabilir. Özellikle yapay zeka yalnızca bir profesyonelin elindeki bir araç olduğunda, yani "yapay zeka tarafından oluşturulan içerik" değil, "yapay zeka ile işbirliği içinde oluşturulan içerik" olduğunda.

Oluşturulan materyallere birisini eklemek nispeten basittir, dolayısıyla bunların yaratılma şeklini tespit etmek gerçekten zordur. Üretken yapay zekayı kullanan kişi hangi etkiyi elde edeceğini biliyorsa, sonuçları manuel olarak ayarlayabilir.

Temel soru, içeriğin yapay zeka tarafından üretilip üretilmediğini tespit etmekten kaçınma isteğimizin ardındaki nedende yatmaktadır.

• Bu etik bir sorunsa ve örneğin yayınlanmış bilimsel araştırmanın yazarlığıyla ilgiliyse, bilim insanının mesleki etiğine ve yapay zeka tabanlı araçların sorumlu kullanımına güvenmek gerekir.
• İşveren, çalışanların yapay zekayı kullanmaktan vazgeçmesini isterse, üretken yapay zekanın kullanımına ilişkin bir sözleşme düzenlemesi kalır.

Bu aynı zamanda yapay zekanın sorumlu kullanımını yasaklamalar ve kötülemeler (ZeroGPT ve GPTZero!) yoluyla mı, yoksa şeffaflığın, güven oluşturmanın ve ileri teknolojilerin dürüst kullanımının takdir edilmesi yoluyla mı teşvik etmek istediğimiz sorusunu gündeme getiriyor.

Kaynak: ZeroGPT (https://www.zerogpt.com/)

Özet

Yapay zeka içerik algılayıcılarının kullanılmaya değer olup olmadığı sorusunun cevabı çok açık değil. Yapay zeka içerik algılayıcıları hâlâ geliştirilme aşamasındadır ve geleceklerini tahmin etmek zordur. Kesin olan bir şey var ki o da yapay zeka teknolojisinin gelişmesiyle birlikte gelişecekleri. Dil modellerinin insan yazma stilini taklit etme yeteneğinin artması da dahil olmak üzere yapay zekadaki ilerlemeler, yapay zeka içerik tespitinin daha da karmaşık hale gelebileceği anlamına geliyor. İşletmeler açısından bu, gelişmeleri takip etmenin ve yalnızca araçlara değil, içeriğin ve içeriğin yaratılma amacına uygunluğunun değerlendirilmesine de güvenmenin bir işaretidir. Ve hızla gelişen yapay zekayı akıllıca kullanmak.

İçeriğimizi beğendiyseniz Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok'taki meşgul arılar topluluğumuza katılın.

Yazarı: Robert Whitney

BT departmanlarına koçluk yapan JavaScript uzmanı ve eğitmeni. Ana hedefi, başkalarına kodlama sırasında etkili bir şekilde işbirliği yapmayı öğreterek ekip üretkenliğini üst düzeye çıkarmaktır.

Tüm gönderileri görüntüle

İş dünyasında yapay zeka:

1. İş dünyasında yapay zekanın tehditleri ve fırsatları (bölüm 1)
2. İş dünyasında yapay zekanın tehditleri ve fırsatları (bölüm 2)
3. İşletmelerdeki yapay zeka uygulamaları - genel bakış
4. Yapay zeka destekli metin sohbet robotları
5. İş NLP'sinin bugünü ve geleceği
6. Yapay zekanın iş karar vermedeki rolü
7. Sosyal medya paylaşımlarının planlanması. Yapay zeka nasıl yardımcı olabilir?
8. Otomatik sosyal medya gönderileri
9. Yapay zeka ile çalışan yeni hizmetler ve ürünler
10. İş fikrimin zayıf yönleri nelerdir? ChatGPT ile beyin fırtınası oturumu
11. ChatGPT'yi iş hayatında kullanma
12. Sentetik aktörler. En iyi 3 yapay zeka video oluşturucu
13. 3 kullanışlı AI grafik tasarım aracı. İş dünyasında üretken yapay zeka
14. Bugün denemeniz gereken 3 harika AI yazarı
15. Müzik yaratmada yapay zekanın gücünü keşfetmek
16. ChatGPT-4 ile yeni iş fırsatlarına yön vermek
17. Yönetici için yapay zeka araçları
18. Hayatınızı kolaylaştıracak 6 harika ChatGTP eklentisi
19. 3 grafik akışlı yapay zeka. Generatywna sztuczna akıllı telefon ve iş dünyası
20. McKinsey Global Institute'e göre yapay zekanın geleceği ne olacak?
21. İş dünyasında yapay zeka - Giriş
22. NLP nedir veya iş dünyasında doğal dil işleme
23. Otomatik belge işleme
24. Google Çeviri vs DeepL. İşletmeler için makine çevirisinin 5 uygulaması
25. Voicebot'ların işleyişi ve iş uygulamaları
26. Sanal asistan teknolojisi veya yapay zeka ile nasıl konuşulur?
27. İş Zekası Nedir?
28. Yapay zeka iş analistlerinin yerini alacak mı?
29. Yapay zeka BPM'ye nasıl yardımcı olabilir?
30. Yapay zeka ve sosyal medya – hakkımızda ne söylüyorlar?
31. İçerik yönetiminde yapay zeka
32. Bugünün ve yarının yaratıcı yapay zekası
33. Çok modlu yapay zeka ve iş dünyasındaki uygulamaları
34. Yeni etkileşimler. Yapay zeka, cihazları çalıştırma şeklimizi nasıl değiştiriyor?
35. Dijital bir şirkette RPA ve API'ler
36. Gelecekteki iş piyasası ve gelecek meslekler
37. Eğitim Teknolojisinde Yapay Zeka. Yapay zeka potansiyelini kullanan şirketlere 3 örnek
38. Yapay zeka ve çevre. Sürdürülebilir bir iş kurmanıza yardımcı olacak 3 yapay zeka çözümü
39. Yapay zeka içerik dedektörleri. Buna değerler mi?