Detectoare de conținut AI. Merită ele? | AI în afaceri #38

Îți amintești când în urmă cu câțiva ani am fost entuziasmați de primele articole generate de AI care abia semănau cu proza ​​umană? Astăzi, când AI poate scrie eseuri aproape poetice, mulți oameni se întreabă cum să facă distincția între munca unei mașini și cea a unui om. Și OpenAI, compania din spatele succesului ChatGPT, a oprit definitiv accesul la detectorul său AI din cauza ineficienței sale.

Astăzi, dezvoltatorii detectorilor de conținut AI le prezintă ca instrumente pentru a proteja autenticitatea. Întrebarea este: merită încrederea și investiția? În acest articol, vom analiza cum funcționează detectorii de conținut AI, de ce ar putea dispărea, ce provocări aduc și dilemele etice pe care le prezintă.

Detectoare de conținut AI

Detectoarele de conținut AI se bazează pe modele de limbaj similare cu cele utilizate pentru a genera conținut AI. Ele pot fi împărțite în cele a căror sarcină este să verifice originea imaginilor, textelor și muzicii generate cu sprijinul inteligenței artificiale. Fiecare tip de „detector AI” funcționează ușor diferit, dar niciunul dintre ei nu poate distinge cu o certitudine absolută între conținutul creat de om și conținutul generat de AI.

Detectoarele de imagini generate de AI joacă un rol din ce în ce mai important datorită puterii mass-media de a genera știri false. Ei analizează anomalii, stiluri și modele distinctive și caută semne lăsate în urmă de modele precum DALL-E.

Printre detectoarele utilizate pentru identificarea imaginilor este instrumentul „AI or Not” de la Optic, care utilizează baze de date de imagini generate de Midjourney, DALL-E și Stable Diffusion. Deși rezultatele sunt incerte, este un pas către dezvoltarea unor metode de identificare mai precise în viitor.

Sursa: AI sau nu (https://www.aiornot.com/)

În spatele funcționării detectorilor AI care recunosc textele generate de AI se află algoritmi avansați care analizează structura și alegerea cuvântului textului și apoi recunosc tipare specifice AI. Ei folosesc:

• clasificatori – un algoritm care clasifică textul și verifică stilul, tonul și gramatica. De exemplu, o descriere a unui produs care s-ar putea potrivi cu orice produs de acest tip ar putea fi clasificată ca o creație AI,
• embeddings (embeddings) – reprezentările numerice ale cuvintelor permit mașinilor să înțeleagă contextul utilizării lor. Datorită lor, programul „înțelege” că un text cu o selecție monotonă de cuvinte poate fi opera AI,
• perplexitatea – care este o măsură a impredictibilității unui text. Textele scrise de oameni tind să aibă o perplexitate mai mare, deși textele care sunt în mod inerent simple, utilitare în formă tipică sau scrise de străini pot fi clasificate în mod eronat drept generate de IA,
• diversitate (burstiness) – acest factor descrie variabilitatea lungimii și structurii propoziției. Oamenii tind să scrie texte mai variate decât inteligența artificială.

Elementele menționate mai sus împreună sunt utilizate de detectorii de conținut AI pentru a evalua dacă avem de-a face cu text creat de om sau de mașină.

De ce să folosiți detectoare de conținut AI?

Detectoarele de conținut AI funcționează într-o varietate de domenii – de la educație la marketing și recrutare. Iată principalele motive pentru a le avea ca instrument de ajutor în evaluare, dar nu ca dovadă definitivă a faptului că conținutul a fost generat:

• Identificarea fotografiilor modificate prin inteligență artificială care înfățișează persoane cunoscute – pentru a detecta dacă fotografia descrie o situație reală,
• Prevenirea dezinformării – În contextul luptei împotriva dezinformării, detectorii de conținut AI eficienți îi ajută pe moderatorii rețelelor sociale să detecteze răspândirea informațiilor false pentru a identifica și elimina conținutul repetitiv generat de roboți,
• Limitarea publicării textelor cu valoare redusă – detectoarele de conținut AI pot ajuta editorii să respingă textele care conțin informații generice generate de ChatGPT, Bing sau Bard după ce au tastat o interogare simplă.

Cu toate acestea, merită să ne amintim că originea textului nu este baza pentru scăderea de către Google a clasamentului unui site. Blogul Google Search Center afirmă că este esențial ca Google să „recompenseze conținutul de calitate, indiferent de modul în care este creat […]. Automatizarea a fost folosită mult timp pentru a genera conținut util, cum ar fi scoruri sportive, prognoze meteo și transcrieri. AI poate deschide noi niveluri de expresie și creativitate și poate fi un instrument cheie pentru a sprijini crearea de conținut web grozav.”

Nefiabilitatea detectorilor de conținut AI. Realitate sau mit?

Deși detectoarele de conținut AI sunt omniprezente, eficacitatea lor poate fi discutabilă. Principalele probleme sunt:

• eficiență scăzută în detectarea conținutului AI,
• probleme cu fals pozitive, precum și
• dificultăți în adaptarea detectorilor la diversificarea și îmbunătățirea rapidă a noilor modele de inteligență artificială.

Testele efectuate de OpenAI au arătat că clasificatorul lor a recunoscut textul generat de GPT doar în 26% din timp. Un exemplu interesant al nefiabilității generatoarelor poate fi văzut într-un experiment realizat de TechCrunch, care a arătat că instrumentul GPTZero a identificat corect cinci din șapte texte generate de AI. În timp ce clasificatorul OpenAI a identificat doar unul.

Sursa: GPTZero (https://gptzero.me/)

În plus, există riscul de a primi un fals pozitiv, adică un text de identificare scris de un om ca fiind generat de AI. De exemplu, începutul celui de-al doilea capitol din Don Quijote al lui Miguel de Cervantes a fost marcat de detectorul OpenAI ca fiind cel mai probabil scris de inteligență artificială.

În timp ce erorile de analiză a textelor literare istorice pot fi tratate ca o curiozitate amuzantă, situația devine mai complicată atunci când dorim să folosim detectoare ca instrumente de evaluare a textelor. Constituția SUA a fost marcată de ZeroGPT ca fiind 92,15% scrisă de inteligență artificială. Și, potrivit unui studiu publicat de cercetătorii de la Universitatea Stanford, 61% dintre eseurile TOEFL scrise de studenți non-nativi vorbitori de engleză au fost clasificate ca fiind generate de AI. Din păcate, nu există date despre cât de mare este procentul de texte clasificate în mod fals drept pozitive în alte limbi.

O altă problemă este schimbarea clasificării la rulările ulterioare ale detectorului. Acest lucru se datorează faptului că se întâmplă adesea ca un detector precum ZeroGPT sau Scribbr să schimbe clasificarea fragmentelor de text, pe care le marchează ca fiind generate de AI o dată și ca fiind scrise de om altă dată.

Sursa: Scribbr (https://www.scribbr.com/ai-detector/)

Detectoarele de imagini și video AI sunt utilizate în principal pentru a identifica deepfake-urile și alt conținut generat de AI care poate fi folosit pentru a răspândi dezinformarea.

Instrumentele actuale de detectare, cum ar fi Deepware, Illuminarty și FakeCatcher, nu oferă rezultate ale testelor privind fiabilitatea lor. În contextul legal al detectării materialelor vizuale generate de AI, există inițiative pentru a adăuga filigrane imaginilor AI. Cu toate acestea, aceasta este o modalitate foarte nesigură - puteți descărca cu ușurință o imagine fără un filigran. Midjourney adoptă o abordare diferită a filigranului, lăsând la latitudinea utilizatorilor să decidă dacă doresc să filigraneze o imagine în acest mod.

Evitarea detectării AI. Este posibil și cum?

Antreprenorii ar trebui să fie conștienți de faptul că detectorii de conținut AI nu sunt un substitut pentru evaluarea calității umane și nu sunt întotdeauna de încredere. Problemele lor practice de întreținere pot crea dificultăți considerabile, la fel ca și încercarea de a evita clasificarea conținutului dvs. ca generat de AI. Mai ales atunci când AI este pur și simplu un instrument în mâinile unui profesionist – adică nu este „conținut generat de AI”, ci mai degrabă „conținut care a fost creat în colaborare cu AI”.

Este relativ simplu să adăugați pe cineva la materialele generate, astfel încât modul în care sunt create este cu adevărat dificil de detectat. Dacă persoana care utilizează IA generativă știe ce efect să obțină, poate pur și simplu să modifice manual rezultatele.

Întrebarea de bază constă în motivul din spatele dorinței noastre de a evita detectarea dacă conținutul a fost generat de AI.

• Dacă aceasta este o problemă etică și se referă, de exemplu, la paternitatea cercetării științifice publicate, trebuie să ne bazăm pe etica profesională a omului de știință și pe utilizarea responsabilă a instrumentelor bazate pe inteligența artificială.
• Dacă angajatorul dorește ca angajații să renunțe la utilizarea inteligenței artificiale – rămâne un acord contractual pentru utilizarea inteligenței artificiale generative.

De asemenea, ridică întrebarea dacă vrem să promovăm utilizarea responsabilă a inteligenței artificiale prin interdicții și detractori (ZeroGPT și GPTZero!), sau printr-o apreciere a transparenței, a întăririi încrederii și a utilizării oneste a tehnologiilor avansate.

Sursa: ZeroGPT (https://www.zerogpt.com/)

rezumat

Răspunsul la întrebarea dacă detectorii de conținut AI merită folosiți este departe de a fi clar. Detectoarele de conținut AI sunt încă în dezvoltare, iar viitorul lor este greu de prezis. Un lucru este cert – vor evolua odată cu dezvoltarea tehnologiei AI. Progresele în AI, inclusiv capacitatea crescândă a modelelor de limbaj de a imita stilul uman de scriere, înseamnă că detectarea conținutului AI ar putea deveni și mai complicată. Pentru companii, acesta este un semn să urmărească aceste evoluții și să nu se bazeze doar pe instrumente, ci pe evaluarea conținutului și adecvarea acestuia pentru scopul pentru care a fost creat. Și să folosească inteligent inteligența artificială care se dezvoltă rapid.

Dacă vă place conținutul nostru, alăturați-vă comunității noastre de albine ocupate pe Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.

Autor: Robert Whitney

Expert JavaScript și instructor care antrenează departamentele IT. Scopul său principal este de a crește productivitatea echipei, învățându-i pe alții cum să coopereze eficient în timp ce codifică.

Vizualizați toate postările

AI în afaceri:

1. Amenințările și oportunitățile AI în afaceri (partea 1)
2. Amenințările și oportunitățile AI în afaceri (partea 2)
3. Aplicații AI în afaceri - prezentare generală
4. Chatbot text asistați de inteligență artificială
5. Business NLP astăzi și mâine
6. Rolul AI în luarea deciziilor în afaceri
7. Programarea postărilor pe rețelele sociale. Cum poate ajuta AI?
8. Postări automate pe rețelele sociale
9. Noi servicii și produse care operează cu AI
10. Care sunt punctele slabe ale ideii mele de afaceri? O sesiune de brainstorming cu ChatGPT
11. Folosind ChatGPT în afaceri
12. Actori sintetici. Top 3 generatoare video AI
13. 3 instrumente utile de proiectare grafică AI. AI generativ în afaceri
14. 3 scriitori AI minunați pe care trebuie să-i încercați astăzi
15. Explorarea puterii AI în crearea muzicii
16. Navigarea noilor oportunități de afaceri cu ChatGPT-4
17. Instrumente AI pentru manager
18. 6 plugin-uri minunate ChatGTP care vă vor face viața mai ușoară
19. 3 graficow AI. Generatywna sztuczna inteligencja dla biznesu
20. Care este viitorul AI conform McKinsey Global Institute?
21. Inteligența artificială în afaceri - Introducere
22. Ce este NLP sau procesarea limbajului natural în afaceri
23. Procesarea automată a documentelor
24. Google Translate vs DeepL. 5 aplicații de traducere automată pentru afaceri
25. Operarea și aplicațiile de afaceri ale vocii roboților
26. Tehnologia asistentului virtual sau cum să vorbești cu AI?
27. Ce este Business Intelligence?
28. Va înlocui inteligența artificială pe analiștii de afaceri?
29. Cum poate ajuta inteligența artificială cu BPM?
30. AI și rețelele sociale – ce spun ei despre noi?
31. Inteligența artificială în managementul conținutului
32. AI creativ de astăzi și de mâine
33. AI multimodal și aplicațiile sale în afaceri
34. Interacțiuni noi. Cum schimbă AI modul în care operăm dispozitivele?
35. RPA și API-uri într-o companie digitală
36. Viitoarea piață a muncii și viitoarele profesii
37. AI în EdTech. 3 exemple de companii care au folosit potențialul inteligenței artificiale
38. Inteligența artificială și mediul înconjurător. 3 soluții AI pentru a vă ajuta să construiți o afacere durabilă
39. Detectoare de conținut AI. Merită ele?