Rilevatori di contenuti AI. Ne valgono la pena? | L'intelligenza artificiale negli affari n. 38

Ricordi quando qualche anno fa ci entusiasmammo per i primi articoli generati dall'intelligenza artificiale che somigliavano a malapena alla prosa umana? Oggi, quando l’intelligenza artificiale può scrivere saggi quasi poetici, molte persone si chiedono come distinguere tra il lavoro di una macchina e quello di un essere umano. E OpenAI, la società dietro il successo di ChatGPT, ha bloccato definitivamente l’accesso al suo rilevatore AI a causa della sua inefficacia.

Oggi, gli sviluppatori di rilevatori di contenuti AI li presentano come strumenti per salvaguardare l’autenticità. La domanda è: valgono la fiducia e l’investimento? In questo articolo esamineremo come funzionano i rilevatori di contenuti basati sull'intelligenza artificiale, perché potrebbero estinguersi, quali sfide comportano e i dilemmi etici che pongono.

Rilevatori di contenuti AI

I rilevatori di contenuti AI si basano su modelli linguistici simili a quelli utilizzati per generare contenuti AI. Possono essere suddivisi in quelli il cui compito è verificare la provenienza di immagini, testi e musica generati con il supporto dell'intelligenza artificiale. Ogni tipo di “rilevatore di intelligenza artificiale” funziona in modo leggermente diverso, ma nessuno di essi è in grado di distinguere con assoluta certezza tra contenuti creati dall’uomo e contenuti generati dall’intelligenza artificiale.

I rilevatori di immagini generate dall’intelligenza artificiale stanno svolgendo un ruolo sempre più importante a causa del potere dei media di generare notizie false. Analizzano anomalie, stili e modelli distintivi e cercano i segni lasciati da modelli come DALL-E.

Tra i rilevatori utilizzati per identificare le immagini spicca lo strumento “AI or Not” di Optic, che utilizza database di immagini generati da Midjourney, DALL-E e Stable Diffusion. Anche se i risultati sono incerti, si tratta di un passo avanti verso lo sviluppo di metodi di identificazione più precisi in futuro.

Fonte: AI or Not (https://www.aiornot.com/)

Dietro il funzionamento dei rilevatori di intelligenza artificiale che riconoscono i testi generati dall’intelligenza artificiale ci sono algoritmi avanzati che analizzano la struttura e la scelta delle parole del testo, quindi riconoscono modelli specifici dell’intelligenza artificiale. Si avvalgono di:

• classificatori – un algoritmo che classifica il testo e controlla lo stile, il tono e la grammatica. Ad esempio, una descrizione del prodotto che potrebbe adattarsi a qualsiasi prodotto dello stesso tipo potrebbe essere classificata come una creazione AI,
• embedding (embedding) – le rappresentazioni numeriche delle parole consentono alle macchine di comprendere il contesto del loro utilizzo. È grazie a loro che il programma “capisce” che un testo con una selezione monotona di parole può essere opera dell'intelligenza artificiale,
• perplessità – che è una misura dell’imprevedibilità di un testo. I testi scritti da esseri umani tendono ad avere una maggiore perplessità, sebbene i testi intrinsecamente semplici, utilitaristici nella forma tipica o scritti da stranieri possano essere erroneamente classificati come generati dall'intelligenza artificiale.
• diversità (burstiness) – questo fattore descrive la variabilità nella lunghezza e nella struttura della frase. Gli esseri umani tendono a scrivere testi più vari rispetto all’intelligenza artificiale.

Gli elementi sopra menzionati insieme vengono utilizzati dai rilevatori di contenuti AI per valutare se abbiamo a che fare con testo creato dall'uomo o dalla macchina.

Perché utilizzare i rilevatori di contenuti AI?

I rilevatori di contenuti AI funzionano in una varietà di campi, dall’istruzione al marketing e al reclutamento. Ecco i motivi principali per averli come strumento di aiuto nella valutazione, ma non come prova definitiva del fatto che il contenuto sia stato generato:

• Identificazione di foto modificate dall'intelligenza artificiale che raffigurano persone famose - per rilevare se la foto raffigura una situazione reale,
• Prevenire la disinformazione – Nel contesto della lotta alla disinformazione, efficaci rilevatori di contenuti basati sull’intelligenza artificiale aiutano i moderatori dei social media a rilevare la diffusione di informazioni false per identificare ed eliminare i contenuti ripetitivi generati dai bot,
• Limitare la pubblicazione di testi di basso valore : i rilevatori di contenuti AI possono aiutare gli editori a rifiutare testi contenenti informazioni generiche generate da ChatGPT, Bing o Bard dopo aver digitato una semplice query.

Vale tuttavia la pena ricordare che l'origine del testo non è la base per l'abbassamento del ranking di un sito da parte di Google. Il blog del Centro ricerche di Google afferma che è fondamentale per Google “premiare i contenuti di qualità indipendentemente da come vengono creati […]. L’automazione è stata a lungo utilizzata per generare contenuti utili, come risultati sportivi, previsioni del tempo e trascrizioni. L’intelligenza artificiale può aprire nuovi livelli di espressione e creatività ed essere uno strumento chiave per supportare la creazione di ottimi contenuti web”.

Inaffidabilità dei rilevatori di contenuti AI. Realtà o mito?

Sebbene i rilevatori di contenuti basati sull’intelligenza artificiale siano onnipresenti, la loro efficacia può essere discutibile. I problemi principali sono:

• bassa efficienza nel rilevamento dei contenuti AI,
• problemi con falsi positivi, così come
• difficoltà nell’adattare i rilevatori alla rapida diversificazione e al miglioramento dei nuovi modelli di intelligenza artificiale.

I test condotti da OpenAI hanno dimostrato che il loro classificatore riconosceva il testo generato da GPT solo il 26% delle volte. Un esempio interessante dell'inaffidabilità dei generatori può essere visto in un esperimento condotto da TechCrunch, che ha dimostrato che lo strumento GPTZero ha identificato correttamente cinque dei sette testi generati dall'intelligenza artificiale. Mentre il classificatore OpenAI ne ha identificato solo uno.

Fonte: GPTZero (https://gptzero.me/)

Inoltre, esiste il rischio di ricevere un falso positivo, ovvero di identificare il testo scritto da un essere umano come generato dall’intelligenza artificiale. Ad esempio, l'inizio del secondo capitolo del Don Chisciotte di Miguel de Cervantes è stato contrassegnato dal rilevatore OpenAI come molto probabilmente scritto dall'intelligenza artificiale.

Mentre gli errori nell’analisi dei testi storico-letterari possono essere trattati come una divertente curiosità, la situazione diventa più complicata quando si vogliono utilizzare i rilevatori come strumenti per valutare i testi. La Costituzione degli Stati Uniti è stata contrassegnata da ZeroGPT come scritta al 92,15% da intelligenza artificiale. E, secondo uno studio pubblicato da ricercatori della Stanford University, il 61% dei saggi TOEFL scritti da studenti non madrelingua inglese sono stati classificati come generati dall’intelligenza artificiale. Purtroppo non esistono dati su quanto sia elevata la percentuale di testi falsamente classificati come positivi in ​​altre lingue.

Un altro problema è il cambiamento della classificazione nelle successive esecuzioni del rilevatore. Questo perché accade spesso che un rilevatore come ZeroGPT o Scribbr modifichi la classificazione dei frammenti di testo, che una volta contrassegna come generati dall'intelligenza artificiale e un'altra volta come scritti dall'uomo.

Fonte: Scribbr (https://www.scribbr.com/ai-detector/)

I rilevatori di immagini e video basati sull'intelligenza artificiale vengono utilizzati principalmente per identificare deepfake e altri contenuti generati dall'intelligenza artificiale che possono essere utilizzati per diffondere disinformazione.

Gli attuali strumenti di rilevamento come Deepware, Illuminarty e FakeCatcher non forniscono risultati di test sulla loro affidabilità. Nel contesto legale del rilevamento di materiale visivo generato dall’intelligenza artificiale, esistono iniziative per aggiungere filigrane alle immagini dell’intelligenza artificiale. Tuttavia, questo è un metodo molto inaffidabile: puoi semplicemente scaricare facilmente un'immagine senza filigrana. Midjourney adotta un approccio diverso alla filigrana, lasciando agli utenti la possibilità di decidere se desiderano filigranare un'immagine in questo modo.

Evitare il rilevamento dell'IA. È possibile e come?

Gli imprenditori dovrebbero essere consapevoli che i rilevatori di contenuti dell’intelligenza artificiale non sostituiscono la valutazione della qualità umana e non sono sempre affidabili. I loro problemi pratici di manutenzione possono porre notevoli difficoltà, proprio come cercare di evitare che i tuoi contenuti vengano classificati come generati dall’intelligenza artificiale. Soprattutto quando l’intelligenza artificiale è semplicemente uno strumento nelle mani di un professionista, ovvero non si tratta di “contenuti generati dall’intelligenza artificiale”, ma piuttosto di “contenuti creati in collaborazione con l’intelligenza artificiale”.

È relativamente semplice aggiungere qualcuno ai materiali generati, quindi il modo in cui vengono creati è davvero difficile da rilevare. Se la persona che utilizza l’intelligenza artificiale generativa sa quale effetto ottenere, può semplicemente modificare manualmente i risultati.

La domanda fondamentale risiede nel motivo per cui vogliamo evitare il rilevamento se il contenuto è stato generato dall'intelligenza artificiale.

• Se si tratta di una questione etica e riguarda, ad esempio, la paternità della ricerca scientifica pubblicata, si può fare affidamento sull’etica professionale dello scienziato e sull’uso responsabile degli strumenti basati sull’intelligenza artificiale.
• Se il datore di lavoro desidera che i dipendenti scelgano di non utilizzare l’intelligenza artificiale, rimane un accordo contrattuale per l’uso dell’intelligenza artificiale generativa.

Solleva anche la questione se vogliamo promuovere un uso responsabile dell’intelligenza artificiale attraverso divieti e detrattori (ZeroGPT e GPTZero!), o attraverso un apprezzamento della trasparenza, della costruzione della fiducia e dell’uso onesto delle tecnologie avanzate.

Fonte: ZeroGPT (https://www.zerogpt.com/)

Riepilogo

La risposta alla domanda se valga la pena utilizzare i rilevatori di contenuti AI è tutt’altro che chiara. I rilevatori di contenuti basati sull’intelligenza artificiale sono ancora in fase di sviluppo e il loro futuro è difficile da prevedere. Una cosa è certa: si evolveranno insieme allo sviluppo della tecnologia AI. I progressi nell’intelligenza artificiale, inclusa la crescente capacità dei modelli linguistici di imitare lo stile di scrittura umana, significano che il rilevamento dei contenuti dell’intelligenza artificiale potrebbe diventare ancora più complicato. Per le aziende questo è un segnale per seguire questi sviluppi e non affidarsi esclusivamente agli strumenti, ma alla valutazione dei contenuti e alla loro idoneità allo scopo per cui sono stati creati. E usare saggiamente l’intelligenza artificiale in rapido sviluppo.

Se ti piacciono i nostri contenuti, unisciti alla nostra impegnata community di api su Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.

Autore: Robert Whitney

Esperto e istruttore di JavaScript che istruisce i dipartimenti IT. Il suo obiettivo principale è aumentare la produttività del team insegnando agli altri come cooperare efficacemente durante la programmazione.

Visualizza tutti i post

L’intelligenza artificiale negli affari:

1. Minacce e opportunità dell'intelligenza artificiale nel mondo degli affari (parte 1)
2. Minacce e opportunità dell'intelligenza artificiale nel mondo degli affari (parte 2)
3. Applicazioni dell'intelligenza artificiale nel mondo degli affari: panoramica
4. Chatbot di testo assistiti dall'intelligenza artificiale
5. La PNL aziendale oggi e domani
6. Il ruolo dell’intelligenza artificiale nei processi decisionali aziendali
7. Pianificazione dei post sui social media. In che modo l’intelligenza artificiale può aiutare?
8. Post automatizzati sui social media
9. Nuovi servizi e prodotti che operano con l’intelligenza artificiale
10. Quali sono i punti deboli della mia idea di business? Una sessione di brainstorming con ChatGPT
11. Utilizzo di ChatGPT negli affari
12. Attori sintetici. I 3 migliori generatori video AI
13. 3 utili strumenti di progettazione grafica AI. L’intelligenza artificiale generativa nel mondo degli affari
14. 3 fantastici scrittori di intelligenza artificiale che devi provare oggi
15. Esplorare il potere dell'intelligenza artificiale nella creazione musicale
16. Esplorare nuove opportunità di business con ChatGPT-4
17. Strumenti di intelligenza artificiale per il manager
18. 6 fantastici plugin ChatGTP che ti semplificheranno la vita
19. 3 grafica AI. Generatywna sztuczna inteligencja dla biznesu
20. Qual è il futuro dell’intelligenza artificiale secondo il McKinsey Global Institute?
21. L'intelligenza artificiale nel mondo degli affari - Introduzione
22. Cos'è la PNL o l'elaborazione del linguaggio naturale negli affari
23. Elaborazione automatica dei documenti
24. Google Traduttore contro DeepL. 5 applicazioni della traduzione automatica per le imprese
25. Il funzionamento e le applicazioni aziendali dei voicebot
26. Tecnologia dell'assistente virtuale o come parlare con l'intelligenza artificiale?
27. Cos'è la Business Intelligence?
28. L’intelligenza artificiale sostituirà gli analisti aziendali?
29. In che modo l’intelligenza artificiale può aiutare con il BPM?
30. AI e social media: cosa dicono di noi?
31. L'intelligenza artificiale nella gestione dei contenuti
32. L'intelligenza artificiale creativa di oggi e di domani
33. L’intelligenza artificiale multimodale e le sue applicazioni nel mondo degli affari
34. Nuove interazioni. In che modo l’intelligenza artificiale sta cambiando il modo in cui utilizziamo i dispositivi?
35. RPA e API in un'azienda digitale
36. Il futuro mercato del lavoro e le professioni emergenti
37. L'intelligenza artificiale nell'EdTech. 3 esempi di aziende che hanno sfruttato le potenzialità dell'intelligenza artificiale
38. Intelligenza artificiale e ambiente. 3 soluzioni AI per aiutarti a costruire un business sostenibile
39. Rilevatori di contenuti AI. Ne valgono la pena?