Detectores de conteúdo de IA. Eles valem a pena? | IA nos negócios #38

Você se lembra de quando, há alguns anos, ficamos entusiasmados com os primeiros artigos gerados por IA que mal se pareciam com a prosa humana? Hoje, quando a IA consegue escrever ensaios quase poéticos, muitas pessoas se perguntam como distinguir entre o trabalho de uma máquina e o de um ser humano. E a OpenAI, a empresa por trás do sucesso do ChatGPT, encerrou definitivamente o acesso ao seu detector de IA devido à sua ineficácia.

Hoje, os desenvolvedores de detectores de conteúdo de IA os apresentam como ferramentas para proteger a autenticidade. A questão é: valem a confiança e o investimento? Neste artigo, veremos como funcionam os detectores de conteúdo de IA, por que podem ser extintos, quais desafios trazem e os dilemas éticos que representam.

Detectores de conteúdo de IA

Os detectores de conteúdo de IA são baseados em modelos de linguagem semelhantes aos usados ​​para gerar conteúdo de IA. Eles podem ser divididos naqueles cuja tarefa é verificar a origem de imagens, textos e músicas geradas com apoio de inteligência artificial. Cada tipo de “detector de IA” funciona de maneira um pouco diferente, mas nenhum deles consegue distinguir com certeza absoluta entre conteúdo criado por humanos e conteúdo gerado por IA.

Os detectores de imagens gerados por IA estão desempenhando um papel cada vez mais importante devido ao poder da mídia de gerar notícias falsas. Eles analisam anomalias, estilos e padrões distintos e procuram sinais deixados por modelos como o DALL-E.

Destaca-se entre os detectores utilizados para identificar imagens a ferramenta “AI or Not” da Optic, que utiliza bancos de dados de imagens gerados por Midjourney, DALL-E e Stable Diffusion. Embora os resultados sejam incertos, é um passo em direção ao desenvolvimento de métodos de identificação mais precisos no futuro.

Fonte: AI ou não (https://www.aiornot.com/)

Por trás da operação dos detectores de IA que reconhecem textos gerados por IA estão algoritmos avançados que analisam a estrutura e a escolha de palavras do texto e, em seguida, reconhecem padrões específicos da IA. Eles fazem uso de:

• classificadores – um algoritmo que classifica o texto e verifica o estilo, o tom e a gramática. Por exemplo, uma descrição de produto que possa se adequar a qualquer produto do seu tipo pode ser classificada como uma criação de IA,
• embeddings (embeddings) – representações numéricas de palavras permitem que as máquinas entendam o contexto de seu uso. É graças a eles que o programa “entende” que um texto com uma seleção monótona de palavras pode ser obra de IA,
• perplexidade – que é uma medida da imprevisibilidade de um texto. Textos escritos por humanos tendem a ter maior perplexidade, embora textos que são inerentemente simples, utilitários em sua forma típica ou escritos por estrangeiros possam ser erroneamente classificados como gerados por IA.
• diversidade (explosão) – este fator descreve a variabilidade no comprimento e estrutura da frase. Os humanos tendem a escrever textos mais variados do que a inteligência artificial.

Os elementos acima mencionados juntos são usados ​​pelos detectores de conteúdo de IA para avaliar se estamos lidando com texto feito pelo homem ou por máquina.

Por que usar detectores de conteúdo de IA?

Os detectores de conteúdo de IA funcionam em diversos campos – desde educação até marketing e recrutamento. Aqui estão os principais motivos para tê-los como uma ferramenta de auxílio na avaliação, mas não como prova definitiva de se o conteúdo foi gerado:

• Identificação de fotos modificadas por IA representando pessoas conhecidas – para detectar se a foto representa uma situação real,
• Prevenir a desinformação – No contexto do combate à desinformação, detectores de conteúdo de IA eficazes ajudam os moderadores das redes sociais a detectar a propagação de informações falsas para identificar e eliminar conteúdo repetitivo gerado por bots,
• Limitar a publicação de textos de baixo valor – Os detectores de conteúdo de IA podem ajudar os editores a rejeitar textos que contenham informações genéricas geradas por ChatGPT, Bing ou Bard após digitar uma consulta simples.

Porém, vale lembrar que a origem do texto não é a base para o rebaixamento do ranking de um site pelo Google. O blog do Search Center do Google afirma que é fundamental para o Google “premiar conteúdo de qualidade, independentemente de como ele é criado […]. A automação tem sido usada há muito tempo para gerar conteúdo útil, como resultados esportivos, previsões meteorológicas e transcrições. A IA pode abrir novos níveis de expressão e criatividade e ser uma ferramenta fundamental para apoiar a criação de ótimo conteúdo web.”

Falta de confiabilidade dos detectores de conteúdo de IA. Realidade ou mito?

Embora os detectores de conteúdo de IA sejam onipresentes, sua eficácia pode ser questionável. Os principais problemas são:

• baixa eficiência na detecção de conteúdo de IA,
• problemas com falsos positivos, bem como
• dificuldades em adaptar detectores para diversificar e melhorar rapidamente novos modelos de IA.

Testes conduzidos pela OpenAI mostraram que seu classificador reconheceu texto gerado por GPT apenas 26% das vezes. Um exemplo interessante da falta de confiabilidade dos geradores pode ser visto em um experimento conduzido pelo TechCrunch, que mostrou que a ferramenta GPTZero identificou corretamente cinco dos sete textos gerados por IA. Embora o classificador OpenAI tenha identificado apenas um.

Fonte: GPTZero (https://gptzero.me/)

Além disso, existe o risco de receber um falso positivo, ou seja, identificar um texto escrito por um ser humano como gerado por IA. Por exemplo, o início do segundo capítulo de Dom Quixote de Miguel de Cervantes foi marcado pelo detector OpenAI como provavelmente escrito por inteligência artificial.

Embora os erros na análise de textos literários históricos possam ser tratados como uma curiosidade divertida, a situação torna-se mais complicada quando queremos utilizar detectores como ferramentas de avaliação de textos. A Constituição dos EUA foi marcada pelo ZeroGPT como 92,15% escrita por inteligência artificial. E, de acordo com um estudo publicado por pesquisadores da Universidade de Stanford, 61% das redações do TOEFL escritas por estudantes não nativos de língua inglesa foram classificadas como geradas por IA. Infelizmente, não existem dados sobre quão elevada é a percentagem de textos falsamente classificados como positivos noutras línguas.

Outra questão é a mudança de classificação nas execuções subsequentes do detector. Isso ocorre porque muitas vezes acontece que um detector como ZeroGPT ou Scribbr altera a classificação de fragmentos de texto, que ele marca como gerados por IA uma vez e como escritos por humanos em outra ocasião.

Fonte: Scribbr (https://www.scribbr.com/ai-detector/)

Os detectores de imagem e vídeo de IA são usados ​​principalmente para identificar deepfakes e outros conteúdos gerados por IA que podem ser usados ​​para espalhar desinformação.

As ferramentas de detecção atuais, como Deepware, Illuminarty e FakeCatcher, não fornecem resultados de testes sobre sua confiabilidade. No contexto legal de detecção de material visual gerado por IA, existem iniciativas para adicionar marcas d'água às imagens de IA. No entanto, esta é uma forma pouco confiável – você pode facilmente baixar uma imagem sem marca d’água. Midjourney adota uma abordagem diferente para a marca d’água, deixando que os usuários decidam se desejam colocar uma marca d’água em uma imagem dessa forma.

Evitando a detecção de IA. É possível e como?

Os empresários devem estar cientes de que os detectores de conteúdo de IA não substituem a avaliação da qualidade humana e nem sempre são fiáveis. Seus problemas práticos de manutenção podem representar dificuldades consideráveis, assim como tentar evitar que seu conteúdo seja classificado como gerado por IA. Especialmente quando a IA é simplesmente uma ferramenta nas mãos de um profissional – ou seja, não é “conteúdo gerado pela IA”, mas sim “conteúdo que foi criado em colaboração com a IA”.

É relativamente simples adicionar alguém aos materiais gerados, por isso a forma como são criados é realmente difícil de detectar. Se a pessoa que usa IA generativa souber qual efeito obter, pode simplesmente ajustar manualmente os resultados.

A questão básica está na razão por trás de nosso desejo de evitar a detecção se o conteúdo foi gerado por IA.

• Se esta é uma questão ética e diz respeito, por exemplo, à autoria de investigação científica publicada – resta-nos confiar na ética profissional do cientista e na utilização responsável de ferramentas baseadas em IA.
• Se o empregador desejar que os empregados optem por não utilizar IA – resta um acordo contratual para a utilização de inteligência artificial generativa.

Também levanta a questão de saber se queremos promover o uso responsável da IA ​​através de proibições e detractores (ZeroGPT e GPTZero!), ou através de uma valorização da transparência, da construção de confiança e da utilização honesta de tecnologias avançadas.

Fonte: ZeroGPT (https://www.zerogpt.com/)

Resumo

A resposta à questão de saber se vale a pena usar detectores de conteúdo de IA está longe de ser clara. Os detectores de conteúdo de IA ainda estão em desenvolvimento e seu futuro é difícil de prever. Uma coisa é certa: eles evoluirão junto com o desenvolvimento da tecnologia de IA. Os avanços na IA, incluindo a crescente capacidade dos modelos de linguagem para imitar o estilo de escrita humano, significam que a detecção de conteúdo por IA pode tornar-se ainda mais complicada. Para as empresas, este é um sinal para acompanhar esta evolução e não confiar apenas nas ferramentas, mas na avaliação do conteúdo e na sua adequação ao fim para o qual foi criado. E usar com sabedoria a inteligência artificial em rápido desenvolvimento.

Se você gosta do nosso conteúdo, junte-se à nossa comunidade de abelhas ocupadas no Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.

Autor: Robert Whitney

Especialista em JavaScript e instrutor que orienta departamentos de TI. Seu principal objetivo é aumentar a produtividade da equipe, ensinando aos outros como cooperar de forma eficaz durante a codificação.

Ver todas as postagens

IA nos negócios:

1. Ameaças e oportunidades da IA ​​nos negócios (parte 1)
2. Ameaças e oportunidades da IA ​​nos negócios (parte 2)
3. Aplicações de IA nos negócios – visão geral
4. Chatbots de texto assistidos por IA
5. PNL empresarial hoje e amanhã
6. O papel da IA ​​na tomada de decisões de negócios
7. Agendamento de postagens nas redes sociais. Como a IA pode ajudar?
8. Postagens automatizadas em mídias sociais
9. Novos serviços e produtos operando com IA
10. Quais são os pontos fracos da minha ideia de negócio? Uma sessão de brainstorming com ChatGPT
11. Usando ChatGPT nos negócios
12. Atores sintéticos. Os 3 principais geradores de vídeo de IA
13. 3 ferramentas úteis de design gráfico de IA. IA generativa nos negócios
14. 3 incríveis escritores de IA que você deve experimentar hoje
15. Explorando o poder da IA ​​na criação musical
16. Navegando em novas oportunidades de negócios com ChatGPT-4
17. Ferramentas de IA para o gestor
18. 6 plugins ChatGTP incríveis que tornarão sua vida mais fácil
19. 3 gráficos AI. Geração de inteligência inteligente para negócios
20. Qual é o futuro da IA ​​de acordo com o McKinsey Global Institute?
21. Inteligência artificial nos negócios - Introdução
22. O que é PNL ou processamento de linguagem natural nos negócios
23. Processamento automático de documentos
24. Google Tradutor x DeepL. 5 aplicações da tradução automática para empresas
25. A operação e aplicações de negócios de voicebots
26. Tecnologia de assistente virtual ou como falar com IA?
27. O que é inteligência de negócios?
28. A inteligência artificial substituirá os analistas de negócios?
29. Como a inteligência artificial pode ajudar no BPM?
30. IA e redes sociais – o que dizem sobre nós?
31. Inteligência artificial no gerenciamento de conteúdo
32. IA criativa de hoje e de amanhã
33. IA multimodal e suas aplicações nos negócios
34. Novas interações. Como a IA está mudando a maneira como operamos os dispositivos?
35. RPA e APIs em uma empresa digital
36. O futuro mercado de trabalho e as próximas profissões
37. IA em EdTech. 3 exemplos de empresas que utilizaram o potencial da inteligência artificial
38. Inteligência artificial e meio ambiente. 3 soluções de IA para ajudá-lo a construir um negócio sustentável
39. Detectores de conteúdo de IA. Eles valem a pena?