Detectores de contenido de IA. ¿Valen la pena? | IA en los negocios #38

¿Recuerdas cuando hace unos años nos entusiasmamos con los primeros artículos generados por IA que apenas se parecían a la prosa humana? Hoy en día, cuando la IA puede escribir ensayos casi poéticos, mucha gente se pregunta cómo distinguir entre el trabajo de una máquina y el de un humano. Y OpenAI, la empresa detrás del éxito de ChatGPT, ha cerrado definitivamente el acceso a su detector de IA debido a su ineficacia.

Hoy en día, los desarrolladores de detectores de contenido de IA los presentan como herramientas para proteger la autenticidad. La pregunta es: ¿valen la pena la confianza y la inversión? En este artículo, veremos cómo funcionan los detectores de contenido de IA, por qué podrían extinguirse, qué desafíos plantean y los dilemas éticos que plantean.

Detectores de contenido de IA

Los detectores de contenido de IA se basan en modelos de lenguaje similares a los utilizados para generar contenido de IA. Se pueden dividir en aquellos cuya tarea es comprobar el origen de imágenes, textos y música generados con apoyo de inteligencia artificial. Cada tipo de “detector de IA” funciona de manera ligeramente diferente, pero ninguno de ellos puede distinguir con absoluta certeza entre contenido creado por humanos y contenido generado por IA.

Los detectores de imágenes generados por IA están desempeñando un papel cada vez más importante debido al poder de los medios de generar noticias falsas. Analizan anomalías, estilos y patrones distintivos y buscan señales dejadas por modelos como DALL-E.

Entre los detectores utilizados para identificar imágenes destaca la herramienta “AI or Not” de Optic, que utiliza bases de datos de imágenes generadas por Midjourney, DALL-E y Stable Diffusion. Si bien los resultados son inciertos, es un paso hacia el desarrollo de métodos de identificación más precisos en el futuro.

Fuente: AI or Not (https://www.aiornot.com/)

Detrás del funcionamiento de los detectores de IA que reconocen textos generados por IA hay algoritmos avanzados que analizan la estructura y la elección de palabras del texto y luego reconocen patrones específicos de IA. Hacen uso de:

• Clasificadores : un algoritmo que clasifica el texto y comprueba el estilo, el tono y la gramática. Por ejemplo, una descripción de producto que podría adaptarse a cualquier producto de su tipo podría clasificarse como creación de IA.
• incrustaciones (incrustaciones): las representaciones numéricas de palabras permiten a las máquinas comprender el contexto de su uso. Es gracias a ellos que el programa “entiende” que un texto con una selección monótona de palabras puede ser obra de IA,
• perplejidad , que es una medida de la imprevisibilidad de un texto. Los textos escritos por humanos tienden a generar mayor perplejidad, aunque los textos que son inherentemente simples, utilitarios en su forma típica o escritos por extranjeros pueden clasificarse erróneamente como generados por IA.
• diversidad (ráfaga): este factor describe la variabilidad en la longitud y estructura de la oración. Los humanos tendemos a escribir textos más variados que la inteligencia artificial.

Los detectores de contenido de IA utilizan los elementos mencionados anteriormente en conjunto para evaluar si estamos tratando con texto creado por el hombre o por una máquina.

¿Por qué utilizar detectores de contenido de IA?

Los detectores de contenido de IA funcionan en una variedad de campos, desde la educación hasta el marketing y la contratación. Estas son las principales razones para utilizarlos como herramienta para ayudar en la evaluación, pero no como prueba definitiva de si se ha generado contenido:

• Identificación de fotografías modificadas por IA que representan a personas conocidas , para detectar si la fotografía representa una situación real.
• Prevención de la desinformación : en el contexto de la lucha contra la desinformación, los detectores de contenido de IA eficaces ayudan a los moderadores de las redes sociales a detectar la difusión de información falsa para identificar y eliminar el contenido repetitivo generado por bots.
• Limitar la publicación de textos de bajo valor : los detectores de contenido de IA pueden ayudar a los editores a rechazar textos que contengan información genérica generada por ChatGPT, Bing o Bard después de escribir una consulta simple.

Sin embargo, vale la pena recordar que el origen del texto no es la base para que Google baje la clasificación de un sitio. El blog del Centro de búsqueda de Google afirma que es clave para Google “recompensar el contenido de calidad independientemente de cómo se cree […]. La automatización se ha utilizado durante mucho tiempo para generar contenido útil, como resultados deportivos, pronósticos meteorológicos y transcripciones. La IA puede abrir nuevos niveles de expresión y creatividad y ser una herramienta clave para respaldar la creación de excelente contenido web”.

Falta de fiabilidad de los detectores de contenido de IA. ¿Realidad o mito?

Aunque los detectores de contenido de IA son omnipresentes, su eficacia puede ser cuestionable. Los principales problemas son:

• baja eficiencia en la detección de contenido de IA,
• problemas con falsos positivos, así como
• dificultades para adaptar los detectores a nuevos modelos de IA que se diversifican y mejoran rápidamente.

Las pruebas realizadas por OpenAI mostraron que su clasificador reconocía el texto generado por GPT sólo el 26% de las veces. Un ejemplo interesante de la falta de fiabilidad de los generadores se puede ver en un experimento realizado por TechCrunch, que demostró que la herramienta GPTZero identificó correctamente cinco de siete textos generados por IA. Mientras que el clasificador OpenAI solo identificó uno.

Fuente: GPTZero (https://gptzero.me/)

Además, existe el riesgo de recibir un falso positivo, es decir, identificar un texto escrito por un humano como generado por IA. Por ejemplo, el comienzo del segundo capítulo de Don Quijote de Miguel de Cervantes fue marcado por el detector OpenAI como probablemente escrito por inteligencia artificial.

Si bien los errores en el análisis de textos literarios históricos pueden tratarse como una curiosidad divertida, la situación se vuelve más complicada cuando queremos utilizar detectores como herramientas para evaluar textos. ZeroGPT calificó la Constitución de Estados Unidos como escrita en un 92,15% por inteligencia artificial. Y, según un estudio publicado por investigadores de la Universidad de Stanford, el 61% de los ensayos TOEFL escritos por estudiantes de habla no inglesa fueron clasificados como generados por IA. Desgraciadamente no hay datos sobre el porcentaje de textos falsamente clasificados como positivos en otros idiomas.

Otro problema es el cambio de clasificación en ejecuciones posteriores del detector. Esto se debe a que a menudo sucede que un detector como ZeroGPT o Scribbr cambia la clasificación de los fragmentos de texto, que marca como generados por IA una vez y como escritos por humanos en otra ocasión.

Fuente: Scribbr (https://www.scribbr.com/ai-detector/)

Los detectores de imágenes y vídeos de IA se utilizan principalmente para identificar deepfakes y otros contenidos generados por IA que pueden utilizarse para difundir desinformación.

Las herramientas de detección actuales como Deepware, Illuminarty y FakeCatcher no proporcionan resultados de pruebas sobre su confiabilidad. En el contexto legal de la detección de material visual generado por IA, existen iniciativas para agregar marcas de agua a las imágenes de IA. Sin embargo, esta es una forma muy poco confiable: puedes descargar fácilmente una imagen sin marca de agua. Midjourney adopta un enfoque diferente para la marca de agua, dejando que los usuarios decidan si quieren poner una marca de agua en una imagen de esta manera.

Evitar la detección de IA. ¿Es posible y cómo?

Los empresarios deben ser conscientes de que los detectores de contenidos de IA no sustituyen a la evaluación de la calidad humana y no siempre son fiables. Sus problemas prácticos de mantenimiento pueden plantear dificultades considerables, al igual que tratar de evitar que su contenido se clasifique como generado por IA. Especialmente cuando la IA es simplemente una herramienta en manos de un profesional, es decir, no es “contenido generado por IA”, sino “contenido creado en colaboración con IA”.

Es relativamente sencillo agregar a alguien a los materiales generados, por lo que la forma en que se crean es realmente difícil de detectar. Si la persona que utiliza la IA generativa sabe qué efecto lograr, puede simplemente modificar manualmente los resultados.

La pregunta básica radica en la razón detrás de nuestro deseo de evitar la detección si el contenido fue generado por IA.

• Si se trata de una cuestión ética y se refiere, por ejemplo, a la autoría de una investigación científica publicada, uno debe confiar en la ética profesional del científico y en el uso responsable de las herramientas basadas en IA.
• Si el empleador desea que los empleados opten por no utilizar la IA, sigue existiendo un acuerdo contractual para el uso de inteligencia artificial generativa.

También plantea la cuestión de si queremos promover el uso responsable de la IA mediante prohibiciones y detractores (¡ZeroGPT y GPTZero!), o mediante una apreciación de la transparencia, el fomento de la confianza y el uso honesto de las tecnologías avanzadas.

Fuente: ZeroGPT (https://www.zerogpt.com/)

Resumen

La respuesta a la pregunta de si vale la pena utilizar los detectores de contenido de IA no está nada clara. Los detectores de contenido de IA todavía están en desarrollo y su futuro es difícil de predecir. Una cosa es segura: evolucionarán junto con el desarrollo de la tecnología de inteligencia artificial. Los avances en la IA, incluida la creciente capacidad de los modelos lingüísticos para imitar el estilo de escritura humana, significan que la detección de contenido por IA podría volverse aún más complicada. Para las empresas, esto es una señal para seguir estos desarrollos y no confiar únicamente en las herramientas, sino en su evaluación del contenido y su idoneidad para el propósito para el cual fue creado. Y utilizar sabiamente la inteligencia artificial en rápido desarrollo.

Si le gusta nuestro contenido, únase a nuestra comunidad de abejas ocupadas en Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.

Autor: Robert Whitney

Experto en JavaScript e instructor que capacita a los departamentos de TI. Su principal objetivo es mejorar la productividad del equipo enseñando a otros cómo cooperar eficazmente mientras codifican.

Ver todas las publicaciones

IA en los negocios:

1. Amenazas y oportunidades de la IA en los negocios (parte 1)
2. Amenazas y oportunidades de la IA en los negocios (parte 2)
3. Aplicaciones de IA en las empresas: descripción general
4. Chatbots de texto asistidos por IA
5. PNL empresarial hoy y mañana
6. El papel de la IA en la toma de decisiones empresariales
7. Programación de publicaciones en redes sociales. ¿Cómo puede ayudar la IA?
8. Publicaciones automatizadas en redes sociales
9. Nuevos servicios y productos que operan con IA
10. ¿Cuáles son las debilidades de mi idea de negocio? Una sesión de lluvia de ideas con ChatGPT
11. Usando ChatGPT en los negocios
12. Actores sintéticos. Los 3 mejores generadores de vídeo con IA
13. 3 útiles herramientas de diseño gráfico de IA. IA generativa en los negocios
14. 3 increíbles escritores de IA que debes probar hoy
15. Explorando el poder de la IA en la creación musical
16. Navegando por nuevas oportunidades comerciales con ChatGPT-4
17. Herramientas de IA para el directivo
18. 6 fantásticos complementos de ChatGTP que te harán la vida más fácil
19. 3 gráficos AI. Generatywna sztuczna inteligencja dla biznesu
20. ¿Cuál es el futuro de la IA según McKinsey Global Institute?
21. Inteligencia artificial en los negocios - Introducción
22. ¿Qué es la PNL o procesamiento del lenguaje natural en los negocios?
23. Procesamiento automático de documentos
24. Traductor de Google frente a DeepL. 5 aplicaciones de la traducción automática para empresas
25. El funcionamiento y las aplicaciones empresariales de los voicebots.
26. ¿Tecnología de asistente virtual o cómo hablar con la IA?
27. ¿Qué es la inteligencia empresarial?
28. ¿La inteligencia artificial reemplazará a los analistas de negocios?
29. ¿Cómo puede ayudar la inteligencia artificial con BPM?
30. IA y redes sociales: ¿qué dicen de nosotros?
31. Inteligencia artificial en la gestión de contenidos
32. IA creativa de hoy y de mañana
33. IA multimodal y sus aplicaciones en los negocios
34. Nuevas interacciones. ¿Cómo está cambiando la IA la forma en que operamos los dispositivos?
35. RPA y APIs en una empresa digital
36. El futuro mercado laboral y las próximas profesiones
37. IA en EdTech. 3 ejemplos de empresas que aprovecharon el potencial de la inteligencia artificial
38. Inteligencia artificial y medio ambiente. 3 soluciones de IA para ayudarle a construir un negocio sostenible
39. Detectores de contenido de IA. ¿Valen la pena?