IA para organizaciones sin fines de lucro: qué significa en la práctica confiar pero verificar

Escepticismo y FOMO a partes iguales. Así es como se sienten la mayoría de los profesionales de organizaciones sin fines de lucro con los que hemos hablado este año acerca de la inteligencia artificial (IA).

No puedes esconder la cabeza en la arena cuando se trata de IA, ni deberías lanzarte a ella sin pensar profundamente en el impacto potencial en tu organización y comunidad.

Como escribe Sam Caplan: "Si 2023 fue el año de la curiosidad por la IA, 2024 es el año de la intencionalidad de la IA ". Este año, la IA está empezando a madurar de verdad. Pero eso no significa que la IA esté completamente libre de problemas de confianza, algo que reconocen incluso sus defensores más acérrimos.

Devi Thomas, directora global de Capacidad Comunitaria sin Fines de Lucro de Microsoft Philanthropies, aporta una gran cantidad de conocimientos sobre la integración de la tecnología para el bien social. Beth Kanter, autora y consultora experimentada sin fines de lucro, ha pasado años ayudando a las organizaciones a aprovechar la tecnología para amplificar su impacto. Juntas, sus ideas arrojan luz sobre cómo las organizaciones sin fines de lucro pueden adoptar la IA de manera reflexiva y responsable.

Todo se reduce a un concepto: confiar, pero verificar . Esto es lo que eso significa en la práctica.

Pon siempre a un humano en el asiento del piloto.

Puede resultar tentador dejar que la IA tome el control y dirija el barco, dada su facilidad de uso. Sin embargo, tanto Devi como Beth enfatizan la importancia de mantener siempre a un humano firmemente en el asiento del piloto.

Como dice Beth: “Realmente analizamos la IA y nos referimos a ella, tanto interna como externamente en Microsoft, como su copiloto. El humano es el piloto”.

La IA es una tecnología de asistencia que mejora la producción humana sin reemplazar el juicio humano. Lo crucial es saber qué tareas delegar a la IA. En una encuesta realizada a más de 400 líderes de organizaciones sin fines de lucro, Devi dijo que Microsoft encontró que el 25% cree que la habilidad más importante para enseñar a sus equipos es cuándo usar IA y cuándo usar a un humano.

Como dice Eric Lucht de Microsoft: “¿Le confiaría esto a un pasante? Si no, no uses IA para ello”. Si solo confiarías en un profesional bien remunerado y con años de experiencia para una tarea, no deberías utilizar la IA para ello.

La rendición de cuentas es el principio número uno de IA responsable de Microsoft. En la práctica, esto significa que los usuarios de IA no deben comprometerse de ninguna manera con el hecho de que debe haber supervisión humana, comenzando desde la fase de diseño. Mantener a los humanos en control garantiza que la IA siga siendo una herramienta para apoyar y aumentar los esfuerzos humanos, en lugar de un pobre sustituto de ellos.

Comprender las limitaciones de la IA

Desde el análisis de conjuntos de datos de donantes para predecir futuras respuestas a desastres hasta la traducción para poblaciones desplazadas, existen aparentemente infinitos casos de uso de la IA para organizaciones sin fines de lucro. La IA tiene un enorme potencial, pero no es una solución mágica. Comprender sus limitaciones es crucial para las organizaciones sin fines de lucro que buscan utilizar la IA de manera responsable.

Reconocer la curva de aprendizaje

Si bien el procesamiento del lenguaje natural hace que la IA sea accesible para la mayoría, todavía existe una curva de aprendizaje involucrada en su uso, como ocurre con cualquier tecnología nueva. Como señala Devi en el estudio de Microsoft, "el 58% de los líderes de organizaciones sin fines de lucro están preocupados por la pronunciada curva de aprendizaje para comprender la IA".

Invierte tiempo en formar y familiarizar a tu equipo con las herramientas de IA. No asuma que todos saben cómo usarlos correctamente; Así es como se acaban perdiendo matices importantes al utilizar la IA.

Cuidado con el exceso de confianza

La IA a menudo puede parecer confiada en sus resultados, lo que podría generar una confianza equivocada. La IA todavía es un trabajo en progreso y es capaz de cometer errores, como lo demuestra el reciente y notorio lanzamiento de las descripciones generales de IA de Google que escupen recomendaciones para comer piedras o agregar pegamento a la pizza.

“Aquí se necesitan todas las habilidades de pensamiento crítico que nos enseñaron en el uso de Internet”, advierte Devi.

Ése es el quid de “Confiar, pero verificar”: abordar los resultados de la IA con ojo crítico y verificar los resultados en lugar de tomarlos al pie de la letra.

Adopte un enfoque que dé prioridad a la privacidad

Devi compartió que el 63% de los líderes de organizaciones sin fines de lucro están preocupados por los riesgos de seguridad asociados con el uso de la IA. El uso responsable de la IA implica comprender hacia dónde van sus entradas, cómo se utilizan y de dónde provienen sus salidas.

Los datos que manejan las organizaciones sin fines de lucro suelen ser confidenciales. Todos los sistemas impulsados ​​por IA que utilizan las organizaciones sin fines de lucro deben cumplir con las regulaciones y mejores prácticas de protección de datos. Asegúrese de que cifren los datos, los almacenen de forma segura y actualicen periódicamente los protocolos de seguridad para salvaguardar la información.

Quizás lo más importante sea educar a su personal y a sus voluntarios sobre cómo protegerse a sí mismos y a sus datos cuando utilizan la IA. Incorporar consideraciones de privacidad desde el principio. Sea transparente con las partes interesadas sobre cómo se utilizan y protegen los datos mediante las herramientas de IA que utilizan.

Sepa de dónde provienen sus resultados

La transparencia es otro principio importante de la IA responsable y clave para generar confianza en los sistemas de IA. La gente necesita saber de dónde provienen los datos utilizados por la IA y los procesos involucrados en la generación de resultados. Al ser transparentes, las organizaciones sin fines de lucro pueden garantizar que las partes interesadas comprendan y confíen en los sistemas de IA implementados.

Por ejemplo, Copilot by Bing cita fuentes para cada una de sus afirmaciones generadas, con un hipervínculo a una página web adecuada. Devi anima a los usuarios de IA a ser curiosos y a preguntarse de dónde obtiene la información la IA.

Empiece poco a poco y luego reevalúe

Adoptar la IA puede ser una tarea desalentadora, especialmente para organizaciones sin fines de lucro con recursos limitados. Por eso vale la pena empezar poco a poco y luego reevaluar si la IA tiene sentido para su organización sin fines de lucro.

Devi recomienda que las organizaciones sin fines de lucro comiencen poco a poco con la IA, siguiendo un proceso escalable de tres pasos:

1. Piense en su caso de uso para la IA. Algo específico y manejable, donde la IA aporte claros beneficios. Por ejemplo, automatizar las respuestas de correo electrónico o analizar los datos de los donantes. Al centrarse en un único caso de uso, las organizaciones sin fines de lucro pueden controlar y medir mejor los resultados.
2. Pruebe ese caso de uso . Establezca KPI para medir el impacto de la IA en el caso de uso elegido. Implemente la herramienta de IA a pequeña escala y supervise de cerca su rendimiento.
3. Evaluar y ajustar . Determine qué funciona y qué no. Evalúe el impacto de los resultados de este proyecto a pequeña escala en comparación con sus KPI. Evalúe los beneficios, los desafíos y las consecuencias no deseadas. Como dice Devi, se trata de aprendizaje y mejora continuos en función del caso de uso elegido.

A partir de ahí, puedes aumentar o reducir cuidadosamente el uso de la IA.

Cambie su enfoque de la producción total al último 20 %

La adopción de la IA requiere un cambio fundamental en la forma en que abordamos las tareas y proyectos. Ya no se trata de empezar desde cero. La IA puede sentar las bases y las personas pueden construir a partir de ahí.

"La mayoría de los seres humanos están acostumbrados a crear un producto de 0 a 80", dice Devi. "Ahora tenemos que hacer un cambio de comportamiento y llevar las cosas de 80 a 100".

Este enfoque es particularmente beneficioso para aquellas organizaciones sin fines de lucro que a menudo tienen poco tiempo. Como explicó un beneficiario con el que hablamos: "El mayor beneficio de la IA en las organizaciones que realmente no pueden permitirse los niveles de personal de una [organización] corporativa está en esas tareas básicas y menores".

Beth profundiza en este concepto y describe la IA como un dividendo del tiempo. Al hacerse cargo de tareas más tediosas, la IA libera a los profesionales de organizaciones sin fines de lucro para que puedan centrarse en cuestiones más importantes.

“La IA tendrá un profundo impacto en la forma en que hacemos nuestro trabajo. Va a automatizar mucho trabajo duro, mucho de lo que yo llamo ejercicios aeróbicos en hojas de cálculo, cortar y pegar”, dijo Beth. "También ayudará a liberar tiempo, tal vez, para abordar aspectos como la tasa de retención de donantes o ayudarnos a pensar de manera más creativa sobre la estrategia y la innovación y tener una ejecución de programas más impactante".

En la práctica, esto significa adoptar la IA como punto de partida para generar ideas, borradores o análisis iniciales, y luego refinar y mejorar los resultados de la IA con conocimiento y experiencia humanos. Llevar un resultado de IA que sea 80 % decente a 100 % de calidad requiere el toque humano, incorporando el contexto organizacional y una comprensión matizada que la IA no puede proporcionar.

Trabajar con IA requiere una mentalidad de crecimiento: la voluntad de aprender y adaptarse al uso de la IA en sus flujos de trabajo, y la capacidad de cerrar la brecha entre los resultados generados por la IA y los resultados de alta calidad alineados con la misión.

Aumentar la aceptación desde arriba hacia abajo

Los equipos de liderazgo deben estar capacitados y ser capaces de educar a otros sobre cómo utilizar la IA de manera responsable. Marcan el tono de sus organizaciones y tienen una enorme influencia en la eficacia y responsabilidad con la que se adopta y utiliza la IA.

“Lo que he visto y oído es que todo comienza desde arriba”, dijo Devi. “Si tienes un equipo de liderazgo que está profundamente involucrado en la tecnología, es más fácil generar aceptación en toda la organización y con los voluntarios. Luego, puedes escalar, asegurándote de que los empleados y todos los que tocan la misión sepan cómo usarla de manera responsable y ética”.

Los líderes deben comunicar el valor y el potencial de la IA de forma clara y coherente, y garantizar que los proyectos de IA estén alineados con la misión de la organización. Deberían poder articular cómo la IA mejora los resultados y la eficiencia operativa, demostrando la relevancia de la tecnología para el trabajo principal de la organización sin fines de lucro.

Los líderes que apuestan por la IA también deben tener expectativas realistas de lo que es posible. Deben comprender la necesidad de mantener a los humanos en el asiento del conductor y, al mismo tiempo, brindar a los empleados el apoyo que necesitan para aprender nuevas habilidades. Esto significa fomentar una cultura de exploración e innovación en torno al uso de la IA.

"Bríndele a los equipos el tiempo y los recursos para aprender y jugar con herramientas de inteligencia artificial", dijo Devi. “Anima a las personas a pasar tiempo con la IA generativa, a entrar y a ser cada vez más específicas con sus indicaciones. Aprenda a agregar más contexto para obtener el tipo de resultado correcto”.

"Los líderes deben crear seguridad psicológica en torno al uso de la IA", añade Beth. “Normalizar la mente del principiante hacia la IA. Tenemos que adoptarlo con calma y responsabilidad”.

La IA puede nivelar el campo de juego para las organizaciones sin fines de lucro

Se podría pensar que las organizaciones más grandes son las que adoptan la IA con entusiasmo, pero como señaló Devi en su estudio, en realidad son las organizaciones sin fines de lucro más pequeñas las que están sacando el mayor provecho de la IA.

"Las pequeñas organizaciones sin fines de lucro están adoptando la IA con más frecuencia", afirma Devi. "Están motivados porque esto supone un gran ahorro de tiempo y una oportunidad de utilizar recursos para llegar más lejos".

La IA también puede ayudar a cerrar la brecha entre las organizaciones sin fines de lucro emergentes y sin experiencia y las más establecidas, especialmente en el espacio de concesión de subvenciones, donde articular su misión es clave para asegurar la financiación. Como nos dijo un beneficiario: “Si le diera a AI una descripción muy detallada de lo que hace mi organización y lo que [una aplicación] busca, probablemente podría ayudarme”.

La IA ofrece un potencial increíble para las organizaciones sin fines de lucro, pero una adopción exitosa requiere un enfoque reflexivo. Siguiendo los principios responsables de la IA, las organizaciones sin fines de lucro pueden aprovechar el poder de la IA para multiplicar su impacto mientras se mantienen fieles a su misión y valores.

Para participar más en la conversación sobre la IA para organizaciones sin fines de lucro, vea nuestro seminario web bajo demanda, IA para fundaciones: una introducción para pragmáticos. Escuche cómo Anne Nies, directora de ciencia de Submittable, Alicia Tapia, estratega tecnológica sénior de Microsoft, y Sam Caplan, vicepresidente de impacto social de Submittable, comparten lo que han aprendido sobre la IA y sus usos ideales para las fundaciones.