Presentamos los principios de IA responsable de Submittable

En Submittable, nuestra misión es acelerar el trabajo impulsado por una misión. La innovación es fundamental para esa aceleración. Las tecnologías innovadoras como la inteligencia artificial representan un enorme potencial para la humanidad en su conjunto, y especialmente para el sector de impacto social.

Submittable tiene la oportunidad de crear productos que permitan a nuestros clientes generar un impacto exponencialmente mayor en sus programas y beneficiarios. El despliegue de nuestras herramientas de IA es parte del progreso en una variedad de causas vitales en los sectores público, privado y sin fines de lucro, desde el cuidado infantil asequible y comunitario hasta la lucha y el desarrollo de la resiliencia al cambio climático.

Como parte de este trabajo, tenemos el deber de garantizar que toda la tecnología de IA que desarrollemos sea responsable, ética e impactante. Con ese fin, Submittable se adhiere a un conjunto de principios para una IA responsable.

Principios de Submittable para una IA responsable

Submittable lanzó por primera vez capacidades impulsadas por IA en la primavera de 2021 para ayudar a nuestros clientes que esperan decenas o cientos de miles, incluso un millón, de solicitudes, en respuesta a la financiación de ayuda por COVID, principalmente de gran demanda. Con Automated Review, la tecnología se encarga de tareas tediosas, como extraer datos de formularios de impuestos o documentos de identificación, o aplicar puntuación automatizada basada en una lógica empresarial definida a medida.

Esto abre un espacio para que nuestros clientes se concentren en trabajos críticos para el programa que requieren un toque humano, como establecer relaciones con los solicitantes y premiados.

Desde entonces, nuestro equipo científico ha crecido. Estamos trabajando arduamente para presentar más productos que persigan la misión de la IA para siempre. Esta nueva ola hará posible que cada parte interesada en el ciclo de vida de la subvención aproveche el poder de la IA: no solo los otorgantes de subvenciones, sino también los solicitantes, revisores y otros.

Hoy, al borde de la siguiente fase de AI para Submittable, compartimos con nuestra comunidad los principios de AI responsable que guían este trabajo.

Empoderar

Creemos que el papel de la IA es ayudar a los humanos a tomar mejores decisiones y lograr más, pero no a expensas de la acción humana. Si bien nuestras herramientas de inteligencia artificial ayudarán a que el trabajo se realice más rápido, nunca excluirán a los humanos de la ecuación. Con este fin, trabajamos para crear herramientas de inteligencia artificial que eliminen el trabajo pesado y, al mismo tiempo, centren el papel del cerebro humano en tareas clave como la toma de decisiones o el juicio. Nuestras herramientas de IA preservarán el derecho del ser humano a tomar la decisión final.

Responsable

Todas nuestras herramientas de IA son responsables ante un ser humano que se mantiene constantemente informado. El monitoreo “Human-in-the-loop” (HITL) significa que los humanos brindan retroalimentación directa al modelo de aprendizaje para corregir errores y mejorar la precisión con el tiempo. Usamos HITL para monitorear activamente nuestras herramientas de IA y realizar evaluaciones de impacto continuas, de modo que nuestros modelos mejoren con el tiempo.

Transparente

Creemos que todos los usuarios deben tener una comprensión clara de dónde y cuándo se utiliza la IA y por qué. Es por eso que dejamos claro cuando los usuarios interactúan con herramientas de IA, dónde implementamos la IA en nuestro software y por qué lo hacemos. Esta transparencia es fundamental tanto para la confianza en las herramientas como para establecer expectativas sobre cómo funcionan.

Equitativo

Trabajamos incansablemente para encontrar y eliminar sesgos en nuestras herramientas de IA. Realizamos una extensa identificación temprana de sesgos y un seguimiento continuo. Esto permite una mitigación temprana y constante que conduzca a herramientas más equitativas en el corto y largo plazo. También vamos un paso más allá al involucrar a partes interesadas expertas en el desarrollo de modelos para que nuestra tecnología refleje no solo nuestra propia interpretación de la equidad, sino que también se adhiera a los estándares líderes en la industria.

Privado y seguro

En cada paso de nuestro ciclo de vida de desarrollo, implementamos medidas de primer nivel para garantizar que todos los datos sean privados y seguros. Nunca compartiremos datos con modelos públicos. Los usuarios pueden confiar en que los datos que se mueven a través de la IA de Submittable están protegidos y seguros.

Nuestro proceso científico

A medida que desarrollamos nuestras herramientas de IA, el equipo científico de Submittable adopta un enfoque medido intencionalmente, como se muestra en el volante a continuación.

• Investigación: trabajar con expertos en la materia para comprender el problema que intentamos resolver y las formas adecuadas de resolverlo.
• Diseño: asegúrese de que la solución mejore la experiencia del usuario y al mismo tiempo cumpla con nuestros principios de IA responsable.
• Compilación: cree un servicio estable y de alto rendimiento que cumpla con todos los requisitos de seguridad.
• Evaluar: asegúrese de que la solución funcione como se esperaba.
• Mejorar: Buscar y evaluar áreas de mejora.

Nuestra filosofía

Submittable adopta la naturaleza no determinista de la IA y el desarrollo algorítmico. Un algoritmo no determinista es aquel que, cuando se le dan las mismas entradas, puede devolver resultados diferentes. Esto significa que a menudo no conoceremos los resultados de nuestro trabajo hasta que esté completo. Consideramos esto una fortaleza.

En la práctica, esto significa que operamos dentro de intervalos de confianza, que indican el grado en que podemos esperar que los resultados sean precisos. Para crear un intervalo de confianza, definimos un límite superior e inferior, que es la precisión más alta que podemos esperar y la precisión más baja que permitiremos. Luego utilizamos la metodología HITL, entre otras mejores prácticas, para garantizar que los resultados de nuestras herramientas de IA se encuentren dentro de estos límites superiores e inferiores.

Al seguir este método de mejores prácticas para el desarrollo de IA, podemos garantizar la precisión y adoptar la naturaleza dinámica que otorga a las herramientas de IA su valor único.

¿Qué sigue para la IA en Submittable?

Ya hemos entregado IA que ayuda a nuestros clientes a automatizar tareas y mejorar la toma de decisiones. A continuación, estamos entusiasmados de llevar la IA a manos de más clientes, con una usabilidad mejorada para personas sin conocimientos técnicos.

Una parte clave de este viaje es nuestra asociación estratégica recientemente anunciada con Tech for Social Impact de Microsoft. Uniéndonos a ellos en su misión de crear IA para siempre, aprovecharemos el mejor conjunto de herramientas de Microsoft, incluido Microsoft Azure Open AI, para crear una nueva ola de tecnología impulsada por IA. Esta nueva ola hará realidad la promesa de la IA para todos los miembros en el proceso de concesión de subvenciones.

Aquí hay un adelanto de lo que les espera a los usuarios de Submittable:

• Sugerencias de respuestas para ahorrar tiempo a los solicitantes de subvenciones: estamos trabajando en un servicio impulsado por inteligencia artificial que completará automáticamente las respuestas sugeridas para las solicitudes de subvenciones, basándose en las respuestas que el propio solicitante haya proporcionado previamente.
• Creación de formularios más rápida para los donantes: informados por nuestro amplio conocimiento de las mejores prácticas entre los profesionales, nuestros clientes podrán utilizar un bot de IA para crear automáticamente formularios de solicitud de subvenciones utilizando indicaciones en lenguaje natural.
• Aplicaciones accesibles a través de las barreras del idioma: también ayudaremos a ampliar las oportunidades de subvenciones entre poblaciones diversas con un robot de inteligencia artificial que traducirá formularios a varios idiomas.
• Extracción precisa de datos de la documentación: planeamos eliminar la tediosa entrada de datos para solicitantes y revisores, al mismo tiempo que reducimos el potencial de error humano y fraude con una herramienta respaldada por inteligencia artificial que puede extraer información de documentos oficiales, como los W2.

La IA para el bien requiere intención

Estamos más que emocionados por lo que depara el futuro para nuestros clientes, profesionales y beneficiarios de la filantropía en todo el mundo. Pero estamos avanzando con cautela. A medida que lanzamos tecnología revolucionaria al sector, nos concentramos en garantizar que, en la práctica, la tecnología que desarrollamos promueva nuestro propósito de acelerar el trabajo impulsado por una misión .