Apresentando os princípios de IA responsável do Submittable

Na Submittable, nossa missão é acelerar o trabalho voltado para a missão. A inovação é fundamental para essa aceleração. Tecnologias inovadoras como a inteligência artificial representam um enorme potencial para a humanidade como um todo, e especialmente para o setor de impacto social.

A Submittable tem a oportunidade de criar produtos que capacitam nossos clientes a proporcionar um impacto exponencialmente maior em seus programas e beneficiários. A implementação das nossas ferramentas de IA faz parte do progresso numa variedade de causas vitais nos setores público, sem fins lucrativos e privado, desde cuidados infantis acessíveis e comunitários até à luta e construção de resiliência às alterações climáticas.

Como parte deste trabalho, temos o dever de garantir que toda a tecnologia de IA que desenvolvemos seja responsável, ética e impactante. Para esse fim, o Submittable segue um conjunto de princípios para IA responsável.

Princípios submissíveis para IA responsável

Os primeiros recursos alimentados por IA que podem ser enviados foram lançados na primavera de 2021 para apoiar nossos clientes que esperam dezenas ou centenas de milhares – até mesmo um milhão – de inscrições, em resposta principalmente ao financiamento de alívio da COVID altamente solicitado. Com a Revisão Automatizada, a tecnologia cuida de tarefas tediosas, como extrair dados de formulários fiscais ou documentos de identificação, ou aplicar pontuação automatizada com base em lógica de negócios personalizada.

Isso abre espaço para que nossos clientes se concentrem no trabalho crítico do programa que requer um toque humano, como construir relacionamentos com candidatos e premiados.

Desde então, nossa equipe científica cresceu. Estamos trabalhando arduamente para revelar mais produtos que cumpram a missão da IA ​​para sempre. Esta nova onda permitirá que cada parte interessada no ciclo de vida da subvenção aproveite o poder da IA ​​– não apenas os financiadores, mas também os candidatos, revisores e outros.

Hoje, no precipício da próxima fase da IA ​​para Submittable, estamos compartilhando com nossa comunidade os princípios de IA responsável que orientam este trabalho.

Capacitando

Acreditamos que o papel da IA ​​é ajudar os humanos a tomar melhores decisões e a conseguir mais, mas não à custa da agência humana. Embora nossas ferramentas de IA ajudem a realizar o trabalho com mais rapidez, elas nunca excluirão os humanos da equação. Para este fim, trabalhamos para criar ferramentas de IA que eliminem o trabalho pesado, ao mesmo tempo que centram o papel do cérebro humano em tarefas-chave como a tomada de decisões ou o julgamento. Nossas ferramentas de IA preservarão o direito do ser humano de tomar a decisão final.

Responsável

Todas as nossas ferramentas de IA são responsáveis ​​por um ser humano que está constantemente atualizado. O monitoramento “Human-in-the-loop” (HITL) significa que os humanos fornecem feedback direto ao modelo de aprendizagem para corrigir erros e melhorar a precisão ao longo do tempo. Usamos HITL para monitorar ativamente nossas ferramentas de IA e realizar avaliações de impacto contínuas, para que nossos modelos melhorem com o tempo.

Transparente

Acreditamos que todos os usuários devem ter uma compreensão clara de onde e quando a IA é usada — e por quê. É por isso que deixamos claro quando os usuários interagem com as ferramentas de IA, onde implementamos a IA em nosso software e por que o fazemos. Esta transparência é fundamental tanto para a confiança nas ferramentas como para a definição de expectativas sobre o modo como as ferramentas funcionam.

Equitativo

Trabalhamos incansavelmente para encontrar e eliminar preconceitos em nossas ferramentas de IA. Realizamos extensa identificação precoce de preconceitos e monitoramento contínuo. Isto permite uma mitigação precoce e constante, levando a ferramentas mais equitativas a curto e longo prazo. Também damos um passo adiante, envolvendo partes interessadas especializadas no desenvolvimento de modelos para que nossa tecnologia reflita não apenas nossa própria interpretação de equidade, mas também adira aos padrões líderes do setor.

Privado e seguro

Em cada etapa do nosso ciclo de vida de desenvolvimento, implementamos medidas de classe mundial para garantir que todos os dados sejam privados e seguros. Nunca compartilharemos dados com modelos públicos. Os usuários podem confiar que os dados que passam pela IA do Submittable estão protegidos e seguros.

Nosso processo científico

À medida que desenvolvemos nossas ferramentas de IA, a equipe científica submetível adota uma abordagem medida intencionalmente, conforme ilustrado no volante abaixo.

• Pesquisa: Trabalhe com especialistas no assunto para entender o problema que estamos tentando resolver e as formas apropriadas de resolvê-lo.
• Design: certifique-se de que a solução irá melhorar a experiência do usuário e, ao mesmo tempo, atender aos nossos Princípios de IA Responsável.
• Construir: Crie um serviço estável com desempenho que atenda a todos os requisitos de segurança.
• Avaliar: Certifique-se de que a solução esteja funcionando conforme o esperado.
• Melhorar: Procure e avalie áreas de melhoria.

Nossa filosofia

Submittable abrange a natureza não determinística da IA ​​e do desenvolvimento algorítmico. Um algoritmo não determinístico é aquele que, quando recebem as mesmas entradas, pode retornar saídas diferentes. Isso significa que muitas vezes não saberemos os resultados do nosso trabalho até que ele esteja concluído. Consideramos isso um ponto forte.

Na prática, isto significa que operamos dentro de intervalos de confiança, que indicam o grau em que podemos esperar que os resultados sejam precisos. Para criar um intervalo de confiança, definimos um limite superior e inferior, que é a maior precisão que podemos esperar e a menor precisão que permitiremos. Em seguida, utilizamos a metodologia HITL, entre outras práticas recomendadas, para garantir que os resultados das nossas ferramentas de IA se enquadram nesses limites superiores e inferiores.

Ao seguir este método de práticas recomendadas para o desenvolvimento de IA, podemos garantir a precisão e abraçar a natureza dinâmica que confere às ferramentas de IA seu valor único.

O que vem por aí para IA em Submittable

Já fornecemos IA que ajuda nossos clientes a automatizar tarefas e melhorar a tomada de decisões. A seguir, estamos entusiasmados em colocar a IA nas mãos de mais clientes, com usabilidade aprimorada para indivíduos não técnicos.

Uma parte fundamental desta jornada é a nossa parceria estratégica recentemente anunciada com a Tech for Social Impact da Microsoft. Juntando-nos a eles na sua missão de criar IA para o bem, aproveitaremos o melhor conjunto de ferramentas da Microsoft, incluindo o Microsoft Azure Open AI, para criar uma nova onda de tecnologia alimentada por IA. Esta nova onda irá desencadear a promessa da IA ​​para todos os membros do processo de concessão de doações.

Aqui está uma prévia do que está por vir para os usuários que podem ser enviados:

• Sugestões de respostas que economizam tempo para quem busca subsídios: estamos trabalhando em um serviço baseado em IA que preencherá automaticamente as respostas sugeridas para solicitações de subsídios, com base nas respostas fornecidas anteriormente pelo próprio candidato.
• Criação mais rápida de formulários para financiadores: informados por nosso vasto conhecimento das melhores práticas entre os profissionais, nossos clientes poderão usar um bot de IA para criar automaticamente formulários de solicitação de subsídios usando instruções em linguagem natural.
• Aplicativos acessíveis através de barreiras linguísticas: Também ajudaremos a ampliar as oportunidades de subsídios para diversas populações com um bot de IA que traduzirá formulários para vários idiomas.
• Extração precisa de dados da documentação: Planejamos eliminar a tediosa entrada de dados para candidatos e revisores, ao mesmo tempo que reduzimos o potencial de erro humano e fraude com uma ferramenta apoiada por IA que pode extrair informações de documentos oficiais, como W2s.

IA para o bem requer intenção

Estamos muito entusiasmados com o que o futuro reserva para nossos clientes, profissionais e beneficiários da filantropia em todo o mundo. Mas estamos procedendo com cautela. À medida que lançamos tecnologia revolucionária para o setor, estamos concentrados em garantir que, na prática, a tecnologia que desenvolvemos promove o nosso propósito de acelerar o trabalho orientado para a missão .