IA para organizações sem fins lucrativos: o que confiar, mas verificar, significa na prática

Partes iguais de ceticismo e FOMO. É assim que a maioria dos profissionais de organizações sem fins lucrativos com quem conversamos este ano se sente em relação à inteligência artificial (IA).

Você não pode enfiar a cabeça na areia quando se trata de IA, nem deve mergulhar nisso sem pensar profundamente sobre o impacto potencial em sua organização e comunidade.

Como escreve Sam Caplan: “Se 2023 foi o ano da curiosidade sobre IA, 2024 é o ano da intencionalidade da IA ”. Este ano, a IA está começando a amadurecer verdadeiramente. Mas isso não significa que a IA esteja completamente livre de problemas de confiança, o que até mesmo os fortes defensores da IA ​​reconhecem.

Devi Thomas, chefe global de capacidade comunitária sem fins lucrativos da Microsoft Philanthropies, traz um vasto conhecimento sobre a integração de tecnologia para o bem social. Beth Kanter, consultora e autora experiente de organizações sem fins lucrativos, passou anos ajudando organizações a aproveitar a tecnologia para ampliar seu impacto. Juntos, seus insights esclarecem como as organizações sem fins lucrativos podem adotar a IA de maneira ponderada e responsável.

Tudo se resume a um conceito: Confie, mas verifique . Aqui está o que isso significa na prática.

Sempre coloque um humano no assento do piloto

Pode ser tentador deixar a IA assumir o controle e dirigir o navio, dada a facilidade de uso. No entanto, tanto Devi quanto Beth enfatizam a importância de sempre manter um humano firmemente no assento do piloto.

Como diz Beth: “Nós realmente olhamos para a IA e nos referimos a ela tanto interna quanto externamente na Microsoft como seu copiloto. O humano é o piloto.”

A IA é uma tecnologia assistiva que melhora a produção humana sem substituir o julgamento humano. O que é crucial é saber quais tarefas delegar à IA. Numa pesquisa com mais de 400 líderes de organizações sem fins lucrativos, Devi disse que a Microsoft descobriu que 25% acreditam que a habilidade mais importante a ensinar às suas equipes é quando usar IA e quando usar um ser humano.

Como diz Eric Lucht, da Microsoft: “Você confiaria isso a um estagiário? Caso contrário, não use IA para isso.” Se você confia apenas em um profissional altamente remunerado com anos de experiência para uma tarefa, não deve usar IA para isso.

A responsabilidade é o princípio número um de IA responsável da Microsoft. Na prática, isto significa que os utilizadores de IA não devem comprometer de forma alguma o facto de que deve haver supervisão humana envolvida, desde a fase de concepção. Manter os humanos no controlo garante que a IA continue a ser uma ferramenta para apoiar e aumentar os esforços humanos, em vez de um fraco substituto para eles.

Entenda as limitações da IA

Desde a análise de conjuntos de dados de doadores para prever futuras respostas a desastres, até à tradução para populações deslocadas, existem casos de utilização aparentemente infinitos de IA para organizações sem fins lucrativos. A IA tem um potencial tremendo, mas não é uma solução mágica. Compreender as suas limitações é crucial para as organizações sem fins lucrativos que procuram utilizar a IA de forma responsável.

Reconheça a curva de aprendizado

Embora o processamento de linguagem natural torne a IA acessível para a maioria, ainda há uma curva de aprendizado envolvida em seu uso, como acontece com qualquer nova tecnologia. Como observa Devi no estudo da Microsoft, “58% dos líderes de organizações sem fins lucrativos estão preocupados com a curva de aprendizado acentuada para compreender a IA”.

Invista tempo treinando e familiarizando sua equipe com as ferramentas de IA. Não presuma que todos sabem como usá-los corretamente; é assim que você acaba perdendo nuances importantes ao usar IA.

Cuidado com o excesso de confiança

Muitas vezes, a IA pode parecer confiante nos seus resultados, o que pode levar a uma confiança equivocada. A IA ainda é um trabalho em andamento e é capaz de cometer erros, como demonstrado pelo recente e notório lançamento das visões gerais de IA do Google, que apresentam recomendações para comer pedras ou adicionar cola à pizza.

“Todas as habilidades de pensamento crítico que aprendemos ao usar a Internet são necessárias aqui”, alerta Devi.

Esse é o ponto crucial de “Confiar, mas verificar”: abordar os resultados da IA ​​com um olhar crítico e verificar os resultados, em vez de considerá-los pelo valor nominal.

Adote uma abordagem que prioriza a privacidade

Devi compartilhou que 63% dos líderes de organizações sem fins lucrativos estão preocupados com os riscos de segurança associados ao uso de IA. O uso responsável da IA ​​envolve entender para onde estão indo suas entradas, como estão sendo usadas e de onde vêm suas saídas.

Os dados manipulados pelas organizações sem fins lucrativos costumam ser confidenciais. Todos os sistemas baseados em IA que as organizações sem fins lucrativos usam devem cumprir os regulamentos e práticas recomendadas de proteção de dados. Certifique-se de que eles criptografem os dados, armazenem os dados com segurança e atualizem regularmente os protocolos de segurança para proteger as informações.

O mais importante, talvez, seja educar sua equipe e voluntários sobre como proteger a si mesmos e a seus dados ao usar IA. Incorpore considerações de privacidade desde o início. Seja transparente com as partes interessadas sobre como os dados são usados ​​e protegidos pelas ferramentas de IA que utilizam.

Saiba de onde vêm seus resultados

A transparência é outro princípio importante da IA ​​responsável e fundamental para construir confiança nos sistemas de IA. As pessoas precisam saber de onde vêm os dados usados ​​pela IA e os processos envolvidos na geração de resultados. Ao serem transparentes, as organizações sem fins lucrativos podem garantir que as partes interessadas compreendem e confiam nos sistemas de IA em vigor.

Por exemplo, o Copilot by Bing cita fontes para cada uma de suas reivindicações geradas, com um hiperlink para uma página da web apropriada. Devi incentiva os usuários de IA a serem curiosos e a questionar de onde a IA obtém suas informações.

Comece pequeno e depois reavalie

Adotar a IA pode ser uma tarefa difícil, especialmente para organizações sem fins lucrativos com recursos limitados. É por isso que vale a pena começar aos poucos e depois reavaliar se a IA faz sentido para sua organização sem fins lucrativos.

Devi recomenda que as organizações sem fins lucrativos comecem aos poucos com IA, seguindo um processo escalonável de três etapas:

1. Pense no seu caso de uso de IA. Algo específico e gerenciável, onde a IA proporciona benefícios claros. Por exemplo, automatizando respostas de e-mail ou analisando dados de doadores. Ao se concentrarem em um único caso de uso, as organizações sem fins lucrativos podem controlar e medir melhor os resultados.
2. Teste esse caso de uso . Estabeleça KPIs para medir o impacto da IA ​​no caso de uso escolhido. Implemente a ferramenta de IA em pequena escala e monitore de perto seu desempenho.
3. Avalie e ajuste . Determine o que está funcionando e o que não está. Avalie o impacto dos resultados deste projeto de pequena escala em relação aos seus KPIs. Avalie os benefícios, desafios e quaisquer consequências não intencionais. Como diz Devi, trata-se de aprendizado e melhoria contínuos em relação ao caso de uso escolhido.

A partir daí, você pode aumentar ou diminuir cuidadosamente o uso da IA.

Mude seu foco da produção total para os últimos 20%

A adoção da IA ​​exige uma mudança fundamental na forma como abordamos tarefas e projetos. Não se trata mais de começar do zero. A IA pode estabelecer as bases e as pessoas podem construir a partir daí.

“A maioria dos seres humanos está acostumada a criar um produto de 0 a 80”, diz Devi. “Agora temos que fazer uma mudança de comportamento, levando as coisas de 80 para 100.”

Esta abordagem é particularmente benéfica para as organizações sem fins lucrativos que muitas vezes têm falta de tempo. Como explicou um beneficiário com quem conversamos: “O maior benefício da IA ​​em organizações que realmente não podem arcar com os níveis de pessoal de uma [organização] corporativa está nessas tarefas básicas e servis”.

Beth desenvolve esse conceito, descrevendo a IA como um dividendo de tempo. Ao assumir tarefas mais tediosas, a IA libera profissionais de organizações sem fins lucrativos para se concentrarem em questões mais importantes.

“A IA terá um impacto profundo na forma como fazemos o nosso trabalho. Isso vai automatizar muito trabalho pesado, muito do que chamo de aeróbica de planilhas, recortar e colar”, disse Beth. “Também nos ajudará a libertar tempo, talvez, para abordar questões como a taxa de retenção de doadores ou ajudar-nos-á a pensar de forma mais criativa sobre estratégia e inovação e a ter uma implementação de programas mais impactante.”

Na prática, isto significa adotar a IA como ponto de partida para gerar ideias, rascunhos ou análises iniciais e, em seguida, refinar e melhorar os resultados da IA ​​com conhecimento e experiência humanos. Obter um resultado de IA que seja de 80% decente a 100% de qualidade requer o toque humano, incorporando o contexto organizacional e a compreensão diferenciada que a IA não pode fornecer.

Trabalhar com IA requer uma mentalidade de crescimento – uma disposição para aprender e se adaptar ao uso de IA em seus fluxos de trabalho e uma capacidade de preencher a lacuna entre os resultados gerados pela IA e os resultados de alta qualidade alinhados à missão.

Aumente a adesão de cima para baixo

As equipes de liderança precisam ser educadas e capazes de educar outras pessoas sobre como usar a IA de forma responsável. Eles definem o tom das suas organizações e têm enorme influência sobre a forma como a IA é adotada e utilizada de forma eficaz e responsável.

“O que vi e ouvi é que tudo começa no topo”, disse Devi. “Se você tem uma equipe de liderança que investe profundamente na tecnologia, é mais fácil criar adesão em toda a organização e com voluntários. Então, você pode escalar, garantindo que os funcionários e todos que estão envolvidos na missão saibam como usá-la de forma responsável e ética.”

Os líderes devem comunicar o valor e o potencial da IA ​​de forma clara e consistente e garantir que os projetos de IA estão alinhados com a missão da organização. Deverão ser capazes de articular como a IA melhora os resultados e a eficiência operacional, demonstrando a relevância da tecnologia para o trabalho principal da organização sem fins lucrativos.

Os líderes que aderem à IA também devem ter expectativas realistas sobre o que é possível. Eles precisam compreender a necessidade de manter os humanos no comando, ao mesmo tempo em que dão aos funcionários o apoio necessário para aprender novas habilidades. Isto significa promover uma cultura de exploração e inovação em torno do uso da IA.

“Dê às equipes tempo e recursos para aprender e brincar com as ferramentas de IA”, disse Devi. “Incentive as pessoas a passarem mais tempo com IA generativa, entrarem e serem cada vez mais específicos com suas solicitações. Aprenda como adicionar mais contexto para obter o tipo certo de resultado.”

“Os líderes devem criar segurança psicológica em torno do uso da IA”, acrescenta Beth. “Normalize a mente do iniciante em relação à IA. Temos que ser lentos e ponderados em adotá-lo.”

A IA pode nivelar o campo de atuação das organizações sem fins lucrativos

Você pode pensar que as organizações maiores são as que adotam a IA com entusiasmo, mas, como Devi observou em seu estudo, na verdade são as organizações sem fins lucrativos menores que estão aproveitando ao máximo a IA.

“As pequenas organizações sem fins lucrativos estão adotando a IA com mais frequência”, diz Devi. “Eles estão motivados porque isso economiza muito tempo, é uma oportunidade de usar recursos para ir mais longe.”

A IA também pode ajudar a colmatar a lacuna entre organizações sem fins lucrativos emergentes e inexperientes e as mais estabelecidas, especialmente no espaço de concessão de subvenções, onde articular a sua missão é fundamental para garantir financiamento. Como nos disse um beneficiário: “Se eu desse à IA uma descrição muito detalhada do que minha organização faz e do que [uma aplicação] está procurando, ela provavelmente seria capaz de me ajudar”.

A IA oferece um potencial incrível para organizações sem fins lucrativos, mas a adoção bem-sucedida requer uma abordagem cuidadosa. Ao seguir os princípios responsáveis ​​da IA, as organizações sem fins lucrativos podem aproveitar o poder da IA ​​para multiplicar o seu impacto, mantendo-se fiéis à sua missão e valores.

Para se envolver mais na conversa sobre IA para organizações sem fins lucrativos, assista ao nosso webinar sob demanda, AI for Foundations: A Primer for Pragmatists. Ouça Anne Nies, diretora de ciência da Submittable, Alicia Tapia, estrategista de tecnologia sênior da Microsoft, e Sam Caplan, vice-presidente de impacto social da Submittable, compartilhando o que aprenderam sobre IA e seus usos ideais para fundações.