Presentazione dei principi di intelligenza artificiale responsabile di Submittable

In Submittable, la nostra missione è accelerare il lavoro orientato alla missione. L’innovazione è fondamentale per tale accelerazione. Tecnologie rivoluzionarie come l’intelligenza artificiale rappresentano un enorme potenziale per l’umanità nel suo insieme, e in particolare per il settore dell’impatto sociale.

Submittable ha l'opportunità di creare prodotti che consentono ai nostri clienti di ottenere un impatto esponenzialmente maggiore sui loro programmi e beneficiari. L’implementazione dei nostri strumenti di intelligenza artificiale fa parte del progresso su una varietà di cause vitali nei settori pubblico, non profit e privato, dall’assistenza all’infanzia a prezzi accessibili e basata sulla comunità alla lotta e allo sviluppo della resilienza ai cambiamenti climatici.

Nell’ambito di questo lavoro, abbiamo il dovere di garantire che tutta la tecnologia IA che sviluppiamo sia responsabile, etica e di grande impatto. A tal fine, Submittable aderisce a una serie di principi per un’IA responsabile.

Principi di Submittable per un'intelligenza artificiale responsabile

Submittable ha rilasciato per la prima volta le funzionalità basate sull'intelligenza artificiale nella primavera del 2021 per supportare i nostri clienti che aspettano decine o centinaia di migliaia, anche un milione, di richieste, in risposta a finanziamenti di soccorso COVID principalmente molto richiesti. Con la revisione automatizzata, la tecnologia si occupa di compiti noiosi, come l'estrazione di dati da moduli fiscali o documenti di identificazione o l'applicazione di punteggi automatizzati basati su una logica aziendale definita su misura.

Ciò offre ai nostri clienti la possibilità di concentrarsi su attività cruciali per il programma che richiedono un tocco umano, ad esempio creando relazioni con candidati e vincitori.

Da allora, il nostro team scientifico è cresciuto. Stiamo lavorando duramente per svelare altri prodotti che perseguono la missione dell’intelligenza artificiale per sempre. Questa nuova ondata consentirà a ciascuna delle parti interessate nel ciclo di vita delle sovvenzioni di sfruttare la potenza dell’intelligenza artificiale: non solo i finanziatori, ma anche i richiedenti, i revisori e altri.

Oggi, all'inizio della prossima fase di AI for Submittable, condividiamo con la nostra comunità i principi dell'IA responsabile che guidano questo lavoro.

Potenziante

Riteniamo che il ruolo dell'intelligenza artificiale sia quello di aiutare gli esseri umani a prendere decisioni migliori e ottenere di più, ma non a scapito dell'azione umana. Anche se i nostri strumenti di intelligenza artificiale aiuteranno a svolgere il lavoro più velocemente, non escluderanno mai gli esseri umani dall’equazione. A tal fine, lavoriamo per creare strumenti di intelligenza artificiale che eliminino il lavoro impegnativo, concentrando al contempo il ruolo del cervello umano in compiti chiave come il processo decisionale o il giudizio. I nostri strumenti di intelligenza artificiale preserveranno il diritto dell’essere umano a prendere la decisione finale.

Responsabile

Tutti i nostri strumenti di intelligenza artificiale sono responsabili nei confronti di un essere umano costantemente aggiornato. Il monitoraggio “Human-in-the-loop” (HITL) significa che gli esseri umani forniscono un feedback diretto al modello di apprendimento per correggere gli errori e migliorare la precisione nel tempo. Utilizziamo HITL sia per monitorare attivamente i nostri strumenti di intelligenza artificiale sia per eseguire valutazioni di impatto continue, in modo che i nostri modelli migliorino nel tempo.

Trasparente

Riteniamo che tutti gli utenti debbano avere una chiara comprensione di dove e quando viene utilizzata l’intelligenza artificiale e perché. Ecco perché chiariamo quando gli utenti interagiscono con gli strumenti di intelligenza artificiale, dove implementiamo l'intelligenza artificiale nel nostro software e perché lo stiamo facendo. Questa trasparenza è fondamentale sia per la fiducia negli strumenti sia per stabilire le aspettative su come funzionano gli strumenti.

Equo

Lavoriamo instancabilmente per individuare ed eliminare i pregiudizi nei nostri strumenti di intelligenza artificiale. Eseguiamo un'ampia identificazione precoce dei bias e un monitoraggio continuo. Ciò consente una mitigazione precoce e costante che porta a strumenti più equi nel breve e lungo termine. Facciamo anche un ulteriore passo avanti, coinvolgendo stakeholder esperti nello sviluppo del modello in modo che la nostra tecnologia rifletta non solo la nostra interpretazione dell'equità, ma aderisca agli standard leader del settore.

Privato e sicuro

In ogni fase del nostro ciclo di vita di sviluppo, implementiamo misure di livello mondiale per garantire che tutti i dati siano privati ​​e sicuri. Non condivideremo mai i dati con modelli pubblici. Gli utenti possono avere la certezza che i dati che si spostano attraverso l'intelligenza artificiale di Submittable sono protetti e sicuri.

Il nostro processo scientifico

Mentre sviluppiamo i nostri strumenti di intelligenza artificiale, il team scientifico di Submittable adotta un approccio intenzionalmente misurato, come illustrato nel volano di seguito.

• Ricerca: collaborare con esperti in materia per comprendere il problema che stiamo cercando di risolvere e le modalità appropriate per risolverlo.
• Progettazione: garantire che la soluzione migliori l'esperienza dell'utente rispettando i nostri principi di intelligenza artificiale responsabile.
• Creazione: crea un servizio stabile e performante che soddisfi tutti i requisiti di sicurezza.
• Valutazione: assicurarsi che la soluzione funzioni come previsto.
• Migliorare: cercare e valutare le aree di miglioramento.

La nostra filosofia

Submittable abbraccia la natura non deterministica dell'intelligenza artificiale e dello sviluppo algoritmico. Un algoritmo non deterministico è un algoritmo che, quando vengono forniti gli stessi input, può restituire output diversi. Ciò significa che spesso non conosceremo i risultati del nostro lavoro finché non sarà completo. Consideriamo questo un punto di forza.

In pratica, ciò significa che operiamo entro intervalli di confidenza, che indicano il grado di accuratezza dei risultati che possiamo aspettarci. Per creare un intervallo di confidenza, definiamo un limite superiore e uno inferiore, che rappresentano la massima precisione che possiamo aspettarci e la minima precisione che consentiremo. Quindi utilizziamo la metodologia HITL, tra le altre migliori pratiche, per garantire che i risultati dei nostri strumenti di intelligenza artificiale rientrino entro questi limiti superiori e inferiori.

Seguendo questo metodo di best practice per lo sviluppo dell'intelligenza artificiale, siamo in grado sia di garantire la precisione sia di abbracciare la natura dinamica che conferisce agli strumenti di intelligenza artificiale il loro valore unico.

Qual è il futuro dell'intelligenza artificiale su Submittable?

Abbiamo già fornito un'intelligenza artificiale che aiuta i nostri clienti ad automatizzare le attività e a migliorare il processo decisionale. In futuro, siamo entusiasti di mettere l'intelligenza artificiale nelle mani di un numero maggiore di clienti, con una migliore usabilità per gli utenti non tecnici.

Una parte fondamentale di questo viaggio è la nostra partnership strategica recentemente annunciata con Tech for Social Impact di Microsoft. Unendoci a loro nella loro missione di creare l'intelligenza artificiale per sempre, sfrutteremo la migliore suite di strumenti Microsoft, incluso Microsoft Azure Open AI, per creare una nuova ondata di tecnologia basata sull'intelligenza artificiale. Questa nuova ondata scatenerà la promessa dell’intelligenza artificiale a tutti i membri del processo di concessione delle sovvenzioni.

Ecco un'anteprima di ciò che c'è all'orizzonte per gli utenti Submittable:

• Suggerimenti di risposte che fanno risparmiare tempo per i richiedenti di sovvenzioni: stiamo lavorando a un servizio basato sull'intelligenza artificiale che compilerà automaticamente le risposte suggerite per le domande di sovvenzione, sulla base delle risposte fornite in precedenza dal richiedente stesso.
• Creazione di moduli più rapida per i finanziatori: grazie alla nostra vasta conoscenza delle migliori pratiche tra i professionisti, i nostri clienti saranno in grado di utilizzare un bot AI per creare automaticamente moduli di domanda di sovvenzione utilizzando istruzioni in linguaggio naturale.
• Applicazioni accessibili oltre le barriere linguistiche: aiuteremo anche ad estendere le opportunità di sovvenzione a popolazioni diverse con un bot AI che tradurrà i moduli in più lingue.
• Estrazione accurata dei dati dalla documentazione: prevediamo di eliminare il noioso inserimento dei dati per richiedenti e revisori, riducendo al tempo stesso il rischio di errori umani e frodi con uno strumento supportato dall'intelligenza artificiale in grado di estrarre informazioni da documenti ufficiali, come W2.

L’intelligenza artificiale per il bene richiede intenzione

Siamo estremamente entusiasti di ciò che il futuro riserva ai nostri clienti, ai professionisti e ai beneficiari della filantropia in tutto il mondo. Ma stiamo procedendo con cautela. Mentre lanciamo una tecnologia rivoluzionaria nel settore, siamo concentrati nel garantire che, nella pratica, la tecnologia che sviluppiamo promuova il nostro scopo di accelerare il lavoro orientato alla missione .