Vă prezentăm principiile AI responsabile ale Submittable

La Submittable, misiunea noastră este să accelerăm munca bazată pe misiuni. Inovația este esențială pentru această accelerare. Tehnologiile de ultimă oră, cum ar fi inteligența artificială, reprezintă un potențial enorm pentru umanitate în ansamblu, și în special pentru sectorul impactului social.

Submittable are oportunitatea de a crea produse care permit clienților noștri să ofere un impact exponențial mai mare asupra programelor și beneficiarilor lor. Implementarea instrumentelor noastre de inteligență artificială este o parte a progresului într-o varietate de cauze vitale în sectoarele public, nonprofit și privat, de la îngrijirea copiilor la prețuri accesibile, bazate pe comunitate, până la lupta și consolidarea rezistenței la schimbările climatice.

Ca parte a acestei activități, avem datoria să ne asigurăm că toată tehnologia AI pe care o dezvoltăm este responsabilă, etică și de impact. În acest scop, Submittable aderă la un set de principii pentru IA responsabilă.

Principiile pentru IA responsabilă de Submittable

Submittable a lansat pentru prima dată capabilități bazate pe inteligență artificială în primăvara lui 2021 pentru a sprijini clienții noștri care se așteptau la zeci sau sute de mii – chiar și un milion – de aplicații, ca răspuns la finanțarea în principal foarte solicitată pentru ameliorarea COVID. Cu Automated Review, tehnologia se ocupă de sarcini obositoare, cum ar fi extragerea datelor din formulare fiscale sau documente de identificare sau aplicarea punctajelor automate bazate pe logica de afaceri personalizată.

Acest lucru deschide spațiu pentru clienții noștri pentru a se concentra pe munca critică pentru program care necesită o notă umană, cum ar fi construirea de relații cu solicitanții și cu premianții.

De atunci, echipa noastră științifică a crescut. Lucrăm din greu pentru a dezvălui alte produse care urmăresc misiunea AI pentru totdeauna. Acest nou val va face posibil ca fiecare parte interesată din ciclul de viață al granturilor să exploateze puterea AI – nu numai furnizorii de granturi, ci și solicitanții, recenzenții și alții.

Astăzi, în pragul următoarei etape a AI pentru Submittable, împărtășim comunității noastre principiile responsabile de AI care ghidează această activitate.

Împuternicirea

Credem că rolul AI este de a ajuta oamenii să ia decizii mai bune și să obțină mai multe, dar nu în detrimentul agenției umane. Deși instrumentele noastre de inteligență artificială vor ajuta ca munca să se desfășoare mai rapid, nu vor scoate niciodată oamenii din ecuație. În acest scop, lucrăm pentru a crea instrumente AI care elimină munca ocupată, concentrând în același timp rolul creierului uman în sarcini cheie precum luarea deciziilor sau judecata. Instrumentele noastre AI vor păstra dreptul omului de a lua decizia finală.

responsabil

Toate instrumentele noastre AI sunt responsabile în fața unei ființe umane care este constant ținută la curent. Monitorizarea „Human-in-the-loop” (HITL) înseamnă că oamenii oferă feedback direct modelului de învățare pentru a corecta erorile și a îmbunătăți acuratețea în timp. Folosim HITL atât pentru a ne monitoriza în mod activ instrumentele AI, cât și pentru a efectua evaluări continue de impact, astfel încât modelele noastre să se îmbunătățească în timp.

Transparent

Credem că toți utilizatorii ar trebui să înțeleagă clar unde și când este folosită AI și de ce. De aceea, clarificăm când utilizatorii interacționează cu instrumentele AI, unde implementăm AI în software-ul nostru și de ce facem acest lucru. Această transparență este fundamentală atât pentru încrederea în instrumente, cât și pentru stabilirea așteptărilor cu privire la modul în care funcționează instrumentele.

Echitabil

Lucrăm neobosit pentru a găsi și a elimina părtinirea în instrumentele noastre AI. Efectuăm identificarea precoce extinsă a părtinirii și monitorizarea continuă. Acest lucru permite o atenuare timpurie și constantă care să conducă la instrumente mai echitabile pe termen scurt și lung. De asemenea, facem un pas mai departe, angajând părți interesate experți în dezvoltarea modelelor, astfel încât tehnologia noastră să reflecte nu doar propria noastră interpretare a capitalului propriu, ci să adere la standardele de vârf din industrie.

Privat și securizat

La fiecare pas al ciclului nostru de viață de dezvoltare, implementăm măsuri de clasă mondială pentru a ne asigura că toate datele sunt private și securizate. Nu vom împărtăși niciodată date cu modele publice. Utilizatorii pot avea încredere că datele care se deplasează prin AI Submittable sunt protejate și în siguranță.

Procesul nostru științific

Pe măsură ce ne dezvoltăm instrumentele AI, echipa științifică Submittable adoptă o abordare măsurată în mod intenționat, așa cum este prezentat în volantul de mai jos.

• Cercetare: Lucrați cu experți în domeniu pentru a înțelege problema pe care încercăm să o rezolvăm și modalitățile adecvate de a o rezolva.
• Design: Asigurați-vă că soluția va îmbunătăți experiența utilizatorului, respectând în același timp principiile IA responsabile.
• Build: Creați un serviciu stabil performant care îndeplinește toate cerințele de securitate.
• Evaluare: Asigurați-vă că soluția funcționează conform așteptărilor.
• Îmbunătățiți: căutați și evaluați domeniile de îmbunătățire.

Filozofia noastră

Submittable îmbrățișează natura nedeterministă a AI și a dezvoltării algoritmice. Un algoritm nedeterminist este unul care, atunci când i se primesc aceleași intrări, poate returna ieșiri diferite. Aceasta înseamnă că de multe ori nu vom cunoaște rezultatele muncii noastre până când nu este finalizată. Considerăm asta un punct forte.

În practică, aceasta înseamnă că operăm în intervale de încredere, care indică gradul în care ne putem aștepta ca rezultatele să fie precise. Pentru a crea un interval de încredere, definim o limită superioară și inferioară, care este cea mai mare precizie la care ne putem aștepta și cea mai scăzută precizie pe care o vom permite. Apoi folosim metodologia HITL, printre alte bune practici, pentru a ne asigura că rezultatele instrumentelor noastre AI se încadrează în aceste limite superioare și inferioare.

Urmând această metodă de cea mai bună practică pentru dezvoltarea AI, suntem capabili să asigurăm acuratețea și să îmbrățișăm natura dinamică care conferă instrumentelor AI valoarea lor unică.

Ce urmează pentru AI la Submittable

Am oferit deja AI care îi ajută pe clienții noștri să automatizeze sarcinile și să îmbunătățească procesul decizional. În continuare, suntem încântați să punem AI în mâinile mai multor clienți, cu o utilizare îmbunătățită pentru persoane netehnice.

O parte cheie a acestei călătorii este parteneriatul nostru strategic anunțat recent cu Tech for Social Impact de la Microsoft. Alăturându-le lor în misiunea lor de a crea AI pentru totdeauna, vom folosi cea mai bună suită de instrumente Microsoft, inclusiv Microsoft Azure Open AI, pentru a crea un nou val de tehnologie bazată pe AI. Acest nou val va dezlănțui promisiunea IA pentru fiecare membru în procesul de acordare a granturilor.

Iată o scurtă privire asupra a ceea ce se află la orizont pentru utilizatorii Submittable:

• Sugestii de răspunsuri care economisesc timp pentru solicitanții de granturi: lucrăm la un serviciu bazat pe inteligență artificială care va completa automat răspunsurile sugerate la cererile de grant, în funcție de răspunsurile pe care solicitantul însuși le-a furnizat anterior.
• Creare mai rapidă a formularelor pentru grant-makers: informați de cunoștințele noastre vaste despre cele mai bune practici în rândul practicienilor, clienții noștri vor putea folosi un bot AI pentru a crea automat formulare de cerere de grant utilizând solicitări în limbaj natural.
• Aplicații accesibile peste barierele lingvistice: vom contribui, de asemenea, la extinderea oportunităților de grant pentru diverse populații cu un bot AI care va traduce formulare în mai multe limbi.
• Extragerea precisă a datelor din documentație: intenționăm să eliminăm introducerea obositoare a datelor pentru solicitanți și evaluatori, reducând în același timp potențialul de eroare umană și fraudă cu un instrument susținut de AI care poate extrage informații din documente oficiale, cum ar fi W2s.

AI pentru bine necesită intenție

Suntem încântați de ceea ce le rezervă viitorul clienților noștri și practicienilor și beneficiarilor filantropiei de pe tot globul. Dar procedăm cu atenție. Pe măsură ce lansăm tehnologie revoluționară în sector, ne concentrăm pe laser să ne asigurăm că, în practică, tehnologia pe care o dezvoltăm ne promovează scopul de a accelera munca bazată pe misiuni .