Vorstellung der verantwortungsvollen KI-Prinzipien von Submittable

Unsere Mission bei Submittable ist es, missionsorientierte Arbeit zu beschleunigen. Innovation ist für diese Beschleunigung von zentraler Bedeutung. Bahnbrechende Technologien wie künstliche Intelligenz stellen ein enormes Potenzial für die gesamte Menschheit und insbesondere für den Bereich der sozialen Auswirkungen dar.

Submittable hat die Möglichkeit, Produkte zu entwickeln, die es unseren Kunden ermöglichen, eine exponentiell größere Wirkung auf ihre Programme und Begünstigten zu erzielen. Der Einsatz unserer KI-Tools trägt dazu bei, Fortschritte bei einer Vielzahl wichtiger Anliegen im öffentlichen, gemeinnützigen und privaten Sektor zu erzielen, von erschwinglicher, gemeinschaftsbasierter Kinderbetreuung bis hin zur Bekämpfung und Stärkung der Widerstandsfähigkeit gegenüber dem Klimawandel.

Im Rahmen dieser Arbeit haben wir die Pflicht sicherzustellen, dass die gesamte von uns entwickelte KI-Technologie verantwortungsvoll, ethisch und wirkungsvoll ist. Zu diesem Zweck hält sich Submittable an eine Reihe von Grundsätzen für verantwortungsvolle KI.

Submittables Grundsätze für verantwortungsvolle KI

Submittable veröffentlichte erstmals im Frühjahr 2021 KI-gestützte Funktionen, um unsere Kunden zu unterstützen, die Zehntausende oder Hunderttausende – sogar eine Million – Anträge erwarten, als Reaktion auf die vor allem stark nachgefragte COVID-Hilfsfinanzierung. Mit Automated Review übernimmt die Technologie mühsame Aufgaben, wie das Extrahieren von Daten aus Steuerformularen oder Ausweisdokumenten oder die Anwendung automatisierter Bewertungen auf der Grundlage einer benutzerdefinierten Geschäftslogik.

Dies eröffnet unseren Kunden die Möglichkeit, sich auf programmkritische Arbeiten zu konzentrieren, die eine menschliche Note erfordern – wie den Aufbau von Beziehungen zu Bewerbern und Preisträgern.

Seitdem ist unser Wissenschaftsteam gewachsen. Wir arbeiten hart daran, weitere Produkte vorzustellen, die die Mission der KI nachhaltig verfolgen. Diese neue Welle wird es allen Beteiligten im Stipendienlebenszyklus ermöglichen, die Leistungsfähigkeit der KI zu nutzen – nicht nur den Stipendiaten, sondern auch Antragstellern, Gutachtern und anderen.

Heute, am Beginn der nächsten Phase von AI for Submittable, teilen wir mit unserer Community die verantwortungsvollen KI-Prinzipien, die diese Arbeit leiten.

Stärken

Wir glauben, dass die Rolle der KI darin besteht, Menschen dabei zu helfen, bessere Entscheidungen zu treffen und mehr zu erreichen – jedoch nicht auf Kosten der menschlichen Handlungsfähigkeit. Obwohl unsere KI-Tools dazu beitragen, dass die Arbeit schneller erledigt werden kann, werden sie den Menschen nie aus der Gleichung ausschließen. Zu diesem Zweck arbeiten wir an der Entwicklung von KI-Tools, die geschäftige Arbeit überflüssig machen und gleichzeitig die Rolle des menschlichen Gehirns auf Schlüsselaufgaben wie Entscheidungsfindung oder Urteilsvermögen konzentrieren. Unsere KI-Tools bewahren das Recht des Menschen, die endgültige Entscheidung zu treffen.

Verantwortlich

Alle unsere KI-Tools unterliegen der Verantwortung eines Menschen, der ständig auf dem Laufenden bleibt. „Human-in-the-Loop“ (HITL)-Überwachung bedeutet, dass Menschen dem Lernmodell direktes Feedback geben, um Fehler zu korrigieren und die Genauigkeit im Laufe der Zeit zu verbessern. Wir nutzen HITL sowohl zur aktiven Überwachung unserer KI-Tools als auch zur laufenden Wirkungsbewertung, sodass sich unsere Modelle im Laufe der Zeit verbessern.

Transparent

Wir glauben, dass alle Benutzer ein klares Verständnis davon haben sollten, wo und wann KI eingesetzt wird – und warum. Deshalb machen wir bei der Interaktion von Benutzern mit KI-Tools deutlich, wo wir KI in unserer Software implementieren und warum wir dies tun. Diese Transparenz ist die Grundlage sowohl für das Vertrauen in die Tools als auch für die Festlegung von Erwartungen an die Funktionsweise der Tools.

Gerecht

Wir arbeiten unermüdlich daran, Voreingenommenheit in unseren KI-Tools zu finden und zu beseitigen. Wir führen eine umfassende Früherkennung von Verzerrungen und eine kontinuierliche Überwachung durch. Dies ermöglicht eine frühzeitige und kontinuierliche Abhilfe, die kurz- und langfristig zu gerechteren Instrumenten führt. Wir gehen noch einen Schritt weiter und beziehen fachkundige Stakeholder in die Modellentwicklung ein, sodass unsere Technologie nicht nur unsere eigene Interpretation von Gerechtigkeit widerspiegelt, sondern auch branchenführenden Standards entspricht.

Privat und sicher

In jedem Schritt unseres Entwicklungslebenszyklus implementieren wir erstklassige Maßnahmen, um sicherzustellen, dass alle Daten privat und sicher sind. Wir werden niemals Daten mit öffentlichen Models teilen. Benutzer können darauf vertrauen, dass die Daten, die durch die KI von Submittable übertragen werden, geschützt und sicher sind.

Unser Wissenschaftsprozess

Bei der Entwicklung unserer KI-Tools verfolgt das Submittable-Wissenschaftsteam einen bewusst maßvollen Ansatz, wie im Schwungrad unten dargestellt.

• Recherche: Arbeiten Sie mit Fachexperten zusammen, um das Problem, das wir zu lösen versuchen, zu verstehen und geeignete Lösungsansätze zu finden.
• Design: Stellen Sie sicher, dass die Lösung das Benutzererlebnis verbessert und gleichzeitig unsere Grundsätze für verantwortungsvolle KI erfüllt.
• Erstellen: Erstellen Sie einen leistungsstarken, stabilen Dienst, der alle Sicherheitsanforderungen erfüllt.
• Bewerten: Stellen Sie sicher, dass die Lösung wie erwartet funktioniert.
• Verbessern: Suchen Sie nach Verbesserungsmöglichkeiten und bewerten Sie diese.

Unsere Philosophie

Submittable berücksichtigt die nichtdeterministische Natur der KI und der algorithmischen Entwicklung. Ein nicht deterministischer Algorithmus ist ein Algorithmus, der bei gleichen Eingaben möglicherweise unterschiedliche Ausgaben zurückgibt. Das bedeutet, dass wir die Ergebnisse unserer Arbeit oft erst erfahren, wenn sie abgeschlossen sind. Das empfinden wir als Stärke.

In der Praxis bedeutet dies, dass wir innerhalb von Konfidenzintervallen arbeiten, die den Grad angeben, in dem wir erwarten können, dass die Ergebnisse genau sind. Um ein Konfidenzintervall zu erstellen, definieren wir eine Ober- und Untergrenze, die die höchste Genauigkeit darstellt, die wir erwarten können, und die niedrigste Genauigkeit, die wir zulassen. Anschließend verwenden wir neben anderen Best Practices die HITL-Methodik, um sicherzustellen, dass die Ergebnisse unserer KI-Tools innerhalb dieser Ober- und Untergrenzen liegen.

Durch die Befolgung dieser Best-Practice-Methode für die KI-Entwicklung können wir sowohl Genauigkeit gewährleisten als auch die Dynamik nutzen, die KI-Tools ihren einzigartigen Wert verleiht.

Was kommt als nächstes für KI bei Submittable?

Wir haben bereits KI bereitgestellt, die unseren Kunden hilft, Aufgaben zu automatisieren und die Entscheidungsfindung zu verbessern. Als nächstes freuen wir uns, KI in die Hände von mehr Kunden zu bringen und die Benutzerfreundlichkeit für technisch nicht versierte Personen zu verbessern.

Ein wichtiger Teil dieser Reise ist unsere kürzlich angekündigte strategische Partnerschaft mit Tech for Social Impact von Microsoft. Wir unterstützen sie bei ihrer Mission, KI für immer zu schaffen, und nutzen die erstklassige Tool-Suite von Microsoft, darunter Microsoft Azure Open AI, um eine neue Welle KI-gestützter Technologie zu schaffen. Diese neue Welle wird das Versprechen der KI für jedes Mitglied im Zuschussvergabeprozess freisetzen.

Hier ist ein kleiner Vorgeschmack auf das, was Submittable-Benutzern bevorsteht:

• Zeitsparende Antwortvorschläge für Fördermittelsuchende: Wir arbeiten an einem KI-gestützten Dienst, der automatisch Antwortvorschläge für Fördermittelanträge ausfüllt, basierend auf den Antworten, die der Antragsteller zuvor selbst bereitgestellt hat.
• Schnellere Formularerstellung für Fördermittelgeber: Basierend auf unserem umfangreichen Wissen über Best Practices unter Praktikern können unsere Kunden mithilfe eines KI-Bots automatisch Fördermittelantragsformulare mithilfe von Eingabeaufforderungen in natürlicher Sprache erstellen.
• Zugängliche Anträge über Sprachbarrieren hinweg: Mit einem KI-Bot, der Formulare in mehrere Sprachen übersetzt, helfen wir auch dabei, Fördermöglichkeiten auf unterschiedliche Bevölkerungsgruppen auszudehnen.
• Präzise Datenextraktion aus Dokumentationen: Wir planen, mühsame Dateneingaben für Bewerber und Gutachter zu eliminieren und gleichzeitig das Potenzial für menschliches Versagen und Betrug mit einem KI-gestützten Tool zu reduzieren, das Informationen aus offiziellen Dokumenten wie W2s extrahieren kann.

KI zum Guten erfordert Absicht

Wir sind überaus gespannt darauf, was die Zukunft für unsere Kunden sowie Wohltätigkeitsorganisationen und Begünstigte auf der ganzen Welt bereithält. Aber wir gehen vorsichtig vor. Bei der Bereitstellung revolutionärer Technologien für die Branche legen wir großen Wert darauf, sicherzustellen, dass die von uns entwickelte Technologie in der Praxis unserem Ziel , missionsorientierte Arbeit zu beschleunigen, gerecht wird.