Submittable の責任ある AI 原則の紹介

Submittable の使命は、ミッション主導型の仕事を加速することです。 イノベーションはその加速の中心です。 人工知能などの画期的なテクノロジーは、人類全体、特に社会的影響の分野にとって大きな可能性を秘めています。

Submittable には、お客様がプログラムや受益者全体に飛躍的に大きな影響を与えることができる製品を作成する機会があります。 当社の AI ツールの導入は、手頃な価格の地域ベースの保育から、気候変動との闘いや回復力の構築に至るまで、公共、非営利、民間部門にわたるさまざまな重要な目的を前進させる一環です。

この取り組みの一環として、私たちは開発するすべての AI テクノロジーが責任を持ち、倫理的で影響力のあるものであることを保証する義務があります。 そのために、Submittable は責任ある AI のための一連の原則を遵守しています。

Submittable の責任ある AI の原則

Submittable は、主に需要の高い 新型コロナウイルス救済資金への対応として、数万、数十万、さらには 100 万件の申請が見込まれるクライアントをサポートするために、2021 年の春に AI を活用した機能を初めてリリースしました。 Automated Review を使用すると、納税フォームや身分証明書からのデータ抽出、カスタム定義のビジネス ロジックに基づく自動スコアリングの適用などの面倒なタスクがテクノロジーによって処理されます。

これにより、お客様は応募者や受賞者との関係構築など、人間味を必要とするプログラムに不可欠な作業に集中できるスペースが生まれます。

それ以来、私たちの科学チームは成長してきました。 私たちは、AI の使命を永久に追求するさらなる製品の発表に熱心に取り組んでいます。 この新しい波により、助成金のライフサイクルにおける各関係者（助成金作成者だけでなく、申請者、審査担当者なども含む）が AI の力を活用できるようになります。

現在、Submittable 向け AI の次の段階に向けて、私たちはこの取り組みを導く責任ある AI 原則をコミュニティと共有しています。

力を与える

AI の役割は、人間がより適切な意思決定をし、より多くの成果を達成できるよう支援することですが、人間の主体性を犠牲にするものではないと私たちは考えています。 当社の AI ツールは仕事の迅速化に役立ちますが、人間を排除することは決してありません。 この目的を達成するために、私たちは意思決定や判断などの重要なタスクに人間の脳の役割を集中させながら、多忙な作業を排除する AI ツールの開発に取り組んでいます。 当社の AI ツールは、人間が最終決定を下す権利を保持します。

責任ある

当社の AI ツールはすべて、常に最新情報を把握している人間に対して責任を負っています。 「ヒューマンインザループ」（HITL）モニタリングとは、人間が学習モデルに直接フィードバックを提供して、エラーを修正し、時間の経過とともに精度を向上させることを意味します。 私たちは HITL を使用して AI ツールを積極的に監視し、継続的な影響評価を実行することで、時間の経過とともにモデルを改善します。

透明

私たちは、すべてのユーザーが AI がいつどこで使用されるのか、そしてその理由を明確に理解する必要があると考えています。 そのため、ユーザーが AI ツールを操作するとき、ソフトウェアのどこに AI を実装するのか、そしてなぜそうするのかを明確にしています。 この透明性は、ツールに対する信頼と、ツールの動作に対する期待の設定の両方の基礎となります。

公平な

私たちは、AI ツールのバイアスを見つけて排除するためにたゆまぬ努力を続けています。 私たちは、広範な早期バイアス特定と継続的なモニタリングを実行します。 これにより、早期かつ継続的な緩和が可能になり、短期的および長期的により公平なツールが得られます。 また、当社のテクノロジーが当社独自の公平性の解釈を反映するだけでなく、業界をリードする標準に準拠するよう、モデル開発に専門家の関係者を関与させることでさらに一歩進めています。

プライベートで安全

開発ライフサイクルのあらゆる段階で、当社はすべてのデータがプライベートで安全であることを保証する世界クラスの対策を導入しています。 公開モデルとデータを共有することはありません。 ユーザーは、Submittable の AI を介して移動するデータが保護され、安全であると信頼できます。

私たちの科学プロセス

AI ツールを開発する際、Submittable サイエンス チームは、以下のフライホイールに示されているように、意図的に測定されたアプローチを採用しています。

• 研究:対象分野の専門家と協力して、解決しようとしている問題とその適切な解決方法を理解します。
• 設計:ソリューションが責任ある AI 原則を満たしながら、ユーザー エクスペリエンスを向上させることを保証します。
• 構築:すべてのセキュリティ要件を満たす、パフォーマンスが安定したサービスを作成します。
• 評価:ソリューションが期待どおりに動作していることを確認します。
• 改善:改善点を探して評価します。

私たちの理念

Submittable は、AI とアルゴリズム開発の非決定的な性質を受け入れています。 非決定的アルゴリズムとは、同じ入力が与えられた場合に異なる出力を返す可能性があるアルゴリズムです。 これは、作業が完了するまで作業の結果が分からないことが多いことを意味します。 私たちはこれを強みだと考えています。

実際には、これは、出力が正確であると期待できる程度を示す信頼区間内で操作することを意味します。 信頼区間を作成するには、期待できる最高の精度と許容される最低の精度である上限と下限を定義します。 次に、ベスト プラクティスの中でも特に HITL 手法を使用して、AI ツールの出力がこれらの上限と下限の範囲内に収まるようにします。

AI 開発のこのベスト プラクティス手法に従うことで、精度を確保し、AI ツールに独自の価値を与える動的な性質を受け入れることができます。

Submittable における AI の次なる展開

当社はすでに、お客様のタスクの自動化と意思決定の向上を支援する AI を提供しています。 次は、技術者以外のユーザーにとっても使いやすさが向上し、より多くのお客様に AI を提供できることを楽しみにしています。

この取り組みの重要な部分は、最近発表された Microsoft の Tech for Social Impact との戦略的パートナーシップです。 人類のための AI を創造するという彼らの使命に加わり、Microsoft Azure Open AI を含むマイクロソフトのクラス最高のツール スイートを活用して、AI を活用したテクノロジーの新たな波を生み出していきます。 この新しい波は、助成金作成プロセスのすべてのメンバーに AI の約束を解き放つでしょう。

Submittable ユーザー向けに今後の予定を少しだけ見てみましょう。

• 助成金申請者への時間を節約する回答提案:私たちは、申請者自身が以前に提供した回答に基づいて、助成金申請に対する回答候補を自動入力する AI を利用したサービスに取り組んでいます。
• 助成金作成者向けのフォーム作成の迅速化:専門家の間でのベストプラクティスに関する当社の膨大な知識に基づいて、お客様は AI ボットを使用して、自然言語プロンプトを使用して助成金申請書を自動的に作成できるようになります。
• 言語の壁を越えてアクセス可能なアプリケーション:フォームを複数の言語に翻訳する AI ボットを使用して、多様な人々に助成金の機会を拡大することも支援します。
• 文書からの正確なデータ抽出: W2 などの公式文書から情報を抽出できる AI 支援ツールを使用して、申請者と審査担当者の面倒なデータ入力を排除すると同時に、人的ミスや不正行為の可能性を減らすことを計画しています。

善のための AI には意図が必要です

私たちは、世界中のお客様、慈善活動の実践者、受益者にとって将来何が起こるかに非常に興奮しています。 しかし、私たちは慎重に作業を進めています。 この分野に革新的なテクノロジーをリリースする際、私たちは、開発したテクノロジーがミッション主導型の仕事を加速するという当社の目的を実際に確実に推進することに重点を置いています。