介紹 Submittable 的負責任的人工智慧原則

在 Submittable，我們的使命是加速任務驅動的工作。 創新是這種加速的核心。 人工智慧等突破性技術代表了整個人類的巨大潛力，尤其是社會影響領域。

Submittable 有機會創造產品，使我們的客戶能夠在其計劃和受益人中產生指數級的更大影響。 我們的人工智慧工具的部署是公共、非營利和私營部門在各種重要事業上取得進展的一部分，從負擔得起的、社區為基礎的兒童保育到應對氣候變遷和增強抵禦能力。

作為這項工作的一部分，我們有責任確保我們開發的所有人工智慧技術都是負責任的、道德的和有影響力的。 為此，Submittable 遵守一系列負責任的人工智慧原則。

Submittable 的負責任人工智慧原則

Submittable 於2021 年春季首次發布了人工智慧驅動的功能，為我們的客戶提供支持，這些客戶預計會收到數萬或數十萬甚至一百萬個應用程序，以應對需求旺盛的新冠肺炎救助資金。 透過自動審核，該技術可以處理繁瑣的任務，例如從納稅表格或身分證明文件中提取數據，或根據自訂的業務邏輯應用自動評分。

這為我們的客戶提供了專注於需要人性化的關鍵專案工作的空間，例如與申請人和獲獎者建立關係。

從那時起，我們的科學團隊不斷壯大。 我們正在努力推出更多產品，以追求人工智慧的美好使命。 這一新浪潮將使資助生命週期中的每個利益相關者都能夠利用人工智慧的力量——不僅是資助者，還包括申請人、評審者和其他人。

今天，在 AI for Submittable 下一階段即將到來之際，我們正在與社區分享指導這項工作的負責任的 AI 原則。

賦權

我們相信人工智慧的作用是幫助人類做出更好的決策並取得更多成就，但不以犧牲人類能動性為代價。 雖然我們的人工智慧工具將幫助更快地完成工作，但它們永遠不會將人類排除在外。 為此，我們致力於創建人工智慧工具來消除繁瑣的工作，同時將人腦的作用集中在決策或判斷等關鍵任務上。 我們的人工智慧工具將保留人類做出最終決定的權利。

負責任的

我們所有的人工智慧工具都對不斷了解情況的人類負責。 「人在環」（HITL）監控意味著人類向學習模型提供直接回饋，以糾正錯誤並隨著時間的推移提高準確性。 我們使用 HITL 來主動監控我們的 AI 工具並執行持續的影響評估，以便我們的模型隨著時間的推移而改進。

透明的

我們相信所有用戶都應該清楚了解人工智慧的使用地點和時間以及原因。 這就是為什麼我們要明確使用者何時與人工智慧工具互動、我們在軟體中實現人工智慧的位置以及我們這樣做的原因。 這種透明度是對工具的信任和對工具工作方式設定期望的基礎。

公平

我們不懈地努力尋找並消除人工智慧工具中的偏見。 我們進行廣泛的早期偏差識別和持續監控。 這使得儘早和持續的緩解措施成為可能，從而在短期和長期內產生更公平的工具。 我們也更進一步，讓專家利害關係人參與模型開發，以便我們的技術不僅反映我們自己對公平的解釋，而且遵守業界領先的標準。

私密且安全

在我們開發生命週期的每一步，我們都實施世界一流的措施，以確保所有資料的隱私和安全性。 我們永遠不會與公共模型共享資料。 使用者可以相信透過 Submittable 的 AI 移動的資料是受到保護且安全的。

我們的科學流程

當我們開發人工智慧工具時，可提交的科學團隊採取了有意測量的方法，如下圖飛輪所示。

• 研究：與主題專家合作，了解我們正在嘗試解決的問題以及解決問題的適當方法。
• 設計：確保解決方案能夠增強使用者體驗，同時滿足我們負責任的人工智慧原則。
• 建置：創建滿足所有安全要求的性能穩定的服務。
• 評估：確保解決方案按預期運作。
• 改進：尋找並評估需要改進的地方。

我們的理念

可提交包含人工智慧和演算法開發的非確定性本質。 非確定性演算法是一種當給定相同輸入時可能會傳回不同輸出的演算法。 這意味著我們通常在工作完成之前不會知道工作的結果。 我們認為這是一種優勢。

在實踐中，這意味著我們在置信區間內操作，置信區間表明我們可以期望輸出的準確程度。 為了創建置信區間，我們定義了上限和下限，這是我們可以預期的最高準確度和我們允許的最低準確度。 然後，我們使用 HITL 方法以及其他最佳實踐，以確保人工智慧工具的輸出落在這些上限和下限內。

透過遵循這種人工智慧開發的最佳實踐方法，我們既能夠確保準確性，又能夠擁抱賦予人工智慧工具獨特價值的動態特性。

Submittable 上 AI 的下一步是什麼

我們已經提供了人工智慧，可以幫助我們的客戶自動化任務並改善決策。 接下來，我們很高興能讓更多客戶掌握人工智慧，並增強非技術人員的可用性。

這趟旅程的關鍵部分是我們最近宣布與 Microsoft 的 Tech for Social Impact 建立策略合作夥伴關係。 我們將與他們一起實現創造 AI 的美好使命，利用 Microsoft 一流的工具套件（包括 Microsoft Azure Open AI）來創造新一波的 AI 驅動技術。 這一新浪潮將為資助過程中的每個成員釋放人工智慧的希望。

以下是 Submittable 用戶即將看到的內容：

• 為資助尋求者提供節省時間的答案建議：我們正在開發一項由人工智慧驅動的服務，該服務將根據申請人自己先前提供的答案自動填寫資助申請的建議答案。
• 資助者更快地建立表格：憑藉我們對從業者最佳實踐的豐富知識，我們的客戶將能夠使用人工智慧機器人，並使用自然語言提示自動建立資助申請表。
• 跨越語言障礙的無障礙應用程式：我們也將透過人工智慧機器人將表格翻譯成多種語言，幫助擴大不同人群的資助機會。
• 從文件中準確提取資料：我們計劃消除申請人和審核人員繁瑣的資料輸入，同時也透過人工智慧支援的工具（可以從 W2 等官方文件中提取資訊）減少人為錯誤和詐欺的可能性。

人工智慧向善需要意圖

我們對全球客戶、慈善事業從業者和受益者的未來感到非常興奮。 但我們正在謹慎行事。 當我們向該行業發布革命性技術時，我們專注於確保在實踐中，我們開發的技術能夠進一步推動我們加快任務驅動型工作的目標。