介绍 Submittable 的负责任的人工智能原则

在 Submittable，我们的使命是加速任务驱动的工作。 创新是这种加速的核心。 人工智能等突破性技术代表了整个人类的巨大潜力，尤其是社会影响领域。

Submittable 有机会创造产品，使我们的客户能够在其计划和受益人中产生指数级的更大影响。 我们的人工智能工具的部署是公共、非营利和私营部门在各种重要事业上取得进展的一部分，从负担得起的、基于社区的儿童保育到应对气候变化和增强抵御能力。

作为这项工作的一部分，我们有责任确保我们开发的所有人工智能技术都是负责任的、道德的和有影响力的。 为此，Submittable 遵守一系列负责任的人工智能原则。

Submittable 的负责任人工智能原则

Submittable 于 2021 年春季首次发布了人工智能驱动的功能，为我们的客户提供支持，这些客户预计会收到数万或数十万甚至一百万个应用程序，以应对需求旺盛的新冠肺炎救助资金。 通过自动审核，该技术可以处理繁琐的任务，例如从纳税表格或身份证明文件中提取数据，或根据自定义的业务逻辑应用自动评分。

这为我们的客户提供了专注于需要人性化的关键项目工作的空间，例如与申请人和获奖者建立关系。

从那时起，我们的科学团队不断壮大。 我们正在努力推出更多产品，以追求人工智能的美好使命。 这一新浪潮将使资助生命周期中的每个利益相关者都能够利用人工智能的力量——不仅是资助者，还包括申请人、评审者和其他人。

今天，在 AI for Submittable 下一阶段即将到来之际，我们正在与社区分享指导这项工作的负责任的 AI 原则。

赋权

我们相信人工智能的作用是帮助人类做出更好的决策并取得更多成就，但不以牺牲人类能动性为代价。 虽然我们的人工智能工具将帮助更快地完成工作，但它们永远不会将人类排除在外。 为此，我们致力于创建人工智能工具来消除繁琐的工作，同时将人脑的作用集中在决策或判断等关键任务上。 我们的人工智能工具将保留人类做出最终决定的权利。

负责任的

我们所有的人工智能工具都对不断了解情况的人类负责。 “人在环”（HITL）监控意味着人类向学习模型提供直接反馈，以纠正错误并随着时间的推移提高准确性。 我们使用 HITL 来主动监控我们的 AI 工具并执行持续的影响评估，以便我们的模型随着时间的推移而改进。

透明的

我们相信所有用户都应该清楚地了解人工智能的使用地点和时间以及原因。 这就是为什么我们要明确用户何时与人工智能工具交互、我们在软件中实现人工智能的位置以及我们这样做的原因。 这种透明度是对工具的信任和对工具工作方式设定期望的基础。

公平

我们不懈地努力寻找并消除人工智能工具中的偏见。 我们进行广泛的早期偏差识别和持续监控。 这使得尽早和持续的缓解措施成为可能，从而在短期和长期内产生更公平的工具。 我们还更进一步，让专家利益相关者参与模型开发，以便我们的技术不仅反映我们自己对公平的解释，而且遵守行业领先的标准。

私密且安全

在我们开发生命周期的每一步，我们都实施世界一流的措施，以确保所有数据的私密性和安全性。 我们永远不会与公共模型共享数据。 用户可以相信通过 Submittable 的 AI 移动的数据是受到保护且安全的。

我们的科学流程

在我们开发人工智能工具时，可提交的科学团队采取了有意测量的方法，如下图飞轮所示。

• 研究：与主题专家合作，了解我们正在尝试解决的问题以及解决问题的适当方法。
• 设计：确保解决方案能够增强用户体验，同时满足我们负责任的人工智能原则。
• 构建：创建满足所有安全要求的性能稳定的服务。
• 评估：确保解决方案按预期运行。
• 改进：寻找并评估需要改进的地方。

我们的理念

可提交包含人工智能和算法开发的非确定性本质。 非确定性算法是一种当给定相同输入时可能返回不同输出的算法。 这意味着我们通常在工作完成之前不会知道工作的结果。 我们认为这是一种优势。

在实践中，这意味着我们在置信区间内操作，置信区间表明我们可以期望输出的准确程度。 为了创建置信区间，我们定义了上限和下限，这是我们可以预期的最高准确度和我们允许的最低准确度。 然后，我们使用 HITL 方法以及其他最佳实践，以确保人工智能工具的输出落在这些上限和下限内。

通过遵循这种人工智能开发的最佳实践方法，我们既能够确保准确性，又能够拥抱赋予人工智能工具独特价值的动态特性。

Submittable 上 AI 的下一步是什么

我们已经提供了人工智能，可以帮助我们的客户自动化任务并改进决策。 接下来，我们很高兴能让更多客户掌握人工智能，并增强非技术人员的可用性。

这一旅程的一个关键部分是我们最近宣布与 Microsoft 的 Tech for Social Impact 建立战略合作伙伴关系。 我们将与他们一起实现创造 AI 的美好使命，利用 Microsoft 一流的工具套件（包括 Microsoft Azure Open AI）来创建新一波的 AI 驱动技术。 这一新浪潮将为资助过程中的每个成员释放人工智能的希望。

以下是 Submittable 用户即将看到的内容：

• 为资助寻求者提供节省时间的答案建议：我们正在开发一项人工智能驱动的服务，该服务将根据申请人自己之前提供的答案自动填写资助申请的建议答案。
• 资助者更快地创建表格：凭借我们对从业者最佳实践的丰富知识，我们的客户将能够使用人工智能机器人，使用自然语言提示自动创建资助申请表。
• 跨越语言障碍的无障碍应用程序：我们还将通过人工智能机器人将表格翻译成多种语言，帮助扩大不同人群的资助机会。
• 从文档中准确提取数据：我们计划消除申请人和审核人员繁琐的数据输入，同时还通过人工智能支持的工具（可以从 W2 等官方文档中提取信息）减少人为错误和欺诈的可能性。

人工智能向善需要意图

我们对全球客户、慈善事业从业者和受益人的未来感到非常兴奋。 但我们正在谨慎行事。 当我们向该行业发布革命性技术时，我们专注于确保在实践中，我们开发的技术能够进一步推动我们加快任务驱动型工作的目标。