非营利组织的人工智能：信任但验证的实际意义

怀疑和 FOMO 同等重要。这就是我们今年采访过的大多数非营利专业人士对人工智能 (AI) 的看法。

当谈到人工智能时，你不能把头埋在沙子里，也不应该在没有深入思考对你的组织和社区的潜在影响的情况下就跳入其中。

正如 Sam Caplan 所写，“如果 2023 年是人工智能好奇之年，那么 2024 年就是人工智能意向之年。”今年，人工智能开始真正成熟。但这并不意味着人工智能完全没有信任问题，即使是人工智能的大力倡导者也承认这一点。

微软慈善基金会非营利社区能力全球主管 Devi Thomas 带来了整合技术造福社会的丰富知识。贝丝·坎特 (Beth Kanter) 是一位经验丰富的非营利性顾问和作家，多年来一直致力于帮助组织利用技术来扩大其影响力。他们的见解共同揭示了非营利组织如何深思熟虑和负责任地拥抱人工智能。

这一切都归结为一个概念：信任，但要验证。这在实践中意味着什么。

始终将人放在驾驶座上

让人工智能接管并驾驶这艘船可能很诱人，因为它非常容易使用。然而，黛维和贝丝都强调始终让人类牢牢坐在飞行员座位上的重要性。

正如贝丝所说，“我们真正关注人工智能，并在微软内部和外部将其视为你的副驾驶。人类是飞行员。”

人工智能是一种辅助技术，可以在不取代人类判断的情况下提高人类产出。至关重要的是知道将哪些任务委托给人工智能。在对 400 多名非营利组织领导者进行的一项调查中，Devi 表示，微软发现 25% 的人认为教授团队的最重要技能是何时使用人工智能以及何时使用人类。

正如微软的 Eric Lucht 所说：“你会信任实习生吗？如果没有，就不要使用人工智能。”如果你只信任具有多年经验的高薪专业人员来完成某项任务，那么你就不应该使用人工智能。

问责制是微软负责任人工智能的首要原则。实际上，这意味着人工智能用户不应该以任何方式妥协，因为从设计阶段开始就必须涉及人类监督。让人类保持控制可以确保人工智能仍然是支持和增强人类努力的工具，而不是人类努力的糟糕替代品。

了解人工智能的局限性

从分析捐助者数据集以预测未来的灾难响应，到为流离失所的人口进行翻译，人工智能对于非营利组织来说似乎有无限的用例。人工智能拥有巨大的潜力，但它并不是灵丹妙药。对于希望负责任地使用人工智能的非营利组织来说，了解其局限性至关重要。

认识学习曲线

虽然自然语言处理使大多数人都可以使用人工智能，但与任何新技术一样，使用它仍然有一个学习曲线。正如 Devi 在微软的研究中指出的那样，“58% 的非营利组织领导者担心理解人工智能的学习曲线陡峭。”

投入时间培训您的团队并让其熟悉人工智能工具。不要假设每个人都知道如何正确使用它们；这就是你在使用人工智能时最终会错过重要细微差别的原因。

谨防过度自信

人工智能通常听起来对其输出充满信心，这可能会导致错误的信任。人工智能仍然是一项正在进行的工作，并且有可能犯错误，正如谷歌最近推出的臭名昭著的人工智能概述所证明的那样，它给出了吃石头或在披萨上加胶水的建议。

“我们在使用互联网时学到的所有批判性思维技能都在这里需要，”黛维警告说。

这就是“信任，但要验证”的关键：以批判的眼光对待人工智能的输出并验证结果，而不是仅仅从表面上看。

采用隐私第一的方法

Devi 表示，63% 的非营利组织领导者担心与使用人工智能相关的安全风险。负责任的人工智能使用涉及了解您的输入去向、如何使用它们以及您的输出来自哪里。

非营利组织处理的数据通常很敏感。非营利组织使用的所有人工智能驱动的系统都必须遵守数据保护法规和最佳实践。确保他们加密数据、安全存储数据并定期更新安全协议以保护信息。

也许最重要的是教育您的员工和志愿者在使用人工智能时如何保护自己及其数据。从一开始就纳入隐私考虑因素。对于利益相关者所使用的人工智能工具如何使用和保护数据，应向利益相关者保持透明。

知道你的输出来自哪里

透明度是负责任人工智能的另一个重要原则，也是建立人工智能系统信任的关键。人们需要知道人工智能使用的数据来自哪里，以及生成输出所涉及的过程。通过保持透明，非营利组织可以确保利益相关者理解并信任现有的人工智能系统。

例如，Bing 的 Copilot 引用了其生成的每项声明的来源，并带有指向相应网页的超链接。 Devi 鼓励人工智能用户保持好奇心，并质疑人工智能从哪里获取信息。

从小处开始，然后重新评估

采用人工智能可能是一项艰巨的任务，尤其是对于资源有限的非营利组织而言。这就是为什么值得从小事做起，然后重新评估人工智能对你的非营利组织是否有意义。

Devi 建议非营利组织从小规模开始使用人工智能，遵循可扩展的三步流程：

1. 考虑一下您的人工智能用例。一些具体且可管理的东西，人工智能可以提供明显的好处。例如，自动回复电子邮件或分析捐赠者数据。通过关注单一用例，非营利组织可以更好地控制和衡量结果。
2. 测试该用例。建立 KPI 来衡量人工智能对您选择的用例的影响。小规模实施人工智能工具并密切监控其性能。
3. 评估并调整。确定什么有效，什么无效。评估这个小型项目的成果对您的 KPI 的影响。评估好处、挑战和任何意外后果。正如 Devi 所说，这一切都在于针对您选择的用例进行持续学习和改进。

在此基础上，您可以深思熟虑地扩大或缩小人工智能的使用范围。

将您的注意力从全面生产转移到最后 20%

人工智能的采用需要我们处理任务和项目的方式发生根本性转变。这不再是从一张白纸开始。人工智能可以奠定基础，人们可以从那里开始构建。

“大多数人习惯于从 0 到 80 创造产品，”Devi 说。 “我们现在必须进行行为转变，将数量从 80 减少到 100。”

这种方法对于那些时间紧迫的非营利组织特别有利。正如我们采访的一位受资助者所解释的那样，“对于那些确实无力承担企业[组织]人员配置水平的组织来说，人工智能的最大好处在于那些基本的、琐碎的任务。”

Beth 详细阐述了这个概念，将人工智能描述为时间红利。通过接管更繁琐的任务，人工智能让非营利专业人士能够专注于更重要的问题。

“人工智能将对我们的工作方式产生深远的影响。它将自动化许多繁重的工作，很多我称之为电子表格健美操、剪切和粘贴的工作，”贝丝说。 “这或许还能帮助我们腾出时间来解决捐助者保留率等问题，或者帮助我们更有创意地思考战略和创新，并提供更有影响力的项目。”

在实践中，这意味着以人工智能为起点，产生初步的想法、草案或分析，然后利用人类的洞察力和专业知识来完善和增强人工智能的输出。要获得 80% 到 100% 质量的人工智能输出，需要人性化的接触、结合组织环境和人工智能无法提供的细致入微的理解。

使用人工智能需要一种成长心态——愿意学习并适应在工作流程中使用人工智能，并有能力弥合人工智能生成的输出与高质量、符合任务的结果之间的差距。

自上而下增加支持

领导团队需要接受教育，并能够教育其他人如何负责任地使用人工智能。他们为自己的组织定下了基调，并对如何有效和负责任地采用和利用人工智能产生巨大影响。

“我所看到和听到的是，它是从高层开始的，”黛维说。 “如果你有一个对技术进行深入投资的领导团队，那么就更容易在整个组织和志愿者中获得支持。然后，你可以扩大规模，确保员工和每个涉及使命的人都知道如何负责任和合乎道德地使用它。”

领导者必须清晰一致地传达人工智能的价值和潜力，并确保人工智能项目与组织的使命保持一致。他们应该能够阐明人工智能如何提高成果和运营效率，展示该技术与非营利组织核心工作的相关性。

相信人工智能的领导者还必须对可能发生的事情抱有现实的期望。他们需要认识到让人类保持主导地位的必要性，同时为员工提供学习新技能所需的支持。这意味着围绕人工智能的使用培育探索和创新的文化。

“为团队提供时间和资源来学习和使用人工智能工具，”Devi 说。 “鼓励人们花时间研究生成式人工智能，深入了解并真正获得越来越具体的提示。了解如何添加更多上下文以获得正确的输出。”

“领导者必须围绕人工智能的使用创造心理安全感，”贝丝补充道。 “让初学者对人工智能的心态正常化。我们必须深思熟虑、负责任地慢慢采用它。”

人工智能可以创造公平的非营利竞争环境

你可能会认为较大的组织是那些热情采用人工智能的组织，但正如 Devi 在他们的研究中指出的那样，实际上是较小的非营利组织从人工智能中获得了最大的收益。

“小型非营利组织越来越频繁地采用人工智能，”德维说。 “他们之所以受到激励，是因为这非常节省时间，是一个利用资源走得更远的机会。”

人工智能还可以帮助缩小缺乏经验的新兴非营利组织与较成熟的非营利组织之间的差距，特别是在资助领域，阐明您的使命是获得资金的关键。正如一位受资助者告诉我们的那样，“如果我要向人工智能详细描述我的组织做什么以及[应用程序]正在寻找什么，它可能能够帮助我。”

人工智能为非营利组织提供了令人难以置信的潜力，但成功的采用需要深思熟虑的方法。通过遵循负责任的人工智能原则，非营利组织可以利用人工智能的力量来扩大其影响力，同时忠于其使命和价值观。

要更多地参与有关非营利组织人工智能的对话，请观看我们的点播网络研讨会：基金会的人工智能：实用主义者入门。聆听 Submittable 科学总监 Anne Nies、微软高级技术策略师 Alicia Tapia 和 Submittable 社会影响副总裁 Sam Caplan 分享他们对人工智能及其对基金会的理想用途的了解。