ИИ для некоммерческих организаций: что на практике означает «доверяй, но проверяй»

В равной степени скептицизм и FOMO. Именно так большинство специалистов некоммерческих организаций, с которыми мы разговаривали в этом году, относятся к искусственному интеллекту (ИИ).

Вы не можете спрятать голову в песок, когда дело касается ИИ, и вам не следует приступать к нему, не задумываясь о потенциальном влиянии на вашу организацию и сообщество.

Как пишет Сэм Каплан: «Если 2023 год был годом любопытства ИИ, то 2024 год — годом целенаправленности ИИ ». В этом году ИИ начинает по-настоящему взрослеть. Но это не означает, что ИИ полностью свободен от проблем с доверием, что признают даже ярые сторонники ИИ.

Деви Томас, глобальный руководитель отдела по работе с некоммерческими сообществами в Microsoft Philanthropies, делится богатыми знаниями об интеграции технологий на благо общества. Бет Кантер, опытный консультант и автор некоммерческой организации, уже много лет помогает организациям использовать технологии для усиления своего воздействия. Вместе их идеи проливают свет на то, как некоммерческие организации могут использовать ИИ — вдумчиво и ответственно.

Все сводится к одной концепции: доверяй, но проверяй . Вот что это означает на практике.

Всегда сажайте человека на место пилота

Может возникнуть соблазн позволить ИИ взять на себя управление кораблем и управлять им, поскольку им легко пользоваться. Однако и Деви, и Бет подчеркивают важность того, чтобы человек всегда твердо сидел на месте пилота.

Как говорит Бет: «Мы действительно смотрим на ИИ и называем его как внутри, так и снаружи Microsoft вашим вторым пилотом. Человек — пилот».

ИИ — это вспомогательная технология, улучшающая человеческую деятельность, не заменяя человеческое суждение. Очень важно знать, какие задачи делегировать ИИ. В опросе более 400 руководителей некоммерческих организаций Деви сообщил, что 25% Microsoft считают, что наиболее важным навыком, которому нужно обучать свои команды, является то, когда использовать ИИ, а когда — человека.

Как выразился Эрик Лухт из Microsoft: «Вы бы доверили это стажеру? Если нет, не используйте для этого ИИ». Если вы доверяете выполнение задачи только высокооплачиваемому профессионалу с многолетним опытом, вам не следует использовать для этого искусственный интеллект.

Подотчетность — это принцип номер один Microsoft в отношении ответственного ИИ. На практике это означает, что пользователи ИИ никоим образом не должны идти на компромисс в отношении необходимости человеческого надзора, начиная с этапа проектирования. Сохранение контроля со стороны людей гарантирует, что ИИ останется инструментом поддержки и расширения человеческих усилий, а не их плохой заменой.

Поймите ограничения ИИ

От анализа наборов данных доноров для прогнозирования будущих мер реагирования на стихийные бедствия до перевода для перемещенного населения — существует, по-видимому, бесконечное количество вариантов использования ИИ для некоммерческих организаций. ИИ обладает огромным потенциалом, но это не волшебное средство. Понимание его ограничений имеет решающее значение для некоммерческих организаций, стремящихся ответственно использовать ИИ.

Осознайте кривую обучения

Хотя обработка естественного языка делает ИИ доступным для большинства, его использование, как и любая новая технология, все еще требует обучения. Как отмечает Деви в исследовании Microsoft, «58% руководителей некоммерческих организаций обеспокоены крутой кривой обучения, необходимой для понимания ИИ».

Потратьте время на обучение и ознакомление своей команды с инструментами искусственного интеллекта. Не думайте, что все знают, как их правильно использовать; вот так вы упускаете важные нюансы при использовании ИИ.

Остерегайтесь излишней самоуверенности

ИИ часто может казаться уверенным в своих результатах, что может привести к неуместному доверию. ИИ все еще находится в стадии разработки и способен совершать ошибки, о чем свидетельствует недавний пресловутый выпуск обзоров ИИ от Google, в которых предлагаются рекомендации есть камни или добавлять клей в пиццу.

«Здесь необходимы все навыки критического мышления, которым нас научили при использовании Интернета», — предупреждает Деви.

В этом суть принципа «Доверяй, но проверяй»: критически относитесь к результатам ИИ и проверяйте результаты, а не принимайте их за чистую монету.

Примите подход «Конфиденциальность прежде всего»

Деви рассказала, что 63% руководителей некоммерческих организаций обеспокоены рисками безопасности, связанными с использованием ИИ. Ответственное использование ИИ предполагает понимание того, куда направляются ваши входные данные, как они используются и откуда поступают ваши результаты.

Данные, с которыми работают некоммерческие организации, часто являются конфиденциальными. Все системы на базе искусственного интеллекта, которые используют некоммерческие организации, должны соответствовать правилам защиты данных и передовым практикам. Убедитесь, что они шифруют данные, надежно хранят данные и регулярно обновляют протоколы безопасности для защиты информации.

Самым важным, пожалуй, является обучение ваших сотрудников и волонтеров тому, как защитить себя и свои данные при использовании ИИ. С самого начала учитывайте соображения конфиденциальности. Будьте прозрачны с заинтересованными сторонами в отношении того, как данные используются и защищаются с помощью инструментов искусственного интеллекта, которые они используют.

Знайте, откуда берутся ваши результаты

Прозрачность — еще один важный принцип ответственного ИИ и ключ к укреплению доверия к системам ИИ. Людям необходимо знать, откуда берутся данные, используемые ИИ, и процессы, связанные с получением результатов. Будучи прозрачными, некоммерческие организации могут гарантировать, что заинтересованные стороны понимают существующие системы искусственного интеллекта и доверяют им.

Например, Copilot от Bing ссылается на источники для каждого из своих заявлений с гиперссылкой на соответствующую веб-страницу. Деви призывает пользователей ИИ проявлять любознательность и задаваться вопросом, откуда ИИ получает информацию.

Начните с малого, а затем оцените заново

Внедрение ИИ может оказаться непростой задачей, особенно для некоммерческих организаций с ограниченными ресурсами. Вот почему стоит начать с малого, а затем еще раз оценить, имеет ли ИИ смысл для вашей некоммерческой организации.

Деви рекомендует некоммерческим организациям начинать с малого, используя ИИ, следуя масштабируемому трехэтапному процессу:

1. Подумайте о своем варианте использования ИИ. Что-то конкретное и управляемое, где ИИ дает явные преимущества. Например, автоматизация ответов по электронной почте или анализ данных доноров. Сосредоточив внимание на одном варианте использования, некоммерческие организации могут лучше контролировать и измерять результаты.
2. Проверьте этот вариант использования . Установите ключевые показатели эффективности для измерения влияния ИИ на выбранный вами вариант использования. Внедрите инструмент искусственного интеллекта в небольших масштабах и внимательно следите за его производительностью.
3. Оцените и скорректируйте . Определите, что работает, а что нет. Оцените влияние результатов этого небольшого проекта на ваши ключевые показатели эффективности. Оцените преимущества, проблемы и любые непредвиденные последствия. По словам Деви, все дело в постоянном обучении и совершенствовании в соответствии с выбранным вами вариантом использования.

Отсюда вы можете вдумчиво масштабировать использование ИИ в большую или меньшую сторону.

Переключите свое внимание с полной производительности на последние 20%.

Внедрение ИИ требует фундаментального изменения в подходе к задачам и проектам. Речь больше не идет о том, чтобы начать с чистого листа. ИИ может заложить основу, а люди смогут на ней строить.

«Большинство людей привыкли создавать продукт от 0 до 80», — говорит Деви. «Теперь нам нужно изменить поведение и перейти от 80 к 100».

Этот подход особенно полезен для тех некоммерческих организаций, которым часто не хватает времени. Как объяснил один грантополучатель, с которым мы разговаривали: «Самое большое преимущество ИИ в организациях, которые действительно не могут позволить себе такой же штат сотрудников, как корпоративная [организация], заключается в выполнении этих основных, черновых задач».

Бет развивает эту концепцию, описывая ИИ как дивиденд времени. Беря на себя более утомительные задачи, ИИ освобождает специалистов некоммерческих организаций, чтобы они могли сосредоточиться на более важных вопросах.

«ИИ окажет глубокое влияние на то, как мы выполняем нашу работу. Он позволит автоматизировать большую часть рутинной работы, многое из того, что я называю аэробикой электронных таблиц, вырезанием и вставкой», — сказала Бет. «Это также поможет высвободить время, возможно, для решения таких вопросов, как уровень удержания доноров, или поможет нам более творчески мыслить о стратегии и инновациях и обеспечить более эффективную реализацию программ».

На практике это означает использование ИИ в качестве отправной точки для генерации первоначальных идей, проектов или анализа, а затем уточнения и улучшения результатов ИИ с помощью человеческого понимания и опыта. Получение результатов ИИ, качество которых составляет от 80% до 100%, требует человеческого участия, учета организационного контекста и тонкого понимания, которое ИИ не может обеспечить.

Работа с ИИ требует установки на рост — готовности учиться и адаптироваться к использованию ИИ в своих рабочих процессах, а также способности преодолевать разрыв между результатами, генерируемыми ИИ, и высококачественными результатами, соответствующими миссии.

Увеличивайте бай-ин сверху вниз

Лидерские команды должны быть не только образованными, но и способными обучать других тому, как ответственно использовать ИИ. Они задают тон своим организациям и оказывают огромное влияние на то, насколько эффективно и ответственно внедряется и используется ИИ.

«Я видела и слышала, что все начинается сверху», — сказала Деви. «Если у вас есть команда лидеров, которая глубоко инвестирует в технологии, вам будет легче добиться поддержки всей организации и волонтеров. Затем вы можете масштабироваться, гарантируя, что сотрудники и все, кто касается миссии, знают, как использовать ее ответственно и этично».

Лидеры должны четко и последовательно сообщать о ценности и потенциале ИИ и обеспечивать соответствие проектов ИИ миссии организации. Они должны быть в состоянии объяснить, как ИИ улучшает результаты и операционную эффективность, демонстрируя актуальность технологии для основной работы некоммерческой организации.

Лидеры, которые покупают ИИ, также должны иметь реалистичные ожидания относительно того, что возможно. Им необходимо осознать необходимость держать людей на месте водителя, одновременно предоставляя сотрудникам поддержку, необходимую им для изучения новых навыков. Это означает развитие культуры исследований и инноваций в области использования ИИ.

«Дайте командам время и ресурсы для изучения и использования инструментов искусственного интеллекта», — сказала Деви. «Поощряйте людей проводить время с генеративным искусственным интеллектом, принимайтесь за дело и действительно становитесь все более и более конкретными в своих подсказках. Узнайте, как добавить больше контекста, чтобы получить правильный результат».

«Лидеры должны создать психологическую безопасность при использовании ИИ», — добавляет Бет. «Нормализуйте отношение новичка к ИИ. Мы должны вдумчиво и ответственно не торопиться с его принятием».

ИИ может уравнять правила игры для некоммерческих организаций

Вы можете подумать, что более крупные организации с энтузиазмом внедряют ИИ, но, как отметила Деви в своем исследовании, на самом деле наибольшую пользу от ИИ получают более мелкие некоммерческие организации.

«Небольшие некоммерческие организации чаще внедряют ИИ», — говорит Деви. «Они мотивированы, потому что это в значительной степени экономит время и дает возможность использовать ресурсы, чтобы идти дальше».

ИИ также может помочь сократить разрыв между неопытными, новыми некоммерческими организациями и более авторитетными, особенно в сфере предоставления грантов, где формулирование вашей миссии является ключом к обеспечению финансирования. Как сказал нам один грантополучатель: «Если бы я дал ИИ очень подробное описание того, чем занимается моя организация и что ищет [приложение], он, вероятно, смог бы мне помочь».

ИИ предлагает невероятный потенциал для некоммерческих организаций, но его успешное внедрение требует продуманного подхода. Следуя принципам ответственного ИИ, некоммерческие организации могут использовать возможности ИИ для увеличения своего воздействия, оставаясь при этом верными своей миссии и ценностям.

Чтобы принять более активное участие в обсуждении ИИ для некоммерческих организаций, посмотрите наш вебинар по запросу «ИИ для фондов: учебник для прагматиков». Послушайте, как Энн Нис, директор по науке в Submittable, Алисия Тапиа, старший технолог по стратегическому планированию в Microsoft, и Сэм Каплан, вице-президент по социальному воздействию в Submittable, делятся тем, что они узнали об искусственном интеллекте и его идеальном использовании для фондов.