Представляем принципы ответственного ИИ Submittable

Наша миссия в Submittable — ускорить работу, ориентированную на миссию. Инновации играют центральную роль в этом ускорении. Прорывные технологии, такие как искусственный интеллект, представляют огромный потенциал для человечества в целом, и особенно для сектора социального воздействия.

Submittable имеет возможность создавать продукты, которые позволяют нашим клиентам оказывать экспоненциально большее влияние на свои программы и бенефициаров. Внедрение наших инструментов искусственного интеллекта является частью достижения прогресса в ряде жизненно важных задач в государственном, некоммерческом и частном секторах: от доступного ухода за детьми на уровне сообщества до борьбы и повышения устойчивости к изменению климата.

В рамках этой работы мы обязаны обеспечить, чтобы все разрабатываемые нами технологии искусственного интеллекта были ответственными, этичными и эффективными. С этой целью Submittable придерживается ряда принципов ответственного ИИ.

Принципы ответственного ИИ, представленные в Submittable

Компания Submittable впервые выпустила возможности на базе искусственного интеллекта весной 2021 года для поддержки наших клиентов, ожидающих десятков или сотен тысяч — даже миллионов — приложений в ответ на чрезвычайно востребованное финансирование в связи с пандемией COVID. С помощью Automated Review технология решает утомительные задачи, такие как извлечение данных из налоговых форм или идентификационных документов или применение автоматической оценки на основе пользовательской бизнес-логики.

Это открывает нашим клиентам возможность сосредоточиться на критически важной для программы работе, требующей человеческого участия, например, на построении отношений с кандидатами и лауреатами.

С тех пор наша научная группа выросла. Мы усердно работаем над созданием новых продуктов, которые навсегда преследуют миссию искусственного интеллекта. Эта новая волна позволит каждому заинтересованному лицу в жизненном цикле гранта использовать возможности ИИ — не только создателям грантов, но также заявителям, рецензентам и другим лицам.

Сегодня, на пороге следующего этапа AI для Submittable, мы делимся с нашим сообществом принципами ответственного ИИ, которыми руководствуется эта работа.

Расширение прав и возможностей

Мы считаем, что роль ИИ заключается в том, чтобы помогать людям принимать более правильные решения и достигать большего, но не за счет человеческого вмешательства. Хотя наши инструменты искусственного интеллекта помогут выполнять работу быстрее, они никогда не исключат людей из уравнения. С этой целью мы работаем над созданием инструментов искусственного интеллекта, которые устраняют хлопотную работу и одновременно сосредотачивают роль человеческого мозга на таких ключевых задачах, как принятие решений или вынесение суждений. Наши инструменты искусственного интеллекта сохранят за человеком право принимать окончательное решение.

Подотчетный

Все наши инструменты искусственного интеллекта подотчетны человеку, который постоянно находится в курсе событий. Мониторинг «человек в цикле» (HITL) означает, что люди обеспечивают прямую обратную связь с моделью обучения для исправления ошибок и повышения точности с течением времени. Мы используем HITL как для активного мониторинга наших инструментов искусственного интеллекта, так и для постоянной оценки воздействия, чтобы наши модели со временем улучшались.

Прозрачный

Мы считаем, что все пользователи должны иметь четкое представление о том, где и когда используется ИИ и почему. Вот почему мы четко разъясняем, когда пользователи взаимодействуют с инструментами ИИ, где мы внедряем ИИ в наше программное обеспечение и почему мы это делаем. Эта прозрачность является основой как для доверия к инструментам, так и для определения ожиданий относительно того, как эти инструменты будут работать.

Справедливый

Мы неустанно работаем над выявлением и устранением предвзятости в наших инструментах искусственного интеллекта. Мы проводим обширную раннюю идентификацию предвзятости и непрерывный мониторинг. Это позволяет своевременно и постоянно смягчать последствия, что приводит к созданию более справедливых инструментов в краткосрочной и долгосрочной перспективе. Мы также делаем еще один шаг вперед, привлекая экспертов-заинтересованных сторон к разработке моделей, чтобы наша технология отражала не только нашу собственную интерпретацию капитала, но и соответствовала ведущим отраслевым стандартам.

Частный и безопасный

На каждом этапе жизненного цикла разработки мы реализуем меры мирового уровня, обеспечивающие конфиденциальность и безопасность всех данных. Мы никогда не будем передавать данные общедоступным моделям. Пользователи могут быть уверены, что данные, которые проходят через AI Submittable, защищены и безопасны.

Наш научный процесс

При разработке наших инструментов искусственного интеллекта научная группа Submittable применяет намеренно взвешенный подход, как показано на маховике ниже.

• Исследования: Работайте с экспертами в данной области, чтобы понять проблему, которую мы пытаемся решить, и подходящие способы ее решения.
• Дизайн: убедитесь, что решение улучшит взаимодействие с пользователем и при этом будет соответствовать нашим принципам ответственного ИИ.
• Сборка: Создайте производительный стабильный сервис, отвечающий всем требованиям безопасности.
• Оценка: убедитесь, что решение работает должным образом.
• Улучшить: Ищите и оценивайте области улучшения.

Наша философия

Submittable охватывает недетерминированную природу ИИ и разработки алгоритмов. Недетерминированный алгоритм — это алгоритм, который при одних и тех же входных данных может возвращать разные выходные данные. Это означает, что мы часто не узнаем результатов нашей работы, пока она не будет завершена. Мы считаем это сильной стороной.

На практике это означает, что мы действуем в пределах доверительных интервалов, которые указывают на степень точности результатов. Чтобы создать доверительный интервал, мы определяем верхнюю и нижнюю границы, которые представляют собой максимальную точность, которую мы можем ожидать, и самую низкую точность, которую мы допускаем. Затем мы используем методологию HITL, среди других передовых методов, чтобы гарантировать, что результаты наших инструментов ИИ попадают в эти верхние и нижние границы.

Следуя этому передовому методу разработки ИИ, мы можем обеспечить точность и использовать динамичный характер, который придает инструментам ИИ их уникальную ценность.

Что будет дальше с ИИ в Submittable

Мы уже внедрили искусственный интеллект, который помогает нашим клиентам автоматизировать задачи и улучшить процесс принятия решений. В дальнейшем мы рады предоставить ИИ большему числу клиентов, а также повысить удобство его использования для людей, не обладающих техническими знаниями.

Ключевой частью этого пути является наше недавно объявленное стратегическое партнерство с Microsoft Tech for Social Impact. Присоединяясь к их миссии по созданию искусственного интеллекта во благо, мы будем использовать лучший в своем классе набор инструментов Microsoft, включая Microsoft Azure Open AI, для создания новой волны технологий на базе искусственного интеллекта. Эта новая волна откроет возможности ИИ для каждого участника процесса выделения грантов.

Вот краткий обзор того, что ждет пользователей Submittable:

• Предложения ответов для соискателей грантов, которые экономят время: мы работаем над сервисом на базе искусственного интеллекта, который будет автоматически заполнять предлагаемые ответы для заявок на гранты на основе ответов, которые ранее предоставил сам заявитель.
• Более быстрое создание форм для грантодателей: благодаря нашим обширным знаниям передового опыта среди практиков, наши клиенты смогут использовать бота с искусственным интеллектом для автоматического создания форм заявок на гранты с использованием подсказок на естественном языке.
• Доступные приложения, преодолевающие языковые барьеры. Мы также поможем расширить возможности предоставления грантов для различных групп населения с помощью бота с искусственным интеллектом, который будет переводить формы на несколько языков.
• Точное извлечение данных из документации. Мы планируем исключить утомительный ввод данных для заявителей и рецензентов, а также снизить вероятность человеческих ошибок и мошенничества с помощью инструмента с поддержкой искусственного интеллекта, который может извлекать информацию из официальных документов, таких как W2.

ИИ во благо требует намерения

Мы с нетерпением ждем того, что ждет наших клиентов, филантропов и бенефициаров по всему миру в будущем. Но мы действуем осторожно. Выпуская в отрасль революционные технологии, мы уделяем пристальное внимание тому, чтобы на практике разрабатываемые нами технологии способствовали достижению нашей цели — ускорить работу, ориентированную на выполнение поставленных задач .