Submittable의 책임감 있는 AI 원칙 소개

Submittable의 임무는 임무 중심 작업을 가속화하는 것입니다. 혁신은 이러한 가속화의 핵심입니다. 인공 지능과 같은 획기적인 기술은 인류 전체, 특히 사회적 영향 부문에 엄청난 잠재력을 나타냅니다.

Submittable은 고객이 프로그램과 수혜자 전반에 걸쳐 기하급수적으로 더 많은 영향을 미칠 수 있도록 지원하는 제품을 만들 수 있는 기회를 갖고 있습니다. 우리의 AI 도구 배포는 저렴한 지역 사회 기반 보육부터 기후 변화에 대한 대응 및 회복력 구축에 이르기까지 공공, 비영리 및 민간 부문 전반에 걸쳐 다양한 중요한 원인에 대한 진전을 이루기 위한 일부입니다.

이 작업의 일환으로 우리는 우리가 개발하는 모든 AI 기술이 책임감 있고 윤리적이며 영향력이 있다는 것을 보장할 의무가 있습니다. 이를 위해 Submittable은 책임 있는 AI에 대한 일련의 원칙을 준수합니다.

책임 있는 AI를 위한 Submittable의 원칙

Submittable은 주로 수요가 높은 코로나 구호 자금에 대응하여 수만 또는 수십만, 심지어 백만 개의 애플리케이션을 기대하는 고객을 지원하기 위해 2021년 봄에 AI 기반 기능을 처음 출시했습니다. 자동 검토를 통해 이 기술은 세금 양식이나 신원 확인 문서에서 데이터를 추출하거나 맞춤형 비즈니스 로직을 기반으로 자동 채점을 적용하는 등 지루한 작업을 처리합니다.

이를 통해 고객은 지원자 및 수혜자와의 관계 구축과 같이 인간의 손길이 필요한 프로그램 핵심 작업에 집중할 수 있는 공간이 열립니다.

그 이후로 우리 과학팀은 성장했습니다. 우리는 AI의 사명을 영원히 추구하는 추가 제품을 공개하기 위해 열심히 노력하고 있습니다. 이 새로운 물결을 통해 보조금 수명 주기의 각 이해관계자(보조금 제작자뿐만 아니라 신청자, 검토자 등)가 AI의 힘을 활용할 수 있게 될 것입니다.

오늘, 제출 가능한 AI의 다음 단계를 앞두고 우리는 이 작업을 안내하는 책임감 있는 AI 원칙을 커뮤니티와 공유하고 있습니다.

힘을 실어주는

우리는 AI의 역할이 인간이 더 나은 결정을 내리고 더 많은 것을 성취하도록 돕는 것이라고 믿습니다. 그러나 인간의 주체를 희생시키면서가 아닙니다. 우리의 AI 도구는 작업을 더 빠르게 완료하는 데 도움이 되지만 결코 인간을 배제하지는 않습니다. 이를 위해 우리는 바쁜 업무를 없애는 동시에 의사 결정이나 판단과 같은 핵심 작업에 인간 두뇌의 역할을 집중시키는 AI 도구를 만들기 위해 노력하고 있습니다. 우리의 AI 도구는 인간이 최종 결정을 내릴 권리를 보존합니다.

책임이 있는

우리의 모든 AI 도구는 지속적으로 루프에 유지되는 인간에 대한 책임이 있습니다. "HITL(Human-In-The-Loop)" 모니터링은 인간이 학습 모델에 직접적인 피드백을 제공하여 시간이 지남에 따라 오류를 수정하고 정확도를 향상시키는 것을 의미합니다. 우리는 HITL을 사용하여 AI 도구를 적극적으로 모니터링하고 지속적인 영향 평가를 수행하므로 시간이 지남에 따라 모델이 개선됩니다.

투명한

우리는 모든 사용자가 AI가 언제, 어디서, 그리고 왜 사용되는지 명확하게 이해해야 한다고 믿습니다. 이것이 바로 우리가 사용자가 AI 도구와 상호 작용할 때, 소프트웨어에서 AI를 구현하는 위치와 그렇게 하는 이유를 명확히 하는 이유입니다. 이러한 투명성은 도구에 대한 신뢰와 도구 작동 방식에 대한 기대치를 설정하는 데 기초가 됩니다.

공정한

우리는 AI 도구에서 편견을 찾아 제거하기 위해 끊임없이 노력하고 있습니다. 우리는 광범위한 조기 편견 식별과 지속적인 모니터링을 수행합니다. 이를 통해 단기 및 장기적으로 보다 공평한 도구로 이어지는 조기 및 지속적인 완화가 가능합니다. 또한 우리는 한 단계 더 나아가 모델 개발에 전문가 이해관계자를 참여시킴으로써 우리의 기술이 형평성에 대한 우리의 해석을 반영할 뿐만 아니라 업계 최고의 표준을 준수하도록 합니다.

비공개 및 보안

개발 수명 주기의 모든 단계에서 우리는 모든 데이터의 비공개 및 보안을 보장하기 위해 세계적 수준의 조치를 구현합니다. 우리는 공개 모델과 데이터를 절대 공유하지 않습니다. 사용자는 Submittable의 AI를 통해 이동하는 데이터가 보호되고 안전하다는 것을 신뢰할 수 있습니다.

우리의 과학 과정

AI 도구를 개발하면서 Submittable 과학 팀은 아래 플라이휠에 설명된 대로 의도적으로 측정된 접근 방식을 취합니다.

• 연구: 해당 분야 전문가와 협력하여 우리가 해결하려는 문제와 이를 해결하기 위한 적절한 방법을 이해합니다.
• 디자인: 솔루션이 책임 있는 AI 원칙을 충족하면서 사용자 경험을 향상시킬 수 있는지 확인하십시오.
• 빌드: 모든 보안 요구 사항을 충족하는 성능이 좋고 안정적인 서비스를 만듭니다.
• 평가: 솔루션이 예상대로 작동하는지 확인합니다.
• 개선: 개선할 부분을 찾고 평가합니다.

우리의 철학

Submittable은 AI 및 알고리즘 개발의 비결정적 특성을 수용합니다. 비결정적 알고리즘은 동일한 입력이 주어졌을 때 다른 출력을 반환할 수 있는 알고리즘입니다. 이는 작업이 완료될 때까지 작업 결과를 알 수 없는 경우가 많다는 것을 의미합니다. 우리는 이것이 강점이라고 생각합니다.

실제로 이는 출력이 정확할 것으로 기대할 수 있는 정도를 나타내는 신뢰 구간 내에서 작업한다는 의미입니다. 신뢰 구간을 만들기 위해 우리는 기대할 수 있는 최고 정확도와 허용할 최저 정확도인 상한과 하한을 정의합니다. 그런 다음 다른 모범 사례 중에서 HITL 방법론을 사용하여 AI 도구의 출력이 이러한 상한 및 하한 범위 내에 있는지 확인합니다.

AI 개발을 위한 이 모범 사례 방법을 따르면 정확성을 보장하고 AI 도구에 고유한 가치를 제공하는 동적 특성을 수용할 수 있습니다.

Submittable의 AI의 다음 단계는 무엇입니까?

우리는 고객이 작업을 자동화하고 의사결정을 개선하는 데 도움이 되는 AI를 이미 제공했습니다. 다음에는 기술 지식이 없는 개인을 위한 향상된 유용성과 함께 더 많은 고객의 손에 AI를 제공할 수 있게 되어 기쁩니다.

이 여정의 핵심 부분은 최근 발표된 Microsoft의 Tech for Social Impact와의 전략적 파트너십입니다. 우리는 영원히 AI를 만드는 사명에 동참하여 Microsoft Azure Open AI를 비롯한 Microsoft의 동급 최고 도구 제품군을 활용하여 AI 기반 기술의 새로운 물결을 만들 것입니다. 이 새로운 물결은 보조금 지급 과정의 모든 구성원에게 AI의 가능성을 열어줄 것입니다.

제출 가능한 사용자에게 앞으로 다가올 일을 살짝 엿보세요.

• 보조금 신청자를 위한 시간 절약형 답변 제안: 우리는 신청자가 이전에 제공한 답변을 바탕으로 보조금 신청에 대한 제안 답변을 자동으로 채우는 AI 기반 서비스를 개발 중입니다.
• 보조금 제작자를 위한 더 빠른 양식 생성: 실무자들 사이의 모범 사례에 대한 광범위한 지식을 바탕으로 고객은 AI 봇을 사용하여 자연어 프롬프트를 사용하여 보조금 신청서를 자동으로 생성할 수 있습니다.
• 언어 장벽을 넘어 접근 가능한 애플리케이션: 또한 양식을 여러 언어로 번역하는 AI 봇을 통해 다양한 인구에 걸쳐 보조금 기회를 확장하도록 도울 것입니다.
• 문서에서 정확한 데이터 추출: W2와 같은 공식 문서에서 정보를 추출할 수 있는 AI 지원 도구를 사용하여 지원자와 검토자의 지루한 데이터 입력을 제거하는 동시에 인적 오류 및 사기 가능성을 줄일 계획입니다.

AI의 선을 위해서는 의도가 필요하다

우리는 고객, 전 세계 자선 활동가 및 수혜자의 미래가 어떻게 될지 매우 기대하고 있습니다. 하지만 우리는 신중하게 진행하고 있습니다. 우리는 이 분야에 혁신적인 기술을 출시하면서 실제로 우리가 개발하는 기술이 임무 중심 작업을 가속화하려는 우리의 목적을 더욱 발전시키는 데 중점을 두고 있습니다.