Memperkenalkan Prinsip AI yang Bertanggung Jawab dari Submittable

Di Submittable, misi kami adalah mempercepat pekerjaan yang didorong oleh misi. Inovasi adalah inti dari percepatan tersebut. Teknologi terobosan seperti kecerdasan buatan mewakili potensi yang sangat besar bagi umat manusia secara keseluruhan, dan khususnya sektor dampak sosial.

Submittable memiliki peluang untuk menciptakan produk yang memberdayakan pelanggan kami untuk memberikan dampak yang lebih besar secara eksponensial di seluruh program dan penerima manfaat mereka. Penerapan alat AI kami adalah bagian dari kemajuan dalam berbagai upaya penting di sektor publik, nirlaba, dan swasta, mulai dari penitipan anak berbasis komunitas yang terjangkau hingga perjuangan dan pembangunan ketahanan terhadap perubahan iklim.

Sebagai bagian dari pekerjaan ini, kami mempunyai kewajiban untuk memastikan semua teknologi AI yang kami kembangkan bertanggung jawab, beretika, dan berdampak. Untuk itu, Submittable menganut serangkaian prinsip AI yang bertanggung jawab.

Prinsip Submittable untuk AI yang Bertanggung Jawab

Submittable pertama kali merilis kemampuan bertenaga AI pada musim semi tahun 2021 untuk mendukung klien kami yang mengharapkan puluhan atau ratusan ribu—bahkan satu juta—aplikasi, sebagai respons terhadap pendanaan bantuan COVID yang sangat banyak diminati. Dengan Tinjauan Otomatis, teknologi ini menangani tugas-tugas yang membosankan, seperti mengekstraksi data dari formulir pajak atau dokumen identifikasi, atau menerapkan penilaian otomatis berdasarkan logika bisnis yang ditentukan khusus.

Hal ini membuka ruang bagi pelanggan kami untuk fokus pada pekerjaan penting program yang memerlukan sentuhan manusiawi—seperti membangun hubungan dengan pelamar dan penerima penghargaan.

Sejak itu, tim sains kami berkembang. Kami bekerja keras untuk meluncurkan produk lebih lanjut yang memenuhi misi AI untuk kebaikan. Gelombang baru ini akan memungkinkan setiap pemangku kepentingan dalam siklus hibah untuk memanfaatkan kekuatan AI—tidak hanya pemberi hibah, tetapi juga pemohon, peninjau, dan lainnya.

Hari ini, di ambang fase berikutnya AI untuk Submittable, kami berbagi dengan komunitas kami prinsip-prinsip AI yang bertanggung jawab yang memandu pekerjaan ini.

Memberdayakan

Kami percaya peran AI adalah membantu manusia membuat keputusan yang lebih baik dan mencapai lebih banyak hal—tetapi tidak mengorbankan keagenan manusia. Meskipun alat AI kami akan membantu pekerjaan selesai lebih cepat, alat tersebut tidak akan pernah mengecualikan manusia. Untuk mencapai tujuan ini, kami berupaya menciptakan alat AI yang menghilangkan kesibukan, sekaligus memusatkan peran otak manusia dalam tugas-tugas utama seperti pengambilan keputusan atau penilaian. Alat AI kami akan menjaga hak manusia untuk membuat keputusan akhir.

Akuntabel

Semua alat AI kami bertanggung jawab kepada manusia yang terus memantau perkembangannya. Pemantauan “Human-in-the-loop” (HITL) berarti manusia memberikan umpan balik langsung ke model pembelajaran untuk memperbaiki kesalahan dan meningkatkan akurasi dari waktu ke waktu. Kami menggunakan HITL untuk secara aktif memantau alat AI kami dan melakukan evaluasi dampak berkelanjutan, sehingga model kami semakin baik seiring berjalannya waktu.

Transparan

Kami percaya semua pengguna harus memiliki pemahaman yang jelas tentang di mana dan kapan AI digunakan—dan alasannya. Itu sebabnya kami menjelaskan kapan pengguna berinteraksi dengan alat AI, di mana kami menerapkan AI dalam perangkat lunak kami, dan mengapa kami melakukannya. Transparansi ini merupakan landasan bagi kepercayaan terhadap alat dan menetapkan ekspektasi terhadap cara kerja alat tersebut.

Adil

Kami bekerja tanpa kenal lelah untuk menemukan dan menghilangkan bias dalam alat AI kami. Kami melakukan identifikasi bias awal secara ekstensif dan pemantauan berkelanjutan. Hal ini memungkinkan dilakukannya mitigasi dini dan terus-menerus yang mengarah pada instrumen yang lebih adil dalam jangka pendek dan panjang. Kami juga mengambil langkah lebih jauh, dengan melibatkan pemangku kepentingan ahli dalam pengembangan model sehingga teknologi kami tidak hanya mencerminkan interpretasi kami terhadap ekuitas, namun juga mematuhi standar industri terkemuka.

Pribadi dan aman

Di setiap langkah siklus pengembangan kami, kami menerapkan langkah-langkah kelas dunia untuk memastikan semua data bersifat pribadi dan aman. Kami tidak akan pernah membagikan data dengan model publik. Pengguna dapat percaya bahwa data yang dipindahkan melalui AI Submittable terlindungi dan aman.

Proses sains kita

Saat kami mengembangkan alat AI, tim sains yang Dapat Dikirim mengambil pendekatan terukur secara sengaja, seperti yang digambarkan pada roda gila di bawah.

• Penelitian: Bekerja sama dengan para ahli di bidangnya untuk memahami masalah yang ingin kita pecahkan dan cara yang tepat untuk menyelesaikannya.
• Desain: Pastikan solusi tersebut akan meningkatkan pengalaman pengguna sekaligus memenuhi Prinsip AI yang Bertanggung Jawab.
• Build: Buat layanan stabil berkinerja yang memenuhi semua persyaratan keamanan.
• Evaluasi: Pastikan solusi berjalan sesuai harapan.
• Tingkatkan: Cari dan evaluasi area perbaikan.

Filosofi kami

Submittable mencakup sifat non-deterministik dari AI dan pengembangan algoritmik. Algoritma non-deterministik adalah algoritma yang jika diberikan masukan yang sama, dapat menghasilkan keluaran yang berbeda. Artinya seringkali kita tidak mengetahui hasil pekerjaan kita sampai selesai. Kami menganggap ini sebagai sebuah kekuatan.

Dalam praktiknya, ini berarti kami beroperasi dalam interval kepercayaan, yang menunjukkan sejauh mana kami dapat mengharapkan keakuratan keluaran. Untuk membuat interval kepercayaan, kami menentukan batas atas dan bawah, yang merupakan akurasi tertinggi yang dapat kami harapkan dan akurasi terendah yang dapat kami izinkan. Kemudian kami menggunakan metodologi HITL, di antara praktik terbaik lainnya, untuk memastikan bahwa keluaran alat AI kami berada dalam batas atas dan bawah.

Dengan mengikuti metode praktik terbaik untuk pengembangan AI, kami dapat memastikan akurasi dan merangkul sifat dinamis yang memberikan nilai unik pada alat AI.

Apa selanjutnya untuk AI di Submittable

Kami telah menghadirkan AI yang membantu pelanggan kami mengotomatiskan tugas dan meningkatkan pengambilan keputusan. Berikutnya, kami sangat antusias untuk menghadirkan AI ke lebih banyak pelanggan, dengan peningkatan kegunaan bagi individu non-teknis.

Bagian penting dari perjalanan ini adalah kemitraan strategis kami yang baru-baru ini diumumkan dengan Tech for Social Impact dari Microsoft. Bergabung dengan mereka dalam misi menciptakan AI untuk kebaikan, kami akan memanfaatkan rangkaian alat Microsoft yang terbaik di kelasnya, termasuk Microsoft Azure Open AI, untuk menciptakan gelombang baru teknologi yang didukung AI. Gelombang baru ini akan mewujudkan potensi AI bagi setiap anggota dalam proses pemberian hibah.

Berikut sekilas tentang apa yang akan terjadi bagi pengguna yang Dapat Dikirim:

• Saran jawaban yang menghemat waktu bagi pencari hibah: Kami sedang mengerjakan layanan bertenaga AI yang akan mengisi otomatis jawaban yang disarankan untuk permohonan hibah, berdasarkan jawaban yang telah diberikan oleh pemohon sendiri sebelumnya.
• Pembuatan formulir yang lebih cepat bagi pemberi hibah: Berdasarkan pengetahuan kami yang luas tentang praktik terbaik di antara para praktisi, pelanggan kami akan dapat menggunakan bot AI untuk secara otomatis membuat formulir permohonan hibah menggunakan perintah bahasa alami.
• Aplikasi yang dapat diakses tanpa hambatan bahasa: Kami juga akan membantu memperluas peluang hibah ke berbagai populasi dengan bot AI yang akan menerjemahkan formulir ke dalam berbagai bahasa.
• Ekstraksi data yang akurat dari dokumentasi: Kami berencana untuk menghilangkan entri data yang membosankan bagi pelamar dan peninjau, sekaligus mengurangi potensi kesalahan manusia dan penipuan dengan alat yang didukung AI yang dapat mengekstrak informasi dari dokumen resmi, seperti W2.

AI untuk kebaikan membutuhkan niat

Kami sangat gembira dengan masa depan nasabah, praktisi filantropi, dan penerima manfaat kami di seluruh dunia. Tapi kami melanjutkannya dengan hati-hati. Saat kami meluncurkan teknologi revolusioner ke sektor ini, kami sangat fokus untuk memastikan bahwa dalam praktiknya, teknologi yang kami kembangkan memenuhi tujuan kami untuk mempercepat pekerjaan yang didorong oleh misi .