Makine Öğreniminde Neden Döngüdeki İnsan (HITL) Yaklaşımını Kullanmalı?

Arizona'da bir kadına çarpıp öldüren kendi kendine giden Uber arabasını duydunuz mu? Başka bir olayda, bir yüz tanıma çözümü, New Jersey'de beyaz olmayan masum bir adamın profilini çıkardı ve Amazon'un yapay zeka destekli işe alım aracı, kadın adaylara karşı önyargı sergiledi.

Açıkçası, yapay zeka hata yapar. Önemli, hatta yaşamı değiştiren hatalar. Peki, bu tür bir hatayı ortadan kaldırırken AI'nın avantajlarından nasıl yararlanabiliriz? Seçeneklerden biri, insan uzmanların dağıtımdan sonra yapay zeka iş çözümlerini eğitmesine, değerlendirmesine ve izlemesine izin vermektir. Bu kavram döngüde insan (HITL) makine öğrenimi olarak adlandırılır. Gartner, bazı endüstrilerde HITL AI çözümlerinin 2025 yılına kadar tüm otomasyon tekliflerinin yaklaşık %30'unu oluşturacağını tahmin ediyor.

Yapay zeka uzmanımız Maksym Bochok ile insanların bu döngüye nasıl uyduğunu, hangi faydaları getirdiklerini ve bu sürecin nasıl organize edileceğini anlamak için konuştuk.

İnsan döngüsü tanımı ve faydaları

Hata yapmak insana mahsustur, işleri gerçekten bozmak bir bilgisayar gerektirir.

–Paul Ehlrich, Alman doktor ve Nobel Ödülü sahibi

Şimdi Ehlrich'in sözü her zamankinden daha alakalı. Yapay zekanın kritik uygulamaları ele almasıyla, hata payı giderek azalıyor. Ve makineler mükemmel değil. Alınan eğitim verilerine dayanarak görev anlayışlarını oluştururlar ve hatalı varsayımlarda bulunabilirler.

Bu da bizi döngüdeki insan makine öğrenimi terminolojisine götürüyor.

Döngüdeki insan, sürekli olarak modelleri eğitebilmeleri ve doğrulayabilmeleri için insan çalışanlarını makine öğrenimi hattına entegre etmek anlamına gelir. Bu, modellerle çalışan tüm kişileri ve bunların eğitim verilerini içerir.

Döngüdeki insan, makine öğrenimi algoritmalarınıza nasıl değer katar?

Yüksek düzeyde hassasiyet sağlar. Bu, özellikle hataları tolere edemeyen alanlar için önemlidir. Örneğin, bir uçak için kritik ekipman üretirken otomasyon ve hız istiyoruz ama güvenliği tehlikeye atamayız. HITL, daha az kritik uygulamalarda da faydalıdır. Örneğin, belge düzenleme uyumluluğu için büyük ölçüde yapay zekaya güvenen büyük danışmanlık şirketleri, doğal dil işleme algoritmalarını doğrulamak için insan döngüsünde makine öğrenimini içerir.

Önyargıyı ortadan kaldırır. Makine öğrenimi modelleri, eğitim sırasında önyargılı hale gelebilir. Ayrıca, öğrenmeye devam ettikçe, dağıtımdan sonra önyargı kazanabilirler. İnsan çalışanlar, algoritmayı buna göre düzelterek bu fenomeni erken aşamalarda tespit edebilir ve ortadan kaldırabilir.

Şeffaflığı sağlar. ML algoritmaları, nihai bir karar vermek için binlerce hatta milyonlarca parametreyi değerlendirir ve genellikle açıklanamaz. HITL ile algoritmaların nasıl çalıştığını anlayan ve verdikleri kararları haklı çıkarabilen bir insan var. Buna açıklanabilir AI denir. Örneğin, bir kişi bir kredi için başvurduğunda ve reddedildiğinde, bir kredi memurundan ret gerekçesini ve başvuranın bir dahaki sefere şansını artırmak için neler yapabileceğini açıklamasını isteyebilir.

İstihdam fırsatları açar. Yapay zekanın insanların işlerini çaldığını sık sık duyuyoruz. Döngüdeki bir insanla makine öğrenimi, teknolojinin nasıl yeni boşluklar yaratabileceğine dair bir örnek sağlar. Sadece Hint veri açıklayıcı pazarına bakın.

AI boru hattında insanların rolü

Maksym, insanların tahmin yapma yeteneğini geliştirmek için AI boru hattının bir parçası olabileceğini açıklıyor. Makine öğrenimi modelleri, denetimli veya denetimsiz öğrenme modlarında çalışır. Denetimli öğrenme durumunda, kişiler aşağıdaki görevleri gerçekleştirebilir:

• Etiketleme ve açıklama. Bir insan çalışan, eğitim veri kümesini etiketler. Gerekli uzmanlığa bağlı olarak, bu bir alan uzmanı veya uygun eğitime sahip herhangi bir çalışan olabilir.
• Modelin yeniden mühendisliği. Gerekirse makine öğrenimi mühendisleri ve programcıları, sağlanan veri kümesinden en iyi şekilde yararlanabilmesini sağlamak için algoritmada ayarlamalar yapabilir.
• Eğitim ve yeniden eğitim. Çalışanlar, modeli açıklamalı verilerle besler, çıktıyı görüntüler, düzeltmeler yapar, mümkünse daha fazla veri ekler ve modeli yeniden eğitir.
• Dağıtımdan sonra modelin performansını izleme. Yapay zeka çözümünü müşterinin tesislerinde dağıttıktan sonra döngüdeki insan makine öğrenimi yaşam döngüsü durmaz. ML mühendisleri, müşterinin onayı ile performansını izlemeye devam eder ve gerektiğinde çıktısının seçici doğrulaması yoluyla modelde ayarlamalar yapar. Seçici doğrulama yoluyla elde edilen vakalar, algoritmanın performansını iyileştirmek için ilk eğitim veri setini artıracaktır.

Denetimsiz makine öğreniminde, algoritmalar etiketlenmemiş verileri girdi olarak alır ve kendi başına bir yapı bulur. Bu durumda, insanlar veri setine açıklama eklemezler ve ilk eğitime fazla müdahale etmezler. Ancak yukarıdaki 4. adımı uygulayarak modeli önemli ölçüde zenginleştirebilirler.

İnsan döngüsünde makine öğrenimi mutlak bir gereklilik olduğunda

Maksym, döngüdeki insan yaklaşımının çoğu makine öğrenimi kullanım durumu için faydalı olduğuna inanmaktadır. Yapay zeka çözümleri, geniş kapsamlı veri kümeleri üzerinde eğitildiklerinde optimum tahminler yapma konusunda etkileyiciyken, insanlar sınırlı sayıda düşük kaliteli veri örneğinden gelen kalıpları tanıyabilir. Her iki yeteneği bir araya getirmek, güçlü bir sistem oluşturabilir. Bazı uygulamalarda ML modelleri sınırlı insan müdahalesi ile başarılı olsa da, döngü sisteminde tam gelişmiş bir insanın zorunlu olduğu durumlar vardır:

• Algoritmadaki herhangi bir hata tıbbi teşhiste olduğu gibi çok maliyetli olduğunda.
• Algoritmayı düzgün bir şekilde eğitmeniz gereken veriler kıt olduğunda. Daha fazla eğitim verisi her zaman daha iyi model performansına eşittir. Üretim sonrası model izlemenin yardımıyla, modele öğrenmesi için daha fazla örnek vererek eğitim verilerini ilgili örneklerle zenginleştirebilirsiniz.
• Tek seferlik öğrenme durumunda, bir algoritma bazı nesneleri sınıflandırmak için yüzlerce hatta binlerce örnek üzerinde eğitildiğinde. Sonra başka bir sınıf eklenir ve algoritmanın onu yalnızca birkaç eğitim örneğinden tanımlamayı öğrenmesi gerekir.
• Algoritmaların sonuçlarına nasıl ulaştığının açıklanmasının gerekli olduğu yoğun şekilde düzenlenmiş endüstrilerde. Örneğin, doktorlar kişiselleştirilmiş kanser tedavileri önermek için yapay zekayı kullandıklarında, bu tedavi planını hastaya gerekçelendirmeleri gerekir.

Makine öğrenimi algoritmalarının işlediği veri türüne bakıldığında, bilgisayarla görme uygulamaları ve doğal dil işleme (NLP) için, özellikle de alaycılık içerebilecek bir metnin duygu analizi söz konusu olduğunda, HITL AI gerekli olacaktır. HITL, tablo verileri ve zaman serisi analizi için daha az önemlidir.

Döngüde insan uygulamalarıyla yapay zekayı geliştirmeye yönelik ipuçları

Maksym, makine öğreniminde insan döngüsü yaklaşımının başarılı bir şekilde nasıl uygulanacağına dair aşağıdaki ipuçlarını sunar:

• Dağıtımdan sonra bir algoritmanın performansını izleyip analiz ederken , döngü sistemindeki insan ne kadar iyi olursa olsun, insan katılımcılar algoritmanın işlediği her girdiye ve ürettiği her çıktıya dikkat edemeyeceklerdir. Davalarınızı akıllıca seçin. Dikkatinize değer vakaları seçmek için seçici doğrulamayı kullanın. Maksym akıllı vaka seçimi için şu yaklaşımları önerir:
• Güven seviyelerine dayalıdır. Örneğin, bir algoritmanın her girdi görüntüsünü ya kedi ya da köpek olarak sınıflandırması gerekir. Yaklaşık 48/52 veya benzeri bir güven düzeyi alan görüntüler, algoritmaları karıştıran ve uygun şekilde etiketlenmesi ve modeli yeniden eğitmek için kullanılması gereken görüntülerdir.
• “Önemsiz” vakaların rastgele doğrulanması. Bir algoritmanın performansı söz konusu olduğunda, on vakadan yalnızca birinin değerli bilgiler içerdiğini varsayalım. Böyle bir duruma örnek, modelin yanlış bir tahmin konusunda aşırı güven duymasıdır. Bu durumu kesinlikle göz önünde bulundurmalısınız, ancak algoritmanın yanlış tahminleriyle aşırı güven duymadığından veya önyargıya izin vermediğinden emin olmak için kalan dokuz durumdan rastgele birini seçmeniz gerekir.
• Bir önceki adımda seçtiğiniz vakaları analiz ederken, kendinizi nihai sonuçla sınırlamayın. Sinir ağlarındaki son nöron setinin çıktısına bakmak yerine, aşağıdaki resimde olduğu gibi önceki katmanı kontrol edin ve yanlış bir tahmin ile algoritmanın yaptığı en yakın doğru tahminler arasındaki mesafelerin dağılımını analiz edin.
• Algoritmanın son kullanıcılarını performansı hakkında geri bildirimde bulunmaya teşvik edin. Kullanıcıların endişelerini iletebilmeleri için geri bildirim formları oluşturun ve bunları herkesin kullanımına açık hale getirin.
• Önceki adımlardaki veri noktalarını kullanarak eğitim veri kümesini yinelemeli olarak artırmaya devam edin. Bu şekilde, müşterinin işlemlerinde bazı değişiklikler meydana gelse bile algoritmanızın alakalı kaldığından emin olacaksınız.

Kullanıma hazır HITL özellikli yapay zeka araçları

Eğitim veri kümelerini etiketlemenize ve sonucu doğrulamanıza izin veren döngüde makine öğrenimi araçlarında bazı hazır insan vardır. Ancak, bu standartlaştırılmış araçlarla yukarıdaki ipuçlarını uygulayamayabilirsiniz. Döngü aracı örneklerinde birkaç insan:

Google Bulut HITL'si

Bu çözüm, insanların belgelerden çıkarılan verileri etiketlemek, gözden geçirmek ve düzenlemek için kullanabilecekleri bir iş akışı ve bir kullanıcı arabirimi (UI) sunar. Müşteri şirket ya kendi çalışanlarını etiketleyici olarak kullanabilir ya da görevi yerine getirmek için Google HITL işgücünü işe alabilir.

Araç, etiketleyicilerin iş akışını düzene sokmak ve çıktıyı güven eşiğine göre filtrelemek için belirli UI özelliklerine sahiptir. Ayrıca şirketlerin kendi etiketleyici havuzlarını yönetmelerine olanak tanır.

Amazon Artırılmış Yapay Zeka (Amazon A2I)

Bu insan döngüsel yapay zeka aracı, insanların düşük güven ve rastgele ML tahminlerini incelemesine olanak tanır. Yalnızca metin üzerinde çalışan Google Cloud HITL'den farklı olarak Amazon A2I, görüntüleri çıkarmak ve sonuçları doğrulamak için Amazon Recognition'ı tamamlayabilir. Ayrıca tablo verilerinin gözden geçirilmesine yardımcı olabilir.

Bir müşteri sağlanan A2I iş akışından memnun değilse, SageMaker veya benzeri bir araçla kendi yaklaşımını geliştirebilir.

DataRobot Alçakgönüllü Yapay Zeka

Humble AI, insanların tahminlerde bulunurken ML modellerinin uygulaması gereken bir dizi kural belirlemesine izin verir. Her kural bir koşul ve buna karşılık gelen bir eylem içerir. Şu anda, üç eylem vardır:

• İşlem yok, insanlar müdahale etmeden ilgili durumu izlediğinde
• İnsanlar modelin çıktısını farklı bir değerle değiştirebildiğinde, tahminin geçersiz kılınması
• Hata döndürme, tahminin tamamen atılması

Peki, döngüde bir insanla makine öğrenimi sizin için en iyi yaklaşım mı?

İnsanı döngü içinde kullanmak AI yaklaşımı, doğruluğu, şeffaflığı ve tahminlerin kalitesini artırır. Olumlu bir yan etki olan istihdam olanakları yaratırken, insan müdahalesi nedeniyle görevi tamamlamak için gereken maliyetleri ve zamanı da artırır.

HITL AI'nın bariz faydalarına rağmen, belirli faaliyetlerle ilişkili riskler nedeniyle döngü dışı insanın tercih edilen bir yaklaşım olduğu uygulamalar vardır. Otonom silah geliştirme ve dağıtımını düşünün.

Makine öğrenimi algoritmalarınızın döngüde bir insanı kullanabileceğini düşünüyorsanız, ancak işletim maliyetleri ile istenen doğruluk ve açıklanabilirliği nasıl dengeleyeceğinizden emin değilseniz, makine öğrenimi danışmanlarına ulaşın. Doğru uyumu bulmak için sizinle birlikte çalışacaklar. Döngüdeki insan makine öğrenimi sizin durumunuzda en uygun çözüm değilse, eğitim verisi kıtlığı sorununun üstesinden gelmenize yardımcı olabilecek başka ML püf noktaları vardır:

• Önceden eğitilmiş modellerde kendi verilerinizle ince ayar yaptığınızda öğrenmeyi aktarın
• Az sayıda etiketlenmiş örnekle birlikte büyük bir etiketlenmemiş veri kümesi kullandığınızda yarı denetimli öğrenme
• Her grupta eğitim örneğinin rastgele bir bölümünü maskelediğinizde ve algoritma bunu tahmin etmeye çalıştığında, kendi kendini denetleyen öğrenme

ML modelinizin doğruluğunu ve açıklanabilirliğini geliştirmeyi düşünüyor musunuz? Temasta olmak! ITRex AI uzmanları, durumunuzu inceleyecek ve ihtiyaçlarınızı karşılamak için döngü içinde optimal bir insan yaklaşımı geliştirecektir.

İlk olarak 17 Temmuz 2022'de https://itrexgroup.com'da yayınlandı.