Kuruluşunuzda Etkili Uygulama İçin Üretken Yapay Zekanın Maliyetini Değerlendirme

Yayınlanan: 2024-01-23

Üretken yapay zekanın (AI) uygulanmasının maliyetleriyle ilgili bazı önemli noktalar.

Üretken yapay zekayı iş dünyasında uygulamanın maliyeti, ince ayarlı bir açık kaynak modeline dayalı, özel üretim bir yapay zeka çözümü için ayda birkaç yüz dolardan 190.000 dolara (ve giderek de artıyor) kadar değişebilir.
Bu üretken yapay zeka maliyet farkı, geliştirmek istediğiniz görevler, bu görevlere en uygun model ve seçilen uygulama yaklaşımı gibi çeşitli faktörlerden kaynaklanmaktadır.
İlgili giderleri optimize etmek için proje gereksinimlerinizi dikkatli bir şekilde değerlendirmeniz, şirket içi ve bulut altyapı giderlerini değerlendirmeniz ve şirket içi yapay zeka yeteneğini işe almakla projeyi üçüncü tarafa dış kaynak olarak kullanmak arasında seçim yapmanız gerekir.

Üretken yapay zekanın (gen yapay zeka) geleneksel yapay zekayla nasıl karşılaştırıldığını size daha önce anlatmıştık. Ayrıca teknolojinin artılarını ve eksilerini de özetledik. ITRex üretken yapay zeka danışmanlık ekibi ayrıca sağlık, perakende ve tedarik zincirleri de dahil olmak üzere çeşitli sektörlerdeki yapay zeka kullanım örneklerini de inceledi.

Ek olarak, yapay zeka sistemleri ve altyapı oluşturmanın maliyetini değerlendirdik ve makine öğrenimi (ML) maliyetlerine odaklanarak eğitim verilerinin hazırlanması, modellerde ince ayar yapılması ve makine öğrenimi destekli çözümlerin dağıtılmasıyla ilgili masrafları hesapladık.

Artık iş dünyasında yapay zeka uygulamasının maliyetini çözmenin zamanı geldi. Projenizin ayrıntıları henüz bizim için bilinmediğinden bu analiz zorlayıcı olabilir. Bununla birlikte, hizmet fiyatlandırmasını araştırmak ve genel yapay zeka proje maliyetlerinin ardındaki temel faktörleri sıralamak için genel yapay zeka danışmanlık uzmanlığımızdan yararlanabiliriz. Bu şekilde, sizi bilinçli kararlar vermeniz için gereken bilgiyle donatacağız ve hızla gelişen bu teknoloji ortamında işinize önemli ölçüde zaman ve kaynak tasarrufu sağlama potansiyeline sahip olacağız.

İlgili? O zaman hemen dalalım!

Nesil Yapay Zekanın Maliyetini Etkileyen Faktörler: Model Seçimi ve Uygulama Yaklaşımı

Yapay zekayı şirketinizin teknoloji yığınına dahil etmeyi düşünürken aşağıdakileri dikkate almanız kritik öneme sahiptir:

Üretken yapay zeka ile hangi iş görevlerini geliştireceksiniz?
Bu görevler için hangi model yeterli olacaktır?

Üretken yapay zeka çözümlerinin kalbinde temel modeller, yani muazzam miktarda veriyle eğitilmiş büyük modeller yer alır. Temel modeller, temel olarak, kişiye özel yapay zeka çözümleri oluşturmanın, geliştirme sürecini basitleştirmenin ve yapay zeka maliyetlerini düşürmenin temelini oluşturuyor. Yetenekleri genellikle doğal dil işlemeyi (NLP), bilgisayarla görmeyi (CV) ve içerik oluşturmayı içerir.

Temel modellerin bilişsel yetenekleri büyük ölçüde eğitildikleri parametrelerin sayısına bağlıdır. Bu bağlamda parametreler, bir sinir ağındaki ağırlıklar gibi eğitim verilerinden öğrenilen model öğelerini ifade eder. Bu parametreler modelin kararlar almasına ve tahminlerde bulunmasına yardımcı olur. Aşağıdaki tablo, parametre sayısı (esasen bu karar verme öğelerinin hacmi) ile modelin bilişsel yetenekleri arasındaki ilişkiyi göstermektedir.

Ancak temel modellerinin yeteneklerini etkileyen tek faktör parametre sayısı değildir. Eğitim verilerinin kalitesi ve çeşitliliği de aynı derecede önemlidir. Eğitim verileri, modelin öğrendiği bilgilerdir. Bu tür veriler, modelin yeni verileri anlamasına ve yorumlamasına yardımcı olan çok çeşitli örnekleri kapsar. Ek olarak, modelin mimarisi (yani parametrelerin ve verilerin nasıl etkileşime girdiğinin yapısal tasarımı) ve modelin verilerden ne kadar etkili bir şekilde öğrendiğini belirleyen öğrenme algoritmalarının verimliliği kritik roller oynar. Sonuç olarak, bazı görevlerde daha az parametreye sahip ancak daha iyi eğitim verileri veya daha verimli bir mimariye sahip bir model, daha büyük bir modelden daha iyi performans gösterebilir.

Nesil Yapay Zekanın Maliyetine İlişkin Beklentilerinizi Karşılayan Bir Temel Modeli Seçmek

Mevcut tüm yapay zeka nesil modelleri kabaca iki türe ayrılabilir.

Kapalı kaynaklı modeller Google, Meta, Microsoft ve OpenAI gibi büyük teknoloji şirketleri tarafından geliştirilmektedir. Kaynak kodları, mimarileri ve uygulama programlama arayüzleri (API'ler) tamamen özel mülkiyette olabilir veya üçüncü tarafların kullanımına sunulabilir (genellikle bir ücret karşılığında, bu da esasen gen yapay zeka çözümünün maliyetidir). Bazı durumlarda verilerinizi kullanarak kapalı kaynak modellerin performansına ince ayar yapabilirsiniz. Bu makalenin amacı doğrultusunda kapalı kaynak modellerden ticari olarak temin edilebilen gen yapay zeka çözümleri olarak bahsedeceğiz. Bu tür modellerin en büyük avantajı bulut altyapısıyla birlikte gelmesi ve bakımının tamamen orijinal geliştirici tarafından yapılmasıdır.
Açık kaynaklı modellerin kaynak kodları, eğitim teknikleri ve hatta bazen eğitim verileri bile halkın kullanımına ve modifikasyonuna açıktır. Şirketiniz bu modelleri "olduğu gibi" kullanabilir veya daha iyi doğruluk ve performans elde etmek için bunları kendi verileri üzerinde yeniden eğitebilir. Ancak modelin çalışabilmesi için şirket içi veya bulut altyapısı kurmanız gerekir. Dolayısıyla bu tür yapay zeka modellerinin maliyeti, bilgi işlem maliyetlerini ve Gen Yapay Zeka çözümünü geliştirmeyi seçerseniz model eğitimiyle ilgili masrafları da içerecektir.

Özetleyelim. Şirketiniz gen yapay zekayı uygulamayı düşünüyorsa bunu yapmanın dört temel yolu vardır.

Özelleştirme olmadan kapalı kaynak modellerinin kullanılması: Yapay Zeka kuşağının öncüleri, OpenAI'nin ChatGPT, Google Bard, Claude ve Synthesia gibi kullanıma hazır ürünlerini API'leri kullanarak uygulamalarına entegre edebilirler. Entegrasyon süreci oldukça basittir ve üretken yapay zeka fiyatlandırması da öyle (bu konuya daha sonra değineceğiz). Ticari olarak satılan ürünler sıklıkla güncellenmekte ve yapay zeka geliştiricileri için kapsamlı belgeler sağlamaktadır. Dezavantajı mı? Kişiselleştirme seçenekleriniz sınırlı olacak ve müşteri desteği sorgularını yönetmek veya görsel içerik üretmek gibi hayati iş görevleri için büyük ölçüde harici bir şirkete bağlı kalacaksınız.
Kurumsal verileriniz üzerinde ticari olarak mevcut çözümleri yeniden eğitmek: Bu senaryoda şirket içi yapay zeka ekibiniz, OpenAI gibi belirli bir satıcı tarafından geliştirilen mevcut bir nesil yapay zeka ürününü seçecek ve kendi verilerinizi kullanarak bu üründe ince ayar yapacaktır. Özelleştirilmiş nesil yapay zeka çözümleri, kullanıcı sorularını daha iyi anlayacak ve daha doğru yanıtlar üretecektir. Ancak satıcı, sorgularınızı çalıştırmak için yine de küçük bir ücret talep edecektir; dolayısıyla son nesil yapay zeka maliyeti, hem operasyonel hem de özelleştirme masraflarından oluşacaktır.
Açık kaynak temel modellerini "olduğu gibi" kullanmak: Abartılı bir şekilde, şirketiniz RoBERTa, GPT-2, GPT-Neo veya başka herhangi bir açık kaynak modelini seçebilir ve bunu daha fazla eğitime gerek kalmadan müşteri e-postalarını yanıtlama gibi iş görevlerine uygulayabilir. Ancak gen yapay zekasının maliyeti, model tarafından tüketilen bilgi işlem kaynaklarına göre belirlenecek. Gen yapay zeka çözümünüz, alışılmadık veriler ve görevlerle karşılaştığında düşük performans gösterebilir.
Verileriniz üzerinde açık kaynaklı modelleri yeniden eğitme: Bu durumda, gen yapay zeka modeli eğitimi için belirli verileri edinip hazırlamanız, model eğitimi ve operasyonları için şirket içi veya bulut sunucuları sağlamanız ve ince ayar ve güncelleme yapmaya devam etmeniz gerekecektir. görevleriniz geliştikçe modeli değiştirin. Bu özel yaklaşım üstün model performansını garanti ederken aynı zamanda daha yüksek nesil yapay zeka maliyetlerini de beraberinde getiriyor.

Artık uygulama seçeneklerinizi bildiğinize göre, bu seçeneklerin gerektirdiği gen yapay zekasının maliyetine yakından bakalım.

Uygulama Senaryosuna Göre Nesil Yapay Zeka Fiyatlandırmasına İlişkin Bilgi

Ticari Olarak Kullanılabilen Nesil Yapay Zeka Araçlarının Maliyeti

Metin işlemeyi ve oluşturmayı kolaylaştıran kullanıma hazır hizmetler, genellikle giriş veya çıkış metnindeki karakter veya belirteç sayısına (yani noktalama işaretlerinden kelimelere ve diğer sözdizimi öğelerine kadar değişebilen temel metin birimleri) göre ücretlendirme yapar. .

Bunun pratikte nasıl işlediğini burada bulabilirsiniz.

Karakter tabanlı faturalandırma: Google'ın Vertex AI tarafından desteklenen gen AI araçları gibi bazı çözümler, kullanıcıları giriş ve çıkış metnindeki karakter sayısına göre faturalandırır. Her harfi, rakamı, boşluğu ve noktalama işaretini bir karakter olarak sayarlar. Örneğin Vertex tarafından desteklenen PaLM 2 for Text modelinin üretken yapay zeka fiyatlandırması, giriş ve çıkış metni için (ayrıca faturalandırılır) 1.000 karakter başına 0,0005 ABD dolarından başlar.
Belirteç tabanlı faturalandırma: Daha gelişmiş nesil yapay zeka araçları, metni karakterler yerine belirteçlere ayırma eğilimindedir. Modelin eğitim ve işleme yöntemlerine bağlı olarak bir simge, bir noktalama işareti, bir sözcük veya bir sözcüğün parçası olabilir. Örneğin OpenAI, bir jetonu yaklaşık dört karakterden oluşan bir grup olarak tanımlar. "Tom Jill'e çiçek getirdi" gibi basit bir cümle. "getirildi" ve "çiçekler" kelimeleri dört karakterlik eşiği biraz aştığı için bu nedenle sekiz jetondan oluşacaktır. Bu tür üretken yapay zeka çözümlerinin maliyeti söz konusu olduğunda, bu büyük ölçüde seçtiğiniz dil modeline bağlıdır. Piyasadaki en gelişmiş araçlardan biri olan OpenAI'nin GPT-4 Turbo'su, giriş metni için 1.000 jeton başına 0,01 ABD Doları ve çıktı metni için 1.000 jeton başına 0,03 ABD Doları ücret alır. Eski sürümü olan GPT-3.5 Turbo için fiyatlar önemli ölçüde daha düşüktür; giriş metni için 1.000 jeton başına 0,001 ABD Doları ile çıktı metni için 1.000 jeton başına 0,002 ABD Doları arasında değişmektedir. Farklı nesil AI sağlayıcılarının farklı karakter ve jeton kavramlarına sahip olduğu unutulmamalıdır. . En uygun maliyetli seçeneği seçmek için belgelerini ve planlarını incelemeli ve hangi ürünün benzersiz iş gereksinimlerinize en uygun olduğunu düşünmelisiniz. Örneğin, görevleriniz analiz yerine metin oluşturma etrafında dönüyorsa, daha düşük çıktı oranlarına sahip üretken bir yapay zeka hizmeti daha uygun olacaktır.

Bu arada, görsel içerik oluşturmaya yönelik Nesil Yapay Zeka hizmetleri, kullanıcılardan oluşturulan görüntü başına ücret alma eğilimindedir; ücretler görüntü boyutuna ve kalitesine bağlıdır. DALL·E 3 tarafından standart kalitede üretilen 1024 x 1024 piksellik tek bir görüntünün maliyeti 0,04 ABD dolarıdır. Daha büyük görseller (1024×1792 piksel) ve yüksek çözünürlüklü görseller için fiyat, adet başına 0,08-0,12 dolara kadar çıkabilir.

Fiyatlandırma konusunda daha geleneksel bir yaklaşım benimseyen Synthesia.io gibi anahtar teslimi yapay zeka platformlarını da unutmayın. Pazarlama ekibiniz video oluşturma sürecini hızlandırmak istiyorsa, aracı yılda 804 $ gibi düşük bir ücret karşılığında deneyebilirsiniz.

Ticari Olarak Mevcut Nesil Yapay Zeka Ürünlerini Özelleştirmenin Maliyeti

Önceki bölümde görebileceğiniz gibi, hazır Nesil Yapay Zeka ürünlerinin çoğunluğu kullandıkça öde para kazanma stratejisinden yararlanıyor.

Fiyatlandırma modelleri ilk bakışta oldukça basit görünse de, özellikle çeşitli departmanlarda birden fazla gen yapay zeka kullanım senaryosunu keşfetmeye çalışıyorsanız, çalışanlarınızın kaç sorgu çalıştıracağını tahmin etmek zor olabilir.

Bu durum, bulut bilişimin ilk günlerinde olduğu gibi, gen yapay zeka araçlarının fiyatlandırması ve toplam sahip olma maliyeti konusunda kafa karışıklığına neden oluyor.

Ticari gen yapay zeka çözümlerini kullanmanın bir diğer dezavantajı ise ChatGPT gibi genel amaçlı ürünlerin, şirketinizin yapısına, ürünlerine ve hizmetlerine aşinalık gibi bağlamsal bilgilerin eksikliğidir. Bu, istem mühendisliğinde uzmanlaşsanız bile müşteri desteği ve rapor oluşturma gibi operasyonları yapay zeka yetenekleriyle güçlendirmeyi zorlaştırır.

McKinsey Kıdemli Ortağı Eric Lamarre'ye göre bu sorunu çözmek için kuruluşların "model tarafından tüketilebilecek bir veri ortamı yaratması gerekiyor." Başka bir deyişle, ticari olarak mevcut yapay zeka araçlarını kurumsal verileriniz ve API'ler aracılığıyla harici kaynaklardan alınan bilgiler üzerinde yeniden eğitmeniz gerekecek.

Hedefe ulaşmanın iki yolu vardır ve her senaryoda üretken yapay zekanın maliyetini etkileyecek çeşitli faktörler vardır.

Hizmet Olarak Yazılım (SaaS) Platformlarını Nesil Yapay Zeka Yetenekleriyle Kullanma

SAP, TIBCO Spotfire ve Salesforce dahil olmak üzere birçok önde gelen SaaS satıcısı, müşteri verileri kullanılarak ince ayar yapılabilecek üretken yapay zeka hizmetlerini kullanıma sunuyor. Örneğin Salesforce, müşteri sorularına kişiselleştirilmiş yanıtlar oluşturmak için Salesforce Veri Bulutu'ndan özel verileri çeken, etkileşimli bir yapay zeka asistanı olan Einstein Copilot'u piyasaya sürdü. Akıllı asistanın kullandığı bilgiler arasında Slack konuşmaları, telemetri, kurumsal içerik ve diğer yapılandırılmış ve yapılandırılmamış veriler yer alıyor.

Salesforce müşterileri ayrıca Einstein Copilot Studio'nun kodsuz Prompt Builder ve Model Builder araçlarını kullanarak özel yapay zeka modelleri, becerileri ve istemleri oluşturabilir. Şu an itibariyle, ikinci araç OpenAI'nin büyük dil modellerini (LLM'ler) destekliyor ancak ürünü Amazon Bedrock ve Vertex AI dahil diğer üçüncü taraf çözümlerle entegre etme planları var. Einstein Copilot hala pilot aşamasında olduğundan (kelime oyunu değil), üretken yapay zeka fiyatlandırma bilgileri henüz açıklanmadı. Ancak üretken AI Satış GPT asistanının şu anda kullanıcı başına aylık toplam 50 ABD doları tutarındaki maliyeti, size ne bekleyeceğiniz konusunda genel bir fikir verebilir.

Kurumsal Yazılımınızı API'ler Üzerinden Nesil Yapay Zeka Çözümleriyle Entegre Etme ve Verileriniz Üzerindeki Yeniden Eğitim Modelleri

Gen yapay zeka uygulamasının maliyetini azaltmak için, uygulamalarınızı doğrudan API düzeyinde ticari gen yapay zeka çözümleriyle birleştirerek aracı SaaS araçlarını ortadan kaldırabilirsiniz. Örneğin, müşteri desteği sohbet robotunuzu yapay zeka yetenekleriyle güçlendirmek istiyorsanız, OpenAI API'yi kullanarak onu OpenAI modellerinden biriyle (örneğin, GPT-3.5 veya GPT-4) senkronize edebilirsiniz. Daha sonra, verilerinizi makine öğrenimi için hazırlamanız, verileri OpenAI'ye yüklemeniz ve OpenAI CLI aracını ve Open AI Python Kitaplığını kullanarak ince ayar sürecini yönetmeniz gerekir. Modelin ince ayarını yaparken sizden 1.000 jeton (GPT-3.5) başına 0,008 ABD doları ücret alınacaktır. Modeliniz üretime girdiğinde girdi ve çıktı oranları sırasıyla 1.000 token başına 0,003 ABD Doları ve bin token başına 0,006 ABD Doları olacaktır. Verilerinizi OpenAI sunucularında barındırmayı seçmeniz koşuluyla, yapay zeka geninin genel maliyeti depolama maliyetlerini de içerecektir. Veri depolama giderleri, nihai tahmine günde 1 GB veri başına 0,2 ABD doları ekleyebilir. Veri hazırlama ve modelde ince ayar yapma çabalarını da unutmayın. BT departmanınız gerekli becerilere sahip olmadığı sürece güvenilir bir yapay zeka geliştirme hizmetleri şirketiyle ortaklık yapmanız gerekecektir.

Açık Kaynaklı Nesil Yapay Zeka Modellerini “Olduğu Gibi” Kullanmanın Maliyeti

Yasal Uyarı: Sıfırdan ChatGPT'ye benzer özel bir temel modeli oluşturmanızı önermiyoruz; bu, 540 milyon dolarlık kayıplarını telafi etmek için OpenAI'nin Microsoft desteği gibi önemli desteğe sahip olanlara bırakılması en iyi girişimdir.

GPT-3 gibi daha temel temel modeller bile başlangıç eğitim ve dağıtım maliyetlerini 4 milyon doları aşabilir. Üstelik bu temel modellerinin karmaşıklığı son yıllarda şaşırtıcı bir oranda arttı.

ITRex: Özel

Büyük yapay zeka modellerini eğitmek için gereken bilgi işlem kaynaklarının miktarı her 3,5 ayda bir ikiye katlanıyor. Temel modellerin karmaşıklığı da değişiyor. Örneğin 2016 yılında Bert-Large 340 milyon parametreyle eğitildi. Karşılaştırıldığında, OpenAI'nin GPT-3 modeli yaklaşık 175 milyar parametreyle eğitildi.

İyi haber şu ki temel modeller zaten mevcut ve bu da işletmelerin bir yandan yapay zeka uygulama maliyetlerini optimize ederken bir yandan da bunları denemeye başlamasını nispeten kolaylaştırıyor. Temel modellere, karmaşık sorunları çözmek için bir başlangıç noktası sağlarken aynı zamanda özelleştirmeye de yer bırakmaları nedeniyle, yapay zeka yazılım mühendisleri için bir araç seti olarak bakabiliriz.

ITRex: Özel

Mevcut temel modellerini kabaca üç kategoriye ayırabiliriz.

Dil modelleri metin çevirisi, oluşturma ve soru yanıtlama görevlerini yerine getirmek üzere tasarlanmıştır
Bilgisayarla görme modelleri görüntü sınıflandırma, nesne algılama ve yüz tanıma konularında üstündür
Üçüncü kategori olan üretken yapay zeka modelleri, bir modelin tükettiği verilere benzeyen içerik oluşturur. Bu içerik yeni görseller, simülasyonlar veya bazı durumlarda metinsel bilgiler içerebilir.

İhtiyaçlarınıza en uygun açık kaynak modelini seçtikten sonra bunu API'leri kullanarak yazılımınıza entegre edebilir ve kendi sunucu altyapınızı kullanabilirsiniz.

Bu yaklaşım aşağıdaki üretken yapay zeka maliyetlerini içerir.

Donanım maliyetleri: Yapay zeka modellerini, özellikle de büyük olanları çalıştırmak, önemli miktarda hesaplama kaynağı gerektirir. Şirketinizde uygun donanım yoksa güçlü GPU'lara veya CPU'lara yatırım yapmanız gerekebilir ve bu da pahalı olabilir. Modeliniz nispeten küçükse NVIDIA RTX 3080 veya benzeri gibi üst düzey bir GPU yeterli olabilir. Böyle bir GPU'nun maliyeti 700 ila 1.500 dolar arasında değişebilir. GPT-2 veya benzeri büyük modeller için birden fazla üst düzey GPU'ya ve hatta özel yapay zeka hızlandırıcılara ihtiyacınız var. Örneğin tek bir NVIDIA A100 GPU'nun maliyeti 10.000 ila 20.000 ABD Doları arasında olabilir. Bu nedenle, birden fazla GPU içeren bir kurulumun maliyeti 30.000 ila 50.000 ABD Doları arasında olabilir.
Bulut bilişim maliyetleri: Donanım satın almaya alternatif olarak bulut bilişim kaynaklarını Amazon Web Services (AWS), Google Cloud Platform (GCP) veya Microsoft Azure gibi sağlayıcılardan kiralayabilirsiniz. Bu hizmetler kullanıma göre ücretlendirilir; dolayısıyla maliyetler, bilgi işlem süresi ve depolama açısından kaynaklarını ne kadar kullandığınıza bağlı olacaktır. Örneğin, AWS'deki GPU bulut sunucularının (P3 veya P4 gibi) maliyeti, bulut sunucusu türüne bağlı olarak saat başına 3 ila 24 ABD doları arasında olabilir.
Elektrik ve bakım: Kendi donanımınızı kullanırsanız, makinelerin ve muhtemelen ek soğutma sistemlerinin çalıştırılması için elektrik maliyetlerine maruz kalırsınız. Donanımın bakım maliyetleri de artabilir.
Entegrasyon ve dağıtım: Yapay zeka modelini mevcut sistemlerinize entegre etmek ve (özellikle üretim ortamında) dağıtmak, ek yazılım geliştirme çabaları gerektirebilir ve bu da işçilik maliyetlerine neden olabilir. Yapay zeka geliştirmeyi bir yazılım geliştirme şirketine dış kaynak olarak sağlamanın maliyeti saatte 50 ila 200 dolar arasında değişebilir; toplam giderler ise birkaç bin ila onbinlerce dolar arasında değişebilir.
Veri depolama ve yönetimi: Model tarafından kullanılan verilerin depolanması ve yönetilmesi, özellikle büyük veri kümeleriyle uğraşırken veya bulut depolama çözümleri kullanırken maliyetli olabilir. Yerinde kurulumlar için, üretken yapay zeka verilerini depolamanın maliyeti, eğitim veri kümesinin boyutuna ve yedeklilik ihtiyaçlarına bağlı olarak 1.000 ila 10.000 ABD Doları arasında değişebilir. AWS S3 gibi bulut tabanlı veri depolama çözümlerinin ücretleri, operasyonlar ve veri aktarımı için ekstra maliyetlerle birlikte GB başına aylık 0,021 ABD Doları ile 0,023 ABD Doları arasında değişebilir.

Sonuç olarak, üretken bir yapay zeka temel modelini "olduğu gibi" benimsemenin ve bunu kendi altyapınızda devreye almanın şirketinize maliyeti ne kadar olabilir? Üretken yapay zeka maliyetleri aşağıdakileri kapsayabilir.

Donanım: 20.000 ABD Doları – 50.000 ABD Doları (birkaç üst düzey GPU veya temel çoklu GPU kurulumu için)
Elektrik ve bakım: Yılda yaklaşık 2.000 ila 5.000 ABD Doları
Entegrasyon ve dağıtım: 10.000 ABD Doları – 30.000 ABD Doları (orta düzeyde entegrasyon karmaşıklığı varsayılarak)
Veri depolama ve yönetimi: 5.000 ABD Doları – 15.000 ABD Doları (veri boyutuna göre değişir)

Üretken bir yapay zeka çözümü kurmanın ve çalıştırmanın toplam maliyeti aşağıdakileri içerecektir.

İlk dağıtım giderleri: Yaklaşık 37.000 ila 100.000 ABD Doları (donanım + ilk entegrasyon ve depolama kurulumu)
Tekrarlanan giderler: 7.000 ila 20.000 ABD Doları (elektrik, bakım, devam eden entegrasyon ve veri yönetimi maliyetleri dahil)

Bu basketbol sahası tahminleri, belirli gereksinimlere, konuma ve pazar koşullarına göre önemli ölçüde değişiklik gösterebilir. Daha kişisel ve doğru bir tahmin için bir uzmana danışmak her zaman en iyisidir. Ayrıca, en güncel fiyatlar için donanım ve bulut hizmetlerine yönelik mevcut piyasa oranlarını kontrol etmek iyi bir fikirdir.

Verilerinizi Kullanarak Açık Kaynaklı Nesil Yapay Zeka Çözümlerini Yeniden Eğitimin Maliyeti

Şirketiniz açık kaynaklı bir temel modelini ayarlamayı düşünüyorsa üretken yapay zeka uygulama maliyetini etkileyebilecek faktörleri dikkate almak önemlidir.

Bu faktörler aşağıdakileri kapsar.

Model boyutu: GPT-3 gibi daha büyük modeller, ince ayar ve dağıtım için daha fazla kaynak gerektirir. Sonuç olarak, üretken yapay zekanın maliyeti, modelin boyutu ve karmaşıklığı arttıkça artar. Bu arada GPT-2, XLNet ve StyleGAN2 gibi daha basit açık kaynak temel modelleri aynı düzeyde tutarlılık ve alaka düzeyine sahip içerik üretemez.
Hesaplamalı kaynaklar: Şirketinizin verilerini kullanarak bir temel modeli yeniden eğitmek, önemli düzeyde bilgi işlem gücü gerektirir. Dolayısıyla bir gen yapay zeka çözümünün maliyeti, kendi donanımınızı mı yoksa bulut hizmetlerinizi mi kullandığınıza bağlıdır; ikincisinin fiyatı ise bulut sağlayıcısına ve operasyonlarınızın ölçeğine göre değişir. Daha basit bir modeli seçip şirket içinde dağıtırsanız, üretken yapay zeka çözümüne ince ayar yapmak için GPU maliyetlerinde 10.000-30.000 ABD doları harcamanız beklenir. Bulut bilişimde, bulut sunucusu türüne bağlı olarak masraflar saat başına 1 ila 10 ABD Doları arasında değişebilir. GPT-3 benzeri açık kaynaklı modeller, 50.000 ila 100.000 ABD Doları arasında daha gelişmiş bir GPU kurulumu gerektirir. İlgili bulut bilişim giderleri, ileri teknoloji GPU örnekleri için saat başına 10 ila 24 ABD Doları arasında değişebilir.
Veri hazırlama: Temel modellerde ince ayar yapmak için verilerinizi toplama, temizleme ve hazırlama süreci kaynak açısından yoğun olabilir. Bu nedenle, üretken yapay zeka uygulamasının maliyeti, şirketinizde kendi verileriniz yoksa veya güvenlik ve gizlilik nedenleriyle bunları kullanamıyorsa, veri depolama, işleme ve muhtemelen eğitim veri kümelerinin satın alınmasıyla ilgili masrafları içerecektir.
Geliştirme süresi ve uzmanlık: Yapay zeka yeteneği ucuza gelmiyor. ABD merkezli bir şirket içi yapay zeka mühendisinin, şirketinize yıllık 70.000 ila 200.000 ABD Doları, artı işe alım, maaş bordrosu, sosyal güvenlik ve diğer idari giderlere maliyeti olacaktır. Yapay zeka geliştirme uzmanlığına sahip bir offshore yazılım mühendisliği şirketiyle ortaklık kurarak üretken yapay zeka maliyetlerini azaltabilirsiniz. Konuma bağlı olarak, bu tür şirketlerin Orta Avrupa ve Latin Amerika gibi önemli dış kaynak kullanım yerlerindeki üst düzey geliştirme yetenekleri için saatlik ücretleri 62 ila 95 ABD Doları arasında değişebilmektedir.
Bakım maliyetleri: Sürekli çaba ve makine öğrenimi mühendisliği ve operasyon (MLOps) uzmanlığı gerektiren modelin bakımı, güncellenmesi ve sorun gidermesinden yalnızca siz sorumlu olacaksınız.

Yukarıda belirtilen faktörler göz önüne alındığında, hazır bir temel modele dayalı özelleştirilmiş bir üretken yapay zeka çözümü oluşturmanın gerçekçi maliyeti nedir? GPT-2 gibi orta büyüklükte bir modele ince ayar yapmak isteyen orta ölçekli bir kuruluş için ilgili üretken yapay zeka uygulama maliyetleri aşağıdakileri kapsayabilir.

Donanım: 20.000-30.000 ABD Doları (orta düzey bir GPU kurulumu için)
Geliştirme: Kurum içi ve dışarıdan sağlanan yeteneklerin karışımıyla 6 aylık bir geliştirme süresi varsayıldığında:

Şirket içi: 35.000 ABD Doları – 100.000 ABD Doları (yarı yıllık maaş)

Dış kaynak kullanımı: 20.000 ABD Doları – 40.000 ABD Doları (ortalama 75 ABD Doları/saat oranında 400 saat varsayılmaktadır)

Veri hazırlama: 5.000 ABD Doları – 20.000 ABD Doları (veri boyutuna ve karmaşıklığına göre değişir)
Bakım: Yıllık 5.000-15.000 ABD Doları (devam eden giderler)

Üretken bir yapay zeka çözümü kurmanın ve çalıştırmanın toplam maliyeti aşağıdakileri içerecektir.

İlk dağıtım giderleri: Yaklaşık 80.000 ila 190.000 ABD Doları (donanım, geliştirme ve veri hazırlama maliyetleri dahil)
Tekrarlanan giderler: 5.000 ila 15.000 ABD Doları (bakım ve devam eden maliyetler)

Gerçek Nesil Yapay Zeka geliştirme ve uygulama maliyetleri, belirli proje gereksinimlerine, eğitim verilerinin ve şirket içi yapay zeka yeteneğinin kullanılabilirliğine ve dış kaynak ortağınızın konumuna bağlı olarak değişiklik gösterebilir. En doğru ve güncel fiyatlandırma için doğrudan profesyonellere veya hizmet sağlayıcılara danışmanız tavsiye edilir.

Bir gen yapay zeka sistemi için 190.000 dolar makul olmayan bir şekilde pahalı görünse de, açık kaynaklı temel modelleri kullanarak bir gen yapay zeka çözümü oluşturmanın maliyeti, ticari olarak temin edilebilen bir aracı tercih etmekten daha düşük olabilir.

ChatGPT dikkat çekmeden önce, AI Dungeon adlı yapay zeka tabanlı macera oyunundan sorumlu öncü girişim Latitude, metin oluşturmak için OpenAI'nin GPT modelini kullanıyordu.

Kullanıcı tabanları büyüdükçe OpenAI'nin faturaları ve Amazon altyapı giderleri de arttı. Bir noktada şirket, artan kullanıcı sorgularının üstesinden gelmek için ilgili maliyetler olarak ayda 200.000 ABD doları ödüyordu.

Yeni bir üretken yapay zeka sağlayıcısına geçtikten sonra şirket, işletme maliyetlerini ayda 100.000 ABD dolarına düşürdü ve para kazanma stratejisini ayarlayarak gelişmiş yapay zeka destekli özellikler için aylık bir abonelik başlattı.

Üretken yapay zeka fiyatlandırmasını optimize ederken doğru uygulama yaklaşımını seçmek için proje gereksinimlerinizi önceden kapsamlı bir şekilde analiz etmek önemlidir. İşte bu nedenle müşterilerimizi her zaman yapay zeka geliştirme girişimlerini bir keşif aşamasıyla başlatmaya teşvik ediyoruz.

İş Dünyasında Nesil Yapay Zekayı Uygularken Dikkat Edilmesi Gerekenler

Artık üretken yapay zekadan maliyet açısından ne bekleyeceğinizi bildiğinize göre, teknolojinin uygulanmasındaki tuzaklar ve dikkat edilmesi gereken noktalar hakkında konuşmanın zamanı geldi.

Temel modeller, özellikle de büyük dil modelleri, halüsinasyona neden olabilir ve kullanıcı sorularına görünüşte meşru ancak tamamen yanlış yanıtlar üretebilir. Şirketiniz, eğitim verilerini iyileştirerek, farklı model mimarileri deneyerek ve etkili kullanıcı geri bildirim döngüleri sunarak bu senaryonun önüne geçebilir.
Nesil yapay zeka çözümleri, hızla geçerliliğini yitiren büyük miktarda veri kullanılarak eğitilir. Sonuç olarak modelinizi düzenli olarak yeniden eğitmeniz gerekecek ve bu da üretken yapay zeka uygulamasının maliyetini artıracaktır.
Elektronik sağlık kaydı (EHR) girişleri gibi belirli veriler üzerinde eğitilen temel modeller, kendi acil uzmanlıklarının dışında geçerli içerik üretmede zorluk yaşayabilir. Genel amaçlı modeller ise alana özgü kullanıcı sorgularıyla mücadele ediyor. Bu sorunu çözmenin bazı yolları arasında hibrit modeller oluşturmak, transfer öğrenme tekniklerinden yararlanmak ve kullanıcı geri bildirimleri yoluyla modellere ince ayar yapmak yer alıyor.
Nesil yapay zeka çözümleri doğası gereği kara kutudur; yani neden belirli sonuçları ürettikleri ve doğruluklarının nasıl değerlendirileceği nadiren açıktır. Bu anlayış eksikliği, geliştiricilerin modellerde ince ayar yapmasını engelleyebilir. Model yorumlanabilirlik tekniklerini, dikkat mekanizmalarını ve denetim izlerini tanıtmak gibi genel yapay zeka modeli eğitimi sırasında açıklanabilir yapay zeka ilkelerini takip ederek, modelin karar verme süreci hakkında bilgi edinebilir ve performansını optimize edebilirsiniz.

Ayrıca, üretken yapay zeka uygulamasına başlamadan önce şirketinizin yanıtlaması gereken birkaç soru vardır.

Şirketinizin, teknolojinin satıcıya bağlılığı önleyerek farklılaştırıcı olacağı işlevlerde yalnızca gen yapay zekayı benimsediğini doğrulamak için sağlam bir satın alma ve oluşturma stratejisi var mı? Bu strateji, değişiklik yönetimi ve genel yapay zeka ölçeklendirmesi için ayrıntılı bir yol haritasıyla ve ihtiyaç duyulması halinde tüm iş süreçlerinin yeniden tasarlanmasına yönelik hükümlerle güçlendirilmelidir.
Şirket içi BT departmanınız, karmaşık makine öğrenimi modellerinin ve bunların eğitim verilerinin kalitesini test etmek, ince ayar yapmak ve sürdürmek için yeterli MLOps becerilerine sahip mi? Değilse, bu görevleri yerine getirmesi için zaten güvenilir bir yapay zeka geliştirme şirketi seçtiniz mi?
Hem bulutta hem de uçta önemli miktarda bilgi işlem kaynağınız var mı? Ayrıca, BT altyapınızın ölçeklenebilirliğinin yanı sıra Gen AI modellerini farklı görevler, süreçler ve birimlerde yeniden kullanma olasılığını değerlendirmek de önemlidir.
Şirketiniz veya yapay zeka geliştirme ortağınız, konsept kanıtı (PoC) aracılığıyla yapay zeka genlerinin fizibilitesini test etme ve deneylerinizi kontrollü sanal alan ortamının dışına ölçeklendirme becerisine sahip mi?
Son olarak, kuruluşunuz hassas bilgileri korumak ve sektöre ve bölgeye özgü düzenlemelere uyumu sağlamak için etkili gizlilik ve güvenlik mekanizmalarına sahip mi?

İyi düşünülmüş bir uygulama planına sahip olmak, yalnızca teknolojiyi risksiz bir şekilde benimsemenize ve avantajlardan daha hızlı yararlanmanıza yardımcı olmakla kalmayacak, aynı zamanda gen yapay zekanın maliyetini de azaltacaktır.

Gen yapay zekanın iş süreçlerini yenilemenize, doğru nesil yapay zeka uygulama yaklaşımını seçmenize ve gen yapay zeka maliyetlerini optimize etmenize yardımcı olup olmayacağını anlamak için ITRex gen yapay zeka danışmanlık hizmetlerinden yararlanın. Topu yuvarlamak için bize yazın!

Bu makale orijinal olarak ITRex web sitesinde yayınlanmıştır.