Valutazione del costo dell'intelligenza artificiale generativa per un'implementazione efficace nella tua organizzazione

Pubblicato: 2024-01-23

Alcuni punti chiave sui costi di implementazione dell’intelligenza artificiale generativa (AI).

Il costo di implementazione dell’intelligenza artificiale generativa negli affari può variare da poche centinaia di dollari al mese a 190.000 dollari (e oltre) per una soluzione di intelligenza artificiale generativa su misura basata su un modello open source ottimizzato.
Questa differenza di costo dell'IA generativa è determinata da diversi fattori, tra cui le attività che desideri migliorare, il modello che meglio si adatta a tali attività e l'approccio di implementazione selezionato.
Per ottimizzare le spese associate, è necessario considerare attentamente i requisiti del progetto, valutare le spese per l'infrastruttura locale e cloud e scegliere tra l'assunzione di talenti IA interni e l'outsourcing del progetto a terze parti.

Ti abbiamo già detto in che modo l'IA generativa (gen AI) si confronta con l'IA tradizionale. Abbiamo anche delineato i pro e i contro della tecnologia. Il team di consulenza sull'intelligenza artificiale generativa di ITRex ha inoltre approfondito i casi d'uso dell'intelligenza artificiale in diversi settori, tra cui sanità, vendita al dettaglio e catene di fornitura.

Inoltre, abbiamo valutato il costo della creazione di sistemi e infrastrutture di intelligenza artificiale e abbiamo approfondito i costi del machine learning (ML), calcolando le spese associate alla preparazione dei dati di addestramento, alla messa a punto dei modelli e all'implementazione di soluzioni basate sul ML.

Ora è il momento di decifrare il costo dell'implementazione dell'intelligenza artificiale nel mondo degli affari. Questa analisi può essere impegnativa, poiché le specifiche del tuo progetto ci sono ancora sconosciute. Tuttavia, possiamo sfruttare la nostra esperienza di consulenza sulla gen AI per esplorare i prezzi dei servizi ed enumerare i fattori chiave alla base dei costi del progetto gen AI. In questo modo, ti forniremo le conoscenze necessarie per prendere decisioni informate, facendo potenzialmente risparmiare alla tua azienda tempo e risorse considerevoli in questo panorama tecnologico in rapida evoluzione.

Interessato? Immergiamoci allora!

Fattori che influiscono sul costo dell'intelligenza artificiale di generazione: la scelta di un modello e un approccio di implementazione

Quando si pensa di incorporare l'intelligenza artificiale nello stack tecnologico della propria azienda, è fondamentale considerare quanto segue:

Quali attività aziendali migliorerai con l’intelligenza artificiale generativa?
Quale modello sarebbe sufficiente per questi compiti?

Al centro delle soluzioni di intelligenza artificiale generativa si trovano i modelli di base, ovvero modelli di grandi dimensioni addestrati su enormi quantità di dati. In sostanza, i modelli di base servono come base per creare soluzioni di intelligenza artificiale su misura, semplificare il processo di sviluppo e ridurre i costi dell’intelligenza artificiale. Le loro capacità includono tipicamente l'elaborazione del linguaggio naturale (PNL), la visione artificiale (CV) e la generazione di contenuti.

Le capacità cognitive dei modelli di fondazione dipendono in gran parte dal numero di parametri su cui sono stati addestrati. In questo contesto, i parametri si riferiscono agli elementi del modello appresi dai dati di addestramento, come i pesi in una rete neurale. Questi parametri aiutano il modello a prendere decisioni e previsioni. La tabella seguente illustra la correlazione tra il numero di parametri – essenzialmente, il volume di questi elementi decisionali – e le capacità cognitive del modello.

Il numero di parametri, tuttavia, non è l’unico fattore che influenza le capacità dei modelli di fondazione. La qualità e la diversità dei dati di addestramento sono altrettanto importanti. I dati di addestramento sono le informazioni inserite nel modello, da cui apprende. Tali dati comprendono un’ampia gamma di esempi che aiutano il modello a comprendere e interpretare nuovi dati. Inoltre, l’architettura del modello – ovvero la progettazione strutturale di come i parametri e i dati interagiscono – e l’efficienza degli algoritmi di apprendimento, che determinano l’efficacia con cui il modello apprende dai dati, svolgono un ruolo fondamentale. Di conseguenza, in alcune attività, un modello con meno parametri ma dati di addestramento migliori o un'architettura più efficiente può sovraperformare un modello più grande.

Selezione di un modello di base che soddisfi le tue aspettative riguardo al costo dell'intelligenza artificiale di generazione

Tutti i modelli di intelligenza artificiale della generazione esistente possono essere liberamente classificati in due tipi.

I modelli di provenienza chiusa sono sviluppati da grandi aziende tecnologiche, come Google, Meta, Microsoft e OpenAI. Il loro codice sorgente, l'architettura e le interfacce di programmazione delle applicazioni (API) possono essere completamente proprietari o resi disponibili a terze parti (di solito a pagamento, che è essenzialmente il costo della soluzione AI gen). In alcuni casi, puoi ottimizzare le prestazioni dei modelli closed source utilizzando i tuoi dati. Ai fini di questo articolo, faremo riferimento ai modelli closed source come soluzioni di intelligenza artificiale di generazione disponibile in commercio. Il vantaggio principale di tali modelli è che sono dotati di un'infrastruttura cloud e sono completamente gestiti dallo sviluppatore originale.
I modelli open source hanno il loro codice sorgente, le tecniche di addestramento e talvolta anche i dati di addestramento disponibili per l'uso e la modifica pubblici. La tua azienda può utilizzare tali modelli "così come sono" o riqualificarli sui propri dati per ottenere precisione e prestazioni migliori. Tuttavia, dovrai configurare un'infrastruttura locale o cloud su cui eseguire il modello. Il costo di tali modelli Gen AI includerà quindi i costi di elaborazione e, se si sceglie di migliorare la soluzione Gen AI, le spese associate alla formazione del modello.

Riassumiamo. Se la tua azienda sta valutando l’implementazione dell’intelligenza artificiale, ci sono quattro modi principali per farlo.

Utilizzo di modelli closed source senza personalizzazione: i pionieri della generazione AI possono integrare prodotti standard come ChatGPT di OpenAI, Google Bard, Claude e Synthesia con le loro applicazioni utilizzando le API. Il processo di integrazione è abbastanza semplice, così come lo è il prezzo dell’IA generativa (ne parleremo più avanti). I prodotti disponibili in commercio vengono aggiornati frequentemente e forniscono un'ampia documentazione per gli sviluppatori di intelligenza artificiale. Lo svantaggio? Le tue opzioni di personalizzazione saranno limitate e dipenderai fortemente da un'azienda esterna per attività aziendali vitali, come la gestione delle richieste di assistenza clienti o la produzione di contenuti visivi.
Riqualificazione delle soluzioni disponibili in commercio sui dati aziendali: in questo scenario, il tuo team di intelligenza artificiale interno selezionerà un prodotto di intelligenza artificiale esistente sviluppato da un fornitore specifico, come OpenAI, e lo ottimizzerà utilizzando i tuoi dati. Le soluzioni di intelligenza artificiale personalizzate comprenderanno meglio le domande degli utenti e forniranno risposte più accurate. Tuttavia, il fornitore addebiterà comunque una piccola tariffa per l'esecuzione delle query, quindi il costo dell'IA di ultima generazione comprenderà sia le spese operative che quelle di personalizzazione.
Utilizzo di modelli di base open source “così come sono”: esagerando, la tua azienda potrebbe scegliere RoBERTa, GPT-2, GPT-Neo o qualsiasi altro modello open source e applicarlo ad attività aziendali come rispondere alle e-mail dei clienti senza ulteriore formazione. Tuttavia, il costo dell’intelligenza artificiale sarà determinato dalle risorse informatiche consumate dal modello. La tua soluzione Gen AI potrebbe non funzionare bene di fronte a dati e attività non familiari.
Riqualificazione dei modelli open source sui tuoi dati: in questo caso, dovrai ottenere e preparare dati specifici per l'addestramento del modello gen AI, fornire server on-premise o cloud per l'addestramento e le operazioni del modello e continuare a perfezionare e aggiornare il modello man mano che le tue attività si evolvono. Sebbene questo approccio su misura garantisca prestazioni del modello superiori, comporta anche costi di intelligenza artificiale di generazione più elevati.

Ora che conosci le opzioni di implementazione, concentriamoci sul costo dell'intelligenza artificiale generata da queste opzioni.

Approfondimento sui prezzi della Gen AI in base allo scenario di implementazione

Il costo degli strumenti di intelligenza artificiale di generazione disponibili in commercio

I servizi standard che facilitano l'elaborazione e la generazione di testo in genere addebitano alle aziende il costo in base al numero di caratteri o token (ovvero, unità di testo di base, che possono variare dai segni di punteggiatura alle parole e altri elementi di sintassi) nel testo di input o di output .

Ecco come funziona in pratica.

Fatturazione basata sui caratteri: alcune soluzioni, come gli strumenti gen AI guidati da Vertex AI di Google, fatturano agli utenti in base al numero di caratteri nel testo di input e di output. Contano ogni lettera, numero, spazio e segno di punteggiatura come un carattere. Il prezzo dell'IA generativa per il modello PaLM 2 for Text supportato da Vertex, ad esempio, parte da $ 0,0005 per 1.000 caratteri per il testo di input e output (fatturati separatamente).
Fatturazione basata su token: gli strumenti di intelligenza artificiale più avanzati tendono a scomporre il testo in token anziché in caratteri. A seconda dei metodi di training ed elaborazione di un modello, un token può essere un segno di punteggiatura, una parola o parte di una parola. Ad esempio, OpenAI definisce un token come un gruppo di circa quattro caratteri. Una frase semplice come "Tom ha portato dei fiori a Jill". sarebbe quindi composto da otto token, poiché le parole “portato” e “fiori” superano leggermente la soglia di quattro caratteri. Il costo di tali soluzioni di intelligenza artificiale generativa dipende in gran parte dal modello linguistico scelto. GPT-4 Turbo di OpenAI, uno degli strumenti più sofisticati sul mercato, addebita $ 0,01 per 1.000 token per il testo di input e $ 0,03 per 1.000 token per il testo di output. Per GPT-3.5 Turbo, la sua versione precedente, i prezzi sono significativamente più bassi, variando da $ 0,001 per 1.000 token per il testo di input a $ 0,002 per 1.000 token per il testo di output. Va notato che diversi fornitori di intelligenza artificiale di generazione hanno nozioni diverse di caratteri e token . Per selezionare l'opzione più conveniente, dovresti studiare la documentazione e i piani e considerare quale prodotto si adatta meglio alle tue esigenze aziendali specifiche. Ad esempio, se le tue attività ruotano attorno alla generazione di testo piuttosto che all’analisi, un servizio di intelligenza artificiale generativa con tassi di output inferiori sarà più adatto.

I servizi Gen AI per la creazione di contenuti visivi, nel frattempo, tendono a far pagare agli utenti l’immagine generata, con tariffe legate alla dimensione e alla qualità dell’immagine. Una singola immagine da 1024 x 1024 pixel prodotta da DALL·E 3 in qualità standard ti costerebbe $ 0,04. Per le immagini più grandi (1024×1792 pixel), così come per le immagini ad alta definizione, il prezzo potrebbe arrivare fino a $ 0,08–0,12 al pezzo.

E non dimenticare le piattaforme di intelligenza artificiale chiavi in mano, come Synthesia.io, che adottano un approccio più tradizionale ai prezzi. Se il tuo team di marketing sta cercando di accelerare il processo di creazione del video, puoi provare lo strumento per soli $ 804 all'anno.

Il costo della personalizzazione dei prodotti Gen AI disponibili in commercio

Come puoi vedere dalla sezione precedente, la maggior parte dei prodotti Gen AI già pronti sfruttano la strategia di monetizzazione pay-as-you-go.

Anche se a prima vista i loro modelli di prezzo sembrano abbastanza semplici, potrebbe essere difficile prevedere quante query verranno eseguite dai tuoi dipendenti, soprattutto se cerchi di esplorare più casi d’uso dell’IA di generazione in vari dipartimenti.

Ciò crea confusione riguardo ai prezzi degli strumenti di intelligenza artificiale e al costo totale di proprietà, come avveniva agli albori del cloud computing.

Un altro svantaggio dell'utilizzo di soluzioni di intelligenza artificiale di generazione commerciale è che i prodotti generici come ChatGPT mancano di conoscenza contestuale, come la familiarità con la struttura, i prodotti e i servizi dell'azienda. Ciò rende difficile potenziare operazioni come l'assistenza clienti e la generazione di report con funzionalità di intelligenza artificiale, anche se si padroneggia il prompt engineering.

Secondo Eric Lamarre, Senior Partner di McKinsey, per risolvere questo problema, le organizzazioni “devono creare un ambiente dati che possa essere utilizzato dal modello”. In altre parole, dovrai riqualificare gli strumenti di intelligenza artificiale disponibili in commercio sui tuoi dati aziendali, nonché sulle informazioni estratte da fonti esterne tramite API.

Esistono due modi per raggiungere l’obiettivo e diversi fattori che influiranno sul costo dell’intelligenza artificiale generativa in ogni scenario.

Utilizzo di piattaforme Software-as-a-Service (SaaS) con funzionalità Gen AI

Molti importanti fornitori SaaS, tra cui SAP, TIBCO Spotfire e Salesforce, stanno lanciando servizi di intelligenza artificiale generativa che possono essere ottimizzati utilizzando i dati dei clienti. Salesforce, ad esempio, ha lanciato Einstein Copilot, un assistente AI conversazionale che estrae dati proprietari da Salesforce Data Cloud per creare risposte personalizzate alle domande dei clienti. Le informazioni utilizzate dall'assistente intelligente includono conversazioni Slack, telemetria, contenuti aziendali e altri dati strutturati e non strutturati.

I clienti Salesforce possono anche creare modelli di intelligenza artificiale, competenze e prompt personalizzati utilizzando Prompt Builder e Model Builder senza codice di Einstein Copilot Studio. A partire da ora, quest'ultimo strumento supporta i modelli linguistici di grandi dimensioni (LLM) di OpenAI, ma ci sono piani per integrare il prodotto con altre soluzioni di terze parti, tra cui Amazon Bedrock e Vertex AI. Poiché Einstein Copilot è ancora nella sua fase pilota (nessun gioco di parole), le informazioni sui prezzi dell'intelligenza artificiale generativa non sono ancora state svelate. Tuttavia, il costo dell’assistente GPT per le vendite AI generative, che attualmente ammonta a $ 50 per utente al mese, potrebbe darti un’idea generale di cosa aspettarti.

Integrazione del software aziendale con soluzioni Gen AI tramite API e modelli di riqualificazione sui dati

Per ridurre i costi di implementazione dell'intelligenza artificiale gen, potresti eliminare gli strumenti SaaS intermedi, unendo le tue app direttamente con soluzioni commerciali di intelligenza artificiale a livello API. Ad esempio, se stai cercando di potenziare il tuo chatbot dell'assistenza clienti con funzionalità di intelligenza artificiale gen, puoi sincronizzarlo con uno dei modelli di OpenAI, ad esempio GPT-3.5 o GPT-4, utilizzando l'API OpenAI. Successivamente, devi preparare i dati per l'apprendimento automatico, caricare i dati su OpenAI e gestire il processo di perfezionamento utilizzando lo strumento CLI di OpenAI e la libreria Python di Open AI. Durante la messa a punto del modello, ti verranno addebitati $ 0,008 per 1.000 token (GPT-3.5). Una volta che il modello entra in produzione, le tariffe di input e output ammonteranno rispettivamente a $ 0,003 per 1.000 token e $ 0,006 per mille token. Il costo complessivo della generazione AI includerà anche i costi di archiviazione, a condizione che tu scelga di ospitare i tuoi dati su server OpenAI. Le spese di archiviazione dei dati potrebbero aggiungere $ 0,2 per 1 GB di dati al giorno alla stima finale. E non dimenticare la preparazione dei dati e gli sforzi di perfezionamento del modello. A meno che il tuo reparto IT non possieda le competenze richieste, dovrai collaborare con un'azienda affidabile di servizi di sviluppo IA.

Il costo dell’utilizzo dei modelli di intelligenza artificiale open source “così come sono”

Dichiarazione di non responsabilità: non stiamo suggerendo di creare un modello di base personalizzato simile a ChatGPT da zero: è un'impresa che è meglio lasciare a coloro che hanno un sostegno sostanziale, come il supporto di OpenAI da parte di Microsoft per compensare le loro perdite di 540 milioni di dollari.

Anche i modelli di base più basilari, come GPT-3, possono accumulare costi di formazione iniziale e implementazione superiori a 4 milioni di dollari. Inoltre, negli ultimi anni la complessità di questi modelli di fondazione è aumentata a un ritmo sorprendente.

ITRex: personalizzato

La quantità di risorse informatiche necessarie per l’addestramento di modelli IA di grandi dimensioni raddoppia ogni 3,5 mesi. Anche la complessità dei modelli di fondazione sta cambiando. Ad esempio, nel 2016, Bert-Large è stato addestrato con 340 milioni di parametri. In confronto, il modello GPT-3 di OpenAI è stato addestrato con circa 175 miliardi di parametri.

La buona notizia è che i modelli di base esistono già, il che rende relativamente facile per le aziende iniziare a sperimentarli ottimizzando i costi di implementazione dell’IA gen. In sostanza, potremmo trattare i modelli di base come un kit di strumenti per gli ingegneri del software AI poiché forniscono un punto di partenza per risolvere problemi complessi lasciando comunque spazio alla personalizzazione.

ITRex: personalizzato

Potremmo dividere liberamente i modelli di fondazione esistenti in tre categorie.

I modelli linguistici sono progettati per gestire attività di traduzione, generazione e risposta alle domande del testo
I modelli di visione artificiale eccellono nella classificazione delle immagini, nel rilevamento di oggetti e nel riconoscimento facciale
La terza categoria, i modelli di intelligenza artificiale generativa, crea contenuti che assomigliano ai dati consumati da un modello. Questo contenuto può includere nuove immagini, simulazioni o, in alcuni casi, informazioni testuali.

Dopo aver selezionato un modello open source che meglio si adatta alle tue esigenze, puoi integrarlo con il tuo software utilizzando le API e utilizzare la tua infrastruttura server.

Questo approccio comporta i seguenti costi generativi dell’IA.

Costi hardware: l’esecuzione di modelli di intelligenza artificiale, soprattutto quelli di grandi dimensioni, richiede notevoli risorse computazionali. Se la tua azienda non dispone dell'hardware appropriato, potrebbe essere necessario investire in GPU o CPU potenti, che possono essere costose. Se il vostro modello è relativamente piccolo, potrebbe bastare una GPU di fascia alta come una NVIDIA RTX 3080 o simile. Il costo di una GPU di questo tipo può variare da $ 700 a $ 1.500. Per modelli di grandi dimensioni come GPT-2 o simili, sono necessarie più GPU di fascia alta o anche acceleratori IA specializzati. Una singola GPU NVIDIA A100, ad esempio, può costare tra $ 10.000 e $ 20.000. Una configurazione con più GPU può quindi costare tra $ 30.000 e $ 50.000.
Costi del cloud computing: in alternativa all'acquisto di hardware, puoi noleggiare risorse di cloud computing da fornitori come Amazon Web Services (AWS), Google Cloud Platform (GCP) o Microsoft Azure. Questi servizi vengono addebitati in base all'utilizzo, quindi i costi dipenderanno da quanto utilizzi le loro risorse in termini di tempo di elaborazione e archiviazione. Ad esempio, le istanze GPU su AWS (come P3 o P4) possono costare da $ 3 a $ 24 l'ora, a seconda del tipo di istanza.
Elettricità e manutenzione: se utilizzi il tuo hardware, dovrai sostenere costi di elettricità per far funzionare le macchine ed eventualmente sistemi di raffreddamento aggiuntivi. Anche i costi di manutenzione dell'hardware possono aumentare.
Integrazione e distribuzione: l'integrazione del modello di intelligenza artificiale nei sistemi esistenti e la sua distribuzione (soprattutto in un ambiente di produzione) potrebbero richiedere ulteriori sforzi di sviluppo software, che possono comportare costi di manodopera. Il costo per esternalizzare lo sviluppo dell’intelligenza artificiale a una società di sviluppo software potrebbe variare da 50 a 200 dollari l’ora, con spese totali che vanno da poche migliaia a decine di migliaia di dollari.
Archiviazione e gestione dei dati: archiviare e gestire i dati utilizzati dal modello può essere costoso, soprattutto quando si ha a che fare con set di dati di grandi dimensioni o si utilizzano soluzioni di archiviazione cloud. Per le installazioni in loco, il costo di archiviazione dei dati generati dall’intelligenza artificiale potrebbe variare da 1.000 a 10.000 dollari, a seconda delle dimensioni del set di dati di addestramento e delle esigenze di ridondanza. I costi per le soluzioni di archiviazione dati basate su cloud, come AWS S3, possono variare da 0,021 a 0,023 dollari per GB al mese, con costi aggiuntivi per le operazioni e il trasferimento dei dati.

In definitiva, quanto potrebbe costare alla tua azienda adottare un modello di base di intelligenza artificiale generativa “così com’è”, distribuendolo sulla propria infrastruttura? Per un’impresa di medie dimensioni che mira a utilizzare un modello moderatamente grande come GPT-2 on-premise, il costo associato i costi dell’intelligenza artificiale generativa potrebbero comprendere quanto segue.

Hardware: $ 20.000–$ 50.000 (per un paio di GPU di fascia alta o una configurazione multi-GPU di base)
Elettricità e manutenzione: circa $ 2.000– $ 5.000 all'anno
Integrazione e distribuzione: $ 10.000–$ 30.000 (ipotizzando una complessità di integrazione moderata)
Archiviazione e gestione dei dati: $ 5.000–$ 15.000 (a seconda della dimensione dei dati)

Il costo totale per la creazione e la gestione di una soluzione di intelligenza artificiale generativa includerebbe quanto segue.

Spese di implementazione iniziali: da circa $ 37.000 a $ 100.000 (hardware + integrazione iniziale e configurazione di archiviazione)
Spese ricorrenti: da $ 7.000 a $ 20.000 (inclusi elettricità, manutenzione, integrazione continua e costi di gestione dei dati)

Queste stime approssimative possono variare in modo significativo in base a requisiti specifici, posizione e condizioni di mercato. È sempre meglio rivolgersi ad un professionista per un preventivo più personalizzato e accurato. Inoltre, è una buona idea controllare le attuali tariffe di mercato per l'hardware e i servizi cloud per i prezzi più aggiornati.

Il costo della riqualificazione delle soluzioni di intelligenza artificiale open source utilizzando i tuoi dati

Se la tua azienda sta pensando di adattare un modello di base open source, è importante considerare i fattori che possono influenzare il costo di implementazione dell'intelligenza artificiale generativa.

Tali fattori comprendono quanto segue.

Dimensioni del modello: i modelli più grandi, come GPT-3, richiedono più risorse per la messa a punto e la distribuzione. Di conseguenza, il costo dell’intelligenza artificiale generativa aumenta con la dimensione e la complessità del modello. I modelli di base open source più semplici come GPT-2, XLNet e StyleGAN2, nel frattempo, non possono generare contenuti con lo stesso livello di coerenza e pertinenza.
Risorse computazionali: la riqualificazione di un modello di base utilizzando i dati della tua azienda richiede una notevole potenza di calcolo. Il costo di una soluzione AI di nuova generazione dipende quindi dal fatto che si utilizzi il proprio hardware o i servizi cloud, con il prezzo di questi ultimi che varia in base al provider cloud e alla portata delle proprie operazioni. Se opti per un modello più semplice e lo distribuisci in locale, dovresti spendere $ 10.000-30.000 in costi GPU per mettere a punto la soluzione di intelligenza artificiale generativa. Con il cloud computing, le spese potrebbero variare tra 1 e 10 dollari l’ora, a seconda del tipo di istanza. I modelli open source simili a GPT-3 richiedono una configurazione GPU più avanzata, fino a $ 50.000-$ 100.000. Le spese di cloud computing associate possono variare da $ 10 a $ 24 l'ora per le istanze GPU di fascia alta.
Preparazione dei dati: il processo di raccolta, pulizia e preparazione dei dati per la messa a punto dei modelli di base può richiedere un utilizzo intensivo delle risorse. Il costo dell’implementazione dell’IA generativa includerà quindi le spese associate all’archiviazione, all’elaborazione e all’eventuale acquisto di set di dati di formazione se la tua azienda non dispone dei tuoi dati o non può utilizzarli per motivi di sicurezza e privacy.
Tempi di sviluppo e competenze: il talento nell'intelligenza artificiale non è economico. Un ingegnere AI interno con sede negli Stati Uniti costerà alla tua azienda $ 70.000 – $ 200.000 all’anno, più le assunzioni, le buste paga, la previdenza sociale e altre spese amministrative. Puoi ridurre i costi dell’intelligenza artificiale generativa collaborando con una società di ingegneria software offshore con esperienza nello sviluppo dell’intelligenza artificiale. A seconda della località, le tariffe orarie di tali aziende possono variare da 62 a 95 dollari per i talenti dello sviluppo senior in località chiave di outsourcing, come l'Europa centrale e l'America Latina.
Costi di manutenzione: sarai l'unico responsabile della manutenzione, dell'aggiornamento e della risoluzione dei problemi del modello, che richiedono impegno continuo e competenze in ingegneria e operazioni di machine learning (MLOps).

Considerando i fattori sopra menzionati, qual è il costo realistico della creazione di una soluzione di intelligenza artificiale generativa personalizzata basata su un modello di base facilmente disponibile? Per un'impresa di medie dimensioni che desidera mettere a punto un modello moderatamente grande come GPT-2, i costi di implementazione dell'intelligenza artificiale generativa associati potrebbero comprendere quanto segue.

Hardware: $ 20.000–$ 30.000 (per una configurazione GPU moderata)
Sviluppo: presupponendo 6 mesi di tempo di sviluppo con un mix di talenti interni ed esterni:

Interno: $ 35.000– $ 100.000 (stipendio semestrale)

Outsourcing: $ 20.000–$ 40.000 (assumendo 400 ore a una tariffa media di $ 75/ora)

Preparazione dei dati: $ 5.000–$ 20.000 (varia in base alla dimensione e alla complessità dei dati)
Manutenzione: $ 5.000–$ 15.000 all'anno (spese correnti)

Il costo totale per la creazione e la gestione di una soluzione di intelligenza artificiale generativa includerebbe quanto segue.

Spese di distribuzione iniziali: da circa $ 80.000 a $ 190.000 (inclusi costi di hardware, sviluppo e preparazione dei dati)
Spese ricorrenti: da $ 5.000 a $ 15.000 (manutenzione e costi correnti)

I costi effettivi di sviluppo e implementazione della Gen AI possono variare in base ai requisiti specifici del progetto, alla disponibilità di dati di formazione e di talenti IA interni e all'ubicazione del partner di outsourcing. Per i prezzi più accurati e aggiornati, è consigliabile consultare direttamente professionisti o fornitori di servizi.

Anche se 190.000 dollari per un sistema di intelligenza artificiale di generazione potrebbero sembrare irragionevolmente costosi, il costo di creazione di una soluzione di intelligenza artificiale di generazione utilizzando modelli di base open source potrebbe essere inferiore rispetto alla scelta di uno strumento disponibile in commercio.

Prima che ChatGPT attirasse l'attenzione, Latitude, una startup pionieristica responsabile del gioco d'avventura basato sull'intelligenza artificiale chiamato AI Dungeon, utilizzava il modello GPT di OpenAI per la generazione di testo.

Man mano che la loro base utenti cresceva, aumentavano anche le bollette di OpenAI e le spese per l'infrastruttura di Amazon. Ad un certo punto, l’azienda pagava 200.000 dollari al mese in costi associati per gestire il numero crescente di richieste degli utenti.

Dopo essere passata a un nuovo fornitore di intelligenza artificiale generativa, l'azienda ha ridotto i costi operativi a 100.000 dollari al mese e ha adeguato la propria strategia di monetizzazione, introducendo un abbonamento mensile per funzionalità avanzate basate sull'intelligenza artificiale.

Per selezionare il giusto approccio di implementazione ottimizzando al tempo stesso i prezzi dell’intelligenza artificiale generativa, è quindi importante analizzare attentamente in anticipo i requisiti del progetto. Ed è per questo che incoraggiamo sempre i nostri clienti a dare il via alle loro iniziative di sviluppo dell'intelligenza artificiale con una fase di scoperta.

Cose da considerare quando si implementa l'intelligenza artificiale nel mondo degli affari

Ora che sai cosa aspettarti dall'intelligenza artificiale generativa in termini di costi, è tempo di parlare delle insidie e delle considerazioni sull'implementazione della tecnologia.

I modelli di base, in particolare i modelli linguistici di grandi dimensioni, potrebbero avere allucinazioni, producendo risposte apparentemente legittime ma del tutto sbagliate alle domande degli utenti. La tua azienda potrebbe evitare questo scenario migliorando i dati di addestramento, sperimentando diverse architetture di modelli e introducendo cicli di feedback degli utenti efficaci.
Le soluzioni Gen AI vengono addestrate utilizzando grandi quantità di dati che diventano rapidamente obsoleti. Di conseguenza, dovrai riqualificare regolarmente il tuo modello, il che aumenta il costo dell’implementazione dell’intelligenza artificiale generativa.
I modelli di base addestrati su dati specifici, come le voci delle cartelle cliniche elettroniche (EHR), potrebbero avere difficoltà a produrre contenuti validi al di fuori delle loro competenze immediate. I modelli generici, d’altro canto, hanno difficoltà con le query degli utenti specifiche del dominio. Alcuni modi per affrontare questo problema includono la creazione di modelli ibridi, l'utilizzo di tecniche di trasferimento di apprendimento e la messa a punto dei modelli attraverso il feedback degli utenti.
Le soluzioni di Gen AI sono per natura una scatola nera, il che significa che raramente è chiaro il motivo per cui producono determinati risultati e come valutarne l'accuratezza. Questa mancanza di comprensione potrebbe impedire agli sviluppatori di modificare i modelli. Seguendo principi di intelligenza artificiale spiegabili durante l'addestramento del modello gen AI, come l'introduzione di tecniche di interpretabilità del modello, meccanismi di attenzione e audit trail, è possibile ottenere informazioni dettagliate sul processo decisionale del modello e ottimizzarne le prestazioni.

Inoltre, ci sono diverse domande a cui la tua azienda deve rispondere prima di iniziare con l’implementazione dell’intelligenza artificiale generativa.

Esiste una solida strategia di acquisto vs. costruzione per verificare che la tua azienda adotti l'intelligenza artificiale di generazione solo in funzioni in cui la tecnologia diventerebbe un elemento di differenziazione evitando al tempo stesso il vincolo del fornitore? Questa strategia dovrebbe essere integrata con una tabella di marcia dettagliata per la gestione del cambiamento e il ridimensionamento dell’intelligenza artificiale – e disposizioni per la riprogettazione di interi processi aziendali, in caso di necessità.
Il tuo reparto IT interno possiede competenze MLOps adeguate per testare, ottimizzare e mantenere la qualità di modelli ML complessi e dei relativi dati di addestramento? In caso contrario, hai già selezionato una società di sviluppo IA affidabile per occuparsi di questi compiti?
Disponi di una notevole quantità di risorse informatiche, sia nel cloud che nell'edge? Inoltre, è importante valutare la scalabilità della tua infrastruttura IT nonché la possibilità di riutilizzare i modelli Gen AI in diverse attività, processi e unità.
La tua azienda o il tuo partner per lo sviluppo dell'intelligenza artificiale hanno le competenze per testare la fattibilità dell'intelligenza artificiale attraverso la prova di concetto (PoC) e adattare i tuoi esperimenti al di fuori dell'ambiente sandbox controllato?
Ultimo ma non meno importante, la tua organizzazione dispone di meccanismi efficaci di privacy e sicurezza per proteggere le informazioni sensibili e garantire la conformità alle normative specifiche del settore e della regione?

Avere un piano di implementazione ben ponderato non solo ti aiuterà ad adottare la tecnologia in modo privo di rischi e a raccogliere i benefici più rapidamente, ma ridurrà anche i costi dell’intelligenza artificiale di generazione.

Approfitta dei servizi di consulenza ITRex gen AI per capire se la gen AI ti aiuterà a rinnovare i processi aziendali, selezionare il giusto approccio di implementazione della gen AI e ottimizzare i costi della gen AI. Scrivici per dare il massimo!

Questo articolo è stato originariamente pubblicato sul sito web ITRex.