AI generativa nelle imprese: un buon 2023 ma i problemi restano

Intel scommette decisamente sulla prossima onnipresenza dell'AI, come molti altri vendor tecnologici di nome, e probabilmente il futuro le darà in qualche modo ragione. Ma un segnale di maggiore concretezza viene - un po' curiosamente, se vogliamo - da un'azienda che fa capo proprio ad Intel: cnvrg.io. Che offre uno stack completo di componenti per il machine learning, quindi è anche essa stessa interessata a che la platea delle aziende utenti di AI si ampli.

Bene, ora cnvrg.io spiega che nonostante stiamo uscendo da un anno di hype assoluto sulle (semi)nuove potenzialità dell'AI, la diffusione delle tecnologie di AI generativa non è ancora all'altezza di quanto i vendor e gli appassionati possono aspettarsi. Gli ostacoli alla sua implementazione sono ancora importanti, infatti, e le esperienza fatte sinora dalle grandi imprese consigliano prudenza più che facili entusiasmi.

Le sue conclusioni sono riportate nel report ML Insider, che nasce da una indagine su un campione di 430 dipendenti di aziende di vari settori. Il campione è fatto soprattutto da data scientist, tecnici, figure DevOps e sviluppatori. Figure quindi che hanno un ruolo diretto nella gestione e nello sviluppo dei progetti di AI.

Nonostante il grande hype del 2023, spiega innanzitutto il report, più della metà degli intervistati ritiene che l'AI generativa sia solo "moderatamente", "leggermente" o "per nulla" importante per la futura strategia AI della propria azienda. Solo il 44% degli intervistati considera l'AI generativa "molto" o "estremamente" importante.

Anche come conseguenza di questa relativa "freddezza", solo il 10% degli intervistati ha dichiarato di avere già lanciato in produzione soluzioni di AI generativa. La maggior parte delle aziende è ancora in fase di ricerca o dei primi test per quanto riguarda l'AI generativa e solo un quarto degli intervistati ha dichiarato che la propria organizzazione aveva modelli di IA generativa attivi in progetti pilota specifici.

Gli ostacoli alla diffusione della GenAI sono, a quanto pare, infrastrutturali. Il 46% del campione indica infatti che è l'infrastruttura IT il problema principale nella messa in produzione dei Large Language Model. L'addestramento e l'impiego di LLM possono essere piuttosto impegnativi per l'IT, d'altronde: servono investimenti sostanziali per avere la necessaria potenza di calcolo e l'hardware specializzato richiesto, come le moderne GPU e NPU.

La domanda del mercato di soluzioni e servizi basati su LLM comunque non manca. Tanto che 8 intervistati su 10 ammettono che le loro competenze dovrebbero migliorare proprio per il crescente interesse per l'adozione di LLM. Gli intervistati si dividono tra chi pensa di avere ciò che serve per questo miglioramento e chi non sa nemmeno da dove cominciare. Gli LLM richiedono infatti un insieme preciso e peculiare di esperienze e skill.

La gestione di grandi quantità di dati per un apprendimento efficace e la messa a punto di modelli per compiti specifici richiedono esperienze che non tutti possono maturare. Anche l'implementazione della GenAI è complessa e comporta la capacità di valutare correttamente parametri come le dimensioni del modello, la velocità di inferenza e i vincoli di risorse.

Tuttavia, non c'è dubbio che la GenAI stia avendo un impatto forte sui mercati. Rispetto al 2022, l'uso di chatbot/agenti virtuali è aumentato di 26 punti percentuali e la traduzione/generazione automatica di testi è aumentata di 12 nel 2023: sono i casi d'uso a maggior crescita dell'AI, oggi, se escludiamo il boom del riconoscimento facciale (+14 p.p.) che non riguarda la GenAI. Queste crescite sono molto probabilmente legate - secondo cnvrg.io - proprio allo sviluppo degli LLM registrato nel 2023 e al progresso complessivo delle tecnologie di AI generativa.

L'integrazione delle varie soluzioni di AI fra loro, e con il resto dell'IT aziendale, però rimane bassa e nel 2023 non ha registrato una crescita sostanziale. Il 58% degli intervistati indica attualmente non più di 5 modelli in esecuzione. Solo l'11% ha in esecuzione più di 50 modelli di machine learning, contro il 14% del 2022. Ovviamente questi valori dipendono anche dalla dimensione dell'azienda coinvolta. Ad esempio, la quota di imprese con 50 o più modelli di ML attivi sale al 26% se consideriamo solo le aziende con più di 5.000 dipendenti.

In generale tutto il mondo AI risulta non semplice da "digerire" per le imprese, per quanto ben disposte esse siano. Due terzi dei professionisti AI continuano a dichiarare che è difficile completare con successo un progetto di AI: il 10% ritiene che sia "estremamente difficile", mentre per il 52% è solo "difficile". Quanto più grande è l'azienda, poi, tanto più difficile è il completamento positivo di un progetto di AI.