Come si perde il controllo
Ci sono diverse ragioni per cui l'attuale accelerazione nell'adozione dell'intelligenza artificiale è così difficile da governare.
La prima è la velocità. Il ritmo dell'innovazione nel campo dell'AI non ha precedenti rispetto ai cicli tecnologici del passato. Nuovi modelli, strumenti, assistenti e agenti vengono introdotti nel giro di poche settimane, ciascuno con la promessa di migliori prestazioni o funzionalità più estese. È naturale che i team aziendali vogliano sperimentare, che le persone cerchino di aumentare la propria produttività, che i reparti puntino a rendere i processi più efficienti e che il management voglia dimostrare risultati concreti. Questo entusiasmo è un elemento positivo, ma crea anche le condizioni ideali per la diffusione della Shadow AI.
A differenza di quanto accadeva con le precedenti ondate di adozione software, l'AI entra spesso nelle organizzazioni attraverso molteplici canali contemporaneamente. Può presentarsi come applicazione autonoma, come funzionalità integrata in una piattaforma SaaS esistente, come chiamata API all'interno di un ambiente cloud, come sottoscrizione a un chatbot o come agente sviluppato da un team al di fuori dell'IT centrale. Singolarmente, ogni iniziativa può sembrare di portata limitata. Nel loro insieme, però, generano un livello crescente di costi, rischi e dipendenze operative che molte organizzazioni non riescono a vedere nella loro interezza.
La seconda sfida è che l'AI si comporta in modo diverso rispetto alle tradizionali applicazioni cloud e SaaS. La spesa non è distribuita soltanto tra strumenti, API, modelli e ambienti cloud differenti, ma è anche meno prevedibile e fortemente influenzata dai comportamenti degli utenti. I consumi possono aumentare improvvisamente quando un processo viene automatizzato o quando emerge un nuovo caso d'uso particolarmente efficace. In assenza di controlli adeguati, i costi possono crescere rapidamente prima ancora che Finance, Procurement o ITAM si rendano conto di ciò che sta accadendo.
L'intelligenza artificiale rende inoltre più complesso prevedere il valore generato. Le soluzioni di automazione tradizionali venivano generalmente valutate in base a velocità, uniformità e riduzione dei costi. L'AI generativa è molto più variabile. La qualità dei risultati dipende dal modello utilizzato, dalla qualità dei dati, dalla progettazione degli agenti, dai prompt impiegati e dalle competenze delle persone che li utilizzano. Se uno o più di questi elementi risultano carenti, le organizzazioni rischiano di sostenere costi senza ottenere risultati affidabili.
In termini pratici, questo significa token sprecati, strumenti duplicati, licenze inutilizzate, bassi livelli di adozione e un divario sempre più ampio tra gli investimenti in AI e il valore effettivamente generato per il business.