Dai token al valore complessivo

Produzione, consumo e valore fanno parte della stessa conversazione

La giornata è iniziata con un chalk talk basato sulla Tokenomics Mind Map. L’esercizio era semplice. Abbiamo preso la terminologia che oggi ruota attorno all’economia dell’AI e classificato ciascun termine in una delle tre dimensioni definite dalla Tokenomics Foundation: produzione, consumo e valore.

Alcuni termini hanno trovato facilmente la loro collocazione. Energia, capacità delle GPU, sviluppo delle AI factory e addestramento dei modelli rientrano nella produzione, poiché rappresentano gli investimenti strutturali necessari per sviluppare capacità di AI. La selezione dei modelli, il routing dei prompt, l’utilizzo dei token e la previsione della domanda rientrano nel consumo, ovvero nella gestione quotidiana dei workload di AI. Abilitazione dei ricavi, modelli di pricing, equivalenti FTE e riduzione del rischio rientrano chiaramente nel valore.

I dibattiti più interessanti sono nati quando alcuni termini non si lasciavano ricondurre a un’unica categoria. Il context caching è una tecnica legata al consumo, ma riduce direttamente la capacità di calcolo necessaria. Il capacity planning interessa sia la produzione sia il consumo. Il model routing è una decisione operativa che incide tanto sulla struttura dei costi quanto sui risultati di business. Alla fine della sessione, tutti hanno concordato sul fatto che la tokenomics funziona meglio se rappresentata come un diagramma di Venn anziché come tre pilastri distinti. Le decisioni prese in un’area modificano ciò che è possibile fare nelle altre e trattarle a compartimenti stagni è il modo in cui le organizzazioni perdono di vista quanto costa realmente la loro AI e quale ritorno genera.

Lo stato della tokenomics: la spesa è visibile, il valore no

Uno dei momenti più interessanti è stata la presentazione della ricerca State of Tokenomics, basata sulle risposte di 472 aziende appartenenti a 11 settori, che rappresentano complessivamente 4.600 miliardi di dollari di fatturato annuo. I dati raccontano un mercato che sta maturando rapidamente, ma in modo disomogeneo.

Partiamo dalla responsabilità. Nel 35% delle organizzazioni, la tokenomics è affidata al CTO, al CIO o alla funzione IT, mentre un ulteriore 26% la gestisce come responsabilità condivisa tra più funzioni. Resta comunque un 12% in cui non esiste alcun responsabile definito, un rischio concreto per una voce di costo che cresce a questa velocità.

C’è poi il mix di modelli, destinato a cambiare significativamente. Oggi, il 51% delle aziende fa ampio affidamento sui frontier model. Nell’arco di 12 mesi, solo il 24% prevede di trovarsi ancora in questa situazione. Chi oggi utilizza intensivamente i frontier model prevede di ridurne in media l’utilizzo di 2,7 punti, man mano che i workload si spostano verso modelli open-weight, mentre appena il 17% prevede di aumentarne l’utilizzo. Non si tratta di un rifiuto dei frontier model, ma del segnale che le aziende stanno diventando più consapevoli nella scelta dei workload che ne richiedono realmente l’utilizzo.

Il dato più significativo riguarda il valore. Sebbene il 39% delle organizzazioni dichiari un livello moderato di fiducia nella propria visibilità sulla spesa per l’AI, questa fiducia diminuisce all’aumentare delle dimensioni aziendali. E tre aziende su quattro non riescono a dimostrare con sicurezza al proprio CFO risultati di business misurabili generati dall’AI. Dimostrare il valore e il ROI è stato indicato come la principale sfida dal 43% degli intervistati, mentre appena il 7% ha citato la complessità dei costi o del pricing come uno dei principali ostacoli. In altre parole, il problema del settore non è più comprendere la fattura. È spiegare che cosa si ottiene in cambio di quella spesa.

Anche la governance riflette questa tensione. In particolare, per quanto riguarda la spesa legata alla produttività degli sviluppatori, la maggior parte delle organizzazioni si trova ancora in una fase iniziale e si affida a limiti di budget e di token. Ciò che considero incoraggiante è che le stesse organizzazioni stanno investendo per individuare e valorizzare i propri power user interni. L’orientamento condiviso è quello di mantenere sotto controllo la spesa, sostenendo al tempo stesso le persone che riescono a ottenere il massimo da questi strumenti, e credo che sia esattamente l’approccio giusto.

Se ottimizzi solo i token, rischi di perdere di vista il quadro complessivo

Un tema ricorrente nelle diverse sessioni è stato quello dell’iceberg. I costi delle API e dei token rappresentano la parte visibile, ma il costo totale dell’AI comprende infrastruttura, capacità di calcolo, memoria, storage, pipeline di dati, energia, licenze software e lavoro. Costruire un business case solido e difendibile di fronte al CFO significa mettere in relazione questo costo complessivo con una quantificazione del valore di business altrettanto dettagliata, workload per workload.

Ed è qui che entra in gioco la misurazione. UNICC ha illustrato come struttura l’AI su tre livelli di esecuzione: AI privata su cloud interno, AI affidabile con infrastrutture HPC di partner in giurisdizioni protette e AI con dati sensibili rimossi attraverso API pubbliche approvate. A collegare il tutto è un gateway AI centralizzato che applica limiti di budget a livello di chiave, indirizza le richieste in base alla classificazione dei dati e monitora le tracce dei token e il costo per chiave, il tutto in linea con FOCUS. La misurazione consente di attribuire i costi. Ed è proprio questa attribuzione che permette di dimostrare il valore.

Anche l’osservabilità degli agenti sta entrando a far parte dello stesso quadro. L’Agent Development Kit open source di Google, ad esempio, offre ora un plugin BigQuery Agent Analytics che supporta il tracciamento in stile OpenTelemetry per visualizzare i flussi di esecuzione degli agenti e tiene traccia dell’origine di ogni chiamata agli strumenti, che si tratti di una funzione locale, di un server MCP, di un sub-agent o di un agente remoto. Il valore per il FinOps è chiaro: una volta che ogni passaggio dell’agente, ogni chiamata al modello e ogni utilizzo di uno strumento confluiscono in un dataset interrogabile, è possibile collegare il costo allo specifico workflow che lo ha generato, anziché a un’unica fattura API indistinta. Associato a un registro degli agenti che consente di sapere quali agenti esistono, chi ne è responsabile e quali azioni sono autorizzati a svolgere, questo costituisce la base per governare l’AI agentica su larga scala.

Diversi strumenti per trasformare questa visibilità in risparmio sono emersi più volte. Il context caching evita di pagare ripetutamente per lo stesso contesto. Il model routing indirizza ogni richiesta verso il modello più adatto. La ricerca lo conferma: l’86% delle organizzazioni sta valutando o utilizzando sistemi di model routing e quelle che li utilizzano hanno una probabilità quattro volte maggiore di riuscire a dimostrare il ROI al CFO.

Utilizzare l’AI per governare l’AI

Alistair Scott di Infracost ha condiviso uno dei dati più significativi dell’evento. Utilizzando agenti AI per governare il proprio utilizzo dell’AI, Infracost ha quintuplicato il consumo di token, mentre i costi sono aumentati solo di 2,4 volte. Il loro approccio segue una pipeline articolata in tre fasi: raccolta del contesto, ottimizzazione e remediation. Il processo utilizza lo storico dei prompt, i prezzi dei modelli e i dati di benchmark per scegliere dinamicamente il modello più adatto. È un esempio molto efficace di un principio che, a mio avviso, definirà la prossima fase del FinOps: gli strumenti che utilizzeremo per gestire l’AI saranno sempre più spesso basati a loro volta sull’AI.

Quando la capacità di calcolo diventa il vincolo

Lundbeck ha offerto una prospettiva dal settore farmaceutico che ha messo in evidenza il lato della produzione nel diagramma di Venn. Il lavoro di scoperta delle molecole, un tempo limitato dalla capacità dei laboratori, si è trasformato in un’attività di calcolo, in cui la capacità delle GPU rappresenta oggi il collo di bottiglia. Come hanno spiegato, l’introduzione dell’AI mette in crisi il FinOps due volte: prima perché i workload sono di per sé intensivi dal punto di vista computazionale e difficili da prevedere e poi perché i tradizionali framework FinOps non sono stati progettati per governarli.

L’ascesa dei modelli specialistici

Deutsche Bank ha spiegato che sta esplorando l’utilizzo di small language model per casi d’uso di nicchia. La logica è semplice: pochi frontier model sono stati addestrati in modo approfondito su dati relativi ai servizi finanziari. Un SLM mirato può offrire maggiore accuratezza e costi notevolmente inferiori per attività specifiche di un determinato settore. Insieme allo spostamento verso modelli open-weight evidenziato dalla ricerca, questo suggerisce un futuro in cui le aziende utilizzeranno un portafoglio di modelli abbinati ai diversi workload, anziché scegliere automaticamente il modello più grande disponibile.

Il momento in cui tutto è diventato chiaro: il valore risiede nel business

L’osservazione che mi è rimasta maggiormente impressa è arrivata da Booking.com e cambia completamente la prospettiva sul tema del valore. Se la risposta alla sfida del ROI consiste nel creare un team centrale e chiedergli di misurare il valore dell’AI nell’intera azienda, forse vale la pena ripensare questo approccio.

Il punto sollevato da Booking.com è che si tratta di una sfida quasi impossibile da vincere. Un’unità centrale deve ricostruire dall’esterno che cosa significhi ottenere un buon risultato in decine di funzioni diverse. Questo si traduce in un’attività di analisi lenta e complessa, e le conclusioni a cui si arriva raramente convincono davvero qualcuno. La comprensione del contesto e di ciò che rappresenta il valore esiste già all’interno di ogni business unit. Le persone che gestiscono assistenza, marketing, engineering o finance sanno che cosa significhi, nei termini della propria funzione, ottenere un risultato migliore.

La richiesta dovrebbe quindi seguire il percorso inverso. Sono i responsabili di business e i line manager a dover valutare e descrivere il valore che l’AI genera nella propria area e ad assumersi la responsabilità di garantire nel tempo ritorni di valore dall’AI, mentre il team FinOps deve fornire i dati relativi a costi e utilizzo necessari per rendere credibile questa valutazione. E quando una business unit non è ancora in grado di documentare il valore generato, questo non rappresenta un fallimento. È proprio questo il lavoro da fare: collaborare con quel team per individuare i dati misurabili in grado di indicare o dimostrare il valore nel suo specifico contesto e iniziare quindi a raccoglierli. Dimostrare il ROI diventa così un esercizio condiviso volto a definire la metrica corretta, anziché un audit centrale imposto a posteriori.