Token: l’unità di misura invisibile dietro ogni risposta dell’intelligenza artificiale

Un’esperienza che conosci già

Hai presente quella sensazione di scrivere una domanda in una chat con AI, premere invio, e vedere la risposta non apparire tutta insieme ma comparire parola dopo parola, a volte pezzo di parola dopo pezzo di parola, quasi come se qualcuno dall’altra parte stesse scrivendo in tempo reale?

Oppure hai presente quel messaggio, un po’ più fastidioso, che a volte compare nei piani gratuiti: “hai raggiunto il limite di utilizzo, riprova più tardi”, o ancora: carichi un documento molto lungo in una chat e ti viene detto che è “troppo grande” per essere elaborato tutto insieme.

Tutte queste esperienze — il flusso di testo che si costruisce a scatti, i limiti di utilizzo, i tetti massimi di lunghezza — hanno una causa comune, ed è la stessa cosa che determina anche quanto costa far funzionare questi sistemi. Quella causa si chiama token.

È una parola che si sente spesso nel mondo dell’intelligenza artificiale, di solito buttata lì come se fosse ovvia, come se tutti sapessero già cosa significa. Non è così scontato, e vale la pena capirlo bene, perché il token non è un dettaglio tecnico per addetti ai lavori: è l’unità con cui questi sistemi vedono il mondo, lo elaborano, lo restituiscono — ed è anche l’unità con cui, letteralmente, viene fatturato il loro utilizzo. Capire cosa sono i token significa capire, allo stesso tempo, come “pensa” un modello linguistico e quanto costa farlo pensare.

In questo articolo proviamo a rispondere, con ordine, a cinque domande semplici ma che raramente vengono spiegate insieme: cosa sono i token, a cosa servono, chi li produce, chi li consuma, e quanto valgono. Alla fine, quella barra che si riempie a scatti non ti sembrerà più un dettaglio grafico casuale, ma il sintomo visibile di un meccanismo molto preciso.

Cosa sono i token

Non parole, ma frammenti

La prima cosa da lasciar cadere è l’idea che un’intelligenza artificiale “legga” il testo come lo leggiamo noi, parola per parola. Non è così. Prima ancora di iniziare a elaborare qualunque frase, il testo viene scomposto in unità più piccole chiamate, appunto, token. Un token può essere una parola intera, ma più spesso è un pezzo di parola, a volte un singolo carattere, a volte anche solo uno spazio o un segno di punteggiatura.

Prendiamo un esempio concreto. La parola “tokenizzazione” — il processo stesso di cui stiamo parlando — molto probabilmente non verrebbe trattata come un blocco unico. Un sistema tipico la spezzerebbe in qualcosa come “token” + “izza” + “zione”: tre frammenti diversi, che il modello tratta come tre unità separate, anche se per noi restano ovviamente un’unica parola con un unico significato.

Perché farlo in un modo così poco intuitivo? La risposta ha a che fare con un compromesso pratico che tocca diversi problemi insieme.

Il problema del vocabolario infinito

Se un modello dovesse trattare ogni parola intera come un’unità indivisibile, dovrebbe avere un “dizionario” che contenga letteralmente tutte le parole possibili — non solo quelle di una lingua, ma di tutte le lingue che vuole capire, più tutti i nomi propri, i termini tecnici, gli errori di battitura, gli slang, i codici di programmazione, le sigle, le emoji testuali. Un compito impossibile: le lingue umane inventano continuamente parole nuove, e un vocabolario “chiuso” diventerebbe rapidamente superato, oppure semplicemente enorme e inefficiente da gestire.

Scomponendo il testo in frammenti più piccoli e ricombinabili, invece, un modello può rappresentare qualsiasi parola — anche una che non ha mai visto prima — semplicemente assemblandola da pezzi che conosce. Una parola nuova, un neologismo, un nome inventato: tutto può essere scomposto in frammenti familiari, un po’ come un bambino che non conosce una parola ma riesce a leggerla comunque sillaba per sillaba.

Questo approccio risolve elegantemente diversi problemi contemporaneamente: gestisce lingue diverse con lo stesso meccanismo di base, si adatta a refusi e variazioni ortografiche, tratta senza troppi problemi codice di programmazione (che ha una sua “grammatica” molto diversa dal linguaggio naturale), numeri, simboli matematici, e persino sequenze che non sono affatto testo naturale, come identificatori tecnici o caratteri speciali.

Come nascono, in pratica, questi frammenti

Il modo in cui un frammento diventa “un token” non è arbitrario né deciso a mano da qualcuno. È il risultato di un processo di apprendimento automatico condotto su enormi quantità di testo — miliardi di pagine web, libri, articoli, codice sorgente.

Semplificando molto il funzionamento (le tecniche più diffuse fanno parte di una famiglia chiamata, con un acronimo un po’ arido, BPE, byte-pair encoding, ma il nome tecnico conta meno del principio): un algoritmo osserva quali sequenze di caratteri ricorrono più frequentemente insieme in tutto questo testo, e le trasforma progressivamente in unità sempre più grandi. Le lettere “t” e “h” che compaiono spesso una accanto all’altra, in inglese, finiscono per essere fuse in un unico blocco “th”. I blocchi più frequenti in assoluto — parole comunissime come “il”, “di”, “che”, oppure in inglese “the”, “and” — diventano spesso token a sé stanti, un’unica unità. Le parole più rare, i termini tecnici, i nomi propri poco comuni, restano invece spezzati in più pezzi, perché non sono comparsi abbastanza spesso da “meritare” un token dedicato.

Il risultato finale è un catalogo — il cosiddetto vocabolario del modello — che contiene tipicamente qualche decina di migliaia o addirittura oltre centomila frammenti diversi, costruito non da un linguista che decide dall’alto quali sono le “unità corrette” della lingua, ma dalla statistica pura di come le persone scrivono davvero. (Per “modello”, qui e nel resto dell’articolo, intendiamo semplicemente il sistema di intelligenza artificiale, il cosiddetto algoritmo.)

Un dettaglio interessante, e non scontato: ogni laboratorio di ricerca costruisce il proprio vocabolario di token a partire dai propri dati di addestramento, con le proprie scelte tecniche. Questo significa che lo stesso identico testo, dato in pasto a due modelli diversi — diciamo uno di Anthropic e uno di OpenAI — verrà quasi certamente spezzato in un numero diverso di token, anche se il contenuto rimane il medesimo. Non esiste, insomma, un unico modo “corretto” e universale di tokenizzare una frase: esistono tante versioni leggermente diverse, ciascuna ottimizzata dal laboratorio che l’ha costruita per i propri modelli.

Una regola pratica da tenere a mente

Per farsi un’idea concreta senza dover pensare ogni volta all’algoritmo che c’è dietro, esiste una regola empirica molto utile: in inglese, un token corrisponde in media a circa 0,75 parole — o, detto al contrario, cento parole inglesi corrispondono grosso modo a 130-150 token. In italiano il rapporto tende a essere leggermente meno favorevole: le nostre parole, spesso più lunghe e ricche di suffissi (pensa a coniugazioni verbali, plurali, forme come “-mente” per gli avverbi), vengono in media spezzate in più frammenti rispetto all’inglese, semplicemente perché la maggior parte dei modelli oggi in circolazione è stata addestrata prevalentemente su testo in lingua inglese, e il loro vocabolario di token riflette quella prevalenza.

Questo dettaglio, apparentemente marginale, ha una conseguenza molto pratica: scrivere e ottenere risposte in italiano, a parità di contenuto, tende a “consumare” più token che farlo in inglese. Ne parleremo meglio più avanti, quando affronteremo il tema dei costi, perché non è un dettaglio da poco.

A cosa servono i token

Il modello non vede testo, vede numeri

Il processo di conversione prevede un secondo passaggio altrettanto cruciale dove ogni token viene convertito in un numero. Il vocabolario del modello è, in fondo, una gigantesca tabella di corrispondenza tra frammenti di testo e numeri identificativi. Il modello, nella sua essenza matematica, non “capisce” lettere o parole nel senso in cui le capiamo noi ma elabora sequenze di numeri, e attraverso miliardi di parametri appresi durante l’addestramento, calcola relazioni statistiche molto sofisticate tra quei numeri.

Quando scrivi un messaggio a un assistente AI, quindi, quello che succede “dietro le quinte” è più o meno questo: il tuo testo viene tokenizzato, ogni token viene convertito nel suo numero corrispondente, e questa sequenza numerica diventa l’input effettivo che il modello elabora. Tornando alla nostra chat che si protrae nel tempo: ogni messaggio tuo e ogni risposta del modello vengono ritradotti in token ogni volta che invii un nuovo messaggio, perché il modello non ha una “memoria” nel senso in cui la intendiamo noi — ogni volta gli viene semplicemente ripresentata, sotto forma di token, l’intera storia della conversazione fino a quel momento. Questo insieme di token — il tuo messaggio più tutta la cronologia — prende un nome preciso: contesto, cioè lo spazio di informazioni che il modello ha a disposizione in quel preciso istante.

Lo stesso principio, del resto, non riguarda soltanto il testo. Quando carichi un’immagine in una chat, quell’immagine viene divisa in una griglia di piccoli riquadri — un po’ come un mosaico scomposto nelle sue singole tessere — e ciascun riquadro diventa l’equivalente di un token: un frammento a cui viene associato un numero, elaborabile dal modello esattamente come un pezzo di parola. Un audio, allo stesso modo, viene tagliato in brevissimi segmenti temporali consecutivi, ciascuno trasformato a sua volta in un numero — senza passare, cioè, per una trascrizione intermedia in testo: il suono viene tokenizzato direttamente come suono. In entrambi i casi il principio di fondo resta identico a quello del testo: spezzare qualcosa di continuo — un’immagine, un suono — in unità discrete e numerabili, così che il modello possa elaborarle con lo stesso meccanismo matematico che usa per le parole.

La finestra di contesto: quanto può “tenere a mente” un modello

Questo meccanismo spiega uno dei limiti più concreti e più citati quando si parla di modelli linguistici: la cosiddetta finestra di contesto (in inglese, context window). Si tratta del numero massimo di token che un modello può elaborare in un’unica volta, contando insieme sia quello che gli viene fornito in input — il tuo messaggio, i documenti allegati, la cronologia della conversazione — sia quello che genera in output come risposta.

I modelli più recenti, oggi, arrivano tipicamente a finestre molto ampie, dell’ordine del milione di token, un salto enorme rispetto a poche migliaia di token che erano la norma solo pochi anni fa. Detto in termini pratici, un milione di token corrisponde grosso modo a settecentocinquantamila parole in inglese — l’equivalente di diversi romanzi messi insieme. Ma anche con finestre così generose, il limite esiste sempre, ed è un limite fisico, non una scelta arbitraria: il modello, semplicemente, non può “vedere” oltre quella soglia.

Cosa succede quando si supera il limite? Nella pratica, i sistemi che usiamo tutti i giorni gestiscono il problema in modi diversi: alcuni tagliano semplicemente le parti più vecchie della conversazione, come se il modello “dimenticasse” quello che è stato detto all’inizio; altri riassumono automaticamente lo storico per farlo stare in uno spazio più compatto; altri ancora, semplicemente, restituiscono un errore e ti chiedono di accorciare la richiesta. In ogni caso, il fenomeno che hai forse notato — un assistente che sembra “perdere il filo” di una conversazione molto lunga, o dimenticare un dettaglio menzionato molti messaggi prima — è quasi sempre un sintomo diretto di questo limite: quel dettaglio, semplicemente, è uscito dalla finestra di contesto.

Generare, un token alla volta

Passiamo ora al lato output, quello che genera la risposta che leggi. Qui il meccanismo è, se possibile, ancora più interessante, e spiega direttamente quell’effetto “a scatti” da cui siamo partiti.

Un modello linguistico non scrive una risposta intera “di getto”, come farebbe una persona che pensa prima l’intera frase e poi la mette per iscritto. Al contrario, genera un token alla volta: calcola, sulla base di tutto quello che ha “visto” finora (il tuo messaggio più tutto ciò che ha già scritto nella risposta), quale sia il token statisticamente più plausibile da mettere subito dopo. Lo produce, lo aggiunge alla sequenza, e ricomincia daccapo il calcolo per decidere il token successivo — tenendo conto, questa volta, anche del token che ha appena generato lui stesso.

È un processo iterativo, sequenziale, un po’ come una catena in cui ogni anello si aggiunge uno alla volta, e ogni nuovo anello dipende da tutti quelli che lo precedono. Quando i sistemi che usiamo mostrano la risposta “in streaming” — cioè che compare progressivamente, in tempo reale — non stanno facendo un effetto grafico posticcio: stanno letteralmente mostrandoti, quasi in diretta, ogni singolo token nel momento esatto in cui viene calcolato. Ecco perché il ritmo può sembrare leggermente irregolare: alcuni token richiedono calcoli più “pesanti” di altri, e la velocità con cui vengono prodotti non è mai perfettamente costante.

I token come unità di calcolo (e quindi di costo)

C’è un ultimo aspetto, forse il più importante ai fini di questo articolo, che lega direttamente il meccanismo tecnico che abbiamo appena descritto al tema economico che affronteremo più avanti: ogni singolo token, sia in input che in output, richiede al modello un certo ammontare di calcoli — moltiplicazioni e somme tra numeri, eseguite su hardware specializzato — per essere elaborato o generato.

Più token, quindi, significa più calcoli. Più calcoli significano più tempo di elaborazione, più energia elettrica consumata, più utilizzo dell’hardware fisico che fa girare il modello. E questo, in modo abbastanza diretto, si traduce in un costo economico: non a caso, come vedremo tra poco, il prezzo che le aziende fanno pagare per usare questi modelli è quasi sempre espresso proprio in funzione del numero di token elaborati, non — per esempio — in funzione del “numero di domande” o del “tempo di utilizzo”.

C’è però un dettaglio interessante che vale la pena anticipare qui, perché torna utile per capire meglio tutto il resto dell’articolo: generare un token in output è, quasi sempre, più costoso computazionalmente che processare un token in input. Leggere un testo che ti viene fornito è un’operazione che il modello può in parte “parallelizzare” — elaborare più parti contemporaneamente. Generare testo nuovo, invece, è per sua natura un processo sequenziale: ogni token dipende da quello precedente, e quindi non si può “saltare avanti”. Questa differenza tecnica è il motivo per cui, quasi universalmente, il prezzo per i token di output è più alto — spesso di parecchie volte — rispetto al prezzo per i token di input. E qui iniziamo già a intravedere il filo che lega il funzionamento tecnico dei token alla scelta, molto concreta, di quale modello usare per un determinato compito.

Chi li produce

I laboratori che addestrano i modelli

Se i token sono l’unità con cui un modello “vede” e genera testo, chi decide quali sono, esattamente, questi frammenti, e chi mette in piedi l’infrastruttura capace di trasformarli in risposte concrete? La risposta più immediata è: i laboratori di ricerca e le aziende che addestrano i grandi modelli linguistici — nomi che probabilmente conosci già, come Anthropic (che ha sviluppato la famiglia di modelli Claude), OpenAI (dietro ChatGPT), Google (con la famiglia Gemini), Meta (con i modelli Llama, distribuiti con licenze più aperte), oltre a realtà come Mistral in Europa, o le aziende cinesi come DeepSeek e Alibaba, sempre più rilevanti nel panorama globale.

Ognuna di queste organizzazioni costruisce il proprio tokenizer — cioè il proprio sistema di scomposizione del testo in frammenti — come parte del processo di addestramento del modello. Non è un dettaglio secondario, scelto una volta e poi dimenticato: è una decisione tecnica che ha conseguenze dirette su quanto efficientemente un modello “legge” un testo in una lingua piuttosto che in un’altra, e — come vedremo — su quanto costa concretamente utilizzarlo. Un vocabolario di token ben costruito per gestire, per esempio, tante lingue diverse in modo equilibrato, o codice di programmazione in modo efficiente, rappresenta già di per sé un piccolo vantaggio competitivo.

L’infrastruttura fisica: dove i token vengono davvero “prodotti”

C’è però un secondo livello, più fisico e meno visibile, del “chi produce i token”: l’infrastruttura di calcolo che rende materialmente possibile generare, in output, tutti quei frammenti di testo che leggiamo sullo schermo. Ogni token generato da un modello richiede l’esecuzione di calcoli su hardware specializzato — tipicamente GPU (le stesse tipologie di processori nate per la grafica dei videogiochi, oggi riadattate massicciamente per l’intelligenza artificiale) o TPU, chip progettati su misura da Google specificamente per questo tipo di calcoli.

Questo hardware vive dentro enormi data center: capannoni pieni di server, sistemi di raffreddamento imponenti, collegamenti di rete ad altissima velocità, il tutto alimentato da quantità di energia elettrica paragonabili, nei casi più estremi, a quelle di intere città di medie dimensioni. In questo senso, “produrre token” non è solo un’operazione software astratta: è un’attività che consuma, molto concretamente, elettricità, acqua per il raffreddamento, e capitale enorme investito in hardware che si deprezza rapidamente.

Ed è qui che entra in gioco un terzo livello della filiera, altrettanto importante anche se meno raccontato al grande pubblico: chi fornisce l’hardware e l’energia che rende tutto questo possibile. Nvidia, per esempio, è diventata negli ultimi anni una delle aziende più importanti al mondo proprio perché produce la maggior parte delle GPU usate per addestrare e far funzionare questi modelli. Ai livelli sottostanti ci sono poi i grandi fornitori di infrastrutture cloud — Amazon con AWS, Microsoft con Azure, la stessa Google con Google Cloud — che affittano capacità di calcolo sia ai laboratori di intelligenza artificiale sia direttamente alle aziende che vogliono costruirci sopra i propri prodotti.

Il punto centrale da portare a casa, in questa sezione, è che “produrre token” non è un’attività isolata di un singolo attore, ma il risultato di una filiera che va dalla ricerca scientifica sui modelli, fino alla produzione di semiconduttori e alla gestione di infrastrutture energetiche su scala industriale. Ogni singolo token che leggi in una risposta è, in un certo senso, la punta visibile di un iceberg fatto di investimenti enormi e di una catena di fornitura globale.

Chi li consuma

Sviluppatori e aziende: il consumo “all’ingrosso”

Sul lato opposto della filiera troviamo chi utilizza — chi “consuma” — questi token. Il primo grande gruppo è composto da sviluppatori e aziende che accedono ai modelli attraverso quella che viene chiamata API (interfaccia di programmazione): in pratica, un modo per far “parlare” direttamente il proprio software con un modello linguistico, senza passare per un’interfaccia di chat pensata per un essere umano.

È così che funzionano, “sotto il cofano”, moltissimi prodotti che magari già usi senza pensarci: un assistente che ti aiuta a scrivere email dentro il tuo programma di posta, uno strumento che genera automaticamente descrizioni di prodotti per un e-commerce, un chatbot di assistenza clienti su un sito web, un plugin che ti suggerisce codice mentre programmi. In tutti questi casi, ogni singola interazione — ogni email generata, ogni risposta del chatbot, ogni riga di codice suggerita — viene tradotta in un certo numero di token in ingresso e in uscita, e quel consumo viene fatturato all’azienda che offre il servizio, la quale a sua volta lo scarica, in un modo o nell’altro, sui propri utenti finali (magari attraverso un abbonamento mensile).

Chi lavora in ambito tecnico impara abbastanza in fretta a “pensare in token”: sa che una richiesta con un contesto molto lungo (per esempio, allegando un intero file di codice per chiedere una modifica) costerà più di una domanda breve e autonoma, e comincia a fare scelte consapevoli sia su come strutturare le proprie richieste (prompt engineering) sia su quale modello utilizzare per bilanciare qualità della risposta e costo dell’operazione.

Gli utenti finali: un consumo spesso invisibile

Il secondo grande gruppo di “consumatori” di token siamo, molto semplicemente, noi: le persone che usano quotidianamente prodotti come ChatGPT, Claude, Copilot, Gemini attraverso la loro interfaccia di chat standard. La differenza fondamentale rispetto al caso precedente è che, nella stragrande maggioranza dei casi, non abbiamo alcuna percezione diretta di quanti token stiamo “consumando” in ogni conversazione. Paghiamo — se paghiamo — un abbonamento mensile a prezzo fisso, e quello che succede “dietro le quinte”, in termini di token effettivamente elaborati, resta per lo più nascosto.

Questa invisibilità ha una conseguenza interessante: gli abbonamenti a prezzo fisso funzionano, per chi li offre, un po’ come funziona una palestra — scommettendo statisticamente sul fatto che la maggior parte degli utenti non userà il servizio abbastanza intensamente da far perdere soldi all’azienda, mentre alcuni utenti molto intensivi verranno, in un certo senso, “sovvenzionati” dalla massa di utenti più occasionali. Non a caso, quando l’utilizzo diventa davvero massiccio — pensiamo a chi usa strumenti di programmazione assistita per ore ogni giorno — capita di imbattersi in limiti di utilizzo anche sui piani a pagamento: il prezzo fisso, in quei casi, smette di reggere il consumo reale.

Cosa consuma davvero tanti token (e cosa no)

Non tutti gli utilizzi sono uguali, in termini di token consumati. Una conversazione breve e leggera — una domanda secca, una risposta di poche righe — può richiedere solo poche centinaia di token in totale. Ma alcuni scenari fanno crescere il consumo molto rapidamente:

Gli agenti autonomi — sistemi AI a cui viene affidato un compito complesso da portare a termine senza supervisione passo-passo, per esempio “cerca informazioni su questo argomento, scrivi un report, e formattalo in una tabella” — spesso lavorano attraverso lunghe sequenze di ragionamenti intermedi, ricerche, tentativi ed errori, ciascuno dei quali consuma token, spesso in quantità molto superiori a quelle di una singola domanda-risposta.

I sistemi basati su documenti lunghi — quella che tecnicamente si chiama RAG, recupero di informazioni da una base di conoscenza, per esempio un assistente che deve rispondere a domande basandosi su centinaia di pagine di manuali interni di un’azienda — tendono a inserire grandi porzioni di quei documenti direttamente nel contesto della conversazione, gonfiando rapidamente il numero di token in input.

Il codice di programmazione, quando viene generato o analizzato in blocchi molto estesi (interi file, interi progetti), può consumare quantità considerevoli di token, anche perché — un dettaglio tecnico interessante — la sintassi del codice, con la sua punteggiatura fitta e le sue strutture ripetitive, spesso si tokenizza in modo meno efficiente rispetto al linguaggio naturale.

All’estremo opposto, restano invece relativamente leggere le conversazioni semplici, le domande di carattere generale, le richieste brevi senza allegati né cronologie lunghissime.

Tenere traccia del consumo

Chi utilizza i modelli attraverso l’API — quindi principalmente sviluppatori e aziende — ha tipicamente accesso a dashboard dettagliate che mostrano, con grande precisione, quanti token sono stati consumati, suddivisi per giorno, per modello utilizzato, a volte persino per singola funzionalità del proprio prodotto. È uno strumento che permette di individuare rapidamente, per esempio, se una particolare funzione della propria applicazione sta “bruciando” più token del previsto, magari a causa di un prompt scritto in modo inefficiente.

Sul lato dell’utente finale dei piani gratuiti o degli abbonamenti a prezzo fisso, la situazione è diversa: al massimo si vede un indicatore generico — un contatore di messaggi rimasti, un avviso quando ci si avvicina al limite — ma raramente una cifra precisa in termini di token. È una scelta deliberata di semplificazione dell’esperienza utente: la maggior parte delle persone non ha bisogno, né interesse, a ragionare in un’unità di misura così tecnica. Ma ora che sai cosa c’è dietro quel contatore, probabilmente guarderai quei numeri con un occhio un po’ diverso.

Quanto valgono i token

Non esiste “il prezzo del token”: esiste il prezzo per modello

Arriviamo così alla domanda più concreta, quella che trasforma tutto il discorso fatto finora in numeri reali: quanto costa, effettivamente, un token? La risposta più onesta è che non esiste un prezzo unico e universale. Esiste, invece, un prezzo diverso per ogni singolo modello offerto da ogni singola azienda — e, come abbiamo anticipato, un prezzo diverso a seconda che si tratti di token in input o in output.

Questo è il punto in cui il legame tra il meccanismo tecnico descritto in apertura e la scelta pratica di quale strumento usare diventa più evidente. Scegliere un modello non è mai soltanto una scelta di “qualità” — quanto è brava l’intelligenza artificiale a rispondere bene — ma è, contemporaneamente, una scelta economica precisa, ancora prima di scrivere la prima riga di un prompt.

Perché i modelli più grandi costano di più

Per capire perché il prezzo varia così tanto da un modello all’altro, bisogna tornare a un concetto già accennato: generare un token richiede calcoli, e la quantità di calcolo necessaria dipende, in buona parte, dalla dimensione e dalla complessità del modello che sta rispondendo. I modelli più “capaci” — quelli pensati per gestire ragionamenti complessi, compiti articolati, problemi che richiedono più passaggi logici — sono generalmente anche i più grandi in termini di parametri interni, e attivare tutti quei parametri per calcolare un singolo token richiede, semplicemente, più potenza di calcolo rispetto a un modello più piccolo e specializzato in compiti semplici.

Non si tratta, quindi, di un prezzo deciso arbitrariamente per ragioni di marketing, ma — almeno in buona parte — del riflesso di un costo computazionale reale che sta dietro ogni singola risposta.

I numeri di oggi: uno sguardo al mercato

Per dare concretezza a questo discorso, vale la pena guardare ai prezzi effettivamente praticati oggi dai principali laboratori, espressi — come da convenzione del settore — in dollari per milione di token, con input e output sempre indicati separatamente.

Nella famiglia di modelli Claude di Anthropic, per esempio, i prezzi seguono chiaramente una logica a scalini legata alla capacità del modello. Il modello più economico, Haiku, si attesta attorno a 1 dollaro per milione di token in input e 5 dollari in output; un modello di fascia intermedia costa circa 2-3 dollari in input e 10-15 in output; mentre il modello di punta arriva a circa 5 dollari in input e 25 dollari in output. Il rapporto tra il modello più economico e quello più costoso, quindi, è di circa cinque volte sull’input, e altrettanto sull’output.

Un pattern molto simile si osserva presso i concorrenti. Nella famiglia Gemini di Google, per esempio, i modelli di fascia “leggera” possono costare anche meno di mezzo dollaro per milione di token, mentre i modelli di punta arrivano a diversi dollari in input e oltre dieci in output. OpenAI, dal canto suo, segue una struttura a più livelli simile, con un modello di punta e diverse versioni più economiche pensate per compiti meno impegnativi.

Quello che emerge con chiarezza, guardando l’insieme del mercato, è una costante che vale per praticamente tutti i produttori: i token in output costano sistematicamente di più dei token in input — tipicamente da due a cinque volte tanto — proprio perché, come spiegato in precedenza, generare testo richiede più calcolo rispetto al semplice processarlo.

Il divario tra il modello più economico e quello più costoso

Un dato che aiuta a visualizzare bene quanto conti la scelta del modello: a parità di volume di token elaborati, il costo può variare da pochi centesimi fino a decine di dollari per milione di token, con un divario che nei casi estremi arriva a superare le cento volte tra i modelli più economici in assoluto e quelli più sofisticati destinati a ragionamenti complessi. Non è raro, all’interno della stessa famiglia di modelli offerta da un singolo produttore, osservare un rapporto di dieci o venti volte tra la versione più leggera e quella di punta.

Questo spiega perché, nella pratica dello sviluppo software, si sia affermata una strategia molto diffusa chiamata “model routing”: instradare automaticamente le richieste più semplici — un saluto, una domanda di formattazione banale, un compito di classificazione elementare — verso i modelli più economici, riservando invece i modelli di punta, molto più costosi, ai compiti che richiedono davvero un ragionamento sofisticato. Una piccola scelta architetturale che, su grandi volumi, può ridurre la spesa complessiva anche del sessanta, settanta per cento.

Perché i prezzi sono comunque scesi tanto negli ultimi anni

Nonostante il divario resti ampio tra le diverse fasce, va detto che il prezzo assoluto per token è sceso in modo drastico negli ultimi anni, per ciascuna fascia di modello. Un modello di punta che oggi costa circa 5 dollari per milione di token in input arrivava a costarne 15 solamente qualche generazione prima — una riduzione di circa il sessantasette per cento. Le ragioni sono diverse e si sommano tra loro: la concorrenza sempre più agguerrita tra i grandi laboratori, che si sfidano anche sul prezzo oltre che sulla qualità; i progressi tecnici che rendono i modelli più efficienti a parità di capacità; e un hardware di calcolo che, generazione dopo generazione, riesce a fare più operazioni con meno energia.

Va però segnalata anche una tendenza opposta, più recente, che merita attenzione: nell’ultimo anno alcuni prezzi dei modelli di punta hanno ricominciato a salire, con l’input di alcuni modelli di fascia alta più che quadruplicato in dodici mesi — segno che la fase di “sconto aggressivo” iniziale, tipica di un mercato che cerca di conquistare utenti, sta lasciando il posto, almeno per i modelli più sofisticati, a una fase di prezzi più allineati al costo reale del servizio.

Sconti e leve per ridurre i costi

Il mercato ha sviluppato anche diversi meccanismi per abbassare ulteriormente il costo effettivo, rispetto al prezzo “di listino”. L’elaborazione in batch — cioè inviare molte richieste insieme, da processare non in tempo reale ma con un po’ di ritardo — permette tipicamente di dimezzare il prezzo sia sull’input sia sull’output. La cosiddetta prompt caching, cioè la possibilità di “ricordare” parti di testo già inviate in precedenza senza doverle rielaborare da capo ogni volta, può ridurre il costo dei token in input ripetuti fino al novanta per cento. Questi meccanismi, sommati insieme, possono avere un impatto enorme sulla spesa reale di chi utilizza questi strumenti su larga scala, pur partendo dagli stessi prezzi di listino.

La scala del fenomeno: quanti token si muovono nel mondo

Finora abbiamo parlato di prezzi per singolo token, ma vale la pena allargare lo sguardo per un momento e chiedersi: quanti token, complessivamente, vengono elaborati ogni giorno nel mondo? I numeri, anche solo quelli resi pubblici dalle aziende stesse, danno le vertigini.

Google, per fare un esempio, ha dichiarato pubblicamente di essere passata da circa 9,7 trilioni di token elaborati al mese due anni fa, a circa 480 trilioni l’anno successivo, fino a superare i 3.200 trilioni di token al mese più recentemente — una crescita di sette volte in un solo anno. OpenAI, dal canto suo, ha riferito che la propria infrastruttura elabora oltre 15 miliardi di token al minuto.

Questi numeri, oltre a essere semplicemente impressionanti, aiutano a mettere in prospettiva quanto discusso finora: dietro ogni frazione di centesimo risparmiata o spesa per milione di token, si nasconde un mercato che si muove, complessivamente, a una scala economica di decine di miliardi di dollari l’anno — e che richiede, per essere sostenuto, investimenti altrettanto colossali in infrastrutture fisiche, data center ed energia.

Un paragone per farsi un’idea concreta

Per chiudere questa sezione con un numero che resti impresso, proviamo a tradurre tutto questo in un esempio pratico e vicino alla nostra esperienza quotidiana. Un romanzo di media lunghezza — diciamo centomila parole — corrisponde grosso modo, in inglese, a circa 130-140mila token. Facendolo generare interamente da un modello di fascia intermedia, con un costo in output nell’ordine di dieci-quindici dollari per milione di token, il costo puro dell’output si aggirerebbe attorno a un dollaro o due. Con un modello di punta, il costo salirebbe fino a tre-quattro dollari; con un modello economico di fascia bassa, scenderebbe sotto il dollaro. In tutti i casi, comunque, si tratta di cifre sorprendentemente contenute per una mole di testo equivalente a un intero libro — un segno di quanto, effettivamente, il costo per singola unità di testo generata si sia ridotto rispetto a soli pochi anni fa, anche se la spesa aggregata di chi opera questi sistemi resta, come abbiamo visto, enorme.

Uno sguardo d’insieme, prima di chiudere

Torniamo, per un momento, all’immagine da cui siamo partiti: quella barra di testo che si riempie a scatti, mentre aspetti la risposta di un assistente AI. Ora sai che dietro quell’apparenza semplice c’è un intero meccanismo a più livelli: il testo che scrivi viene scomposto in frammenti — i token — attraverso un processo appreso statisticamente da un laboratorio di ricerca; quei frammenti vengono trasformati in numeri ed elaborati da un modello che, letteralmente, genera la risposta un pezzo alla volta; ogni singolo pezzo richiede calcoli reali, eseguiti su hardware fisico dentro data center che consumano energia su scala industriale; e tutto questo processo, dal primo all’ultimo token, ha un prezzo preciso, diverso a seconda del modello scelto, che si somma — moltiplicato per miliardi di interazioni al giorno in tutto il mondo — in uno dei mercati economici più discussi del nostro tempo.

La prossima volta che vedrai quella risposta comparire un pezzo alla volta sullo schermo, insomma, saprai esattamente cosa stai osservando: non un semplice effetto grafico, ma la traccia visibile di migliaia di calcoli, ciascuno con un costo reale, che si susseguono uno dopo l’altro per costruire, token dopo token, la frase che stai leggendo.

Un’ultima considerazione, per guardare avanti: anche se in questo articolo ci siamo concentrati sul testo, il concetto di token non è affatto limitato a esso, e vale anche per i modelli sempre più “multimodali” — capaci cioè di gestire anche immagini, audio, video. Vale però la pena notare che il “peso” in token di questi contenuti, in input, non è affatto paragonabile a quello del testo: una singola immagine può facilmente valere quanto un’intera pagina di testo scritto, e un minuto di audio o di video può arrivare a costare, in token, quanto diverse pagine — un motivo in più, oltre alla pura complessità tecnica, per cui elaborare contenuti multimediali tende a essere sensibilmente più costoso rispetto a una semplice conversazione testuale.

Nota sulle fonti: i dati sui prezzi e sui volumi di token citati in questo articolo sono aggiornati a luglio 2026 e provengono da pagine di documentazione ufficiale dei principali produttori di modelli e da analisi di settore pubblicate online. Trattandosi di un mercato in rapidissima evoluzione, si consiglia di verificare i prezzi correnti direttamente sulle pagine ufficiali dei singoli produttori prima di qualunque utilizzo per decisioni di business.