Latest / Parole in beta / Token
Transcript
- 0:00C'era una volta il telefono pubblico a gettoni.
- 0:02Ogni gettone valeva un tempo di chiamata e più la persona a cui stavi telefonando era lontana, più velocemente si consumavano i gettoni.
- 0:11Quando eravi in vacanza e chiamavi casa, ti portavi un sacchetto pieno di gettoni e parlavi in fretta perché si bruciavano uno dopo l'altro.
- 0:19Oggi, ogni volta che parliamo con un'intelligenza artificiale, succede più o meno la stessa cosa.
- 0:25Io sono Alberto Monteverdi, questa è Parola in Beta e la parola di oggi è token.
- 0:42Token viene dall'antico inglese tācen, parola germanica che indicava un segno, una marca, un simbolo capace di mostrare qualcosa.
- 0:50È la stessa radice dell'idea latina di signum.
- 0:54Per secoli ha indicato un oggetto fisico che rappresentava un valore, come appunto un gettone, che è la traduzione italiana di questa parola.
- 1:02Il termine fa il suo ingresso nell'informatica negli anni '60, quando i primi compilatori software iniziano a scomporre i programmi in unità minime di significato lessicale.
- 1:11Da lì arriva la linguistica computazionale e oggi nei modelli di intelligenza artificiale è diventato il mattone elementare del linguaggio.
- 1:20Un token però non corrisponde a nessuna unità linguistica tradizionale.
- 1:24Non è una parola, non è una sillaba, non è nemmeno un carattere.
- 1:28È un frammento statistico che il modello ha imparato a riconoscere.
- 1:32In inglese si dice che quattro caratteri valgono in media un token.
- 1:36In una lingua più articolata dell'inglese, come ad esempio l'italiano o il tedesco, ne servono in proporzione di più.
- 1:43È come se esistesse di fatto una piccola tassa aggiuntiva che le lingue diverse dall'inglese pagano ogni volta che dialogano con un modello.
- 1:51Tokenizzare un testo significa convertirlo in numeri, perché solo così l'AI può calcolare quale token verrà dopo.
- 1:58Il token quindi è allo stesso tempo un'unità di significato e un'unità di calcolo.
- 2:03Potremmo dire che è la valuta operativa con cui misuriamo il pensiero artificiale.
- 2:08Un'analisi pubblicata sul portale Apply AI Alliance della Commissione Europea
- 2:13Si spinge a descrivere il consumo di token come il principale indicatore macroeconomico della nostra era, l'equivalente di quello che un tempo era il consumo di energia elettrica per misurare la capacità industriale.
- 2:25Ogni interazione con un modello consuma token in ingresso, quelli del nostro prompt, e consuma token in uscita, quelli della risposta.
- 2:34Tutto rientra in una memoria di lavoro chiamata finestra di contesto, che oggi è cresciuta fino a 1 o 2 milioni di token per i modelli più nuovi, più recenti.
- 2:43Più la finestra è ampia, più il calcolo diventa potente e costoso.
- 2:47È qui che nasce il fenomeno del tokenmaxxing, l'idea distorta che consumare più token significhi essere più produttivi.
- 2:55All'inizio del 2026, dentro la rete internet di Meta, è apparsa una classifica intitolata Claudeonomics.
- 3:02Premiava i dipendenti che avevano consumato più token con l'intelligenza artificiale.
- 3:06Il vincitore ne ha bruciati 281 miliardi in 30 giorni e nel sistema ha raggiunto così il livello più alto in assoluto, quello di Token Legend.
- 3:16Ma il caso Meta è solo la punta dell'iceberg.
- 3:19Goldman Sachs stima che i nuovi sistemi agenci, quelli che lavorano in cicli autonomi, consumino fino a 24 volte più token di una semplice chat.
- 3:27Uber ha esaurito il budget annuale 2026 per l'intelligenza artificiale ad aprile.
- 3:33IBM riporta che il 70% dei manager ha rinviato o cancellato progetti di intelligenza artificiale generativa.
- 3:40Proprio per insostenibilità economica.
- 3:44Come ricorda il teologo ed eticista Paolo Benanti, ogni volta che un assistente AI elabora una richiesta, il contatore gira.
- 3:51Non è una metafora, è un token.
- 3:54Il punto infatti non è quanto sia basso il prezzo del singolo token.
- 3:58Il punto è che quel contatore non si ferma mai e ogni richiesta inutile, ogni prompt sprecato, ogni agente lasciato acceso nel vuoto è un gettone che brucia.
- 4:07A questo proposito si parla oggi sempre di più di igiene del contesto.
- 4:11Per anni la corsa è stata a finestre sempre più grandi, oggi invece la disciplina è quella opposta, non riempirle ma curarle.
- 4:19Avere un milione di token a disposizione non vuol dire infatti avere un milione di token da spendere necessariamente.
- 4:25E curare il contesto significa due cose, alleggerirlo, perché ogni parola in più è un peso e un costo.
- 4:31e ordinarlo perché a un'informazione essenziale ben disposta il modello risponde meglio.
- 4:37Spendere meno e tenere pulito, insomma.
- 4:39Vediamo tre mosse concrete.
- 4:41La prima, alleggerire il testo delle risposte.
- 4:44È il principio alla base del cosiddetto Caveman Mode, la modalità uomo delle caverne diventata popolare tra gli utenti di Claude.
- 4:51In pratica, si chiede al modello di rispondere senza convenevoli, senza preamboli e senza giri di parole, solo l'informazione in forma telegrafica.
- 5:00Meno parole in uscita, meno token consumati.
- 5:03La seconda, alleggerire e ordinare ciò che diamo in pasto al modello.
- 5:08Immaginiamo di chiedere all'AI di analizzare un catalogo prodotti.
- 5:11Possiamo caricare un PDF pesante, pieno di immagini, impaginazione e dettagli che alla nostra richiesta non servono, oppure possiamo caricare gli stessi prodotti in un foglio Excel leggero con i dati ordinati in una tabella.
- 5:24Stesso contenuto, ma il secondo è molto più facile e più economico da leggere per il modello.
- 5:30La terza, non fargli rileggere ogni volta le stesse cose.
- 5:33Se ti ritrovi a riscrivere lo stesso preambolo a ogni nuova chat, chi sei, per chi scrivi, che tono vuoi, quali sono i tuoi vincoli, mettilo una volta soli in un posto fisso.
- 5:43In Claude come in ChatGPT ad esempio c'è una funzionalità che si chiama Progetto.
- 5:47Scrivi lì il tuo brief e l'assistente lo ritrova in ogni conversazione senza che tu lo ridigiti.
- 5:53Ogni chat riparte così da una base pulita e coerente invece che da un'istruzione improvvisata e diversa ogni volta.
- 6:01Però ok cercare di ottimizzare i consumi, ma la domanda che secondo me dobbiamo porci è più profonda.
- 6:07Ha senso misurare la produttività o il pensiero in token?
- 6:11Decisamente no.
- 6:12Jim Rowan di Deloitte avverte che il consumo di token rischia di diventare una metrica di vanità, come se un professore di italiano considerasse la qualità di un tema dal numero di pagine scritte e non dal loro contenuto.
- 6:24Inoltre lo stesso Benanti ci ricorda che l'AI non è un utility come l'elettricità, ma un'infrastruttura di potere.
- 6:31La differenza infatti è questa.
- 6:33L'elettricità, una volta pagata, è tua e il fornitore si fa da parte.
- 6:37Con l'AI, invece, chi controlla l'infrastruttura mantiene una presa su chi la usa.
- 6:42Non compri un servizio e basta, entri in una relazione di dipendenza.
- 6:45L'AI che hai comprato sta comprando te.
- 6:49La sfida vera allora non è quanti token consumiamo, ma chi decide cosa, dove e a che prezzo possiamo pensare con le macchine.
- 6:57Con i vecchi telefoni a gettoni, per parlare lontano servivano più monete e bisognava usarle con attenzione.
- 7:03Con l'intelligenza artificiale vale lo stesso principio, solo che oggi quei gettoni si chiamano token, sono invisibili e li paghiamo tutti.
- 7:11Sapere come funzionano significa capire dove va la nostra produttività, dove finiscono i nostri budget e su quale infrastruttura stiamo costruendo il lavoro dei prossimi anni.
- 7:20Il token in fondo non è ancora un concetto stabile, è una parola in costruzione, che cambia in parte significato ogni volta che cambia un modello.
- 7:29Ed è esattamente per questo che oggi resta profondamente una parola in beta.
- 7:38Questo era Parole in Beta, termini e condizioni d'uso per il presente, un podcast scritto e prodotto da me.
- 7:44Alberto Monteverdi.
- 7:45Puoi ascoltarlo su Paroleinbeta.it
- 7:47e su tutte le principali piattaforme.
- 7:50Lo trovi anche su Instagram.
- 7:51Per scrivermi podcast@paroleinbeta.it
- 7:55Link approfondimenti citati sono nelle note della puntata.
- 7:59Ci vediamo la prossima settimana.