Latest / Parole in beta / Guardrail
Transcript
- 0:00Quando guidi su una strada veloce, piena di curve, ai lati corrono i guardrail.
- 0:04Non ti bloccano e non ti rallentano, evitano solo che tu esca di strada.
- 0:08Ti aiutano a guidare in sicurezza.
- 0:10Anche dentro gli algoritmi esiste qualcosa di analogo e si chiama proprio allo stesso modo.
- 0:15Guardrail.
- 0:16Ma c'è una differenza inquietante.
- 0:18Nel maggio 2026 un giornalista dei Financial Times ha usato uno strumento gratuito per rimuovere le protezioni di un modello di intelligenza artificiale e ci è riuscito in meno di 10 minuti.
- 0:28I guard rail degli algoritmi a quanto pare si possono svitare.
- 0:33Io sono Alberto Monteverdi, questo è Parole in Beta e la parola di oggi è Guardrail.
- 0:50La parola guard rail arriva dall'inglese: Guard, proteggere, e rail, barriera.
- 0:57In italiano dovremmo usare la parola guardavia.
- 1:00È un termine che nasce nel mondo stradale per indicare quelle barriere metalliche che contengono i veicoli senza fermarli.
- 1:07Negli ultimi anni il termine è migrato nell'intelligenza artificiale e la metafora è rimasta intatta.
- 1:12Come scrive la ricercatrice Ady Mishra, i guardrail dell'AI funzionano proprio come le barriere lungo una strada di montagna.
- 1:20Mantengono il sistema in carreggiata e prevengono deviazioni estreme che potrebbero causare danni, come per esempio generare contenuti pericolosi o contrari alla legge.
- 1:31Ma cosa sono tecnicamente i guardrail?
- 1:33Non riguardano l'addestramento del modello, sono sistemi di controllo esterni e indipendenti, come filtri e regole software che agiscono in tempo reale.
- 1:43Si posizionano nel mezzo della conversazione e intercettano due momenti.
- 1:47Da un lato, i guardelli in entrata analizzano la domanda dell'utente prima che arrivi al modello, per bloccare attacchi, manipolazioni o l'invio di dati sensibili.
- 1:57Pensa ad esempio ai generatori di immagini.
- 1:59Quasi tutti impediscono di caricare foto di minori o di personaggi pubblici.
- 2:03I guardrelli in uscita, invece, controllano la risposta prima che ti venga mostrata.
- 2:08Se il modello inventa dati, usa un tono inappropriato o genera codice pericoloso, lo bloccano.
- 2:14Forse è qualcosa di più simile a uno scudo.
- 2:16che non ha un freno.
- 2:18Per capire davvero cosa sono i guardrail è necessario collocarli accanto a due concetti vicini nell'AI etica.
- 2:25Hardness e containment.
- 2:28Altre due parole inglesi che magari approfondiremo in futuro in nuove puntate del podcast.
- 2:32Possiamo immaginare hardness, guardrail e containment su tre livelli diversi.
- 2:37L'harnes, in italiano l'imbracatura, è il crash test in fabbrica.
- 2:43Misura capacità e debolezze del modello in laboratorio, prima del rilascio su strada.
- 2:48Il guardrail è la barriera sulla strada.
- 2:51Protegge l'utente durante l'uso in tempo reale.
- 2:54Il containment, in italiano contenimento,
- 2:57È il controllo della tecnologia nel lungo periodo, ad esempio attraverso leggi ufficiali e regolamentazioni di settore.
- 3:04È Mustapha Sleyman, cofondatore di DeepMind, a usare quest'ultimo termine nel suo saggio The Coming Wave.
- 3:10uscito in italiano col titolo L'Onda che verrà.
- 3:13Per Suleyman i guardrail tecnici da soli sono del tutto insufficienti.
- 3:18Servono trattati, sorveglianza dei microchip, interruttore di emergenza.
- 3:22In pratica, il guardrail è la tattica, ma il contenimento è la strategia.
- 3:27E qui emerge tutta la fragilità dei guardrail.
- 3:30Si tende a pensare che funzionino bene finché il modello resta chiuso e proprietario, controllato dall'interno e dall'azienda che lo possiede, come avviene con ChatGPT, Gemini o Cloud.
- 3:40E in parte vero.
- 3:41Per noi che ne siamo al di fuori restano scatone nere dal funzionamento poco trasparente.
- 3:46Ma chiuso non significa inviolabile
- 3:49Anche questi modelli infatti si possono aggirare con tecniche di manipolazione dei prompt, come ad esempio quella conosciuta come jailbreak, in cui in pratica, usando le parole giuste, si convince il sistema a scavalcare le proprie stesse regole.
- 4:02Con i modelli appesi aperti, come la ama, gemma o mistral, il problema è più radicale: le protezioni possono addirittura essere rimosse del tutto.
- 4:11Quel giornalista del Financial Times di cui parlavamo all'inizio non era un esperto, gli è bastato uno strumento gratuito, lo stesso strumento che avrebbe già generato migliaia di versioni, per così dire, liberate, di modelli pubblici di intelligenza artificiale.
- 4:25che ora sono diventate utilizzabili fuori controllo.
- 4:28Ma non dobbiamo dimenticare che in tutto questo esiste anche una tensione di mercato
- 4:33Aggiungere guardrail rallenta le risposte e la lentezza costa.
- 4:37È come mettere un limitatore di velocità su un'auto sportiva.
- 4:41Perdi il vantaggio per cui hai pagato.
- 4:43Così le aziende bilanciano sicurezza e prestazioni, ma non sempre è la sicurezza a vincere.
- 4:49Anche i governi se ne occupano.
- 4:51C'è chi adotta un approccio morbido, come l'Australia, che nel 2024 ha pubblicato 10 guardrail volontari per l'AI, dalla governance, la trasparenza e il controllo umano.
- 5:02Ben congegnati, ma appunto volontari.
- 5:05E c'è invece chiusa il pugno duro, come il governo statunitense, che nel giugno 2026 ha imposto ad Anthropic di bloccare l'accesso ai suoi due nuovi modelli di punta, Mythos e Fable.
- 5:15a tutti i cittadini stranieri.
- 5:17Il divieto è arrivato a fronte di una presunta vulnerabilità al jailbreak, che potrebbe minacciare la sicurezza degli Stati Uniti, un paese che in questo momento è in stato di guerra.
- 5:26Ora, il caso è molto controverso, si inserisce in un clima già esistente di tensione tra Entropica e l'amministrazione Trump e in questo momento i giochi sono apertissimi.
- 5:35Mi limito a sottolineare che evidentemente nessun guardrail può essere considerato risolutivo.
- 5:41Torniamo sulla strada.
- 5:42Un guardrail d'acciaio, quando guidi, non puoi svitarlo.
- 5:46È lì, fisso, uguale per tutti.
- 5:48I guardarel dell'intelligenza artificiale invece si possono smontare, piegare e aggirare.
- 5:53oppure obbediscono a logiche opache che non coincidono per forza con l'interesse pubblico.
- 5:59Per questo guardrail, una parola che conosciamo tutti, suona diversa quando l'applichiamo all'AI.
- 6:05Non è una protezione che ci mette al sicuro una volta per tutte, è un margine.
- 6:09La sicurezza dell'AI non è una barriera che si installa, ma qualcosa che si decide e si negozia ogni giorno.
- 6:16E dietro c'è sempre un giudizio umano.
- 6:23Questo era Parole in Beta, termini e condizioni d'uso per il presente, un podcast scritto e prodotto da me, Alberto Monteverdi.
- 6:32Su paroleinbeta.
- 6:33it e su tutte le principali piattaforme.
- 6:35Lo trovi anche su Instagram.
- 6:39Parololinbeta.
- 6:40it.
- 6:41Link e approfondimenti citati sono nelle note della puntata.
- 6:44Ci vediamo la prossima settimana.