Latest / Parole in beta / Harness
Transcript
- 0:00Qualche settimana fa, nella puntata sulla parola hype, ho accennato una storia successa a luglio.
- 0:05Ripartiamo da lì, perché nel dibattito sulla pericolosità dell'intelligenza artificiale che impazza in questi giorni, quel caso è considerato un punto di non ritorno.
- 0:14I fatti, prima di tutto.
- 0:16Siamo nei laboratori di OpenAI e 1200 agenti, cioè software autonomi basati sull'intelligenza artificiale, sono sotto esame.
- 0:25Si misura
- 0:26la loro capacità di attaccare un sistema informatico.
- 0:29Non hanno accesso a internet
- 0:31e non hanno alcun modo di scambiarsi dati fra di loro.
- 0:34e ricevono dei compiti impossibili.
- 0:36Uno ad esempio
- 0:37deve completare un foglio di calcolo che dipende da file che non può raggiungere.
- 0:43Ma
- 0:43di fronte al blocco gli agenti non si fermano, lo aggirano.
- 0:47Uno di loro trova un archivio condiviso rimasto accessibile.
- 0:51Cominciano a usare questo archivio come una bacheca, si lasciano messaggi, collaborano.
- 0:56e
- 0:57si passano le falle che scoprono man mano.
- 1:00Ne trovano una nel software che li teneva chiusi proprio lì e allora riescono a uscire su internet.
- 1:06dove
- 1:07trovano una password scritta in chiaro
- 1:09lasciata online da qualcuno.
- 1:11Così, in meno di 13 ore, arrivano a prendere il controllo dei server della piattaforma Hugging
- 1:17Face.
- 1:18Chi ha ricostruito la vicenda
- 1:20conterà oltre 17.
- 1:21000
- 1:22mosse.
- 1:23I giornali li hanno chiamati agenti "rogue", agenti canaglia.
- 1:28Ma nessuno si era ribellato, era
- 1:30un test sulle loro capacità offensive
- 1:32e i tecnici
- 1:33avevano tolto apposta i freni per osservare il loro comportamento.
- 1:37Ed
- 1:37è proprio questo il punto.
- 1:39Un'intelligenza artificiale può diventare molto più pericolosa senza che nessuno la renda più potente.
- 1:45Basta cambiare quello che le sta intorno,
- 1:47dove può arrivare, cosa può usare, chi la controlla.
- 1:52Oggi è il 16 settembre 2026, io sono Alberto Monteverdi, questo è Parole in beta e la parola di questa settimana è Harness.
- 2:09Harness
- 2:09è una parola inglese, ma è una parola che è in viaggio da mille anni.
- 2:14Probabilmente viene dal norreno, la lingua dei vichinghi, hernest, da herr, esercito, più nest, le provviste da portarsi per la battaglia.
- 2:23Nel francese antico, harneis insieme l'armatura del cavaliere e i finimenti del cavallo da guerra.
- 2:31Equipaggiamento quindi in tutti e due i casi.
- 2:34Ma nel 300 la parola esce dal campo di battaglia.
- 2:37Sono i finimenti del cavallo da
- 2:39tiro, le cinghie, il collare, le briglie.
- 2:43Quella stessa parola francese è arrivata anche da noi e la usiamo ancora.
- 2:47Harneis in italiano è diventato arnese, lo strumento di lavoro.
- 2:51Ma è in inglese, verso la fine del Seicento, che la parola assume il senso figurato che oggi è il più comune, to harness, imbrigliare una forza naturale per metterla al lavoro.
- 3:02Si imbriglia il vento e girano i mulini, si imbriglia il vapore e si muovono i treni.
- 3:08C'è poi il significato più concreto, quello che l'inglese usa ancora tutti i giorni.
- 3:12Harness è l'imbracatura, quella dell'alpinista, quella del paracadutista, quella che tiene
- 3:18un bambino nel seggiolino.
- 3:20Nel software, un test harness è l'impalcatura che esegue il codice in condizioni controllate e ne osserva il comportamento, il banco di prova in altri termini.
- 3:30Nell'intelligenza artificiale il cavallo, la forza pura, è chiamato modello
- 3:35e l'harness è quello che gli mette attorno e che decide dove può andare e quanto
- 3:41può tirare.
- 3:42E il cavallo con i finimenti, quello che si muove nel mondo e fa le cose, è la gente, come 1200 di OpenAI
- 3:50di luglio.
- 3:51Teniamo a mente questa
- 3:52ambiguità di fondo, perché i finimenti servono a frenare il cavallo, ma servono anche a fargli tirare un carro che da solo non riuscirebbe a spostare.
- 4:02L'harness decide che cosa il modello di intelligenza artificiale vede.
- 4:06Decide che cosa può toccare, quali strumenti, con quali permessi.
- 4:10Decide che cosa si ricorda da un passaggio all'altro
- 4:14e decide chi controlla il risultato prima che diventi un'azione
- 4:17vera.
- 4:18Il modello non cambia di una virgola, cambia soltanto quello che gli sta intorno
- 4:23e conta moltissimo.
- 4:24C'è un test di ragionamento fra i più difficili in circolazione, si chiama ARC-AGI, lo stesso identico modello di intelligenza artificiale, senza toccarlo, passa da circa 30 risposte giuste
- 4:35su 100 a più di 95.
- 4:37Cambiando solo l'harness.
- 4:39Quando esce un nuovo modello, le sue capacità vengono misurate mediante delle prove standard, le stesse per tutti, i cosiddetti benchmark.
- 4:47Ogni prova dà un punteggio e da quei punteggi nascono le classifiche che leggiamo nei report e nei comunicati stampa.
- 4:54Quando un modello tiene
- 4:55un certo punteggio dobbiamo ricordarci che non stiamo misurando il cavallo da solo.
- 4:59Stiamo misurando il cavallo con i finimenti che qualcuno gli ha messo addosso.
- 5:04Un ricercatore di Berkeley, Shangding Gu, dice che il prossimo salto non verrà da modelli più grandi, ma verrà dai sistemi di harness
- 5:11costruiti intorno a loro.
- 5:13Attenzione però a non confondere l'harnes
- 5:16con i guardrail, ne abbiamo parlato anche in una puntata precedente.
- 5:20Il guardrail è la barriera a bordo strada, interviene quando il veicolo sta già uscendo e lo rimanda dentro.
- 5:26Blocca la risposta mentre sta arrivando.
- 5:29L'arnes
- 5:30viene prima, è il veicolo ed è anche la patente.
- 5:33Decide dove il modello può andare e quanto
- 5:36forte, prima ancora che parta.
- 5:39Qualche giorno fa, Dario
- 5:41Amodei, il numero uno di Anthropic, ha pubblicato un saggio in cui chiede all'industria dell'intelligenza artificiale di rallentare.
- 5:47Non di fermarsi, di far crescere le capacità dei modelli più lentamente per dare alla sicurezza il
- 5:53tempo di stare al passo.
- 5:55Nel giro di poche ore si sono detti d'accordo tutti i grandi nomi dell'industria, da Sam
- 6:00Altman a Elon Musk, a Satya Ndella.
- 6:02Dalla
- 6:03politica invece è arrivato l'avvertimento opposto.
- 6:05Attenzione, così si soffoca l'innovazione
- 6:08e si regala il campo alla Cina.
- 6:10Donald Trump ha scritto che l'unico guardel di cui l'intelligenza artificiale ha bisogno è un presidente forte e intelligente.
- 6:17Sulle virtù del presidente preferiamo non esprimerci, ma sul piano tecnico abbiamo visto che
- 6:23il punto
- 6:24non sono affatto i guardrail.
- 6:26C'è anche chi ha osservato che quando un'azienda propone le regole della propria sicurezza
- 6:31non sta costruendo una barriera di protezione, ma sta scavando un fossato intorno al proprio castello per renderlo sempre meno accessibile dall'esterno.
- 6:39E teniamo presente una cosa che abbiamo visto nella puntata sulla
- 6:43Hype.
- 6:44Dire che una tecnologia può distruggere il mondo è anche il modo più efficace di dire che è potentissima.
- 6:49L'allarme e la pubblicità
- 6:51qui hanno spesso la stessa forma.
- 6:54Come al solito c'è tanto
- 6:55tanto rumore.
- 6:57La parte tecnica in realtà è più semplice di come ce la raccontano.
- 7:01Che cosa dovremmo rallentare?
- 7:03Se la capacità di fare danni non è cresciuta nel modello ma in quello che gli sta intorno, è lì che bisogna agire, sui finimenti del cavallo.
- 7:11L'harness è la parte più facile su cui intervenire.
- 7:15A differenza dell'addestramento dei modelli, infatti, non servono supercomputer e non servono miliardi di dollari.
- 7:21È codice software che si scrive, si copia, si pubblica.
- 7:24È
- 7:25una porta aperta
- 7:26in tutti e due i sensi.
- 7:27Chiunque può rendere più pericoloso un modello già uscito e chiunque può metterci mano per contenerlo.
- 7:33Ed
- 7:34è proprio questo il punto.
- 7:35Ma attenzione, per rendere pericoloso un modello basta un programmatore in una stanza.
- 7:40Invece per contenerlo servono tutti i laboratori del mondo, Cina compresa.
- 7:46Del resto, anche il verdetto
- 7:48questo
- 7:48modello non è pericoloso
- 7:50esce da una prova, ed è come un esame, se le domande sono troppo facili, passano tutti, il che lascia una domanda aperta e non è quella che si legge sui giornali.
- 8:00Infatti, non quanto è pericolosa l'intelligenza artificiale, ma chi mette mano all'harness.
- 8:08Le aziende che costruiscono modelli sempre più potenti, cioè le stesse che stanno chiedendo di rallentare.
- 8:14I governi che finora hanno guardato le due estremità: chip e data center da una parte, gli usi vietati dall'altra.
- 8:21Ma mai quello che sta in mezzo?
- 8:23Un qualche tipo di organismo internazionale che ancora non esiste in un mondo dove nessuno può imporre niente a nessuno.
- 8:31Gli agenti canaglia di OpenAI
- 8:33non erano malvagi
- 8:34e non avevano obiettivi propri.
- 8:36Avevano un compito impossibile e un ambiente da esplorare.
- 8:40Se per noi un confine è un muro invalicabile, per un modello di intelligenza artificiale abbastanza capace, è semplicemente un'altra parte del problema da risolvere.
- 8:49La discussione pubblica continua a chiedersi quanto sia pericoloso il modello, ma il punto non è quanto è potente il modello, ma che cosa gli abbiamo messo intorno
- 8:58e chi ha misurato, con quale strumento.
- 9:02In poche parole, l'harness, l'arnese che trattiene il cavallo, lo stesso che gli fa tirare il carro.
- 9:09La prima cosa da capire è chi tiene
- 9:11le redini e chi controlla che siano robuste.
- 9:14Per adesso la mano è la stessa ed è quella di un'azienda privata.
- 9:18Per il cibo, per i farmaci, per gli aerei, a un certo punto abbiamo deciso che chi produce non può essere anche chi certifica.
- 9:25Per l'intelligenza artificiale
- 9:27non ancora.
- 9:31Questo era
- 9:32Parole in beta, termini e condizioni d'uso per il presente.
- 9:35Un podcast scritto e prodotto da me, Alberto Monteverdi.
- 9:39Puoi ascoltarlo su paroleinbeta. it
- 9:41e su tutte le principali piattaforme.
- 9:43Lo trovi anche su Instagram.
- 9:45Per iscrivermi
- 9:46podcast@paroleinbeta.it.
- 9:49Link e approfondimenti citati sono nelle note della puntata.
- 9:53Alla prossima!