Latest / Ti do la mia parola / 063 | Il nuovo gioco di Turing: imparare a sbagliare con l'intelligenza artificiale | «Sbagliare»

Transcript

063 | Il nuovo gioco di Turing: imparare a sbagliare con l'intelligenza artificiale | «Sbagliare» · Ti do la mia parola

0:09
Speaker 2: Benvenuti in Rifocast, il podcast del riformista.
0:19
Speaker 3: Benvenute e benvenuti su Ti do la mia parola, il
0:22
Speaker 3: mio podcast in collaborazione con il riformista. Io sono Andrea
0:26
Speaker 3: Laudadio e ogni settimana ti darò una parola, la mia parola,
0:30
Speaker 3: per capire il mondo del lavoro. La parola di oggi
0:33
Speaker 3: è sbagliare. Ottobre 1950, sulla rivista di filosofia Mind, esce l'articolo
0:40
Speaker 3: che cambierà un secolo. L'autore è Alan Turing. Dentro l'articolo
0:44
Speaker 3: c'è quel famoso gioco che porterà il suo nome. Il
0:46
Speaker 3: gioco è semplice. Un interrogante chiuso in una stanza deve
0:50
Speaker 3: capire per iscritto se dall'altra parte c'è una persona oppure
0:53
Speaker 3: una macchina. Per vedere come funziona Turing immagina un dialogo
0:57
Speaker 3: di prova. Quattro domande. la seconda è un'addizione la richiesta
1:02
Speaker 3: è somma 34.957 a 70.764 l'interlocutore aspetta una trentina di secondi poi risponde 105.621
1:05
Speaker 3: ora tu prendi anche la calcolatrice La somma esatta però è 105.721.
1:19
Speaker 3: L'errore è di 100. Non sapremo mai se lo possiamo definire
1:24
Speaker 3: un errore, ma quell'errore è a pagina 434 di quella rivista.
1:30
Speaker 3: E nessuno l'ha mai corretto. Compare infatti uguale nei facsimili,
1:34
Speaker 3: nelle ristampe, nelle edizioni critiche. Nessun curatore ci ha mai
1:39
Speaker 3: messo una nota. E c'è di più. Non sappiamo chi
1:42
Speaker 3: ha sbagliato. Il biografo di Turing dice che la macchina
1:46
Speaker 3: apposta per sembrare umana. Un altro studioso parla di un
1:50
Speaker 3: uovo di Pasqua per il lettore molto attento. Un uovo
1:52
Speaker 3: di Pasqua è una sorpresa che si mette per esempio
1:55
Speaker 3: dentro i software per far scoprire ad utenti particolarmente attenti
1:59
Speaker 3: delle piccole sorprese. Ma c'è una lettura recente che sostiene
2:03
Speaker 3: il contrario. Lì risponde a una persona che ha fatto
2:08
Speaker 3: la somma a mente in 30 secondi e l'ha sbagliata come
2:11
Speaker 3: capita a tutti. Il testo non aiuta a decidere. Turing
2:15
Speaker 3: scrive soltanto domanda e risposta. Un errore di cento fermo
2:20
Speaker 3: da 75 anni e ancora non sappiamo se è umano o artificiale. Però,
2:27
Speaker 3: qualche pagina dopo, Turing scrive una frase che ci servirà
2:31
Speaker 3: per l'episodio di oggi. Qualcuno gli obietta al tuo gioco
2:35
Speaker 3: una macchina perderebbe perché si tradirebbe con la sua micidiale accuratezza.
2:41
Speaker 3: Turing invece gli risponde che una macchina ben programmata non
2:44
Speaker 3: ci proverebbe nemmeno a dare le risposte giuste. Introdurrebbe errori
2:49
Speaker 3: appositamente per confondere l'interrogante. Questa frase poi ha fatto il
2:54
Speaker 3: giro del mondo. Meno fortuna ha avuto la riga successiva dell'articolo,
2:58
Speaker 3: perché la riga dopo non la cita quasi mai nessuno
3:01
Speaker 3: e dice un guasto si rivelerebbe con una decisione inadatta
3:06
Speaker 3: su quale tipo di errore commettere. Rileggila. Una macchina non
3:11
Speaker 3: si tradisce sbagliando, si tradisce sbagliando nel modo sbagliato. Sbagliare bene, quindi,
3:17
Speaker 3: è difficilissimo. Nel 1950, in una frase forse secondaria, Turing aveva
3:23
Speaker 3: già indicato il punto esatto in cui, 75 anni dopo, ci
3:26
Speaker 3: saremmo arenati. Sì, lo so che cosa stai pensando, ma
3:29
Speaker 3: che c'entra col tuo podcast? E che c'entra con me? Ah,
3:33
Speaker 3: te lo dico subito. Questo episodio è per te se
3:36
Speaker 3: hai chiesto qualche volta alla tua intelligenza artificiale di fare
3:40
Speaker 3: da pubblico, per esempio per provare una presentazione. Perché oggi
3:44
Speaker 3: alle macchine chiediamo proprio questo, di sbagliare, di dirci se
3:48
Speaker 3: è comprensibile, di dirci cosa hanno capito del documento che
3:52
Speaker 3: abbiamo preparato. sembra assurdo ma spendiamo miliardi l'anno perché le
3:56
Speaker 3: macchine non sbaglino e poi gli chiediamo di sbagliare il
4:00
Speaker 3: motivo è estremamente serio perché chi insegna chi cura oppure
4:04
Speaker 3: chi vende impara il mestiere su persone vere dall'interrelazione con
4:08
Speaker 3: persone vere un futuro insegnante deve saper guardare una risposta
4:12
Speaker 3: sbagliata e capire in tre secondi quale ragionamento c'è dietro
4:16
Speaker 3: da parte dello studente un venditore deve capire se il
4:19
Speaker 3: suo interlocutore ha correttamente compreso quello che gli ha detto
4:22
Speaker 3: Ti faccio l'esempio più semplice che esista. Un bambino scrive
4:26
Speaker 3: che un mezzo più un terzo fa due quinti. Ha
4:31
Speaker 3: sommato i numeri sopra e i numeri sotto tra di loro.
4:34
Speaker 3: Non ha un buco al posto delle frazioni. Ha una regola.
4:39
Speaker 3: Una regola che con i numeri interi ha sempre funzionato.
4:42
Speaker 3: È un errore intelligente. E se vogliamo stare a quel
4:45
Speaker 3: livello di intelligenza, dobbiamo semplicemente trovare una domanda che gli
4:50
Speaker 3: faccia vedere da solo dove la sua regola smette di valere.
4:54
Speaker 3: Queste capacità si imparano in un modo solo, esercitandole. Su
4:59
Speaker 3: di chi? Beh, prendiamo il caso della medicina. La medicina
5:03
Speaker 3: lo ha risolto nel 1963, assumendo degli attori addestrati a fare
5:07
Speaker 3: i pazienti. Funziona da 60 anni ma ha un problema, costa tantissimo.
5:12
Speaker 3: Quindi quando è arrivata l'intelligenza artificiale qualcuno ha pensato possiamo
5:16
Speaker 3: far fare pratica ai dottori esercitandosi con dei pazienti simulati
5:21
Speaker 3: dall'intelligenza artificiale. Appena i modelli linguistici sono diventati credibili in
5:26
Speaker 3: conversazione il pensiero, l'idea è venuta a tutti. L'attore ce
5:31
Speaker 3: lo fa la macchina. Non si stanca mai, costa poco,
5:34
Speaker 3: è disponibile la sera prima dell'esame, l'idea è ottima, ma
5:38
Speaker 3: sembra che non funzioni. C'è un gruppo di ricercatori che
5:42
Speaker 3: ha chiesto a due modelli di sbagliare come se fossero
5:45
Speaker 3: uno studente normale. Poi ha letto le tracce del loro ragionamento,
5:50
Speaker 3: riga per riga. In nove casi su dieci la sequenza
5:53
Speaker 3: è identica. Prima il modello costruisce la soluzione corretta, per intero,
5:59
Speaker 3: poi torna indietro di qualche passaggio e sceglie il punto
6:03
Speaker 3: in cui rovinarla. Non sbaglia. Arriva all'errore all'indietro, partendo dalla
6:07
Speaker 3: risposta giusta. È il gesto di chi prepara una verifica,
6:11
Speaker 3: a me è capitato tante volte, non di chi la subisce.
6:14
Speaker 3: Il bambino delle frazioni non ha una risposta giusta da
6:17
Speaker 3: cui allontanarsi, ne ha un'altra nella quale crede. Ed è
6:21
Speaker 3: per questo che la differenza si vede in un momento preciso,
6:24
Speaker 3: cioè quando provi a correggerlo. Il bambino difende la sua regola,
6:27
Speaker 3: perché ha le sue ragioni, il modello invece no. Che
6:31
Speaker 3: tu lo corregga con una spiegazione perfetta o un'osservazione fuori tema,
6:36
Speaker 3: cede subito e cede sempre. L'hanno misurato su sette modelli,
6:40
Speaker 3: tra una correzione fatta bene e una a caso la
6:43
Speaker 3: differenza è praticamente zero. Il fenomeno ha un nome antico, psicofansia,
6:48
Speaker 3: l'arte di chi ti dà sempre ragione. E questo per
6:51
Speaker 3: fare addestramento delle nuove reclute, che siano venditori, formatori, medici,
6:57
Speaker 3: quello che volete, presenta un insegnamento nefasto. Perché un allievo
7:01
Speaker 3: così non ti insegna a leggere il pensiero di nessuno,
7:04
Speaker 3: ti insegna una cosa semplice e devastante, che qualunque cosa
7:08
Speaker 3: dici funziona. Perché quanto è pericoloso un interlocutore che ti
7:13
Speaker 3: applaude sempre? C'è un esperimento che lo dice con tre numeri.
0:00
Speaker 3: 24 persone alle prime armi, lo stesso compito, due assistenti artificiali,
7:22
Speaker 3: uno a condiscendente e uno che invece ti contraddice. Chi
7:25
Speaker 3: ha lavorato con quello che ti contraddice è migliorato del 49%.
7:30
Speaker 3: Chi ha lavorato con quello a condiscendente, meno del 5%.
7:34
Speaker 3: Il numero che conta, però, è il terzo. Sette partecipanti
7:37
Speaker 3: su dieci non hanno notato nessuna differenza. Chi era stato
7:42
Speaker 3: assecondato usciva convinto di aver imparato. Fermati un secondo. L'ultima
7:48
Speaker 3: volta che hai chiesto un parere alla tua intelligenza artificiale,
7:51
Speaker 3: ti ha detto che avevi torto? Te lo ha mai detto?
7:54
Speaker 3: A me sta accadendo molto di recente, con soprattutto l'utilizzo
7:57
Speaker 3: di Cloud. ChatGPT è ancora molto accondiscendente. Però per alcuni
8:02
Speaker 3: anni non sono mai stato contraddetto. Nei miei corsi questa
8:06
Speaker 3: roba qua la chiamerei la questione delle quattro dita. Ve
8:09
Speaker 3: lo ricordate per un periodo molto lungo quando si generavano
8:12
Speaker 3: immagini di persone per capire che erano state fatte con
8:15
Speaker 3: l'intelligenza artificiale bastava guardare le mani e il numero di
8:18
Speaker 3: dita spesso non tornava. Ora... Col tempo questo problema è
8:23
Speaker 3: stato abbondantemente superato, oggi non è più un criterio guardare
8:26
Speaker 3: le dita per capire se un'immagine è fatta con l'intelligenza
8:29
Speaker 3: artificiale e questo ci fa pensare che nel tempo, secondo
8:32
Speaker 3: me anche abbastanza breve, le macchine impareranno a contraddirci. Ma
8:37
Speaker 3: fin qui sembra che io stia parlando di un difetto
8:39
Speaker 3: delle macchine. Ma adesso arriva la parte che preferisco, perché
8:43
Speaker 3: in realtà io ho capito studiando questo problema che riguarda noi,
8:48
Speaker 3: Perché una macchina fa quello per cui è stata programmata.
8:51
Speaker 3: Per essere programmata correttamente bisogna ben comprendere il problema. Per
8:56
Speaker 3: costruire un allievo artificiale bisogna descrivere come sbaglia un allievo vero. Provandoci,
9:02
Speaker 3: mi sono accorto di una cosa. Noi non sappiamo cosa
9:05
Speaker 3: c'è dietro un errore. Per secoli abbiamo pensato all'ignoranza come
9:10
Speaker 3: a un vuoto. Il vaso da riempire, diciamo, è sempre
9:13
Speaker 3: stata la nostra metafora, la pagina bianca. Gabe Brousseau Il
9:17
Speaker 3: padre della didattica della matematica l'aveva scritto 40 anni fa. L'ostacolo
9:22
Speaker 3: non nasce dall'assenza di conoscenza, nasce da una consapevolezza, da
9:26
Speaker 3: una conoscenza precedente che aveva i suoi successi e che
9:30
Speaker 3: a un certo punto non basta più. L'ignoranza che serve
9:33
Speaker 3: alla formazione non è un vuoto, è un edificio. Ha
9:36
Speaker 3: delle fondamenta, una storia, una logica che lo tengono in
9:39
Speaker 3: piedi e gli edifici non si ottengono togliendo o aggiungendo,
9:43
Speaker 3: ma si ottengono progettando. Noi, o almeno io, quel progetto
9:48
Speaker 3: oggi non ce l'abbiamo. E te lo dimostro con una
9:50
Speaker 3: cosa che facciamo da un secolo. Le domande a scelta multipla.
9:54
Speaker 3: Le tre risposte sbagliate sono ipotesi su come si sbaglia,
9:57
Speaker 3: scritte da chi conosce la materia. In un'analisi su quasi 2000
10:01
Speaker 3: risposte sbagliate di esami veri, più della metà non funziona.
10:05
Speaker 3: Non le sceglie quasi nessuno. La metà degli errori che
10:08
Speaker 3: scriviamo per gli altri sono errori che nessuno commette. Questo
10:11
Speaker 3: significa che anche i professori universitari non conoscono bene quali
10:16
Speaker 3: sono gli errori che commettono i loro allievi. Ma non
10:20
Speaker 3: è sciatteria. Chi conosce bene una materia ha perso l'accesso
10:23
Speaker 3: a com'è il mondo non conoscendola. Gli insegnanti di matematica
10:27
Speaker 3: messi davanti a problemi da ordinare per difficoltà considerano facile
10:32
Speaker 3: proprio ciò che gli studenti trovano più difficile. Si chiama
10:35
Speaker 3: punto cieco dell'esperto e più sei competente e più il
10:40
Speaker 3: punto cieco è marcato. Chiediamo alla macchina di costruire dell'ignoranza
10:44
Speaker 3: e che non abbiamo mai iniziato a misurare da tutta
10:48
Speaker 3: questa roba che ho letto sugli sbagli cercando di creare
10:51
Speaker 3: il mio allievo artificiale ho imparato due cose e credo
10:56
Speaker 3: che queste due cose possano essere utili anche per te
10:58
Speaker 3: la prima se usi l'intelligenza artificiale per allenarti sappi con
11:03
Speaker 3: chi ti alleni cioè con un pubblico che spesso applaude
11:07
Speaker 3: per risolverlo ti costerà una frase cioè dimmi tre punti
11:11
Speaker 3: deboli del mio ragionamento dimmi dove un cliente ostile mi
11:15
Speaker 3: metterebbe in difficoltà come allievo per adesso per i miei
11:19
Speaker 3: test l'intelligenza artificiale non se la cava proprio però ho
11:22
Speaker 3: scoperto che come avvocato del diavolo se la cava piuttosto
11:25
Speaker 3: bene e che quindi i prompt che funzionano meglio sono
11:28
Speaker 3: quelli di sei il mio critico più feroce? Fammi sette
11:32
Speaker 3: critiche su quello che ti ho appena proposto. Oppure dimmi
11:36
Speaker 3: qual è il punto cieco che non riesco a vedere
11:38
Speaker 3: di questo documento. Oppure dimmi su che cosa mi attaccheresti
11:42
Speaker 3: perché ho commesso un errore su questo documento. Sii spietato.
11:46
Speaker 3: E questo grossomodo funziona. La seconda invece vale anche, forse soprattutto,
11:51
Speaker 3: per chi non usa l'intelligenza artificiale. E vale con i
11:54
Speaker 3: colleghi e con i figli. Davanti a un errore bisogna
11:57
Speaker 3: cambiare la domanda, non dove hai sbagliato, ma che regola
12:01
Speaker 3: stavi seguendo. Quasi sempre una regola c'è, ha una storia,
12:05
Speaker 3: ha avuto i suoi successi e da qualche parte poi
12:08
Speaker 3: però ha smesso di valere. Trova quel punto e insegnerai
12:12
Speaker 3: più di 100 correzioni. Adesso io su questa cosa sono in
12:15
Speaker 3: piena epifania, per me è stata una rivelazione incredibile, ma
12:19
Speaker 3: tornando indietro ad errori che ho provato a correggere e
12:22
Speaker 3: non sono riuscito a cambiare, Mi sembra proprio evidente, bisogna
12:26
Speaker 3: chiedere alle persone di capire da dove nasce quello sbaglio
12:30
Speaker 3: e insieme trovare quali sono stati i successi in altri
12:33
Speaker 3: contesti e perché in quel contesto non funziona più. Detto
12:37
Speaker 3: tutto questo, dopo 13 minuti che parlo, la somma di Turing
12:41
Speaker 3: è ancora lì, a pagina 434, sbagliata di 100 da 75 anni, e
12:47
Speaker 3: non sappiamo se quell'errore è di un uomo o di
12:50
Speaker 3: una macchina. Forse è giusto così, era esattamente la domanda
12:54
Speaker 3: su cui voleva farci riflettere nel gioco. Si può insegnare
12:58
Speaker 3: a una macchina a sbagliare? Forse la domanda vera è un'altra.
13:02
Speaker 3: Degli sbagli abbiamo sempre saputo una cosa sola, come correggerli.
13:06
Speaker 3: Invece ci serve di capire come nascono, quanto resistono e
13:10
Speaker 3: perché a volte meritano rispetto. Questo non l'abbiamo mai scritto
13:15
Speaker 3: da nessuna parte e forse oggi è il momento per
13:17
Speaker 3: iniziarci a pensare. Sappiamo tutto della risposta giusta, ma di
13:23
Speaker 3: come andarci vicino sbagliando quasi niente. Grazie per aver ascoltato,
13:29
Speaker 3: ti do la mia parola. Oggi la parola è stata sbagliare.
13:32
Speaker 3: Adesso tre cose che puoi fare. La prima, scrivi nei
13:35
Speaker 3: commenti l'errore più intelligente che hai visto fare o che
13:38
Speaker 3: hai fatto. Mi interessa. La seconda, condividi questo episodio con
13:42
Speaker 3: qualcuno che si prepara per esempio a un colloquio di
13:44
Speaker 3: lavoro parlando con una chat. Qualcuno che ha bisogno di
13:47
Speaker 3: sapere bene con chi si sta allenando. La terza, la
13:51
Speaker 3: più importante, scrivimi ad andreachiocciolalaudadio. it e dimmi qual è la
13:55
Speaker 3: tua parola. Io le leggo tutte e qualcuna, come questa,
13:58
Speaker 3: diventa un episodio. Ci sentiamo la prossima settimana con una
14:02
Speaker 3: nuova idea, una nuova storia e una nuova parola. Ciao!
14:18
Speaker 2: Rifocast, i podcast del riformista.