Latest / il posto delle parole / Maria Rosaria Taddeo "Chi decide?" Festival Filosofia
Transcript
- 0:01Speaker 2: Maria Rosaria Taddeo, buongiorno. Buongiorno,
- 0:05Speaker 3: ciao
- 0:06Speaker 2: Benvenuta, benvenuta davvero qui nel nostro posto delle parole, anzi
- 0:09Speaker 2: bentornata perché con lei noi abbiamo raccontato il libro Codice
- 0:12Speaker 2: di Guerra pubblicato da Raffaello Cortina e oggi incontriamo Maria
- 0:20Speaker 2: Rosaria Taddeo per il prossimo incontro che avrà al Festival
- 0:23Speaker 2: Filosofia di Modena Carpi e Sassuolo. Chi decide? Punto di domanda.
- 0:29Speaker 2: È una bella domanda. Una bella questione questa. Un'etica per
- 0:32Speaker 2: l'intelligenza artificiale applicata alla sicurezza. Maria Rosaria Taddeo, docente di
- 0:38Speaker 2: Digital Ethics and Defense Technologies all'Oxford Internet Institute dell'Università di Oxford.
- 0:44Speaker 2: E già questo ci porta dentro la sua attività, la
- 0:47Speaker 2: sua ricerca di studio e il suo insegnamento. Cominciamo da questo.
- 0:53Speaker 2: Maria Rosaria Taddeo, che cosa significa oggi insegnare etica digitale?
- 1:00Speaker 3: Grazie mille per la domanda e per la presentazione. Significa
- 1:07Speaker 3: studiare quali sono i cambiamenti tanto concettuali, tanto operativi, pragmatici
- 1:16Speaker 3: che le tecnologie digitali hanno portato davanti ai nostri occhi,
- 1:21Speaker 3: hanno determinato e poi studiare come questi cambiamenti, se come
- 1:27Speaker 3: questi cambiamenti impattino la nostra percezione di bene e male,
- 1:33Speaker 3: ma anche quelle che sono le loro implicazioni sociali, quindi
- 1:39Speaker 3: come cambiano il nostro modo di interagire con gli altri
- 1:42Speaker 3: e come questi cambiamenti impattino valori, principi, diritti che nelle
- 1:49Speaker 3: nostre società, particolarmente nelle società liberal- democratiche, sono considerati fondamentali. Quindi
- 1:55Speaker 3: diciamo che significa... far unire due linee, una quella dei
- 2:01Speaker 3: principi e dei valori che sono le basi delle democrazie
- 2:04Speaker 3: liberali e dall'altra la linea, la direttrice della trasformazione delle
- 2:09Speaker 3: tecnologie digitali.
- 2:11Speaker 2: Ed è sicuramente necessariamente molto molto complesso questo argomento. Tra
- 2:18Speaker 2: l'altro ricordo che Maria Rosalia D'Aldeo sarà ospita al Festival
- 2:21Speaker 2: Filosofia a Carpi esattamente venerdì 18 settembre alle ore 15.
- 2:27Speaker 2: Ma qui l'argomento Maria Rosalia D'Aldeo lo si deve prendere
- 2:34Speaker 2: almeno per quello che mi riguarda con le pinze perché
- 2:37Speaker 2: è estremamente delicato. Ma se una macchina non può essere
- 2:41Speaker 2: moralmente responsabile delle proprie decisioni, no, ovviamente. chi risponde davvero
- 2:47Speaker 2: quando in un sistema autonomo si commette un errore per
- 2:50Speaker 2: esempio in combattimento?
- 2:53Speaker 3: Questa è una domanda che ci poniamo in tanti e
- 2:57Speaker 3: che in realtà per un po' un vato di Pandora
- 2:59Speaker 3: è molto difficile dare una risposta definitiva, in letteratura si
- 3:03Speaker 3: chiama il responsibility gap, cioè si crea proprio un voto
- 3:10Speaker 3: di responsabilità morale, non parliamo di responsabilità legale perché quella
- 3:14Speaker 3: fa un altro percorso, ma di responsabilità morale per le
- 3:18Speaker 3: azioni che le macchine compiono, per due ragioni. Da un
- 3:22Speaker 3: lato i sistemi di intelligenza artificiale sono sistemi che si
- 3:27Speaker 3: producono attraverso un processo che è molto complicato e distribuito,
- 3:31Speaker 3: quindi anche a voler ritracciare il filo delle interazioni, delle
- 3:37Speaker 3: decisioni che hanno portato a un particolare effetto, a un
- 3:42Speaker 3: particolare risultato, a volte questo è impossibile, difficilissimo. Anche qualora
- 3:47Speaker 3: dovesse essere possibile, le macchine e i sistemi di intelligenza
- 3:52Speaker 3: artificiale hanno una caratteristica, compiono delle azioni senza avere un'intenzione,
- 3:58Speaker 3: senza avere l'intenzione di compierle, non sono effettivamente intelligenti, sono
- 4:02Speaker 3: delle macchine. Questa mancata intenzionalità che sta nelle azioni che
- 4:07Speaker 3: compiono le macchine, a volte la ritroviamo anche nelle azioni
- 4:11Speaker 3: degli esseri umani che queste macchine le progettano, le sviluppano
- 4:15Speaker 3: e poi le usano. Questo sia perché a volte si
- 4:19Speaker 3: fanno delle azioni che sono, quando si progetta una macchina,
- 4:21Speaker 3: che sono anche minime, banali, piccolissime, che però possono poi
- 4:26Speaker 3: avere un effetto a valle di grande rilevanza, è un
- 4:30Speaker 3: po' anche perché queste macchine, i sistemi di intelligenza artificiale,
- 4:33Speaker 3: sono sistemi che apprendono mentre funzionano attraverso le loro interazioni
- 4:39Speaker 3: con l'ambiente. E quando si apprende, a volte si apprendono
- 4:43Speaker 3: cose che i nostri maestri non avevano inteso insegnarci. Quindi
- 4:49Speaker 3: si fanno delle cose, queste macchine possono fare delle cose
- 4:52Speaker 3: che chi le ha sviluppate, chi le ha progettate e
- 4:55Speaker 3: poi chi le ha utilizzate non aveva intenzione che accadessero.
- 4:59Speaker 3: Quando non c'è intenzionalità nel campo dell'etica e della morale
- 5:03Speaker 3: è impossibile attribuire la responsabilità e quindi questi due elementi
- 5:08Speaker 3: non vanno sempre d'accordo quando si parla di intelligenza artificiale
- 5:12Speaker 3: e trovare una risposta alla sua domanda è molto difficile,
- 5:16Speaker 3: in alcuni casi è impossibile, in alcuni casi dobbiamo capire
- 5:20Speaker 3: che ci troviamo davanti a un uso che io direi
- 5:23Speaker 3: paradossale di queste macchine, cioè diamo alle macchine la capacità
- 5:27Speaker 3: di agire in contesti ad altissimo rischio, in un campo
- 5:31Speaker 3: di battaglia quando una macchina identifica un target, non necessariamente
- 5:36Speaker 3: solo nei campi di battaglia, in un sistema in nine
- 5:39Speaker 3: war room e in intelligence room quando le macchine identificano
- 5:42Speaker 3: liste di target, ma anche nei nostri ospedali, nelle nostre
- 5:45Speaker 3: istituzioni finanziarie, sapendo che queste macchine faranno delle azioni per
- 5:49Speaker 3: le quali nessuno può essere moralmente ritenuto responsabile.
- 5:54Speaker 2: E quindi la tecnologia potremmo dire che non è mai
- 5:58Speaker 2: neutrale
- 6:00Speaker 3: La tecnologia non è mai neutrale perché la tecnologia è
- 6:03Speaker 3: il prodotto di un progetto, di un progetto umano e
- 6:08Speaker 3: in quanto tale riflette sempre comunque delle scelte che sono
- 6:13Speaker 3: necessarie eticamente, culturalmente socialmente orientate quando si progetta una tecnologia
- 6:20Speaker 3: la si progetta per venderla in uno specifico contesto per
- 6:23Speaker 3: utilizzarla in uno specifico contesto la progetta delle persone che
- 6:26Speaker 3: hanno una cultura un senso dell'etica, una religione tutti questi
- 6:31Speaker 3: aspetti caratterizzano il prodotto finale quindi la tecnologia non è
- 6:35Speaker 3: mai eticamente neutra perché non è il risultato di un
- 6:39Speaker 3: progetto casuale
- 6:40Speaker 2: in altre parole
- 6:41Speaker 3: se
- 6:41Speaker 2: ho compreso bene Maria Rosalia Tadeo chi lavora su queste
- 6:48Speaker 2: cose inserisce anche i propri valori quindi le chiedo quali
- 6:52Speaker 2: valori non dichiarati sono già sedimentati negli algoritmi lei poco
- 6:57Speaker 2: fa parlava di target e questi target selezionati o bersagli
- 7:03Speaker 2: o minacce dei sistemi di difesa e chi ha titolo
- 7:06Speaker 2: per deciderli prima ancora che la macchina agisca
- 7:10Speaker 3: esattamente ma ci sono sistemi di valori espliciti e valori
- 7:14Speaker 3: impliciti facciamo ancora un passo indietro noi abbiamo sentito parlare
- 7:18Speaker 3: tantissimo negli anni passati nei discorsi di bias, di pregiudizio
- 7:23Speaker 3: le macchine che discriminano ingiustamente
- 7:26Speaker 2: le
- 7:26Speaker 3: donne che fanno domande per posti di lavoro dirigenziali quel
- 7:30Speaker 3: pregiudizio non è il risultato di una macchina misogina È
- 7:34Speaker 3: il risultato di un certo tipo di dati che sono
- 7:36Speaker 3: stati considerati validi, magari da un set di ingegneri, tutti
- 7:41Speaker 3: uomini e me, che non hanno considerato che nei passati
- 7:44Speaker 3: 50 anni nella nostra società questo tipo di pregiudizi veniva
- 7:48Speaker 3: perpetrato da tutti e hanno quindi educato la macchina tacitamente
- 7:52Speaker 3: a certi valori. Ecco che la macchina esegue una scelta
- 7:54Speaker 3: che ha un impatto morale senza volerlo, senza senza avere
- 7:59Speaker 3: una intenzione. Per quanto riguarda la difesa, il problema si
- 8:02Speaker 3: fa ancora molto più complesso, più pesante, perché è chi decide,
- 8:06Speaker 3: ma in realtà è a valle che tipo di informazioni raccogliamo.
- 8:12Speaker 3: Un problema che mi pongo io in questo momento è
- 8:14Speaker 3: che laddove si adotta l'intelligenza artificiale per l'identificazione dei target,
- 8:20Speaker 3: come è successo a Gaza, come abbiamo sentito che è
- 8:22Speaker 3: successo in Iran, gli Stati Uniti che un giorno hanno
- 8:25Speaker 3: potuto colpire mille target perché li avevano identificati con l'intelligenza artificiale,
- 8:31Speaker 3: quando questo avviene, quando questo è implementato, allora si determina
- 8:36Speaker 3: una fame di dati, di informazione nell'apparato della difesa, nelle
- 8:40Speaker 3: strutture della difesa, che facilmente innesca catene di sorveglianza. Allora
- 8:45Speaker 3: tutti i dati quelli che lasciamo sulle reti sociali, quelli
- 8:49Speaker 3: raccolti dalle telecamere che sono per strada, le tracce digitali
- 8:54Speaker 3: che noi tutti lasciamo in giro quando navighiamo, diventano di
- 8:58Speaker 3: valore per le forze dell'idea internazionale. Ed è lì che
- 9:02Speaker 3: si crea un altro problema, non è solo più chi decide,
- 9:05Speaker 3: non è più solo una questione del decisore, ma è
- 9:07Speaker 3: anche una questione di come decide, sulla base di quali dati,
- 9:12Speaker 3: se la raccolta di questi dati sia proporzionata al rischio
- 9:14Speaker 3: che incorriamo, al diritto di privacy che tutti abbiamo, e
- 9:18Speaker 3: soprattutto chi verifica. L'esempio della scuola di Minabi in Iran
- 9:21Speaker 3: è molto rilevante. La scuola è stata identificata come un
- 9:24Speaker 3: target dall'intelligenza artificiale, ma sulla base di dati che non
- 9:29Speaker 3: erano aggiornati. Era una base militare anni prima e era
- 9:32Speaker 3: diventata una scuola di recente. Allora lì si ritorna alla
- 9:36Speaker 3: domanda precedente. Chi è responsabile? per la morte di più
- 9:40Speaker 3: di 600 bambine che sono nella scuola quando l'intelligenza artificiale sbaglia,
- 9:45Speaker 3: quando l'intelligenza artificiale identifica per target una cosa che non
- 9:48Speaker 3: lo è. E qui arriviamo al paradosso, perché noi sappiamo
- 9:52Speaker 3: che la responsabilità morale non è attribuibile, lo sanno anche
- 9:56Speaker 3: quelli che l'intelligenza artificiale adottano nella difesa e inizieranno a
- 10:00Speaker 3: utilizzare questa tecnologia per lavarsi le mani, per dire beh
- 10:04Speaker 3: è stata la tecnologia, è già stato un errore tecnico,
- 10:06Speaker 3: non possiamo fare molto. E vede che questo cerchio si
- 10:10Speaker 3: chiude proprio in maniera paradossale.
- 10:12Speaker 2: E pensando al Festival Filosofia, nella quale lei sarà ospite,
- 10:16Speaker 2: Maria Rosalia Taddeo, cosa... Cosa distingue filosoficamente un atto di
- 10:22Speaker 2: guerra da un'atrocità? E poi questa distinzione può reggere quando
- 10:27Speaker 2: decidere non è più un soggetto capace di intenzione, però
- 10:31Speaker 2: un sistema che ottimizza un obiettivo.
- 10:36Speaker 3: Un atto di guerra è sempre un atto deprecabile, è
- 10:39Speaker 3: sempre un atto che ha in sé più di un germine,
- 10:43Speaker 3: un aspetto di atrocità, di violenza, è sempre un atto orribile.
- 10:47Speaker 2: Io
- 10:47Speaker 3: ritengo però che la guerra per quanto sempre condannabile, mai desiderabile,
- 10:53Speaker 3: vada gestita quando succede, questo che mi distingue da una
- 10:57Speaker 3: posizione pacifista, penso che bisogna essere realisti e capire che
- 11:02Speaker 3: la guerra è orribile, ma quando succede bisogna gestirla. E
- 11:05Speaker 3: noi abbiamo sviluppato in più di 2000 anni di storia
- 11:09Speaker 3: a partire dal Cicerone quella che si chiama la teoria
- 11:11Speaker 3: della guerra giusta, che ci dà dei principi che ci
- 11:15Speaker 3: permettono di mantenere questo limite sottilissimo tra guerra e atrocità.
- 11:22Speaker 3: L'elemento fondamentale della teoria della guerra giusta, l'elemento fondamentale di
- 11:26Speaker 3: un'etica della guerra che non sia basata solo sull'etica della gestù,
- 11:31Speaker 3: e ritorniamo alla sua prima domanda, è la capacità di
- 11:36Speaker 3: attribuire la responsabilità morale per le azioni che si fanno.
- 11:40Speaker 3: Io cito spesso in questo caso un estratto delle prime
- 11:43Speaker 3: pagine degli atti del processo di Nuremberg, il processo col
- 11:46Speaker 3: quale Abbiamo, e dico abbiamo perché è stato il mondo
- 11:51Speaker 3: che usciva dalla seconda guerra mondiale, di fatto attraverso questo
- 11:54Speaker 3: processo a condannare il nazismo attraverso i suoi capi. I
- 11:58Speaker 3: giudici dicono chiaramente noi non processiamo il governo nazista, non
- 12:02Speaker 3: processiamo l'esercito nazista, ma processiamo i suoi membri perché in
- 12:06Speaker 3: guerra è importante che le persone siano in grado di
- 12:10Speaker 3: attribuirsi o di prendere una responsabilità personale. Questa responsabilità personale
- 12:16Speaker 3: al giorno d'oggi, come dicevamo prima, è molto più difficile
- 12:20Speaker 3: da attribuire e io temo che quando questa attribuzione diventa opaca,
- 12:25Speaker 3: diventa labile, quando se ne può sfuggire, la guerra inizierà
- 12:28Speaker 3: a trascinare sempre di più verso la più bieca delle atrocità.
- 12:33Speaker 3: perché si toglie quell'ultimo elemento di moralità. La responsabilità morale
- 12:38Speaker 3: e personale significa che io, in quanto individuo, mi sento
- 12:42Speaker 3: coinvolto per quello che sono nelle azioni che faccio. Me
- 12:46Speaker 3: ne prendo la responsabilità e la valutazione che su di
- 12:48Speaker 3: me avremo, che avrete, per quello che ho fatto. Se
- 12:52Speaker 3: anche quest'ultimo freno viene meno, allora abbiamo perso qualsiasi possibilità
- 12:58Speaker 3: di trattenere questo fenomeno. La guerra ha le sue deride
- 13:02Speaker 3: più orribili.
- 13:04Speaker 2: E quindi rientriamo nel titolo del suo prossimo incontro al
- 13:08Speaker 2: Festival Filosofia. Chi decide? Una decisione umana o una decisione
- 13:16Speaker 2: della macchina a cui attribuire questa responsabilità? E vorrei andare
- 13:22Speaker 2: a chiudere questa conversazione chiedendole a Maria Rosaria Taddeo. Può
- 13:29Speaker 2: esistere una sicurezza che sia autenticamente etica, no? Forse... un
- 13:34Speaker 2: po' un sognatore dicendo questo, quando il fine stesso, la difesa,
- 13:38Speaker 2: la deterrenza, richiede invece dei sistemi che sono capaci di
- 13:41Speaker 2: agire più velocemente nel giudizio morale umano.
- 13:46Speaker 3: Ma io penso che possa esistere, penso assolutamente che la
- 13:49Speaker 3: battaglia tra il, mettiamola in termini un pochino così... La
- 13:55Speaker 3: battaglia tra il bene e il male non è una
- 13:57Speaker 3: battaglia che si conclude mai, dobbiamo metterci nell'ordine di idee
- 14:00Speaker 3: che è un costante sforzo, è un costante ricorso, è
- 14:06Speaker 3: un po' come Willy il coyote, bisogna costantemente stargli dietro.
- 14:11Speaker 3: Quindi prima di tutto se vogliamo cercare di rendere una
- 14:14Speaker 3: difesa etica al giorno d'oggi bisogna essere tutti molto all'esto
- 14:17Speaker 3: su questo tema, tutti molto coinvolti. e capire che lo
- 14:21Speaker 3: sforzo non è mai fatto definitivamente il secondo è io
- 14:25Speaker 3: credo stabilire dei limiti dei limiti fondamentali all'uso di questa
- 14:30Speaker 3: tecnologia la tecnologia va veloce ma la usiamo velocemente su
- 14:35Speaker 3: Gaza Israele ha utilizzato la tecnologia AI per identificare i
- 14:38Speaker 3: target lasciando agli esseri umani e agli ufficiali 10 secondi
- 14:42Speaker 3: soltanto per validare l'indicazione dell'intelligenza artificiale quella è una scelta
- 14:47Speaker 3: degli esseri umani Se noi avessimo delle regole che ci
- 14:50Speaker 3: impongono di definire dei tempi congrui, se avessimo degli standard
- 14:53Speaker 3: che obbligassero a utilizzare la tecnologia solo in certi modi,
- 14:59Speaker 3: allora forse avremmo già uno strumento in più per cercare
- 15:03Speaker 3: un uso etico di questa tecnologia nella difesa. E poi
- 15:08Speaker 3: ci vogliono i limiti. Alcuni usi dell'intelligenza artificiale non sono
- 15:11Speaker 3: accettabili e non bisogna utilizzarla in questo senso. le armi
- 15:15Speaker 3: letali completamente autonome non sono accettabili perché si tratta di
- 15:19Speaker 3: delegare la decisione di chi uccidere ad una macchina che
- 15:23Speaker 3: non controlliamo questo è inaccettabile e in quanto tale andrebbe
- 15:27Speaker 3: legato non sono risultati come dire non sono soluzioni perfette
- 15:32Speaker 3: e neanche definitive ma sono dei passi importanti se non
- 15:35Speaker 3: faremo neanche questi allora un po' non potremmo dire neanche
- 15:40Speaker 3: di averci provato tra un po' di anni ma soprattutto
- 15:43Speaker 3: veramente saremo in balia dei pochi che producono questa tecnologia
- 15:49Speaker 3: e di quelli che hanno il potere di decidere.
- 15:52Speaker 2: E prima di salutarci invece, Maria Rosalia Taddeo, qual è
- 15:57Speaker 2: il libro che le fa compagnia in questi giorni?
- 16:01Speaker 3: In questi giorni, siccome in realtà sono quasi in ferie,
- 16:04Speaker 3: sto leggendo Viaggio alla fine della notte. quindi non è
- 16:11Speaker 3: un testo di ricerca, non è un saggio, ma lo
- 16:15Speaker 3: trovo molto interessante come lettura estiva.
- 16:22Speaker 2: Viaggio al termine della notte, il capolavoro di Selin, perché
- 16:30Speaker 2: ha scelto questa lettura o rilettura?
- 16:34Speaker 3: Una rilettura, la prima lettura credo di averla fatta quando
- 16:40Speaker 3: ero un po' troppo giovane per cogliere tutte le sfumature
- 16:45Speaker 3: di questo
- 16:47Speaker 2: test
- 16:48Speaker 3: quindi pensavo che alcuni testi vanno riletti quando tornano in
- 16:53Speaker 3: mente e io credo non si riesce a, non ci
- 16:58Speaker 3: si ricorda, non si... ci si domanda ancora se tutto
- 17:03Speaker 3: quello che ci ricordiamo fosse davvero il senso del libro
- 17:06Speaker 3: e quindi ho deciso di leggerlo per questo
- 17:08Speaker 2: Ricordo sempre con molto piacere la traduzione di questo libro
- 17:15Speaker 2: nella versione di Ernesto Ferrero che spesse volte è stato
- 17:18Speaker 2: nostro ospite per tanti anni. Grazie davvero Maria Rosaletta. Sono
- 17:23Speaker 2: qui
- 17:23Speaker 3: davanti, vediamo se è quella che voglio
- 17:26Speaker 2: Allora l'edizione di Ferrero mi pare sia Corbaccio.
- 17:30Speaker 3: Eh sì, è lui.
- 17:31Speaker 2: E allora visto che lei il libro ce l'ha portata
- 17:32Speaker 2: di mano, ci legga l'inizio del viaggio al termine della notte. Allora,
- 17:34Speaker 2: andiamo un po' indietro. È cominciata così, io avevo mai
- 17:35Speaker 2: detto niente, io avevo mai detto niente, niente.
- 17:54Speaker 3: Arthur Ganate, che mi ha fatto parlare. Arthur, uno studente,
- 17:59Speaker 3: un fagiolo anche lui, un compagno. Ci troviamo dunque a Presclichy.
- 18:05Speaker 3: Era dopo pranzo, vuol parlarmi, lo ascolto. Se stiamo mica fuori,
- 18:09Speaker 3: mi fa lui. Torniamo dentro, rientro con lui. Ecco, la
- 18:14Speaker 3: terrazza comincia lui. Ci fa le uova alla coca. Vieni
- 18:21Speaker 3: di qui. Allora ci accorgiamo. che non c'era nessuno per
- 18:25Speaker 3: le strade, a casa del caldo, niente letture, nulla. Quando
- 18:30Speaker 3: fa molto freddo, lo stesso, c'è nessuno per le strade.
- 18:34Speaker 3: E lui, per quello che ricordo, che mi aveva detto
- 18:36Speaker 3: in proposito, quelli di Parigi hanno sempre l'aria occupata, ma
- 18:40Speaker 3: di fatto passeggiano da mattina a sera. Prova ne è
- 18:44Speaker 3: che quando non va bene per passeggiare, troppo freddo o
- 18:46Speaker 3: troppo caldo, li si vede più. Sono tutti dentro a
- 18:51Speaker 3: prendersi il caffè con la crema, boccali di birra. È così.
- 18:56Speaker 3: Il secolo della velocità, dicono. Dov'è? Grandi cambiamenti, ti raccontano loro.
- 19:01Speaker 3: Che roba è? Cambiato niente, in verità. Continuano ad ammirarsi
- 19:06Speaker 3: e basta. E nemmeno questo è nuovo per niente. Parole,
- 19:11Speaker 3: e ancora mica tante, anche le parole che sono cambiate.
- 19:15Speaker 3: Due o tre di qui, di là, di quelle piccole.
- 19:19Speaker 3: Tutti fieri allora ad aver fatto risuonare queste utili verità,
- 19:23Speaker 3: siamo rimasti lì seduti, incantati, a guardare le grandame del
- 19:27Speaker 3: caffè
- 19:28Speaker 2: Aplas, cliché, poi lei va a letto. Il secolo della
- 19:32Speaker 2: velocità è cambiato niente, quindi mi sono chiesto chissà cosa
- 19:40Speaker 2: potrebbe pensare oggi in quelle parole non è cambiato niente.
- 19:46Speaker 2: Cosa potrebbe pensare oggi Céline alla luce di tutta questa?
- 19:50Speaker 2: velocità che ci attraversa, ci supera e forse un po'
- 19:55Speaker 2: ci schiaccia. Grazie
- 19:56Speaker 3: davvero.
- 20:00Speaker 2: Io un po' mi dammi. Grazie mille. A lei, buona giornata.
- 20:01Speaker 3: Ciao.