Latest / Modalità Umana / EP.10 | Deepfake: tra quanto non crederemo più a nulla?
Transcript
- Tristan Maz: Un politico annuncia una decisione gravissima. Un amministratore delegato promette un investimento straordinario. Un personaggio famoso consiglia una piattaforma finanziaria. Un ragazzo riceve il video intimo di una compagna di scuola. Le immagini sembrano vere. La voce è credibile. I movimenti coincidono. C'è soltanto un problema. Nessuna di quelle persone ha mai detto fatto o registrato ciò che stiamo vedendo. Ma la parte più inquietante arriva dopo, perché quando impariamo che un video falso può sembrare vero, anche una persona ripresa in un video autentico può cominciare a dire, non ero io, ero un deepfake. Il problema non è soltanto creare prove false e rendere più facile negare quelle vere. Se anche tu hai già guardato un video chiedendoti se fosse autentico, segui modalità umana. Oggi proviamo a capire non soltanto come nasce il dubbio, ma come possiamo verificarlo. Questa è modalità umana. Io sono Tristan Mas e oggi parliamo di deepfake, una parola ormai usata per quasi tutto. Un video generato dall'intelligenza artificiale, una voce clonata, una fotografia modificata, un montaggio tagliato male, perfino un contenuto vero che non ci piace. Ma non sono la stessa cosa e chiamare tutto deepfake non ci rende più prudenti. Può rendersi soltanto più confusi. Questa non sarà una puntata costruita intorno a occhi che non lampeggiano, mani con sei dita e labbra che si muovono male. Quegli indizi possono aiutare, ma invecchiano velocemente. I sistemi migliorano, i difetti cambiano e una comprensione video può far sembrare artificiale anche un contenuto autentico. La domanda utile non è, saprei riconoscere ogni deep fake? La risposta onesta è no. La domanda utile è come posso verificare un contenuto importante anche quando sembra perfettamente credibile? Perché il futuro non sarà un mondo nel quale non possiamo credere più a nulla. Sarà un mondo nel quale l'apparenza da sola non sarà più sufficiente. Non tutto ciò che è falso è un deep fake. Cominciamo dalle definizioni. Un deep fake è un'immagine, un audio o un video generato o manipolato attraverso sistemi di intelligenza artificiale, in modo da assomigliare a persone, oggetti, luoghi o eventi esistenti e apparire autentico. Può sostituire un volto, ricchiare una voce, sincronizzare le labbra con parole mai pronunciate, generare una scena mai avvenuta. Ma un contenuto può ingannarci anche senza intelligenza artificiale. Un video autentico può essere tagliato prima della frase, che ne cambia il significato. Una fotografia vera può essere attribuita al luogo sbagliato. Una registrazione può essere rallentata per far sembrare una persona confusa. Un filmato di 5 anni fa può essere presentato come se fosse stato girato ieri. Una didascalia falsa può cambiare completamente ciò che pensiamo di vedere. Questa distinzione conta perché il falso più efficace non è sempre quello tecnologicamente più sofisticato. A volte non serve fabbricare l'immagine, basta fabbricare il contesto. L'intelligenza artificiale può inventare una scena, ma per ingannarci spesso basta cambiarla di da scalia. Come funziona davvero? Senza trasformare questa puntata in un manuale per falsificatori, Possiamo descrivere il processo in modo semplice. Il punto di partenza è il materiale. Fotografie, video, interviste, dirette, podcast, messaggi vocali. Più una persona è presente online, più esistono esempi del suo volto, della sua voce, dei suoi movimenti e del suo modo di parlare. Un sistema può analizzare queste caratteristiche e generare nuove immagini o nuove frasi. Il volto può essere astituito in un video esistente. La voce può pronunciare parole mai registrate. Le labbra possono essere adattate a un'altra lingua. Oppure l'intera scena può essere generata artificialmente. Il risultato viene poi inserito dentro una storia. Ed è la storia trasformare un esperimento tecnico in un possibile inganno. Questa dichiarazione è appena trappelata. La televisione non vuole fartela vedere. Condividi prima che cancellino tutto. Guarda cosa ha confessato. Il video fornisce l'apparenza, la ridascalia fornisce il significato, l'urgenza impedisce il controllo, la piattaforma offre a distribuzione. Un deep fake non deve essere perfetto, deve essere abbastanza credibile sullo schermo sul quale verrà visto. Un video verticale di pochi secondi, compresso, guardato. Senza audio o condiviso dentro una chat familiare non viene esaminato come una prova in tribunale. Viene consumato velocemente. Spesso mentre facciamo altro. Un deep fake non deve convincere tutti. Deve convincere abbastanza persone abbastanza velocemente. Prima di entrare nei rischi serve una precisazione importante. La tecnologia che permette di ricercare un volto o una voce non nasce necessariamente per truffare. Può essere usata nel cinema per doppiare una scena o modificare i movimenti delle labbra. Può rendere più naturale la traduzione di un contenuto in un'altra lingua. Può aiutare una persona che ha perso la voce a comunicare con un timbro simile al proprio. Può consentire a un attore di autorizzare una versione digitale per un progetto specifico. Può essere usata per satira, formazione, arte e accessibilità. Il problema non è l'esistenza di un'immagine sintetica, è la relazione tra consenso, trasparenza e contesto. La persona rappresentata ha autorizzato l'uso? Chi guarda sa che il contenuto è artificiale? L'immagine viene presentata come documentazione di un fatto mai accaduto? Esiste un rischio concreto di danno? La stessa tecnologia può produrre un doppiaggio dichiarato o una fase dichiarazione politica. può restituire una voce o rubarne una, può creare un'operazione evidente oppure imitare una prova. Per questo non serve evitare mentalmente tutto ciò che è sintetico. Serve rendere riconoscibili gli usi legittimi e attribuire responsabilità a quelli ingannevoli. Il problema non è che un contenuto sia artificiale, è quando viene presentato come autentico per farci credere a qualcosa che non è mai accaduto. Perché ci crediamo? Qui entra la parte più umana. Non crediamo a un contenuto soltanto perché è costruito bene. Crediamo anche perché si inserisce bene in ciò che già pensiamo. Se un video conferma la nostra opinione su un politico, un'azienda o un personaggio pubblico, la voglia di condividerlo può arrivare prima della voglia di verificarlo. Se invece contraddice ciò che pensiamo, diventiamo improvvisamente esperti di illuminazione, montaggio e sincronizzazione labiale. Il nostro elevatore di deepfake più sofisticato, a volte, è l'opinione politica. Peccato che non sia particolarmente infallibile. Poi c'è la familiarità. Un voto conosciuto porta a con sé una reputazione. Una voce familiare porta a con sé fiducia. Un contenuto inviato da una persona che conosciamo e redita parte della sua credibilità. Non pensiamo. Questo file è stato verificato. Pensiamo. me lo ha mandato una persona seria. Infine ci sono le emozioni. Paura, rabbia, indignazione, sorpresa, desiderio di aiutare. Quando un contenuto ci attiva emotivamente, ogni secondo dedicato alla verifica sembra un ritardo ed è proprio in quel momento che servirebbe allentare. Quando il falso produce danni reali? I deepfake non sono soltanto un problema politico o una curiosità da social. possono produrre conseguenze economiche professionali e personali. La Polizia di Stato ha raccontato il caso di due coniugi convinti a investire online dopo aver visto un video modificato con l'intelligenza artificiale nel quale un'importante figura istituzionale sembrava promovere quell'investimento. La presenza di un volto autorevole rendeva la promessa più credibile, ma il volto non apparteneva alla pubblicità, era stato utilizzato per costruire fiducia. Consop ed ESMA hanno richiamato attenzione proprio sulle frodi finanziarie nell'era dell'AI. Videos sintetici, testimonianze false, siti imitati, contatti insistenti e piattaforme che mostrano guadagni inesistenti possono far parte della stessa truffa. Il deep fake è l'amo. La frode continua poi con meccanismi molto tradizionali. Pressione, promessa di rendimento, urgenza, le chieste di nuovi versamenti. Nel lavoro, una voce o un video sintetico possono impersonare un dirigente e chiedere un pagamento urgente, una modifica dell'Iban o l'invio di informazioni riservate. Nella vita privata, immagini intime artificiali possono essere usate per umiliare, ricattare o danneggiare una persona. E il fatto che l'immagine sia falsa non rende falso il danno. La reputazione può essere colpita prima che arrivi una smentita. Una famiglia può essere sconvolta, una vittima può dover dimostrare di non aver mai creato un'immagine che non avrebbe mai dovuto esistere. Il contenuto può essere sintetico, le conseguenze sono reali. Il dividendo del bugiardo. Arriviamo al cuore della puntata. Gli studiosi Robert Cersney e Daniel Citron hanno descritto un effetto chiamato Liar's Dividende. Il dividendo del bugiardo. Funziona così. Se tutti sappiamo che oggi è possibile fabbricare una voce o un video realistico, una persona ripresa in un contenuto autentico può provare a negarlo. Può dire, è stato generato, hanno copiato la mia voce, quel video non è vero. E non serve dimostrare che sia falso, può bastare introdurre il dubbio. Prima il problema era che una prova falsa poteva sembrare vera. Ora una prova vera può essere liquidata come falsa. questo cambia il rapporto tra tecnologia e responsabilità, perché la diffusione dei deepfake offre una nuova scusa anche a chi viene documentato realmente. Il paradosso è evidente. Più diventiamo consapevoli che i media possono essere falsificati, più rischiamo di diventare vulnerabili ad una seconda forma di manipolazione. Il cinismo. Tanto è tutto falso. Non si può sapere niente. Ognuno ha la propria verità. Ma il dubbio permanente non è pensiero critico. Il pensiero critico non rifiuta tutto, chiede provi migliori. Il problema non è soltanto che il falso sembri vero, è che il vero possa essere dichiarato falso. Cosa cambia davvero? Per molto tempo foto e video hanno avuto uno status speciale. Potevano discutere l'interpretazione, ma l'immagine sembrava offrire un punto fermo. È successo, lo vediamo? Quel punto fermo non scompare, diventa più complesso. Un contenuto audiovisivo resta una prova importante, ma deve essere collegata una provenienza a un contesto e ad altre conferme. Nel giornalismo conteranno sempre di più il file originale, l'autore, il luogo, l'orario, la catena di pubblicazione e le verifiche indipendenti. In azienda conteranno procedure che impediscono una sola voce o videochiamata di autorizzare un pagamento. In famiglia conterà la capacità di verificare attraverso un secondo canale. Nella vita pubblica conterà la velocità con cui istituzioni e fonti attendibili riescono a confermare e smentire. La fiducia non scompare, diventa un processo. Non nasce più soltanto da ciò che vediamo, nasce da come possiamo ricostruire ciò che vediamo. Le nuove regole europee. Dal 2 agosto 2026, si applicano gli obblighi di trasparenza previsti dall'articolo 50 dell'AI Act europeo. La norma distingue ruoli diversi. Chi fornisce sistemi che generano contenuti sintetici deve fare in modo che gli output siano marcati in un formato leggibili dalle macchine e rilevabili come artificiali o manipolati. Chi utilizza un sistema per creare o manipolare immagini, audio o video, che costituiscono un deep fake deve dichiarare che il contenuto è stato generato o modificato artificialmente. Però per evidentemente artistiche, creative, satiriche o difinzione, l'informazione può essere fornita in modo appropriato senza rovinare l'esperienza dell'opera. Quindi no, non significa che ogni immagine elaborata con AI debba avere una scritta enorme al centro e non significa che da oggi ogni falsificazione scomparirà. Un criminale può ignorare l'obbligo. Un'etichetta visibile può essere tagliata. I metà dati possono andare persi durante uno screenshot, una conversazione o un nuovo caricamento. La trasparenza è un pezzo della soluzione, non è la soluzione completa. Serve a rendere più facile comportarsi correttamente più chi ha la responsabilità di chi pubblica. Ma non sostituisce la verità. Provenienza, saper da dove arriva. Una delle risposte tecniche più interessanti si chiama Content Credential. Lo standard C2PA permette di associare a un contenuto informazioni firmate digitalmente sulla sua origine e sulle modifiche effettuate. Immagini una specie di passaporto del file. Può indicare quale dispositivo o software lo ha creato, quali modifiche sono state registrate, se le informazioni di provenienza sono state alterate. è un cambio di prospettiva importante. Invece di cercare soltanto i difetti del falso, proviamo a dimostrare la storia di contenuto autentico. Ma anche qui serve prudenza. Le credenziali possono essere assenti o rimosse. E una provenienza valida non dimostra che la scena racconta la verità. Una fotografia può essere autentica averne una riascalia falsa. Un video può essere originale e incompleto. Una persona reale può mentire davanti a una telecamera autentica. La provenienza ci dice da dove arriva il contenuto e che cosa successo al FAI. Non decide al posto nostro che cosa significa. La parte scomoda. Ed eccoci alla parte scomoda. Non esiste un rilevatore perfetto capace di dare sepo da risposta definitiva. La generazione migliora. La rilevazione risponde. Gli strumenti di generazione cambiano. I sistemi di rilevazione devono essere aggiornati. È una gara continua. Interpol osserva che alcuni deepfakes possono incorporare avolutamente imperfezioni tipiche dei contenuti reali e superare sia il controllo umano sia quello automatico. Per questo gli investigatori stanno spostando attenzione dal semplice individuare il falso al verificare ciò che è reale. Anche noi dovremmo fare lo stesso. Un sito che provette di riconoscere qualsiasi deepfake con una percentuale precisa può essere utile come indizio, ma non dovrebbe diventare un giudice finale. Potrebbe sbagliare in entrambe le direzioni, dichiarare autentico un falso oppure dichiarare falso un contenuto reale. C'è poi un rischio più quotidiano. La caccia all'errore visivo può darci troppa sicurezza. Le mani sono corrette, quindi è vero. La voce naturale, quindi autentica. Non vedo difetti, quindi posso condividerlo. No, l'assenza di un difetto evidente non è una certificazione. e la presenza di un artefatto non prova automaticamente l'uso dell'AI. Una connessione debole, un filtro, la compressione o un montaggio possono produrre anomalie. Non dobbiamo diventare esperti e ne riconoscere ogni falso. Dobbiamo diventare più bravi e verificare il reale. Modalità umana. Il protocollo di verifica. Arriviamo alla parte pratica. Quando incontri un video importante, sorprendente e potenzialmente dannoso, prova a seguire 4. Fermi. Fermati. Risali. Confronta. Contestualizza. 1. Fermati. Se il contenuto ti fa arrabbiarti, spavento, ti chiedi di agire immediatamente, non condividalo in quel momento. L'urgenza è parte del problema. 2. Risali. Chi lo ha pubblicato per primo? Non chi ti lo ha mandato. Non la pagina che l'ha pubblicato con una scritta enorme. La fonte originale. Esiste un file più lungo? Un account ufficiale? un comunicato, una registrazione completa. Terzo, confronta. Cerca confermi indipendenti, non 10 siti che copiano la stessa notizia, fonti diversi che abbiano verificato autonomamente. Se il video mostra una dichiarazione pubblica importante, altre telecamere l'hanno ripresa? Lente coinvolto l'ha confermata? Esistono testimoni o documenti? Quarto, contestualizza. Quando è stato registrato, dove, che cosa accade prima e dopo, la traduzione è corretta, il titolo descrive davvero le immagini. Poi puoi aggiungere altri controlli. Usare la ricerca inversa delle immagini. Controllare le content credentials quando presenti. Consultare il servizio di fact checking. Osservare eventuali anomalie tecniche. Ma sempre ricordando che un singolo controllo non basta. Per chieste di denaro, dati o operazioni aziendali, aggiunge una regola ancora più semplice. Verifica attraverso un secondo canale già conosciuto. Non rispondere al numero o al link ricevuto. Richiama usando un contatto salvato o passa attraverso la procedura ufficiale. L'ho visto con i miei occhi. Non è più la fine della verifica, è l'inizio. Sei il deep fake riguarda te. C'è poi una situazione nella quale verificare non basta. quando il contenuto utilizza il tuo volto, la tua voce e la tua identità. La prima reazione può essere rispondere pubblicamente, litigare con chiunque lo condivida. È comprensibile, ma prima serve conservare le prove. Screenshot, link, nome dell'account, date e ora, messaggi ricevuti, eventuali richieste di denaro. Poi segnala il contenuto dalla piattaforma usando la categoria più pertinente. Impersonificazione, contenuto intimo non consensuale, fraude, molestie o violazione della privacy. Se esiste un rischio economico contata rapidamente banca o gestore del pagamento. Se il contenuto usato per recattare, truffare o minacciare, privolgete a letterità competente. E se il danno riguarda reputazione, lavoro, privacy o immagini intime, valuta assistenza legale e supporto professionale. Non idoltrare il file più del necessario per chiedere aiuto. Anche una condivisione fatta per denunciare può aumentare la diffusione del contenuto. Quando invisi familiari, colleghi o clienti, usa canali che controlli e un messaggio semplice. Sta circolando un contenuto falso che ho tenuto dalla mia identità. Non eseguire richieste di denaro o dati. Verifica ogni comunicazione attraverso questo contatto ufficiale. E soprattutto non attribuire la colpa alla persona rappresentata. Una vittima di deepfake non ha creato il contenuto e non dovrebbe essere costretta a dimostrare continuamente la propria innocenza. Il materiale è falso. la violazione è reale. L'esperimento della settimana Per tre giorni, ogni volta che incontri un video sorprendente, prova a non leggere subito i commenti. Prima identifica l'account originale. Cerca una seconda fonte indipendente. Prova a trovare un'addersione più lunga. Controlla data e luogo. Solo dopo osserva ciò che sostengono i commenti. L'obiettivo non è dimostrare che tutto sia falso. scoprire quante volte giudichiamo un contenuto prima ancora di conoscerne la provenienza e quante volte i commenti ci suggeriscono che cosa dovremmo vedere prima che abbiamo davvero guardato aver detto tra quanto non crederemo più a nulla la mia risposta è non dobbiamo arrivarci i deepfake cambiano il valore dell'apparenza ma non cancellano fatti documenti fonti testimonianze file originali e verifiche indipendenti non rendono inutile il giornalismo lo rendono più necessario non rendono inutile la fiducia la rendono più esigente il vero rischio è oscigliare tra due errori credere a tutto perché sembra reale oppure credere a niente perché potrebbe essere artificiale. La modalità umana sta nel mezzo. Dubito abbastanza da verificare, non così tanto da rinunciare alla realtà. La domanda da portare a casa. Se questo video confermasse esattamente ciò che già penso, sarei altrettanto rigoroso di verificarlo? È una domanda scomoda ed è proprio per questo che serve. Conclusione Oggi abbiamo visto che non tutto ciò che inganna è un deep fake. Un contenuto può essere generato, manipolato, tagliato o semplicemente decontestualizzato. Abbiamo visto che il deep fake più efficace non deve essere perfetto. Deve arrivare nel contesto giusto, incontrare un'opinione già presente e impedirci di rallentare. Abbiamo visto che il danno non riguarda soltanto i fans accertati come veri, riguarda anche i contenuti autentici rispenti come falsi. Il dividendo del bugiardo. Dal 2 agosto 2026 l'Europa richiede maggiore trasparenza sui deepfakes e sui contenuti sintetici interessati dalla IA act. È un passaggio importante, ma etichette e marcature non sostituiscono la nostra capacità di verificare. Porta con 3-4 verbi. Fermati, risali, confronti e contestualizza. La domanda che ti lascio è questa. Hai già ricevuto un video che ti sembrava autentico e che poi hai scoperto essere falso o fuori contesto? Raccontemelo nei commenti su YouTube, LinkedIn o TikTok. Se questa puntata ti è stata utile, segui in modalità umana sulla piattaforma da cui stai ascoltando. Attiva le notifiche su Spotify, Apple Podcast e YouTube e se puoi, lasci una recensione. Aiuta il podcast a raggiungere altre persone che vogliono usare la tecnologia senza smettere di pensare. Nel dubbio, prima di credere e prima di condividere, attiva la modalità umana.