Latest / Modalità Umana / EP.02 | La voce era sua ma lei non aveva mai telefonato
Transcript
- Tristan Maz: Il telefono squilla, sul display compare un numero che non conosci. Rispondi, dall'altra parte senti tua figlia. Piange, parla velocemente, dice di avere avuto un incidente. Che ha paura, che non può spiegarti tutto. Poi la chiamata passa a un uomo, si presenta come un avvocato, ti dice che tua figlia ha bisogno di denaro. Subito, e aggiunge una cosa, non chiamare nessun altro perché potresti peggiorare la situazione. Tu hai riconosciuto la sua voce, le parole, il tono, perfino quel modo particolare di pronunciare il tuo nome. C'è soltanto un problema. Tua figlia non ha avuto nessun incidente e non ti ha mai telefonato. Quando anche una voce familiare può essere costruita artificialmente, di che cosa possiamo ancora fidarci? Questa è in modalità umana. Io sono Tristan Imaz e oggi parliamo di una tecnologia che può essere utilissima per doppiare un film, leggere un audio libro, restituire la voce a chi l'ha perduta o produrre contenuti creativi, ma che nelle mani sbagliate può trasformarsi in uno strumento perfetto per una truffa, la cronazione vocale. Partiamo però da una precisazione importante. La truffa del familiare in difficoltà non è nata con l'intelligenza artificiale. Esiste da anni. Un truffatore chiama una persona spesso fingendosi a un figlio, un nipote o un altro parente. Racconta di essere stato coinvolto in un'incidente, di essere finito in ospedale, di essere stato fermato dalla polizia, di aver bisogno di denaro per un avvocato, una cauzione, una corrugente o qualche altra emergenza. In alcuni casi entra nella telefonata una seconda persona, un falso avvocato, un falso medico, un falso agente. Qualcuno che rappresenta l'autorità e rende la storia ancora più credibile. Queste truffe funzionavano anche prima che le AI imparasse a imitare le voci. Funzionavano grazie all'ingegneria sociale. Una definizione che suona molto tecnica, ma indica qualcosa di profondamente umano. Convincere una persona a compiere un'azione manipolandone emozioni, fiducia e percezione della realtà. La tecnologia non forza la porta, ti convince ad aprirla. La clonazione vocale aggiunge un elemento potentissimo. Non devi più credere soltanto alla storia. Puoi riconoscere la voce della persona che ami e quando il cervello riconosce una voce familiare tende ad abbassare le difese. Prima arriva l'emozione, poi forse arriva il controllo. Il problema è che, in una falsa emergenza, il truffatore cerca di non lasciarti il tempo necessario per arrivare a quel controllo. come funziona davvero la clonazione vocale. Cerchiamo di capire la tecnologia senza trasformare questa puntata in un manuale per truffatori. Un sistema di clonazione vocale analizza una registrazione reale. Ne studia caratteristiche come il timbro, il ritmo, l'intonazione, la pronuncia e le pause. Successivamente può generare nuove frasi con una voce simile a quella presente nel campione originale. Non si limita quindi a riprodurre una frase già registrata. può far pronunciare alla voce parole nuove. La qualità dipende da molti fattori. La quantità e la qualità dell'audio disponibile, il rumore di fondo, lo strumento utilizzato, la lingua, la complessità della frase, l'intonazione richiesta e il tempo impiegato per preparare il risultato. Ma il punto importante è che oggi non serva necessariamente possedere ore di registrazione professionale. La Federal Trade Commission americana avverte che un breve campione audio, ricavato anche da contenuti pubblicati online, può essere utilizzato insieme a un programma di clonazione vocale per creare una voce credibile. Questo campione potrebbe provenire da un video sui social, da una diretta, da un'intervista, da un podcast, da un messaggio vocale, da una riunione online registrata o da qualsiasi altro contenuto nel quale parliamo abbastanza chiaramente. Non significa che dobbiamo smettere di pubblicare video, mandare vocali o parlare dentro un microfono. Nel mio caso sarebbe anche una scelta editoriale piuttosto complicata. Significa però una cosa, la nostra voce non può più essere considerata una password. Non è un segreto, non è qualcosa che possediamo soltanto noi. È un'informazione che può essere registrata, copiata e riprodotta. L'FBI ha descritto casi nei quali audio generato artificialmente viene usato per impersonare parenti, personaggi pubblici o persone con ruoli di autorità. Lo scopo può essere ottenere denaro. richiedere un riscatto, accedere a informazioni, convincere qualcuno a spostarsi su un'altra piattaforma o stabilire una relazione di fiducia prima di una fase successiva della truffa. Questo è importante perché non sempre la richiesta economica arriva immediatamente. A volte il primo messaggio serve soltanto a convincerti che la persona dall'altra parte sia autentica. La voce non deve essere perfetta. Immaginiamo che la voce cronata non sia perfetta. L'intonazione è un po' strana. Le pause sembrano innaturali. Alcune parole hanno un accento insolito. Potremmo pensare. Me ne accorgerai subito. Forse. Ma una truffa costruita bene fornisce già una spiegazione per tutte queste imperfezioni. La persona sta piangendo. È ferita. È sotto sciocco. Parla da un telefono che non è il suo. C'è poco segnale. Ha il volto gonfio. È spaventata. Non può parlare liberamente. La chiamata dura pochi secondi. Può interviene qualcun altro. In una situazione del genere, anche una voce non perfetta può sembrare credibile. Perché la nostra mente completa ciò che manca. Se pensiamo di ascoltare nostra figlia in pericolo, Non ci mettiamo a valutare la qualità del modello vocale. Non stiamo facendo un test comparativo tra software. Stiamo cercando di aiutare una persona che abbiamo. Ed è proprio questo il punto. La truffa non deve superare un esame tecnico, deve superare il nostro controllo emotivo per il tempo necessario a farci agire. Possiamo certamente prestare attenzione a ritardi strani, frasi poco naturali, risposte evasive, parole che la persona non userebbe, un tono che non coincide con il contesto. Questi indizi possono essere utili, ma non dobbiamo costruire la nostra sicurezza sulla convinzione di riuscire sempre a riconoscere una voce artificiale. È una gara che rischiamo di perdere, gli strumenti migliorano, le persone sono diverse, le condizioni di ascolto non sono perfette e un'emergenza riduce la nostra capacità di analizzare con calma. La difesa migliore non è diventare esperti di sintesi vocali, è verificare l'identità attraverso un altro canale. L'architettura della truffa. Le fasse emergenti seguono spesso uno schema abbastanza riconoscibile. Non sempre sono presenti tutti gli elementi, ma conoscerli aiuta. Il primo elemento è la familiarità. La persona sembra essere qualcuno che conosci. Un figlio, un nipote, un collega. Il tuo responsabile, un cliente, una figura pubblica di cui ti fidi. Il secondo elemento è l'urgenza. Devi agire adesso, non tra 10 minuti. Non dopo aver controllato. Adesso. Perché ogni minuto perso potrebbe peggiorare la situazione. Il terzo elemento è la paura. Un incidente, un arresto, un ricovero, un conto bloccato, una frode bancaria, un problema legale. Qualcosa che riduce lo spazio per il ragionamento. Il quarto elemento è la segretessa. Non chiamare tua moglie, non avvisare tuo figlio, non parlare con i colleghi, non coinvolgere la banca. È una situazione riservata, c'è un'indagine in corso, la persona si vergogna. Qualunque sia la spiegazione, lo scopo è isolarti. Perché un'altra persona potrebbe fare la domanda che tu, in quel momento, non riesci a fare. Il quinto elemento è il pagamento difficile da recuperare. Bonifici urgenti, criptovalute, carte regalo, applicazioni di pagamento, consegni di contanti, metodi che riducono la possibilità di bloccare o recuperare il denaro. Il sesto elemento è l'autorità. La voce del familiare può essere seguita da quella di un presunto avvocato, medico, agente o funzionario. Nelle truffe aziendali può essere un dirigente, un consulente o un fornitore importante. Il messaggio implicito è non discutere, esegui. Il settimo elemento è l'informazione personale. Il truffatore potrebbe conoscere il tuo nome, quello dei tuoi figli, dove lavorate, dove siete stati in vacanza, chi frequenta l'università, chi vive all'estero, chi ha recentemente cambiato lavoro. Molte di queste informazioni possono provenire dai social, da violazione di dati o da conversazioni precedenti. Altre volte i truffatori semplicemente indovinano e osservano la nostra reazione. La voce sintetica rende la messa in scena più credibile. Ma la forza della truffa nasce dalla combinazione di tutti questi elementi. Famigliarità, urgenza, paura, segretessa, autorità, informazioni personali, pagamento immediato. La clonazione vocale è l'effetto speciale. La sceneggiatura è ancora profondamente umana. Non è un problema soltanto per gli anziani. Quando parliamo di truffe telefoniche spesso immaginiamo una persona anziana che non conosce bene la tecnologia. È una rappresentazione comoda perché ci permette di pensare a me non succederebbe. Ma la competenza digitale non ci rende immune alle emozioni. Un esperto di sicurezza può comunque reagire se sente la voce del proprio figlio in pericolo. Un dirigente abituato a gestire milioni di euro può comunque subire la pressione di un superiore. Un giovane che riconosce perfettamente un messaggio di phishing può comunque fidarsi di un vocale inviato apparentemente dalla proprio madre. La vulnerabilità non nasce sempre dall'ignoranza, può nascere dalla responsabilità, dall'affetto, dalla paura, dalla stanchezza, dalla fretta, dal desiderio di proteggere qualcuno. Ed è anche per questo che dire alla vittima come hai fatto a cascarci non serve. Dopo una truffa, molte persone provano vergogna, ritardano la segnalazione, nascondono l'accaduto. E proprio questo può ridurre la possibilità di recuperare il denaro e impedire che altre persone vengono avvertite. La reazione più utile non è giudicare, è agire rapidamente. Contattare la banca, bloccare il pagamento, quando possibile, conservare le prove, segnalare l'accaduto. dalla famiglia all'azienda. La stessa logica può essere usata sul lavoro. Immagina di lavorare in amministrazione. Ricevi un messaggio vocale dal tuo amministratore delegato. La voce è riconoscibile. Ti dice che sta chiudendo una quesizione riservata. Serve un bonifico urgente. Non devi coinvolgere altre persone perché l'operazione non è ancora pubblica. Oppure il responsabile acquisti ti chiede di modificare l'e-ban di un fornitore. Il direttore ti chiede di inviare alcune credenziali. Un collega ti manda un link e ti invita a spostare la conversazione su una piattaforma diversa. Un cliente importante pretende che venga saltato un controllo. Europol ha indicato da tempo le frode ai danni delle aziende, comprese quelle basate sulle impressionificazioni di dirigenti, tra gli utilizzi criminali plausibili del deep fake. L'FBI ha inoltre documentato campagne nelle quali i messaggi vocali generati con l'AI impersonavano funzionari e figure conosciute per ottenere accesso a informazioni o account. Qui emerge una regola fondamentale. Più una richiesta è urgente, riservata e fuori procedura, più la procedura deve diventare importante. Le procedure di verifica non servono perché non ci fidiamo dei colleghi, servono perché un'identità può essere imitata. Un dipendente non dovrebbe essere costretto a scegliere tra rispettare un controllo e obbedire a un superiore. La procedura dovrebbe proteggere entrambi. Per esempio, un pagamento straordinario potrebbe richiedere sempre una doppia autorizzazione. Una modifica dell'IBAN dovrebbe essere verificata usando un contatto già presente nei sistemi aziendali. Le richieste urgenti ricevute tramite messaggio vocale dovrebbero essere confermate attraverso un canale indipendente. e nessun dirigente dovrebbe offendersi se un dipendente verifica un'operazione anomala, anzi, dovrebbe ringraziarlo. La sicurezza funziona quando verificare è considerato professionale, non quando viene scambiato per mancanza di fiducia o perda di tempo. Cosa cambia davvero? Per molto tempo abbiamo utilizzato alcuni elementi come scorciatoie per riconoscere le persone, il numero di telefono, la fotografia, La voce, il volto durante una videochiamata, un messaggio scritto con uno stile familiare. Oggi tutte queste caratteristiche possono essere imitate, manipolate o associate a un'identità falsa. Anche il numero che compare sul display può essere falsificato attraverso tecniche di spoofing. Un messaggio può essere scritto copiando il modo di comunicare di una persona. Una fotografia può essere generata, una voce può essere clonata. un video può essere alterato. Questo non significa che non possiamo più credere a niente. Significa che dobbiamo cambiare il modo in cui verifichiamo qualcosa di importante. Non basta più un singolo segnale. Serve una combinazione di controlli indipendenti. La voce può essere un indizio, non una prova definitiva. Il numero può essere un indizio, non una prova definitiva. La fotografia del profilo può essere un indizio, no una prova definitiva. Quando la richiesta riguarda denaro, credenziali, documenti o informazioni sensibili, dobbiamo aggiungere un secondo passaggio. Richiamare un numero già noto, contattare la persona su un altro canale, coinvolgere qualcun altro, utilizzare una parola concordata, verificare attraverso le procedure ufficiali. La conseguenza più profonda non riguarda soltanto le truffe, riguarda la fiducia. Siamo entrati in una fase nella quale ciò che vendiamo o sentiamo deve essere valutato anche in base al contesto, alla provenienza o alla possibilità di verifica. La fiducia non scompare, diventa un processo. La parte scomoda La parte scomoda è che siamo noi stessi a produrre gran parte del materiale che può essere utilizzato per imitarci, pubblicando video, storie, dirette, podcast, messaggi vocali, webinar, reunioni, interviste. Ridurre la quantità di informazioni e personale pubbliche può essere utile. Rendere private alcuni profili può ridurre l'accesso occasionale ai contenuti. Evitare di pubblicare in tempo reale dove si trovano i nostri familiari può limitare alcune possibilità di manipolazione. Ma sarebbe poco realistico pensare di eliminare completamente la nostra voce da internet. Per alcune persone la voce è parte del lavoro, per altre è parte della vita sociale. E anche chi non pubblica contenuti può essere registrato durante una telefonata, una riunione o un evento. La soluzione non può essere diventare invisibile. Deve essere smetta di trattare un'informazione copiabile come una prova unica dell'identità. C'è poi un altro problema. Più parliamo di deepfake, più rischiamo di attribuire automaticamente all'intelligenza artificiale qualsiasi telefonata sospetta. Ma non tutte le truffe utilizzano davvero una voce cronata. Alcune usano imitatori, registrazioni montate. messaggi rubati, account compromessi o una semplice storia raccontate bene. È importante non innamorarsi della spiegazione tecnologica. Per difendersi non serve dimostrare che la voce sia stata generata dall'AI. Serve riconoscere una richiesta anomala e verificarla. A volte discutiamo per ore se un audio sia vero o falso, ma se qualcuno ci chiede un bonifico urgente, segreto e fuori procedura, abbiamo già abbastanza motivi per fermarci, anche se la voce fosse autentica. Modalità umana. Arriviamo quindi al protocollo pratico. Se ricevi una telefonata o un messaggio vocale che sembra provenire da una persona conosciuta e contiene una richiesta urgente, ricorda queste 5 azioni. Interrompi, richiama, verifica, coinvolgi, segnala. 1. Interrompi. Non prendere decisioni mentre sei sotto pressione. Chiudi la chiamata. Oppure di che richiamerai tra pochi minuti. Una vera emergenza non diventa falsa perché impieghi 60 secondi per verificarla. Una truffe invece spesso crolla proprio quando interrompi il ritmo imposto dal truffatore. 2. Richiama. Contatta direttamente la persona utilizzando un numero che avevi già salvato. Non utilizzare il numero forito durante la chiamata. Non premere automaticamente il tasto per richiamare chi ti ha contattato. Apre la rubrica e scegli tu il contatto. Se la persona non risponde, prova un altro canale, un messaggio, una videochiamata, un familiare, un collega, qualcuno che possa verificare dove si trova e come sta. Terzo, verifica. puoi fare una domanda la cui risposta non sia facilmente ricavabile dai social. Ma attenzione, molte informazioni familiari sono ormai pubbliche e possono essere state sottratte. La soluzione migliore è concordare in anticipo una parola o una breve frase di sicurezza. Qualcosa che non venga utilizzato normalmente e che non sia pubblicato online. La parola non dovrebbe essere il nome del cane se il cane compare in 300 fotografie su Instagram e nemmeno il luogo delle ultime vacanze se avete pubblicato 40 Storie del mare. Dev'essere semplice da ricordare, ma difficile da indovinare e va spiegato chiaramente a tutta la famiglia. Se qualcuno chiama per un'emergenza e non conosce la parola concordata, si interrompe la conversazione e si verifica attraverso un altro canale. 4. Coinvolgi. Se il chiamante ti dice di non parlare con nessuno, fai esattamente il contrario. Contatto un'altra persona. La segretezza è uno degli strumenti principali della manipolazione. Un punto di vista esterno può spessare la pressione emotiva. Inazienda, coinvolgere significa rispettare le autorizzazioni, non saltare il doppio controllo, non modificare un conto corrente sulla base di un vocale. Non inviare credenziali perché una voce importante sembra avere fretta. 5. Segnala. Se non hai pagato, conserva comunque il numero, l'orario, i messaggi e gli eventuali screenshot. Possono essere utili. Se hai inviato denaro, contatte immediatamente la banca o il servizio di pagamento. La velocità può fare la differenza, anche se il recupero non è garantito. conserva ricevute, coordinate bancarie, indirizzi di criptovalute, numeri di telefono, email e conversazioni. Poi rivolgeti alla polizia postale o alle forze dell'ordine per formalizzare la segnalazione o la denuncia. Il commissariato di pubblica sicurezza online mette disposizione informazioni e riferimenti per entrare in contatto con gli uffici competenti. E soprattutto non vergognarti. Essere stati ingannati non significa essere stupidi. significa che qualcuno ha costruito deliberatamente una situazione per impedirti di ragionare con calma la responsabilità e di chi commette la truffa. Il protocollo di famiglia. Dopo aver ascoltato questa puntata puoi fare una cosa molto semplice. Parla con la tua famiglia, non contona allarmistico, non serve organizzare una riunione d'emergenza nel Booker, bastano 10 minuti. Stabilite una parola di sicurezza. Decidete chi chiamare quando una persona non è raggiungibile. Chiarite che nessuno si offenderà se una richiesta urgente viene verificata. E concordate una regola. Mai inviare denaro basandosi soltanto su una telefonata o su un messaggio vocale. Il protocollo può valere anche per i figli, non soltanto per i genitori o i nonni, perché una falsa emergenza può essere costruita in entrambe le direzioni. Un figlio può ricevere la voce del genitore. Un genitore è del figlio, un collega è quello del responsabile. L'obiettivo non è creare sospetto dentro ogni relazione e proteggere le relazioni da chi prova a sfruttarle. Conclusione La voce era sua, ma lei non aveva mai telefonato. Questa frase racconta qualcosa che fino a pochi anni fa sembrava quasi impossibile. Oggi non lo è più. L'intelligenza artificiale può imitare una voce, ma non può impedire che tu chiuda la chiamata. Non può impedirti di richiamare un numero conosciuto. Non può impedirti di coinvolgere un'altra persona. Non può obbligarti a saltare la procedura. Il punto non è vivere pensando che ogni telefonata sia falsa. Il punto è sapere che, quando una richiesta è urgente, emotiva e riguarda denaro o informazioni sensibili, Riconoscere una voce non basta più. La sicurezza non consiste nel dire. Sono certo che me ne accorgerei. Consiste nel decidere in anticipo. Anche se sembra autentica, verificherò comunque. La domanda che ti lascio è questa. Nella tua famiglia esiste già una parola di sicurezza per riconoscere una vera emergenza? Scrivilo nei commenti. Non scriver la parola naturalmente. Quella magari teniamola fuori dai social. e condividi questa puntata con una persona che potrebbe averne bisogno. Non soltanto con genitori e nonni, con figli, colleghi e amici, perché una voce può essere copiata. Una buona procedura, invece, può ancora proteggerti. Nel dubbio, prima di pagare, attiva la modalità umana.