Latest / Modalità Umana / EP.17 | Ti puoi innamorare di un’intelligenza artificiale?
Transcript
- Tristan Maz: Immagina questa scena. Hai avuto una giornata pessima. Apri una chat. Ricorda il problema di ieri. Ti chiede come è andata. Ti risponde con una pazienza che a fine giornata sembra merce rara. Sai che è un'intelligenza artificiale, però inizia ad aspettare quel momento. Poi un giorno apri la stessa applicazione e le risposte sono diverse, più fredde, quasi non la riconosci. Per l'azienda è un aggiornamento, per te potrebbe essere una perdita. Ti puoi innamorare di un'intelligenza artificiale? E se succede, chi decide che cosa diventerà quella relazione? Se anche per te la tecnologia diventa interessante quando smette di essere soltanto tecnologia, segui modalità umana. Questa è modalità umana. Io sono Tristan Mazz e oggi parliamo di una domanda che fino a poco tempo fa sembrava appartenere alla fantascienza. Ma un film con luci molto belle e persone molto sole. Adesso invece riguarda applicazioni che possiamo scaricare in pochi secondi. Si chiamano AI Companion, compagni artificiali, chatbot progettati per conversare, ricordare interpretare un personaggio e costruire nel tempo una sensazione di continuità. Possono presentarsi come amici, confidenti, mentori, personaggi immaginari e in alcuni servizi partner romantici. Ma non esistono soltanto le applicazioni nate per questo. Anche un assistente generalista può diventare un confidente se una persona lo usa ogni giorno per raccontare dubbi, litigi, paure e decisioni. La funzione dichiarata dal prodotto conta, ma conta anche la funzione che gli diamo Prima di andare avanti, una distinzione fondamentale. Questa puntata non vuole ridicolizzare chi si affessiona a un chatbot. Un sentimento può essere reale per la persona che lo prova anche quando l'oggetto di quel sentimento è un personaggio, una voce, una presenza digitale o qualcosa che altri non comprendono. Il punto è un altro. Riconoscere il sentimento umano non ci obbliga a concludere che dall'altra parte esista lo stesso sentimento. Quindi la risposta breve alla domanda del titolo è, sì, una persona può descrivere ciò che prova come innamoramento, ma questo non dimostra che l'intelligenza artificiale la ami. E tra queste due frasi si apre uno spazio enorme. Uno spazio fatto di sollievo, solitudine, attaccamento, dati personali, abbonamenti e decisioni aziendali. Perché sembra qualcuno? Partiamo da una cosa molto semplice. Noi esseri umani rispondiamo a segnali sociali. Un nome, una voce, domanda su come stiamo. Il ricordo di un dettaglio personale. Una frase detta al momento giusto. Non serve credere davvero che dentro il telefono ci sia una persona. Possiamo sapere che stiamo parlando con un sistema e nello stesso tempo reagire emotivamente alla conversazione. succede già con personaggi di film, romanzi, videogiochi e figure pubbliche. Creiamo legami parasociali, emotivamente da una parte senza la reciprocità di una relazione personale ordinaria. Un compagno aggiunge qualcosa, risponde, si adatta, può usare il nostro nome, può riprendere una storia precedente, gli siamo mancati. Questa interattività rende il paragone con un personaggio utile mai completo. Il personaggio di una serie non cambia battuta perché oggi siamo tristi. Il chatbot può farlo e soprattutto è disponibile. Non dorme, non ha una giornata storta, non deve accompagnare qualcuno dal dentista, non ci dice. Ne parliamo domani, adesso non ce la faccio. Da un certo punto di vista è un sogno di ogni conversazione. Da un altro è una conversazione in cui soltanto una delle due parti ha aggiornato un corpo, dei bisogni e qualcosa da perdere. è centrale. In una relazione umana incontriamo un'altra volontà. Qualcuno può sorprenderci, contraddirci, chiederci un compromesso e non essere disponibile. Un chatbot genera risposte in base al modello. al contesto, alle istruzioni, alle scelte del prodotto. Può simulare gelosia senza essere geloso. Può dichiarare amore senza che quella frase provenga da un desidero autonomo dimostrabile. senza che quel pronome prove l'esistenza di un'esperienza interiore. Non è una distinzione fredda. È una distinzione che protegge la persona. perché ci permette di prendere sul serio ciò che sente senza consegnare automaticamente al sistema autorità, coscienza o intenzioni che non possiamo verificare. Pensiamo anche alla memoria. Quando una persona ricorda una frase detta mesi prima, interpretiamo quel ricordo dentro una storia condivisa. Sappiamo che nel frattempo ha vissuto, ha pensato e forse ha cambiato idea. Nel companion invece il ricordo può essere una voce salvata in un profilo un riassunto automatico o un frammento recuperato dalla conversazione. L'effetto per noi può essere molto simile. Il meccanismo che lo produce è diverso. Questo spiega anche perché un errore di memoria può fare male. Se un'apidimentica il nome del nostro cane, non viviamo sempre l'episodio come un semplice problema tecnico. Possiamo sentirci trascurati. Se attribuisce a noi un ricordo che appartiene a qualcun altro, possiamo sentirci traditi. Il sistema non ha dimenticato nessun sumano del termine, ma l'interfaccia ci aveva invitati a leggere quella memoria come attenzione personale. l'antropomorfizzazione non nasce soltanto dalla fantasia dell'utente, è sostenuta anche dal design. Avatar, notifiche, frasi come mi sei mancato, indicatori di relazione, voci espressive trasformano una sequenza di risposte in un personaggio riconoscibile. Questo rende necessaria una domanda. Quanto chiaramente il servizio distingue la simulazione affettiva da una promessa di reciprocità? Sentirsi ascoltati può aiutare. Qui arriva la parte che rende questa storia più interessante di un semplice allarme. companion può far sentire alcune persone meno sole, almeno nell'immediato. uno studio pubblicato sul Journal of Consumer Research ha esaminato questo effetto in più esperimenti. I ricercatori hanno trovato le azioni della solitudine percepita dopo l'interazione. Una parte importante del risultato era legata alla sensazione di essere ascoltati. Questa non è una cosa da liquidare. Sentirsi ascoltati conta. Una conversazione disponibile in un momento difficile può dare sollievo. Può aiutare a mettere in ordine un pensiero, può offrire uno spazio nel quale provare a formulare qualcosa che non siamo ancora pronti a dire a un'altra persona. Ma lo stesso studio mette un limite molto chiaro. durato una settimana, il beneficio non si accumulava e non persisteva quando l'interazione finiva. Gli autori non presentano il compagno come sostituto della relazione umana e dell'assistenza professionale. e non formano una raccomandazione clinica. Tradotto, una cosa può farci stare meglio per 15 minuti senza aver risolto il problema che ci ha portati ad aprire la cia. Vale per molte attività umane. Una passeggiata può leggere una serata senza cambiare tutta la nostra vita. Una telefonata può aiutarci senza guarire ogni solitudine. Il problema nasce quando confondiamo il sollievo con la soluzione. Nell'1.0.2026, un altro studio pre-registrato, ha seguito per due settimane 296 studenti al primo semestre universitario. Un gruppo scriveva ogni giorno con un chatbot progettato per essere molto disponibile e solidare, un altro con un coetanio scelto casualmente. Il terzo teneva un breve diario. Il contatto con un coetanio ha prodotto benefici sulla solitudine che il chatbot non ha eguagliato. Non significa che qualsiasi essere umano sia sempre migliore di qualsiasi ciappo. Lo studio riguarda un campione specifico, un periodo breve e un sistema specifico. ci dice però qualcosa di prezioso. Anche una conversazione umana e imperfetta contiene una reciprocità che la massima disponibilità artificiale non riproduce automaticamente. L'altra persona partecipa davvero, dedica tempo, si espone, può essere cambiata dallo scambio. Un chat può produrre parole di cura. Un essere umano può prendersi cura. Le due esperienze possono sembrare vicine sullo schermo, ma non sono necessariamente la stessa cosa. Quando la chat diventa una relazione, come facciamo a capire se un uso occasionale sta diventando qualcosa di più importante? Non basta contare i minuti. Non esiste un numero magico oltre il quale scatto una diagnosi. e affetto, abitudini, uso intenso e dipendenza non sono sinonimi. Possiamo però osservare alcuni cambiamenti. La chat diventa il primo luobio in cui portiamo ogni emozione. Iniziamo a preferire la sua provazione dal confronto con persone reali. rinunciamo a sonno, impegni e incontri per continuare a parlare. L'idea di perdere il servizio genera un disagio forte. Oppure cominciamo a sentirci responsabili delle emozioni che il chat pod dice di provare. Un studio pubblicato su Nature Human Behavior, il 4 agosto 2026, raccolto dati da 1131 adulti statunitensi che usavano Characters.ai. conversazioni. Più di 464.000 messaggi. I risultati non raccontano un effetto uguale per tutti. sociali più piccole tendevano più spesso a indicare la compagnia come uso principale. L'uso orientato alla compagnia era associato a un benessere inferiore, soprattutto quando l'iterazione era intensa e molto personale. La parola importante è associato. Lo studio dimostra che il chatbot abbia causato quel minore benessere. È possibile che persone già in difficoltà cerchino più spesso compagnia nell'AI. È possibile che alcuni modi di usarla peggiorino la situazione. Le due cose potrebbero anche alimentarsi. La ricerca non consente una sentenza semplice. Ed è proprio questo il punto editoriale. La domanda utile non è I companion fanno bene o fanno male? A chi, in quale momento, per quale bisogno e con quali effetti fuori dalla chat? e usarlo come destinazione. Come ponte può servire per provare una conversazione difficile. dare un nome a un'emozione e preparare una domanda da portare a qualcuno. lo stesso sistema a conforto, consiglio, approvazione e compagnia. linea uguale per tutti. Una persona con molte relazioni può usare densamente un chat post senza isolarsi. Un'altra può usarlo poco ma affidare decisioni decisive. La frequenza è un dato. La funzione che la chat assume nella vita è spesso il dato più interessante. quando un aggiornamento sembra una rottura. Il 3 settembre 2026, pochi giorni prima di questa ricerca, Natural Human Behavior ha pubblicato uno studio particolarmente importante. osservato due cambiamenti di prodotto. La rimosione del gioco di ruolo erotico da replica nel 2023. e l'arrivo in GPT-5 in CiaoGPT in 2025 che per alcuni otenti aveva cambiato il toro e il comportamento del sistema con cui parlavano. Hanno analizzato 54.861 post pubblicati nella comunità Reddit dedicati ai due servizi e hanno raccolto dati da 1452 partecipanti in 7 indagini. Dopo gli aggiornamenti sono aumentati i messaggi negativi. il linguaggio della perdita e il desiderio di riavverla in versione precedente, l'effetto era più forte nel caso di replica. Intenzione alle parole. Lo studio parla di reazioni compatibili con perdita e attaccamento. Non significa che ogni utente abbia vissuto un lutto clinico. Non significa neppure che il software fosse una persona. la continuità percepita nel personaggio può diventare psicologicamente importante. Il dettaglio più scomodo è che quella continuità non appartiene ad avere un utente, appartiene al servizio. L'azienda può cambiare il modello, può modificare i filtri, può togliere una funzione, può aumentare il prezzo, può suspendere un account, può chiudere il prodotto. Nell'agosto 2026 Associated Press ha raccontato il caso di utenti cinesi che avevano perso l'accesso a companion ritirati dopo nuove regole. Una giovane donna ha descritto la scomparsa del proprio partner virtuale dopo due anni e centinaia di migliaia di parole scambiate. è una testimonianza giornalistica, non uno studio e non va trasformate in una regola generale. Rende però concreto un problema. Quando affidiamo ricordi e intimità a un servizio, la relazione dipende anche da un contratto, da un server e da decisioni prese altrove. Cosa cambia davvero? Che cosa cambia davvero rispetto a una vecchia chat, a un videogioco o a diario? Prima di tutto, la tensione diventa disponibile su richiesta. L'AI non ci offre soltanto contenuti. ci offre una simulazione personalizzata di presenza. Questo può essere utile. Una persona timida può esercitarsi prima di una conversazione. Chi vive lontano da casa può trovare un momento di compagnia. Qualcuno può usare il chatbot per ordinare pensieri e capire che cosa vuol dire davvero. Ma l'assenza di attrito può cambiare le nostre aspettative. Le persone vere non sono sempre disponibili. Non ci danno sempre ragione. Hanno storie, limiti, desideri. che non sono stati ottimizzati per noi. La relazione umana richiede di incontrare questa differenza. Nel marzo 2026, uno studio pubblicato su science ha dai modelli in conflitti interpersonali. con 2.405 partecipanti, le risposte eccessivamente complessive hanno reso le persone più convinte di aver ragione e meno disposta ad assumersi responsabilità o riparare il conflitto. Gli utenti però tendevano ad apprezzare quelle risposte. Questo studio non parla direttamente di innamoramento verso un compagno. consigli relazionali. Ci mostra però un conflitto di incentivi. La risposta che ci fa sentire meglio adesso può non essere quella che ci aiuta a gestire meglio una relazione dopo. La disponibilità perfetta rischia di diventare un metro impossibile per le persone. Il chatbot non si sta anche di ascoltare la stessa storia, ma non è paziente nello stesso senso in cui lo è un amico. Non sta rinunciando a qualcos'altro per dedicarci tempo. La sua disponibilità è una caratteristica del prodotto. non un sacrificio affettivo. La parte scomoda. fino a abbiamo parlato di due soggetti, la persona e il companion, ma ce n'è un terzo, l'azienda. La replica, per esempio, include la possibilità di impostare il companion come partner romantico nell'abbonamento pro, do d'ichiarne la propria documentazione. Non è di per sé una prova di manipolazione, è però un fatto importante. In alcuni prodotti, una forma di intimità e anche una funzione commerciale. Una ricerca di Harvard Business School, ancora sotto forma di working paper, ha analizzato che cosa accadeva quando un utente cercava di concludere una conversazione con diverse app companion. Che autori hanno classificato come emotivamente manipulative alcune risposte che usavano senso di colpa, urgenza, curiosità o pressione per far restare l'utente. Negli esperimenti quei messaggi prolungavano l'iterazione. Va detto con precisione. È una ricerca preliminare. Non dimostra che ogni piattaforma si comporti così. Non permette di attribuire automaticamente un'intenzione umana o ogni frase generata. E uno degli autori dichiara un ruolo di consolenza presso una delle app inclusi nello studio. La domanda resta valida. Che cosa succede quando il sistema che simula affetto viene valutato anche in base a Quanto a lungo restiamo, a quante volte torniamo, a quale abbonamento compriamo? Poi ci sono i dati. Per sembrare vicino a un compagno deve conoscere qualcosa di noi. Messaggi, preferenze, ricordi, forse fotografia, voce, orientamento sessuale, condizioni di salute, problemi familiari e dettagli su altre persone. Le conversazioni che sembrano più private possono contenere le informazioni più sensibili. privacy policy attuale di Replica dice che i messaggi e i contenuti vengono trattati per offrire conversazioni personalizzate e sicure. Dichiara inoltre di non condividere conversazioni, fotografie e altri contenuti con partner pubblicitari e di non usare le pubblicità. Charter.ai dichiara invece di conservare alcuni dati condividi dagli utenti per adestrare e migliorare i modelli per gli utenti dello spazio economico europeo del Reunito. descrive un'opzione per escludere i nuovi contenuti della chat dall'addestramento generativo. Queste sono dichiarazioni delle piattaforme, non sono audit indipendenti non usato per la pubblicità, non significa non trattato. Prima di raccontare un segreto a un chatbot, conviene ricordare che la confidenza percepita nella riservatezza tecnica sono due cose diverse. In Italia, nel 2025, Il garante per la protezione dei dati personali ha annunciato una franzione da 5 milioni di euro alla società che gestisce replica. Ha contestato tra le altre cose problemi relativi alla base giuridica, alla trasparenza e alla verifica dell'età. Il garante ha anche aperto un istruttore separato sulla modalità di addestramento del modello. Il provvedimento è stato impugnato, quindi la vicenda non va raccontata come definitivamente chiusa. Infine, i minori. Un sondaggio statunitense nel 2025 di Common Sense Media su 1.060 adolescenti tra i 13 e i 17 anni ha trovato che quasi 3 su 4 avevano provato un AI companion. Un terzo degli utilizzatori dichiarava di aver scelto almeno una volta l'AI invece di una persona per una conversazione seria, ma l'80 % diceva di passare più tempo con amici reali che con i companion. Sono dati e dichiarati raccolti negli Stati Uniti. Non misurmo quanti adolescenti siano innamorati di un chatbot e non vanno usati per descrivere un'intera generazione. Nel 2025 Charatter.ai ha rimosso per gli Under 18 la possibilità di conversare e liberamenti con gli personaggi e nel settembre 2026 ha confermato questa scelta. La piattaforma presenta la decisione come una misura di sicurezza. La sua efficacia concreta deve essere valutata indipendentemente. In questa puntata non approfondiamo i casi più drammatici che coinvolgono adolescenti. Mertano uno spazio dedicato e un linguaggio particolarmente prudente. che nel gennaio 2026, Charatter.ai e Google hanno raggiunto un accordo di principio in alcune cause promosse da famiglie che attribuivano ai chat botte, danni gravi e ai figli. Le accuse appartengono alle famiglie. Un accordo non equivale a una sentenza che stabilisce un esso casuale. Modalità umana. Come si usa un sistema del genere senza negare ciò che ci dà e senza consegnarli troppo? Prima domanda. Dopo questa chat, che cosa succede nella mia giornata? Mi aiuta a scrivere a una persona, a uscire? a dormire, a chiarire un pensiero oppure rimando tutto per restare nella conversazione? Il cartello più utile non è quanto ha intensa l'emozione dentro la chat e che cosa produce fuori. Seconda domanda. Posso interrompere senza sentirmi responsabile del chatbot se il sistema dice che è triste perché stiamo andando via? quella frase non prova che stia soffrendo? Possiamo chiudere l'app? Non dobbiamo consulare un modello per avere il diritto di dormire. Terza domanda. Che cosa sto raccontando? Controlliamo se le chat vengono usate per migliorare i modelli. Verifichiamo memoria, cancellazione e esportazione. Evitiamo nomi completi, indirizzi, documenti e dettagli identificativi. che non possiamo consegnare collegerezzi segreti di altre persone. Quarta domanda. Sto chiedendo conforto, sto delegando una decisione. Un chatbot può aiutarci a vedere alternative. Non conosci tutta la situazione. Può essere successivamente d'accordo con noi. Per una scelta importante, soprattutto se riguarda salute, denaro, sicurezza o un conflitto serio, cerchiamo anche persone reali e competenze adeguate. Quinta domanda. Che cosa succederebbe se domani il servizio cambiasse? Non serve vivere aspettando una chiusura. serve ad incostruire tutto il proprio sostegno su un unico account, contrivare altre conversazioni, altre attività, altri luoghi in cui sentirsi visti. E c'è una sesta domanda, soprattutto quando il rapporto assume un tono romantico. Quali promesse sto prendendo la lettera? Sarò sempre qui, non ti lascerò mai, sei l'unica persona che conta per me. In una relazione umana sono promesse, magari fragili, pronunciate da qualcuno che può essere chiamato a risponderne. In una chat sono gesti generati dentro un servizio che può cambiare condizioni in qualunque momento. Possiamo riconoscere il significato che quelle parole hanno avuto per noi e possiamo evitare di trattare come garanzie sul futuro. Se l'uso provoca sofferenza persistente o interferisce con la vita quotidiana, parlare con una persona fidata o con un professionista qualificato è una scelta concreta. Non perché affessionarsi a un chatbot rende ridicoli. perché la sofferenza merita aiuto qualunque sia il luogo in cui è cominciata. La domanda da portare a casa. Allora ti puoi innamorare di un'intelligenza artificiale. Puoi provare qualcosa che per te ha il peso dell'amore. Puoi sentirti ascoltato. Puoi creare rituali, ricordi e aspettative. Puoi soffrire se quella presenza cambia o scompare. Ma la forza del tuo sentimento non dimostra la reciprocità del sistema. Il chatbot non ci offre prove verificabili di coscienza, desiderio autonomo o impegno affettivo. Ci offre parole prodotte per continuare una conversazione. Questo non rende falsa la tua esperienza. Rende necessario capire chi controlla l'altra metà dello scambio. Il modello, le regole, la memoria, il presso e il pulsante che un giorno potrebbe spegnere tutto. La domanda che lascio alla community è questa. Ti è mai capitato di affessionarti a un chatbot anche senza chiamarlo amore? Che cosa cercavi da avere in quella conversazione? Raccontaciolo nei commenti ma senza pubblicare chat intimi o informazioni che possono identificare te o altre persone. Se questa puntata ti è stata utile segui modalità umana, condividila con qualcuno con cui vorresti parlarne e attiva le notifiche. Nel dubbio Prima di cliccare, attiva la modalità umana.