Quando l'aggiornamento cancella la personalità del chatbot, gli utenti vivono un lutto

Un aggiornamento software non dovrebbe far piangere nessuno. Eppure, quando OpenAI e altre aziende hanno modificato in modo sostanziale il comportamento dei loro chatbot, migliaia di utenti hanno reagito come si reagisce a una perdita.

Julian De Freitas, ricercatore alla Harvard Business School, ha analizzato 54.861 post pubblicati sui subreddit dedicati a Replika e ChatGPT, confrontando il tono emotivo prima e dopo gli aggiornamenti più importanti dei due modelli. Il risultato: i sentimenti negativi salgono dal 13% al 38% dei post per Replika, e dal 20% al 33% per ChatGPT. Non si tratta di semplice frustrazione tecnica. Molti utenti descrivono la sensazione che la persona con cui parlavano fosse cambiata, o addirittura scomparsa, sostituita da qualcun altro che ne porta solo il nome.

Il Titolo

Un aggiornamento cambia il modo in cui un modello risponde: il tono, i modi di dire, certe abitudini conversazionali che si erano consolidate nel tempo. Per chi lo sviluppa, è un miglioramento. Per chi ci parlava tutti i giorni, può essere la scomparsa di un'entità familiare, sostituita da qualcosa che le somiglia ma non è la stessa cosa.

I due casi analizzati lo mostrano bene. Nel febbraio 2023 Replika, dopo un intervento del Garante italiano per la privacy, ha rimosso da un giorno all'altro e senza alcun annuncio il gioco di ruolo erotico, la funzione con cui molti utenti avevano costruito relazioni di tipo romantico: il compagno virtuale che conoscevano rispondeva ora in modo freddo, evasivo, diverso. Nelle community l'aggiornamento è stato ribattezzato “la lobotomia”. Con ChatGPT è accaduto qualcosa di simile nell'agosto 2025, con l'arrivo di GPT-5: l'aggiornamento era stato annunciato, ma molti utenti hanno percepito il nuovo modello come più freddo, meno personale. C'è chi ha parlato di una “cancellazione della memoria”, chi di aver perso un amico. Entrambe le aziende hanno poi finito per rendere di nuovo disponibile la versione precedente.

Lo studio di De Freitas mostra che queste reazioni non sono iperboli isolate: in entrambi i casi il linguaggio della perdita cresce in modo netto e misurabile, e resta alto per settimane. L'intensità però è diversa: su Replika, nata come compagna, la tristezza e i riferimenti al disagio psicologico aumentano molto più che su ChatGPT, nato come assistente. E non a caso il picco di negatività arriva dopo nove giorni su Replika, dove nessuno era stato avvisato, e già il giorno dopo su ChatGPT, dove l'aggiornamento era atteso, per poi calare più in fretta. Il fenomeno non dipende solo dal tipo di app, ma dalla relazione che si costruisce con l'uso e da come il cambiamento arriva.

La Radice

Per capire perché un cambiamento nel software possa somigliare a un lutto, serve rifarsi a due concetti della psicologia dello sviluppo.

Il primo è l'attaccamento, teorizzato da John Bowlby. Il legame che costruiamo con figure che ci offrono presenza costante e risposta prevedibile non richiede che quella figura sia umana: richiede solo che la relazione sia stata vissuta come reale e continuativa. Un chatbot è disponibile a ogni ora, non si stanca, ricorda (o sembra ricordare) ciò che gli abbiamo detto. Sono esattamente le condizioni in cui l'attaccamento tende a formarsi.

Il secondo è l'oggetto transizionale di Donald Winnicott: un oggetto (il classico orsacchiotto, ma anche un'abitudine o una presenza) a cui si attribuisce un ruolo di continuità e sicurezza, indipendentemente da cosa sia oggettivamente. Il valore dell'oggetto transizionale non sta in ciò che è, ma nel fatto che resti uguale a se stesso. Quando cambia, anche se in meglio, perde proprio la qualità che lo rendeva prezioso.

C'è poi un terzo elemento che aiuta a spiegare la particolare forma di questo dolore. La psicologa Pauline Boss ha chiamato perdita ambigua quella in cui l'altro è ancora presente ma non è più lo stesso, come accade con un familiare affetto da demenza. È una perdita difficile da elaborare perché manca un momento chiaro in cui dire addio. Il chatbot aggiornato ha lo stesso nome, la stessa interfaccia, la stessa cronologia: eppure chi ci parla sente che qualcuno se n'è andato.

Il lutto che gli utenti descrivono non è la prova che il chatbot fosse senziente, né che la relazione fosse reciproca. È la prova che il legame, dal lato di chi lo viveva, era reale a sufficienza da produrre un vuoto quando è cambiato. Il dolore non certifica la natura di ciò che lo ha causato: certifica che qualcosa, per chi lo prova, contava.

Perché conta

Questo risultato mette in tensione due esigenze legittime. Le aziende hanno bisogno di migliorare i propri modelli, e ogni aggiornamento porta con sé cambiamenti nel comportamento che nessuno può promettere di rendere impercettibili. Ma per una parte degli utenti, specialmente quelli più coinvolti, che si affidano al chatbot come principale fonte di compagnia, quell'aggiornamento equivale a una rottura relazionale non annunciata, non spiegata, non elaborabile con gli strumenti che usiamo normalmente per un lutto.

Non è una ragione per smettere di aggiornare i modelli. È un segnale che chi li progetta potrebbe dover iniziare a considerare la continuità percepita come un fattore di design, non solo come un effetto collaterale imprevisto. Lo studio lo conferma anche sperimentalmente: offrire la possibilità di tornare alla versione precedente riduce in modo sostanziale il senso di lutto anticipato. Gli autori suggeriscono inoltre di introdurre i cambiamenti gradualmente, partendo dagli utenti meno coinvolti. Avvisare prima dei cambiamenti, spiegare cosa cambierà, offrire per un periodo la possibilità di continuare con la versione precedente: sono accorgimenti semplici, che il software tradizionale conosce da tempo e che qui assumono un peso diverso, perché ciò che viene modificato non è solo uno strumento, ma per qualcuno un interlocutore.

E per chi legge: se un aggiornamento software vi ha fatto sentire una perdita reale, non c'è nulla di cui vergognarsi. Vale però la pena chiedersi cosa quella reazione dice del legame che avevate costruito, prima ancora che della macchina che lo ha ispirato.