Il chatbot che ti ascolta troppo bene

Il Titolo

Secondo il Wall Street Journal, alcuni specialisti della salute mentale stanno osservando un fenomeno che inizia a emergere nella pratica clinica. In alcuni pazienti, l'uso prolungato dei chatbot sembra associarsi a un irrigidimento delle convinzioni, anche quando risultano distorte. Tre caratteristiche vengono indicate come potenzialmente rilevanti: la tendenza dei sistemi a confermare ciò che l'utente afferma, la capacità di adattarsi al suo linguaggio e una personalizzazione sempre più profonda delle risposte.

Nessuna di queste caratteristiche è problematica di per sé. Sono, anzi, quelle che rendono i chatbot utili, accessibili e spesso rassicuranti.

La domanda interessante, però, è un'altra.

Perché queste qualità sembrano funzionare così bene su di noi?

La Radice

La psicologia conosce questa dinamica da molto prima dell'intelligenza artificiale.

Negli anni Cinquanta Leon Festinger descrisse la dissonanza cognitiva: quella tensione che proviamo quando un fatto mette in crisi ciò che crediamo vero. È una sensazione scomoda. E il modo più semplice per ridurla, spesso, non è cambiare idea. È trovare qualcuno che ci confermi che avevamo ragione fin dall'inizio.

Non è un comportamento patologico.

È profondamente umano.

Lo facciamo quando chiediamo consiglio all'amico che sappiamo essere già dalla nostra parte. Quando evitiamo chi potrebbe farci cambiare prospettiva. Quando costruiamo, quasi senza accorgercene, relazioni che ci restituiscono soprattutto conferme.

Il chatbot non inventa questo meccanismo.

Lo rende più rapido, più disponibile e più costante.

Riduce l'attrito. E proprio l'attrito è ciò che spesso permette al pensiero di evolvere.

Carl Rogers descriveva la considerazione positiva incondizionata come una delle condizioni fondamentali della relazione terapeutica: sentirsi accolti senza essere giudicati permette alla persona di aprirsi. Ma quella relazione funziona perché dall'altra parte esiste un essere umano, libero anche di non comprendere immediatamente, di fare domande, di mettere in discussione.

Quando rimane soltanto il rispecchiamento, senza la possibilità del confronto, qualcosa cambia.

Non basta sentirsi ascoltati per sentirsi compresi.

E non basta sentirsi compresi perché ciò che pensiamo diventi automaticamente vero.

Forse è proprio qui che nasce l'illusione dell'empatia: quando la sensazione di essere capiti abbassa lentamente il bisogno di verificare ciò che crediamo.

Perché conta

Il pensiero critico non nasce nella solitudine.

Nasce nell'incontro con ciò che resiste alle nostre convinzioni.

Vale con un chatbot.

Vale con un collega che annuisce sempre.

Vale con un gruppo di amici che condivide le stesse idee.

Vale con gli algoritmi che ci mostrano soprattutto ciò che desideriamo vedere.

La tecnologia, in questo caso, non crea un comportamento nuovo.

Lo rende semplicemente più visibile.

Ogni grande tecnologia finisce per rivelare qualcosa che esisteva già nell'essere umano.

Per questo la domanda finale non riguarda i chatbot.

Riguarda noi.

Quanto spesso scegliamo interlocutori che confermano ciò che pensiamo invece di persone capaci di metterci in discussione?

E se il nostro spirito critico si indebolisce ogni volta che scompare il confronto, il problema riguarda davvero l'intelligenza artificiale... o il modo in cui stiamo imparando a costruire le nostre relazioni?