La risposta perfetta suona più sincera di quella vera

Il Titolo

Steffen Herbold e i suoi colleghi dell'Università di Passau hanno preso trenta puntate di Question Time, il programma di dibattito della BBC, e hanno chiesto a GPT-4 Turbo di generare, per ciascuno dei 112 ospiti coinvolti, una risposta alternativa alle stesse domande poste dal pubblico in studio - istruendo il modello soltanto con la biografia pubblica di ciascuna persona. Novecentoquarantotto adulti britannici, selezionati per rappresentare la società del Paese, hanno poi letto le risposte reali e quelle generate, senza sapere quale fosse quale. Il risultato è netto e statisticamente significativo in ogni confronto: le risposte dell'intelligenza artificiale sono state giudicate più autentiche, più coerenti e più pertinenti di quelle effettivamente pronunciate dalle persone reali.

Vale una precisazione, e viene dagli stessi autori: il confronto non è del tutto equo. Chi risponde dal vivo, davanti a una telecamera, lo fa a braccio - con le esitazioni, le imprecisioni e i cali di linearità che l'improvvisazione comporta. Il modello, al contrario, attinge a un testo già composto, e arriva quindi naturalmente più levigato. Gli autori notano anche che il testo generato ha un lessico più ampio e meno espressioni di incertezza ("penso che...", "mi pare che...") - ma questa differenza di stile, dicono, non basta da sola a spiegare il divario nei giudizi di autenticità. Qualcos'altro, nella percezione di chi legge, sta facendo la differenza.

La Radice

Una possibile chiave di lettura arriva dalla letteratura sulla fluidità cognitiva (processing fluency): la facilità con cui il nostro sistema cognitivo elabora un messaggio - la sua scorrevolezza, la sua coerenza interna, l'assenza di esitazioni - tende a essere usata, in modo automatico e in gran parte inconsapevole, come indizio della sua verità e della sua genuinità. È lo stesso meccanismo che rende un'affermazione ripetuta più credibile della prima volta che la sentiamo: non perché diventi più vera, ma perché diventa più facile da processare.

Qui il fenomeno assume una forma quasi paradossale. Intuitivamente, tendiamo ad associare l'autenticità all'imperfezione: la voce che si incrina, la risposta che esita, l'imprevisto che non si può scriptare. Eppure, messi di fronte a un testo privo di attrito e a uno pieno di incertezze dal vivo, i partecipanti hanno scelto il primo come "più sincero". Questo non significa che la fluidità sia il contrario dell'autenticità percepita: significa che la usiamo, senza saperlo, come sua controprova - anche quando la fluidità nasce da un processo, la generazione automatica di testo, che con la sincerità non ha nulla a che fare.

Perché conta

Non è un problema che riguarda solo i dibattiti televisivi o le campagne elettorali. Sempre più spesso, le parole che leggiamo o ascoltiamo - una risposta del servizio clienti, una nota aziendale, un messaggio di un'assistente conversazionale - sono mediate, corrette, rese fluide da un sistema che non esita mai. Se la fluidità è il segnale che il nostro giudizio usa per riconoscere la sincerità, cosa succede quando chiunque, umano o macchina, può produrla su richiesta?

Lo studio non dice che l'intelligenza artificiale sia più onesta di una persona reale. Dice che, leggendo un testo, non sappiamo distinguere bene la levigatezza dalla verità. La domanda che resta aperta è quale prova ci resterebbe, per riconoscere la sincerità di qualcuno, se anche la sua imperfezione potesse essere simulata a comando.