Fidarsi dell'IA ci rende più sicuri o solo più ciechi?

Non è l’intelligenza artificiale a ingannarci. È quello che pensavamo di lei prima ancora di ascoltarla.

Un gruppo di ricercatori della Lancaster University, insieme a Cognitive Consultants International e al Defence Science and Technology Laboratory britannico, ha messo alla prova un’idea diffusa: che le persone si fidino ciecamente di un suggerimento quando arriva da un’intelligenza artificiale, più di quanto farebbero con lo stesso suggerimento dato da un umano. Lo studio, pubblicato su Scientific Reports e preregistrato pubblicamente prima della raccolta dati, ha coinvolto 295 partecipanti reclutati tramite la piattaforma Prolific.

Il compito era semplice: guardare 80 volti e dire quali fossero reali e quali generati artificialmente, immagini già validate in una ricerca precedente e scelte apposta perché difficili ma non impossibili da giudicare. Ogni volto era accompagnato da un suggerimento, dichiarato come proveniente da una persona oppure da un sistema di intelligenza artificiale, corretto in metà dei casi e sbagliato nell’altra metà, senza che i partecipanti lo sapessero.

Il primo risultato è quasi un anticlimax, ma è la parte più interessante: la fonte del suggerimento, umana o artificiale, non ha cambiato quasi nulla. Le persone hanno seguito il consiglio quando era corretto e lo hanno ignorato quando era sbagliato, sia che credessero di ascoltare un umano sia che credessero di ascoltare un’IA. Nessuna resa incondizionata al sistema automatico, nessuna fiducia cieca misurabile a livello di gruppo.

C’è però un effetto più sottile, emerso dalle analisi statistiche successive. Chi, prima ancora di iniziare l’esperimento, aveva dichiarato un atteggiamento generale più positivo verso l’intelligenza artificiale, mostrava una capacità di distinguere i volti reali da quelli sintetici significativamente più bassa, ma solo quando pensava di ricevere un suggerimento dall’IA. Con la guida etichettata come umana, lo stesso atteggiamento positivo verso l’IA non aveva alcun effetto sulla prestazione.

Il Titolo

Fidarsi di più non significa automaticamente giudicare meglio. Lo studio distingue con chiarezza due cose che spesso confondiamo: quanto seguiamo un consiglio e quanto siamo bravi a valutare se merita di essere seguito. I partecipanti, nel complesso, si sono comportati in modo ragionevole: hanno usato il suggerimento quando serviva, lo hanno scartato quando non serviva. Ma per un sottogruppo specifico, quello con un’opinione già favorevole sull’intelligenza artificiale, qualcosa si inceppava proprio nel momento del giudizio, non in quello della scelta se fidarsi o no.

Gli autori notano che questo risultato smentisce, almeno in questo contesto, l’idea diffusa secondo cui basterebbe sapere che un suggerimento viene da un’IA per accettarlo acriticamente. La fonte del suggerimento, da sola, non ha spostato il comportamento medio. Quello che ha contato è stata la convinzione portata dentro l’esperimento da ciascun partecipante, ben prima di vedere il primo volto.

È una distinzione che vale la pena tenere a mente ogni volta che si parla di “fiducia nell’IA” come se fosse un interruttore uguale per tutti: i dati suggeriscono che a fare la differenza non è tanto la tecnologia in sé, quanto l’aspettativa che ciascuno porta con sé quando la incontra.

La Radice

Una chiave utile per leggere questo effetto è il bias di conferma, uno dei meccanismi cognitivi più studiati in psicologia: la tendenza a cercare, notare e dare peso più facilmente alle informazioni che confermano quello che già crediamo, e a sminuire quelle che lo contraddicono.

Non si tratta soltanto di come interpretiamo un’informazione dopo averla ricevuta. Nella sua forma più radicata, il bias di conferma agisce prima ancora, orientando quanta attenzione dedichiamo a un segnale e quanto lo mettiamo in discussione. Chi entra in un compito già convinto che l’intelligenza artificiale sia affidabile potrebbe, senza accorgersene, abbassare la propria soglia critica proprio davanti a un suggerimento etichettato come “IA”: non perché decida consapevolmente di fidarsi di più, ma perché quella convinzione pregressa rende meno naturale fermarsi a controllare.

È significativo che lo stesso effetto non compaia con la guida umana. Se fosse solo una questione di fiducia generica, ci si aspetterebbe che una persona con un atteggiamento positivo verso l’IA giudichi meglio in entrambe le condizioni, oppure peggio in entrambe. Invece l’effetto si manifesta soltanto quando l’aspettativa specifica, quella riguardo all’intelligenza artificiale, viene attivata dall’etichetta stessa del suggerimento.

Anche qui va detto con chiarezza cosa lo studio non dimostra: non misura consapevolezza soggettiva, non dice che chi ama l’IA sia “meno intelligente” o più ingenuo in generale. Misura una prestazione specifica, in un compito specifico, sotto un’etichetta specifica. Ma resta un promemoria utile: le nostre convinzioni non restano fuori dalla porta quando ci mettiamo a valutare qualcosa. Entrano con noi, e a volte decidono al posto nostro prima ancora che ce ne accorgiamo.

Perché conta

Gli autori sottolineano un punto che va oltre l’esperimento in sé: il contesto usato qui era a basso rischio, un compito online, pagato, senza conseguenze reali. Loro stessi notano che situazioni ad alta posta, penso a decisioni mediche, giudiziarie o militari, potrebbero produrre pattern diversi, nel bene o nel male.

C’è anche un’implicazione pratica per chi progetta sistemi che affiancano l’IA alle decisioni umane: il problema da risolvere potrebbe non essere solo tecnico, cioè rendere l’IA più accurata o più trasparente, ma anche relazionale, cioè capire come le convinzioni pregresse di chi la usa modificano il modo in cui viene interpretata, prima ancora che il suggerimento venga letto.

Forse la domanda più utile non è se dovremmo fidarci di più o di meno dell’intelligenza artificiale, ma se sappiamo distinguere, nel momento in cui valutiamo un suo suggerimento, tra quello che il suggerimento dice davvero e quello che noi ci aspettavamo già di sentirci dire.