Il merito è nostro, l'errore è della macchina

Quando un consiglio dell'intelligenza artificiale si rivela giusto, di chi è il merito? E quando si rivela sbagliato, di chi è la colpa? Un esperimento pubblicato il 15 settembre 2026 su Frontiers in Psychology suggerisce che, almeno in un compito di laboratorio, le due domande non ricevono risposte simmetriche.

Lo studio è di Shaowei Ren, dell'Anhui University of Science and Technology, in Cina. 342 studenti universitari, assegnati a caso a tre gruppi da 114, hanno risolto 24 brevi problemi a scelta multipla di logica, lettura di dati e valutazione dell'affidabilità di un'informazione. Un gruppo lavorava da solo. Un secondo, dopo aver dato una prima risposta, poteva consultare ChatGPT, con un massimo di tre scambi per problema. Il terzo faceva lo stesso, ma prima di confermare la risposta finale doveva rispondere a tre domande di riflessione. I consigli della macchina erano utili ma imperfetti: la raccomandazione finale di ChatGPT era corretta in circa due casi su tre, sbagliata nel restante terzo.

Il Titolo

Il primo risultato è il più prevedibile. Chi consultava ChatGPT liberamente finiva più sicuro di sé: la fiducia nella risposta finale, su una scala da 0 a 100, saliva in media di quasi 9 punti, contro un punto e mezzo di chi lavorava da solo. Ma quando il consiglio era sbagliato, questi studenti lo seguivano nel 62,4% dei casi.

Il secondo risultato è più sottile. Dopo ogni problema, gli studenti dichiaravano quanto il consiglio dell'IA avesse pesato sulla loro scelta. Confrontando queste dichiarazioni con quante volte la risposta finale coincideva davvero con quella di ChatGPT, lo studio trova uno scarto, che è più ampio nel gruppo che usava l'IA liberamente: la corrispondenza tra dipendenza dichiarata e dipendenza osservata è di 0,41 su una scala da 0 a 1, contro 0,59 nel gruppo che aveva riflettuto.

Il terzo risultato riguarda il racconto che viene dopo. Ricevuto l'esito, ogni partecipante indicava quanto dipendesse dalle proprie capacità, dal proprio impegno, dal consiglio dell'IA o dalla difficoltà del compito. Nel gruppo che usava ChatGPT liberamente l'asimmetria era più marcata che in quello con le domande di riflessione: le risposte giuste tendevano a essere attribuite a sé, quelle sbagliate più spesso alla macchina. Dopo un errore, la responsabilità assegnata al consiglio dell'IA era più alta di circa mezzo punto su una scala da 1 a 7.

È qui che entra in gioco il terzo gruppo. Le sue tre domande erano semplici: qual è la mia ragione per questa risposta, prima di affidarmi all'IA? Quale parte della spiegazione è sostenuta da prove, e non solo dalla scorrevolezza? Che cosa mi porterebbe a rifiutare la raccomandazione? Con questo breve passaggio, che allungava ogni problema di poco meno di venti secondi in media, l'accettazione dei consigli sbagliati era del 39,7%, contro il 62,4% del gruppo senza domande. La dipendenza dichiarata corrispondeva meglio a quella osservata, e l'indice di asimmetria tra meriti e colpe era di 0,21 contro 0,42. Gli studenti, però, non smettevano di usare l'IA: l'autore descrive un effetto di maggiore selettività, non di diffidenza generalizzata.

I confini dello studio vanno tenuti presenti. Il campione proviene da un solo ateneo, i compiti erano brevi e a risposta chiusa, e l'esperimento misura decisioni immediate, non l'apprendimento nel tempo. L'autore stesso avverte che il legame tra maggiore consapevolezza e minore accettazione dei consigli sbagliati è un'associazione, non la prova che sia la consapevolezza a produrre l'effetto: le due misure si sovrappongono e sono state raccolte nello stesso momento. E i meccanismi non sono stati isolati: lo studio non permette di separare l'effetto delle domande da quello, più semplice, di fermarsi qualche secondo in più.

La Radice

Il fenomeno ha radici più antiche dell'intelligenza artificiale: riguarda il modo in cui raccontiamo a noi stessi le cause di ciò che ci accade. La psicologia sociale lo studia da decenni con il nome di bias di autoattribuzione (in inglese self-serving bias): la tendenza ad attribuire i successi a fattori interni, come l'abilità o l'impegno, e gli insuccessi a fattori esterni, come la difficoltà del compito o le circostanze. È lo stesso quadro a cui si richiama lo studio, che cita la rassegna classica di Dale Miller e Michael Ross, pubblicata nel 1975 su Psychological Bulletin.

Non è una peculiarità di pochi. Una meta-analisi di Amy Mezulis e colleghi, uscita nel 2004 sulla stessa rivista e basata su 266 studi, ha trovato questa asimmetria in quasi tutti i campioni esaminati, con un'intensità media elevata. Ha trovato anche differenze culturali: nei campioni asiatici il bias risultava presente, ma significativamente più contenuto che in quelli statunitensi. Un motivo in più per non trasferire automaticamente i numeri di un singolo ateneo ad altri contesti.

Una possibile chiave di lettura, che è un'interpretazione editoriale e non un risultato dello studio, è che un assistente artificiale offra a questo vecchio meccanismo un appoggio nuovo. Prima c'erano il caso, la sfortuna, la domanda formulata male. Ora c'è un interlocutore esterno, presente dentro la decisione stessa, a cui consegnare un errore è facile. Se la risposta è giusta, l'abbiamo scelta noi. Se è sbagliata, ce l'ha suggerita la macchina.

Letto in questa chiave, anche lo scarto tra dipendenza dichiarata e dipendenza reale, più ampio senza le domande di riflessione, assume un significato. Un divario tra quanto ci si appoggia a un consiglio e quanto lo si riconosce è compatibile con il bisogno di sentirsi autori delle proprie scelte. Lo studio non lo dimostra: misura lo scarto, non il motivo. Nei dati, però, chi era meno consapevole della propria dipendenza tendeva anche a mostrare un'asimmetria più marcata tra meriti e colpe. È una correlazione, calcolata sui due gruppi insieme e quindi in parte legata alla differenza tra i gruppi stessi, non una spiegazione. Ma indica dove guardare.

Perché conta

Le tre domande dello studio non chiedono di diffidare dell'IA. Chiedono di ricordare da dove si è partiti, di distinguere una prova da una frase ben costruita, di immaginare che cosa ci farebbe cambiare idea. Che pochi secondi bastino a spostare il comportamento, almeno in un compito di laboratorio, potrebbe suggerire che a mancare non sia tanto la capacità critica, quanto la sua attivazione nel momento in cui serve.

Resta una questione che va oltre l'aula. Imparare da un errore richiede, prima di tutto, riconoscerlo almeno in parte come proprio. Se l'esito sbagliato viene consegnato alla macchina e quello giusto trattenuto per sé, l'errore rischia di smettere di insegnare qualcosa, e il successo di insegnare la cosa sbagliata. Lo studio non ha misurato l'apprendimento nel tempo e non può dire se questo accada davvero. Ma il dubbio rimane, per chiunque usi un assistente artificiale per decidere: quanto delle nostre scelte giuste è davvero nostro, e quanto delle nostre scelte sbagliate lo è altrettanto?

Una domanda per chi legge: l'ultima volta che un consiglio dell'IA si è rivelato sbagliato, nel racconto che ne hai fatto, di chi era la colpa?