Cugini cognitivi

In Nexus, lo storico Yuval Noah Harari ha proposto di leggere la sigla AI non come "intelligenza artificiale", ma come "intelligenza aliena". La formula ha avuto fortuna perché sembra cogliere qualcosa di inquietante nei modelli linguistici: producono risposte che ci risultano familiari attraverso processi che immaginiamo completamente estranei ai nostri.

Due ricercatori dell'Università del Michigan, il filosofo Chandra Sripada e lo psicologo e linguista Richard Lewis, hanno riesaminato questa idea alla luce della letteratura disponibile. Il loro lavoro, pubblicato come preprint su arXiv, non presenta nuovi esperimenti: è una sintesi teorica degli studi sul comportamento, sull'architettura e sulle rappresentazioni interne dei modelli linguistici.

La loro proposta si chiama "convergenza cognitiva". Umani e modelli linguistici rimangono profondamente differenti, ma potrebbero condividere alcuni principi generali di organizzazione. Per questo gli autori li definiscono "cugini cognitivi".

Il Titolo

Osservare soltanto le risposte di un modello, sostengono Sripada e Lewis, non basta a stabilire quanto il suo funzionamento sia vicino o lontano dal nostro. Due sistemi possono produrre risultati simili attraverso processi diversi. Ma possono anche commettere errori differenti pur condividendo alcuni principi di fondo.

Gli autori individuano corrispondenze su cinque livelli: organizzazione del ragionamento, architettura computazionale, struttura delle rappresentazioni interne, apprendimento guidato dalla previsione e meccanismi simili a quelli dell'apprendimento per rinforzo.

Una delle analogie riguarda la distinzione tra elaborazione immediata e ragionamento seriale. I modelli possono generare una risposta direttamente, affidandosi alle regolarità incorporate durante l'addestramento, oppure produrre passaggi intermedi che diventano parte del contesto utilizzato per arrivare alla soluzione. Secondo gli autori, questa divisione funzionale richiama, senza coincidere con essa, la distinzione proposta dalla psicologia cognitiva tra processi rapidi e automatici e processi più lenti e sequenziali.

Un'altra corrispondenza riguarda la previsione. I modelli linguistici vengono addestrati a prevedere l'elemento successivo di una sequenza e a modificarsi quando la previsione è sbagliata. Il cervello umano non impara nello stesso modo, ma previsione ed errore occupano un ruolo importante in diverse teorie della percezione, dell'apprendimento e del controllo dell'azione.

Le differenze restano profonde. I modelli vengono addestrati su quantità di linguaggio enormemente superiori a quelle incontrate da un bambino e risultano molto meno efficienti nell'apprendere dall'esperienza. Non possiedono un corpo biologico, bisogni fisiologici o una storia evolutiva paragonabile alla nostra. Anche i meccanismi di apprendimento per rinforzo impiegati nei sistemi attuali sono descritti dagli autori come incompleti, fragili e ancora poco sviluppati rispetto alla complessa organizzazione che sostiene l'azione umana.

"Cugini cognitivi", dunque, non significa menti uguali. Indica sistemi costruiti su substrati diversi che, secondo Sripada e Lewis, sembrano convergere su alcuni principi generali.

La Radice

Perché ci viene così naturale collocare l'intelligenza artificiale in una categoria completamente separata dalla nostra?

Una possibile chiave di lettura arriva dall'essenzialismo psicologico: la tendenza a pensare che le categorie possiedano una natura profonda e stabile, capace di determinare ciò che i loro membri sono. Una volta stabilito che qualcosa appartiene alla categoria "artificiale", possiamo essere portati a considerare artificiale, e quindi estraneo, ogni aspetto del suo funzionamento.

È una scorciatoia utile. Le categorie ci permettono di orientarci nel mondo senza dover analizzare ogni oggetto da zero. Ma possono anche trasformare differenze reali in confini assoluti. Dal fatto che un modello non abbia un corpo, un'infanzia o bisogni biologici non deriva necessariamente che ogni principio della sua organizzazione cognitiva debba essere diverso dal nostro.

La metafora della parentela presenta però il rischio opposto. Riconoscere alcune somiglianze non significa attribuire ai modelli coscienza, emozioni, comprensione o esperienza soggettiva. Il lavoro di Sripada e Lewis non dimostra nulla di tutto questo.

La difficoltà, allora, consiste nel resistere a entrambe le semplificazioni: considerare l'IA totalmente aliena oppure immaginarla troppo rapidamente a nostra immagine.

Perché conta

Le parole con cui descriviamo una tecnologia orientano anche le domande che le rivolgiamo. Se definiamo l'intelligenza artificiale "aliena", rischiamo di interpretare ogni somiglianza come un'illusione. Se la descriviamo come quasi umana, possiamo attribuirle intenzioni e qualità che non abbiamo verificato.

La proposta dei "cugini cognitivi" invita a sostituire queste due immagini con un confronto più paziente. Non chiedersi se una macchina sia, nel suo insieme, simile o estranea a noi, ma osservare quali principi condivide con la cognizione umana, dove cominciano le differenze e in quali punti l'analogia smette di essere utile.

Forse il confine più interessante non passa tra due tipi di intelligenza. Passa dentro il nostro modo di classificarle.

Quanto della nostra insistenza sull'estraneità dell'IA nasce dalle differenze che abbiamo realmente osservato, e quanto dal bisogno di conservare un confine netto intorno a ciò che chiamiamo umano?