di Federico Ruggiero

Nello Cristianini, già autore di La scorciatoia, Machina sapiens e Sovrumano, torna con Forma mentis. Siamo sempre a parlare di macchine e di intelligenza artificiale ma questa volta il discorso assume una direzione più delicata quanto attuale: indagare e comprendere come faccia l'intelligenza artificiale a "pensare". Che cosa sono in grado di comprendere le macchine? E, soprattutto, noi siamo in grado di comprenderlo? Sono queste le due domande che guidano l'obiettivo del libro, attraverso casi studio e ricerche scientifiche che più si avvicinano a fornire risposte. Cristianini chiarisce fin dall'inizio che non si parlerà di coscienza o di intenzionalità in senso umano ma delle modalità attraverso le quali l'IA costruisce rappresentazioni del mondo. Infatti, sappiamo che le reti neurali moderne non vengono programmate riga per riga ma vengono addestrate (training). Questo significa che imparano modificando miliardi di connessioni interne, sviluppando capacità che possiamo osservare dall'esterno ma che fatichiamo a spiegare dall'interno. Di conseguenza, siamo in grado di misurare le sue prestazioni, ma non sempre sappiamo dire perché un certo sistema abbia prodotto una certa risposta, quali conoscenze abbia assorbito, quali rappresentazioni abbia costruito, quali scorciatoie abbia imparato.

Se le macchine intelligenti vengono utilizzate in contesti sempre più importanti, dalla ricerca alla medicina, dal lavoro all'educazione, non possiamo limitarci a valutarne le risposte dall'esterno. Diventa urgente anche imparare a capire quali conoscenze abbiano assorbito, quali rappresentazioni abbiano costruito e quali meccanismi interni guidino il loro comportamento. Dobbiamo imparare a decifrare i pensieri delle macchine!

Il libro affronta l'argomento in tre passaggi denominati micro, meso e macro.

Micro

Ecco che Cristianini affronta questo percorso di decifrazione dei pensieri delle macchine partendo proprio dalla struttura microscopica delle reti neurali e dal modo in cui vengono addestrate. Ma cosa sono le reti neurali? Esse non sono altro che il principale strumento del machine learning contemporaneo alla base dei tool di IA generativa, sono strutture artificiali ispirate in modo semplificato ai tessuti cerebrali, composte da diversi elementi connessi tra loro. Per Cristianini, la loro importanza sta nel fatto che possono imparare a risolvere compiti diversi modificando le connessioni interne durante l'addestramento. Sono alla base delle soluzioni di intelligenza artificiale moderna perché apprendono da sole le proprie rappresentazioni e proprio per questo diventano poi difficili da interpretare.

Dentro queste reti troviamo i neuroni artificiali, ovvero le unità elementari che ricevono segnali, li combinano attraverso operazioni matematiche e trasmettono un risultato ai neuroni successivi. Singolarmente questi neuroni sono relativamente semplici da comprendere, ma il punto è che una rete neurale non è mai davvero interessante presa nei suoi singoli elementi. Diventa interessante quando questi elementi vengono collegati tra loro in quantità enormi, organizzati in strati e addestrati su grandi moli di dati. È in quel passaggio dalla semplicità del singolo neurone alla complessità della rete nel suo insieme che inizia il problema della comprensione.

E qui si arriva al nodo centrale della questione perché allo stato attuale è possibile conoscere le operazioni matematiche eseguite dalla rete ma, in verità, non siamo in grado di sapere che cosa la rete stia rappresentando internamente. Ogni connessione tra neuroni ha infatti un peso, cioè un valore che stabilisce quanto un neurone influenzi un altro ma durante l'addestramento (training) questi pesi vengono modificati progressivamente, fino a rendere la rete capace di svolgere un certo compito. In questo senso, i pesi sono il luogo in cui si deposita la conoscenza relativamente stabile della macchina. Questa conoscenza non è una conoscenza scritta in forma esplicita, come una regola di programmazione, ma una conoscenza distribuita tra miliardi di connessioni. Se i pesi rappresentano ciò che la macchina ha imparato nel tempo, le attivazioni rappresentano ciò che la macchina sta considerando in quel momento. Le risposte che otteniamo dal dialogo con ChatGPT (e simili) nascono proprio dall'incontro tra queste due dimensioni.

Dare un primo sguardo ai concetti di reti neurali, pesi, addestramento e attivazioni permette di capire perché l'intelligenza artificiale contemporanea sia estremamente potente così come complessa da essere interpretata. Riusciamo a osservare i dettagli microscopici ma spesso non siamo in grado di collegarli al comportamento macroscopico, alle rappresentazioni interne che portino l'IA a rispondere in quel determinato modo piuttosto che un altro.

Meso

Nella seconda sezione del libro Cristianini si sposta dai componenti elementari delle macchine alle forme che emergono dalla loro organizzazione. Il livello micro è servito a comprendere come una rete neurale è fatta e come viene addestrata mentre il livello meso si pone l'obiettivo di indagare che cosa prende forma dentro la rete, una volta che l'addestramento ha prodotto i suoi effetti. Ci si sposta, quindi, dalla struttura della rete alle sue rappresentazioni. Una rappresentazione può essere vista come una forma interna di conoscenza che non è una frase o un concetto ma una configurazione di pesi, attivazioni o gruppi di neuroni (concetti visti nel micro) che permette alla macchina di trattare qualcosa come significativo. Proprio alla luce delle rappresentazioni, le conoscenze della macchina non sembrano stare in un singolo neurone o in una singola connessione, ma in configurazioni più ampie, in gruppi di neuroni che si attivano insieme, in pattern distribuiti che iniziano a funzionare come rappresentazioni interne.

Quanto evidenziato da Cristianini trova conferma in due casi interessanti, quelli di Alphazero e Othello GPT. Il primo caso racconta del sistema sviluppato da DeepMind, e presentato nel 2018, in grado di giocare a scacchi e sfidare giocatori professionisti. Alphazero non è stato addestrato osservando partite umane, né ha ricevuto in partenza i concetti strategici elaborati nei secoli dagli scacchisti. Gli sono state date le regole del gioco e l'obiettivo da raggiungere, poi ha imparato giocando contro sé stesso. Questo significa che concetti come il valore dei pezzi, la mobilità, la sicurezza del re o il controllo della posizione non gli sono stati insegnati esplicitamente, ma sono emersi durante l'addestramento come rappresentazioni interne utili a giocare meglio. Proprio per questo motivo alcuni ricercatori hanno voluto analizzare il suo funzionamento interno per capire cosa e come avesse imparato a battere i migliori scacchisti (umani). Hanno così scoperto che Alphazero era in grado di rappresentare la scacchiera a un livello astratto, costruendo internamente una descrizione della situazione di gioco. In parole semplici, Alphazero ha mostrato al mondo come una rete neurale potesse arrivare autonomamente a concetti simili a quelli umani, senza riceverli in forma esplicita! Non è in grado di pensare come un essere umano ma è in grado di costruire strutture interne che svolgono una funzione analoga.

Il secondo caso, quello di OthelloGPT (siamo nel 2023), rappresenta un piccolo modello della famiglia GPT addestrato su sequenze di mosse del gioco Othello. OthelloGPT non vede direttamente la scacchiera, ma deve ricostruirne lo stato per capire quali mosse abbiano senso. Deve sapere quali caselle sono occupate, quali sono libere, quali pedine appartengono a un giocatore e quali all'altro. La rappresentazione del tabellone non gli viene fornita dall'esterno, ma emerge come soluzione interna al problema della previsione. Cristianini utilizza questo caso per sottolineare che se un sistema addestrato a prevedere mosse può costruire una mappa interna della scacchiera, allora un sistema addestrato a prevedere parole potrebbe costruire rappresentazioni interne del mondo di cui quelle parole parlano. Il linguaggio, infatti, non è una sequenza casuale di segni, ma riflette relazioni, oggetti, luoghi, azioni, intenzioni e contesti e, per prevederlo bene, un modello potrebbe rappresentare non solo le parole, ma anche le strutture del mondo che rendono quelle parole sensate.

Macro

Nella terza sezione del libro, Cristianini compie l'ultimo passaggio verso la decifrazione dei pensieri delle macchine. Dopo il livello micro dei componenti elementari e il livello meso delle rappresentazioni emergenti, il discorso si sposta ora sul comportamento complessivo degli agenti intelligenti. Il punto è che non tutto può essere compreso riducendo un sistema ai suoi elementi più piccoli. A volte, per capire davvero un sistema complesso, serve un livello di descrizione più alto, capace di cogliere proprietà che non sono visibili se ci si ferma ai singoli componenti. Il livello micro ci ha mostrato di che cosa sia fatta la macchina e come essa venga addestrata. Il livello meso ci ha mostrato quali rappresentazioni e circuiti emergano al suo interno. Il livello macro prova invece a descrivere il comportamento dell'AI nel suo insieme, soprattutto quando questo comportamento diventa troppo complesso per essere previsto soltanto guardando alle sue componenti interne.

Cristianini inizia a descrivere il comportamento macro delle macchine citando il pensiero di Daniel Dennett (1971) secondo cui è possibile descrivere il comportamento di un'entità, che sia una persona, un animale o una macchina, trattandola come se avesse credenze, desideri, obiettivi e intenzioni, a patto che questa descrizione sia utile per prevedere e spiegare ciò che fa. Applicare questa intuizione agli agenti intelligenti contemporanei permette di considerare che in alcuni casi il linguaggio intenzionale diventa più efficace del linguaggio microscopico dei neuroni o di quello mesoscopico dei circuiti. Proprio da questa interpretazione nasce nel 2024 l'idea di machine psychology da un gruppo di ricercatori che suggerisce di studiare gli agenti artificiali con strumenti ispirati alla psicologia umana, alle scienze cognitive e alle scienze comportamentali. Tuttavia, questa condizione non sostiene che le macchine siano persone, ma riconosce che alcuni loro comportamenti possono essere osservati e classificati a un livello più alto. Se un modello linguistico cambia stile, assume ruoli diversi, si mostra più prudente o più aggressivo, più collaborativo o più evasivo, allora può essere utile descriverlo anche in termini di profili comportamentali, personalità, obiettivi e strategie. La machine psychology diventa quindi un modo per comprendere e forse controllare meglio sistemi che sono troppo complessi per essere descritti solo attraverso pesi e attivazioni.

Il caso più significativo di questa prospettiva è quello di Amanda Askell (filosofa morale in Claude). Cristianini racconta che alla fine di novembre 2025 emerse il riferimento a un documento interno usato da Anthropic per orientare il comportamento di Claude, il cosiddetto "soul document" (documento dell'anima). Il punto interessante non è il nome, volutamente suggestivo, ma il tipo di linguaggio usato all'interno del documento. Non si trattava solo di un elenco di divieti o di regole tecniche, ma di una sorta di bussola morale scritta a livello macroscopico. Il documento provava a indicare a Claude che tipo di agente dovesse essere, quali valori dovesse coltivare, come dovesse comportarsi davanti a situazioni ambigue. Il caso del "soul document" è importante perché mostra come il controllo non passi più soltanto dalla correzione di singole risposte o dall'imposizione di regole puntuali e precisi, ma anche dalla definizione di un orientamento generale. Infatti, Claude viene trattato come un agente a cui non basta dire cosa non deve fare, ma a cui bisogna indicare che tipo di comportamento dovrebbe assumere. È qui che siamo di fronte a qualcosa di nuovo: la macchina non viene descritta solo come un insieme di parametri da regolare, ma come un sistema complesso da guidare attraverso principi, valori e obiettivi. Non perché abbia una coscienza o una morale propria simile a quella umana, ma perché il suo comportamento complessivo può essere orientato meglio usando un linguaggio più alto rispetto a quello tecnico dei neuroni e dei circuiti.

La sezione Macro ha portato il discorso in un territorio nuovo. Quando un sistema diventa abbastanza complesso da interagire con noi, adattarsi al contesto, assumere ruoli e seguire principi generali, non basta più chiedersi soltanto come funzionano i suoi meccanismi interni. Bisogna anche chiedersi come descrivere il suo comportamento al livello giusto.

Riusciremo a comprenderle?

Provando a riassumere il pensiero di Cristianini, che ha ripercorso le ultime ricerche scientifiche, è possibile comprendere meglio come funzionino (o "ragionino") le macchine e dove, forse, sarebbe meglio concentrare l'attenzione. Non basta più chiederci se queste macchine siano performanti o meno poiché siamo già di fronte a macchine in grado di rispondere correttamente ai più complessi problemi, di fare previsioni accurate e molto altro. La sfida attuale è quella della comprensione delle macchine. Decifrare i pensieri delle macchine non significa attribuire loro una mente umana, né immaginare che l'intelligenza artificiale pensi, desideri o comprenda esattamente come noi. Significa, invece, prendere sul serio il fatto che questi sistemi costruiscono rappresentazioni interne per orientarsi nel mondo e per produrre comportamenti "intelligenti".