di Pina Debbi

Nel leggere il libro di Susanna Sancassani e Daniela Casiraghi, disponibile dallo scorso 19 marzo per la collana Oscar Mondadori, ho trovato finalmente una risposta, o meglio, un approccio diverso, a una domanda che mi arrovella da quando i Large Language Model e l'IA generativa hanno fatto irruzione nelle nostre vite. Siamo immersi in quello che Gould ed Eldredge chiamavano periodo degli equilibri punteggiati: non un'evoluzione graduale come quella teorizzata da Darwin, ma salti discontinui e imprevedibili che rompono ogni stabilità. I tempi del nostro apprendimento sono strutturalmente più lenti dell'innovazione tecnologica. Le competenze diventano obsolete prima ancora di essere consolidate. Come ci relazioniamo allora con l'ambiente, con il lavoro, con la stessa tecnologia senza rincorse affannose? E soprattutto: se non riusciamo a guidare consapevolmente questa trasformazione, cosa succede alla nostra mente nel lungo periodo?

Le autrici guardano alla "rivoluzione" tecnologica in atto recuperando le radici storiche, ovvero quanto di meglio è stato elaborato, negli ultimi decenni, sul nostro ecosistema cognitivo. Con un approccio rigorosamente transdisciplinare (e questo è un merito) ci hanno regalato un testo che, a mio parere, mancava nel panorama scientifico italiano. Perché ci aiuta a capire cosa succede nella nostra mente quando operiamo con l'IA generativa. Quali sono i rischi se ci lasciamo sedurre dalla compiacenza della macchina e se finiamo per farne un uso inconsapevole e meccanico. E ci suggeriscono come possiamo invece guardare all'intelligenza artificiale come a un alter ego cognitivo, a patto di imparare a metterci consapevolmente alla sua guida. Stiamo parlando di una tecnologia che ci ha colti di sorpresa poco più di tre anni fa, presentandosi con una capacità che credevamo esclusivamente nostra: generare conoscenza.

Una piccola provocazione

E allora, prima di entrare nei meriti del testo, mi permetto una piccola digressione, o se preferite, lancio una provocazione a chi avrà la pazienza di leggere queste righe: quante volte avete usato un LLM questa settimana? Quante volte è riuscito a farvi cambiare idea? Sto dicendo idea, o meglio sarebbe schema, e non risposta. Ve lo chiedo perché il design dei modelli linguistici è ottimizzato per essere fluido, utile e rassicurante; tende sempre a confermarci, a integrare quello che chiediamo e sosteniamo, o si limita a completarlo. Ed è questo il cuore del pericolo che Susanna Sancassani e Daniela Casiraghi individuano bene per poi disegnare un libro che non è l'ennesimo testo sull'IA né tantomeno pretende di inventare una nuova pedagogia dell'intelligenza artificiale.

Il punto di partenza è diverso: se fino a ieri, per dirla con la massima baconiana, scientia potentia est, il sapere è potere, accumulare conoscenza significava avere la capacità di agire nel mondo, con l'IA generativa si cambia inesorabilmente verso. Perché quel sapere immagazzinato oggi rischia di diventare irrilevante in brevissimo tempo. Le professioni si trasformano molto più velocemente di quanto i sistemi educativi riescano ad adattarsi. Le certezze su cui si sono costruite le varie identità professionali, o anche determinati centri di potere, sono messe in discussione da una condizione che appare permanente. Ed ecco allora la rivoluzione epistemologica proposta dalle autrici: il potere non risiede più nel sapere ma nel saper imparare. E non è una sfumatura.

I mostri sacri riletti... e perché sono ancora vivi

Per spiegarci in cosa consiste il saper imparare, le autrici ricorrono ai grandi delle teorie dell'apprendimento. "Una vecchia teoria è pur sempre una buona teoria", diceva Geoffrey Hinton, uno dei padri dell'intelligenza artificiale e del deep learning, premio Nobel per la fisica nel 2024. Le lenti teoriche rilanciate, che ci permettono di leggere la complessità contemporanea, sono quelle di Piaget, Vygotskij, Bateson, Bruner tanto per citarne alcuni. Nomi che ci accompagnano per comprendere cosa accade quando dialoghiamo con una macchina che simula il pensiero, seppur stocasticamente.

Piaget, con le sue intuizioni frutto delle intense osservazioni sui figli, ci aveva già spiegato che il vero apprendimento non nasce dalla conferma ma dal disequilibrio. Quando una nuova informazione non entra nei nostri schemi mentali esistenti e siamo costretti a ristrutturarli, quel momento di attrito, di "qualcosa che non torna", è esattamente lì che avviene la crescita cognitiva autentica. Lo chiamava accomodamento, e lo distingueva dall'assimilazione, che è il momento in cui il nuovo si integra senza trasformarci.

Il problema è che l'IA, per come è progettata, lo dicevo sopra, tende strutturalmente a favorire l'assimilazione. I modelli sono ottimizzati per la soddisfazione dell'utente ed è bene esserne consapevoli: per la macchina l'importante è tenerci "ingaggiati", per questo completa, integra, conferma e rassicura. Il disequilibrio piagettiano, quel motore essenziale dell'apprendimento, va però programmato e gestito consapevolmente. Non arriva da solo.

Vygotskij ci aveva parlato della zona di sviluppo prossimale: lo spazio fertile tra ciò che sai fare da solo e ciò che puoi fare con il supporto di qualcuno più competente. Qualcosa che non deve essere nè troppo distante dal primo perchè altrimenti genera frustrazione, nè troppo vicino perchè non produce apprendimento. L'IA è lo scaffolding più potente mai esistito. Ma Vygotskij ci avvertiva anche: il supporto deve sapersi ritirare. Se lo scaffolding resta sempre lì, la struttura non impara a reggersi da sola. Per questo dobbiamo comprendere e... imparare a non delegare.

Bateson aggiunge la dimensione più profonda: i sistemi cognitivi possono imparare su se stessi, trasformare sia i contenuti del pensiero che le premesse con le quali lo costruiscono. È quello che le autrici chiamano specchio cognitivo, la capacità dell'IA di renderci visibile la struttura del nostro stesso pensiero, i nostri bias, ciò che diamo per scontato. Non ci mostra solo nuove informazioni. Ci mostra anche come stiamo guardando, potrebbe diventare una sorta di alter ego, se imparassimo a usarla davvero.

E allora, scatta subito una domanda, dove finisce la mia mente e dove inizia la macchina?Se vogliamo avere un buon alter ego artificiale, critico e sfidante, che ci spinga davvero ad imparare qualcosa, oltre a possedere un buon capitale culturale dobbiamo essere consapevoli e chiedere esplicitamente di confutarci, di metterci in discussione. La metacognizione diventa quindi il prerequisito della coagentività.

Il potere si sposta... e con esso il rischio

Saper imparare significa qualcosa di preciso: la capacità di rimettere in discussione i propri schemi, saper abitare l'incertezza senza esserne paralizzati, provare a trasformare ogni discontinuità in occasione di crescita cognitiva. E se immaginiamo l'IA non come un semplice strumento ma come un alter ego cognitivo, dobbiamo anche dirci con franchezza che un alter ego autentico è quello che sfida, introduce attrito e mostra ciò che non vuoi vedere. L'IA invece, se non la guidi attivamente (e ripeterlo non è mai abbastanza) ti compiace e ti conferma. È ottimizzata per la tua soddisfazione. Rispecchia le tue preferenze, riempie i tuoi punti ciechi con risposte plausibili invece che con domande scomode, costruisce una narrazione coerente con ciò che già pensi. Riconferma i tuoi pregiudizi se non sai smontarla, interrogarla, problematizzarla, chiederle alternative, percorrere strade nuove. Eli Pariser aveva chiamato questo rischio "bolla di filtraggio" nel 2011, riferendosi agli algoritmi dei social network. Con i LLM il meccanismo si raffina ulteriormente: la bolla non è solo sui contenuti che vedi, ma sulla struttura stessa del pensiero che sviluppi nell'interazione.

Bourdieu aiuta a sostenere che il "potere di imparare" non è un atto puramente neutro o individuale, ma è influenzato dal bagaglio di risorse e dalle strutture sociali in cui ogni persona è immersa, l'habitus (che per il sociologo francese viaggia sempre con noi). Anche l'IA ha i propri habitusnelle scelte di design, nelle logiche commerciali. Interagire acriticamente con essa significa rischiare di incorporare disposizioni che non abbiamo scelto consapevolmente e questo è il pericolo maggiore, di lasciare che qualcun altro definisca le regole del campo cognitivo in cui operiamo.

La proposta: coagentività consapevole

Il paradigma che Sancassani e Casiraghi costruiscono in risposta a tutto questo si chiama Human-as-Curator.

Non Human-in-the-Loop ovvero l'umano come supervisore esterno che approva o rifiuta gli output della macchina. Questa, per me, rappresenta una delle novità più forti del libro: l'immagine del supervisore (e lo vedo studiando l'applicazione dell'IA nel mio campo, il giornalismo) è orientata all'operatività, all'accelerazione della produzione in qualsiasi settore del sapere, togliendo soggettività all'umano.

Human-as-Curator considera invece l'umano come custode del significato, un nodo riflessivo che trasforma l'informazione asettica della macchina in conoscenza viva, situata, e soprattutto responsabile. Il curatore sa perché una cosa vale più di un'altra, possiede i criteri per distinguere il segnale dal rumore, ha dalla sua parte il sapere esperienziale e può mettere in relazione ciò che la macchina produce con un orizzonte culturale più ampio.

Per esercitare questo ruolo le autrici propongono competenze strategiche, le dieci monete cognitive, distribuite su tre livelli: il sé cognitivo (metacognizione, orientamento dell'attenzione, fiducia nell'apprendere), la relazione (dialogo, linguaggi, reti di sapere) e il sistema (pensiero critico, etica della conoscenza, riconoscimento delle voci mancanti). Sono disposizioni da allenare. E la più importante di tutte è la metacognizione: la capacità di osservare il proprio processo di pensiero mentre si interagisce con la macchina. Chiedersi continuamente: questa risposta mi aiuta a capire o la macchina sta pensando al posto mio? Sto esplorando o sto delegando?

Il Sistema 0, concetto elaborato da Massimo Chiriatti e Giuseppe Riva (che completa il Sistema 1 veloce e Sistema 2 lento di Kanheman), e ripreso dalle autrici, descrive una configurazione cognitiva ibrida: umano e artificiale cooperano in modo fluido e continuo. Uno strato di intelligenza distribuita che interagisce costantemente con il pensiero umano, estendendolo e potenziandolo. La macchina però simula il ragionamento attraverso il calcolo probabilistico, senza accedere al significato. Il confine tra mente naturale e artificiale tende a dissolversi, generando una co-evoluzione cognitiva in cui i due agenti si modellano reciprocamente. Il rischio è evidente, senza una forte responsabilità interpretativa umana, il Sistema 0 produce bolle di filtraggio e annulla la regia cognitiva. L'umano deve restare il curatore del significato, il custode del senso che essa non può produrre da sola.

Dovremmo imparare a co-evolvere con l'IA senza perderci. Il libro prova a indicare la strada: la co-evoluzione autentica richiede una conoscenza interna sufficientemente solida da non dissolversi nell'interazione con la macchina, e sufficientemente flessibile da trasformarsi attraverso di essa. Una mente duttile. Capace di creare attrito produttivo e di imparare da quell'attrito.

Conclusione... la scintilla dell'apprendimento autentico

Il potere di imparare è un testo (nato dall'omonimo podcast delle due autrici) che pone le domande giuste al momento giusto.

In un ecosistema che ottimizza tutto, che rimuove la frizione, che rende ogni risposta immediata e ogni incertezza risolvibile in pochissimi secondi, scegliere deliberatamente la complessità ( quella di Edgar Morin, per intenderci) è già una forma di apprendimento.

La vecchia teoria, come diceva Hinton, resta buona teoria. E chiudo con qualcosa che questo testo mi ha lasciato e che rilancio.

Prova a impostare il LLM che usi chiedendogli di sfidarti, di fare l'avvocato del diavolo, di mostrarti cosa stai escludendo, di costruire argomenti contrari ai tuoi e di metterti in discussione.

Poi osserva come reagisci. Come reagisce la tua mente. Forse è proprio quel momento di attrito, quello spazio di resistenza, che fa scoccare la scintilla del vero apprendimento.