di Pina Debbi

Nel mondo dell'Intelligenza Artificiale Generativa, l'anno che si è appena concluso ci ha lasciato due concetti che offrono chiavi di lettura nuove: Capitale Semantico, tanto caro a Luciano Floridi (ne parleremo in una prossima newsletter) ed Epistemia, termine coniato dal gruppo di ricerca di Walter Quattrociocchi.

Quattrociocchi, professore ordinario dal 2023 (quando aveva poco più di quarant’anni), è a capo del Center of Data Science and Complexity for Society (CDCS) della Sapienza Università di Roma. Lavora sul fronte più duro dei sistemi complessi: network science, dinamiche collettive, processi di diffusione e formazione dell’opinione in ambienti digitali. Se vogliamo semplificare, la sua è una ricerca interdisciplinare in cui sociologia, psicologia sociale e semiotica vengono analizzate con i metodi delle “scienze dure”: una vera e propria fisica dei sistemi sociali. È, insomma, una figura di riferimento internazionale nello studio dei meccanismi che governano la circolazione dell’informazione (e della disinformazione) quando entrano in gioco reti, attrattori, feedback, contagio sociale: quando i fenomeni diventano veri e propri “ecosistemi” di variabili intrecciate.

Nell’ateneo romano guida un gruppo di circa 14 dottorande e dottorandi seguite/i una a uno, e coordina una rete di collaborazioni scientifiche molto ampia. I suoi lavori sono tra i più citati: nel 2026 conta già 235 citazioni (al momento in cui scrivo), e complessivamente ne raccoglie 24.135, con H-index 48. Per chi conosce i meccanismi della ricerca scientifica, è un’enormità. Chi frequenta LinkedIn lo conosce anche per lo spirito polemico e le entrate, talvolta a gamba tesa, contro l’hype dei tool generativi e contro certe semplificazioni divulgative. È un approccio che molto spesso divide, ma è coerente con la sua impostazione: quando la retorica sostituisce l’analisi dei meccanismi, lui alza il tiro e, tanto per utilizzare una metafora, "qualche volta spara ad alzo zero"

Venendo dalle scienze umanistiche, mi è capitato più volte di aggiungere che, con tutti i suoi limiti, l’IA generativa non è più solo uno strumento: è diventata un medium. Rimodella l’ecosistema anche dove non entra “ufficialmente”, perché opera ormai come pratica individuale e informale: tentativi, scorciatoie, micro-usi quotidiani. In questo contesto, la parola “epistemia”, proposta da Quattrociocchi e collegata, da un’altra angolatura, proprio al tema del “capitale semantico”, descrive un rischio preciso: l’illusione di sapere generata dalla plausibilità linguistica. Per LESDIT PhD Learning Sciences and Digital Technologies e Moredigital, ho incontrato Walter Quattrociocchi per comprendere bene i confini dell' Epistemia. Ne è uscita una conversazione netta, a tratti anche ruvida, ma utile proprio perché mette a fuoco un punto: la sue ricerche ci dicono che i Large Language Model producono linguaggio e non proprio verità o conoscenza.

Debbi: Epistemia, cosa sta cambiando nel nostro approccio all'IA?

Quattrociocchi: «Ci stiamo rendendo conto che l’oggetto che avevamo sotto le mani non era esattamente quello che ci hanno promesso. Ci hanno venduto una rivoluzione cognitiva, ma non perché ci fosse qualcuno che volesse truffarci. È che quando abbiamo visto l’automazione linguistica, il Large Language Model, dare risposte coerenti e interessanti, siamo scivolati subito nella stessa dinamica che Turing aveva già messo a tema: la capacità di una macchina di emulare il discorso umano. Il problema arriva subito dopo: vedendo un linguaggio coerente, automaticamente pensiamo che dietro ci sia una mente. Non mi interessa aprire la disputa tra “intelligenza sì / intelligenza no”. Mi interessa l’errore di categoria: attribuire alla tecnologia ciò che nasce tra output e interpretazione umana.»

Debbi: Ci dia una definizione di epistemia, come la spiegherebbe a una studentessa o a uno studente.

Quattrociocchi: Nel nostro linguaggio c’è uno scopo: comunicare anche per decidere. E nel processo di giudizio tendiamo a fare una verifica. Il giudizio è un processo epistemico: ci porta a prendere una posizione rispetto a un elemento fattuale. È dunque anche una decisione. Nel large language model questo passaggio non c’è: è simulato. Tu gli dici ‘dammi un giudizio sull’affidabilità di questa fonte’ e lui costruisce la sequenza di parole stetisticamente più plausibile rispetto a quell’input. Senza nessun tipo di verifica. Nel paper Epistemological Fault Lines Between Human and Artificial Intelligence abbiamo descritto la differenza tra il nostro processo di giudizio e quello di un LLM. Nel large language model possiamo definire la costruzione della sequenza come un random walk su un grafo pesato. Suona complicato, ma è un quadro molto strutturato, tipico della meccanica statistica e della fisica dei sistemi complessi. Ma per chiudere il cerchio l'articolo che ha trovato concorde un ampia parte della comunità scientifica è The simulation of judgment in LLMs è lì che grazie ai miei dottorandi abbiamo chiamato epistemia l’illusione della conoscenza quando l’unico criterio di “tenuta” è la plausibilità linguistica: la coerenza è solo interna, non c’è nulla di verificato.»

Debbi: Fino a che punto siamo consapevoli? Il vero rischio è solo quello della delega?

«Si continua a usare l’intelligenza artificiale generativa come se fosse un motore di ricerca. Ma prima, quando cercavi qualcosa su Google, ottenevi un elenco di fonti: poi stava a chi leggeva aprire, verificare, giudicare e scegliere. Qui quella fase si perde. Faccio un esempio: non so come funzionano i satelliti. E allora chiedo a un LLM di spiegarmeli. Io prendo quella risposta per buona. Ma il modello assembla una sequenza di parole attingendo a tracce provenienti da testi diversi, senza alcuna garanzia che ciò che sta dicendo sia stato verificato. Quando mancano dati può colmare i vuoti, e anche quando i dati ci sono, il modo in cui li ricombina non è necessariamente corretto. La plausibilità linguistica non garantisce che ciò che viene detto sia stato davvero compreso, né, soprattutto, controllato. Il large language model non “comprende” le parole che assembla: è come un estrattore. Come al lotto estrai numeri da un’urna, così il modello seleziona token e frasi in base a ciò che è comparso più spesso nei testi con cui è stato addestrato dando la risposta statisticamente più probabile. Oltre questo, non c’è niente.»

Debbi: Cito due obiezioni che sento spesso. Prima: con vincoli e prompt precisi il modello “non deraglia”. Seconda: oltre alla delega il rischio più profondo è l’omologazione. È così?

Quattrociocchi: «Il prompt è come l’inizio di una passeggiata in montagna: posso partire da punti diversi e mi metto in cammino. Il modello procede passo dopo passo: un token alla volta, (non una parola intera, ma spesso un frammento di parola) e costruisce una traiettoria seguendo i percorsi che ha imparato su una mappa fatta dei testi che ha visto, “i 150 milioni di libri”, per usare una semplificazione. L’effetto collaterale è che vengono privilegiati i sentieri più battuti. Restando nella metafora: i percorsi principali diventano sempre più larghi e più facili da percorrere; quelli alternativi, col tempo, si riempiono di fogliame e finiscono nel dimenticatoio. È così che si crea un’ulteriore omologazione linguistica, che diventa poi il materiale di cui si nutriranno anche i large language model del futuro.»

Debbi: Se ci spostiamo verso la didattica e l'apprendimento, che tipo di accorgimenti sono necessari, in un contesto in cui si sperimenta molto e si parla di personalizzazione dello studio..

Quattrociocchi: «L’epistemia si manifesta nella sua forma più grave quando non ho conoscenza dell’argomento e provo a imparare direttamente attraverso un large language model. In quel caso può diventare un generatore di contenuti comprensibili solo in apparenza. Lo vedo nei miei esami: c’è chi prova a usare il modello per studiare o per costruire un elaborato. Mi arrivano spesso le stesse cose, gli stessi errori. E sono errori gravi: lì capisci subito che non c’è comprensione. Il rischio è che si padroneggi la sintassi di ciò che gli LLM restituiscono, ma quando si entra nel significato la comprensione non è profonda. Il modello ricompone pattern linguistici: non verifica. Per questo, se lo usi per studiare al posto delle fonti, stai spostando l’apprendimento su un dispositivo che non ha un vincolo interno di controllo. Può essere uno strumento di supporto se la didattica incorpora fonti, esercizi di controllo, tracce di ragionamento verificabili, e se chi studia possiede già conoscenze di base.»

Debbi: Necessità e obbligo di AI literacy dico io, ma qual è l'antidoto e fino a che punto può spingersi l'Epistemia come "patologia"

Quattrociocchi: «Pensiero critico, sempre. E verificare ogni output. Perché l’epistemia crea un effetto distorsivo nella percezione e nella comprensione. Il problema diventa enorme quando arriva al decisore politico: chi dovrebbe disegnare le leggi. Se si assume senza verifica quello che un LLM propone, si costruisce su basi fragili.»

Debbi: Le sue critiche sembrerebbero quadi un rifiuto, ma lei la usa e se si in che modo?

Quattrociocchi: «È un correttore di bozze evoluto: mi facilita molto perché viviamo in un mondo estremamente verboso, che chiede continuamente articolazione del linguaggio. In genere scrivo dei draft, li faccio rielaborare e poi li rileggo: ovviamente esce un testo scorrevole. Il problema è quando lo si usa per fare altro: mi capita spesso di vedere persone che vogliono “fare le scienziate”, spiegarti come funzionano le cose, e costruiscono testi molto ben strutturati, argomentati, apparentemente solidi. Poi li leggi e ti rendi conto che non hanno capito dov’è il punto della questione: il testo suona bene, ma non regge. Provate a rifletterci: osservate quanto sono diventati lunghi i post sui social.»