di Pina Debbi

L’Europa scende in campo contro la disinformazione, riconoscendo che il problema, con l’irrompere dell’intelligenza artificiale, si è amplificato, è diventato sistemico e soprattutto ha riflessi geopolitici che possono mettere a rischio la democrazia.

Per anni abbiamo utilizzato tre processi contro misinformazione e disinformazione: il fact-checking, l’accurata verifica, risalendo a fonti attendibili, di un fatto o una dichiarazione; il debunking, lo “smontare” ciò che è falso, risalendo, passaggio dopo passaggio, alla fonte primaria; e il prebunking che invece prova a prevenire il fenomeno rendendo le persone più capaci di riconoscere in anticipo le tecniche manipolative e i processi psicologici alla base delle nostre “credenze”: dai bias di conferma all’esposizione selettiva, che ci spingono a cercare in rete quei contenuti che sono in linea con il nostro pensiero. Per anni siamo stati convinti che insistere sulla media literacy potesse offrire gli strumenti giusti, ma ci siamo dovuti scontrare con la mancata attuazione delle direttive europee, innanzitutto a scuola, e con la difficoltà, che non è un eufemismo definire strutturale, di educare al digitale, in ogni campo della vita sociale. L’ultimo report europeo che già dal nome lascia intravedere il pericolo, ci racconta il ruolo sempre più ampio che la disinformazione sta acquisendo nella realtà già mediata dall’intelligenza artificiale generativa. Per Fractured Reality *, oggi agisce non solo diffondendo singole falsità ma contribuendo a frantumare la realtà condivisa, alimentando polarizzazione, sfiducia e ostilità tra gruppi diventando così un problema pienamente politico.

Il report del Joint Research Centre della Commissione Europea, appena pubblicato, è stato firmato da un pool di ricercatori internazionali tra cui l'italiano Walter Quattrociocchi dell' Università La Sapienza di Roma. Il documento rappresenta un cambio di paradigma sull'informazione nell'era dei social network e dell'intelligenza artificiale generativa. Un vero e proprio atto d'accusa contro un ecosistema che premia la plausibilità piuttosto che la conoscenza o i fatti accertati. Inutile dire che è un campanello d'allarme per le democrazie europee.

Il problema è il sistema, non solo le fake news

Il punto di partenza del report è scomodo, perché smonta anni di dibattito pubblico. Se la narrativa prevalente, quella delle "fake news contro le notizie vere", come la descrive Quattrociocchi, assumeva un ambiente informativo stabile, in cui verità e falsità competono secondo regole epistemiche condivise, oggi quella stabilità non c’è più. Da un lato le piattaforme distribuiscono contenuti in base alla loro capacità di generare engagement, a prescindere dalla qualità e dalla veridicità: conta il tempo speso sulla piattaforma stessa, le condivisioni, il commento, con il risultato che il termine affidabilità non ha alcun valore. E l’attenzione umana poi sembra premiare le informazioni negative, quelle conflittualie quelle più emotive, nelle quali la persona si riconosce. In questo contesto, fatti, opinioni, distorsioni e narrazioni confluiscono in un unico flusso e vengono valutati attraverso un unico criterio: la plausibilità. Cambia ciò che circola e come circola e cambia anche ciò che riteniamo come valido.

Epistemia: il nuovo concetto che spiega tutto

Uno dei contributi più originali del report proviene dal lavoro del team italiano di ricerca de la Sapienza: l'introduzione del concetto di epistemia: un regime in cui la plausibilità linguistica sostituisce progressivamente l'affidabilità e la veridicità come criteri operativi. La parola è già entrata nell'enciclopedia Treccani ed è ora al centro di un documento che potrà orientare le politiche europee. Epistemia descrive la trappola cognitiva innescata dall'integrazione dell'intelligenza artificiale generativa nei social media: l'illusione della conoscenza creata dalla fluidità linguistica di un Large Language Model e dai video realistici. L’utente tende a credere alla produzione di testo del chatbot, spesso il suo interlocutore, in un dialogo che tende sempre a soddisfarlo. Così il fatto che un modello linguistico non distingua tra prova ed apparenza, non abbia accesso ai fatti e non sia abituato ai processi di verifica né tantomeno “comprenda” come comprendiamo noi, passa in secondo piano. I LLM generano output statisticamente coerenti con i pattern linguistici precedenti. Producono plausibilità e diventa sempre più difficile distinguere tra ciò che è verificabile e ciò che è semplicemente convincente.

I numeri della disinformazione, è più diffusa di quanto pensiamo

Il report offre anche una mappa quantitativa del fenomeno che vale la pena leggere con attenzione, perché ridimensiona alcune narrative ottimistiche e ne conferma altre più preoccupanti. Il problema più profondo tiguarda ciò a cui finiamo per credere, le cosiddette "misperceptions" (percezioni errate), quelle convinzioni persistenti che resistono ai fatti. I numeri dipinti dalle fonti sono impietosi: una meta-analisi citata nel report segnala che il 47% degli "older adults" nutre convinzioni errate su temi sanitari fondamentali. Ancora più allarmante è l'efficacia del contenuto "grigio": i post che non sono tecnicamente falsi ma sono ingannevoli o decontestualizzati sono stati stimati come 46 volte più influenti sulla titubanza vaccinale, ad esempio, rispetto alle notizie palesemente false già segnalate dai fact-checker. Il report ricorda anche che questi contenuti hanno raggiunto oltre il 20% degli utenti Facebook negli Stati Uniti, mentre i contenuti falsi già etichettati dai fact-checker avevano una prevalenza molto più bassa, pari allo 0,3% delle visualizzazioni relative ai vaccini.

Quando osserviamo poi come tutto questo si distribuisce sulle piattaforme, la realtà si spacca in modo asimmetrico. Il report mostra, ad esempio, che i siti web inattendibili sono riusciti a catturare il 23% di tutto l’engagement su Facebook in Francia. E aggiunge un altro dato importante: circa un terzo della segregazione ideologica può essere attribuito agli algoritmi, mentre i due terzi restanti dipendono dalla scelta attiva dei cittadini di rifugiarsi in contenuti che confermano i propri pregiudizi. Il risultato finale è una democrazia che fatica a respirare, soffocata da una realtà frantumata dove il dibattito non verte più sulle soluzioni, ma sull'esistenza stessa dei fatti.

Dalle Echo Chambers alle Echo Platforms

Si è evoluto ed è cambiato anche il fenomeno delle echo chambers, le camere dell'eco, spazi in cui gruppi di utenti con idee simili si riunivano per rinforzare reciprocamente le proprie opinioni, smettendo di mettere in discussione i propri punti di vista. Oggi siamo alle cosiddette echo platforms, un cambiamento che riguarda ormai intere infrastrutture digitali che sono diventate ambienti socio-politici distinti, dove la demografia degli utenti, i contenuti e le narrazioni sono allineati per design e per scelta attiva delle persone. La migrazione degli utenti, spesso indotta dalle trasformazioni nelle politiche di moderazione dei contenuti o nella proprietà delle piattaforme, ha creato un ecosistema interconnesso in cui spazi diversi come X o Bluesky, ad esempio, rappresentano ormai realtà percepite totalmente divergenti.

Il meccanismo che governa queste piattaforme dell'eco agisce come una lente tossica attraverso la quale osserviamo chi la pensa diversamente. Invece di favorire il dialogo, la personalizzazione estrema operata dagli algoritmi tende a penalizzare i contenuti che cercano di gettare ponti tra le diverse fazioni, premiando invece i post che alimentano l'animosità, il conflitto verso l'altro gruppo. Paradossalmente, anche quando gli utenti vengono esposti a opinioni contrarie, l'ambiente conflittuale in cui ciò avviene finisce spesso per aumentare la polarizzazione invece di ridurla, trasformando il dibattito in uno scontro tra identità contrapposte.

Le piattaforme dell'eco, sostenute da modelli di business che traggono profitto dal coinvolgimento emotivo, hanno così preparato il terreno per un regime informativo dove frammenti di verità e narrazioni fabbricate si mescolano per creare mondi paralleli. In questa realtà frantumata, la fiducia nelle istituzioni e nei media tradizionali viene erosa costantemente, lasciando il posto a "tribù" digitali che abitano spazi progettati per confermare ogni loro pregiudizio.

Il Fantasy-Industrial Complex è un sistema

Uno dei concetti più potenti del report è quello di fantasy-industrial complex: un sistema auto-organizzato e debolmente coordinato che emerge organicamente dalle logiche incentivanti delle piattaforme.

L'obiettivo della manipolazione dell'informazione oggi spesso è quello di distrarre e generare sfiducia, di attivare norme anti-democratiche, istinti autoritari e comportamenti. In questo sistema, politici, influencer, media, piattaforme e cittadini comuni partecipano tutti, consapevolmente o meno, alla produzione di realtà alternative, costruite da pezzi selezionati di accadimenti, distorsioni e, non ultime, falsità vere e proprie. Il passaggio storico è quello dalle "bugie sistemiche", informazioni false costruite a sostegno di obiettivi politici specifici, come le Armi di Distruzione di Massa in Iraq, (che portò alla guerra di Bush contro Saddam Hussein nel 2003) alla "confusione e caos", assioma caratterizzato dall'indifferenza degli attori verso gli eventi. La verità diventa quella che è negli occhi di chi guarda. Il risultato, amplificato dai social media e dall'AI generativa, è un sistema in cui la correzione dei fatti non funziona più: le smentite raramente viaggiano lontano quanto le affermazioni originali.

Le piattaforma non sono mai neutre...

Le piattaforme dunque non sono amplificatori passivi di qualunque contenuto. Hanno scelte precise, anche se mediate dagli algoritmi, e quelle scelte hanno conseguenze politiche concrete.

La piattaforma X/Twitter ha dimostrato di avere un ruolo diretto nel plasmare il discorso politico in Europa e negli Stati Uniti dopo il cambio di proprietà nell'ottobre 2022, quando è finita nelle mani di Elon Musk. In Germania, durante le elezioni federali del 2025, il 50% di tutti i contenuti suggeriti dall'algoritmo di X riguardava l'AfD, il partito di estrema destra, contro il 15% del secondo partito più suggerito, la CDU/CSU.

Le soluzioni? Cambiare il modello di business delle piattaforme

Il report oltre alla diagnosi tenta di proporre raccomandazioni che vale la pena esaminare, perché mostrano come l'Europa stia cercando, e lo diciamo apertamente, con difficoltà, di trovare una via d'uscita che sia strutturale. Sul fronte della lotta alla disinformazione, fact-checking, inoculazione cognitiva (prebunking), media literacy, funzionano, ma hanno effetti limitati. Tutte quelle misure sono probabilmente oscurate dall'attuale modello di business basato sull'engagement e dal fantasy-industrial complex che supporta. Appare improbabile che un ambiente informativo democratico possa essere realizzato senza riformare il modello di business sottostante.

Le proposte strutturali sono tre.

1) l'interoperabilità tra piattaforme, che permetterebbe agli utenti di portare il proprio grafo sociale da una piattaforma all'altra, abbattendo le barriere all'ingresso per altri soggetti e aumentando la concorrenza.

2) una tassa progressiva sulla pubblicità digitale, che riduca l'incentivo delle piattaforme a massimizzare l'engagement a tutti i costi, spingendole verso modelli basati sulla qualità dei contenuti.

3) mercati per la parola, meccanismi di segnalazione volontaria della qualità dell'informazione attraverso impegni reputazionali o economici.

La sovranità digitale europea: il nodo geopolitico

Ma le soluzioni si scontrano con la realtà: la maggior parte delle piattaforme rilevanti è controllata da entità esterne alla giurisdizione europea (leggi Bigh Tech americane). Nonostante le raccomandazioni precedenti, quei valori non possono essere pienamente protetti senza sovranità e autonomia digitale dell'UE.

Il report chiede quindi investimenti massicci in infrastrutture digitali europee: dal supporto a piattaforme decentralizzate come Mastodon, fino all'EuroStack, un'iniziativa per costruire uno entità tecnologica europea basata su diritti e valori del nostro continente e alla creazione di un "CERN per i Dati e la Democrazia", un'istituzione di ricerca capace di studiare le piattaforme su scala industriale e di rispondere rapidamente all'evoluzione del panorama informativo. La sfida geopolitica è concreta: la dieta informativa degli europei è quindi nelle mani di attori stranieri che potrebbero non condividere i valori democratici dell'Unione. E in un contesto in cui le piattaforme americane hanno già mostrato di essere disposte a interferire nei processi elettorali europei, dalla Germania alla Romania, i casi documentati sono numerosi, questa non è una questione astratta.

Cosa significa tutto questo per chi fa informazione

Per chi lavora nell'informazione, giornalisti, comunicatori, editor, il report Fractured Reality pone domande scomode. Se il problema non è più la circolazione di singole notizie false, ma la struttura dell'ecosistema informativo stesso, cosa significa fare giornalismo di qualità in questo contesto? Se la plausibilità ha scalzato la verifica come criterio dominante, come si compete con contenuti che sono costruiti per sembrare veri piuttosto che per esserlo?

La media literacy è necessaria ma non basta, il fact-checking è necessario ma non basta. Vanno costruite e sostenute piattaforme alternative e servono interventi simultanei a livello di sistemi, di modelli di business e di sovranità digitale. E servono velocemente, perché, come sottolinea Quattrociocchi, "questo non è uno scenario futuro. È il sistema in cui stiamo già operando."

La realtà si è rotta. E non basta un articolo di smentita o di rettifica per ricostruirla.

trovate il report completo qui: https://publications.jrc.ec.europa.eu/repository/handle/JRC144603