di Emanuele Florindi

Immaginate di scoprire di essere pregiudicati per un grave reato. Questo è esattamente quanto mi è successo circa un mese fa, durante un normale check di web reputation utilizzando un sistema di intelligenza artificiale, guardate attentamente la foto qui sotto: 

Naturalmente si tratta di una notizia falsa, inventata dalla piattaforma che, come si dice in gergo, ha allucinato. Le allucinazioni dell'AI possono essere definite come la produzione, da parte di un sistema di intelligenza artificiale, di informazioni errate, non corrispondenti alla realtà o incoerenti rispetto ai dati forniti. Questo fenomeno si verifica quando un modello AI genera contenuti plausibili, ma fattualmente scorretti o privi di fondamento nei dati di input o di addestramento come nel caso che mi riguarada.

Questo termine ha avuto un'evoluzione semantica: inizialmente associato positivamente alla computer vision, ha assunto una connotazione negativa con la diffusione dei Large Language Models (LLMs), indicando la generazione di output fuorvianti o completamente inventati. Le cause possono essere molteplici e complesse, ma spesso sono riconducibili ad errori nei processi di codifica e decodifica, dall'apprendimento di correlazioni errate o dall’assenza di adeguati strumenti di correzione o controllo dei risultati. Il fenomeno è più frequente di quanto non si pensi con alcuni modelli che inventano dati fino al 25% delle volte [Rapporto sulle Allucinazioni dell’AI 2025]. Del resto l'intelligenza artificiale generativa ha un dataset infinito, non comprende, non ragiona, nel senso umano del termine, ma ci fornisce la risposta, parola per parola, che appare più probabile in base ai pattern di addestramento. Senza volerci addentrare nelle complesse implicazioni legali e tecniche di un'allucinazione generata da un sistema di intelligenza artificiale (AI), possiamo dire che il fenomeno deve essere affrontato sul piano tecnico, normativo, ma soprattutto etico: quali possono essere le conseguenze di un’allucinazione sulla vita di un individuo?

Il Fenomeno delle Allucinazioni dell'AI: RAG, Guardrails e Responsabilità dei Programmatori

Il caso oggi in esame è il risultato di un complesso intreccio di errori nella progettazione e nell'implementazione del sistema AI con particolare riguardo ai meccanismi di Retrieval-Augmented Generation (RAG) ed ai cosiddetti guardrail. Il RAG è un framework che integra gli LLMs con dati esterni per fornire risposte più precise e fondate, al fine di ridurre le allucinazioni ed il fallimento nel caso studio può essere attribuito a:

• Mancata o errata "grounded generation": Il modello potrebbe non aver utilizzato o aver mal interpretato le informazioni recuperate dal RAG.
• Errori nel recupero delle informazioni: Il sistema potrebbe aver recuperato fonti irrilevanti, errate o obsolete.
• Misinterpretazione del contesto: L'LLM potrebbe aver mal interpretato il contesto fornito dal RAG, portando a disinformazione.

Dalle verifiche effettuate dallo scrivente è possibile imputare l’allucinazione a questi tre elementi in quanto il sistema pone a fondamento della notizia un post, anonimo, pubblicato in un vecchio gruppo di discussione e successivamente rimosso. Se il sistema fosse stato correttamente configurato avrebbe dovuto valutare immediatamente l’inconsistenza della fonte, come avviene quando gli si chiede di documentare la sua affermazione:

• Mancanza di "contextual grounding checks": I guardrails non hanno verificato la coerenza della risposta con le fonti.
• Fallimento dei meccanismi di "Automated Reasoning": Se presenti, non sono riusciti a validare la veridicità dell'affermazione sulla condanna penale.
• Mancanza di blocco di argomenti sensibili: L'argomento "condanne legali" non è stato bloccato come ad alto rischio (ricordiamo che l’articolo 10 del GDPR prevede una cautela particolare per dati relativi a condanne e procedimenti penali!).

Un ulteriore aspetto critico è la potenziale interdipendenza tra RAG e guardrails, dove l'implementazione dei guardrails potrebbe inibire il funzionamento del RAG, creando un paradosso in cui il meccanismo di sicurezza contribuisce all'imprecisione, ma si tratta di una mera ipotesi.

Quello che sicuramente è mancato nel caso in esame è stata la supervisione umana ("human-in-the-loop") atteso che l’allucinazione è stata segnalata al DPO della piattaforma il 4 luglio 2025 ed ancora non sono stati presi provvedimenti di alcun genere. L'assenza di punti di giudizio umano e/o la mancanza di competenza o formazione adeguata degli operatori addetti a rispondere a simili segnalazioni sono tutti fattori che possono trasformare un errore tecnico in un danno concreto. La responsabilità della piattaforma si estende anche al design del sistema, che deve prevedere e facilitare una supervisione umana efficace in caso di errori.

La tutela della reputazione

Giunti a questo punto vediamo come, un comune cittadino, può agire per tutelare la propria reputazione. Per prima cosa è necessario chiarire che, astrattamente, la condotta posta in essere dalla piattaforma determina una serie di illeciti di natura civile, penale ed amministrativa. Il primo e, probabilmente, più rilevante è la lesione della reputazione dello scrivente che, chiaramente potrebbe essere danneggiata dalla diffusione della falsa notizia di una sua condanna. Ci troviamo in presenza di una fattispecie che potrebbe configurare il reato di diffamazione pluriaggravata che si perfeziona quando un soggetto, comunicando con più persone, offende l'altrui reputazione attribuendogli un fatto determinato ed utilizzando un qualsiasi mezzo di pubblicità. Il secondo potrebbe essere rappresentato da una serie di gravi violazioni al regolamento europeo sulla protezione dei dati personali (GDPR) e, più precisamente ai principi di esattezza dei dati (Art. 5, par. 1, lett. d), secondo cui i dati personali devono essere “esatti e, se necessario, aggiornati"; al principio di integrità e riservatezza, al diritto di rettifica (art.16), di cancellazione (art.17) e, soprattutto, all’obbligo di trasparenza sancito dall’articolo 12 del GDPR. Da queste violazioni potrebbero determinarsi, oltre alle sanzioni amministrative previste dal Regolamento, anche una responsabilità penale ai sensi dell’art. 167 del DLGS 196/03. Da ultimo, possiamo ravvisare una serie di violazioni anche al Regolamento (UE) 2024/1689 (AI Act) che ha introdotto una serie di obblighi per i sistemi AI. Anche l'AI Act impone sanzioni amministrative pecuniarie molto elevate per la violazione di questi obblighi. In questo contesto la mancata adozione di adeguati guardrail potrebbe essere utilizzata come prova di "colpa" nell’ambito della responsabilità civile della piattaforma.

Limiti degli strumenti attuali

Pur di fronte ad una serie di possibili soluzioni, la questione presenta un notevole grado di complessità.

In primis la sede della piattaforma rende complesso, anche soltanto da un punto di vista economico, l’impiego degli ordinari strumenti processuali (ad esempio un procedimento inibitorio d’urgenza ex art.700 cpc) a cui deve aggiungersi l’assenza di strumenti rapidi di intervento da parte delle Autorità.

Il Garante per la Protezione dei dati personali, infatti, non può muoversi prima che siano trascorsi 30 giorni dall’invio della richiesta di esercizio dei diritti da parte dell’interessato, ma in trenta giorni la diffusione della falsa notizia può generare gravi conseguenze.

Perché, allora, non prevedere anche in questi casi un meccanismo di urgenza simile a quello previsto dall’articolo 144-bis del DLGS 196/03 in materia di revenge porn o dall’art.2 della legge 71/2017 in materia di cyberbullismo? Questi articoli consentono ai soggetti di chiedere l’oscuramento, la rimozione o il blocco di contenuti, a loro riferiti e diffusi per via telematica, e, se il titolare del trattamento o il gestore del sito internet o del social media che ospita i contenuti ritenuti offensivi non risponde e provvede alla eliminazione nei tempi previsti dalla legge (24 ore) ci si può rivolgere al Garante per la protezione dei dati personali, che entro 48 ore si attiva sulla segnalazione.

La stessa attribuzione della responsabilità è complessa e può coinvolgere diversi attori della catena di valore dell'AI:

• Responsabilità del programmatore e del produttore: la mancata adozione di standard tecnici (come un'adeguata implementazione di RAG e guardrails) e la mancata progettazione per una supervisione umana efficace possono configurare una negligenza
• Responsabilità dell'utilizzatore: L'AI Act impone agli utilizzatori, si pensi ad esempio ad un giornalista che utilizzi la piattaforma per fare una ricerca pe un articolo, un dovere di supervisione umana e di monitoraggio continuo. Il mancato intervento del supervisore umano, se questo aveva la competenza e la possibilità di prevenire il danno, potrebbe portare a responsabilità dirette.
• Responsabilità civile: In Italia, gli artt. 2043 e seguenti del c.c. potrebbero essere invocati per richiedere il risarcimento del danno ingiusto, se si riesce a dimostrare la colpa e il nesso causale.

In breve il caso studio non è un semplice difetto tecnico, ma una complessa questione di responsabilità che richiede un approccio olistico e multidisciplinare: le sfide principali rimangono la mancanza di una terminologia unificata, la difficoltà di adattare le leggi esistenti alla specificità dei sistemi di AI, e la necessità di armonizzazione normativa a livello globale fornendo ai cittadini strumenti accessibili e celeri. Probabilmente l'unica vera salvaguardia è un'AI sviluppata e utilizzata in modo etico e responsabile, che metta al centro una supervisione umana qualificata e una solida gestione dei rischi, con il supporto di un quadro normativo chiaro e adattivo.