di Loredana Boero

Per decenni, l'architettura della Silicon Valley si è fondata su un assioma quantitativo: più dati, più potenza di calcolo, più ingegneri. Oggi, nei laboratori dove si progettano le reti neurali più avanzate al mondo, il paradigma è cambiato. Accanto a informatici e matematici, siedono specialisti di logica formale, etica applicata ed epistemologia. E l'ingresso della filosofia nei team di addestramento non risponde semplicemente ad un arricchimento intellettuale ma a un'esigenza ingegneristica fondamentale: definire ciò che i modelli dovrebbero fare e non soltanto ciò che computazionalmente possono fare.

Questo cambio di rotta ha superato i confini della comunità scientifica per diventare un tema centrale nella rassegna stampa internazionale. Le principali testate d'inchiesta hanno iniziato a documentare da vicino questa rivoluzione. Come osservato dal New York Times nelle sue analisi dedicate alle sfide dell'allineamento morale nei modelli di intelligenza artificiale, il dilemma fondamentale delle Big Tech si è spostato dall'ottimizzazione del codice alla definizione di un paradigma etico poichè Il problema dell'IA non è più solo una sfida matematica, ma una ricerca di valori da trasmettere a una mente artificiale.

Dal problema tecnico dell’allineamento a quello etico-normativo

Come si può fare in modo che un sistema probabilistico basato su reti neurali profonde produca comportamenti compatibili con intenzioni, valori e vincoli stabiliti dagli esseri umani senza compromettere la propria capacità generativa?

Nel dibattito contemporaneo, l'Alignment Problem non può essere trattato esclusivamente come una sfida ingegneristica. L'allineamento è infatti quel processo con cui si insegna a un sistema di IA a comportarsi in modo conforme alle intenzioni, ai valori e alle regole degli esseri umani. Ma, come evidenziato dal filosofo Iason Gabriel, il lato tecnico dell'allineamento — ossia come incorporare valori o principi in un sistema — è inscindibile dal suo lato normativo — cioè quali valori sia giusto incorporare (Gabriel, 2020).

L’RLHF, ovvero il Reinforcement Learning from Human Feedback, risolve con grande efficacia il problema tecnico, ma porta con sé un limite teorico fondamentale: il sistema tende a premiare la risposta che "sembra" corretta, piacevole o rassicurante al valutatore umano, non necessariamente quella intrinsecamente vera, giusta o etica. Si rischia così di incentivare la cosiddetta sycophancy (la tendenza dell'IA ad adulare l'utente o confermarne i pregiudizi pur di compiacerlo).

Il feedback umano cattura e codifica le preferenze empiriche dei valutatori, ma non risolve automaticamente la questione etica di fondo: in base a quali criteri una risposta dovrebbe essere considerata migliore di un’altra?

È proprio in questo passaggio critico — la transizione dalla pura preferenza statistica al principio normativo — che l’allineamento tecnico incontra inevitabilmente la filosofia morale. Senza un quadro filosofico di riferimento, il feedback rischia di riflettere anche i bias, i limiti culturali o le opinioni contingenti del gruppo di annotatori reclutati.

Il passaggio dal RLHF al RLAIF: la Constitutional AI Anthropic come caso esemplificativo

Per superare questo vicolo cieco, Anthropic ha introdotto un cambio di paradigma: il passaggio dal RLHF al RLAIF (Reinforcement Learning from AI Feedback), concretizzato nella cosiddetta Constitutional AI (CAI). Se nell'RLHF centinaia di valutatori umani votano le risposte come in un sondaggio permanente, nella Constitutional AI l'IA legge e applica direttamente una "Costituzione" — un insieme esplicito di principi etici e diritti umani scritti da filosofi ed eticisti — e si autocorregge autonomamente. Attraverso questo meccanismo si osserva il fenomeno della moral self-correction (auto-correzione morale): il modello viene guidato attraverso principi espliciti che intervengono nella selezione e revisione delle risposte, identificando e neutralizzando bias, stereotipi o contenuti discriminatori presenti nel proprio testo prima della generazione finale (Ganguli, Askell et al. 2023), Questo, naturalmente, non vuol dire che l modello abbia interiorizzato una vera teoria morale o possieda una coscienza (Bai, Y., et al. 2022b), ma semplicemente che la “Costituzione” rende esplicito qualcosa che nel semplice feedback umano rischia di rimanere implicito: il criterio in base al quale il comportamento viene valutato. Bisogna quindi sempre distinguere la moral performance — il produrre l'output moralmente appropriato — dalla moral competence, ovvero produrre l’output sulla base di proprie considerazioni moralmente rilevanti. Come raccontato sulle pagine del New Yorker e del Wall Street Journal ripercorrendo il lavoro di Amanda Askell, il vero salto di qualità avviene abbandonando i meri divieti, che spingono il modello a un rifiuto iper-conservativo (over-refusal). La Askell chiarisce infatti che l'obiettivo non è applicare un filtro censorio ex post, ma infondere nel modello dei tratti di carattere stabili: "Il nostro compito - dichiara - non è dare al modello una lista di mille cose da non dire, esattamente come non si cresce un figlio imponendogli solo un elenco di divieti. L'obiettivo è sviluppare in Claude una sorta di disposition morale: insegnargli a essere genuinamente riflessivo, intellettualmente onesto e capace di bilanciare le sfumature.”

In questa prospettiva, questa attitudine virtuosa non è un insieme di comandi, ma una capacità di orientamento in contesti anche poco prevedibili. Il filosofo smette quindi di essere un osservatore esterno delle conseguenze della tecnologia e diventa parte attiva della sua architettura. Ma che cosa significa trasformare una serie di principi etico-normativi in una componente del processo di addestramento?

Anthropic, OpenAI, DeepMind: tre modi diversi di agire

L'esigenza di governare il comportamento delle reti neurali ha quindi superato la fase delle mere dichiarazioni d'intenti: oggi i principali laboratori di ricerca sviluppano veri e propri strumenti istituzionali e d'architettura software per tradurre norme astratte in codice. Come già detto, Anthropic adotta il modello più esplicitamente etico-filosofico, puntando all’autonomia decisionale.

OpenAI affronta invece la governance morale attraverso una lente giuridico-politica, formalizzata nel suo Model Spec. Anziché puntare sulla "personalità" o su virtù filosofiche, struttura una vera e propria gerarchia delle fonti e un sistema di giurisprudenza operativa. Il Model Spec stabilisce infatti una rigorosa catena di comando (Chain of Command) che definisce chi ha l'autorità sulle decisioni del modello (dalle leggi vigenti, alle direttive degli sviluppatori, fino alle preferenze dell'utente finale). Quando si verificano conflitti nelle "zone grigie", il sistema non applica regole meccaniche, ma rubriche decisionali ed esempi interpretativi. Come precisa la stessa OpenAI, il Model Spec è solo una parte dell'intero addestramento, una sorta di manuale giurisprudenziale che istruisce il modello su come bilanciare neutralità, sicurezza ed esecuzione delle istruzioni.

Google DeepMind, guidata da Demis Hassabis, affronta il problema da una prospettiva epistemologica, logico-formale e di filosofia della mente, proiettata verso la sicurezza dei sistemi ad alta autonomia. L'approccio si concentra sulla taratura della certezza (epistemic calibration): l'obiettivo non è solo insegnare al modello ad "essere buono", ma garantire che sia matematicamente e logicamente consapevole dei propri limiti di conoscenza. Attraverso l'uso del ragionamento passo-passo (System 2 Reasoning), la modellazione multi-agente e la teoria dei giochi, il sistema soppesa le conseguenze a lungo termine delle proprie azioni prima di generare un output, prevenendo deviazioni comportamentali o allucinazioni pericolose.

Oltre l’etica: l’epistemologia computazionale e il problema della conoscenza

I filosofi non intervengono nei laboratori di IA unicamente per stabilire principi morali. Un Large Language Model deve affrontare quotidianamente sfide di natura epistemologica, quali "comprendere" cosa significhi “sapere” qualcosa, distinguere una fonte sufficientemente affidabile, riconoscere un fatto documentato da un’opinione, sapere quando dire “non lo so”.

Il fenomeno delle allucinazioni — la generazione di informazioni false o inventate ma formulate con tono fermo — è prima di tutto un fallimento epistemologico. Risolverlo richiede di tradurre in codice concetti filosofici come l'epistemic humility, la calibrazione della certezza e il valore della testimonianza affidabile. La questione non è più soltanto insegnare al modello a essere "buono", ma fargli apprendere — in senso operativo — come comportarsi quando non sa, spingendolo ad ammettere i propri limiti anziché inventare una risposta. Questo mostra una chiara convergenza fra filosofia e Machine Learning.

Rendere i valori espliciti attraverso una "Costituzione" o un registro di regole risolve il problema dell'opacità dei sistemi, ma spalanca una seconda questione critica: chi ha la legittimità di scegliere tali principi?

Chi decide i valori? Dal problema filosofico alla scelta politica

In una democrazia, l'arbitrio di un ristretto gruppo di sviluppatori e ricercatori della Silicon Valley presenta evidenti limiti rappresentativi. Per affrontare questa impasse, Anthropic ha creato il Collective Intelligence Project, coinvolgendo circa mille cittadini statunitensi in un esperimento di democrazia deliberativa per la redazione di una "Costituzione Pubblica".

Questo tentativo dimostra come l'allineamento dell'IA stia rapidamente travalicando i confini dell'etica applicata per toccare direttamente la filosofia politica: la ricerca di meccanismi partecipativi per definire le regole della tecnologia diventa l'unico modo per conferire legittimità democratica ai modelli che governeranno l'informazione globale.

Ed è così che la questione dell’allineamento si trasforma in un problema di governance globale. In una società aperta non esiste un consenso universale su ogni dilemma morale. I modelli di intelligenza artificiale vengono distribuiti su scala globale, attraversando comunità caratterizzate da sistemi religiosi, culturali e politici profondamente differenti. Rendere espliciti i valori di un sistema aumenta la trasparenza, ma non elimina il problema del pluralismo assiologico e della multidimensionalità morale (Haas et al. 2026).

Un rischio latente nell'addestramento dei modelli linguistici è, infatti, il punto di vista culturale, quella tendenza inavvertita a codificare come "universali" i valori liberali, secolari e individualisti propri dei ricercatori della Silicon Valley o dei dataset in lingua inglese. La domanda iniziale, “perché l’AI ha bisogno dei filosofi?”, conduce quindi ad un quesito politico ancora più importante: chi deve decidere quale filosofia, quali principi, quale etica?. I lavori del Future of Humanity Institute di Oxford — firmati da filosofi come Nick Bostrom e Toby Ord — mostrano inoltre che l'allineamento dei modelli ad alta capacità non è solo un problema legato all’utilizzo commerciale, ma una questione di sicurezza dell'umanità (Existential Risk). Affidare la gestione di agenti autonomi al solo mercato privato crea un deficit democratico sostanziale.

Il ritorno delle Humanities nel cuore della tecnologia

La convergenza tra scienze informatiche e scienze umane sta ridefinendo il concetto stesso di ingegneria del software. La filosofia morale ed epistemologica non è più un layer interpretativo applicato "a valle" dell'addestramento, ma un requisito di sistema (System Requirement) fondamentale tanto quanto l'architettura dei Transformer o l'ottimizzazione degli iperparametri.

Nel momento in cui una rete neurale deve gestire l'ambiguità, risolvere conflitti tra principi, decidere quando rifiutare un'istruzione, calibrare l'incertezza delle proprie affermazioni e scegliere quali valori privilegiare, i concetti filosofici devono necessariamente essere tradotti in procedure, gerarchie, dati e criteri di valutazione. In questo senso, la filosofia diventa parte integrante delle specifiche di progettazione.

Per decenni la dicotomia tra discipline STEM ed Humanities ha descritto le prime come strumenti di costruzione concreta e le seconde come ambiti di riflessione interpretativa. L'era dei Large Language Models sta rendendo questa distinzione molto meno netta.

Il lavoro dei filosofi e degli eticisti all'interno dei laboratori di IA non si limita a sintetizzare secoli di pensiero per ridurli a righe di codice. È qualcosa di molto più ambizioso: rendere operativi i problemi filosofici, senza per questo fingere che abbiano smesso di esserlo.

E forse, per gli umanisti, il miglior invito a non considerarsi estranei al futuro dell’intelligenza artificiale è seguire il suggerimento di un recente titolo di WIRED: “Per trovare lavoro nell’AI, prova a leggere Kant* (26 maggio 2026: To Land a Job in AI, Try Reading Kant).

Riferimenti

Bai et al. (2022a). Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback https://arxiv.org/abs/2204.05862

Bai et al. (2022b). Constitutional AI: Harmlessness from AI Feedback https://arxiv.org/abs/2212.08073

Gabriel, I. (2020). “Artificial Intelligence, Values, and Alignment”. Minds and Machines, 30, 411–437. https://link.springer.com/article/10.1007/s11023-020-09539-2

Ganguli, D., Askell, A., et al. (2023). “The Capacity for Moral Self-Correction in Large Language Models” https://doi.org/10.48550/arXiv.2302.07459

Haas, J., Bridgers, S., Manzini, A., et al. (2026). “A Roadmap for Evaluating Moral Competence in Large Language Models”. Nature, 650, 565–573. https://www.nature.com/articles/s41586-025-10021-1

Metcalf, J., Moss, E., & boyd, d. (2019). “Owning Ethics: Corporate Logics, Silicon Valley, and the Institutionalization of Ethics”. Social Research, 86(2), 449–476. https://par.nsf.gov/servlets/purl/10112016

Sorensen, T., Moore, J., Fisher, J., et al. (2024). “A Roadmap to Pluralistic Alignment”

https://doi.org/10.48550/arXiv.2402.05070

Articoli di giornale

Burgess, M. (2026), “To Land a Job in AI, Try Reading Kant”, WIRED, 26 May 2026 https://www.wired.com/story/to-land-a-job-in-ai-try-reading-kant/

Lewis-Kraus, G. (2024). What Is Claude? Anthropic Doesn’t Know, Either. The New Yorker.

Roose, K. / Blackman, R. (2023). Microsoft Is Sacrificing Its Ethical Principles to Win the A.I. Race (e report correlati sull'allineamento dei modelli). The New York Times

https://www.nytimes.com/2023/02/23/opinion/microsoft-bing-ai-ethics.html

Sitografia

https://www.anthropic.com/constitution

https://www.anthropic.com/news/collective-constitutional-ai-aligning-a-language-model-with-public-input?trk=article-ssr-frontend-pulse_little-text-block

https://openai.com/it-IT/index/our-approach-to-the-model-spec/

https://model-spec.openai.com/2025-10-27