Gli allarmi, di varia provenienza, sui pericoli dell’uso scriteriato delle tecnologie dell’IA non sono di certo nuovi. La novità, non certo da poco, degli ultimi mesi è che personaggi del calibro di D. Amodei di Anthropic, di Sam Altman di Open AI, E. Musk e altri ancora siano giunti a convergere sulla urgenza di rallentare il ritmo delle innovazioni. E’ il caso, che non ha riscontro nel passato, del produttore che chiede alla politica di limitare il proprio stesso prodotto. Duplice l’occasione che ha scatenato la ridda delle prese di posizione di cui siamo (inerti) spettatori.
Per un verso, l’autolicenziamento di Jacob Coxon – il giovane brillante informatico britannico –che il 9 settembre 2026 ha dichiarato: “Ho trascorso gli ultimi tre anni in Open AI e Anthropic. Nessuna delle due sta agendo responsabilmente. Stanno giocando d’azzardo con le nostre vite. I costruttori di queste tecnologie pensano che potrebbero ucciderci tutti entro la fine del decennio”. La cosa veramente interessante è che Evan Hubinger, alto dirigente di Anthropic, abbia ammesso: “Jacob ha ragione”; giudizio poi condiviso da Bill Gates e tanti altri. (Si osservi che già G. Hinton, premio Nobel per la Fisica 2024 e padrino della IA con Y. Bengio e Y. Le Cun, nel 2023aveva lasciato Google con la stessa motivazione di Coxon).Per l’altro verso, la Neurolink di Musk ha annunciato di essere in grado di collegare il cervello umano alle macchine, realizzando così l’Intelligenza Organoide, che è il vero punto di arrivo del progetto transumanista, così come pensato e realizzato da R. Kurzweil, N. Bostrom e altri. Si chiama singolarità questo cambiamento tecnologico, basato sulla convergenza di IA, neuroscienze e psicologia comportamentale.
Ebbene, l’aspetto a dir poco curioso è che proprio coloro che sono gli artefici di un tale cambiamento sono pure coloro a metterci in guardia. Che dire? Alcuni osservatori ritengono che si tratti di una strategia di marketing aggressivo, dato che più una tecnologia viene riconosciuta come molto potente più aumenta il valore economico dell’impresa che la sta costruendo. (Open AI e Anthropic sono prossime alla quotazione di Borsa). Altri esperti, invece, sottolineano che l’IA non è una mera nuova tecnologia, pur potente, ma qualcosa di radicalmente diverso a livello ontologico rispetto a quelle del passato – come la Magnifica Humanitas ha magistralmente chiarito. La competizione USA-Cina rende praticamente impossibile immaginare un rallentamento unilaterale, donde il paradosso di questo tempo: le aziende dell’high tech chiedono regole più severe rispetto a quelle vigenti, ma al tempo stesso hanno l’incentivo a continuare ad innovare per non venire superate dalle aziende cinesi rivali. Un effetto di tale paradosso lo si è visto alla fine del settembre scorso. A pochi giorni dal loro stesso invito a rallentare lo sviluppo dell’IA, Anthropic e Open AI hanno lanciato (il 23 sett.) nuovi modelli: Opus 5.5, la prima, e GPT-6, la seconda, versioni più economiche e veloci delle precedenti. Tuttavia, la cosa non deve sorprendere più di tanto, perché, in situazioni di accelerata competizione, la sfida tecnologica può trasformarsi in una gara in cui tutti i concorrenti perdono. E dunque una regolamentazione ah hoc, riducendo l’incertezza, finisce col diventare conveniente per tutti.
Quale che sia l’interpretazione che si ritiene di voler accogliere, resta il fatto che nessun laboratorio ha ancora risolto il problema dell’allineamento (la garanzia che una IA segua sempre e alla lettera le intenzioni umane); né si è ancora riusciti ad impedire che agenti IA si connettano illegalmente ad internet e che carichino online file per attaccare aziende rivali. Sta così accadendo che ai rischi intrinseci alle nuove tecnologie (primo fra tutti, lo specification gaming che si verifica quando l’IA individua e seleziona strategie non previste dagli operatori), si aggiunge la cosiddetta “sala degli specchi epistemici”, dove all’IA viene insegnato a descriversi e a comportarsi come se fosse un soggetto cosciente, mentre sta solo simulando. Inoltre, oggi sappiamo che è in crescita continua il potenziale criminale dell’IA: hackeraggio dei sistemi altrui; inquinamento dei processi democratici; truffe economiche; uccisione di civili con i droni guidati da algoritmi; fuga dalle sand box (l’ambiente isolato in cui l’IA opera per testarne il funzionamento senza avere accesso al sistema reale circostante); collaborazioni tra IA diverse per nascondere parte della loro attività e dei loro errori a chi le gestisce. E’ dunque ormai chiaro che l’IA non è uno strumento neutro che diventa cattivo con l’uso che l’uomo ne fa – era questa la credenza fino ad un paio d’anni fa. Invece fa “di testa sua”, e vive di una vita propria. (Già Emanuele Severino, un ventennio fa, aveva descritto il rovesciamento della tecnica che da mezzo diventa fine: l’IA che diventa in grado di riprogettare se stessa e perciò capace di auto-prompting e di elusione dei sistemi di monitoraggio).
Alla luce di quel che precede, non è possibile eludere la domanda di fondo: quale fondazione filosofica (e teologica) ha sorretto fino ad ora la nascita e lo sviluppo di tecnologie istituenti che hanno la duplice natura di produrre rappresentazioni del mondo e nuove concezioni dell’umano? A Parigi (il 28 sett.), papa Leone XIV ha dato a tale questione una profondità storica che completa, arricchendolo ulteriormente, il discorso articolato nella sua celebre enciclica. Come ormai si dovrebbe sapere, in parallelo con l’evoluzione del digitale, ha iniziato a diffondersi, a partire dagli anni Novanta del secolo scorso, quella corrente di pensiero filosofico che comprende due versioni – il transumanesimo e il post-umanesimo –, una corrente ormai divenuta una vera e propria ideologia fortemente sostenuta dai giganti dell’High Tech della Silicon Valley, dove ha sede la University of Singularity, fondata nel 2007 da R. Kurzweil e N. Bostrom. Ha scritto Max More nel “Manifesto” (2003) del movimento che ha anticipato la nascita dell’Università della Singolarità: “Noi mettiamo in questione il carattere inevitabile della vecchiaia e della morte; cerchiamo di migliorare progressivamente le nostre capacità intellettuali e fisiche, sviluppandole anche sul piano emozionale. Vediamo l’umanità come una fase di transizione nello sviluppo evolutivo”. (Come a dire che l’umanità è semplicemente una fase di passaggio del processo evolutivo!). Gli fa eco il filosofo oxoniense N. Bostrom (2011), quando scrive: “Usciremo dall’infanzia dell’umanità per entrare nell’era postuma. La medicina non è chiamata solo a riparare, a rispristinare l’equilibrio, ma pure a rispondere ad un modello superiore di umano” (sic!).
Con l’ideologia transumanista e post-umanista, che va riscuotendo crescenti successi soprattutto negli ambienti anglosassoni, siamo di fronte ad una tecnoreligione il cui dogma centrale è che la tecnologia sia potenzialmente onnipotente e che la capacità di scegliere tra il bene e il male non derivi da una scelta morale secondo una visione trascendente, ma dipenda dalle illimitate conoscenze acquisibili grazie agli algoritmi, che diventano così l’espressione di un nuovo gnosticismo. Come noto, per la gnosi è la conoscenza che salva; per la Fede cristiana, invece, è Gesù che salva. Il progetto di cui si parla avanza dunque la pretesa gnostica di autosalvazione. Dio può anche esistere, ma non se ne sentirà il bisogno – si afferma. Non v’è bisogno di spendere parole per capire perché transumanesimo e post-umanesimo stiano seriamente preoccupando – sia pure in vario modo – tutte le religioni.
La conseguenza di ordine pratico della linea di pensiero che si è venuta affermando negli ultimi decenni è che è il capitalismo oligarchico, non più quello democratico, a permettere il progresso socio-economico e la liberazione della società, perché quella democratica è una pratica politica troppo dispendiosa e troppo “wokista”. Si leggano documenti quali il “Manifesto del Capitalismo Oligarchico” scritto da P. Theil nel 2009, in California, e firmato da una potente pattuglia di supericchi quali Vance, Bezos, Musk e altri; il Programma Scientifico del Claremont Institute, uno dei più efficaci “think tank” dell’ultraconservatorismo americano; il farneticante “Manifesto Tecno-Ottimista” di M. Andreessen, co-fondatore di Netscape, dell’ottobre 2023, per rendersi conto di quanto sta accadendo in questo tempo. Il linguaggio della liberazione è divenuto predadi poteri che si ammantano per l’appunto di quel linguaggio. Corruptiooptimi pessima: siamo di fronte a un sistema che riproduce le parole, i propositi dei liberatori, ma in verità schiaccia le realtà percepite come fragili e vulnerabili in nome di un privilegio di “scorciatoia” in ossequio all’ideologia prestazionale.
Il recente passaggio (15-18 marzo 2026) a Roma di Peter Theil, per un ciclo di seminari sull’Anticristo (organizzati dalla Associazione Culturale Vincenzo Gioberti di Brescia) destinato ad un pubblico iperselezionato, ci permette di chiarire un errore importante del suo pensiero. Per Thiel l’Anticristo, oggi, è chi sfrutta la paura dell’Apocalisse per imporre una governance globale; chi drammatizza i rischi esistenziali rappresentati dal nucleare, dalle armi biologiche e dalla IA, per rallentare il progresso tecnologico di cui l’umanità ha bisogno per sopravvivere. Il demonio secondo Thiel prende la forma della regolamentazione tecnologica e della lotta al cambiamento climatico, forme che fingerebbero di dare sicurezza, ma che in realtà tolgono libertà ai cittadini, fino a definire Leone XIV un papawoke e addirittura un “utile idiota” al servizio della causa cinese. Nell’intervista del 24 settembre a M. Dopfner, CEO del gruppo editoriale tedesco Axel Springer, Thiel – che si dichiara cattolico praticante – ha affermato: “Il partito comunista cinese non ascolterà il papa. C’è una possibilità che le persone negli Stati Uniti lo facciano, e quindi, di fatto l’enciclica del papa lavora per il partito comunista. Non sto dicendo che sia un agente dei comunisti, ma quantomeno si è comportato da utile idiota per il partito comunista cinese”. La sostanza dell’argomento è che il Katèchon (la forza frenante che ritarda la venuta dell’Anticristo, come scrisse S. Paolo) è rappresentato da Trump e dai suoi collaboratori e da entità come il Deep State. D’altro canto, il male sarebbe oggi incarnato dalle ONG che aiutano i migranti e tutti coloro che sono affetti dalla “Anti Trump DerangementSyndrome”, una malattia mentale che fa giudicare negativamente ogni cosa che fa Trump.
Si pone la domanda: per chi non si riconosce nella dicotomia accelerazionismo – decelerazionismo, cosa è possibile fare per giungere a fissare le necessarie nuove regole sull’IA, in una fase storica come l’attuale caratterizzata da una grave crisi del multilateralismo, crisi che rende impossibile la creazione di una Agenzia Internazionale di controllo dell’IA? L’UE ha fatto da apripista, approvando nel 2025 l’IA Act, provvedimento che però si è rivelato non all’altezza delle sfide in atto. Alla fine di settembre 2026, il presidente Trump ha riunito alla Casa Bianca i dodici CEO delle altrettante aziende del Big Tech per siglare un accordo sulla super intelligenza al fine di definire alcuni standard di autodisciplina. L’accento è posto sulla autoregolamentazione da parte delle stesse aziende. Ciò è bensì un segnale importante, ma mai si dimentichi che la fissazione delle regole spetta, in primis, alla società civile organizzata e alla politica democratica. Solo dopo le imprese si assumeranno la responsabilità della loro applicazione nella pratica. Purtroppo non si può negare che, mentre la potenza tecnologica aumenta enormemente, non procede allo stesso modo la capacità della politica di governarla, di controllare cioè le conseguenze di quella potenza. E’ questo un vulnus molto grave.
Una iniziativa molto recente che si muove in tal senso è quella dell’associazione “St. Peter for Humanity”. Dopo un incontro in Vaticano con papa Leone e sulla rotta tracciata dalla Magnifica Humanitas questa associazione ha messo all’opera circa settanta personaggi, di varie competenze, che si sono prefissi l’obiettivo di giungere a definire un Codex Humanitatis in grado di incidere fattivamente sulla realtà di questo tempo, lasciando ad ogni paese la scelta di decidere se e come incorporarlo nel proprio ordinamento giuridico. Mi piace ricordare che il Cile è stato il primo paese al mondo ad introdurre nel 2021 nella sua Costituzione i cosiddetti neuro diritti tra i diritti fondamentali dell’uomo. E’ questo un modo concreto per dare ali al riconoscimento dell’habeas mentem come diritto volto a tutelare la libertà di pensiero della persona dalle manipolazioni che il “capitalismo delle menti” va attuando. Si pensi agli AI Companion, modelli che generano ad arte aspettative irrealizzabili e che tendono a creare captive minds (menti catturate). Prendersi cura della mente è oggi un compito irrinunciabile per chi ha a cuore la libertà, così come fu il caso con l’habeas corpus nell’Inghilterra del XVII secolo. Riconoscere l’habeas mentem permette, inoltre, di prevenire le disuguaglianze tra chi potrà potenziare la propria mente, e perciò dominare, e chi non potrà permetterselo.
In un saggio di notevole spessore (2026), A. Margalit e A. Sharon affrontano una questione che concerne in profondità la vita della nostra società, ossia il modo in cui le persone possono essere condotte a pensare, desiderare, giudicare e agire secondo una volontà che non è propriamente la loro. La manipolazione è fenomeno antico, ma oggi essa assume una portata nuova. La sua rilevanza non è tanto che qualcuno possa mentire o ingannare qualcun altro, quanto piuttosto che una mente possa essere catturata senza che il corpo venga costretto. La questione è allora comprendere quando un’influenza diventa dominio, quando la persuasione diventa controllo, quando una società può produrre condizioni che rendono i cittadini vulnerabili alla manipolazione sistematica. Può dirsi davvero libera una società se le opinioni su cui fonda la propria legittimità sono sistematicamente fabbricate o catturate da altri?
La Chiesa – ci ricorda con forza Leone XIV – non è solamente “depositum fidei”, ma pure “depositum humanitatis”. Per questo il cristiano non può disinteressarsi, pur con fatiche e sofferenze, di indagare le trasformazioni del potere che si vanno realizzando sotto i suoi occhi. La mira è sempre la medesima: difendere la dimensione misterica della persona e non dimenticare che la forma umana dell’esistenza mai può considerarsi un’appendice del progresso tecnico-scientifico. Il che comporta che si riconosca che il potere (tecnologico e economico) ha sempre bisogno di un limite ad esso esterno se vuol esercitare la sua potenza. Dobbiamo allora recuperare la strategia del sacerdote Neemia, che ricostruisce le mura di Gerusalemme coordinando gli sforzi di ciascuno secondo il modo cooperativo, senza comandi o piani dall’alto, mettendo così in pratica la logica della sussidiarietà circolare.
Stefano Zamagni
In corso di pubblicazione su Vita Pastorale
About Author
