«La magnifica umanità creata da Dio si trova oggi di fronte ad una scelta decisiva: innalzare una nuova torre di Babele o edificare la città dove Dio e l’umanità abitano insieme». Inizia così la nuova enciclica di papa Leone XIV, Magnifica humanitas (MH), dedicata alla «custodia della persona umana nel tempo dell’intelligenza artificiale», presentata il 25 maggio nell’Aula sinodale del Vaticano e firmata il 15 dello stesso mese, 135 anni esatti dopo la Rerum Novarum di Leone XIII. Un’operazione non casuale, perché il recente documento pontificio si colloca nel solco della Dottrina sociale della Chiesa, che proprio da quell’enciclica di fine ‘800 aveva preso le mosse. E se allora il mondo stava vivendo la rivoluzione industriale, oggi sta vivendo una nuova questione sociale determinata dalla rivoluzione tecnoscientifica e digitale.
«Se a suo tempo, Leone XIII parlava di «nuove questioni» (rerum novarum) – scrive l’attuale pontefice – oggi non possiamo semplicemente ripetere i suoi preziosi insegnamenti, ma dobbiamo chiedere a Dio la saggezza per interpretare le grandi tendenze del nostro tempo, in particolare i progressi della tecnica» (MH 4). La robotica, l’intelligenza artificiale, le continue e rapide trasformazioni tecnologiche e scientifiche stanno infatti trasformando il nostro mondo, i nostri ambienti sociali e la nostra comprensione di ciò che è «umano». Tuttavia, «la tecnica non va considerata, in se stessa, come forza antagonista rispetto alla persona» (MH 4), ma occorre darle un orizzonte, renderla coerente con i principi etici e con la dignità della persona umana. Eppure, esattamente come l’industria, la tecnologia «non è neutrale, perché assume il volto di chi la pensa, di chi la finanzia, la regola e la usa» (MH 9). Infatti,«l’uso dell’intelligenza artificiale (IA) non è mai un fatto puramente tecnico: quando entra in processi che incidono sulla vita delle persone, essa tocca diritti, opportunità, reputazione, libertà. Possono esserci usi evidentemente antiumani, come la manipolazione dell’informazione o la violazione della privacy, ma può anche esserci un’insidia meno palese, quando i sistemi di IA, presentandosi come neutrali e oggettivi, rispecchiano e rafforzano stereotipi o posizioni ideologiche di chi li ha progettati e addestrati» (MH 102).
Non esiste quindi scienza, tecnologia, innovazione che sia neutra. Dipende da chi e da come esercita il controllo e soprattutto dai fini che vengono iscritti nell’innovazione tecnologica. Per rispondere a questi interrogativi e per discernere come abitare con responsabilità il tempo dell’intelligenza artificiale, il Pontefice presenta nell’Introduzione (MH 1-6) due immagini bibliche. Una è la Torre di Babele (Gen 11,1-9), simbolo dell’assolutizzazione dell’umano e della pretesa autosufficienza che produce omologazione, disastro e confusione. È il rischio che corriamo e da evitare. La seconda è l’immagine positiva nel racconto del profeta Neemia (Ne 1-2) quando il popolo d’Israele, rientrato dall’esilio babilonese, coopera nella ricostruzione, mattone dopo mattone, delle mura di Gerusalemme. La città rinasce «attraverso la responsabilità condivisa di tutto il popolo: sacerdoti, artigiani, capifamiglia, donne e giovani. È un’opera che ha Dio al centro e ricostruisce i legami prima ancora delle pietre» (MH, 8). Per Leone XIV è necessario, dunque, evitare la «sindrome di Babele» (MH 10) che sacrifica i deboli e appiattisce le differenze, e contrapporre a questa esaltazione dello strapotere della tecnica, il dovere morale di «restare profondamente umani» (MH 15) attraverso la costruzione comune del bene basato su principi e valori fondati sulla dignità umana.
Il documento pontificio si snoda poi attraverso cinque capitoli e una conclusione: Un pensiero dinamico fedele al Vangelo (17-45); Fondamenti e principi della Dottrina sociale della Chiesa (46-89); Tecnica e dominio. La grandezza della persona umana davanti alle promesse dell’IA (90-130); Custodire l’umano nella trasformazione: Verità, lavoro, libertà (131-181); La cultura della potenza e la civiltà dell’amore (182-228); Conclusione (229-245).
Nei primi due capitoli, papa Leone ripercorre l’evoluzione della Dottrina Sociale della Chiesa, la quale si fonda su tre cardini: l’essere umano immagine del Dio trinitario, l’eguale dignità di tutti gli esseri umani, l’altissimo valore dei diritti umani. E ha cinque princìpi di fondo: il bene comune, la destinazione universale dei beni, la sussidiarietà, la solidarietà, la giustizia sociale.
Il capitolo terzo ribadisce che la tecnologia non può essere controllata da attori privati ma va posta al servizio del bene comune e dell’umanità. In effetti, «il controllo delle piattaforme, delle infrastrutture, dei dati e della capacità di calcolo non è appannaggio degli Stati, ma di grandi attori economici e tecnologici che, di fatto, fissano le condizioni di accesso, le regole della visibilità e le possibilità stesse di partecipazione» (MH 95). Quando un tale tipo di potere si concentra in poche mani, tende a farsi opaco, a sfuggire al controllo pubblico, a generare nuove dipendenze e manipolazioni e a dare vita ad un «capitalismo della sorveglianza». È quest’ultimo un meccanismo con cui alcuni attori privati, transnazionali e sostanzialmente non governabili, acquistano una capacità di influenza superiore a quella di molti governi sovrani. Ad esempio, «chi possiede i dati sanitari di intere popolazioni, oggi raccolti spesso sotto il segno della ricerca o dell’innovazione, possiede in realtà una leva strutturale sul futuro: può modellare i bisogni e i mercati. E può decidere, prima degli altri, a chi destinare farmaci, investimenti, protezioni» (MH 178). Siamo qui in presenza di un «colonialismo dei dati, che trasforma le vite personali in informazioni sfruttabili» (MH 178). In particolare, le raccolte massive di dati rappresentano oggi le «nuove “terre rare”» (MH 178) del potere poiché servono a costruire archivi che le tecnologie di domani, a partire dalla computazione quantistica, renderanno decifrabili. Chi raccoglie i dati sanitari oggi compra di fatto un’opzione sul controllo demografico e farmaceutico di intere popolazioni per i prossimi decenni.
In questo contesto, diventano necessari e concreti i princìpi-guida della Dottrina Sociale.
«Parlare di destinazione universale dei beni – scrive papa Leone XIV – significa trovare modi per assicurare l’accesso universale alle tecnologie e alla formazione. Parlare di sussidiarietà chiede di proteggere la capacità delle comunità di scegliere e correggere, senza relegare il loro intervento a una vigilanza, dopo che gli standard sono stati scritti altrove. Parlare di solidarietà obbliga a riconoscere il lavoro invisibile, spesso sfruttato, che alimenta i modelli algoritmici. Parlare di giustizia impone di interrogare le geografie del potere che definiscono chi può addestrare i modelli e chi è solo oggetto di addestramento, e riconoscere che la giustizia sociale non è solo un obiettivo da tutelare dopo l’adozione delle tecnologie, ma una condizione previa da praticare nel loro stesso disegno» (MH 109).
Inoltre, rispetto all’IA, risulta illuminante il tema del «disarmo»: «Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita» (MH 110).
Diviene questo un appello ai poteri tecnocratici e alla politica affinché lo sviluppo tecnoscientifico sia portatore di un nuovo umanesimo.
Nel capitolo quarto il Pontefice indica la direzione verso cui collocare lo sviluppo tecnologico. Prendono qui forma preziose indicazioni sulla ricerca della verità e la comunicazione, sulla necessità di una «ecologia della comunicazione» (MH 137-138), tesa ad informare e non a disinformare. Di grande importanza sono poi i richiami alle potenzialità educative dell’IA e l’attenzione da porre da parte delle famiglie ai rischi dell’adescamento, dello sfruttamento, del ricatto, soprattutto verso i minori (MH 141-142). Vengono inoltre affrontate questioni legate al lavoro, all’occupazione e all’economia, che risultano profondamente minacciate da un uso distorto e massiccio della tecnologia, e alle nuove forme di schiavitù determinate dalla rivoluzione digitale e dal colonialismo dei dati.
«Reti criminali – scrive il Pontefice – si servono di piattaforme di rete, sistemi di messaggistica, pagamenti anonimi e tecniche di profilazione per reclutare, controllare e spostare vittime di tratta, molte volte minori, trasformando uomini e donne in “dati” da tracciare e “pacchi” da trasferire entro gli stessi circuiti digitali che sostengono gran parte dell’economia globale. Questa realtà interpella profondamente la coscienza morale del nostro tempo. Non basta invocare l’efficienza, né celebrare i benefici dell’innovazione, se essi sono costruiti su una catena di sfruttamento che resta deliberatamente invisibile. Se una tecnologia promette emancipazione ma produce nuove forme di subordinazione globale contraddice il principio fondamentale della dignità della persona umana» (MH 173)
Infine, nel capitolo quinto, Leone XIV denuncia i conflitti e le mentalità di sopraffazione e violenza che hanno radici nella «cultura della potenza» (MH 188), che si sostanzia nella crisi del multilateralismo e in una prepotente «riabilitazione della guerra» (MH 190). La tecnologia sembra purtroppo porsi a servizio di tale mentalità, dietro la quale si nasconde una volontà di dominio e di profitto senza limiti. Non è così per la Chiesa, che indica con fermezza i criteri etici da utilizzare.
«Non basta – scrive il pontefice americano – invocare genericamente l’etica: occorre indicare puntuali criteri di discernimento. Il primo riguarda la responsabilità personale. Quando la decisione di colpire si automatizza o si opacizza, cresce il rischio di deresponsabilizzazione. Per questo la catena delle responsabilità deve restare identificabile e verificabile: chi progetta, chi addestra, chi autorizza, chi impiega deve poter rendere conto delle proprie scelte. Il secondo criterio riguarda il tempo del giudizio morale. L’IA tende a comprimere i tempi decisionali; ma, in guerra, decisioni irreversibili non possono avere come criteri supremi rapidità ed efficienza. Il terzo criterio è la distinzione e la protezione dei civili. Ogni tecnologia che rende più facile colpire senza vedere il volto dell’altro abbassa la soglia morale del conflitto. La selezione dei bersagli e l’impiego della forza non possono confondere combattenti e non combattenti, né ignorare l’impatto sulle popolazioni indifese» (MH 199).
Nell’attuale contesto mondiale, che sembra normalizzare i conflitti, la Chiesa indica un’altra strada, quella della «civiltà dell’amore» (MH 210-227), attraverso il rilancio del dialogo, la ricerca di soluzioni condivise, il multilateralismo, ed anche la misericordia reciproca. La spiritualità di cui oggi il mondo ha bisogno, sottolinea il papa, è basata sull’unione con Cristo, è eucaristica.
«L’Eucaristia ci apre alla giustizia e alla condivisione, con un’attenzione preferenziale verso chi porta il peso della povertà e dell’emarginazione. E mentre le nuove reti economiche e tecnologiche possono generare esclusione, isolamento e dipendenze, la Chiesa, nutrita dell’Eucaristia, è chiamata a rendere visibile un’altra misura, custodendo legami, restituendo voce agli invisibili e orientando i processi verso la dignità delle persone» (MH 235).
Nella conclusione, papa Leone XIV riprende la vicenda positiva di Neemia con cui ha aperto l’Enciclica, affermando l’esigenza di una convergenza verso un progetto comune. E la visione della speranza si concretizza nel canto del Magnificat per diventare «tessitori di speranza nel nostro mondo» (MH 245).
Sebastiano Serafini
Docente di Dottrina sociale della Chiesa e Bioetica
Istituto Teologico Marchigiano – Pontificia Università Gregoriana