“Il Papa? E quante divisioni ha?” Pare che Stalin liquidasse così il potere della Santa Sede. Una battuta perfetta, come quasi tutte le battute dei tiranni, ma, come quasi tutte le battute da chi ha scarsi contatti con la realtà, sbagliata
Settant’anni dopo, Leone XIV pubblica più di quarantamila parole, le raccoglie in un’enciclica intitolata Magnifica Humanitas, e le punta contro un esercito che oggi marcia davvero spedito, quello dell’intelligenza artificiale.
Leone XIV utilizza una doppia metafora, che sta nella Bibbia. Da una parte Babele: un popolo, una lingua sola, una tecnologia sola, una sola direzione. Costruiamoci una torre, e facciamoci un nome. Poi Dio confuse le lingue e disperse tutti sulla faccia della terra. Dall’altra parte Gerusalemme, che Neemia ricostruisce non con un disegno calato dall’alto, ma lasciando che ciascuno rialzi il proprio pezzo di muro.
Babele è l’efficienza che si mangia la dignità. Gerusalemme è la fatica condivisa. E secondo Leone stiamo tirando su l’ennesima torre.
Prima di proseguire occorre smontare un argomento, che prima poi verrebbe a galla. Ci raccontiamo che le rivoluzioni di una volta fossero chiare: il vapore, il telaio, la stampa, roba che avesse una parabola chiara. Non è vero. Chi stava dentro la rivoluzione industriale non immaginava né le metropoli né il proletariato. La Rerum Novarum arriva un secolo dopo la macchina a vapore: alla Chiesa, per dire qualcosa di sensato, servirono cent’anni. Ogni rivoluzione è opaca mentre si vive. Diventa leggibile solo quando ne siamo usciti.
E allora cosa cambia davvero, stavolta? Tre cose. La velocità, che schiaccia in pochi anni ciò che prima si spalmava su generazioni: il secolo di Leone XIII per metabolizzare, oggi, non ce l’abbiamo. L’opacità del meccanismo, e non solo degli effetti: un telaio lo vedevi girare, mentre l’IA è una scatola chiusa anche per chi la costruisce. E soprattutto l’oggetto su cui mette le mani. Il vapore estendeva la forza, la stampa la voce, il treno la distanza.. L’IA lavora sul giudizio, cioè proprio sullo strumento con cui dovremmo valutarla. È la prima rivoluzione che agisce sull’organo che serve a guardarla.
Da qui la vertigine: misuriamo una cosa con un metro che quella cosa sta riscrivendo. Ed è esattamente Babele. La torre non crolla, crolla la lingua. Babele è l’istante in cui nessuno si capisce più: è già, per nome e cognome, la perdita di leggibilità.
Da anni l’industria si commuove sull’idea di “allineare” le macchine ai valori umani, come se bastasse insegnare il galateo a un coltello. Il Papa indica in problema: una macchina morale non serve a niente, se la sua morale l’hanno decisa in quattro. Resta l’opinione di quei quattro, solo cementata a infrastruttura invisibile, le tubature etiche sotto il pavimento di tutti. Un’IA più buona non basta, se la bontà la stabilisce un club ristretto.
Non è la prima volta che un Leone si occupa di macchine, del resto. Nel 1891 Leone XIII scrisse la Rerum Novarum per gli operai stritolati dalla seconda rivoluzione industriale.. Allora c’erano le filande. Oggi ci sono gli etichettatori di dati e i moderatori di contenuti che, per pochi spiccioli, guardano l’orrore al posto nostro, perché ci sia risparmiato. Il Papa li chiama nuove forme di schiavitù.
Infine c’è la parola che Leone ha scelto apposta: disarmare. L’IA, dice, va disarmata. Perché un’arma autonoma rende la guerra più comoda, più rapida, più fredda, più pulita sulla carta, ma nessun algoritmo renderà giusta una guerra.
C’è infine un’immagine: il data center come test di Rorschach. Ognuno ci vede ciò che teme. Lo Stato un rischio per la sicurezza, la Chiesa un rischio per la propria legittimità, e per noi cittadini è un capannone che cresce accanto, vicino,, senza che nessuno ci abbia chiesto il permesso.
Quante divisioni ha il Papa, allora? Nessuna, come sempre. Ma la domanda era sbagliata dall’inizio. Non si tratta di contare eserciti. Si tratta di decidere cosa stiamo costruendo: una torre per farci un nome, o un muro che alziamo in tanti, sapendo che un pezzo è anche nostro. La differenza, suggerisce Leone, non è teologica. È solo la differenza tra disperdersi e restare.