Nel suo messaggio per la Giornata Mondiale delle Comunicazioni
“Preservare le voci e i volti umani”, è il motto del Messaggio per la LX Giornata Mondiale delle Comunicazioni Sociali del Papa Leone XIV, pubblicato il 24 gennaio. “Il volto e la voce sono tratti unici e distintivi di ogni persona”, sottolinea il Pontefice di fronte alle sfide dell’Intelligenza Artificiale (IA) e alle nuove sfide della comunicazione. E esortando a un’alleanza di responsabilità, cooperazione e educazione per affrontare questi rischi.
“La sfida -dice Leone XIV nel messaggio- non è tecnologica, ma antropologica. Proteggere i volti e le voci significa, in ultima analisi, proteggerci noi stessi”.
IA
Il Papa insiste sul “non rinunciare al proprio pensiero”, poiché “l’IA può fornire supporto e assistenza nella gestione di compiti comunicativi, eludendo lo sforzo del nostro stesso pensiero, accontentandoci di una compilazione statistica artificiale, rischia, a lungo termine, di erodere le nostre capacità cognitive, emotive e comunicative”.
Simulazione delle relazioni
E presenta il pericolo di “simulazione delle relazioni e della realtà” nel mondo digitale, poiché “la tecnologia che sfrutta la nostra necessità di relazione non solo può avere conseguenze dolorose per il destino delle persone, ma può anche danneggiare il tessuto sociale, culturale e politico delle società“.
“Questo accade quando sostituiamo le relazioni con gli altri con relazioni con IA addestrate per catalogare i nostri pensieri e, quindi, per costruire attorno a noi un mondo di specchi, dove tutto è fatto «a nostra immagine e somiglianza». In questo modo, ci priviamo della possibilità di trovare l’altro, che è sempre diverso da noi e con il quale possiamo e dobbiamo imparare a relazionarci. Senza l’accettazione dell’alterità non può esserci né relazione né amicizia”, afferma Papa Leone XIV nel messaggio.
Responsabilità, cooperazione ed educazione
Di fronte a questi rischi, Papa Leone XIV propone “Una possibile alleanza” basata su tre pilastri: **responsabilità, cooperazione e istruzione**. “Innanzitutto, la responsabilità. A seconda delle funzioni, questa può tradursi in onestà, trasparenza, coraggio, capacità di visione, dovere di condividere conoscenze, diritto di essere informati”.
Chiama anche a cooperare: “Nessun settore può affrontare da solo la sfida di guidare l’innovazione digitale e la governance dell’IA. Pertanto, è necessario creare meccanismi di salvaguardia. Tutti gli stakeholder, dall’industria tecnologica ai legislatori, dalle aziende creative al mondo accademico, dagli artisti ai giornalisti e agli educatori, devono partecipare alla costruzione e all’attuazione di una cittadinanza digitale consapevole e responsabile”.
E chiede che l’educazione sia utile a “aumentare la nostra capacità personale di riflettere criticamente, valutare l’affidabilità delle fonti e i possibili interessi che si celano dietro la selezione delle informazioni che ci raggiungono, comprendere i meccanismi psicologici che attivano, permettere alle nostre famiglie, comunità e associazioni di elaborare criteri pratici per una cultura della comunicazione più sana e responsabile”.
Custodire il dono della comunicazione
“Abbiamo bisogno -insiste il Pontefice- che il volto e la voce tornino a rappresentare la persona. Abbiamo bisogno di custodire il dono della comunicazione come la verità più profonda dell’essere umano, verso la quale orientare anche ogni innovazione tecnologica”.
Finalizza il Santo Padre il suo messaggio pubblicato in memoria di San Francesco de Sales, ringraziando “a tutti coloro che lavorano per gli scopi qui esposti e benedico di cuore tutti coloro che lavorano per il bene comune con i mezzi di comunicazione”.
Testo integro del messaggio del Papa
Conservare le voci e i volti umani
¡Queridos hermanos y hermanas!
Il volto e la voce sono tratti unici e distintivi di ogni persona; manifestano la loro identità irripetibile e sono l’elemento costitutivo di ogni incontro. Gli antichi lo sapevano bene. Così, per definire la persona umana, gli antichi greci utilizzavano la parola «rostro» (prósōpon), che etimologicamente indica ciò che è di fronte allo sguardo, il luogo della presenza e della relazione. Il termine latino persona (da per-sonare) include, invece, il suono: non un suono qualsiasi, ma la voce inconfondibile di qualcuno.
Il volto e la voce sono sacri. Ci sono stati donati da Dio, che ci ha creati a sua immagine e somiglianza, chiamandoci alla vita con la Parola che egli stesso ci ha rivolto; Parola che per prima risuonò attraverso i secoli nelle voci dei profeti, e poi si fece carne nel pieno dei tempi. Questa Parola, questa comunicazione che Dio fa di sé stesso, l’abbiamo potuta ascoltare e vedere direttamente anche noi (cf. 1 Gv 1,1-3), perché si è manifestata nella voce e nel Volto di Gesù, Figlio di Dio.
Dal momento della sua creazione, Dio volle l’uomo come suo interlocutore e, come dice San Gregorio di Nissa[1], imprimette sul suo volto un riflesso dell’amore divino, affinché potesse vivere pienamente la sua umanità attraverso l’amore. Custodire i volti e le voci umane significa, dunque, custodire questo sigillo, questo riflesso indelebile dell’amore di Dio. Non siamo una specie composta da algoritmi biochimici definiti a priori. Ognuno di noi ha una vocazione insostituibile e inimitabile che nasce dalla vita e si manifesta proprio nella comunicazione con gli altri. La tecnologia digitale, se falliamo in questa custodia, rischia di modificare radicalmente alcuni dei pilastri fondamentali della civiltà umana, che a volte diamo per scontati.
Simulando voci e volti umani, saggezza e conoscenza, coscienza e responsabilità, empatia e amicizia, i sistemi noti come intelligenza artificiale non solo interferiscono negli ecosistemi informativi, ma invadono anche il livello più profondo della comunicazione, quello della relazione tra persone umane.
Perciò, la sfida non è tecnologica, ma antropologica. Proteggere i volti e le voci significa, in definitiva, proteggerci noi stessi. Accogliere con coraggio, determinazione e discernimento le opportunità che offrono la tecnologia digitale e l’intelligenza artificiale non significa nascondere a noi stessi i punti critici, le opacità, i rischi.
Non rinunciare al proprio pensiero
Da tempo ci sono molte prove che gli algoritmi progettati per massimizzare il coinvolgimento sui social media – redditizi per le piattaforme – premiano le emozioni immediate e penalizzano, invece, le espressioni umane che richiedono più tempo, come lo sforzo per comprendere e la riflessione. Intrappolando gruppi di persone in bolle di facile consenso e facile indignazione, questi algoritmi indeboliscono la capacità di ascoltare e pensare criticamente e aumentano la polarizzazione sociale.
A questo si è aggiunta una fiducia ingenuamente acritica nell’intelligenza artificiale come «amica» onnisciente, dispensatrice di ogni informazione, archivio di ogni memoria, «oracolo» di ogni consiglio. Tutto ciò può ulteriormente logorare la nostra capacità di pensare in modo analitico e creativo, di comprendere i significati, di distinguere tra sintassi e semantica.
Sebbene l’IA possa fornire supporto e assistenza nella gestione di compiti comunicativi, eludere lo sforzo del nostro stesso pensiero, accontentandoci di una compilazione statistica artificiale, rischia, a lungo termine, di erodere le nostre capacità cognitive, emotive e comunicative.
Negli ultimi anni, i sistemi di intelligenza artificiale stanno assumendo sempre più il controllo della produzione di testi, musica e video. Gran parte dell’industria creativa umana rischia così di essere smantellata e sostituita dall’etichetta «Powered by AI», trasformando le persone in meri consumatori passivi di pensieri non pensati, di prodotti anonimi, senza paternità, senza amore. Mentre le opere magistrali del genio umano nel campo della musica, dell’arte e della letteratura si riducono a un mero campo di addestramento delle macchine.
La questione che ci preoccupa, tuttavia, non è ciò che la macchina può o potrà fare, ma ciò che noi possiamo e potremo fare, crescendo in umanità e conoscenza, con un uso intelligente degli strumenti così potenti al nostro servizio.
Da sempre, l’uomo è stato tentato di appropriarsi del frutto della conoscenza senza lo sforzo dell’impegno, della ricerca e della responsabilità personale. Rinunciare al processo creativo e cedere alle macchine le nostre funzioni mentali e la nostra immaginazione significa, tuttavia, seppellire i talenti che abbiamo ricevuto per crescere come persone in relazione a Dio e con gli altri. Significa nascondere il nostro volto e silenziare la nostra voce.
Essere o fingere: simulazione delle relazioni e della realtà
Man mano che ci muoviamo attraverso i nostri flussi di informazioni (feeds), diventa sempre più difficile sapere se stiamo interagendo con altri esseri umani o con «bot» o «influencer virtuali». Gli interventi non trasparenti di questi agenti automatizzati influenzano i dibattiti pubblici e le decisioni delle persone. Soprattutto, i chatbot basati su grandi modelli linguistici (LLM) stanno dimostrando di essere sorprendentemente efficaci nella persuasione occulta, attraverso un’ottimizzazione continua dell’interazione personalizzata. La struttura dialgica e adattativa, mimetica, di questi modelli linguistici è in grado di imitare i sentimenti umani e simulare così una relazione.
Questa antropomorfizzazione, che può risultare persino divertente, è al contempo ingannevole, soprattutto per le persone più vulnerabili. Perché i chatbots che diventano eccessivamente «affettuosi», oltre ad essere sempre presenti e disponibili, possono diventare architetti occulti dei nostri stati emotivi e, di questo modo, invadere e occupare la sfera dell’intimità delle persone.
La tecnologia che sfrutta la nostra necessità di relazione non solo può avere conseguenze dolorose per il destino delle persone, ma può anche danneggiare il tessuto sociale, culturale e politico delle società. Questo avviene quando sostituiamo le relazioni con gli altri con relazioni con IA addestrate per catalogare i nostri pensieri e, quindi, costruire attorno a noi un mondo di specchi, dove tutto viene fatto «a nostra immagine e somiglianza». In questo modo, ci lasciamo rubare la possibilità di incontrarci con l’altro, che è sempre diverso da noi e con il quale possiamo e dobbiamo imparare a confrontarci. Senza l’accoglienza dell’alterità non può esserci né relazione né amicizia.
Un’altra grande sfida che pongono questi sistemi emergenti è quella della distorsione (in inglese *bias*), che porta ad acquisire e trasmettere una percezione alterata della realtà. I modelli di IA sono plasmati dalla visione del mondo di coloro che li costruiscono e, a loro volta, possono imporre forme di pensiero replicando gli stereotipi e i pregiudizi presenti nei dati da cui si nutrono. La mancanza di trasparenza nella progettazione degli algoritmi, insieme alla rappresentazione sociale inadeguata dei dati, tende a mantenerci intrappolati in reti che manipolano i nostri pensieri e perpetuano e approfondiscono le disuguaglianze e le ingiustizie sociali esistenti.
Il rischio è grande. Il potere della simulazione è tale che l’IA può anche ingannarci con la fabbricazione di «realtà» parallele, appropriandosi dei nostri volti e delle nostre voci. Siamo immersi in una multidimensionalità, dove sempre più spesso è difficile distinguere la realtà dalla finzione.
A questo si aggiunge il problema della mancanza di precisione. I sistemi che fanno passare una probabilità statistica per conoscenza ci stanno offrendo, in realtà, al massimo approssimazioni alla verità, che a volte sono autentiche «allucinazioni».
La mancanza di verifica delle fonti, insieme alla crisi del giornalismo sul campo, che implica un lavoro continuo di raccolta e verifica di informazioni nei luoghi in cui si verificano gli eventi, può favorire un terreno ancora più fertile per la disinformazione, provocando una crescente sensazione di sfiducia, smarrimento e insicurezza.
Una possibile alleanza
Dietro a questa enorme forza invisibile che ci coinvolge tutti, c’è solo un pugno di aziende, i cui fondatori sono stati recentemente presentati come i creatori della «persona dell’anno 2025», ovvero gli architetti dell’intelligenza artificiale. Ciò solleva una importante preoccupazione per il controllo oligopolistico dei sistemi algoritmici e di intelligenza artificiale capaci di orientare sottilmente i comportamenti, e persino di riscrivere la storia umana —inclusa la storia della Chiesa— spesso senza che ce ne rendiamo realmente conto.
La sfida che ci attende non consiste nello arrestare l’innovazione digitale, ma nel guidarla, nella consapevolezza del suo carattere ambivalente. Dipende da ciascuno di noi alzare la voce in difesa delle persone umane, affinché questi strumenti possano essere veramente integrati da noi come alleati.
Questa alleanza è possibile, ma deve basarsi su tre pilastri: responsabilità, cooperazione e educazione.
Innanzitutto, la responsabilità. Questa può tradursi, a seconda delle funzioni, in onestà, trasparenza, coraggio, capacità di visione, dovere di condividere la conoscenza, diritto di essere informati. Ma, in generale, nessuno può eludere la propria responsabilità nei confronti del futuro che stiamo costruendo.
Per coloro che sono a capo delle piattaforme online, ciò significa assicurarsi che le loro strategie aziendali non siano guidate unicamente dal criterio della massimizzazione dei profitti, ma anche da una visione del futuro che tenga conto del bene comune, nel modo in cui ciascuno di loro si preoccupa del benessere dei propri figli.
Ai creatori e sviluppatori di modelli di IA è richiesto trasparenza e responsabilità sociale riguardo ai principi di progettazione e ai sistemi di moderazione su cui si basano i loro algoritmi e modelli sviluppati, al fine di favorire un consenso informato da parte degli utenti.
La stessa responsabilità si richiede anche ai legislatori nazionali e ai regolatori supranazionali, ai quali spetta vigilare sul rispetto della dignità umana. Una regolamentazione adeguata può proteggere le persone da un legame emotivo con i chatbots e contenere la diffusione di contenuti falsi, manipolatori o ingannevoli, preservando l’integrità dell’informazione di fronte alla sua simulazione ingannevole.
Le aziende di media e comunicazione non possono, a loro volta, permettere che gli algoritmi orientati a vincere a tutti i costi la battaglia per pochi secondi di attenzione prevalgano sulla fedeltà ai loro valori professionali, orientati alla ricerca della verità. La fiducia del pubblico si guadagna con la precisione e la trasparenza, non con la ricerca di qualsiasi tipo di coinvolgimento. I contenuti generati o manipolati dall’IA devono essere segnalati e distinti chiaramente dai contenuti creati da persone. Si deve proteggere l’autorevolezza e la proprietà sovrana del lavoro dei giornalisti e di altri creatori di contenuti. L’informazione è un bene pubblico.
Un servizio pubblico costruttivo e significativo non si basa sull’opacità, ma sulla trasparenza delle fonti, l’inclusione delle parti interessate e un alto livello di qualità.
Siamo tutti chiamati a cooperare.
Nessun settore può affrontare da solo la sfida di promuovere l’innovazione digitale e la governance dell’IA. Pertanto, è necessario creare meccanismi di salvaguardia. Tutte le parti interessate, dall’industria tecnologica ai legislatori, dalle imprese creative al mondo accademico, dagli artisti ai giornalisti e agli educatori, devono partecipare alla costruzione e all’attuazione di una cittadinanza digitale consapevole e responsabile.
A questo punta l’educazione: ad aumentare le nostre capacità personali per riflettere criticamente, valutare l’affidabilità delle fonti e i possibili interessi che si celano dietro la selezione delle informazioni che ci raggiungono, comprendere i meccanismi psicologici che attivano, permettere alle nostre famiglie, comunità e associazioni di elaborare criteri pratici per una cultura della comunicazione più sana e responsabile.
Precisamente per questo è sempre più urgente introdurre nei sistemi educativi di tutti i livelli l’alfabetizzazione sui media, l’informazione e l’IA, che alcune istituzioni civili stanno già promuovendo. Come cattolici, possiamo e dobbiamo dare il nostro contributo affinché le persone, soprattutto i giovani, acquisiscano la capacità di pensare criticamente e crescano nella libertà dello spirito. Questa alfabetizzazione dovrebbe inoltre integrarsi in iniziative più ampie di educazione permanente, raggiungendo anche gli anziani e i membri emarginati della società, che spesso si sentono esclusi e impotenti di fronte ai rapidi cambiamenti tecnologici.
L’alfabetizzazione ai media, all’informazione e all’IA aiuterà tutti a non adattarsi alla deriva antropomorfizzante di questi sistemi, ma a trattarli come strumenti, a utilizzare sempre una validazione esterna delle fonti —che potrebbero essere imprecise o errate— fornite dai sistemi di IA, a proteggere la propria privacy e i propri dati conoscendo i parametri di sicurezza e le opzioni di impugnazione.
È importante educare e formarsi per utilizzare l’IA in modo intenzionale e, in questo contesto, proteggere la propria immagine (foto e audio), il proprio volto e la propria voce, per evitare che vengano utilizzati nella creazione di contenuti e comportamenti dannosi, come frodi digitali, cyberbullismo o *deepfake*, che violano la *privacy* e l’intimità delle persone senza il loro consenso.
Al igual que la rivoluzione industriale richiedeva un’alfabetizzazione di base affinché le persone potessero reagire alle novità, anche la rivoluzione digitale richiede un’alfabetizzazione digitale (insieme a una formazione umanistica e culturale) per comprendere come gli algoritmi modellano la nostra percezione della realtà, come funzionano i pregiudizi dell’IA, quali sono i meccanismi che stabiliscono la comparsa di determinati contenuti nei nostri flussi di informazione (feed), quali sono e come possono cambiare i presupposti e modelli economici dell’economia dell’IA.
Abbiamo bisogno che il volto e la voce ritornino a esprimere la persona. Abbiamo bisogno di custodire il dono della comunicazione come la verità più profonda dell’uomo, verso la quale orientare anche ogni innovazione tecnologica.
Proponendo queste riflessioni, esprimo la mia gratitudine a tutti coloro che lavorano per gli scopi qui esposti e benedico di cuore tutti coloro che si impegnano per il bene comune con i mezzi di comunicazione.
Dal Vaticano, 24 gennaio 2026, memoria di San Francesco di Sales.
LEONE PP. XIV
_______________________
[1] «Il fatto di essere stati creati a immagine di Dio significa che all’uomo, dal momento della sua creazione, gli è impresso un carattere reale […].
Dio è amore e fonte di amore: il divino Creatore ha posto anche questo tratto nel nostro volto, affinché, mediante l’amore —riflesso dell’amore divino—, l’essere umano riconosca e manifesti la dignità della sua natura e la somiglianza con il suo Creatore» (cfr. San Gregorio di Nissa, La creazione dell’uomo: PG 44, 137).
Johan Pacheco
Vatican News / Religión Digital
Versione italiana tradotta con IA