Dans son message pour la Journée mondiale des communications sociales,
« Préserver les voix et les visages humains », est le thème du Message pour la 60e Journée mondiale des communications sociales du pape Léon XIV, publié le 24 janvier dernier. « Le visage et la voix sont des traits uniques et distinctifs de chaque personne », souligne le Pontife face aux défis de l’intelligence artificielle (IA) et aux nouveaux enjeux de la communication. Et exhortant à une alliance de *responsabilité*, *coopération* et *éducation* pour faire face à ces risques.
“Le défi – dit León XIV dans le message – n’est pas technologique, mais anthropologique. Protéger les visages et les voix signifie, en fin de compte, nous protéger nous-mêmes.”
IA
Le Pape insiste sur “ne pas renoncer à sa propre pensée”, car “l’IA peut fournir un soutien et une assistance dans la gestion des tâches communicatives, en évitant l’effort de notre propre pensée, en se contentant d’une compilation statistique artificielle, risque, à long terme, d’éroder nos capacités cognitives, émotionnelles et communicatives”.
Simulation des relations
Et présente le danger de “simulation des relations et de la réalité” dans le monde numérique, car “la technologie qui exploite notre besoin de relation peut non seulement avoir des conséquences douloureuses pour le destin des personnes, mais aussi endommager le tissu social, culturel et politique des sociétés.”
“Ceci se produit lorsque nous substituons les relations avec les autres par des relations avec des IA formées pour cataloguer nos pensées et, par conséquent, pour construire autour de nous un monde de miroirs, où tout est fait «à notre image et à notre ressemblance». De cette manière, nous nous privons de la possibilité de trouver l’autre, qui est toujours différent de nous et avec lequel nous pouvons et devons apprendre à nous entretenir. Sans l’acceptation de l’altérité, il ne peut y avoir ni relation ni amitié”, dit Léon XIV dans le message.
Responsabilité, coopération et éducation
Face à ces risques, le pape Léon XIV propose “Un possible accord” basé sur trois piliers : **responsabilité, coopération et éducation**. « En premier lieu, la responsabilité. Selon les fonctions, celle-ci peut se traduire par honnêteté, transparence, courage, capacité de vision, devoir de partager les connaissances, droit d’être informé ».
Llama également à cooperer : “Aucun secteur ne peut affronter seul le défi de mener l’innovation numérique et la gouvernance de l’IA. Par conséquent, il est nécessaire de créer des mécanismes de sauvegarde. Toutes les parties prenantes, de l’industrie technologique aux législateurs, des entreprises créatives au monde académique, des artistes aux journalistes et aux éducateurs, doivent participer à la construction et à la mise en pratique d’une citoyenneté numérique consciente et responsable.”
Et demande que l’éducation soit utile pour “accroître notre capacité personnelle à réfléchir de manière critique, à évaluer la fiabilité des sources et les intérêts potentiels qui se cachent derrière la sélection de l’information qui nous parvient, à comprendre les mécanismes psychologiques qui activent, afin de permettre à nos familles, communautés et associations d’élaborer des critères pratiques pour une culture de la communication plus saine et responsable”.
Garder le don de la communication
“Nous devons -insiste le Pape- que le visage et la voix retrouvent leur place pour représenter la personne. Nous devons garder le don de la communication comme la vérité la plus profonde de l’être humain, vers laquelle orienter également toute innovation technologique”.
Finalise le Saint-Père son message publié en mémoire de Saint François de Sales, remerciant “tous ceux qui travaillent pour les buts ici exposés et bénissant de cœur tous ceux qui travaillent pour le bien commun avec les médias”.
Texte intégral du message du Pape
Préserver les voix et les visages humains
Chers frères et sœurs !
Le visage et la voix sont des traits uniques et distinctifs de chaque personne ; ils manifestent leur identité irrépétible et sont l’élément constitutif de chaque rencontre. Les anciens le savaient bien. Ainsi, pour définir l’être humain, les Grecs anciens utilisaient le mot « visage » (prósōpon), qui étymologiquement indique ce qui est face au regard, le lieu de la présence et de la relation. Le terme latin persona (de per-sonare) inclut, quant à lui, le son : non n’importe quel son, mais la voix inconfondable de quelqu’un.
Le visage et la voix sont sacrés. Ils nous ont été donnés par Dieu, qui nous a créés à son image et à sa ressemblance, nous appelant à la vie avec la Parole qu’il lui-même nous a adressée�; Parole qui d’abord a résonné à travers les siècles dans les voix des prophètes, puis s’est incarnée en plein temps. Cette Parole, cette communication que Dieu fait de lui-même, nous avons pu l’entendre et la voir directement aussi (cf. *1 Jn* 1,1-3), car elle s’est manifestée dans la voix et dans le Visage de Jésus, Fils de Dieu.
Depuis le moment de sa création, Dieu a voulu l’homme comme son interlocuteur et, comme le dit Saint Grégoire de Nysse[1], a imprimé sur son visage un reflet de l’amour divin, afin qu’il puisse vivre pleinement son humanité à travers l’amour. Garder les visages et les voix humaines signifie donc garder ce sceau, ce reflet indélébile de l’amour de Dieu. Nous ne sommes pas une espèce composée d’algorithmes biochimiques définis à l’avance. Chacun de nous a une vocation insubstituable et inimitable qui émerge de la vie et se manifeste précisément dans la communication avec les autres. La technologie numérique, si nous échouons dans cette garde, risque de modifier radicalement certains des piliers fondamentaux de la civilisation humaine, que nous prenons parfois pour acquis.
En simulant des voix et des visages humains, de la sagesse et du savoir, de la conscience et de la responsabilité, de l’empathie et de l’amitié, les systèmes connus sous le nom d’intelligence artificielle n’interfèrent pas seulement avec les écosystèmes informatifs, mais envahissent également le niveau le plus profond de la communication, celui de la relation entre personnes humaines.
Par conséquent, le défi n’est pas technologique, mais anthropologique. Protéger les visages et les voix signifie, en fin de compte, nous protéger nous-mêmes. Accueillir avec courage, détermination et discernement les opportunités offertes par la technologie numérique et l’intelligence artificielle ne signifie pas pour autant nous cacher les points critiques, les opacités, les risques.
Ne pas renoncer à sa propre pensée
Depuis longtemps, de nombreuses preuves indiquent que les algorithmes conçus pour maximiser l’engagement sur les réseaux sociaux – rentables pour les plateformes – récompensent les émotions rapides et pénalisent, en revanche, les expressions humaines qui nécessitent plus de temps, comme l’effort de compréhension et la réflexion. En enfermant des groupes de personnes dans des bulles de consensus facile et d’indignation facile, ces algorithmes affaiblissent la capacité d’écouter et de penser de manière critique et augmentent la polarisation sociale.
A cela s’est ajoutée une confiance naïvement critique en l’intelligence artificielle en tant que « copain » omniscient, dispensateur de toute information, fichier de toute mémoire, « oracle » de tout conseil. Tout cela peut encore plus user de notre capacité à penser de manière analytique et créative, à comprendre les significations, à distinguer entre syntaxe et sémantique.
Bien que l’IA puisse fournir un soutien et une assistance dans la gestion des tâches communicatives, en évitant l’effort de notre propre pensée, en se contentant d’une compilation statistique artificielle, elle risque, à long terme, d’éroder nos capacités cognitives, émotionnelles et communicatives.
Au cours des dernières années, les systèmes d’intelligence artificielle prennent de plus en plus le contrôle de la production de textes, de musique et de vidéos. Une grande partie de l’industrie créative humaine risque ainsi d’être démantelée et remplacée par l’étiquette «Powered by AI», transformant les personnes en de simples consommateurs passifs de pensées non pensées, de produits anonymes, sans paternité, sans amour. Alors que les chefs-d’œuvre du génie humain dans le domaine de la musique, de l’art et de la littérature se réduisent à un simple champ d’entraînement des machines.
La question qui nous préoccupe, cependant, n’est pas ce que la machine peut ou pourra faire, mais ce que nous pouvons et pourrons faire nous-mêmes, en grandissant en humanité et en connaissance, grâce à un usage intelligent d’instruments aussi puissants à notre service.
Depuis toujours, l’homme est tenté de s’approprier le fruit du savoir sans l’effort de l’implication, de la recherche et de la responsabilité personnelle. Renoncer au processus créatif et céder aux machines nos fonctions mentales et notre imagination signifie, cependant, enterrer les talents que nous avons reçus pour grandir en tant que personnes en relation avec Dieu et avec les autres. Cela signifie cacher notre visage et faire taire notre voix.
Être ou faire semblant : simulation des relations et de la réalité
A mesure que nous nous déplaçons dans nos flux d’informations (feeds), il devient de plus en plus difficile de savoir si nous interagissons avec d’autres êtres humains ou avec des «bots» ou «influenceurs virtuels». Les interventions non transparentes de ces agents automatisés influencent les débats publics et les décisions des personnes. En particulier, les chatbots basés sur de grands modèles linguistiques (LLM) s’avèrent étonnamment efficaces dans la persuasion cachée, grâce à une optimisation continue de l’interaction personnalisée. La structure dialogique et adaptative, mimétique, de ces modèles linguistiques est capable d’imiter les sentiments humains et de simuler ainsi une relation.
Cette anthropomorphisation, qui peut même s’avérer amusante, est en même temps trompeuse, surtout pour les personnes les plus vulnérables. Parce que les *chatbots* qui deviennent excessivement « affectueux », en plus d’être toujours présents et disponibles, peuvent devenir des architectes cachés de nos états émotionnels et, de cette façon, envahir et occuper la sphère de l’intimité des personnes.
La technologie qui exploite notre besoin de relation ne peut pas seulement avoir des conséquences douloureuses pour le destin des personnes, mais peut aussi endommager le tissu social, culturel et politique des sociétés. Cela se produit lorsque nous substituons les relations avec les autres par des relations avec des IA formées pour cataloguer nos pensées et, par conséquent, construire autour de nous un monde de miroirs, où tout est fait «à notre image et à notre ressemblance». De cette façon, on nous vole la possibilité de nous rencontrer avec l’autre, qui est toujours différent de nous et avec qui nous pouvons et devons apprendre à faire face. Sans l’accueil de l’altérité, il ne peut y avoir ni relation ni amitié.
Un autre grand défi que posent ces systèmes émergents est celui de la distorsion (en anglais *bias*), qui conduit à acquérir et à transmettre une perception altérée de la réalité. Les modèles d’IA sont façonnés par la vision du monde de ceux qui les construisent et, à leur tour, peuvent imposer des formes de pensée en répliquant les stéréotypes et les préjugés présents dans les données dont ils se nourrissent. Le manque de transparence dans la conception des algorithmes, ainsi que la représentation sociale inadéquate des données, tend à nous maintenir piégés dans des réseaux qui manipulent nos pensées et perpétuent et approfondissent les inégalités et les injustices sociales existantes.
Le risque est grand. Le pouvoir de la simulation est tel que l’IA peut également nous tromper avec la fabrication de «réalités» parallèles, s’appropriant nos visages et nos voix. Nous sommes immergés dans une multidimensionalité, où il devient de plus en plus difficile de distinguer la réalité de la fiction.
À cela s’ajoute le problème du manque de précision. Les systèmes qui font passer une probabilité statistique pour connaissance nous offrent, en réalité, comme beaucoup des approximations de la vérité, qui sont parfois de véritables «hallucinations».
Le manque de vérification des sources, ainsi que la crise du journalisme de terrain, qui implique un travail continu de collecte et de vérification de l’information sur les lieux où se déroulent les événements, peut favoriser un terrain encore plus fertile pour la désinformation, provoquant une croissante sensation de méfiance, de confusion et d’insécurité.
Une possible alliance
Derrière cette énorme force invisible qui nous implique tous, se cache une poignée d’entreprises, dont les fondateurs ont été récemment présentés comme les créateurs de la «personne de l’année 2025», c’est-à-dire les architectes de l’intelligence artificielle. Cela suscite une importante préoccupation quant au contrôle oligopolistique des systèmes algorithmiques et de l’intelligence artificielle capables d’orienter subtilement les comportements, et même de réécrire l’histoire humaine —y compris l’histoire de l’Église— souvent sans que nous nous en rendions réellement compte.
Le défi qui nous attend ne consiste pas à arrêter l’innovation numérique, mais à la guider, à être conscients de son caractère ambivalent. Il dépend de chacun d’entre nous de faire entendre sa voix en défense des personnes humaines, afin que ces outils puissent être véritablement intégrés par nous comme alliés.
Cette alliance est possible, mais elle doit se baser sur trois piliers : responsabilité, coopération et éducation.
En premier lieu, la responsabilité. Celle-ci peut se traduire, selon les fonctions, par honnêteté, transparence, courage, capacité de vision, devoir de partager le savoir, droit d’être informé. Mais, en général, personne ne peut éluder sa responsabilité face à l’avenir que nous construisons.
Pour ceux qui sont à la tête des plateformes en ligne, cela signifie s’assurer que leurs stratégies commerciales ne sont pas uniquement guidées par le critère de la maximisation des bénéfices, mais également par une vision d’avenir qui prend en compte le bien commun, de la même manière que chacun d’eux se soucie du bien-être de ses enfants.
Les créateurs et développeurs de modèles d’IA sont tenus à la transparence et à la responsabilité sociale concernant les principes de conception et les systèmes de modération sur lesquels leurs algorithmes et modèles sont basés, afin de favoriser un consensus éclairé par les utilisateurs.
La misma responsabilidad se exige también a los legisladores nacionales y a los reguladores supranacionales, a quienes corresponde velar por el respeto de la dignidad humana. Une réglementation adéquate peut protéger les personnes d’un lien émotionnel avec les chatbots et contenir la diffusion de contenus faux, manipulateurs ou trompeurs, préservant l’intégrité de l’information face à sa simulation mensongère.
Les entreprises de médias et de communication ne peuvent pas, à leur tour, permettre aux algorithmes orientés vers un gain à tout prix dans la bataille pour quelques secondes d’attention supplémentaires de prévaloir sur la fidélité à leurs valeurs professionnelles, axées sur la recherche de la vérité. La confiance du public se gagne avec la précision et la transparence, et non avec la recherche de tout type d’engagement. Les contenus générés ou manipulés par l’IA doivent être clairement indiqués et distingués des contenus créés par des personnes. La paternité et la propriété souveraine du travail des journalistes et autres créateurs de contenus doivent être protégées. L’information est un bien public.
Un service public constructif et significatif ne se fonde pas sur l’opacité, mais sur la transparence des sources, l’inclusion des parties prenantes et un niveau élevé de qualité.
Nous sommes tous appelés à coopérer.
Aucun secteur ne peut à lui seul relever le défi de stimuler l’innovation numérique et la gouvernance de l’IA. Il est donc nécessaire de créer des mécanismes de sauvegarde. Toutes les parties intéressées, de l’industrie technologique aux législateurs, des entreprises créatives au monde académique, des artistes aux journalistes et aux éducateurs, doivent participer à la construction et à la mise en œuvre d’une citoyenneté numérique consciente et responsable.
A ceci vise l’éducation : accroître nos capacités personnelles à la réflexion critique, à évaluer la fiabilité des sources et les intérêts potentiels qui se cachent derrière la sélection de l’information qui nous parvient, à comprendre les mécanismes psychologiques qui activent, à permettre à nos familles, communautés et associations d’élaborer des critères pratiques pour une culture de la communication plus saine et responsable.
Précisément pour cela, il est de plus en plus urgent d’introduire dans les systèmes éducatifs de tous les niveaux l’alphabétisation en médias de communication, l’information et l’IA, que certaines institutions civiles promeuvent déjà. En tant que catholiques, nous pouvons et devons apporter notre contribution afin que les personnes, en particulier les jeunes, acquièrent la capacité de penser de manière critique et grandissent dans la liberté de l’esprit. Cette alphabétisation devrait également être intégrée dans des initiatives plus larges d’éducation permanente, touchant également les personnes âgées et les membres marginalisés de la société, qui se sentent souvent exclus et impuissants face aux rapides changements technologiques.
L’alphabétisation aux médias de communication, à l’information et à l’IA aidera tout le monde à ne pas se laisser entraîner par l’anthropomorphisation de ces systèmes, mais à les traiter comme des outils, à utiliser toujours une validation externe des sources —qui pourraient être imprécises ou erronées— fournies par les systèmes d’IA, à protéger leur vie privée et leurs données en connaissant les paramètres de sécurité et les options de recours.
Il est important de s’éduquer et de se former pour utiliser l’IA de manière intentionnelle et, dans ce contexte, de protéger sa propre image (photos et audio), son propre visage et sa propre voix, afin d’éviter qu’ils ne soient utilisés dans la création de contenus et de comportements nuisibles, tels que les fraudes numériques, le cyberharcèlement ou les *deepfakes*, qui violent la *vie privée* et l’intimité des personnes sans leur consentement.
Tout comme la révolution industrielle nécessitait une alphabétisation de base pour que les individus puissent réagir aux nouveautés, la révolution numérique requiert également une littératie numérique (ainsi qu’une formation humaniste et culturelle) pour comprendre comment les algorithmes façonnent notre perception de la réalité, comment fonctionnent les biais de l’IA, quels sont les mécanismes qui établissent l’apparition de certains contenus dans nos flux d’informations (feed), quels sont et comment peuvent changer les hypothèses et modèles économiques de l’économie de l’IA.
Nous devons que le visage et la voix reviennent à exprimer la personne. Nous devons garder le don de la communication comme la vérité la plus profonde de l’homme, vers laquelle orienter également toute innovation technologique.
En proposant ces réflexions, je remercie tous ceux qui travaillent pour les buts ici exposés et je bénis de tout cœur tous ceux qui travaillent pour le bien commun avec les médias.
Du Vatican, le 24 janvier 2026, mémoire de Saint François de Sales.
LEONE PP. XIV
_______________________
[1] « Le fait d’avoir été créé à l’image de Dieu signifie que dès le moment de sa création, l’homme porte en lui un caractère réel […].
Dieu est amour et source d’amour : le divin Créateur a également mis ce trait sur notre visage, afin que, par l’amour — reflet de l’amour divin — l’être humain reconnaisse et manifeste la dignité de sa nature et la ressemblance avec son Créateur » (cf. Saint Grégoire de Nysse, La création de l’homme : PG 44, 137).
Johan Pacheco
Vatican News / Religión Digital
Version française traduite par IA