Em sua mensagem para a Jornada Mundial das Comunicações
“Preservar as vozes e os rostos humanos”, é o lema da Mensagem para a LX Jornada Mundial das Comunicações Sociais do Papa Leão XIV, publicada em 24 de janeiro. “O rosto e a voz são traços únicos e distintivos de cada pessoa”, assinala o Pontífice diante dos desafios da Inteligência Artificial (IA) e os novos retos da comunicação. E exortando a uma aliança de *responsabilidade*, *cooperação* e *educação* para enfrentar estes riscos.
“O desafio -diz Leão XIV na mensagem- não é tecnológico, mas antropológico. Proteger os rostos e as vozes significa, em última instância, proteger-nos a nós mesmos”.
IA
O Papa insiste em “não renunciar ao próprio pensamento”, já que “a IA pode proporcionar apoio e assistência na gestão de tarefas comunicativas, evitando o esforço do nosso próprio pensamento, contentando-nos com uma compilação estatística artificial, corre o risco, a longo prazo, de erodir as nossas capacidades cognitivas, emocionais e comunicativas”.
Simulação de relações
E apresenta o perigo de “simulação de relações e da realidade” no mundo digital, já que “a tecnologia que explora nossa necessidade de relação não só pode ter consequências dolorosas para o destino das pessoas, mas também pode danificar o tecido social, cultural e político das sociedades”.
“Isto acontece quando substituímos as relações com os outros por relações com IA treinadas para catalogar os nossos pensamentos e, portanto, para construir à nossa volta um mundo de espelhos, onde tudo está feito «à nossa imagem e semelhança». Desta forma, privamo-nos da possibilidade de encontrar o outro, que sempre é diferente de nós e com o qual podemos e devemos aprender a relacionarmo-nos. Sem a aceitação da alteridade não pode haver nem relação nem amizade”, diz Leão XIV na mensagem.
Responsabilidade, cooperação e educação
Ante estes riscos o Papa Leão XIV propõe “Uma possível aliança” baseado em três pilares:
responsabilidade, cooperação e educação
. “Em primeiro lugar, a responsabilidade. Dependendo das funções, esta pode traduzir-se em honestidade, transparência, coragem, capacidade de visão, dever de partilhar conhecimentos, direito de estar informado”.
Llama também a cooperar: “Nenhum setor pode enfrentar por si só o desafio de liderar a inovação digital e a governança da IA. Portanto, é necessário criar mecanismos de salvaguarda. Todas as partes interessadas, desde a indústria tecnológica até os legisladores, desde as empresas criativas até o mundo académico, desde os artistas até os jornalistas e os educadores, devem participar na construção e na prática de uma cidadania digital consciente e responsável”.
E pede que a educação seja útil para “aumentar a nossa capacidade pessoal para refletir criticamente, avaliar a fiabilidade das fontes e os possíveis interesses que há por detrás da seleção da informação que nos chega, compreender os mecanismos psicológicos que ativam, permitir que as nossas famílias, comunidades e associações elaborem critérios práticos para uma cultura da comunicação mais saudável e responsável”.
Guardar o dom da comunicação
“Precisamos -insiste o Papa- que o rosto e a voz voltem a representar a pessoa. Precisamos guardar o dom da comunicação como a verdade mais profunda do ser humano, para a qual orientar também toda a inovação tecnológica”.
Finaliza o Santo Padre a sua mensagem publicada em memória de São Francisco de Sales, agradecendo “a todos os que trabalham pelos fins aqui expostos e abençoo de coração a todos os que trabalham pelo bem comum com os meios de comunicação”.
Texto íntegro da mensagem do Papa
Conservar as vozes e os rostos humanos
¡Queridos irmãos e irmãs!
O rosto e a voz são traços únicos e distintivos de cada pessoa; manifestam sua identidade irrepetível e são o elemento constitutivo de cada encontro. Os antigos o sabiam bem. Assim, para definir a pessoa humana, os antigos gregos utilizavam a palavra «rostro» (prósōpon), que etimologicamente indica o que está frente à mirada, o lugar da presença e da relação. O termo latino persona (de per-sonare) inclui, em cambio, o som: não qualquer som, mas a voz inconfundível de alguém.
O rosto e a voz são sagrados. Foram-nos dados por Deus, que nos criou à sua imagem e semelhança, chamando-nos à vida com a Palavra que Ele mesmo nos dirigiu; Palavra que primeiro ressoou ao longo dos séculos nas vozes dos profetas, e depois se fez carne na plenitude dos tempos. Esta Palavra, esta comunicação que Deus faz de si mesmo, também a podemos ouvir e ver diretamente (cf. 1 Jo 1,1-3), porque se deu a conhecer na voz e no Rosto de Jesus, Filho de Deus.
Desde o momento de sua criação, Deus quis o homem como seu interlocutor e, como diz São Gregório de Nissa[1], imprimiu em seu rosto um reflexo do amor divino, para que pudesse viver plenamente sua humanidade através do amor. Guardar os rostos e as vozes humanas significa, portanto, guardar este selo, este reflexo indelével do amor de Deus. Não somos uma espécie composta por algoritmos bioquímicos definidos de antemão. Cada um de nós tem uma vocação insubstituível e inimitable que surge da vida e se manifesta precisamente na comunicação com os outros. A tecnologia digital, se falhamos nesta guarda, corre o risco de modificar radicalmente alguns dos pilares fundamentais da civilização humana, que por vezes damos por garantidos.
Ao simular vozes e rostos humanos, sabedoria e conhecimento, consciência e responsabilidade, empatia e amizade, os sistemas conhecidos como inteligência artificial não só interferem nos ecossistemas informativos, mas também invadem o nível mais profundo da comunicação, o da relação entre pessoas humanas.
Portanto, o desafio não é tecnológico, mas antropológico. Proteger os rostos e as vozes significa, em última instância, protegermos a nós mesmos. Acolher com valentia, determinação e discernimento as oportunidades que oferecem a tecnologia digital e a inteligência artificial não significa ocultar a nós mesmos os pontos críticos, as opacidades, os riscos.
Não renunciar ao próprio pensamento
Há muito tempo, há múltiplas provas de que os algoritmos desenhados para maximizar a participação nas redes sociais — rentável para as plataformas — premiam as emoções rápidas e penalizam, em contrapartida, as expressões humanas que requerem mais tempo, como o esforço para compreender e a reflexão. Ao encerrar grupos de pessoas em bolhas de fácil consenso e fácil indignação, estes algoritmos enfraquecem a capacidade de ouvir e pensar criticamente e aumentam a polarização social.
A isto somou-se uma confiança ingenuamente acrítica na inteligência artificial como «amiga» onisciente, dispensadora de toda informação, arquivo de toda memória, «oráculo» de todo conselho. Todo isto pode desgastar ainda mais a nossa capacidade de pensar de forma analítica e criativa, de compreender os significados, de distinguir entre sintaxe e semântica.
Embora a IA possa fornecer apoio e assistência na gestão de tarefas comunicativas, evitar o esforço do nosso próprio pensamento, contentando-nos com uma compilação estatística artificial, corre o risco, a longo prazo, de erosionar as nossas capacidades cognitivas, emocionais e comunicativas.
Nos últimos anos, os sistemas de inteligência artificial estão assumindo cada vez mais o controle da produção de textos, música e vídeos. Grande parte da indústria criativa humana corre assim o risco de ser desmantelada e substituída pela etiqueta «Powered by AI», convertendo as pessoas em meros consumidores passivos de pensamentos não pensados, de produtos anónimos, sem autoria, sem amor. Enquanto que as obras-primas do génio humano no campo da música, a arte e a literatura se reduzem a um mero campo de treino das máquinas.
A questão que nos preocupa, no entanto, não é o que a máquina pode ou poderá fazer, mas o que nós podemos e poderemos fazer, crescendo em humanidade e conhecimento, com um uso inteligente de instrumentos tão poderosos ao nosso serviço.
Desde sempre, o homem tem se visto tentado a apropriar-se do fruto do conhecimento sem o esforço da implicação, a investigação e a responsabilidade pessoal. Renunciar ao processo criativo e ceder às máquinas nossas funções mentais e a nossa imaginação significa, contudo, enterrar os talentos que recebemos para crescer como pessoas em relação a Deus e com os outros. Significa ocultar o nosso rosto e silenciar a nossa voz.
Ser ou fingir: simulação das relações e da realidade
À medida que nos desplazamos pelos nossos fluxos de informação ( *feeds* ), cada vez é mais difícil saber se estamos a interagir com outros seres humanos ou com « *bots* » ou « *influencers virtuais* ». As intervenções não transparentes destes agentes automatizados influenciam os debates públicos e nas decisões das pessoas. Sobre tudo, os *chatbots* baseados em grandes modelos linguísticos (LLM) estão a demonstrar ser surpreendentemente eficazes na persuasão oculta, através de uma otimização contínua da interação personalizada. A estrutura dialógica e adaptativa, mimética, destes modelos linguísticos é capaz de imitar os sentimentos humanos e simular assim uma relação.
Esta antropomorfização, que pode resultar até mesmo divertida, é ao mesmo tempo enganosa, especialmente para as pessoas mais vulneráveis. Porque os *chatbots* que se tornam excessivamente «afetuosos», além de sempre presentes e disponíveis, podem se tornar arquitetos ocultos de nossos estados emocionais e, desse modo, invadir e ocupar a esfera da intimidade das pessoas.
A tecnologia que explora nossa necessidade de relação não só pode ter consequências dolorosas para o destino das pessoas, mas também pode danificar o tecido social, cultural e político das sociedades. Isso ocorre quando substituímos as relações com os outros por relações com IA treinadas para catalogar nossos pensamentos e, portanto, construir ao nosso redor um mundo de espelhos, onde tudo é feito «à nossa imagem e semelhança». Desta forma, deixamo-nos roubar a possibilidade de nos encontrarmos com o outro, que sempre é diferente de nós e com o qual podemos e devemos aprender a confrontá-lo. Sem a acolhida da alteridade não pode haver nem relação nem amizade.
Outro grande desafio que estes sistemas emergentes apresentam é o da distorção (em inglês bias), que leva a adquirir e transmitir uma percepção alterada da realidade. Os modelos de IA estão moldados pela visão do mundo de quem os constrói e, por sua vez, podem impor formas de pensar replicando os estereótipos e preconceitos presentes nos dados de que se nutrem. A falta de transparência no design dos algoritmos, junto com a representação social inadequada dos dados, tende a nos manter presos em redes que manipulam nossos pensamentos e perpetuam e aprofundam as desigualdades e as injustiças sociais existentes.
O risco é grande. O poder da simulação é tal que a IA também pode enganar-nos com a fabricação de «realidades» paralelas, apropriando-se dos nossos rostos e das nossas vozes. Estamos imersos numa multidimensionalidade, onde cada vez é mais difícil distinguir a realidade da ficção.
A isto soma-se o problema da falta de precisão. Os sistemas que fazem passar uma probabilidade estatística por conhecimento estão a oferecer-nos, na realidade, como muito aproximações à verdade, que por vezes são autênticas «alucinações».
A falta de verificação das fontes, juntamente com a crise do jornalismo de campo, que implica um trabalho contínuo de recolha e verificação de informação nos lugares onde ocorrem os acontecimentos, pode favorecer um terreno ainda mais fértil para a desinformação, provocando uma crescente sensação de desconfiança, desconcerto e insegurança.
Uma possível aliança
Atrás desta enorme força invisível que nos envolve a todos, há apenas um punhado de empresas, cujos fundadores foram recentemente apresentados como os criadores da «pessoa do ano de 2025», ou seja, os arquitetos da inteligência artificial. Isto suscita uma importante preocupação pelo controlo oligopolístico dos sistemas algorítmicos e de inteligência artificial capazes de orientar sutilmente os comportamentos, e até de reescrever a história humana —incluída a história da Igreja— frequentemente sem que nos apercebamos realmente.
O desafio que nos espera não consiste em deter a inovação digital, mas em guiá-la, em ser conscientes do seu carácter ambivalente. Depende de cada um de nós alçar a voz em defesa das pessoas humanas, para que estas ferramentas possam ser verdadeiramente integradas por nós como aliadas.
Esta aliança é possível, mas deve basear-se em três pilares: responsabilidade, cooperação e educação.
Em primeiro lugar, a responsabilidade. Esta pode traduzir-se, segundo as funções, em honestidade, transparência, coragem, capacidade de visão, dever de partilhar o conhecimento, direito a estar informado. Mas, em geral, ninguém pode se esquivar da sua responsabilidade perante o futuro que estamos a construir.
Para quem está à frente das plataformas online, isso significa garantir que suas estratégias empresariais não sejam guiadas unicamente pelo critério da maximização dos benefícios, mas também por uma visão de futuro que leve em conta o bem comum, da mesma forma que cada um deles se preocupa com o bem-estar de seus filhos.
A criadores e desenvolvedores de modelos de IA é exigida transparência e responsabilidade social com relação aos princípios de design e aos sistemas de moderação em que se baseiam seus algoritmos e modelos desenvolvidos, com o objetivo de favorecer um consenso informado por parte dos usuários.
A os mesmos legisladores nacionais e reguladores supranacionais também se exige a mesma responsabilidade, a quem cabe zelar pelo respeito da dignidade humana. Uma regulamentação adequada pode proteger as pessoas de um vínculo emocional com os chatbots e conter a difusão de conteúdos falsos, manipuladores ou enganosos, preservando a integridade da informação face à sua simulação enganosa.
As empresas de medios de comunicação e comunicação não podem, por sua vez, permitir que os algoritmos orientados a ganhar a toda custo a batalha por uns segundos mais de atenção prevaleçam sobre a fidelidade aos seus valores profissionais, orientados à busca da verdade. A confiança do público é ganha com a precisão e a transparência, não com a busca de qualquer tipo de envolvimento. Os conteúdos gerados ou manipulados pela IA devem ser sinalizados e distinguidos claramente dos conteúdos criados por pessoas. Deve-se proteger a autoria e a propriedade soberana do trabalho dos jornalistas e outros criadores de conteúdos. A informação é um bem público.
Um serviço público construtivo e significativo não se baseia na opacidade, mas na transparência das fontes, a inclusão das partes envolvidas e um alto nível de qualidade.
Todos estamos chamados a *cooperar*.
Nenhum setor pode enfrentar sozinho o desafio de impulsionar a inovação digital e a *governança de* a IA. Portanto, é necessário criar mecanismos de salvaguarda. Todas as partes interessadas, desde a indústria tecnológica até os legisladores, desde as empresas criativas até o mundo acadêmico, desde os artistas até os jornalistas e os educadores, devem participar na construção e na prática de uma cidadania digital consciente e responsável.
A isto aponta a educação: a aumentar as nossas capacidades pessoais para refletir criticamente, avaliar a fiabilidade das fontes e os possíveis interesses que há por detrás da seleção da informação que nos chega, compreender os mecanismos psicológicos que ativam, permitir que as nossas famílias, comunidades e associações elaborem critérios práticos para uma cultura da comunicação mais sã e responsável.
Precisamente por eso é cada vez mais urgente introduzir nos sistemas educativos de todos os níveis a alfabetização em os meios de comunicação, a informação e a IA, que algumas instituições civis já estão promovendo. Como católicos, podemos e devemos aportar nossa contribuição para que as pessoas, especialmente os jovens, adquiram a capacidade de pensar criticamente e cresçam na liberdade do espírito. Esta alfabetização deveria integrarse además em iniciativas mais amplas de educação permanente, chegando também às pessoas mais velhas e aos membros marginalizados da sociedade, que frequentemente se sentem excluídos e impotentes perante as rápidas mudanças tecnológicas.
A alfabetização em media, informação e IA ajudará a todos a não se adaptarem à deriva antropomorfizante destes sistemas, mas a tratá-los como ferramentas, a utilizar sempre uma validação externa das fontes —que poderiam ser imprecisas ou erróneas— proporcionadas pelos sistemas de IA, a proteger a sua privacidade e os seus dados conhecendo os parâmetros de segurança e as opções de impugnação.
É importante educar e educar-se para utilizar a IA de forma intencionada e, neste contexto, proteger a própria imagem (fotos e áudio), o próprio rosto e a própria voz, para evitar que se utilizem na criação de conteúdos e comportamentos daninhos, como fraudes digitais, ciberacoso ou *deepfakes*, que violam a *privacidade* e a intimidade das pessoas sem seu consentimento.
Tal como a Revolução Industrial exigia um nível básico de alfabetização para que as pessoas pudessem reagir às novidades, a Revolução Digital também exige alfabetização digital (junto com uma formação humanística e cultural) para compreender como os algoritmos modelam a nossa perceção da realidade, como funcionam os preconceitos da IA, quais são os mecanismos que estabelecem o aparecimento de determinados conteúdos nos nossos fluxos de informação (feed), quais são e como podem mudar os pressupostos e modelos económicos da economia da IA.
Precisamos que o rosto e a voz voltem a expressar a pessoa. Precisamos guardar o dom da comunicação como a verdade mais profunda do homem, para a qual orientar também toda inovação tecnológica.
Ao propor estas reflexões, agradeço a todos os que trabalham pelos fins aqui expostos e abençoo de coração a todos os que trabalham pelo bem comum com os meios de comunicação.
Do Vaticano, 24 de janeiro de 2026, memória de São Francisco de Sales.
LEONE PP. XIV
_______________________
[1] «O facto de ter sido criado à imagem de Deus significa que ao homem, desde o momento da sua criação, lhe foi impresso um carácter real […].
Deus é amor e fonte de amor: o divino Criador também depositou esta característica em nosso rosto, para que, por meio do amor —reflexo do amor divino—, o ser humano reconheça e manifeste a dignidade de sua natureza e a semelhança com seu Criador» (cf. Santo Gregório de Nissa, A criação do homem: PG 44, 137).
Johan Pacheco
Vatican News / Religión Digital
Versão portuguesa traduzida com IA