A inteligência artificial não é neutra, pode ampliar desigualdades, concentrar poder e até desumanizar relações sociais. A advertência está no centro da primeira encíclica do papa Leão XIV, Magnifica Humanitas, divulgada nesta segunda-feira, 25, pelo Vaticano.
O documento, voltado à “salvaguarda da pessoa humana na era da inteligência artificial”, insere definitivamente o debate sobre IA no campo da Doutrina Social da Igreja — e, consequentemente, no universo político, social e institucional.
O que é uma encíclica?
Uma carta encíclica é um documento oficial do papa usado para orientar a Igreja e a sociedade sobre temas relevantes da fé, da ética e da vida social. Embora seja dirigida principalmente aos bispos e fiéis católicos, muitas encíclicas também se voltam “a todos os homens e mulheres de boa vontade”, especialmente quando tratam de assuntos universais, como justiça social, economia, tecnologia e direitos humanos.
Assinada no último dia 15 de maio, no aniversário de 135 anos da histórica Rerum Novarum, de Leão XIII, a encíclica traz uma reflexão ampla sobre os impactos da revolução digital em temas como trabalho, privacidade, democracia, concentração econômica, direitos humanos e guerra tecnológica.
Logo nas primeiras linhas, o pontífice apresenta a inteligência artificial como um divisor de águas civilizatório:
“A Magnífica Humanidade criada por Deus encontra-se hoje perante uma escolha decisiva: erguer uma nova torre de Babel ou construir a cidade onde Deus e a humanidade habitam juntos.”
Embora escrita em linguagem religiosa, a encíclica centra sua reflexão nos impactos da inteligência artificial sobre a dignidade humana, o trabalho, a informação e as relações sociais. Ao longo de 90 páginas, Leão XIV trata de temas como transparência algorítmica, proteção de dados, desinformação, concentração de poder nas plataformas digitais, automação do trabalho e uso militar da IA.
- Leia a íntegra do documento.
IA não é neutra
Um dos principais pontos da encíclica é a rejeição da ideia de neutralidade tecnológica. Segundo Leão XIV, as novas ferramentas digitais carregam os interesses de quem as desenvolve, financia e controla.
“O poder tecnológico assume, destarte, uma identidade inédita, predominantemente ‘privada’ e, portanto, ainda mais difícil de discernir, gerir e orientar para o bem comum”, escreveu o pontífice ao mencionar empresas transnacionais capazes de exercer influência superior à de muitos Estados.
A reflexão aproxima-se de discussões atuais sobre concentração de poder tecnológico e controle de dados por grandes plataformas digitais. Em diversos trechos, o papa alerta para o risco de poucos agentes privados controlarem informações, algoritmos e infraestruturas essenciais da vida contemporânea.
Segundo o texto divulgado pelo Vaticano, a Igreja defende que tecnologias e plataformas não podem permanecer concentradas “nas mãos de poucos”, sob pena de ampliar a divisão entre incluídos e excluídos da revolução digital.
Transparência algorítmica e controle público
O documento defende auditorias independentes, transparência dos algoritmos, acesso equitativo aos dados e mecanismos de responsabilização para sistemas automatizados.
No texto, a Igreja sustenta que decisões automatizadas capazes de afetar trabalho, acesso a serviços, crédito, informação ou oportunidades sociais não podem operar de maneira opaca.
Há também forte preocupação com discriminações algorítmicas, vigilância digital e manipulação comportamental. A encíclica critica o que chama de “arquitetura da visibilidade”, em que plataformas amplificam determinados conteúdos e moldam percepções públicas a partir de interesses econômicos e políticos.
Direito, democracia e guerra tecnológica
A encíclica dedica um capítulo inteiro à relação entre tecnologia, poder e conflitos armados.
O papa critica a crescente automação da guerra e afirma que nenhum algoritmo pode tornar moralmente aceitável o ato de matar.
Leão XIV também propõe superar a tradicional teoria da “guerra justa”, substituindo-a por uma lógica centrada em diplomacia, multilateralismo e cooperação internacional.
O texto ainda faz referência à crise do multilateralismo e à fragilidade das instituições internacionais diante das disputas tecnológicas e econômicas globais. Em um dos trechos mais contundentes, o pontífice pede “reformas profundas” na ONU.
Trabalho humano no centro
Outro eixo da encíclica é o impacto da IA sobre o trabalho.
Leão XIV afirma que a automação não pode servir apenas para redução de custos e aumento de lucros, mas deve preservar a dignidade humana e garantir participação social. O papa critica modelos produtivos que transformam trabalhadores em simples “custos” ou “recursos”.
A preocupação se estende às novas formas de exploração ligadas à cadeia tecnológica, incluindo trabalhadores envolvidos na extração de minerais raros utilizados na indústria digital. O documento menciona “novas formas de escravidão” vinculadas ao setor tecnológico.
Verdade, desinformação e ecologia da comunicação
Em um momento de expansão das deepfakes e da desinformação automatizada, o papa defende uma “ecologia da comunicação” baseada em transparência, responsabilidade informacional e jornalismo sério.
O texto também alerta para o impacto da IA sobre a capacidade humana de pensar criticamente. Leão XIV pede uma “aliança educativa” que preserve nos jovens “o desejo de fazer perguntas”.
Para o pontífice, a tecnologia deve servir à pessoa humana – nunca substituí-la.
“A humanidade – magnífica e ferida – não deve ser substituída nem superada: pode acolher os progressos da técnica para aliviar os sofrimentos e abrir novas possibilidades, desde que não renuncie ao que lhe permite ser ela mesma, ou seja, à capacidade de relação e amor.”
A encíclica critica correntes transumanistas que enxergam o progresso como superação dos próprios limites humanos.
Justiça social digital
A encíclica também propõe uma espécie de “justiça social digital”.
Segundo Leão XIV, a era da inteligência artificial exige proteção aos vulneráveis, combate ao discurso de ódio, fiscalização pública das tecnologias e garantia de acesso equitativo às oportunidades digitais.
O texto ainda associa diretamente migração, pobreza e desigualdade tecnológica, defendendo que o tratamento dado aos migrantes revela se uma sociedade é guiada “pelo medo ou pela fraternidade”.
"Desarmar a IA"
Ao final do documento, o pontífice faz um apelo para "desarmar a inteligência artificial".
"Desarmar a IA significa subtraí-la à lógica da competição armada, que hoje não é apenas militar, mas também económica e cognitiva. Trata-se da corrida ao algoritmo mais eficaz e ao banco de dados mais vasto, com o objetivo de consolidar uma vantagem geopolítica ou comercial sobre todos os outros. Desarmar significa quebrar esta equivalência entre poder técnico e direito de governar. Não significa renunciar à tecnologia, mas impedir que ela domine o ser humano. (...) A IA é o ambiente em que estamos imersos e o poder com que temos de lidar. Por isso, não basta regulá-la: deve ser desarmada e tornada acolhedora."
Segundo o Vaticano, isso significa retirar a tecnologia da lógica da competição militar, econômica e cognitiva; impedir monopólios digitais; e evitar que o poder técnico substitua o humano.
"A verdadeira alternativa não é entre entusiasmo ou medo, mas entre duas formas de construção: um progresso que serve à pessoa e aos povos, ou um progresso que os submete às lógicas de poder."