As coisas novas do nosso tempo: Uma “doutrina digital” da igreja?

“Deus falou.” A frase, que circulou pelas redes com a ligeireza típica do ambiente digital, é a metáfora do acontecimento - não falou Deus, mas o seu Vigário em Roma - e, ainda assim, capta-lhe a gravidade. Em documento datado de 15/5/26, Leão XIV assinou a encíclica Magnifica Humanitas1, integralmente dedicada, como anuncia o subtítulo, à “salvaguarda da pessoa humana na era da IA”. A data não é fortuita: a Rerum novarum, de Leão XIII, fora promulgada em 15/5/18912. Cento e trinta e cinco anos depois, dia por dia, o novo pontífice volta-se para as “coisas novas” do seu tempo.

A escolha do nome é, em si, um argumento. Se Rerum novarum, “das coisas novas”, inaugurou aquilo que hoje chamamos de Doutrina Social da Igreja, debruçando-se sobre o conflito entre capital e trabalho e a questão operária da era industrial, Magnifica Humanitas sinaliza que as res novae da nossa época têm nome próprio: IA. Para além da simplicidade, adverte o texto, “de um apêndice temático” ou de uma emergência a gerir, trata-se de uma transformação que interpela, a partir de dentro, as próprias categorias do pensamento social cristão3.

O documento abre com a imagem que o organizará por inteiro:

A Magnífica Humanidade criada por Deus encontra-se hoje perante uma escolha decisiva: erguer uma nova torre de Babel ou construir a cidade onde Deus e a humanidade habitam juntos.

E formula, sem rodeios, as perguntas que atravessam as suas 245 seções: “Para onde vamos? Para que meta desejamos orientar-nos? Que direção escolher enquanto comunidade humana e enquanto povos?”4.

O sumário como argumento

Há documentos cuja tese se deixa ler já no sumário. É o caso. A arquitetura da encíclica - cinco capítulos entre introdução e conclusão - traz a própria demonstração do que se quer dizer.

Mais do que isso, eis que logo na introdução, a escritura afirma:

A técnica não deve ser considerada, em si mesma, como uma força antagónica em relação à pessoa: pelo contrário, está enraizada na nossa história desde o início, na medida em que é «um dado profundamente humano, ligado à autonomia e à liberdade do homem.

Desenvolve-se, assim, a partir de tal premissa, a seguinte forma:

O capítulo I (“Um pensamento dinâmico fiel ao Evangelho”) percorre a evolução da doutrina social de Leão XIII, passando pelo Concílio Vaticano II, até Francisco, para fixar uma premissa: esse corpo de ensinamentos é um corpus vivo, não estático, que se deixa interrogar pelas transformações de cada época. O Capítulo II (“Fundamentos e princípios da Doutrina social da Igreja”) recolhe os critérios que servirão de bússola - dignidade da pessoa, bem comum, destinação universal dos bens, subsidiariedade, solidariedade e justiça social. Só então, no Capítulo III (“Técnica e domínio. A grandeza da pessoa humana perante as promessas da IA”), o texto enfrenta diretamente o seu objeto. O capítulo IV (“Salvaguardar o humano na transformação. Verdade, trabalho, liberdade”) desce ao concreto dos âmbitos atingidos pela revolução digital. E o Capítulo V (“A cultura do poder e a civilização do amor”) chega ao terreno mais dramático: a guerra e as armas autônomas, sobre as quais o documento reserva a sua advertência mais incisiva - “não existe algoritmo que possa tornar a guerra moralmente aceitável”5.

A sequência é, ela mesma, a tese. A encíclica recusa-se a tratar a IA como questão meramente técnica: parte dos fundamentos antropológicos e teológicos, atravessa os princípios e só depois pousa sobre a tecnologia - para, em seguida, medir os seus efeitos sobre a verdade, o trabalho, a liberdade e a paz.

Babel e jerusalém

Duas imagens bíblicas estruturam o raciocínio. A primeira é a torre de Babel: a obra grandiosa, de “uma única língua, uma única tecnologia, uma única direção”, erguida sem referência a Deus e sustentada por uma uniformidade que elimina a diversidade. Dela, o texto extrai uma lição:

Babel revela o limite de qualquer construção, ainda que grandiosa, surgida da absolutização do humano e da sua pretensão de autossuficiência, do sacrifício da dignidade das pessoas em nome da eficiência [...].6

A segunda é a reconstrução das muralhas de Jerusalém sob Neemias: a cidade que renasce “não graças à iniciativa de uma única pessoa, mas através da responsabilidade partilhada por todo o povo” - sacerdotes, artesãos, chefes de família, mulheres e jovens. Dessa oposição decorre a recusa de um falso dilema: a primeira escolha, diz a encíclica, não é entre um ‘sim’ ou um ‘não’ à tecnologia, mas entre edificar Babel ou reconstruir Jerusalém.

A técnica, retomando linha já presente em Bento XVI, não é em si um mal, tampouco é neutra: “tem o rosto daqueles que a concebem, financiam, regulam e utilizam”7. É afirmação que qualquer leitor desta coluna reconhecerá: a tecnologia carrega, inscritas no projeto, as escolhas de valor de quem a constrói.

O que é - e o que não é - a IA

É no capítulo III que o documento surpreende pela sobriedade técnica. Antes de qualquer juízo, o papa faz duas advertências de método. A primeira: qualquer afirmação sobre a IA “corre o risco de se tornar obsoleta em pouco tempo”. A segunda - “todos nós, incluindo quem os projeta, sabemos muito pouco sobre o seu funcionamento efetivo”. E então a imagem que merece destaque:

as inteligências artificiais modernas são mais “cultivadas” do que “construídas”: os programadores não projetam diretamente todos os detalhes, mas criam uma arquitetura sobre a qual a IA “cresce”.8

A formulação é tecnicamente correta. Os sistemas de aprendizado de máquina contemporâneos - em particular os grandes modelos de linguagem - são treinados sobre vastíssimos conjuntos de dados, e suas representações internas emergem desse processo. O problema da opacidade, a chamada “caixa-preta”, a dificuldade de explicar por que um modelo produz determinada saída é reconhecido até pelos próprios desenvolvedores. A humildade epistêmica da encíclica assume o estado da arte.

Dessa base, o texto traça a distinção decisiva. A IA imita funções da inteligência humana e frequentemente as supera em velocidade e amplitude de cálculo; mas o seu poder “permanece exclusivamente ligado ao tratamento de dados”. Não vive uma experiência, não possui corpo, não amadurece nas relações, não tem consciência moral. Pode simular empatia, mas não compreende:

Podem imitar linguagens, comportamentos, avaliações, podem simular empatia ou entendimento, mas não compreendem o que produzem [...].9

O “aprender” da máquina, conclui, é adaptação estatística a partir de dados e resultados - “que pode ser muito eficaz, mas não implica um crescimento interior”. A advertência tem consequências jurídicas concretas, e o leitor desta coluna, por exemplo, já as conhece de casos recentes: a confiança acrítica nas saídas de sistemas generativos, com citações inventadas e jurisprudência fabricada, decorre precisamente de se atribuir à máquina uma compreensão que ela não possui.

A cautela antropológica do documento é, no fundo, também uma cautela técnica quando interpretada por e para nós, juristas. Não obstante, tais alucinações chamarem atenção por óbvias, são menos problemáticas do que se delegar a tarefa fundamentalmente humana de arrazoar e interpretar o direito, seja no momento de dar o comando inicial para que uma IA produza determinado documento, seja na revisão humana deste documento, como elemento essencial de um novo modelo de legitimidade.

A questão não se esgota na regulamentação

Talvez o ponto mais relevante para o debate brasileiro de governança da IA seja este: o documento reconhece a necessidade de “instrumentos normativos adequados”, mas insiste em que “a questão não se esgota na regulamentação”. E faz um diagnóstico estrutural de poder. Outrora eram os estados a orientar a inovação; hoje, os principais motores do desenvolvimento são “sujeitos privados, frequentemente transnacionais, dotados de recursos e capacidades de intervenção superiores aos de muitos Governos”. O poder tecnológico assume, assim, identidade “predominantemente ‘privada’” - e, por isso, “ainda mais difícil de discernir, gerir e orientar para o bem comum”10.

A partir daí, a encíclica mobiliza o vocabulário que é caro a esta área. Defende a accountability - “a possibilidade de identificar quem deve ‘prestar contas’ das decisões”, motivá-las, controlá-las e contestá-las. Reclama transparência sobre os algoritmos, auditorias independentes e acesso equitativo aos dados, que descreve como fruto da contribuição de muitos e que, portanto, “não podem ser vendidos ou confiados a poucos”. E propõe um verbo: “desarmar” a IA - subtraí-la à lógica monopolista, torná-la “discutível, contestável e, portanto, habitável”11.

Não escapa a quem atua no controle externo a ressonância dessa exigência. A palavra que a encíclica privilegia - accountability, o dever de “prestar contas” - é a própria gramática dos órgãos de controle. Quando decisões que afetam direitos, crédito, acesso a serviços e reputação passam a ser tomadas, total ou parcialmente, por sistemas automatizados, a possibilidade de identificar o responsável, exigir motivação e franquear o contraditório deixa de ser preocupação abstrata para tornar-se requisito de legitimidade da própria administração pública.

Há aqui um diálogo evidente com a nossa ordem jurídica. A lógica da proteção de dados by design, a agenda regulatória da ANPD - que inclui a IA entre suas prioridades - e o debate em torno do PL 2338/23 encontram, no documento, um reforço de fundamento12. Mais ainda: a encíclica antecipa uma inversão importante ao sustentar que a justiça social “não é apenas um objetivo a proteger após a adoção das tecnologias, mas uma condição prévia, a ser posta em prática no seu próprio projeto”13. Não basta corrigir a posteriori; é preciso que dignidade e justiça estejam inscritas no desenho do sistema.

Permanecer humanos

Sob toda a análise técnica, há uma insistência que dá título à introdução: “permanecer humanos”. O que não se pode perder, adverte o texto, não é apenas o bom uso de uma ferramenta, mas a recusa de uma visão antropológica que mede o valor da pessoa pela eficiência e trata o ser humano como “um projeto a otimizar”. A qualidade de uma civilização, escreve o Papa, “não se mede pelo poder dos seus meios, mas pelo cuidado que sabe oferecer”14.

Daí a imagem das “pedras rejeitadas” - os pobres, os doentes, os migrantes, os pequenos - chamadas a tornar-se pedra angular. E daí o convite que sintetiza o documento: ser “construtores de comunhão, não arquitetos de Babel”15.

Concluímos, assim:

Seria leitura apressada enxergar na Magnifica Humanitas um manifesto tecnófobo. O humanismo cristão que ela professa “não rejeita a ciência e a técnica: acolhe-as com gratidão e realismo”. É com as devidas escusas papais, inclusive, que assumimos, por exemplo, a revisão deste texto por um modelo de linguagem devidamente instruído, sem renunciarmos aos fundamentos humanos que nos levam a produzir, de fato, essas reflexões.

A encíclica não condena a inteligência artificial; oferece um critério para discerni-la - e o faz recuperando a pergunta que São João Paulo II dirigia a todo progresso: a tecnologia torna “a vida humana sobre a terra, em todos os seus aspectos, ‘mais humana’? Torna-a mais ‘digna do homem’?”16.

Para o jurista - e em especial para quem se ocupa de desenhar a governança da IA no setor público - o documento entrega algo raro: um vocabulário de discernimento (“dignidade, bem comum, subsidiariedade, solidariedade, justiça”) que escapa tanto ao entusiasmo ingênuo quanto ao medo estéril. A “civilização do amor” é projeto exigente: traduzir princípios em “planeamento responsável, avaliações de impacto humano e social, inclusão dos mais frágeis, alfabetização digital, pesquisa e indústria orientadas para a justiça e a paz”17.

Resta a pergunta que Neemias, figura de referência da encíclica, ajuda a formular. Diante das muralhas em ruínas, ele não se limitou a lamentar; ouviu, discerniu, organizou o trabalho e reconstruiu, tijolo por tijolo, com o povo. O convite do papa é que, na era da transformação digital, não sejamos “resignados espectadores das fraturas sociais e culturais, nem meros analistas de ruínas”18, mas que entremos nos canteiros da história - laboratórios, empresas de tecnologia, escolas, tribunais, instituições - para reconstruir o que ruiu e proteger o que está exposto. Roma, desta vez, não brigou com o mensageiro: abriu o canteiro de obras.