Como preservar princípios estruturantes do Direito na era da IA?

A incorporação de sistemas de inteligência artificial em atividades jurídicas, administrativas e regulatórias deve ser entendido como um movimento natural de modernização institucional instaurado no Brasil. Mais eficiência, maior padronização decisória e capacidade de processar grandes volumes de informação são ganhos quase auto evidentes. 

No entanto, assim como ocorreu em outros processos de digitalização do Estado, a questão central não está apenas na tecnologia em si, mas nos princípios estruturantes que permanecem ou não preservados nesse novo ambiente decisório. 

Quando decisões passam a ser mediadas por sistemas algorítmicos, ocorre uma transformação silenciosa na forma como o Direito produz seus efeitos. A decisão deixa de ser apenas um ato humano localizado e passa a resultar de cadeias técnicas complexas, distribuídas entre desenvolvedores, gestores, fornecedores de tecnologia e operadores jurídicos. Nesse cenário, a discussão sobre accountability algorítmica é essencial e estrutural.

A accountability, nesse contexto, sustenta-se em três dimensões indissociáveis: transparência, responsabilização e auditabilidade.

1) A primeira delas costuma ser mal compreendida. Transparência não significa abertura irrestrita de código-fonte, nem exposição técnica incompreensível ao público. Assim, transparência não é explicação técnica, é dever jurídico.

Trata-se de garantir inteligibilidade institucional. O cliente precisa compreender os critérios que estruturam decisões que o afetam. De outra forma, o poder decisório passaria a operar sob a autoridade simbólica da tecnologia.

2) A segunda dimensão é ainda mais sensível: Quem responde pelo erro da IA?

A automação desloca a lógica clássica da responsabilidade. O erro já não é apenas individual, mas potencialmente sistêmico, reproduzido em escala, com efeitos ampliados e difusos. Se não houver definição clara das cadeias de responsabilidade, a eficiência tecnológica pode se tornar mecanismo de dispersão da culpa. Sistemas decisórios não podem existir em um vácuo de imputação jurídica. Não é sinônimo de progresso uma inovação que não responde por seus efeitos.

3) A terceira dimensão, frequentemente negligenciada, é a auditabilidade. Auditabilidade é o princípio esquecido da advocacia na era digital. Não basta que sistemas funcionem; é necessário que possam ser verificados. Trilhas de decisão, registros de processamento, possibilidade de revisão independente e mecanismos de controle externo são condições mínimas para que a autoridade técnica não substitua o controle jurídico. Sem auditabilidade, a decisão automatizada se aproxima de um ato de fé tecnológica.

É nesse ponto que se torna evidente que accountability algorítmica não é inimiga da inovação. Pelo contrário, ela é o que permite que a inovação seja institucionalmente legítima. Tecnologias decisórias sem mecanismos de controle não produzem modernização do Estado ou da sociedade. Na verdade, se aproxima muito mais de um deslocamento silencioso de poder para infraestruturas técnicas pouco visíveis ao escrutínio público.

O debate e a inquietação, portanto, não são sobre frear a tecnologia, mas sobre impedir que a arquitetura técnica substitua princípios jurídicos fundamentais.

Porque, no limite, a questão é simples: Sem accountability, não há confiança pública na IA.

E sem confiança, não há legitimidade. Há apenas sistemas eficientes operando decisões que já não são plenamente governadas pelo Direito, mas por lógicas técnicas que escapam ao controle decisório.

Preservar os princípios estruturantes diante da automação não significa resistência ao futuro. É condição para que o futuro continue sendo juridicamente habitável.