Direitos constitucionais colidentes: Garantias fundamentais e governança algorítmica

A sociedade contemporânea experimenta transformações profundas decorrentes da implementação de tecnologias baseadas em algoritmos e IA - inteligência artificial, nos mais diversos setores, incluindo a Administração Pública. Essa nova realidade, caracterizada pela chamada "governança algorítmica", apresenta-se como um paradigma em que decisões tradicionalmente tomadas por agentes humanos passam a ser mediadas, influenciadas ou mesmo determinadas por sistemas computacionais.

No contexto do Direito Público brasileiro, a governança algorítmica tem sido gradualmente incorporada em processos decisórios estatais, prometendo maior eficiência, precisão e objetividade na gestão pública. Contudo, essa transição tecnológica não ocorre sem tensões significativas, especialmente quando confrontada com o sistema de garantias fundamentais estabelecido pela CF/88.

A problemática central reside na potencial colisão entre, de um lado, os benefícios da automação e otimização de processos decisórios governamentais e, de outro, a preservação de direitos fundamentais como privacidade, igualdade, não-discriminação e devido processo legal. Essa tensão se intensifica quando algoritmos opacos, cujo funcionamento interno é de difícil compreensão, são empregados para tomar decisões que afetam diretamente a vida dos cidadãos. O presente estudo tem por objetivo analisar essa colisão de direitos constitucionais no contexto da governança algorítmica, identificando os principais pontos de conflito e propondo parâmetros para sua harmonização. Para tanto, parte-se da teoria da colisão de direitos fundamentais desenvolvida por Robert Alexy, aplicando-a ao cenário específico da implementação de sistemas algorítmicos na Administração Pública brasileira.

A relevância do tema justifica-se pela crescente digitalização da Administração Pública e pelo avanço de projetos legislativos que buscam regular o uso da inteligência artificial no Brasil, como o PL 2.338/23, tornando urgente a reflexão sobre como equilibrar inovação tecnológica e proteção de direitos fundamentais no Estado Democrático de Direito.

A CF/88 consagrou amplo catálogo de direitos fundamentais, reflexo do processo de redemocratização e da busca por garantias contra arbitrariedades estatais. Esses direitos fundamentais possuem uma dupla dimensão: subjetiva, conferindo posições jurídicas aos seus titulares, e objetiva, estabelecendo valores que irradiam por todo o ordenamento jurídico.

No sistema constitucional brasileiro, os direitos fundamentais apresentam-se predominantemente como princípios, ou seja, mandamentos de otimização que determinam que algo seja realizado na maior medida possível, dentro das possibilidades fáticas e jurídicas existentes. Essa caracterização é essencial para compreender como esses direitos interagem entre si e com outros valores constitucionais em situações de colisão. A estrutura principiológica dos direitos fundamentais, conforme desenvolvida por Robert Alexy, permite que eles sejam realizados em diferentes graus, ao contrário das regras, que são aplicadas na forma de tudo ou nada. Essa flexibilidade estrutural é particularmente relevante quando se analisa a interação entre direitos fundamentais e novas tecnologias, como os sistemas algorítmicos de tomada de decisão.

A colisão entre direitos fundamentais ocorre quando, em uma situação concreta, a realização de um direito implica a restrição de outro. Alexy distingue dois tipos principais de colisão: em sentido estrito, quando há conflito entre diferentes direitos fundamentais, e em sentido amplo, quando direitos fundamentais colidem com outros valores constitucionalmente protegidos.

No contexto brasileiro, o STF tem adotado frequentemente a técnica da ponderação para solucionar colisões entre direitos fundamentais, buscando preservar o núcleo essencial de cada direito envolvido. Essa abordagem, contudo, não está isenta de críticas, especialmente quanto ao risco de decisionismo judicial e insegurança jurídica. A teoria dos direitos fundamentais de Alexy propõe que, diante de uma colisão, deve-se aplicar o princípio da proporcionalidade em suas três dimensões: adequação, necessidade e proporcionalidade em sentido estrito. Esse método permite uma solução racional para o conflito, estabelecendo uma relação de precedência condicionada entre os princípios colidentes, válida para o caso concreto.

A governança algorítmica pode ser definida como modelo de gestão em que algoritmos são utilizados para analisar dados e tomar decisões com base em regras, indicadores, métricas e critérios pré-definidos. Esse paradigma tem se expandido rapidamente no setor público, prometendo maior eficiência, eficácia, transparência e objetividade na gestão pública.

As principais características da governança algorítmica incluem:

1. o processamento automatizado de grandes volumes de dados; 
2. a identificação de padrões e correlações não evidentes para análise humana; 
3. a capacidade de fazer previsões e recomendações baseadas nesses padrões;
4. a tomada de decisões automatizadas ou semi-automatizadas.

No Brasil, a implementação da governança algorítmica tem ocorrido em diversos setores da Administração Pública, desde a distribuição de recursos em saúde até sistemas de vigilância e segurança pública, passando por processos de concessão de benefícios sociais e avaliação de risco em diferentes contextos.

Entre os potenciais benefícios da governança algorítmica, destacam-se: a redução de custos operacionais, a maior celeridade nos processos decisórios, a diminuição de erros humanos, a padronização de critérios e a possibilidade de processar volumes de dados impossíveis para análise humana. Contudo, a implementação desses sistemas também apresenta riscos significativos, especialmente no que tange à proteção de direitos fundamentais. Entre esses riscos, destacam-se: 

1. a discriminação algorítmica, quando sistemas reproduzem ou amplificam vieses sociais existentes;
2. a opacidade dos algoritmos, dificultando o controle e a contestação de decisões;
3. a violação da privacidade e proteção de dados pessoais;
4. o déficit democrático na definição dos parâmetros decisórios.

A discriminação algorítmica merece especial atenção, pois ocorre quando sistemas automatizados produzem resultados sistematicamente desfavoráveis a determinados grupos sociais, frequentemente reproduzindo padrões históricos de desigualdade. Esse fenômeno pode manifestar-se de forma direta, quando características protegidas (raça ou gênero) são explicitamente consideradas, ou indireta, quando variáveis aparentemente neutras funcionam como padrão de características.

A implementação da governança algorítmica no setor público brasileiro gera tensões significativas com diversos direitos fundamentais consagrados na CF/88. Entre os principais pontos de colisão, destacam-se:

1. Privacidade e proteção de dados pessoais face a eficiência administrativa: Sistemas algorítmicos frequentemente dependem do processamento massivo de dados pessoais, potencialmente violando o direito à privacidade e autodeterminação informativa, recentemente reconhecido como direito fundamental pelo STF e pela EC 115/22.
2. Igualdade e não-discriminação face a otimização decisória: Algoritmos treinados com dados históricos tendem a reproduzir e potencialmente amplificar padrões discriminatórios existentes na sociedade, comprometendo o princípio constitucional da igualdade.
3. Devido processo legal e ampla defesa face a automação decisória: Decisões automatizadas podem comprometer garantias processuais fundamentais, especialmente quando os critérios decisórios não são transparentes e compreensíveis para os afetados.
4. Transparência administrativa face à proteção de segredos comerciais: A necessária transparência dos algoritmos utilizados pelo poder público pode colidir com interesses legítimos de proteção à propriedade intelectual e segredos comerciais das empresas desenvolvedoras.
5. Dignidade humana face a eficiência administrativa: A substituição do julgamento humano por sistemas automatizados em decisões que afetam direitos fundamentais levanta questões sobre a preservação da dignidade humana como valor central do ordenamento constitucional.

Aplicando a teoria de Robert Alexy, as colisões entre direitos fundamentais e governança algorítmica devem ser resolvidas mediante a técnica da ponderação, considerando as circunstâncias concretas de cada caso.

Essa ponderação deve observar o princípio da proporcionalidade em suas três dimensões: 

1. Adequação: Verificar se o uso do sistema algorítmico é meio adequado para atingir a finalidade pretendida pela Administração Pública.
2. Necessidade: Avaliar se não existem meios menos restritivos aos direitos fundamentais que possam alcançar o mesmo objetivo com eficácia similar.
3. Proporcionalidade em sentido estrito: Ponderar se o grau de satisfação do interesse público justifica o grau de restrição imposto aos direitos fundamentais afetados.

A aplicação desse método permite estabelecer uma relação de precedência condicionada entre os princípios colidentes, válida para o caso concreto, sem invalidar nenhum dos princípios envolvidos.

No contexto da governança algorítmica, isso significa que nem sempre a eficiência administrativa prevalecerá sobre direitos fundamentais, nem vice-versa, dependendo das circunstâncias específicas e dos valores em jogo.

A Lei Geral de Proteção de Dados (lei 13.709/18) representa marco fundamental na regulação da governança algorítmica no Brasil, estabelecendo princípios e garantias para o tratamento de dados pessoais, inclusive por entidades públicas. Entre as disposições mais relevantes para o tema, destacam-se:

1. Princípio da não discriminação: O art. 6º, IX, da LGPD veda expressamente a utilização de dados pessoais para fins discriminatórios ilícitos ou abusivos, estabelecendo uma barreira legal contra a discriminação algorítmica.
2. Direito à explicação: O art. 20 da LGPD garante ao titular dos dados o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado, bem como de obter informações claras sobre os critérios utilizados na decisão.
3. Relatório de impacto: O art. 5º, XVII, combinado com o art. 38, prevê a elaboração de relatório de impacto à proteção de dados pessoais, incluindo a descrição dos processos de tratamento que podem gerar riscos às liberdades civis e aos direitos fundamentais.

Apesar desses avanços, a LGPD apresenta limitações significativas no que tange à regulação da governança algorítmica, especialmente pela redação final do art. 20, que não garantiu expressamente o "direito a explicação" na forma originalmente proposta, comprometendo a transparência algorítmica.

O PL 2338/23, atualmente em tramitação no Congresso Nacional, busca estabelecer marco regulatório abrangente para o desenvolvimento e aplicação da inteligência artificial no Brasil. Entre suas principais disposições relacionadas à governança algorítmica no setor público, destacam-se:

1. Classificação de risco: O PL estabelece diferentes níveis de regulação conforme o risco apresentado pelos sistemas de IA, com exigências mais rigorosas para sistemas de alto risco, especialmente aqueles utilizados em decisões públicas.
2. Princípios orientadores: São estabelecidos princípios como transparência, explicabilidade, segurança e não-discriminação como norteadores do desenvolvimento e implementação de sistemas de IA.
3. Direitos fundamentais digitais: O projeto reconhece a existência de direitos fundamentais digitais, incluindo o direito à transparência algorítmica e à não discriminação por sistemas automatizados.

Além do PL 2338/23, outras iniciativas regulatórias têm surgido no Brasil, como legislações estaduais específicas e normas setoriais que abordam aspectos da governança algorítmica. Contudo, essas iniciativas ainda são fragmentadas e insuficientes para estabelecer um quadro regulatório coerente e abrangente.

A transparência algorítmica emerge como princípio fundamental para harmonizar a governança algorítmica com a proteção de direitos fundamentais. Essa transparência deve manifestar-se em diferentes níveis: 

1. Transparência do propósito: Clareza sobre quais finalidades o sistema algorítmico busca alcançar e quais critérios são considerados relevantes para a tomada de decisão.
2. Transparência do processo: Informações sobre como os dados são coletados, processados e utilizados pelo sistema, incluindo as fontes de dados e os métodos de análise.
3. Transparência do resultado: Capacidade de explicar, em termos compreensíveis, como o sistema chegou a determinada conclusão ou recomendação em casos concretos.

O direito à explicação, parcialmente contemplado no art. 20 da LGPD, representa uma concretização do princípio da transparência algorítmica, permitindo que os indivíduos afetados por decisões automatizadas compreendam os fatores que influenciaram o resultado e possam contestá-lo quando necessário.

A realização de AIA - avaliações de impacto algorítmico, antes da implementação de sistemas de governança algorítmica no setor público constitui medida preventiva essencial para identificar e mitigar potenciais violações a direitos fundamentais. Essas avaliações devem incluir:

1. Análise de necessidade e proporcionalidade: Verificação se o sistema algorítmico é necessário e proporcional para atingir os objetivos pretendidos, considerando alternativas menos invasivas.
2. Identificação de riscos discriminatórios: Exame detalhado dos potenciais impactos discriminatórios do sistema, especialmente para grupos vulneráveis ou historicamente marginalizados.
3. Medidas mitigadoras: Definição de salvaguardas técnicas e procedimentais para minimizar os riscos identificados, incluindo mecanismos de supervisão humana e revisão periódica.
4. Consulta pública: Envolvimento da sociedade civil e de especialistas independentes na avaliação dos potenciais impactos do sistema antes de sua implementação.

A manutenção de supervisão humana significativa sobre sistemas algorítmicos representa contrapeso necessário à automação decisória, especialmente em contextos que envolvem direitos fundamentais. Essa supervisão deve ser:

1. Efetiva: Com poder real para revisar, modificar ou rejeitar recomendações algorítmicas quando necessário.
2. Informada: Baseada em compreensão adequada do funcionamento do sistema e de suas limitações.
3. Responsável: Com clara atribuição de responsabilidade pelas decisões tomadas, mesmo quando baseadas em recomendações algorítmicas.
4. Independente: Livre de pressões indevidas e com autonomia para questionar os resultados do sistema.

A legitimidade democrática da governança algorítmica depende da participação efetiva da sociedade em sua concepção, implementação e avaliação. Essa participação pode ser promovida por meio de:

1. Consultas públicas: Realização de consultas amplas antes da implementação de sistemas algorítmicos em áreas sensíveis da Administração Pública.
2. Conselhos multissetoriais: Criação de órgãos consultivos com representação da sociedade civil, academia e setor privado para supervisionar a governança algorítmica.
3. Auditoria cidadã: Desenvolvimento de mecanismos que permitam o escrutínio público dos sistemas algorítmicos utilizados pelo Estado.
4. Educação digital: Promoção da alfabetização digital e algorítmica para capacitar os cidadãos a compreender e participar criticamente da governança algorítmica.

A colisão entre direitos fundamentais e governança algorítmica representa um dos principais desafios jurídico-constitucionais da contemporaneidade, exigindo uma abordagem equilibrada que não sacrifique nem as garantias fundamentais nem os potenciais benefícios da inovação tecnológica.

A teoria da colisão de direitos fundamentais de Robert Alexy, com sua ênfase na ponderação e na proporcionalidade, oferece um arcabouço teórico valioso para enfrentar esse desafio, permitindo soluções contextualizadas que preservem o núcleo essencial dos direitos envolvidos. 

No entanto, sua aplicação no contexto da governança algorítmica demanda adaptações e complementos específicos, como a transparência algorítmica e a avaliação de impacto. O marco normativo brasileiro para a governança algorítmica, embora ainda em desenvolvimento, já apresenta elementos importantes na LGPD e no PL 2338/23, que podem ser aprimorados para melhor equilibrar inovação tecnológica e proteção de direitos.

A efetividade desse marco dependerá, contudo, não apenas de sua adequação formal, mas também de sua implementação prática e da capacidade institucional para fiscalizar seu cumprimento. Os parâmetros propostos neste artigo – transparência algorítmica, avaliação de impacto, supervisão humana significativa e participação democrática – constituem diretrizes fundamentais para harmonizar a governança algorítmica com a proteção dos direitos fundamentais no Estado Democrático de Direito. Sua adoção sistemática pode contribuir para que os sistemas algorítmicos sejam implementados de forma a promover, e não comprometer, os valores constitucionais fundamentais.

Por fim, cabe ressaltar que a governança algorítmica não representa apenas o desafio técnico ou jurídico, mas também ético e político, demandando uma reflexão ampla sobre o tipo de sociedade que desejamos construir e o papel que as tecnologias devem desempenhar nela. Nesse sentido, o Direito Público, e particularmente o Direito Constitucional, tem a importante missão de estabelecer os limites e condições para que a inovação tecnológica ocorra em harmonia com os valores fundamentais que sustentam nossa ordem democrática.

_____________

1 Teoria dos Direitos Fundamentais. ALEXY, Robert. 2008. 

2 Dignidade da Pessoa Humana e Direitos Fundamentais. SARLET, Ingo Wolfgang. 2019.

3 Curso de Direito Constitucional. MENDES, Gilmar Ferreira; BRANCO, Paulo Gustavo Gonet. 2021.

4 Governança Algorítmica e Democracia. FRAZÃO, Ana; MULHOLLAND, Caitlin. 2020.

5 Proteção de Dados Pessoais: A Função e os Limites do Consentimento. BIONI, Bruno Ricardo. 2019. 

6 Discriminação Algorítmica: Conceito, Fundamento Legal e Tipologia. SILVA, Nilton Correia da. 2020.

7 O Direito à Explicação nas Decisões Automatizadas. DONEDA, Danilo; MENDES, Laura Schertel. 2021.

8 Inteligência Artificial e Direito: Ética, Regulação e Responsabilidade. MAGRANI, Eduardo. 2019. 

9 Transparência Algorítmica: Conceitos e Mecanismos de Implementação. MACHADO, Henrique Felix; LEITE, Flávia Piva Almeida. 2022.

10 Colisão de Direitos Fundamentais na Era Digital. BARROSO, Luís Roberto. 2020.

11 Avaliação de Impacto Algorítmico: Metodologia e Aplicações. SOUZA, Carlos Affonso; LEMOS, Ronaldo. 2021.

12 Governança Algorítmica no Setor Público Brasileiro: Desafios e Perspectivas. WIMMER, Miriam. 2021. 

13 Lei nº 13.709 (Lei Geral de Proteção de Dados Pessoais). BRASIL. 2018.

14 Projeto de Lei 2338/2023 (Marco Legal da Inteligência Artificial). BRASIL. 2023.

15 Emenda Constitucional nº 115 (Proteção de Dados como Direito Fundamental). BRASIL. 2022.

Paulo Cosmo de Oliveira Júnior
Bacharel em Direito e Advogado, com especialização em Direito Público.