A inteligência artificial na modernização da administração pública e os desafios regulatórios

As primeiras revoluções industriais mudaram radicalmente as sociedades ao longo dos últimos três séculos. Hoje, estamos passando pela Quarta Revolução Industrial, que está ligada ao desenvolvimento de tecnologias disruptivas que transformarão o mundo em que vivemos como nunca antes (biotecnologia, nanotecnologia, robótica, inteligência artificial, entre outras).

A forma de um estado de serviço público, bem ilustrada no modelo de estado de bem-estar social identificado na primeira metade do século XX, tem levado os estados a, em geral, começarem a gerenciar cada vez mais dados de seus cidadãos no banco de dados. Ao mesmo tempo, o desenvolvimento tecnológico intensificou o fluxo de informação na sociedade. Dados de consumidores, trabalhadores e cidadãos passam a ser considerados insumos para a lógica do mercado (DE ARAUJO; ZULLO; TORRES, 2020).

Conglomerados empresariais globais (como Google, Amazon e Apple) utilizam um enorme arsenal tecnológico para monitorar e induzir os padrões de consumo das pessoas, a fim de traçar estratégias de mercado e rentabilizar os ganhos financeiros. Nesse cenário, o uso de algoritmos, em especial aqueles que utilizam o denominado "aprendizado de máquina" (machine learning), é comum em diversos dos serviços que a sociedade utiliza na atualidade. O aprendizado de máquina é amplamente utilizado nos sistemas de recomendação de conteúdo, como é o caso de plataformas como a Netflix, YouTube e Spotify; em mecanismos de busca como o Google; para escolha de feeds de mídia social como Facebook, Twitter e Instagram; ou em assistentes de voz a exemplo de Siri e Alexa (DE ARAUJO; ZULLO; TORRES, 2020).

Por esse motivo, além do setor privado, os estados vislumbraram utilizar esse tipo de inovação como forma de gerenciar melhor a máquina pública. Isso porque, em se tratando de implementação de políticas públicas, e mesmo na execução de tarefas relacionadas à rotina administrativa, o Estado muitas vezes se depara com obstáculos que podem dificultar ou impedir o funcionamento de um determinado Estado (DE ARAUJO; ZULLO; TORRES, 2020).

Em linhas gerais, a revolução digital e da inteligência artificial não coloca mais computadores, máquinas e softwares como meros instrumentos para melhorar nossas habilidades físicas. De fato, estamos testemunhando uma grande transformação do ser humano e de seu ambiente (ENGIN; TRELEAVEN, 2019; CARUSO, 2017).

Com relação às oportunidades de adotar a IA no setor público, Mikhaylov et al. (2018) apontam que estas tecnologias proporcionam maior precisão na adequação do serviço público, tendo como principais vantagens a previsão de demanda; automação da resposta; identificação de risco; desenvolvimento de intervenções direcionadas; maior eficiência; soluções inteligentes; melhoria do serviço público prestado; compatibilidade na prestação do serviço público; diminuição dos encargos administrativos; diminuição dos atrasos e facilitação da burocracia (AZEVEDO; ALBINO; DE FIGUEIREDO, 2022).

Engin e Treleaven (2019) investigaram países que utilizam ferramentas de inteligência artificial e outras tecnologias emergentes, dentre os quais destacam-se os países de Estônia, Cingapura e Reino Unido. Além disso, de acordo com os autores citados, além das ferramentas voltadas para a melhoria dos serviços públicos prestados, outros sistemas potenciais de apoio ao trabalho dos agentes públicos são aqueles voltados à detecção de abusos e fraudes. Isso posto, seguindo a tendência, pesquisas já mostram várias iniciativas de uso dessas novas tecnologias visando o controle governamental (AZEVEDO; ALBINO; DE FIGUEIREDO, 2022).

No Brasil, destacam-se os projetos desenvolvidos pela Auditoria Geral da União - CGU e utilizados pelo Tribunal de Contas da União - TCU, que utilizam a inteligência artificial para no processo de aprimoramento de suas auditorias: o robô "Alice" - Análise de Licitações e Editais, o qual tem como função identificar potenciais sinais de não conformidade; o Sistema de Orientação do Auditor sobre Fatos e Evidências - "Sofia", o qual atua como intermediário e auxiliar o profissional na identificação de possíveis; e "Mônica" - Monitoramento Integrado para Controle de Aquisição, que possui a finalidade de acompanhar de contratações de forma integrada, também atuando no acompanhamento de licitações (TCE-MT, 2018; MCTIC, 2020).

O TCU, que tem realizado um brilhante trabalho com sua equipe de Tecnologia da Informação, para desenvolver a ferramenta ALICE - acrônimo de Ana'lise de Licitações e Editais. Trata-se de um sistema de ana'lise de dados utilizado pelo TCU para otimizar a fiscalização de editais de licitação e atas de registros de preços em plataformas de compras públicas (3o SEMINA'RIO..., 2017). O último relatório de resultados divulgado pelo TCU mostra o potencial do robô ALICE: a ferramenta conseguiu analisar 200 licitações por dia, chegando a um total de 800 mil documentos e 284.369 licitações analisadas no período de 2013 a 2016 (TECNOLOGIA..., 2017).

O Poder Judiciário tem adotado de maneira gradativa os sistemas de IA. Um estudo publicado pela Fundação Getulio Vargas (FGV) identificou cerca de 64 projetos em andamento ou já implementados em 47 tribunais brasileiros. Na esfera do Supremo Tribunal Federal (STF) se destaca o Projeto Victor, o qual foi desenvolvido em parceria com a Universidade de Brasília (UnB), sendo esse o projeto de IA que foi aplicado em uma corte constitucional e cuja finalidade é analisar bem como classificar, por temas com recorrência, os recursos extraordinários.

Diante dos diversos exemplos apresentados, pode-se inferir que a inteligência artificial já está claramente entre nós e não é um enredo comum de ficção científica. O mundo conectado, a vida digital, a Internet das Coisas (IoT, Internet of Things) e os corpos (IoB, Internet of Bodies) geram um conjunto inédito de dados (big data) com informações sobre o funcionamento da sociedade, extraídas por tecnologias de IA, que trazem benefícios, mas também ameaças, decorrendo na importância do marco regulatório da IA para orientar seu desenvolvimento e uso no Brasil.

O controle social é uma forma de fiscalização da administração pública com maior potencial de transformação devido ao surgimento e desenvolvimento de novas tecnologias, em especial a inteligência artificial. Em outras palavras, os modelos digitais de administração pública e governo como plataforma de dados, com os correspondentes benefícios para a digitalização da atividade administrativa e a disseminação de informações públicas relevantes, confirmam o aprimoramento do controle social e novas formas de controle distribuído da administração pública.

Nessa mesma perspectiva, a Nova lei de Licitações (lei 14.133/21) configura-se como uma legislação inovadora, que marcou a transição do processo licitatório de uma era analógica para uma era virtual. Tem-se, a partir desta legislação, um desafio a ser enfrentado por gestores públicos em se tratando da viabilização de formas de controle por órgãos internos e externos, assim como pela sociedade. Trata-se de um novo costume administrativo que, diante de uma sociedade democrática e tecnológica, é contra a` opacidade administrativa e baseada em instrumentos tecnológicos, de forma que a nova lei traz maior segurança jurídica ao tema da tecnologia.

Ressalta-se aqui, que o potencial da tecnologia para aumentar a eficiência da gestão no campo da análise de dados, classificação de documentos e outras tarefas repetitivas é indiscutível. Via de regra, as soluções de IA tomam decisões automatizadas ou emitem recomendações, apoiando as decisões tomadas por funcionários públicos.

No entanto, o algoritmo depende do conjunto de dados usado para treiná-lo. Se o conjunto de dados for de alguma forma tendencioso ou não for verdadeiramente representativo da população para a qual a solução está sendo desenvolvida, o risco de disseminação da discriminação ou mesmo exclusão de determinados indivíduos é muito alto e, portanto, deve ser reduzido. E é neste ponto que há necessidade de que a tecnologia de IA, tenha explicações mínimas e inclusive pela força da LGPD, que em seu art. 20, determina que "o titular dos dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade".

Nesse ínterim, para que exista um efetivo direito de explicação, é necessária a atuação regulatória do Estado no sentido de que a natural opacidade técnica dos algoritmos seja contrariada pelas ações do controlador dos dados processados, a fim de fornecer informações úteis e compreensíveis para o titular de dados médio. Essa é a base do princípio da compreensibilidade, que, aliado ao princípio da transparência, garante que o consumidor que utiliza um aplicativo de inteligência artificial compreenda facilmente seu funcionamento. O desafio do Estado Brasileiro com relação a inteligência artificial, não se resume a utilização de novas ferramentas de IA, em que pese os exemplos, acima citados, mas também a regulação da IA, para a efetiva garantia de direitos.

--------------------

AZEVEDO, Lauren de Almeida Barros; ALBINO, Jaqueline; DE FIGUEIREDO, Josiel Maimone. O uso da inteligência artificial nas atividades de controle governamental. Cadernos Técnicos da CGU, v. 2, 2022. Disponível em: https://revista.cgu.gov.br/Cadernos_CGU/article/view/466. Acesso em: 19 ago. 2022.

BRASIL. Constituição da República Federativa do Brasil de 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/ConstituicaoCompilado.htm. Acesso em: 05 ago. 2022.

______. Consulta Pública "Estratégia Brasileira de Inteligência Artificial". Ministério da Ciência, Tecnologia, Inovações e Comunicações - MCTIC (2020). Disponível em https://www.gov.br/mcti/pt-br. Acesso em 06 ago. 2022. 

______. Lei no 14.133, de 1o de abril de 2021. Brasília: Planalto, 2021. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2019-2022/2021/lei/L14133.htm. Acesso em: 05 ago. 2022. 

DE ARAUJO, Valter Shuenquener; ZULLO, Bruno Almeida; TORRES, Maurílio. Big data, algoritmos e inteligência artificial na administração pública: reflexões para a sua utilização em um ambiente democrático. A&C-Revista de Direito Administrativo & Constitucional, v. 20, n. 80, p. 241-261, 2020.

ENGIN, Zeynep; TRELEAVEN, Philip. Algorithmic Government: Automating Public Services and Supporting Civil Servants in using Data Science Technologies. The Computer Journal, [s.l.], v. 62, n. 3, p.448-460, 1 mar. 2019. Oxford University Press (OUP). Disponível em: http://dx.doi.org/10.1093/comjnl/bxy082. Acesso em: 11 ago. 2022.

MIKHAYLOV, Slava Jankin; ESTEVE, Marc; CAMPION, Averill. Artificial intelligence for the public sector: opportunities and challenges of cross-sector collaboration. Philosophical Transactions of The Royal Society A: Mathematical, Physical and Engineering Sciences, [s.l.], v. 376, n. 2128, p.20170357-20170357, 6 ago. 2018. The Royal Society. Disponível em: http://dx.doi.org/10.1098/rsta.2017.0357.. Acesso em: 09 ago. 2022.

TECNOLOGIA: varredura dia'ria de irregularidades em editais. Governo Aberto, [s. l.], 9 out. 2017. Disponi'vel em: http://governoaberto.cgu.gov.br/noticias/2017/tecnologia-varredura- diaria-de-irregularidades-em-editais. Acesso em: 14 ago. 2022.

3 SEMINA'RIO sobre ana'lise de dados na Administrac¸a~o Pu'blica - 25/9 - manha~. [S. l.: s. n.], 2017. 1 vi'deo (166 min). Publicado pelo canal Tribunal de Contas da Unia~o. Disponi'vel em: https://www.youtube.com/watch?v=Pw-DW5ptvbQ. Acesso em: 14 ago. 2022.