CNMP: Conselheiros propõem uso de IA generativa no Ministério Público

Os conselheiros nacionais do Ministério Público Rodrigo Badaró, representante da advocacia no CNMP, e Moacyr Rey Filho apresentaram ao órgão uma proposta de recomendação para o uso de ferramentas de inteligência artificial generativa no âmbito do Ministério Público brasileiro.

A IA generativa é um tipo de sistema capaz de gerar texto, imagens, áudios ou vídeos em resposta a pedidos em linguagem comum, como funciona o Chat GPT.

"Em um contexto em que as organizações públicas enfrentam desafios cada vez mais complexos, com demandas crescentes e recursos frequentemente limitados por restrições orçamentárias, a tecnologia é um elemento indispensável para otimizar processos e ampliar a capacidade de resposta à sociedade", afirma a proposta apresentada pelos conselheiros.

Princípios

Na visão dos conselheiros, o desenvolvimento, a implementação e o uso de ferramentas de IA Generativa devem seguir princípios como a centralidade da pessoa humana; o respeito aos direitos humanos e aos valores democráticos; a igualdade e não discriminação; o fomento ao desenvolvimento tecnológico e à inovação responsável; a privacidade, segurança, proteção de dados e autodeterminação informativa; dentre outros.

Dada a natureza sensível dos dados manuseados, há a preocupação, por exemplo, com a possibilidade de vazamentos no compartilhamento de dados com ferramentas externas. Além disso, existe o risco do uso indevido dos dados, seja intencional ou acidental, por terceiros. Outro receio é quanto à exposição de informações privadas no processo de treinamento dos modelos de IA. 

Segurança

Eles recomendam, portanto, a adoção de soluções operadas em datacenters ou provedores de serviço de nuvem, ou ainda por meio de APIs - Interface de Programação de Aplicações que garantam o isolamento dos dados da organização com relação ao repositório central da ferramenta.

"Este isolamento é crucial, pois assegura que os dados compartilhados não se misturem com outros repositórios, mantendo-se protegidos e sob controle direto do Ministério Público", enfatizam Badaró e Moacyr.

O isolamento impediria, assim, a fusão de dados do MP com repositórios externos, reduzindo significativamente o risco de violações e uso indevido de informações e garantiria uma camada adicional de segurança, mantendo a integridade e confidencialidade dos dados. Além disso, as soluções devem estar em conformidade com a LGPD.

A proposta sublinha a importância de promover treinamentos e conscientização sobre o uso dessas tecnologias, para uma aplicação eficaz e segura, além de um monitoramento e revisão periódicos para adequação às mudanças tecnológicas e legais. Ainda, a norma recomenda que as instituições fomentem um ecossistema digital favorável à inteligência artificial, garantindo investimento em infraestrutura tecnológica e em pesquisa e desenvolvimento da IA.

Eficiência

Para eles, a adoção de novas tecnologias pelo MP reflete o compromisso da instituição na adaptação às dinâmicas sociais emergentes, visando aprimorar sua eficiência e efetividade. "Essa integração não é apenas uma questão de modernização, mas uma necessidade imperativa para a manutenção da sua relevância e efetividade."

O uso de ferramentas digitais e de IA, particularmente os modelos de LLMs - Linguagem de Grande Escala, por exemplo, oferece oportunidades sem precedentes para a automatização de tarefas, análise de grandes volumes de dados e apoio à tomada de decisões, sempre em suporte à atuação humana, como asseverou Rodrigo Badaró ao relatar o pedido de providências 1.00085/2023/10:

"Ainda que algum servidor ou membro do Ministério Público se utilize da ferramenta para apontar caminhos para algum problema jurídico em análise, o seu dever funcional (art. 43, III, da lei Orgânica Nacional), constante inclusive nas leis orgânicas que disciplinam o MP, obriga que seja feito o devido juízo da adequação daquele encaminhamento como base de sua manifestação no caso concreto, como aliás já ocorre."

Inovação

Ainda, como forma de estimular o desenvolvimento, implementação e uso responsável de ferramentas de IA no MP, a recomendação sugere o uso de sandboxes regulatórios - um ambiente regulatório experimental, com a finalidade de suspender temporariamente a obrigatoriedade de cumprimento de normas exigidas para atuação em determinados setores, ou seja, um regime de teste controlado e seguro, com mais flexibilidade, mas com o monitoramento e a orientação dos órgãos reguladores.

"O equilíbrio entre segurança e inovação é delicado. Regulamentações demasiadamente cautelosas podem criar barreiras tecnológicas, impedindo o Ministério Público de explorar plenamente as capacidades e as soluções oferecidas por estas tecnologias emergentes. Isso pode resultar em uma desvantagem competitiva em relação a outras entidades que operam em jurisdições com regulamentações mais flexíveis ou adaptativas", ponderam os conselheiros.

No texto, eles mencionam que outros órgãos do Poder Público têm seguido a mesma linha, como a AGU, o TCU e o próprio CNJ.

No entendimento dos autores da proposta, regras muito restritivas ou incertas podem tornar desenvolvedores de tecnologia hesitantes em se envolver em projetos com o MP, temendo entraves burocráticos ou a possibilidade de inovações serem cerceadas por limitações legais. Isso não apenas retarda o progresso tecnológico dentro da instituição, mas também reduz as oportunidades de aprender com os líderes da indústria e de adaptar as melhores práticas globais às necessidades específicas do MP.

"Isso pode levar a uma lacuna de inovação onde o Ministério Público se encontra defasado em relação às tendências tecnológicas globais, comprometendo sua capacidade de responder de maneira ágil e eficiente aos desafios emergentes", analisam Badaró e Moacyr. De acordo com eles, a incapacidade de se manter a par das inovações pode impactar negativamente a eficácia e a relevância da instituição no longo prazo.

Informações: OAB Nacional.