Inteligência artificial sem controle

O Ministério da Justiça, através da recém-publicada portaria 1.122/26, marcou a entrada formal da inteligência artificial no reconhecimento fotográfico de suspeitos, formalizando uma prática já em curso nas investigações criminais.

Entretanto, embora formalize um instrumento já utilizado na elucidaçãode práticas criminosas, a norma preocupa pelo que deixa em aberto, criando um cenário delicado para a integridade das provas e as garantias processuais dos investigados.

Na prática, a portaria permite, em seu art.18, que sistemas de IA criem duplos digitais de suspeitos, gerando fotografias artificialmente para compor os “dubles” para fins de confronto com a imagem original do pretenso autor do crime, além de permitir ajustes em fotos reais, a fim de padronizar a iluminação e exposição para equipará-las às imagens artificiais.

Todavia, a norma não estabelece a forma de operacionalização de tais ferramentas, além de não a documentação dos procedimentos utilizados.

Ocorre que essa lacuna compromete a cadeia de custódia da prova, que é o caminho rigoroso que toda evidência percorre desde a descoberta do crime até o seu julgamento, com o registro de cada etapa e a documentação de todos os procedimentos adotados, de modo que, quando a IA gera ou manipula imagens sem controles claros, não há como garantir que a prova permaneceu íntegra, reduzindo a auditabilidade do procedimento diante da ausência de documentação.

Além disso, o problema se agrava pela opacidade dos algoritmos, já que sistemas de IA generativa são caixas-pretas cujo funcionamento interno nem seus próprios criadores conseguem explicar integralmente, o que significa que quando o julgador não compreende como a prova foi gerada – vez que nem os próprios desenvolvedores detêm, satisfatoriamente, este conhecimento –, a adequada fundamentação dos julgamentos fica prejudicada, na mesma medida em que a defesa não pode contestar o material de modo efetivo, violando preceitos constitucionais indispensáveis.

Para ilustrar, imagine o cenário em que uma foto real é ajustada para se parecer com imagens geradas por IA, que serão utilizadas como duplos para o reconhecimento fotográfico, com aplicação de filtros e alteração de tonalidades, sendo evidente que, sem o registro detalhado, não há como saber quais ajustes foram efetivamente realizados, bem como se poderiam induzir a vítima ao erro, perdendo-se a transparência necessária na produção da prova criminal.

Ressalte-se, contudo, que não se trata de rejeitar a tecnologia, pois a IA pode sim auxiliar investigações de forma legítima, diante de sua enorme capacidade de processamento de dados e habilidades que superam a capacidade humana.

Entretanto, a inovação sem a observância das garantias essenciais à higidez de um procedimento que objetiva sancionar criminalmente um agente pela prática de um delito representa uma temeridade que compromete garantias processuais fundamentais, já que de nada adianta eficiência se a confiabilidade da prova fica comprometida e a legitimidade do processo é colocada em cheque.

Diante disso, a solução passa por regulamentação mais robusta, com definição de quais sistemas podem ser usados, protocolos técnicos claros e exigência de logs detalhados de toda manipulação, com a preservação destes registros, a fim de garantir a sua auditabilidade, permitindo que cada intervenção seja rastreável e compreensível por parte de todos os atores da persecução criminal.

Portanto, a providência normativa do Ministério da Justiça reconhece o inevitável ao aceitar que a IA já faz parte da investigação criminal, sendo certo, contudo, que a ausência de delimitação dos procedimentos, documentação e controle abrem um caminho perigoso para que condenações se baseiem em provas artificialmente criadas ou ajustadas sem a necessária integridade.