O uso da IA na proteção de dados

A Constituição Federal de 1988 nasceu comprometida com um tratamento adequado dos dados pessoais de cada um dos brasileiros e brasileiras. Uma de suas mais importantes garantias fundamentais é o habeas data, presente no inciso LXXII do art. 5º, cujo propósito é "assegurar o conhecimento de informações relativas à pessoa do impetrante, constantes de registros ou bancos de dados de entidades governamentais ou de caráter público" (alínea "a"); e "retificar dados, quando não se prefira fazê-lo por processo sigiloso, judicial ou administrativo" (alínea "b").

Recentemente, com a EC 115, de 2022, o extenso rol do art. 5º da Constituição (direitos fundamentais) ganhou o inciso LXXIX, que assegura "nos termos da lei, o direito à proteção dos dados pessoais, inclusive nos meios digitais". A mesma emenda dispôs, por meio do inciso XXVI do art. 21, que compete à União "organizar e fiscalizar a proteção e o tratamento de dados pessoais, nos termos da lei".

Não há dúvida acerca do tratamento constitucional conferido aos dados pessoais. Ocorre que essa mesma Constituição também reconhece, protege e estimula a inovação tecnológica e, esta, conta agora, em seu estado da arte, com a IA - Inteligência Artificial.

Enquanto o inciso V do art. 23 diz competir à União, os Estados, ao Distrito Federal e aos municípios proporcionar os meios de acesso à inovação, o inciso IX do art. 24 entrega à União, aos Estados e ao Distrito Federal a competência concorrente para legislar sobre tecnologia, pesquisa, desenvolvimento e inovação.

Posteriormente, a EC 85, de 2015, incrementou o Capítulo IV estabelecendo um tratamento específico para a "Ciência, Tecnologia e Inovação". Segundo o art. 218, "o Estado promoverá e incentivará o desenvolvimento científico, a pesquisa, a capacitação científica e tecnológica e a inovação", sendo que a "pesquisa tecnológica voltar-se-á preponderantemente para a solução dos problemas brasileiros e para o desenvolvimento do sistema produtivo nacional e regional (§ 2º do art. 218).

Como compatibilizar ou potencializar a convivência harmônica entre essas duas realidades tão pujantes atualmente: a proteção dos dados pessoais e o uso da Inteligência Artificial para fins de concretização de direitos constitucionais?

Nos últimos anos, a IA tem evoluído muito e está cada vez mais presente na nossa realidade. Esses avanços têm trazido mudanças, inclusive para o Direito, principalmente quando pensamos na proteção dos dados pessoais e na forma como as informações circulam na internet. A IA pode ser útil, mas também levanta questões importantes.

O Marco Civil da Internet, lei central na regulação do uso da internet e que já foi tema de discussões no STF, sinaliza mudanças que afetam a proteção dos dados e a responsabilização das plataformas online. Com isso, surge a possibilidade da IA poder ajudar a proteger os dados pessoais.

A IA pode ser usada para identificar vazamentos de dados e impedir que informações pessoais sejam divulgadas de forma indevida. Também ajuda a melhorar a segurança da internet, já que pode automatizar mecanismos de vigilância.

Existe, contudo, riscos. A vigilância feita por IA pode acabar se tornando excessiva, chegando ao ponto de invadir a privacidade dos internautas. Além disso, as ferramentas automáticas que removem conteúdo da internet podem ser usadas de forma inadequada, apagando informações sem o devido cuidado ou sem dar uma chance de defesa aos envolvidos. Isso pode acabar prejudicando a liberdade de expressão.

A IA também pode ser usada para ajudar a moderar o conteúdo que é publicado na internet. Ela pode identificar e remover rapidamente conteúdos prejudiciais, como discursos de ódio ou informações falsas, antes que se espalhem.

Esse tipo de moderação automática, contudo, tem seus defeitos. O Brasil, que conheceu a Ditadura Militar e a sua censura, saber ser importante que a IA não termine por limitar a liberdade de expressão. Outro risco é a "discriminação algorítmica", ou seja, a possibilidade de a IA acabar favorecendo certos grupos e prejudicando outros por conta da programação dos algoritmos, muitas vezes sem que ninguém perceba. Além disso, há o fenômeno do "shadowbanning", que é quando alguém tem seu conteúdo silenciado sem aviso e sem motivo, o que pode ser visto como uma forma de censura digital.

Essas plataformas também estão presentes em outras áreas de atuação, como na área da saúde, permitindo diagnosticar doenças com rapidez e precisão, ou no setor financeiro, onde a IA pode ajudar na detecção de fraudes ou riscos econômicos. Assim, as empresas que usam IA precisam ser responsáveis pelo uso que fazem dos dados pessoais e encarregadas de assegurar a moderação de conteúdo nas suas plataformas.

Recentemente, o STF decidiu que as plataformas de internet não precisarão de uma ordem judicial prévia para remover conteúdos prejudiciais. Essa mudança gerou discussões, pois facilita a remoção de conteúdos, mas podendo levar a excessos. Sem a necessidade de uma ordem judicial, o risco de censura aumenta. Por outro lado, parece intuitivo que as plataformas tenham responsabilidades na remoção de conteúdos.

Em suma, a IA pode ser uma grande aliada na proteção dos dados pessoais e na moderação de conteúdos na internet. Porém, sua aplicação precisa ser cuidadosamente regulada, já que a IA não tem a capacidade de refletir sobre os direitos humanos da mesma forma que nós, seres humanos, fazemos.

A decisão do STF é um marco importante, pois nos mostra que é necessário encontrar um equilíbrio entre o avanço tecnológico, a proteção dos dados pessoais e a preservação da liberdade de expressão. Precisamos de regras claras para garantir que a IA seja usada de maneira a beneficiar a sociedade sem prejudicar os direitos fundamentais.