Luna Barroso: Dados não são neutros, algoritmos refletem subjetividades
Segundo a advogada, variáveis, exemplos e padrões são definidos por critérios subjetivos.
Da Redação
quarta-feira, 2 de julho de 2025
Atualizado em 4 de julho de 2025 11:03
Em entrevista à TV Migalhas, a advogada Luna van Brussel Barroso destacou que a ideia de que dados são sempre objetivos precisa ser desmistificada. Segundo ela, no processo de criação e treinamento de algoritmos, há decisões subjetivas cruciais que influenciam diretamente nos resultados obtidos.
Luna apontou que a primeira dessas escolhas ocorre no momento em que se define o que se pretende medir.
Um exemplo seria a avaliação do risco de crédito de uma pessoa: "Isso não é uma qualidade intrínseca que essa pessoa tem ou não tem, é uma qualidade que você precisa medir a partir de outras variáveis. E a escolha dessas variáveis é uma escolha muito relevante e muito subjetiva".
Outro ponto levantado foi o fato de que os algoritmos reconhecem padrões nos dados, inclusive aqueles marcados por preconceitos e estereótipos.
Para ela, é indispensável a intervenção humana nesse processo: "Você também precisa de uma intervenção humana para escolher quais padrões a gente quer reproduzir e perpetuar e quais padrões a gente quer reprimir e evitar que sejam perpetuados".
Por fim, a especialista ressaltou que os sistemas de IA aprendem a partir dos exemplos fornecidos durante o treinamento. Por isso, é fundamental garantir diversidade nos dados:
"A gente precisa assegurar que a gente tem exemplos suficientes e exemplos suficientemente diversos para contemplar também minorias."
Apesar dos desafios, a advogada acredita no potencial da inteligência artificial. No entanto, ela enfatiza a necessidade de uma regulamentação que considere todas essas complexidades:
"A inteligência artificial é uma enorme promessa, mas ela precisa de uma regulação adequada e sensível para contemplar todas essas dificuldades na fase de programação do algoritmo."
O evento
O XIII Fórum de Lisboa acontece de 2 a 4 de julho e tem como tema "O mundo em transformação - Direito, Democracia e Sustentabilidade na Era Inteligente". O evento reúne autoridades e acadêmicos de diversas áreas para discutir como a chegada da Era Inteligente tem moldado as relações entre Estados, instituições, empresas e sociedade.
