Barroso alerta para poder das big techs e risco à soberania digital

O ministro aposentado do STF Luís Roberto Barroso afirmou nesta quarta-feira, 2, que o avanço das novas tecnologias impôs aos Estados um novo desafio de soberania, diante da dependência crescente de plataformas, sistemas de pagamento, infraestrutura digital e modelos de inteligência artificial controlados por poucas empresas estrangeiras.

Durante palestra no Europe-Brazil Legal Summit, em Lugano, na Suíça, Barroso afirmou que o conceito tradicional de soberania, baseado no poder exercido pelo Estado sobre seu território e sua população, já não é suficiente para compreender as relações de poder no ambiente digital.

"Agora nós estamos vivendo esse momento em que o poder privado é superior, muitas vezes, ao poder dos próprios Estados."

Segundo Barroso, embora os países continuem formalmente soberanos, tornaram-se dependentes de empresas privadas responsáveis por serviços e estruturas essenciais à vida econômica, institucional e social.

Como exemplo, citou serviços de armazenamento em nuvem utilizados por instituições brasileiras.

"Os Estados são formalmente soberanos, mas eles se tornaram dependentes em ampla medida de todas essas empresas."

Três dimensões da soberania digital

Barroso dividiu o problema da soberania digital em três camadas.

A primeira é a da infraestrutura, que envolve cabos submarinos, data centers, computação em nuvem e semicondutores. Segundo ele, há forte concentração da produção e do controle dessas tecnologias em poucos países.

A segunda envolve as plataformas digitais, responsáveis pela intermediação do acesso à informação, comunicação, aplicativos e sistemas de pagamento.

Para Barroso, essas empresas passaram a ocupar espaços que antes estavam submetidos predominantemente às regras definidas pelos Estados.

"São praças públicas privatizadas que se espalham pelo mundo e elas criam as suas próprias regras."

Segundo ele, termos de uso e condições estabelecidos pelas plataformas formam uma espécie de conjunto normativo paralelo à legislação estatal.

A terceira dimensão é a do conhecimento, especialmente após a expansão dos modelos de inteligência artificial generativa. Barroso destacou que ferramentas utilizadas cada vez mais por advogados, médicos, jornalistas e outros profissionais estão concentradas principalmente em empresas dos Estados Unidos e da China.

Na avaliação do ex-presidente do STF, essa dependência se torna especialmente relevante diante da possibilidade de restrições de acesso a tecnologias essenciais.

"O mundo hoje enfrenta uma questão de soberania digital."

Barroso observou que o problema não se restringe ao Brasil ou à América Latina e também atinge países europeus.

Inteligência artificial no Direito

Ao tratar especificamente da inteligência artificial, Barroso afirmou que a tecnologia deverá transformar profundamente a prática jurídica.

Ele citou experiências desenvolvidas no STF durante sua gestão para identificação de precedentes, classificação de temas repetitivos e elaboração de sínteses de processos.

Segundo Barroso, sistemas de IA contribuíram para reduzir o estoque de processos da Corte e permitiram automatizar etapas antes realizadas manualmente, sempre com supervisão humana.

O ministro aposentado do STF revelou ainda que chegou a ser desenvolvido um modelo capaz de produzir minutas de decisões, mas afirmou que optou por não disponibilizar a ferramenta.

"Eu não divulguei porque acho que a gente ainda não está maduro o suficiente para liberar esse tipo de utilização."

Para Barroso, entretanto, a utilização crescente da inteligência artificial por advogados e magistrados é inevitável.

Ele projetou um cenário no qual petições iniciais, contestações, recursos e decisões judiciais serão produzidos com auxílio da tecnologia.

"A gente vai viver um mundo em que a inicial é feita com a inteligência artificial, a contestação é feita com a inteligência artificial e o julgamento também."

Barroso ressaltou, porém, que vê a IA como ferramenta auxiliar, e não como substituta de advogados ou juízes.

"Ela não dispensa nem o advogado da parte, nem o advogado da outra, nem o juiz, mas facilita imensamente a atuação."

Informação e perda de fatos comuns

Outro ponto da palestra foi o impacto das redes sociais sobre a circulação de informação.

Barroso afirmou que a internet democratizou o acesso ao conhecimento e ao espaço público, mas também diminuiu o papel de mediação exercido pelos veículos tradicionais de comunicação.

Segundo ele, esse processo abriu espaço para desinformação, discursos de ódio, teorias conspiratórias e a formação de grupos que consomem predominantemente conteúdos compatíveis com suas próprias convicções.

"Hoje em dia, as pessoas já não conseguem mais concordar nem com os fatos. Cada tribo, a sua narrativa."

Para Barroso, apesar da crise econômica enfrentada pela imprensa tradicional, os veículos profissionais continuam desempenhando uma função democrática relevante.

"A imprensa tradicional [...] tem um papel muito importante, que é o de criar um conjunto de fatos comuns sobre os quais as pessoas formam as suas opiniões."

Redes sociais e crianças

O ex-presidente do Supremo também chamou atenção para discussões internacionais sobre o caráter viciante das redes sociais, especialmente para crianças e adolescentes.

Ele citou ações judiciais e iniciativas regulatórias adotadas no exterior para limitar determinados mecanismos das plataformas, como rolagem infinita, notificações e tempo excessivo de exposição.

Na avaliação de Barroso, há um movimento internacional de contenção dos efeitos nocivos produzidos por determinados modelos de negócios digitais.

No Brasil, mencionou medidas recentes destinadas à proteção de crianças e adolescentes no ambiente digital.

IA pode desenvolver consciência?

Na parte final da palestra, Barroso apresentou uma questão que classificou como uma das mais complexas trazidas pelo desenvolvimento tecnológico: a possibilidade de sistemas de inteligência artificial desenvolverem consciência.

Ele ressaltou que o entendimento predominante atualmente é de que as máquinas não possuem consciência, mas afirmou existir um debate científico e filosófico sobre a possibilidade de isso ocorrer no futuro.

Para Barroso, uma eventual combinação entre inteligência artificial consciente e robótica produziria um risco de outra dimensão.

"Se a inteligência artificial tiver a consciência de si própria, tiver vontades próprias, aliada à mobilidade trazida pela robótica, quem vai dominar é a inteligência artificial e não mais a condição humana."

Segundo ele, sistemas artificiais possuem capacidade de armazenar e processar informações em escala e velocidade superiores às humanas.

"Vão se tornar mais inteligentes do que os seus criadores."

Barroso afirmou que a questão exige diálogo entre filosofia, neurociência e ciência da computação e colocou uma pergunta central para o futuro: caso seja possível desenvolver consciência artificial, quais limites devem ser estabelecidos para evitar esse cenário.

Tecnologia a serviço da humanidade

Apesar dos alertas, Barroso afirmou não adotar uma visão pessimista sobre a tecnologia.

Segundo ele, a inteligência artificial possui enorme potencial para melhorar decisões, pesquisas científicas, medicina, tradução de idiomas e funcionamento do sistema de Justiça.

O desafio, afirmou, é garantir que os avanços permaneçam subordinados aos interesses humanos.

Ao encerrar a palestra, defendeu a centralidade da pessoa humana, a valorização da verdade, do trabalho e do conhecimento como bem comum.

A reflexão final resumiu o fio condutor de sua exposição: evitar que o desenvolvimento tecnológico transforme conhecimento e inovação em instrumentos de dominação.