Regulação de IA na UE: barreira à inovação ou escudo de proteção?

1. A Proposta

A União Europeia (UE) tem se esforçado para regular a inteligência artificial (IA) como parte de sua estratégia digital, visando garantir melhores condições para o desenvolvimento e uso desta tecnologia inovadora. Isso pois a IA tem o potencial de trazer muitos benefícios, como melhorias na saúde, transporte mais seguro e limpo, manufatura mais eficiente e energia mais barata e sustentável.

Em abril de 2021, a Comissão Europeia propôs o primeiro quadro regulatório da UE para a IA. Este quadro analisa e classifica os sistemas de IA que podem ser usados em diferentes aplicações de acordo com o risco que representam para os usuários. Os diferentes níveis de risco implicam em mais ou menos regulação. Uma vez aprovadas, estas serão as primeiras regras do mundo sobre IA¹.

Em 14 de junho de 2023, os membros do Parlamento Europeu (MEPs) aprovaram a posição de negociação do Parlamento sobre o AI Act (Lei de Inteligência Artificial). Como ocorre no processo legisltivo europeu, as discussões agora começarão com os estados membros da União Europeia no Conselho para definir a forma final da lei².

A prioridade da União é garantir que os sistemas de IA utilizados na UE sejam seguros, transparentes, rastreáveis, não discriminatórios e ecologicamente corretos. Assim sendo, os sistemas de IA devem ser supervisionados por pessoas, em vez de por automação, para prevenir resultados prejudiciais.

Os novos regulamentos sobre inteligência artificial estabelecem obrigações para provedores e usuários com base no nível de risco da IA. Com relação aos sistemas de IA de risco mínimo precisam passar por avaliação, enquanto os que representam riscos inaceitáveis serão proibidos, incluindo aqueles que envolvem manipulação comportamental cognitiva, pontuação social e sistemas de identificação biométrica em tempo real e remotos, como reconhecimento facial.

Por outro lado, os sistemas de IA de alto risco serão divididos em duas categorias e devem ser avaliados antes de serem colocados no mercado e durante todo o ciclo de vida. Por fim, sistemas de IA de risco limitado devem cumprir requisitos mínimos de transparência para permitir que os usuários tomem decisões informadas e saibam quando estão interagindo com a IA³. 

2. Pontos relevantes

2.1. Artigo 1º

Artigo 1º do Regulamento sobre Inteligência Artificial na União Europeia estabelece o escopo e os objetivos dessa legislação. Conforme definido pelo artigo, o principal propósito é fornecer regras harmonizadas para sistemas de inteligência artificial (IA) colocados no mercado, entrando em serviço e sendo utilizados na UE. Essas regras têm como objetivo garantir a segurança dos sistemas de IA e o respeito aos direitos fundamentais e valores da União⁴.

A tentativa é de assegurar que os sistemas de IA disponíveis no mercado e utilizados na UE sejam seguros e estejam em conformidade com a legislação sobre direitos fundamentais e valores da UE, incluindo a proteção da saúde, segurança e direitos dos indivíduos, bem como o respeito à dignidade humana, igualdade e não discriminação.

O regulamento busca estabelecer um quadro normativo claro e previsível para desenvolvedores e investidores em IA, incentivando o investimento e a inovação no campo, o que pode impulsionar o crescimento econômico e tecnológico da UE.

Outro objetivo é aprimorar a governança e a aplicação efetiva das leis relacionadas aos direitos fundamentais e requisitos de segurança aplicáveis aos sistemas de IA. Para que esse fato ocorra, o regulamento visa fortalecer a governança da IA, garantindo uma aplicação consistente e eficaz das leis existentes, protegendo os cidadãos contra o uso indevido ou prejudicial da IA e promovendo a confiança no uso dessas tecnologias.

De forma objetiva, outra priridade é facilitar o desenvolvimento de um mercado único para aplicações legais, seguras e confiáveis de IA, prevenindo a fragmentação do mercado. Isso será alcançado através de regras harmonizadas, buscando de uma certa maneira extender o mercado único na UE para aplicações de IA, evitando a fragmentação regulatória que poderia prejudicar a competitividade e a inovação no setor.

2.2. Artigo 2º

O Artigo 2º do Regulamento sobre Inteligência Artificial na União Europeia estabelece o âmbito de aplicação dessa legislação determinando as entidades e situações às quais o regulamento se aplica, bem como as exceções⁵.

O regulamento abrange os fornecedores que colocam no mercado ou disponibilizam sistemas de IA na União Europeia, independentemente de sua localização. Isso significa que qualquer empresa que ofereça sistemas de IA no mercado da UE deve cumprir as regras e requisitos do regulamento.

Outrossim, o regulamento também abrange os usuários de sistemas de IA localizados dentro da União Europeia. Isso implica que as pessoas ou entidades que utilizam sistemas de IA na UE estão sujeitas às disposições e obrigações do regulamento.

Ademais, o regulamento se aplica aos fornecedores e usuários de sistemas de IA localizados em países terceiros, desde que os resultados ou efeitos desses sistemas impactem o mercado da UE. Mesmo que o sistema de IA seja desenvolvido ou usado fora da UE, se sua saída tiver repercussões na UE, as regras e regulamentos da UE devem ser seguidos.

No entanto, o artigo estabelece uma exceção importante: o regulamento não se aplica aos sistemas de IA desenvolvidos ou usados exclusivamente para fins militares. Isso significa que os sistemas de IA utilizados em operações militares e defesa nacional estão excluídos do escopo deste regulamento.

Outra exceção mencionada é que o regulamento não se aplica a autoridades públicas em países terceiros ou a organizações internacionais que utilizem sistemas de IA no âmbito de acordos internacionais de cooperação policial e judicial com a União Europeia ou com um ou mais Estados-Membros.

2.3. Artigo 3º

O Artigo 3º do Regulamento sobre Inteligência Artificial apresenta uma série de definições para a legislação. Entre todas as definições, as que seguem podem ser classificadas como releventes⁶:

• Sistema de inteligência artificial: Essa definição abrange softwares desenvolvidos com técnicas específicas capazes de gerar resultados como conteúdos, previsões ou decisões em função de objetivos estabelecidos.
• Fornecedor: Nesse caso, são englobadas pessoas físicas ou jurídicas, autoridades públicas ou outras entidades que desenvolvem sistemas de IA para colocá-los no mercado ou em serviço, podendo ser de forma paga ou gratuita.
• Pequenos fornecedores: Nessa categoria são incluídas micro ou pequenas empresas, conforme a recomendação da Comissão Europeia.
• Usuário: Refere-se a qualquer pessoa física ou jurídica, autoridade pública ou outra entidade que utiliza um sistema de IA sob sua autoridade, exceto em atividades pessoais não profissionais.
• Representante autorizado: É classificado como uma pessoa física ou jurídica estabelecida na UE, com mandato por escrito do fornecedor, para cumprir as obrigações estabelecidas no regulamento em nome deste.
• Importador: Esses são qualquer pessoa física ou jurídica estabelecida na UE que coloca no mercado ou coloca em serviço um sistema de IA que apresenta o nome ou marca registrada de uma pessoa física ou jurídica estabelecida fora da UE.

É normal que existão definições nos regulamentos da UE. Essas definições são fundamentais para a aplicação adequada do regulamento e para assegurar a clareza e o cumprimento das obrigações existentes na lei.

2.4. Artigo 5º

O Regulamento sobre Inteligência Artificial na União Europeia, especificamente em seu Artigo 5º, trata das práticas proibidas no contexto do uso de sistemas de inteligência artificial (IA). Essas proibições têm como objetivo primordial resguardar os direitos fundamentais das pessoas e assegurar a sua segurança, ao mesmo tempo que buscam evitar práticas que possam resultar em danos ou discriminação⁷.

A primeira prática proibida envolve o uso de técnicas subliminares, além do alcance consciente das pessoas, para distorcer o comportamento individual ou de terceiros, podendo causar danos físicos ou psicológicos. Essa restrição visa coibir a manipulação oculta dos indivíduos, garantindo sua integridade mental e preservando a liberdade de escolha.

A segunda proibição refere-se ao uso de sistemas de IA para explorar vulnerabilidades de grupos específicos de pessoas, com base em características como idade, deficiência física ou mental. O objetivo é evitar a distorção do comportamento desses grupos, causando-lhes danos físicos ou psicológicos, e, ao mesmo tempo, proteger essas comunidades vulneráveis de práticas discriminatórias.

Outra prática proibida aborda o uso de sistemas de IA por autoridades públicas para avaliar a confiabilidade das pessoas, com base em seu comportamento social ou características pessoais conhecidas ou previstas. A restrição tem como objetivo salvaguardar a privacidade individual e evitar a criação de sistemas de pontuação social que possam culminar em práticas discriminatórias.

Por fim, o Artigo 5º proíbe o uso de sistemas de identificação biométrica em tempo real em espaços públicos para fins de aplicação da lei, exceto em situações estritamente necessárias, como a busca por vítimas de crimes específicos ou a prevenção de ameaças à segurança. Essa limitação visa encontrar o equilíbrio entre a segurança pública e a proteção dos direitos e liberdades individuais, determinando que a utilização desses sistemas deve ocorrer mediante autorização prévia de autoridade judicial ou administrativa.

3. Análise

A questão que se coloca é se a regulação da IA na UE é uma barreira à inovação ou um escudo de proteção. Para alguns, a regulação pode parecer uma barreira à inovação, pois impõe restrições e obrigações que podem dificultar o desenvolvimento e a implementação de novas tecnologias. Para outros, a regulação é vista como um escudo de proteção, pois visa garantir a segurança e a privacidade dos usuários, bem como a transparência e a responsabilidade dos provedores de IA.

A IA, apesar de suas inúmeras vantagens, também apresenta riscos significativos, especialmente no que diz respeito à proteção de dados. Os sistemas de IA, por sua natureza, dependem do processamento de grandes volumes de dados para funcionar efetivamente. Isso pode incluir dados pessoais sensíveis, como informações de saúde, financeiras ou de localização. Se não forem devidamente protegidos, esses dados podem ser vulneráveis a violações de segurança, levando a violações de privacidade e potenciais danos aos indivíduos afetados.

Além disso, a IA tem o potencial de ser usada de maneiras que podem manipular o comportamento humano e as decisões. Por exemplo, sistemas de IA que fornecem conteúdo personalizado com base nos dados do usuário podem ser usados para influenciar opiniões e comportamentos, levantando questões éticas e de privacidade.

Outro risco significativo é a possibilidade de sistemas de IA serem usados para fins discriminatórios. Isso porque se os algoritmos de IA forem treinados em dados que contêm viéses, eles podem perpetuar ou até mesmo amplificar esses viéses em suas decisões e previsões. Consequentemente ,isso pode levar a resultados discriminatórios, por exemplo, em contextos como contratação de empregos, crédito e policiamento.

Ademais, a identificação biométrica, como o reconhecimento facial, é outra área de preocupação. Embora possa ter usos legítimos, como em sistemas de segurança ou para desbloquear smartphones, também pode ser usada de maneiras que violam a privacidade.

Esses riscos destacam a necessidade de uma regulamentação robusta e eficaz da IA. Assim sendo, a regulamentação pode ajudar a garantir que os sistemas de IA sejam desenvolvidos e usados de maneira responsável, com respeito à privacidade e aos direitos dos indivíduos.

Enquanto o debate sobre a regulamentação da IA continua, é importante notar que nem todas as IAs são criadas iguais. O ChatGPT, por exemplo, apesar de ser uma IA generativa, é considerado de menor potencial ofensivo em comparação com outras tecnologias de IA. Isso se deve em grande parte ao fato de que o ChatGPT foi projetado e treinado com um alto grau de supervisão e controle, e é usado principalmente para tarefas relativamente inofensivas, como responder perguntas e gerar texto.

No entanto, o verdadeiro desafio reside nas IAs generativas mais avançadas, que são capazes de aprender e adaptar-se às particularidades de cada usuário. Essas IAs podem ser treinadas para entender e imitar os padrões de comportamento, preferências e até mesmo a personalidade de um indivíduo.

Como resultado, é importante ter uma abordagem abrangente para a regulamentação da IA que leve em conta todos os tipos de sistemas de IA, incluindo as IAs generativas, e os riscos únicos que eles apresentam.

_____________

1 Lei da UE sobre IA: primeira regulamentação de inteligência artificial | Atualidade | Parlamento Europeu (europa.eu).

2 AI Act: a step closer to the first rules on Artificial Intelligence | News | European Parliament (europa.eu).

3 Artificial intelligence act (europa.eu).

4 EUR-Lex - 52021PC0206 - EN - EUR-Lex (europa.eu)

5 Ibid.

6 Ibid.

7 Ibid.