A União Europeia inicia a aplicação efetiva do "AI Act", legislação que estabelece regras específicas para desenvolvedores de modelos de inteligência artificial generativa, como o ChatGPT. A norma impõe às empresas uma série de obrigações voltadas à prevenção de riscos e à promoção da transparência, sob pena de sanções.
Entre as exigências estão: avaliação de riscos sistêmicos, realização de testes adversariais (adversarial testing), garantia de cibersegurança, comunicação de incidentes graves às autoridades e divulgação do consumo energético dos sistemas. O objetivo é mitigar impactos como viés algorítmico, desinformação, manipulação e opacidade nos processos decisórios baseados em IA.
Embora aprovado em 2024, o "AI Act" ganhou contornos práticos apenas em 10/7/25, quando a Comissão Europeia publicou as primeiras orientações técnicas aos desenvolvedores. O prazo curto gerou apreensão no setor, especialmente diante de pontos que permanecem genéricos ou pouco detalhados, como as implicações sobre direitos autorais e os critérios de conformidade operacional.
O cronograma do "AI Act" estabelece marcos regulatórios decisivos para os próximos anos. A partir de 2/8/25, passam a valer as regras para modelos de inteligência artificial de propósito geral (GPAI - General-Purpose AI), com rigorosa fiscalização e atuação das autoridades nacionais e aplicação de sanções em caso de descumprimento. Os provedores já em operação terão um prazo de adaptação até 2/8/27 para cumprir todas as exigências.
Em 2/8/26, inicia-se a segunda fase, voltada aos sistemas de alto risco, abrangendo áreas sensíveis, dentre as quais está a saúde. Nestes casos, os desenvolvedores de sistemas deverão garantir que a operação seja adequada e suficientemente transparente, permitindo a interpretação dos resultados (outputs) do sistema pelos operadores. Outra obrigação para os sistemas de alto risco é a elaboração de instruções de uso, que incluam informações claras, completas, corretas, relevantes e acessíveis aos operadores. Em 2/8/27, conclui-se a implementação integral do AI Act, com a entrada em vigor de todas as disposições.
Algumas empresas se posicionaram publicamente sobre a nova legislação. A Meta, por exemplo, recusou-se a aderir ao código de conduta voluntário proposto pela UE (publicado em julho de 2025), alegando excesso de obrigações e insegurança jurídica. Outros atores da indústria compartilham a preocupação de que a regulação possa limitar a inovação, sobretudo em comparação à abordagem mais flexível adotada pelos Estados Unidos. Autoridades americanas se uniram ao coro das empresas de tecnologia para criticar a legislação europeia alegando prejuízo para o desenvolvimento tecnológico.
Apesar da tensão e resistência à regulamentação da IA no cenário global, a União Europeia sinaliza que o movimento em direção a uma inteligência artificial mais segura é irreversível, impondo ao setor de tecnologia a necessidade de ajustar seus modelos de desenvolvimento.
Para os profissionais da área da saúde, um ponto adicional de atenção em relação aos dispositivos dotados de IA que já são rotineiramente utilizados em todos os âmbitos da assistência. A exigência de transparência e explicabilidade, apesar de não estar ainda na legislação brasileira, é uma tendência e um fator que deve ser considerado e questionado no momento da aquisição de um produto, uma vez que evidencia de forma mais clara as limitações, permitindo mitigar os riscos intrínsecos a tais tecnologias.