A inteligência artificial deixou de ocupar o campo da promessa tecnológica e passou a integrar a rotina da medicina contemporânea. Ela já aparece em sistemas de apoio diagnóstico, interpretação de exames, triagem, predição de risco, organização de prontuários, atendimento digital, gestão hospitalar, pesquisa clínica e análise de imagens.
Essa incorporação, embora inevitável, não é juridicamente neutra. Toda tecnologia que interfere no cuidado, na decisão clínica ou no tratamento de dados sensíveis desloca consigo deveres de cautela, validação, transparência, segurança e responsabilidade.
O problema não está na inteligência artificial em si. Está no uso sem critério técnico, sem rastreabilidade, sem informação adequada ao paciente e sem definição clara sobre quem responde pelo resultado clínico construído com auxílio da ferramenta.
A medicina sempre conviveu com tecnologia. O estetoscópio, a radiografia, a tomografia, a robótica cirúrgica e os prontuários eletrônicos alteraram a forma de cuidar. A diferença está na natureza da inteligência artificial. Ela não apenas amplia a percepção humana. Em muitos casos, ela sugere, classifica, prioriza, prediz e recomenda.
É exatamente nesse ponto que o Direito passa a exercer função estruturante. Não para sufocar a inovação, mas para impedir que uma ferramenta estatística, por mais sofisticada que pareça, seja convertida em autoridade clínica sem controle humano, sem validação científica e sem responsabilidade institucional.
A regulação mundial e o modelo baseado em risco
A regulação internacional da inteligência artificial na saúde caminha para um modelo baseado em risco. A lógica é objetiva. Quanto maior o impacto da ferramenta sobre diagnóstico, tratamento, prognóstico, triagem ou decisão clínica, maior deve ser o grau de controle regulatório, ético e documental.
Na União Europeia, o AI Act consolidou uma arquitetura normativa centrada na classificação dos sistemas de inteligência artificial conforme o risco que oferecem. Aplicações em saúde tendem a ocupar posição sensível, sobretudo quando influenciam decisões médicas, acesso a serviços, análise de exames, definição de condutas ou monitoramento de pacientes.
Esse modelo desloca a pergunta central. A questão não é simplesmente saber se uma clínica pode usar inteligência artificial. A pergunta juridicamente adequada é outra. Qual é a finalidade da ferramenta, quais dados ela utiliza, qual o grau de autonomia do sistema, qual o impacto sobre o paciente e qual prova existe de que o uso é seguro.
Nos Estados Unidos, a FDA trata a inteligência artificial médica dentro da lógica dos dispositivos médicos e dos softwares como dispositivo médico. O foco recai sobre segurança, eficácia, documentação técnica, validação, monitoramento pós mercado e controle das alterações algorítmicas ao longo do ciclo de vida do produto.
Esse aspecto é relevante porque determinados sistemas baseados em aprendizado de máquina podem sofrer alterações posteriores, seja por atualização do fornecedor, seja por reconfiguração do modelo, seja por modificação da base de dados. O risco não está apenas no lançamento da ferramenta. Está também em sua evolução silenciosa.
No Reino Unido, a MHRA segue linha semelhante, tratando softwares e sistemas de inteligência artificial com finalidade médica como produtos sujeitos a controle regulatório, quando presentes funções diagnósticas, terapêuticas, prognósticas ou de monitoramento clínico.
A OMS, embora não legisle, exerce papel relevante na formulação de parâmetros éticos. Suas diretrizes enfatizam transparência, explicabilidade possível, equidade, proteção contra vieses, preservação da autonomia profissional e segurança do paciente.
Há, portanto, uma convergência internacional. A inteligência artificial médica não será avaliada apenas por sua eficiência operacional. Será avaliada por sua capacidade de produzir benefícios sem comprometer direitos fundamentais, segurança assistencial, igualdade de tratamento e confiança na relação médico paciente.
O cenário brasileiro
No Brasil, ainda que o marco geral da inteligência artificial esteja em processo de consolidação legislativa, não há vazio normativo. A área médica já se encontra submetida a um conjunto robusto de normas constitucionais, civis, consumeristas, sanitárias, éticas e de proteção de dados.
A Constituição Federal assegura a dignidade da pessoa humana como fundamento da República, protege a intimidade, a vida privada e a imagem, e reconhece a saúde como direito de todos e dever do Estado. Também submete as ações e serviços de saúde à relevância pública, o que autoriza controle jurídico qualificado sobre práticas que afetem pacientes.
A LGPD acrescenta uma camada decisiva de proteção. Dados de saúde, dados genéticos, dados biométricos e informações clínicas integram a categoria de dados pessoais sensíveis. Seu tratamento exige base legal adequada, finalidade legítima, necessidade, transparência, segurança, prevenção, responsabilização e não discriminação.
Essa constatação tem efeitos práticos profundos. Prontuários, exames, imagens clínicas, fotografias médicas, dados reprodutivos, informações psiquiátricas, históricos terapêuticos e resultados laboratoriais não podem ser inseridos em ferramentas de inteligência artificial sem análise prévia de finalidade, segurança, compartilhamento, retenção e responsabilidade.
A ANVISA também ocupa papel central. A RDC 657/22 disciplina software como dispositivo médico. Assim, quando uma ferramenta de inteligência artificial possuir finalidade diagnóstica, terapêutica, prognóstica, de monitoramento ou de apoio clínico relevante, pode deixar de ser mera solução tecnológica e passar a exigir análise sanitária específica.
Uma solução de agenda, faturamento ou organização administrativa não se confunde com um sistema que interpreta exames, sugere hipóteses diagnósticas, indica condutas, estima risco de morte, classifica urgência ou influencia a tomada de decisão médica. A finalidade clínica altera o regime jurídico.
No campo ético profissional, a resolução CFM 2.454/26 representa marco relevante. A norma disciplina o uso da inteligência artificial na medicina e reafirma premissa essencial. A IA pode ser utilizada como ferramenta de apoio, mas a responsabilidade final pela decisão clínica permanece com o médico.
Isso significa que a tecnologia não pode ocupar o lugar da escuta, do exame, da ponderação individualizada, da prudência e da responsabilidade profissional. A máquina pode organizar padrões. A decisão médica exige contexto, ciência, experiência e julgamento humano.
Supervisão humana e decisão clínica
A medicina não é simples operação de dados. O diagnóstico não resulta apenas da soma de sintomas, exames e estatísticas. Ele depende de história clínica, vulnerabilidades, limites terapêuticos, preferências do paciente, riscos aceitáveis e juízo profissional.
Por isso, a supervisão humana não é uma formalidade. É requisito jurídico, ético e assistencial. O médico que utiliza inteligência artificial deve compreender as limitações da ferramenta, avaliar criticamente seus resultados, registrar o uso quando relevante e impedir que recomendações algorítmicas substituam sua própria deliberação.
Há diferença essencial entre apoio à decisão e decisão automatizada. No apoio à decisão, a IA oferece subsídios, mas o médico delibera. Na decisão automatizada, o sistema define ou praticamente determina a conduta. É nesse segundo cenário que o risco jurídico se intensifica.
A opacidade algorítmica também merece atenção. Muitos sistemas não explicam com clareza os critérios utilizados para determinada recomendação. Em ambiente clínico, essa opacidade pode comprometer o dever de informação, a motivação da conduta, o consentimento do paciente e a defesa do profissional em caso de questionamento posterior.
Não basta que a ferramenta seja moderna. É necessário saber se foi validada para a população atendida, se apresenta vieses relevantes, se opera com dados compatíveis com a realidade brasileira, se possui documentação técnica, se permite auditoria, se mantém registros de operação e se oferece mecanismos de revisão humana efetiva.
A tecnologia pode ser brilhante. Mas, em medicina, brilho sem validação é apenas risco com aparência sofisticada.
Informação ao paciente e consentimento qualificado
O uso de inteligência artificial em saúde também repercute no dever de informação. Quando a ferramenta tiver papel relevante no cuidado, no diagnóstico, no tratamento ou na priorização assistencial, o paciente deve ser informado de forma clara, adequada e compreensível.
Essa informação não precisa transformar a consulta médica em aula de programação. Deve permitir que o paciente compreenda que uma ferramenta tecnológica foi utilizada, qual foi sua finalidade, quais são seus limites e de que modo o médico supervisionou o resultado.
O consentimento informado, nesse contexto, ganha nova densidade. Não se trata apenas de autorizar um procedimento ou tratamento. Trata-se de assegurar que o paciente não seja submetido a decisões clínicas parcialmente automatizadas sem ciência suficiente sobre a intervenção tecnológica no processo de cuidado.
O CDC também pode incidir nas relações privadas de saúde, especialmente quanto ao dever de informação adequada, segurança do serviço e responsabilidade por defeito na prestação. A omissão sobre o uso relevante de IA pode ser interpretada como falha informacional, sobretudo se houver dano ou frustração legítima da confiança do paciente.
A transparência, portanto, não é obstáculo à inovação. É condição de legitimidade.
Dados sensíveis, prontuário e risco de exposição
A inteligência artificial depende de dados. Na saúde, esses dados estão entre os mais íntimos da pessoa humana. Um exame genético, uma fotografia dermatológica, um laudo psiquiátrico, um histórico de fertilização, uma imagem oncológica ou um prontuário completo podem revelar dimensões profundas da identidade do paciente.
Por isso, clínicas e hospitais devem ter cautela elevada com ferramentas abertas ou soluções contratadas sem auditoria jurídica. Inserir dados identificáveis de pacientes em plataformas externas, sem base legal adequada, sem contrato, sem segurança, sem controle de retenção e sem limitação de finalidade pode representar violação à LGPD e ao sigilo profissional.
O dever de segurança não se resume a senha forte e antivírus. Envolve controle de acesso, criptografia, rastreabilidade, anonimização quando possível, revisão contratual, avaliação de operadores, plano de resposta a incidentes, política de retenção e treinamento da equipe.
O prontuário também assume função probatória central. Quando a IA for utilizada de forma relevante no atendimento, o registro adequado pode demonstrar que houve supervisão médica, ponderação crítica e uso auxiliar da ferramenta. A ausência de registro, por outro lado, pode fragilizar a defesa ética, civil ou administrativa.
Em matéria de saúde, o que não é documentado tende a desaparecer quando mais se precisa provar.
Responsabilidade civil, ética e sanitária
A utilização de inteligência artificial não elimina a responsabilidade do médico, da clínica, do hospital ou do fornecedor. Ela apenas torna a cadeia causal mais complexa.
Em caso de dano, será necessário verificar se houve falha médica, defeito do produto, erro do software, ausência de validação, uso fora da finalidade indicada, deficiência de treinamento, omissão informacional, violação de dados, contratação negligente ou falha de supervisão.
No plano civil, podem incidir os arts. 186, 187 e 927 do CC, conforme a configuração de ato ilícito, abuso de direito, nexo causal e dano. Nas relações de consumo, também poderá ser discutida a responsabilidade pelo fato ou vício do serviço, nos termos do CDC.
No plano ético, o médico permanece responsável pelo ato profissional. A ferramenta não assina prontuário, não responde em sindicância, não comparece ao CRM e não sustenta justificativa clínica. Quem responde é o profissional e, conforme o caso, a instituição.
No plano sanitário, a utilização de software com finalidade médica sem adequada verificação regulatória pode expor a clínica a questionamentos perante a vigilância sanitária e a ANVISA. O argumento de que o produto foi oferecido por fornecedor conhecido não basta. Diligência regulatória é parte do dever de cuidado institucional.
A consultoria jurídica como estrutura de prevenção
A adoção de inteligência artificial na medicina não deve ser conduzida apenas pelo setor de tecnologia, pelo marketing ou pela promessa comercial do fornecedor. Também não deve ser decidida com base na lógica simplista de aumento de produtividade. Em saúde, eficiência sem segurança é uma equação juridicamente incompleta.
A consultoria jurídica especializada atua antes do problema. Sua função é transformar o uso da IA em prática auditável, defensável e compatível com o dever de cuidado.
O primeiro passo é classificar a ferramenta. É preciso identificar se o uso é administrativo, assistencial, diagnóstico, terapêutico, preditivo, educacional ou de pesquisa. Essa classificação define o grau de risco e o conjunto de obrigações aplicáveis.
Depois, examina-se a base legal do tratamento de dados. Em saúde, o uso de dados sensíveis exige precisão. Consentimento genérico não resolve tudo. Muitas vezes, será necessário avaliar tutela da saúde, obrigação regulatória, exercício regular de direitos, pesquisa, anonimização, compartilhamento com operadores e eventual transferência internacional.
Também é indispensável revisar a regularidade sanitária. Se a ferramenta se enquadra como software como dispositivo médico, a clínica precisa verificar documentação técnica, classificação de risco, conformidade perante a ANVISA e limites de uso autorizados.
A etapa seguinte é estruturar os documentos internos. Política de uso de IA, matriz de risco, termo de ciência ao paciente, cláusulas contratuais com fornecedores, protocolo de registro em prontuário, treinamento da equipe, plano de resposta a incidentes e rotina de auditoria não são burocracia. São prova de diligência.
Essa prova poderá ser decisiva em litígio civil, sindicância ética, fiscalização sanitária, incidente de segurança ou controvérsia contratual com fornecedor. Uma clínica que demonstra avaliação prévia, documentação, treinamento, contrato adequado e supervisão humana estará em posição defensiva muito mais sólida do que aquela que apenas aderiu à tecnologia porque o mercado assim exigia.
A consultoria, portanto, não é ornamento jurídico. É o método pelo qual a inovação se torna juridicamente sustentável.
Governança como diferencial institucional
Há ainda uma dimensão reputacional. Pacientes estão cada vez mais atentos ao uso de dados, imagens, prontuários e sistemas automatizados. Médicos e clínicas que adotam inteligência artificial sem transparência podem sofrer não apenas sanções jurídicas, mas perda de confiança.
Em saúde, confiança é ativo institucional. A clínica que demonstra responsabilidade no uso de tecnologia comunica maturidade, segurança e respeito ao paciente. A que usa IA de forma opaca aposta no improviso. E o improviso raramente envelhece bem diante de um processo ético, uma ação indenizatória ou uma fiscalização.
A estrutura preventiva também protege o médico. Muitos profissionais utilizam ferramentas digitais sem perceber que estão expondo dados de pacientes, transferindo informações para servidores externos ou incorporando sugestões algorítmicas ao raciocínio clínico sem qualquer registro.
A instituição que deseja inovar precisa estar preparada para explicar, provar e defender o uso que faz da inteligência artificial. Essa resposta não deve estar apenas no discurso. Deve estar nos documentos.
Conclusão
A inteligência artificial na medicina é caminho sem retorno. Ela poderá ampliar eficiência, reduzir desperdícios, qualificar diagnósticos, apoiar condutas e melhorar a gestão assistencial. Mas não existe inovação legítima quando o paciente perde transparência, quando o médico perde autonomia crítica ou quando a instituição perde controle sobre dados sensíveis.
O Direito não deve ser visto como freio à tecnologia. Deve ser compreendido como sua moldura de segurança. É ele que define limites, distribui responsabilidades, protege vulneráveis e transforma boas intenções em práticas verificáveis.
No Brasil, a regulação já oferece sinais suficientes. A LGPD protege dados sensíveis. A ANVISA disciplina softwares médicos. O CFM reafirma a responsabilidade final do médico e a necessidade de uso ético da IA. O debate legislativo sobre o marco geral da inteligência artificial reforça a tendência de classificação por risco e deveres documentais.
Nesse cenário, clínicas, hospitais e profissionais de saúde não podem tratar a inteligência artificial como simples ferramenta de conveniência. Devem tratá-la como tecnologia assistencial de impacto jurídico, ético, sanitário e reputacional.
A pergunta decisiva não é se a medicina usará inteligência artificial. Ela já usa e usará cada vez mais. A pergunta correta é se esse uso será seguro, supervisionado, documentado e juridicamente defensável.
Na medicina, o futuro pode ser tecnológico. Mas a responsabilidade continuará humana. Por isso, a consultoria jurídica preventiva deixou de ser acessório. Tornou-se peça central da prática médica contemporânea.