Resumo expandido premiado em 1° lugar no Grupo de Trabalho Novas Tecnologias e Gestão de Empresas Médicas no I Congresso Internacional de Direito Médico do Instituto Miguel Kfouri Neto e Associação Mundial de Direito Médico.
A incorporação de sistemas de inteligência artificial à prática médica tem alterado a produção de diagnósticos, prognósticos e recomendações terapêuticas, inserindo a decisão clínica em ambiente sociotécnico no qual informação, controle e capacidade de intervenção são distribuídos entre médico, instituição de saúde e fornecedor tecnológico. Parte-se da doutrina de Miguel Kfouri Neto como marco teórico nacional da responsabilidade civil médica subjetiva e da aferição da culpa profissional, cujo parâmetro clássico é tensionado pela decisão clínica aumentada por IA diante da complexidade na identificação do controle efetivamente exercido pelo médico.
O recorte consiste em analisar quando a supervisão humana exercida pelo médico pode ser juridicamente significativa para fins de culpa, utilizando-se a perspectiva comparada em sentido funcional, a partir de parâmetros internacionais de supervisão humana, rastreabilidade e governança de riscos em sistemas de IA de alto risco. O objetivo é verificar em que medida a IA pode redefinir o standard de diligência médica e sua posterior responsabilização por falhas algorítmicas sobre as quais possui controle limitado. A hipótese é que a IA altera o conteúdo concreto da culpa médica ao exigir justificação crítica da adesão ou rejeição à recomendação algorítmica, desde que haja ferramenta validada, pertinência clínica e condições reais de supervisão. A pesquisa adota metodologia qualitativa, jurídico-dogmática e comparativa em sentido funcional, com revisão bibliográfica e análise documental de referenciais nacionais e internacionais sobre culpa médica, supervisão humana e governança de riscos em IA aplicada à saúde.
No direito brasileiro, a responsabilidade civil médica estrutura-se, em regra, pela aferição da culpa profissional, à luz do art. 14, § 4º, do CDC e dos arts. 186 e 927 do CC. Na doutrina de Miguel Kfouri Neto, a responsabilização do médico não decorre da simples ocorrência de resultado adverso, mas da demonstração de que sua conduta se afastou do padrão técnico esperado nas circunstâncias concretas do atendimento, por negligência, imprudência ou imperícia.1
A decisão clínica apoiada por inteligência artificial tensiona esse modelo, sem necessariamente superá-lo. Sistemas de apoio diagnóstico, prognóstico e terapêutico não eliminam o juízo clínico, mas introduzem uma camada adicional de mediação técnica na formação da conduta médica. O profissional passa a interagir com recomendações algorítmicas produzidas por modelos sujeitos a falibilidade, seja por treinamento inadequado, incompletude de dados e diferentes graus de opacidade, ou demais circunstâncias que podem dificultar a compreensão dos limites da decisão automatizada no momento do atendimento.2
Essa alteração não transforma a IA em sujeito autônomo de responsabilidade, nem autoriza a substituição do médico pelo sistema, mas questiona o grau de influência da ferramenta na valoração da diligência profissional, desde que consideradas as circunstâncias concretas do atendimento, os limites conhecidos da tecnologia e os deveres de conduta exigíveis do médico.3
Em perspectiva comparada, a literatura sobre o tema identifica que o uso clínico desses sistemas pode afetar o standard of care, sobretudo quando a conduta do médico envolve seguir ou rejeitar a recomendação algorítmica, em confronto com o padrão de cuidado aplicável ao caso concreto.4 Assim, a questão dogmática não se restringe à decisão, mas se foi criticamente justificada diante das condições concretas de uso, da confiabilidade da ferramenta, dos protocolos institucionais e do controle informacional efetivamente disponível.
A exigência de supervisão humana em sistemas de IA aplicada à saúde constitui resposta normativa relevante à problemática. Em perspectiva comparada, o art. 14 do Regulamento Europeu de Inteligência Artificial (EU AI Act) estabelece a supervisão humana como requisito dos sistemas de IA de alto risco, buscando assegurar a análise efetiva das limitações sistêmicas da IA, podendo culminar na desconsideração da saída algorítmica.5
No plano nacional, a resolução CFM 2.454/26 caminha em sentido convergente ao assegurar ao médico o direito de não seguir, de forma automática ou acrítica, recomendações de sistemas de IA, ao impor o dever de exercício de julgamento crítico sobre tais recomendações e ao resguardá-lo de responsabilização indevida por falhas atribuíveis exclusivamente ao sistema, desde que comprovado o uso diligente, crítico e ético da ferramenta.6
A literatura sobre meaningful human control indica que a responsabilidade humana exige mais que participação decisória, pressupondo que o sistema responda a fatos relevantes do ambiente, e que seus resultados possam ser reconduzidos a agentes humanos.7 Transposta para a medicina assistida por IA, a exigência impõe o conhecimento da finalidade da ferramenta, suas limitações, treinamento adequado, acesso a informações, revisão e autoridade institucional para divergir do resultado algorítmico. No plano da responsabilidade civil médica, a análise dialoga com o dever de atualização e vigilância técnica do profissional no uso de tecnologias na prática clínica como condição de validade do método, mas não como garantia de conhecimento técnico sobre o sistema de IA.8
Nesse ponto, a noção de moral crumple zone, desenvolvida por Madeleine Clare Elish, torna-se útil como lente crítica: o profissional pode ser tratado como responsável visível pelo dano, embora a falha possa decorrer do sistema ou do fluxo assistencial.9 Assim, a imputação de culpa médica somente deve ser admitida quando a supervisão humana corresponder a uma possibilidade concreta de intervenção crítica, e não à mera presunção de controle.
Em decisões clínicas aumentadas por IA, a conduta juridicamente relevante não é a mera conformidade formal com o sistema, mas a qualidade do juízo clínico exercido diante dele. A literatura comparada sobre responsabilidade médica e IA examina cenários em que o médico segue ou rejeita a recomendação algorítmica, considerando sua relação com o standard of care e com o resultado produzido no caso concreto. A partir dessa matriz, pode-se sustentar que a culpa médica não decorre da simples adesão ou rejeição à IA, mas da ausência de justificação crítica: o profissional pode ser questionado tanto quando segue recomendação incompatível com os dados clínicos disponíveis quanto quando rejeita, sem fundamento técnico registrável ou ferramenta validada e relevante para o tipo de decisão em exame.10
Essa análise, contudo, não pode ser reduzida à conduta individual do médico. A justificabilidade da decisão clínica depende das condições institucionais de uso da ferramenta, como treinamento, informação mínima sobre finalidade e limites do sistema, rastreabilidade, tempo clínico para avaliação e possibilidade real de divergência. Por isso, a governança de riscos assume função decisiva: a incorporação de IA ao atendimento deve ser acompanhada por processos de validação, auditoria, monitoramento, documentação técnica, treinamento profissional e protocolos de uso e contestação, distribuindo responsabilidades entre desenvolvedores, fornecedores, instituições de saúde e usuários profissionais.11 Quando tais pressupostos estiverem ausentes, a imputação exclusiva ao médico tende a obscurecer falhas institucionais ou tecnológicas que condicionaram a própria decisão.
A incorporação de sistemas de inteligência artificial à prática médica não elimina a centralidade do juízo clínico humano, mas modifica o contexto em que a diligência profissional deve ser aferida. A decisão clínica aumentada por IA é produzida em ambiente sociotécnico, no qual se articulam modelos algorítmicos, bases de dados, protocolos institucionais, fornecedores tecnológicos e estruturas de governança assistencial.
Conclui-se que a IA pode redefinir o standard de diligência médica, não por impor obediência à recomendação algorítmica, mas por exigir justificação crítica da adesão ou rejeição diante dela. A responsabilidade civil não deve ser deslocada automaticamente para o sistema tecnológico, mas também não pode ser imputada ao médico pela simples presença formal no circuito decisório. Quando houver condições efetivas de compreensão, vigilância e contestação, o uso acrítico da recomendação algorítmica, a chamada automatização acrítica da conduta médica, a rejeição tecnicamente infundada ou a utilização de tecnologia manifestamente inadequada poderão integrar a análise da culpa. Quando a falha decorrer de opacidade técnica, ausência de validação, treinamento insuficiente, falta de rastreabilidade, inexistência de protocolos ou impossibilidade prática de contestação, a imputação exclusiva ao médico tende a obscurecer falhas institucionais ou tecnológicas. A supervisão humana, portanto, somente pode fundamentar responsabilidade civil quando for significativa, e não mera ficção de controle.
_____
CONSELHO FEDERAL DE MEDICINA. Resolução CFM nº 2.454, de 11 de fevereiro de 2026. Normatiza o uso da inteligência artificial na medicina. Diário Oficial da União: seção 1, Brasília, DF, n. 39, p. 158, 27 fev. 2026.
ELISH, Madeleine Clare. Moral crumple zones: cautionary tales in human-robot interaction. Engaging Science, Technology, and Society, v. 5, p. 40-60, 2019. DOI: 10.17351/ests2019.260.
EUROPEAN UNION. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union, Brussels, 12 July 2024.
KFOURI NETO, Miguel. Responsabilidade Civil do Médico. 9. ed. São Paulo: Thomson Reuters Brasil, 2019.
NOGAROLI, Rafaella. Responsabilidade civil médica na inteligência artificial: culpa médica e deveres de conduta no século XXI. 2023. Dissertação (Mestrado em Direito das Relações Sociais) - Universidade Federal do Paraná, Setor de Ciências Jurídicas, Programa de Pós-Graduação em Direito, Curitiba, 2023.
PRICE II, W. Nicholson; GERKE, Sara; COHEN, I. Glenn. Potential Liability for Physicians Using Artificial Intelligence. JAMA, [s. l.], v. 322, n. 18, p. 1765-1766, nov. 2019. DOI: 10.1001/jama.2019.15064.
SANTONI DE SIO, Filippo; VAN DEN HOVEN, Jeroen. Meaningful human control over autonomous systems: a philosophical account. Frontiers in Robotics and AI, v. 5, art. 15, p. 1-14, 2018. DOI: 10.3389/frobt.2018.00015.
WORLD HEALTH ORGANIZATION. Ethics and governance of artificial intelligence for health: guidance on large multi-modal models. Geneva: World Health Organization, 2024. ISBN 978-92-4-008475-9.
_____
1. KFOURI NETO, Miguel. Responsabilidade Civil do Médico. 9. ed. São Paulo: Thomson Reuters Brasil, 2019.
2. NOGAROLI, Rafaella. Responsabilidade civil médica na inteligência artificial, 2023. p. 117-118.
3. Ibid., p. 193.
4. PRICE II, W. Nicholson; GERKE, Sara; COHEN, I. Glenn. Potential Liability for Physicians Using Artificial Intelligence. JAMA, [s. l.], v. 322, n. 18, p. 1765-1766, nov. 2019. DOI: 10.1001/jama.2019.15064.
5. EUROPEAN UNION. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union, Brussels, 12 July 2024.
6. CONSELHO FEDERAL DE MEDICINA. Resolução CFM nº 2.454, de 11 de fevereiro de 2026. Normatiza o uso da inteligência artificial na medicina. Diário Oficial da União: seção 1, Brasília, DF, n. 39, p. 158, 27 fev. 2026.
7. SANTONI DE SIO, Filippo; VAN DEN HOVEN, Jeroen. Meaningful human control over autonomous systems: a philosophical account. Frontiers in Robotics and AI, v. 5, art. 15, p. 1-14, 2018. DOI: 10.3389/frobt.2018.00015.
8. NOGAROLI, Rafaella. Responsabilidade civil médica na inteligência artificial, 2023. p. 193.
9. ELISH, Madeleine Clare. Moral crumple zones: cautionary tales in human-robot interaction. Engaging Science, Technology, and Society, v. 5, p. 40-60, 2019. DOI: 10.17351/ests2019.260.
10. PRICE II, W. Nicholson; GERKE, Sara; COHEN, I. Glenn. Potential Liability for Physicians Using Artificial Intelligence. JAMA, [s. l.], v. 322, n. 18, p. 1765-1766, nov. 2019. DOI: 10.1001/jama.2019.15064.
11. WORLD HEALTH ORGANIZATION. Ethics and governance of artificial intelligence for health: guidance on large multi-modal models. Geneva: World Health Organization, 2024. ISBN 978-92-4-008475-9.