A inteligência artificial deixou de ocupar o território da ficção científica para ingressar, de forma silenciosa e progressiva, no cotidiano da medicina.
Sistemas capazes de interpretar exames de imagem, identificar padrões clínicos, estimar riscos, auxiliar na escolha de tratamentos e produzir hipóteses diagnósticas já integram a realidade de hospitais, clínicas e laboratórios. A promessa é evidente: ampliar a capacidade diagnóstica, reduzir erros, conferir maior velocidade à análise de informações e oferecer ao profissional de saúde instrumentos cada vez mais sofisticados para a tomada de decisão.
Mas toda inovação tecnológica produz, também, novos riscos.
E quando a tecnologia passa a participar de uma decisão que pode determinar a vida, a integridade física ou a saúde de um paciente, surge uma questão jurídica inevitável: quem responde quando a inteligência artificial erra?
A resposta, ao menos por enquanto, não é simples.
O problema não está apenas em identificar o responsável pelo erro. Está em compreender onde o erro ocorreu: no desenvolvimento do algoritmo, nos dados utilizados para treiná-lo, na programação, na atualização do sistema, na forma como a instituição de saúde o incorporou à sua rotina ou, ainda, na maneira como o médico interpretou e utilizou a informação produzida pela máquina.
A inteligência artificial não elimina a responsabilidade civil médica. Ela, entretanto, modifica profundamente o cenário em que essa responsabilidade deverá ser analisada.
O diagnóstico médico diante da inteligência artificial
A medicina sempre conviveu com a tecnologia.
Exames laboratoriais, tomografia computadorizada, ressonância magnética, ultrassonografia e inúmeros outros recursos tecnológicos passaram a integrar, há décadas, a atividade médica. A diferença introduzida pela inteligência artificial está no fato de que a tecnologia deixa de ser apenas um instrumento de produção de informações e passa, em determinadas circunstâncias, a interpretar dados e formular recomendações.
Essa mudança é significativa.
Um exame tradicional apresenta ao médico determinada informação. A inteligência artificial, por sua vez, pode analisar milhões de informações simultaneamente, reconhecer padrões e apresentar ao profissional uma hipótese diagnóstica, uma classificação de risco ou uma recomendação.
O médico, portanto, passa a conviver com um novo interlocutor tecnológico.
Isso não significa, contudo, que o algoritmo tenha adquirido autonomia jurídica ou que tenha se tornado sujeito de direitos e obrigações.
A máquina não é o paciente. Não é o médico. Não é o hospital. E tampouco pode ser, por si própria, responsabilizada civilmente.
A responsabilidade continuará recaindo sobre pessoas físicas ou jurídicas que participam da cadeia de desenvolvimento, fornecimento e utilização da tecnologia.
O desafio consiste justamente em estabelecer qual desses agentes contribuiu causalmente para o dano.
A insuficiência do paradigma clássico da responsabilidade médica
A responsabilidade civil do médico encontra importante fundamento no art. 951 do CC e, nas relações de consumo, no art. 14, § 4º, do CDC.
A regra tradicional parte de uma premissa relativamente conhecida: a responsabilidade pessoal dos profissionais liberais depende da demonstração de culpa.
Isso significa investigar se o profissional atuou com negligência, imprudência ou imperícia.
O problema é que esse modelo foi construído para uma realidade em que o ato médico era essencialmente humano.
No diagnóstico assistido por inteligência artificial, a cadeia causal torna-se muito mais complexa.
Imagine-se um paciente que procura determinado hospital, realiza um exame e tem sua imagem analisada por um sistema de inteligência artificial. O algoritmo não identifica um tumor que posteriormente é diagnosticado em estágio avançado.
Onde está o erro?
O médico deveria ter identificado a doença independentemente da indicação algorítmica?
O sistema foi treinado com uma base de dados insuficiente?
O fornecedor conhecia determinada taxa de falsos negativos?
O hospital realizou testes adequados antes de implementar a ferramenta?
O algoritmo estava atualizado?
Havia informação suficiente no sistema para alertar o médico sobre suas limitações?
Ou o profissional simplesmente confiou na resposta produzida pela máquina?
São perguntas diferentes, e cada uma delas pode conduzir a uma conclusão jurídica distinta.
Por isso, talvez o maior desafio da responsabilidade civil na medicina assistida por inteligência artificial seja justamente superar a tentação de procurar, desde o início, um único culpado.
Em determinados casos, poderá existir uma verdadeira cadeia de responsabilidades.
A inteligência artificial não substitui o médico
A incorporação da inteligência artificial à prática médica não significa transferência da responsabilidade profissional para o algoritmo.
A decisão médica continua sendo, em regra, uma decisão humana.
A tecnologia pode auxiliar. Pode sugerir. Pode alertar. Pode identificar padrões que passariam despercebidos ao olhar humano, mas a utilização dessas informações não elimina o dever profissional de avaliação crítica.
Esse aspecto é particularmente importante.
Se o médico recebe uma recomendação algorítmica incompatível com o quadro clínico apresentado pelo paciente e, ainda assim, simplesmente a segue sem qualquer análise, a existência da inteligência artificial não poderá ser utilizada automaticamente como causa de exclusão de responsabilidade.
A tecnologia não funciona como uma espécie de escudo jurídico.
Da mesma maneira que o médico não pode atribuir ao exame laboratorial a responsabilidade por sua própria interpretação equivocada, não poderá simplesmente afirmar que "foi o algoritmo que disse".
A autonomia profissional pressupõe justamente a capacidade de avaliar criticamente os elementos disponíveis.
Por outro lado, também seria equivocado transformar o médico em uma espécie de garantidor universal da infalibilidade tecnológica.
Não se pode exigir que o profissional conheça, individualmente, todos os elementos técnicos relacionados à arquitetura de um modelo de inteligência artificial, aos seus parâmetros de treinamento ou à totalidade da base de dados utilizada para sua construção.
Há, portanto, uma diferença fundamental entre utilizar uma ferramenta tecnológica e ser responsável por sua concepção e funcionamento.
Essa distinção deverá ocupar papel central nos futuros conflitos judiciais.
Quando o problema está no algoritmo
Se, de um lado, pode existir responsabilidade médica pela utilização inadequada da ferramenta, de outro, há situações em que o problema poderá estar no próprio produto tecnológico.Imagine-se um sistema comercializado para hospitais com uma falha de concepção que produz determinado padrão de falsos negativos. Ou um modelo desenvolvido a partir de uma base de dados que não representa adequadamente determinada população.
Nesse cenário, atribuir automaticamente o resultado ao médico significaria ignorar uma etapa anterior da cadeia causal.
A responsabilidade pelo produto defeituoso, prevista no art. 12 do CDC, poderá assumir relevância, conforme as características concretas da relação jurídica e da tecnologia fornecida.
Surge, então, uma questão particularmente delicada: como provar que o defeito estava no algoritmo?
O paciente normalmente não terá acesso ao código-fonte. Não conhecerá os dados utilizados no treinamento. Não saberá quais versões do modelo foram utilizadas. Não terá, em regra, conhecimento técnico para identificar um eventual viés algorítmico.
E provavelmente também não saberá se determinada recomendação decorreu de uma falha de programação, de uma limitação conhecida do sistema ou de uma utilização inadequada pelo hospital.
A assimetria informacional é evidente.
É nesse ponto que os instrumentos processuais de distribuição do ônus da prova assumem especial importância.
Nas relações de consumo, o art. 6º, VIII, do CDC permite a inversão do ônus da prova quando presentes os requisitos legais, mecanismo que pode adquirir especial relevância em litígios envolvendo sistemas complexos de inteligência artificial.
Não se trata, evidentemente, de estabelecer uma presunção automática de defeito contra o fornecedor.
Trata-se de reconhecer que a parte que detém o conhecimento técnico e os dados necessários à reconstrução do funcionamento do sistema pode estar em posição muito mais adequada para produzir determinada prova.
A "caixa-preta" e o problema da explicabilidade
Um dos conceitos mais importantes para compreender o problema é o da chamada "caixa-preta".
Determinados modelos de inteligência artificial, especialmente aqueles baseados em técnicas avançadas de aprendizado de máquina, podem apresentar resultados cuja cadeia interna de decisão não é facilmente compreensível por seres humanos.
O sistema apresenta uma resposta, mas nem sempre consegue oferecer uma explicação suficientemente transparente sobre todos os fatores que conduziram àquela conclusão.
No âmbito médico, essa característica produz uma consequência jurídica relevante.
Se um algoritmo recomenda determinada conduta e essa recomendação causa dano ao paciente, será necessário reconstruir, posteriormente, o processo decisório.
O Direito trabalha com causalidade.
O processo judicial precisa investigar fatos.
A perícia precisa analisar comportamentos, documentos, informações e circunstâncias concretas.
Uma tecnologia cuja operação seja absolutamente inexplicável pode criar uma dificuldade probatória incompatível com a necessidade de apuração do dano.
Por isso, a discussão sobre inteligência artificial na medicina não pode se limitar à eficiência.
É necessário discutir também transparência, rastreabilidade, auditabilidade e explicabilidade.
O paciente não precisa necessariamente conhecer todos os detalhes matemáticos do algoritmo.
Mas deve existir, especialmente em situações de dano, uma possibilidade razoável de reconstrução técnica de como aquela ferramenta foi utilizada e quais limitações eram conhecidas.
O prontuário eletrônico como instrumento de prova
Nesse novo cenário, o prontuário médico ganha uma importância ainda maior.
Não bastará registrar que determinado diagnóstico foi realizado.
Em situações em que a inteligência artificial participou do processo decisório, será cada vez mais relevante documentar como essa tecnologia foi utilizada.
Qual sistema foi empregado?
Qual versão estava em funcionamento?
Qual resultado foi apresentado?
O médico concordou ou discordou da recomendação?
Quais elementos clínicos foram considerados?
Houve alguma revisão humana?
O sistema apresentou algum alerta ou limitação?
Essas informações podem ser determinantes para a reconstrução posterior dos fatos.
O prontuário, tradicionalmente compreendido como instrumento de continuidade da assistência, passa também a assumir uma função probatória ainda mais sofisticada.
A documentação adequada da interação entre médico e inteligência artificial poderá ser decisiva para demonstrar que o profissional exerceu efetivamente seu julgamento clínico.
Da mesma forma, poderá permitir identificar eventual falha da instituição ou do fornecedor da tecnologia.
A LGPD e os dados utilizados pela inteligência artificial médica
Outro aspecto inevitável é a proteção de dados pessoais.
Dados referentes à saúde são classificados pela LGPD - lei geral de proteção de dados como dados pessoais sensíveis, submetidos a regime jurídico específico.
A utilização de grandes bases de dados para treinamento e aperfeiçoamento de sistemas de inteligência artificial, portanto, não pode ser dissociada das exigências de governança e proteção de dados.
Aqui aparece uma conexão importante entre proteção de dados e responsabilidade civil.
Um algoritmo não é melhor simplesmente porque utiliza uma quantidade maior de informações.
Se os dados utilizados para seu desenvolvimento forem inadequados, desatualizados, enviesados ou pouco representativos, o resultado produzido poderá carregar essas mesmas deficiências.
O problema jurídico, portanto, pode começar muito antes do momento em que o médico recebe a recomendação.
Pode começar na própria construção da base de dados.
Isso exige uma visão mais ampla da cadeia tecnológica: dados, desenvolvimento, validação, fornecimento, implementação e utilização clínica.
Cada etapa pode representar um ponto de risco.
Quem deve responder pelo erro?
A resposta provavelmente não será encontrada em uma fórmula única.
Em determinado caso, a responsabilidade poderá ser atribuída ao profissional que utilizou inadequadamente a ferramenta.
Em outro, poderá estar relacionada ao estabelecimento de saúde que implementou um sistema sem validação ou supervisão adequadas.
Em outro, o problema poderá estar no próprio produto tecnológico fornecido ao mercado.
Também não está descartada a possibilidade de concorrência de condutas e responsabilidades, conforme a participação causal de cada agente.
O que não parece juridicamente adequado é adotar uma solução automática segundo a qual todo erro de inteligência artificial seria necessariamente erro médico.
Da mesma maneira, seria inadequado concluir que o médico estaria sempre isento porque apenas seguiu uma recomendação produzida por um sistema.
Entre esses dois extremos está o verdadeiro desafio jurídico.
Será necessário identificar quem tinha dever de agir, conhecimento técnico, capacidade de prevenção e possibilidade concreta de evitar o dano.
A responsabilidade civil deverá acompanhar a cadeia de risco criada pela própria tecnologia.
A necessidade de governança da inteligência artificial na saúde
O avanço tecnológico exige também uma mudança de postura das instituições de saúde.
Não basta adquirir uma ferramenta e disponibilizá-la aos profissionais.
Hospitais e clínicas deverão estabelecer protocolos de utilização, critérios de validação, mecanismos de supervisão e procedimentos para registro das decisões assistidas por inteligência artificial.
Também será necessário capacitar os profissionais para compreender não apenas as potencialidades, mas principalmente as limitações dos sistemas utilizados.
A pergunta relevante não é apenas:
"A inteligência artificial acertou?"
É também:
"Em quais situações ela pode errar?"
Essa segunda pergunta talvez seja juridicamente mais importante.
Um sistema de diagnóstico não deve ser avaliado exclusivamente por sua taxa geral de acerto. É necessário conhecer seus limites, seus falsos positivos, seus falsos negativos e o contexto populacional em que foi validado.
A segurança do paciente exige que a tecnologia seja compreendida dentro de suas possibilidades e limitações.
Conclusão
A inteligência artificial representa uma das maiores transformações tecnológicas já experimentadas pela medicina.
Sua utilização pode ampliar a capacidade diagnóstica, acelerar processos, identificar padrões e auxiliar profissionais na tomada de decisões cada vez mais complexas.
Mas inovação tecnológica não significa ausência de responsabilidade.
Ao contrário.
Quanto mais sofisticada se torna a tecnologia, mais sofisticados deverão ser os mecanismos jurídicos destinados a identificar e distribuir os riscos dela decorrentes.
O Direito não poderá simplesmente perguntar quem apertou o botão.
Precisará investigar quem desenvolveu o sistema, quem o forneceu, quem o validou, quem o incorporou à prática clínica, quem o utilizou e, sobretudo, em qual etapa ocorreu a falha que contribuiu para o dano.
A inteligência artificial não deve ser transformada em um novo sujeito de responsabilidade, tampouco em um mecanismo de transferência automática da responsabilidade médica.
Ela é uma ferramenta inserida em uma cadeia humana e empresarial de decisões.
O grande desafio do Direito Médico será, portanto, construir critérios capazes de conciliar dois valores que não precisam ser antagônicos: a proteção do paciente e o desenvolvimento tecnológico da medicina.
No centro dessa equação deve permanecer o paciente.
Porque, por mais sofisticado que seja o algoritmo, por mais avançado que seja o modelo matemático e por mais precisa que seja a tecnologia, a decisão jurídica continuará tendo como destinatário um ser humano que sofreu - ou poderá sofrer - as consequências de uma decisão tomada com o auxílio de uma máquina.
E é justamente por isso que, na medicina do futuro, talvez a pergunta mais importante não seja se a inteligência artificial substituirá o médico.
Mas se o Direito estará preparado para definir quem responde quando a máquina participa da decisão e o ser humano suporta o dano.
_______
Referências
BRASIL. Constituição da República Federativa do Brasil de 1988.
BRASIL. Lei nº 8.078, de 11 de setembro de 1990. Código de Defesa do Consumidor.
BRASIL. Lei nº 10.406, de 10 de janeiro de 2002. Código Civil.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais.
CONSELHO FEDERAL DE MEDICINA. Resolução CFM nº 2.314, de 20 de abril de 2022. Define e regulamenta a telemedicina, como forma de serviços médicos mediados por tecnologias de comunicação.
CONSELHO FEDERAL DE MEDICINA. Resolução CFM nº 1.821, de 11 de julho de 2007. Aprova as normas técnicas concernentes à digitalização e uso dos sistemas informatizados para a guarda e manuseio dos documentos dos prontuários dos pacientes.
CAVALIERI FILHO, Sergio. Programa de Responsabilidade Civil. São Paulo: Atlas.
KFOURI NETO, Miguel. Responsabilidade Civil do Médico. São Paulo: Revista dos Tribunais.
MIRAGEM, Bruno. Direito Civil: Responsabilidade Civil. São Paulo: Saraiva.