Inteligência artificial na medicina: O limite do que podemos fazer

Não há Direito que dê conta de uma sociedade em que a ética falhou. A frase pode parecer excessiva quando pronunciada por um advogado, mas poucas atividades humanas a tornam tão evidente quanto a medicina. O exercício de poder sobre a vida e a saúde do outro sempre exigiu limites anteriores e mais profundos do que aqueles impostos por códigos, regulamentos ou decisões judiciais. Antes de ser jurídica, a pergunta é ética: o que devemos fazer com o poder que o conhecimento nos dá sobre a vida do outro?

A tradição médica percebeu isso muito antes de a tecnologia digital existir. O conhecimento clínico nunca foi tratado apenas como capacidade de intervenção. Ele veio acompanhado de deveres, prudência, responsabilidade e limites. A inteligência artificial não cria esse problema. Ela apenas eleva sua intensidade, porque amplia extraordinariamente a capacidade de observar, prever, classificar, recomendar e decidir. O que antes dependia, exclusivamente, de um profissional altamente treinado, pode agora ser reproduzido em escala, com velocidade e, muitas vezes, sem transparência suficiente sobre o caminho que levou ao resultado.

Por isso, discutir inteligência artificial na medicina não é apenas discutir inovação, nem apenas enumerar normas. É examinar como ética, Direito, mercado e arquitetura tecnológica se combinam para permitir, estimular, restringir ou impedir condutas. O desafio regulatório não consiste em escolher uma dessas dimensões. Consiste em fazê-las convergir para uma tecnologia que continue sendo instrumento do cuidado, e não substituto do julgamento humano.

Cada geração tende a imaginar que vive a época mais singular da história e que jamais os problemas foram tão agudos. Hannah Arendt conheceu essa tentação em circunstâncias extremas. Judia, perseguida pelo regime nazista e apátrida entre 1937 e 1951, Hannah Arendt viveu num século em que o desenvolvimento científico e técnico abriu possibilidades até então inimagináveis, sem conduzir automaticamente a um mundo melhor. O mesmo progresso que contribuiu para prolongar e transformar a vida humana também produziu meios de destruição em escala inédita, dos quais a bomba atômica é o símbolo mais extremo.

Em 1958, na abertura de A condição humana, Arendt formulou a problemática com precisão: "A questão é apenas se desejamos usar nessa direção nosso novo conhecimento científico e técnico". A pergunta não nega a ciência, nem recomenda a paralisia. Ela apenas recusa a crença de que a mera existência de uma possibilidade técnica seja argumento suficiente para sua utilização. Em outras palavras, nem tudo aquilo que sabemos fazer é, necessariamente, aquilo que devemos fazer.

A tecnologia amplia capacidades, responde ao "como" e torna possíveis coisas antes impossíveis. Mas não responde às perguntas decisivas: para quê, até onde e em quais condições essas capacidades devem ser usadas. Quando o avanço tecnológico passa a ser tomado como sinônimo automático de progresso social, instala-se uma espécie de determinismo - ou de consequencialismo tecnológico - segundo o qual tudo aquilo que pode ser desenvolvido acabará sendo adotado e, por isso mesmo, deve ser aceito. Essa passagem do possível ao desejável é intelectualmente falsa e politicamente perigosa.

É nesse ponto que o pensamento adquire função prática. Para Arendt, pensar não é abandonar o mundo, mas interromper o automatismo dos fatos, formar juízos críticos e recuperar a capacidade de agir. Pensar, julgar e agir compõem uma sequência que não pode ser entregue à inércia técnica. A decisão continua sendo humana não porque o ser humano seja infalível, mas porque apenas ele pode responder pela finalidade e pelo sentido da ação. Como escreveu Arendt, "trata-se apenas de pensar o que estamos fazendo".

Reconhecer os limites do Direito não significa diminuir sua importância. Ao contrário. Se não há Direito capaz de salvar uma sociedade em que a ética falhou, também é verdade que não há ordem social estável sem instituições jurídicas capazes de proteger as pessoas contra a força e o arbítrio. Rui Barbosa afirmava que "fora da lei não há salvação". A frase não atribui onipotência à lei; recorda que, sem ela, resta ao indivíduo defender-se por seus próprios meios.

Rudolf von Jhering descreve com maestria o sentimento de desamparo produzido pela ausência do Direito: privado da proteção das leis, o indivíduo é devolvido à barbárie e obrigado a buscar na própria força a proteção que a ordem jurídica lhe negou. Em A luta pelo direito, escreve: “Quem me nega a proteção das leis me expulsa para junto dos selvagens do deserto; coloca em minha mão a clava que me protege a mim mesmo”. O império do Direito, para tomar emprestado o vocabulário de Ronald Dworkin, é uma das grandes conquistas da vida política. Ele organiza expectativas, distribui deveres, oferece proteção e cria mecanismos de responsabilização.

Mas o Direito não regula sozinho. Uma lei pode proibir uma conduta e, ainda assim, encontrar um mercado que a estimula, uma cultura que a normaliza e uma tecnologia que a facilita. Também pode exigir supervisão humana enquanto a interface do sistema induz obediência automática. É por isso que uma boa teoria da regulação precisa olhar para além do texto normativo.

Lawrence Lessig ofereceu uma imagem particularmente útil para esse problema. Em seu modelo das quatro modalidades de regulação, o indivíduo - representado pelo chamado "pathetic dot" - encontra-se no centro da incidência simultânea do Direito, das normas sociais, do mercado e da arquitetura. O comportamento não é condicionado apenas pelo que a lei permite ou proíbe. Ele também é influenciado por expectativas sociais, preços e incentivos econômicos e, sobretudo, por aquilo que o ambiente material ou digital permite fazer.

O exemplo de dirigir em alta velocidade torna o modelo intuitivo. A lei estabelece limites e sanções. As normas sociais determinam se a conduta será admirada, tolerada ou reprovada. O mercado interfere por meio do preço do carro, do combustível e do seguro. A arquitetura reúne a potência do motor, as condições da pista, os mecanismos de controle e os dispositivos que tornam a velocidade possível ou mais difícil. Nenhuma dessas forças atua isoladamente.

Aplicada à inteligência artificial na medicina, essa perspectiva evita dois erros simétricos. O primeiro é acreditar que uma lei geral resolverá, por si só, os conflitos produzidos pela tecnologia. O segundo é imaginar que a ética profissional individual conseguirá resistir indefinidamente a incentivos econômicos, pressões institucionais e sistemas desenhados para conduzir o usuário a determinada resposta. A IA médica responsável não é produto de uma única regra: é resultado da interação entre as quatro forças.

O mercado é o primeiro vetor porque a inteligência artificial combina acesso relativamente simples, distribuição imediata e extraordinária capacidade de escala. Ela promete eficiência, produtividade, redução de custos, melhoria diagnóstica, competição e novos serviços. Esses benefícios não devem ser desprezados. O problema surge quando a facilidade de adoção passa a valer como prova de segurança ou como justificativa suficiente para substituir práticas consolidadas.

É pouco realista imaginar que uma lei puramente proibitiva, sozinha, será capaz de retirar a inteligência artificial da medicina. A tecnologia já integra pesquisas, sistemas hospitalares, ferramentas de apoio à decisão, prontuários, análise de imagens, triagem e comunicação. O caminho não é fingir que a transformação pode ser desfeita, mas organizar os incentivos para que eficiência e escala permaneçam subordinadas ao cuidado. O mercado pergunta se a tecnologia escala. A medicina precisa perguntar se ela cuida.

O Direito, naturalmente, precisa entrar em campo. A União Europeia adotou no AI Act uma abordagem baseada em risco, com obrigações mais intensas para sistemas capazes de produzir maior impacto. No Brasil, o PL 2.338/23, aprovado pelo Senado e atualmente na Câmara dos Deputados, também procura organizar o desenvolvimento e o uso da inteligência artificial a partir de direitos, governança, risco e responsabilização. Trata-se, contudo, de projeto ainda em tramitação, e não de legislação vigente.

Na medicina brasileira, a resolução CFM 2.454/26 representa o movimento mais concreto. A norma afirma que a inteligência artificial pode apoiar, mas a decisão diagnóstica, terapêutica ou prognóstica permanece com o médico. O paciente deve ser informado quando a tecnologia for utilizada de maneira relevante. A IA não pode comunicar autonomamente diagnóstico, prognóstico ou decisão terapêutica. Dados de saúde devem observar exigências rigorosas de privacidade e segurança. O profissional deve usar a ferramenta com senso crítico e pode recusar sistemas que considere inadequados, inseguros, não validados cientificamente ou sem a certificação regulatória pertinente. Instituições que desenvolvam ou utilizem sistemas próprios devem criar mecanismos internos de governança, supervisão, auditoria e monitoramento.

A resolução organiza temas que o Direito sabe tratar: proteção de dados, transparência, segurança, deveres profissionais e responsabilidade. O dever-ser jurídico constitui um primeiro limite para construirmos a inteligência artificial que desejamos. Mas ele não resolve sozinho a maneira concreta pela qual a ferramenta se comportará diante do médico e do paciente. Para isso, é preciso chegar à arquitetura.

A arquitetura é a configuração da própria tecnologia. Influenciada pelo mercado e pelo Direito, ela determina as possibilidades reais da ferramenta e, no fim do dia, limita ou amplia a prática profissional. A IA pode emitir diagnóstico? Exige confirmação humana? Pode falar diretamente com o paciente? Indica grau de confiança? Registra suas recomendações e as alterações realizadas pelo médico? Permite auditoria? Reconhece quando não sabe? Em quais situações deve simplesmente se recusar a agir?

Essas perguntas não são detalhes de engenharia. Cada escolha de design distribui poder e responsabilidade. Um sistema que apresenta uma única resposta com aparência de certeza produz comportamento diferente daquele que expõe hipóteses, limitações e grau de confiança. Uma interface que exige justificativa apenas quando o médico discorda do algoritmo pode transformar a supervisão humana em ratificação burocrática. Dizer que a decisão final é humana não basta; a arquitetura precisa preservar condições materiais para que o médico compreenda, conteste e interrompa.

A importância dessa distribuição aparece de modo especial quando ocorre um erro. Desenvolvedor, sistema, instituição, médico e paciente integram uma cadeia na qual conhecimento, controle e capacidade de prevenção não estão concentrados em uma única pessoa. A responsabilidade profissional do médico não elimina a possível responsabilidade civil, sanitária, contratual ou relacionada à proteção de dados dos demais agentes. A pergunta correta não é apenas "quem assinou a decisão?", mas quem controlava o risco, quem poderia evitá-lo e qual falha efetivamente causou o dano.

A própria resolução CFM reconhece esse problema. O art. 3º, V, assegura ao médico o direito de ser protegido contra responsabilização indevida por falhas atribuíveis exclusivamente a sistemas de inteligência artificial, desde que comprovado o uso diligente, crítico e ético da ferramenta. A regra não oferece imunidade automática, nem resolve previamente toda controvérsia civil. Ela impede, contudo, que a ideia de responsabilidade humana seja convertida em atribuição automática ao médico de todo erro tecnológico.

Esse debate terá ainda uma segunda face. Hoje perguntamos quem responde quando o médico segue a inteligência artificial e ela erra. No futuro, poderemos perguntar quem responde quando o médico ignora uma recomendação algorítmica cientificamente consolidada e a máquina estava certa. A evolução da tecnologia poderá transformar o próprio padrão de diligência médica. Confiar demais pode ser negligência; desconfiar sistematicamente também poderá sê-lo, dependendo da evidência, do contexto e da maturidade do sistema.

É no último vetor de Lessig que se encontra o desafio mais profundo. Normas sociais incluem a ética médica, a cultura profissional, a confiança do paciente, a prudência institucional e os comportamentos que uma comunidade aceita ou reprova. Elas determinam se a tecnologia será tratada como apoio ao julgamento ou como autoridade silenciosa; se a discordância será valorizada ou punida; se eficiência será medida apenas em tempo e custo ou também em qualidade do cuidado.

Nenhuma norma jurídica consegue antecipar todas as situações clínicas, e nenhum sistema consegue traduzir integralmente a singularidade de uma vida em dados. A ética não substitui o Direito, assim como o Direito não substitui a ética. O mercado viabiliza a inovação, mas não define sozinho sua finalidade. A arquitetura transforma valores e incentivos em possibilidades concretas, mas precisa ser orientada por escolhas humanas. A regulação responsável nasce da tensão e da convergência entre essas quatro forças.

Ao final, é preciso retornar à pergunta inicial: o que devemos fazer com o poder que o conhecimento nos dá sobre a vida do outro? A inteligência artificial não criou essa pergunta. A medicina convive com ela há séculos. A tecnologia apenas aumentou extraordinariamente o poder que existe por trás dela.

Por isso, a resposta não virá de uma norma isolada, de uma promessa de mercado, de uma arquitetura aparentemente neutra ou de um apelo abstrato à ética. Precisaremos de leis capazes de proteger e responsabilizar, de incentivos econômicos compatíveis com o cuidado, de sistemas desenhados para permitir contestação e de uma cultura profissional que preserve o pensamento e o julgamento. Nenhuma dessas dimensões, sozinha, será suficiente.

A tecnologia continuará ampliando aquilo que podemos fazer. Cabe a nós decidir aquilo que devemos fazer. Esse é o limite humano que nenhuma máquina pode estabelecer por conta própria. E é também a tarefa política, ética e jurídica que não podemos delegar. Como escreveu Hannah Arendt, "trata-se apenas de pensar o que estamos fazendo".