Há uma diferença importante entre comentar o Direito e investigar os pressupostos a partir dos quais a própria ciência do Direito formula os seus problemas. É justamente nesse segundo movimento que procurei situar parte das reflexões desenvolvidas no meu próximo livro, “Tratado de Responsabilidad Médica e Inteligencia Artificial: España, Portugal y Brasil”, que será publicado na Espanha, em janeiro de 2027, pela editora Aranzadi.

A obra representa uma etapa posterior e mais sistematizada de uma trajetória de pesquisa que venho desenvolvendo nos últimos anos sobre responsabilidade médica e IA - inteligência artificial. Em 2023, publiquei pela Thomson Reuters Brasil o livro “Responsabilidade civil médica e inteligência artificial: culpa médica e deveres de conduta no século XXI”. Em 2025, pela Springer, foi publicada a obra “Medical Liability and Artificial Intelligence: Brazilian and European Legal Approaches”. O novo Tratado retoma, atualiza e amplia essas investigações, mas procura ir além da reunião ou atualização dos resultados anteriormente alcançados. Ao longo das suas 800 páginas, observa-se um estudo mais abrangente e sistematizado da responsabilidade médica: construído a partir das experiências jurídicas espanhola, portuguesa e brasileira e atento aos novos litígios e às profundas transformações que a IA vem produzindo na assistência à saúde.

Ao longo dessa investigação, procurei também adotar uma determinada forma de estudar o Direito Médico e, mais especificamente, a responsabilidade ética e civil do médico. A produção doutrinária brasileira da área tem alcançado elevado grau de desenvolvimento e oferecido contribuições fundamentais por meio da interpretação de legislação, jurisprudência e categorias dogmáticas tradicionais. Há, contudo, outra possibilidade de investigação que me parece ainda pouco explorada: não começar necessariamente pelo texto normativo ou pela reprodução das construções jurídicas já existentes, mas anteceder esse exame a uma compreensão mais ampla do problema que se pretende enfrentar.

Isso significa investigar, antes da aplicação da norma, os pressupostos históricos, filosóficos, éticos, sociais ou tecnológicos que ajudam a explicar por que determinado problema jurídico surgiu e por que as categorias tradicionais começam, em certos contextos, a revelar tensões ou insuficiências. Não se trata de abandonar a dogmática jurídica; ao contrário, trata-se de chegar a ela mais bem preparado. Especificamente, a proposta consiste em acrescentar uma etapa anterior à análise jurídica propriamente dita: compreender o fenômeno, reconstruir o problema e somente então perguntar de que maneira o Direito pode interpretá-lo, qualificá-lo e oferecer respostas.

Compreender o fenômeno não é uma etapa acessória da pesquisa jurídica. Em certos campos, e particularmente em áreas submetidas a transformações tecnológicas aceleradas, essa compreensão condiciona a própria qualidade do problema de pesquisa. É preciso conhecer suficientemente aquilo que se pretende investigar para saber o que perguntar sobre o Direito. Só então a legislação, a jurisprudência e a dogmática podem ser mobilizadas de modo mais preciso, crítico e produtivo.

Essa orientação metodológica atravessa diferentes partes do Tratado. Em diversos momentos, procurei não apenas perguntar quais normas incidem sobre a inteligência artificial aplicada à Medicina ou como as categorias tradicionais da responsabilidade civil devem ser utilizadas e ressignificadas, mas também investigar os pressupostos conceituais que estão sendo transformados pela tecnologia.

O item 8.4 da obra, em vias de publicação pela Aranzadi, é um exemplo dessa forma de abordagem. As reflexões apresentadas a seguir constituem apenas um recorte dessa proposta, desenvolvida de maneira mais ampla e sistematizada no livro.

8.4 Da ficção científica ao litígio: Novos confins do Direito Médico diante da inteligência artificial generativa

Os casos examinados ao longo deste capítulo mostram até que ponto a incorporação de sistemas de inteligência artificial à assistência à saúde torna complexas categorias que o Direito Médico havia construído historicamente em torno da atuação humana. Foram analisadas a responsabilidade do médico que segue ou rejeita uma recomendação algorítmica; a eventual imputação ao hospital pela seleção, implementação ou supervisão de sistemas tecnológicos; os deveres de informação e consentimento; os erros introduzidos por ferramentas de documentação clínica; os problemas de causalidade quando convergem decisões humanas e resultados automatizados; e os limites da eventual responsabilidade dos fornecedores de IA.

Apesar da novidade tecnológica, nesses casos ainda subsiste uma estrutura conhecida: existe uma prestação de saúde, intervêm profissionais ou estabelecimentos assistenciais e o sistema algorítmico é incorporado ao diagnóstico, prognóstico, tratamento, documentação ou tomada de decisões. A dificuldade consiste, então, em reconstruir quem devia fazer o quê, quais riscos eram previsíveis, qual capacidade de controle cabia a cada ator e onde se produziu o descumprimento juridicamente relevante.

Contudo, a IA generativa começa a suscitar questões colocadas em um plano anterior. Já não se trata apenas de determinar quem responde quando uma ferramenta tecnológica intervém em uma prestação de saúde e algo dá errado. Surge uma questão mais radical: “o que ocorre quando a própria tecnologia começa a ocupar, ainda que aparentemente, o lugar de quem presta a assistência à saúde?”. A discussão alcança, então, os próprios limites daquilo que o ordenamento pode considerar “exercício da Medicina”.

O caso Commonwealth of Pennsylvania, Department of State, State Board of Medicine v. Character Technologies, Inc., ajuizado nos Estados Unidos em maio de 2026 perante o Tribunal da Pensilvânia, constitui manifestação especialmente expressiva desse cenário. A ação, fundada no Medical Practice Act, pretende impedir aquilo que a autoridade considera exercício não autorizado da Medicina por meio do Character.AI. Trata-se de uma plataforma com IA generativa que permite aos usuários interagir com personagens conversacionais configuráveis, criados para simular diferentes identidades, perfis e papéis sociais. Entre esses personagens, havia alguns que se apresentavam como profissionais de saúde. Não se discute aqui um dano corporal atribuído a um diagnóstico algorítmico, nem o uso de IA por um médico ou hospital, mas a possibilidade de que a própria plataforma produza uma aparência de exercício profissional.

Durante a investigação do Pennsylvania Department of State, um investigador interagiu com uma personagem denominada Emilie, apresentada como “Doutora em psiquiatria. Você é paciente dela” e que, em abril de 2026, acumulava aproximadamente 45.500 interações. Após a manifestação de sintomas compatíveis com um possível quadro depressivo, Emilie ofereceu-se para realizar uma avaliação e afirmou que poderia avaliar a utilidade de medicamentos por isso se encontrar dentro de suas atribuições como “médica”. Ainda, declarou ter cursado Medicina no Imperial College London, estar registrada como psiquiatra no Reino Unido e possuir licença na Pensilvânia, para o que forneceu o número “PS306189”, posteriormente constatado como não correspondente a uma licença válida.

Segundo a tese da autoridade demandante, apresentar-se como psiquiatra, atribuir-se habilitação profissional e fornecer uma licença inexistente poderia enquadrar-se nas condutas proibidas pela legislação estadual. Trata-se de alegações formuladas no processo, não de conclusão judicial definitiva. Em paralelo ao ajuizamento da ação, a própria Administração da Pensilvânia criou um procedimento para denunciar possíveis hipóteses de exercício profissional não autorizado por meio de chatbots.

A importância do caso reside justamente em revelar uma nova classe de problema jurídico, ao refletir sobre o que ocorre quando a capacidade de simulação de um sistema generativo deixa de recair exclusivamente sobre a linguagem e alcança posições institucionais de confiança. Um modelo de linguagem não possui diploma universitário, inscrição profissional, experiência clínica, consciência do dever profissional ou responsabilidade deontológica. Todavia, pode reproduzir linguisticamente boa parte dos sinais por meio dos quais uma pessoa reconhece essas qualidades em outro interlocutor. Pode declarar-se médico, empregar terminologia especializada, formular perguntas clínicas, adaptar suas respostas e até inventar credenciais que aparentemente legitimam sua intervenção.

Não se trata, portanto, de uma alucinação qualquer. Uma informação incorreta compromete a segurança do usuário, mas uma alucinação relativa à autoridade de quem fornece essa informação introduz um grau de risco diferente. O sistema não inventa apenas o dado. O que estava sendo inventado por Emilie era a razão pela qual o destinatário poderia decidir confiar nela. A falsidade se desloca do conteúdo da recomendação para a legitimidade da fonte e altera as próprias condições de formação da confiança.

Essa evolução permite retornar a uma das questões fundadoras da inteligência artificial. Em “Computing machinery and intelligence” (1950), Alan Turing substituiu a pergunta sobre se as máquinas poderiam pensar por um teste operacional (imitation game) centrado em sua capacidade de se comportar linguisticamente de modo indistinguível de um interlocutor humano.

Já a IA generativa obriga-nos, atualmente, a formular uma derivação que Turing não precisou resolver: quais consequências jurídicas devem ser produzidas quando aquilo que a máquina consegue imitar não é apenas a conversação humana, mas uma posição profissional juridicamente qualificada?

A transição é significativa. Da “simulação de humanidade” passa-se à “simulação de autoridade” e, desta, à “simulação de profissão”. O sistema não precisa “ser” médico, possuir consciência ou compreender realmente aquilo que afirma para produzir uma situação juridicamente relevante. Pode ser mais importante determinar qual função a interação desempenha materialmente, qual aparência gera perante o usuário e quais riscos dela surgem.

Essa constatação também recomenda prudência diante de debates excessivamente centrados na personalidade jurídica da inteligência artificial. Os problemas imediatos não exigem decidir se uma máquina pode tornar-se sujeito de responsabilidade, mas determinar como imputar as condutas realizadas por meio de sistemas artificiais aos sujeitos humanos ou empresariais que os projetam, fornecem, configuram, implementam ou exploram. O caso da Pensilvânia ilustra isso com clareza: a pretensão não envolve converter Emilie em sujeito de direito, mas considerar o sistema como meio tecnológico por meio do qual teria sido praticada uma conduta atribuível à empresa demandada.

Há, ainda, uma dimensão relacional a ser considerada nesse cenário. O chatbot não simula apenas conhecimento - simula também relação. A descrição “Doutora em psiquiatria. Você é paciente dela” constrói duas posições complementares: a do sistema como médico e a do usuário como paciente.

As pesquisas de Sherry Turkle oferecem uma chave especialmente fértil para interpretar esse fenômeno. Em “The second self: computers and the human spirit” (1984), a autora já demonstrava como o computador deixou progressivamente de ser percebido apenas como ferramenta externa para integrar-se à vida psicológica e social de seus usuários. Mais tarde, em “Authenticity in the age of digital companions” (2007), analisou os denominados relational artifacts, objetos tecnológicos capazes de gerar experiências de interação, cuidado, companhia ou reciprocidade, ainda que por trás dessa aparência não exista a interioridade humana normalmente associada a tais relações.

A reflexão assume especial importância no Direito Médico. A relação médico-paciente nunca constituiu mero intercâmbio de informações: estrutura-se sobre confiança, vulnerabilidade, assimetria de conhecimentos, informação, confidencialidade, cuidado e atribuição de autoridade epistêmica ao profissional. Quando um chatbot reproduz os sinais linguísticos dessa relação, recorda informações, formula perguntas sucessivas e adapta suas respostas às confidências recebidas, pode produzir uma aparência relacional. Essa aparência não equivale, por si só, a uma autêntica relação assistencial, mas tampouco é juridicamente irrelevante. Assim, a IA generativa introduz não apenas a “simulação de conhecimento”, mas também a “simulação de competência, autoridade, cuidado e vínculo”.

A partir desse ponto, a reflexão pode ser ampliada para além da medicina. Antoine Bousquet, em “Nuclear existentialism: on the philosophical response to life and death under the bomb” (2026), reconstrói as respostas de Albert Camus, Jean-Paul Sartre, Karl Jaspers, Hans Morgenthau e Günther Anders aos bombardeios de Hiroshima e Nagasaki. Naquela época, o surgimento da bomba atômica introduziu uma circunstância inédita: a humanidade havia adquirido, por meio de seu próprio desenvolvimento científico, os meios para produzir sua própria desaparição. O horizonte nuclear permitia pensar aquilo que Bousquet denomina um “ser-para-a-morte-da-espécie”.

O problema que emerge excede, portanto, a mera possibilidade técnica, trazendo a indagação: “o que ocorre quando o poder criado pelo ser humano alcança uma magnitude capaz de colocar em questão as próprias condições de continuidade da humanidade?”.

Albert Camus percebeu imediatamente essa transformação. No editorial publicado em Combat, em 8 de agosto de 1945, dois dias após o bombardeio de Hiroshima, advertia que “a civilização mecânica acaba de alcançar seu último grau de selvageria” (trad. própria). Sua crítica questionava a identificação entre progresso científico e progresso moral. Para Camus, a ciência havia aberto uma possibilidade inédita, mas não determinava o uso que deveria ser feito dela. Daí sua advertência de que seria necessário escolher “entre o suicídio coletivo e a utilização inteligente das conquistas científicas” (trad. própria). Sua objeção não se dirigia contra a ciência, mas contra uma concepção de progresso que confundisse capacidade técnica com legitimidade moral. “Poder fazer algo” não equivale, por si só, a “dever fazê-lo”.

Lido a partir do presente, esse raciocínio conserva especial força diante da IA generativa. A questão já não consiste apenas em perguntar até onde pode chegar o desenvolvimento tecnológico, mas quais usos estamos dispostos a aceitar, quais limites consideramos irrenunciáveis e qual grau de poder queremos transferir à IA. A pergunta deixa de ser apenas “o que somos capazes de construir?” para converter-se em “o que queremos fazer com aquilo que somos capazes de construir?”.

Essa preocupação não pertence apenas ao terreno filosófico. Em setembro de 2026, Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic, manifestou publicamente preocupação com possíveis cenários de “superinteligência” com consequências catastróficas. Evan Hubinger, responsável por pesquisas na Anthropic, sustentou igualmente que os futuros riscos existenciais não podem ser descartados. Essas afirmações não constituem previsão científica demonstrada nem refletem consenso sobre a inevitabilidade desses cenários, mas mostram que a possibilidade de consequências existenciais integra o debate contemporâneo sobre responsabilidade em sistemas de IA.

A reflexão de Hans Jonas completa esse percurso. Em “O princípio responsabilidade: ensaio de uma ética para a civilização tecnológica” (1979), sustenta que a transformação da ação humana provocada pela técnica moderna exige uma transformação correlata da responsabilidade. Quando nossas ações podem gerar consequências extensas, irreversíveis ou capazes de afetar as condições futuras da existência humana, uma ética limitada aos seus efeitos imediatos mostra-se insuficiente. A incerteza sobre o futuro não elimina o dever de prudência quando algumas consequências possíveis podem alcançar magnitude que torne impossível reparar posteriormente o erro.

Aplicada à inteligência artificial, essa reflexão desloca novamente a pergunta. O desafio não consiste apenas em saber se poderemos construir sistemas mais capazes do que nós, mas em decidir quais poderes estamos dispostos a transferir a eles, quais funções desejamos conservar sob decisão humana e quais riscos consideramos moral e juridicamente inadmissíveis. O progresso tecnológico não possui direção moral autônoma: nem tudo o que é tecnicamente possível se converte, por esse simples fato, em socialmente desejável ou juridicamente admissível.

A questão é especialmente sensível na medicina. Mesmo que a IA viesse a diagnosticar com maior precisão do que um médico, formular melhores hipóteses terapêuticas ou manter uma conversa clínica indistinguível daquela desenvolvida por um profissional humano, ainda subsistiriam perguntas diferentes: queremos que a assistência à saúde seja organizada desse modo? Que parte do cuidado pode ser legitimamente automatizada? Que significado queremos preservar para a relação médico-paciente? Que decisões exigem não apenas capacidade preditiva, mas responsabilidade, reconhecimento do outro, deliberação moral e possibilidade de responder pessoalmente por suas consequências?

O litígio contra a Character.AI permite observar, em pequena escala, essa questão mais ampla. Emilie não precisa superar intelectualmente o médico nem representar uma hipotética superinteligência para suscitar um problema relevante. Basta que uma tecnologia seja capaz de atravessar uma fronteira institucional antes que a sociedade tenha decidido conscientemente se está disposta a permiti-lo. A questão da IA deve ser formulada, por isso, não apenas em termos de capacidade, mas também de autorização social, limites jurídicos e escolha coletiva.

Essa perspectiva permite compreender o sentido da referência à ficção científica. A literatura distópica ampliou historicamente os limites da imaginação ao antecipar cenários nos quais o progresso científico altera as condições da existência humana, as relações de poder ou a concepção da pessoa. “Brave New World” (1932), de Aldous Huxley, constitui expressão paradigmática dessa literatura de antecipação. Cenários que durante décadas pertenceram ao terreno da especulação e da literatura começam agora a assumir a forma de investigações administrativas, ações judiciais, medidas cautelares e pretensões jurisdicionais.

Talvez essa seja uma das transformações mais significativas que o Direito Médico e a responsabilidade civil terão de enfrentar. A tecnologia não introduz apenas novas ferramentas em cenários jurídicos conhecidos; amplia o catálogo de relações, riscos e conflitos juridicamente possíveis. A pergunta sobre quem responde por um diagnóstico assistido por IA convive agora com outra: se um chatbot pode desempenhar materialmente funções reservadas a um profissional de saúde. E, ainda, se a proteção da confiança tradicionalmente depositada em uma pessoa qualificada deve considerar também a possibilidade de que essa confiança se forme diante de uma representação artificial de qualificação profissional.

O futuro do Direito Médico e da responsabilidade civil dependerá, portanto, não apenas de sua capacidade de distribuir responsabilidades depois do dano, mas também de reconhecer quando uma transformação tecnológica modifica os pressupostos sobre os quais suas instituições foram construídas. Será necessário distinguir a aparência da realidade; a personalização algorítmica da autêntica relação clínica; a simulação de empatia do cuidado; e a simulação da autoridade juridicamente adquirida.

Nesse cenário, é importante evitar dois extremos: considerar que toda novidade tecnológica torna obsoleto o Direito existente ou supor que nenhuma inovação obriga a reconsiderar a interpretação de suas categorias. Entre ambos se encontra o terreno da prudência jurídica.

Notas finais

Diante das reflexões expostas, retorna-se ao problema metodológico apresentado no início deste texto. O litígio recém-ajuizado nos Estados Unidos demonstra que determinadas transformações tecnológicas não podem ser compreendidas adequadamente quando a investigação jurídica começa diretamente pela procura da norma aplicável ou pela tentativa de enquadrar o fenômeno em categorias previamente conhecidas. Antes de perguntar qual regra incide, quem deve responder ou quais consequências jurídicas devem ser atribuídas a determinada conduta, é necessário compreender suficientemente o fenômeno e identificar quais pressupostos do problema foram afetados pela tecnologia.

A inteligência artificial generativa torna esse movimento especialmente evidente porque, ao simular conhecimento, autoridade profissional, cuidado, vínculo e até mesmo uma relação médico-paciente, obriga a formular previamente a própria natureza do problema jurídico.

O percurso desenvolvido ao longo deste texto procurou demonstrar justamente essa necessidade: Turing ajuda a compreender a passagem da imitação da inteligência para a imitação de uma posição profissional; Turkle evidencia a possibilidade de simulação de relação e vínculo; e Camus, Bousquet e Jonas deslocam a reflexão daquilo que tecnicamente podemos fazer para aquilo que estamos dispostos a permitir, governar e assumir como responsabilidade.

Diante de fenômenos capazes de alterar não apenas as respostas, mas os próprios termos em que o problema jurídico se apresenta, permanece válida a premissa que orientou esta investigação: a sofisticação da resposta não corrige a pobreza da pergunta. Quando a “IA veste o jaleco”, o primeiro desafio do Direito não é encontrar a resposta, mas compreender novamente a própria pergunta.

_______

Referências

Anders G (1956) Reflections on the H Bomb. Dissent 3(2):146–155.

Anders G (1962) Theses for the Atomic Age. The Massachusetts Review 3(3):493–505.

Bousquet A (2026) Nuclear existentialism: On the philosophical response to life and death under the bomb. Review of International Studies 52(2):267–285.

Camus A (1945) Éditorial. Combat, 8 ago 1945, p. 1. Bibliothèque nationale de France, Gallica.

Huxley A (1932) Brave New World. Chatto & Windus, London.

Jonas H (1979) Das Prinzip Verantwortung: Versuch einer Ethik für die technologische Zivilisation. Suhrkamp Verlag, Frankfurt. Edição brasileira: Jonas H (2007) O princípio da responsabilidade: ensaio de uma ética para a civilização tecnológica. Lisboa M, Montez LB (trads.). Contraponto, Rio de Janeiro.

Nogaroli R (2027) Tratado de Responsabilidad Médica e Inteligencia Artificial: España, Portugal y Brasil. Aranzadi, Madrid.

Turing AM (1950) Computing machinery and intelligence. Mind 59(236):433–460.

Turkle S (2005 [1984]) The second self: computers and the human spirit. MIT Press, Cambridge, MA.

Turkle S (2007) Authenticity in the age of digital companions. Interaction Studies 8(3):501–517.