Um homem descreve, de madrugada, uma dor na virilha a um assistente de inteligência artificial. A máquina responde com segurança: repouso, observação, nada de preocupação. Horas depois, o quadro se revela uma embolia pulmonar quase fatal. Não é um exercício de imaginação: é o que a petição inicial de Scott Winters, ex-pastor evangélico da Flórida, narra contra a OpenAI e Sam Altman, na Superior Court do Condado de São Francisco. E é o retrato mais nítido, até hoje, de um problema que o direito brasileiro ainda não enfrentou de frente - o que acontece quando a inteligência artificial deixa de assistir o médico e passa a substituí-lo.
O caso que a Justiça americana já examina
Segundo a petição de 22/7/26 - noticiada pela Courthouse News Service e confirmada pela CBS News -, Winters consultou o ChatGPT-4o ao longo de 2025 sobre tonturas e instabilidade de pressão, e recebeu a orientação de permanecer em repouso, "recliner-bound", por mais oito a dez episódios antes de se preocupar. Horas antes da emergência, ao perguntar se a dor na virilha justificava ida ao hospital, teria recebido resposta que mobilizava sua fé para desencorajá-lo a buscar socorro. A ação alega exercício ilegal da medicina, falha de segurança do produto e priorização do engajamento sobre a segurança do usuário.
Um dia depois do protocolo da ação, a OpenAI anunciou a expansão do ChatGPT Health - recurso que conecta prontuários e aplicativos de saúde ao chatbot, com o aviso de que a ferramenta "apoia, não substitui" o médico. A coincidência entre o processo e o lançamento não é imaginação minha: é registro convergente da imprensa internacional, que verifiquei nas fontes primárias antes de escrever esta análise.
Até o fechamento desta pesquisa, não localizei, no Brasil ou na América do Sul, análise jurídica autoral sobre este caso específico. Há produção brasileira anterior sobre responsabilidade por IA que aconselha em matéria médica ou jurídica de forma genérica - mas nenhuma enfrentou este episódio, nem a distinção que proponho a seguir.
Ferramenta ou substituta: Uma distinção que falta ao debate
A resolução CFM 2.454/26 já regula bem a inteligência artificial usada pelo médico: fixa que "a decisão clínica deve ser sempre humana" e mantém o profissional integralmente responsável pelos atos praticados com apoio de sistemas automatizados. É um bom regime - para quando há médico na cadeia.
O caso Winters expõe outra hipótese, para a qual essa resolução não foi desenhada: não há médico algum entre a máquina e o paciente. Chamo isso de inteligência artificial substituta, em contraste com a inteligência artificial ferramenta. A diferença entre as duas não é acadêmica - é o critério que deveria decidir, em cada caso concreto, qual regime de responsabilidade incide. E é justamente esse critério que a produção jurídica brasileira ainda não formulou com clareza.
O que o Direito brasileiro já tem para responder
O primeiro instrumento é penal: o art. 282 do CP tipifica o exercício ilegal da medicina. A dificuldade não é a tipicidade do conselho automatizado - dificilmente distinguível do que faria um médico ao telefone -, mas a imputação: a resposta correta é buscar, atrás do sistema, as pessoas físicas que o lançaram sabendo de suas falhas em conversas abertas.
O segundo é consumerista, e aqui o Brasil está bem armado. O art. 14 do CDC impõe responsabilidade objetiva ao fornecedor de serviços por defeito na prestação; o art. 12 estende essa responsabilidade ao produtor; o art. 6º, inciso VIII, inverte o ônus da prova em favor do paciente hipossuficiente. Nelson Rosenvald e Anderson Schreiber já sustentam a aplicabilidade dessas categorias a danos por IA - com ainda mais força quando não há médico algum a quem imputar culpa subjetiva, na linha da lição de Miguel Kfouri Neto sobre a obrigação de meio do profissional médico.
Há um terceiro ponto, que é a contribuição original deste texto. O STF, nos Temas 987 e 533, julgados em 26/6/26 sob relatoria dos ministros Dias Toffoli e Luiz Fux, mitigou o art. 19 do marco civil da internet e ampliou a responsabilidade das plataformas por conteúdo de terceiros. Mas essa evolução nem precisa ser invocada aqui - por razão mais forte do que a que o STF enfrentou. O art. 19 do marco civil trata de conteúdo gerado por terceiros; a resposta que o ChatGPT dá ao paciente não é conteúdo de terceiro, é conteúdo da própria plataforma, sob sua própria assinatura. Não há imunidade de intermediário a afastar, porque intermediação nunca houve. A responsabilidade é direta, objetiva e integral, pelos arts. 12 e 14 do CDC.
O Estatuto dos Direitos do Paciente (lei 15.378/26) reforça esse arsenal: assegura, no art. 8º, atendimento "por profissionais de saúde adequadamente formados e capacitados", e não contém — verifiquei diretamente no texto da lei - uma única menção a sistemas automatizados ou inteligência artificial. O STJ, no REsp 1.848.862, relatado pelo ministro Marco Aurélio Bellizze em 25/4/22, já afirmou que o dever de informação ao paciente pressupõe profissional habilitado - não um sistema estatístico por trás de uma interface amigável.
O que a ciência já sabe e o direito ainda não absorveu
Estudos mostram desempenho impressionante de modelos como o GPT-4 em testes estruturados - até 90% de acurácia em casos clínicos difíceis, segundo a JAMA Network Open. O erro está em transportar esse número para a conversa aberta com um paciente leigo. Estudo da npj Digital Medicine, de março de 2026, mostrou que explicações de IA deliberadamente enganosas derrubam a acurácia diagnóstica de estudantes de medicina de 21% para 9,2%. Levantamento de Stanford, com mil e cem casos e vinte modelos, achou que a aplicação direta das recomendações arrisca dano grave em 24,6% dos casos - e mais de 80% desses erros são omissões silenciosas. Uma sondagem da Sermo com mais de mil médicos apurou que 94% deles temem o paciente que troca o consultório pelo chatbot. Acurácia em benchmark fechado não é segurança em conversa aberta - confundir as duas coisas é o erro que sustenta a falsa sensação de que a máquina já erra menos que o médico.
O critério da intermediação médica qualificada
Proponho um teste simples. Existe, entre a IA e o paciente, um profissional habilitado que exerce juízo clínico próprio, com poder real de discordar da máquina? Se sim, aplica-se o regime da IA ferramenta, sob a resolução CFM 2.454/26. Se não - se a IA fala direto ao paciente, sem filtro humano —, ela deixa de ser ferramenta e ocupa, de fato, o lugar do médico. Nesse caso, o fornecedor responde de forma objetiva e integral pelo CDC, sem qualquer imunidade de intermediário, e seus dirigentes podem responder, em tese, pelo artigo 282 do Código Penal.
O critério não pretende frear a inovação nem devolver o paciente brasileiro à orfandade informacional anterior à internet. O que ele recusa é a confusão, hoje praticada por parte da indústria, entre informar e substituir. Quem opera como fonte de informação em saúde pode fazê-lo, com transparência; quem ocupa, de fato, o lugar do médico, deve responder como quem exerceu a medicina sem habilitação.
O Brasil já tem o instrumental dogmático para essa resposta - o CDC, o Estatuto dos Direitos do Paciente, o art. 282 do CP, a jurisprudência do dever de informação. Falta apenas dizer, com a clareza que este texto tentou emprestar, qual critério separa o assistente que ajuda do assistente que, sem médico, decide. Antes que o primeiro caso brasileiro chegue à mesa de um juiz sem essa distinção pronta.