O eco perigoso da IA: Quando o algoritmo concorda até com o nosso erro

Estava fazendo uma consulta sobre a possibilidade de criar um plano de participação em lucros e resultados em uma empresa e surgiu a questão de se tratar de uma entidade sem fins lucrativos. Fiz uma pesquisa sobre as possibilidades de prosseguir com uma participação apenas em resultado e, após concluir preliminarmente pela possibilidade, submeti minhas premissas à IA para validação.

A ferramenta confirmou o entendimento sem qualquer ressalva. Mas algo me incomodava em tudo que tinha lido. Voltei atrás, reli o material e identifiquei um trecho em um dos textos de análise que falava no risco de a empresa perder a qualidade de empresa sem fins lucrativos caso se concluísse que houve a distribuição de lucros e não apenas de resultado, expondo a instituição ao risco gravíssimo de perder a sua imunidade ou isenção fiscal. A tese era viável, sim, mas exigia travas jurídicas rigorosas que a IA simplesmente omitiu.

Todos temos o que chamamos de viés de confirmação, ou seja, momentos em que buscamos externamente algo que comprove o que estamos pensando e, em tempos de IA, esse tem sido o principal meio de validação de entendimento.

O ponto é que a IA tende a não dizer que estamos errados, ou que uma questão não tem uma resposta específica ou mesmo que há mais detalhes que precisamos analisar. Dependendo do nosso prompt, a resposta é validada unicamente porque não perguntamos corretamente e a análise ficou superficial. Se treinamos nossas ferramentas a concordar com nossas conclusões, a IA reproduzirá a mesma postura complacente que toleramos em consultas opinativas.

O viés de confirmação na inteligência artificial, frequentemente estudado sob o conceito técnico de sycophancy (tendência à bajulação ou concordância excessiva), ocorre quando os modelos de linguagem e algoritmos geram respostas moldadas para validar as crenças, opiniões ou hipóteses prévias do usuário, em vez de buscar a verdade objetiva.

Pesquisas de universidades como Princeton e MIT mensuraram essa complacência. Segundo esses estudos constatou-se que prompts com premissas falsas induziram a IA ao erro em 63,7% dos casos; diante de persuasão do usuário, modelos de ponta mudaram respostas corretas para incorretas em 14,7% das vezes; a concordância automática reduz em até 5 vezes a capacidade de resolução lógica de problemas complexos.

Como seres humanos, é extremamente satisfatório quando temos ‘alguém’ que concorda com nossas ideias e acha as nossas soluções “extraordinárias”, mas isso é extremamente pernicioso quando estamos fazendo um projeto, dando um parecer ou instruindo uma empresa sobre os rumos que deve tomar.

Se o prompt for indutivo, a análise será superficial. Como o modelo se adapta ao histórico e ao tom do interlocutor, ele tende a reforçar vieses, seja em pareceres técnicos ou decisões corporativas estratégicas.

Para evitar esse viés de confirmação, há algumas soluções que vêm sendo recomendadas, que podem ser ajustadas pelo usuário: (i) reescrever prompts para a terceira pessoa ou anonimizar o autor da tese diminui a condescendência e faz a IA avaliar o argumento com rigor crítico e de forma imparcial (ELEPHANT: Measuring and understanding social sycophancy in LLMs 2025/2026); (ii) prompts de sistema com regras explícitas anti-bajulação forçam o modelo a alterar a distribuição de probabilidade das palavras geradas, reduzindo significativamente a tendência de concordar com argumentos fracos trazidos pelo usuário (Discovering Language Model Behaviors with Model-Written Evaluations - Perez et al. / Anthropic); (iii) usar o chat em formato de debate adversarial quebra a zona de conforto do modelo, abrindo mais de uma possibilidade de resposta e enfraquecendo a mera concordância (AI Safety via Debate - Irving et al. / OpenAI / DeepMind).

Ter um assistente virtual que acha todas as nossas ideias "extraordinárias" afaga o ego, mas é um perigo nas decisões profissionais. Afinal, para concordar com tudo o que pensamos, um espelho bastaria, e sairia bem mais barato para nós e, principalmente, para nossos clientes. O senso crítico continua sendo o nosso principal ativo no mercado.