O que é alucinação de IA: por que o ChatGPT inventa respostas com confiança

Alucinação de IA é quando um modelo de inteligência artificial gera uma informação falsa, mas a entrega com total confiança, como se fosse um fato comprovado. A causa está na forma como esses sistemas funcionam: modelos como o ChatGPT não consultam uma base de fatos para responder — eles preveem, palavra por palavra, qual é a continuação estatisticamente mais provável do texto. Quando o modelo não sabe a resposta, essa mecânica de previsão continua rodando do mesmo jeito, e o resultado é uma frase bem escrita, convincente e errada.

Resposta rápida: alucinação de IA é uma resposta plausível, porém falsa, produzida por um sistema de inteligência artificial. Ela nasce da previsão estatística de palavras (a IA calcula o texto mais provável, não o texto verdadeiro) e persiste porque, segundo pesquisa da OpenAI, os testes que avaliam modelos premiam o chute confiante em vez do honesto "não sei". A defesa prática: pedir fontes, permitir que a IA admita incerteza e verificar todo dado importante.

O que significa "alucinar" para uma máquina

O termo soa estranho, porque alucinação é coisa de cérebro humano. Mas a metáfora é precisa. A IBM define alucinação de IA como o fenômeno em que um modelo "percebe padrões ou objetos inexistentes, criando saídas sem sentido ou completamente imprecisas". É o equivalente computacional de ver formas nas nuvens: o sistema encontra um padrão onde não há nenhum e o apresenta como real.

A OpenAI usa uma definição ainda mais direta: alucinações são declarações plausíveis, porém falsas, geradas por modelos de linguagem. A palavra-chave é "plausíveis". A resposta alucinada não parece errada — ela tem a gramática perfeita, o tom seguro e o formato de uma resposta correta. É exatamente isso que a torna perigosa: o erro vem disfarçado de certeza.

Um exemplo real que ilustra bem

No artigo de pesquisa da OpenAI sobre o tema, os autores contam que perguntaram a um chatbot popular qual era o título da tese de doutorado de um dos pesquisadores do próprio estudo. O sistema respondeu com confiança — três vezes, com três títulos diferentes, todos errados. O mesmo aconteceu com a data de nascimento dele: três datas, nenhuma correta. O modelo não tinha a informação, mas em nenhum momento disse "não sei".

Por que a IA inventa respostas: a causa em detalhe

Para entender a raiz do problema, ajuda saber como funciona o ChatGPT por dentro. Um modelo de linguagem é treinado lendo quantidades gigantescas de texto com um único objetivo: prever a próxima palavra. Ele não armazena fatos numa tabela nem consulta uma enciclopédia interna — ele aprende padrões estatísticos de como as palavras se combinam.

1. Previsão estatística não distingue verdade de mentira

Durante o treinamento, o modelo vê apenas exemplos de texto fluente, sem etiquetas de "verdadeiro" ou "falso". Coisas que seguem padrões consistentes, como ortografia e pontuação, ele aprende quase perfeitamente. Mas fatos arbitrários e raros — a data de nascimento de uma pessoa pouco famosa, o número exato de uma lei, o título de um artigo específico — não seguem padrão nenhum. A OpenAI compara isso a tentar adivinhar o aniversário de um animal de estimação olhando a foto: não importa o quanto o algoritmo seja avançado, esse tipo de informação não pode ser deduzida de padrões. Quando o assunto é raro demais, o modelo preenche a lacuna com o que soa certo.

Se você quiser entender melhor essa mecânica de aprendizado por padrões, vale ler como a IA aprende — a alucinação é, no fundo, o efeito colateral inevitável desse método de ensino.

2. Dados de treino com lacunas, erros e vieses

A IBM aponta outras fontes do problema: dados de treinamento enviesados ou imprecisos, sobreajuste (quando o modelo "decora" os exemplos em vez de generalizar) e a alta complexidade dos próprios modelos. A lógica é simples: o modelo só pode aprender com o que viu. Se os dados contêm erros, o modelo aprende erros. Se há lacunas, ele as preenche com estatística — e estatística não é fato.

3. As provas premiam o chute, não a honestidade

Esta é a descoberta mais interessante da pesquisa recente da OpenAI: as alucinações persistem também por causa de como os modelos são avaliados. A maioria dos testes de desempenho mede apenas a taxa de acerto, como uma prova de múltipla escolha sem desconto por erro. Se o modelo não sabe e chuta, pode acertar por sorte; se diz "não sei", ganha zero garantido. Ao longo de milhares de perguntas, o modelo que chuta fica com nota melhor no placar do que o modelo cauteloso que admite incerteza.

O resultado é que os sistemas foram, na prática, ensinados a arriscar. A proposta da OpenAI para corrigir isso é mudar a régua: penalizar mais o erro confiante do que a abstenção, e dar crédito parcial para expressões honestas de incerteza.

Exemplos famosos de alucinação de IA

Alguns casos viraram referência no assunto e mostram que o problema atinge até as maiores empresas do mundo:

• Bard e o telescópio James Webb. O chatbot do Google afirmou, em sua estreia pública, que o telescópio James Webb havia capturado as primeiras imagens de um planeta fora do Sistema Solar — informação falsa, registrada pela imprensa internacional.
• Galactica, da Meta. O modelo voltado a textos científicos foi retirado do ar três dias após o lançamento, em 2022, por fornecer informações imprecisas, algumas com viés.
• Petições jurídicas com processos inventados. Advogados em vários países já foram punidos por citar, em peças oficiais, decisões judiciais que a IA simplesmente inventou — com número de processo, data e tudo.

Repare no padrão: em todos os casos, o erro veio embrulhado em linguagem técnica e confiante. É por isso que entender o que é um LLM muda sua relação com essas ferramentas: você passa a tratá-las como geradoras de texto provável, não como oráculos.

Como se proteger das alucinações no dia a dia

A boa notícia é que dá para reduzir muito o risco com hábitos simples, vários deles recomendados na documentação oficial da Anthropic, criadora do Claude:

• Dê permissão para o "não sei". Incluir no pedido uma frase como "se você não tiver certeza, diga que não sabe" reduz drasticamente as respostas inventadas. Parece bobo, mas funciona: você muda o incentivo do modelo.
• Peça a fonte. Solicite que a IA cite de onde tirou cada afirmação — e confira se a fonte existe. Links e referências também podem ser alucinados.
• Ancore em documentos reais. Quando possível, cole o texto-base na conversa e peça que a resposta use apenas aquele material, citando trechos literais. É a técnica de "aterramento" que a Anthropic recomenda para reduzir invenções.
• Repita a pergunta. Se a resposta muda a cada tentativa, é forte sinal de chute. Fato consolidado tende a sair igual sempre.
• Verifique dados críticos. Nome, número, data, lei, dosagem, valor: tudo que tem consequência real merece uma checagem independente antes de uso.

Um pedido bem construído também ajuda: quanto mais contexto e limites você der, menos espaço sobra para a invenção. Explicamos essa técnica em detalhe no guia sobre o que é prompt de IA.

Onde o risco é maior

Alucinações aparecem mais em perguntas sobre fatos específicos e raros, temas muito recentes (que não estavam nos dados de treino), pedidos de citações e referências bibliográficas, e cálculos embutidos em texto. Em tarefas criativas — resumir, reescrever, dar ideias, explicar um conceito geral — o risco é bem menor, porque não há um "fato verificável" para errar.

Alucinação tem cura?

Depende do que você chama de cura. A OpenAI argumenta que alucinações não são inevitáveis: um modelo pode simplesmente se abster quando está incerto, e os modelos mais recentes já erram bem menos que as gerações anteriores. Por outro lado, a mesma pesquisa reconhece que a taxa de acerto nunca chegará a 100%, porque algumas perguntas do mundo real são inerentemente sem resposta — falta informação, falta contexto ou a pergunta é ambígua.

A direção é clara: modelos mais calibrados, avaliações que recompensam a honestidade e técnicas de aterramento em fontes reais. Até lá, a regra de ouro permanece: a IA é uma excelente assistente de primeira versão e uma péssima fonte final. Use a velocidade dela para rascunhar, organizar e explicar — e reserve a palavra final, sempre, para a verificação humana.

Em resumo

Alucinação de IA é a resposta falsa entregue com cara de verdade, e ela nasce do próprio motor que faz esses sistemas funcionarem: a previsão estatística da próxima palavra. Não é mentira intencional nem defeito raro de fabricação — é uma característica do método, reforçada por anos de avaliações que premiaram o chute. Saber disso transforma você num usuário melhor: alguém que aproveita o enorme poder dessas ferramentas sem terceirizar para elas a responsabilidade pela verdade.