Como evitar que a IA invente respostas no atendimento?

Publicado em 22 de julho de 2026 · por Sanderson Palmeira de Oliveira

O que é alucinação e por que ela acontece

Alucinação é quando o modelo de linguagem produz uma resposta plausível, bem escrita e falsa. No atendimento, ela aparece como o desconto que não existe, o prazo de entrega que ninguém prometeu, a política de troca inventada ou o horário de funcionamento de outra unidade.

Um artigo publicado por pesquisadores da OpenAI em setembro de 2025 (Kalai, Nachum, Vempala e Zhang) resume bem a causa: os modelos são treinados e avaliados de um jeito que premia o chute em vez do reconhecimento da incerteza. Como um aluno numa prova de múltipla escolha, o modelo aprende que arriscar uma resposta rende mais pontos do que dizer “não sei”.

Para quem atende clientes, a consequência prática é simples: o modelo não sabe que não sabe. Se a informação não estiver no contexto que você forneceu, ele tende a preencher a lacuna com o que parece mais provável. O trabalho do projeto é reduzir as lacunas e ensinar a IA a parar quando encontrar uma.

Por que isso é um problema jurídico, não só técnico

Pelo Código de Defesa do Consumidor, artigo 30, toda informação suficientemente precisa sobre produtos e serviços, veiculada por qualquer meio, obriga o fornecedor que a fez veicular e passa a integrar o contrato. O assistente de IA fala em nome da empresa. Se ele informa um preço ou uma condição de forma precisa, o cliente tem argumentos para exigir.

Há um caso conhecido fora do Brasil. Em fevereiro de 2024, um tribunal administrativo da província canadense da Colúmbia Britânica decidiu o caso Moffatt contra Air Canada: o chatbot do site informou a um passageiro que ele poderia pedir depois da viagem o desconto de tarifa por luto, o que contrariava a política da empresa. A companhia alegou que o chatbot seria uma entidade separada, responsável pelos próprios atos. O tribunal rejeitou o argumento e condenou a empresa a pagar a diferença ao cliente.

A lição vale aqui: a empresa responde pelo que o seu atendimento automatizado diz. Não use este texto como parecer; para casos concretos, fale com o seu jurídico.

Onde a IA mais inventa no atendimento

Os erros não se distribuem por igual. Eles se concentram em informações que mudam com frequência, que dependem de caso a caso ou que o cliente pressiona para obter.

• Preços e descontos, principalmente quando a tabela muda ou há condições especiais.
• Prazos de entrega, de execução, de resposta, de reembolso.
• Políticas de troca, cancelamento, garantia do produto e reembolso.
• Disponibilidade de estoque, vagas na agenda, profissional em determinado dia.
• Informações técnicas ou de saúde, em que a resposta genérica da internet parece certa e não se aplica ao seu caso.
• Links, telefones e endereços, que o modelo pode compor de memória com um dígito trocado.

Sete camadas para reduzir respostas inventadas

Nenhuma camada resolve sozinha. Juntas, elas transformam a maioria das lacunas em encaminhamento para uma pessoa, que é o comportamento que você quer.

1. Base oficial como única fonte. A IA responde a partir de documentos da empresa recuperados a cada pergunta (a técnica chamada RAG), não do conhecimento geral do modelo. Veja como montar em como treinar a IA com a base da sua empresa.
2. Instrução explícita de limite. O comando do assistente diz: se a resposta não estiver no material fornecido, diga que vai verificar e encaminhe.
3. Dados que mudam vêm do sistema. Preço, estoque, agenda e status de pedido são consultados na hora por integração, e não escritos num documento que envelhece.
4. Lista do que a IA nunca afirma sozinha. Descontos, exceções de política, prazos fora do padrão, diagnósticos. Nesses temas, ela coleta o pedido e passa adiante.
5. Saída padrão para a dúvida. Uma frase pronta como “não tenho essa informação confirmada, vou passar para a equipe”, seguida da transferência com o histórico.
6. Base com dono e data. Cada documento tem um responsável e uma data de revisão. Base desatualizada produz resposta errada com aparência de certa.
7. Registro das conversas. Guardar o que foi perguntado, o trecho da base usado e a resposta dada permite achar a origem do erro.

Como testar antes de colocar no ar

Antes de liberar para clientes, monte uma bateria de perguntas feitas para provocar invenção e rode de novo sempre que mudar a base ou o comando. A tabela mostra os tipos de teste e o comportamento esperado.

Depois do lançamento: revisar conversas reais

Os testes cobrem o que você imaginou. Os clientes perguntam o que ninguém imaginou. Por isso, nas primeiras semanas, leia uma amostra de conversas todos os dias; depois, uma amostra semanal, por exemplo 30 conversas escolhidas ao acaso.

Para cada erro encontrado, identifique a origem: faltava informação na base, a informação estava desatualizada, a instrução era vaga ou a IA ignorou uma regra. Cada origem tem uma correção diferente, e corrigir só o texto da resposta errada não impede o próximo erro.

Vale também criar alertas para palavras que indicam risco, como “desconto”, “reembolso”, “processo”, “Procon” ou “prometeram”, e revisar essas conversas primeiro.

A saída mais segura para a dúvida é a transferência bem feita. Os critérios estão em handoff: quando o bot deve passar para um humano. Se o seu assistente também executa ações, como agendar ou cancelar, o cuidado é maior; veja a diferença entre chatbot e agente de IA.

Como a 2S Digital ajuda

Montamos assistentes de IA com base oficial, integrações para os dados que mudam, regras do que não pode ser afirmado e bateria de testes antes do lançamento. Depois, acompanhamos as conversas com você para corrigir a origem de cada erro.

Conheça a solução de IA e automação de atendimento ou peça um diagnóstico.

Perguntas frequentes

Dá para eliminar totalmente a alucinação da IA?

Não. Base oficial, dados vindos do sistema, limites e testes reduzem muito a frequência, mas o risco residual continua. Por isso o assistente precisa ter uma saída padrão para a dúvida e uma pessoa por trás.

A empresa responde pelo que o chatbot de IA disser?

Na lógica do Código de Defesa do Consumidor, a informação precisa divulgada pelo fornecedor o obriga, e o assistente fala em nome da empresa. No Canadá, a Air Canada foi condenada em 2024 por informação errada dada pelo chatbot do site. Para casos concretos, consulte seu jurídico.

Por que a IA inventa em vez de dizer que não sabe?

Pesquisadores da OpenAI apontaram em 2025 que o treinamento e as avaliações dos modelos premiam o chute em vez da abstenção. O modelo aprende que arriscar compensa. No atendimento, isso se corrige com instruções, base limitada e uma resposta padrão para quando falta informação.

RAG resolve a alucinação?

Reduz bastante, porque a IA passa a responder com trechos da sua base. Mas se a base estiver incompleta ou desatualizada, a resposta continua errada. RAG precisa vir junto com dados dinâmicos consultados no sistema e com revisão periódica.

Continue explorando

• Como treinar a IA com a base da empresa (RAG)
• IA no atendimento: o que faz bem e o que não faz
• Diferença entre chatbot e agente de IA
• Diagnóstico gratuito