Alucinação
Também conhecido como: alucinação de IA · AI hallucination · confabulação
Quando a IA afirma algo falso com a mesma confiança e fluência com que afirma algo verdadeiro.
Porque importa
O perigo não é a IA errar muitas vezes; é errar no mesmo tom com que acerta. Uma citação inventada lê-se exatamente como uma verdadeira. Um número errado fica numa tabela perfeitamente formatada. Se ninguém verificar, os erros viajam: para propostas, para contratos, para decisões, com a mesma voz confiante de tudo o resto.
De onde vem
Um modelo de linguagem responde produzindo as palavras seguintes mais plausíveis, dado tudo o que tem à frente. Na maior parte das vezes, plausível e verdadeiro coincidem: é por isso que a tecnologia serve para alguma coisa. Mas quando o modelo não tem bom material de onde tirar (um tema de nicho, um detalhe que nunca viu, uma pergunta sobre o interior da vossa empresa), não para. Produz o texto mais plausível na mesma.
Não existe alarme interno que separe os dois casos. Escrever uma referência real e inventar uma são, para o modelo, o mesmo ato. Esta é a coisa mais importante a perceber sobre alucinação: fluência não é prova. A confiança da prosa não diz nada sobre a verdade do conteúdo.
Como se manifesta na prática
Citações e jurisprudência inventadas. Estatísticas plausíveis, bem formatadas e erradas. Um resumo confiante de um documento que diz algo subtilmente diferente. Funcionalidades que o vosso produto não tem. Políticas que a vossa empresa nunca escreveu. O padrão é sempre o mesmo: específico, polido, falso.
Porque sobrevive à revisão
As respostas descaradamente erradas são apanhadas; ninguém publica “o contrato foi assinado em 1875”. As que sobrevivem são as ligeiramente erradas, e são exatamente as que têm fluência suficiente para passar numa leitura cansada. A fadiga de revisão agrava isto: nove respostas verificadas baixam a guarda para a décima.
Os erros também se compõem. Um resultado não verificado colado no prompt seguinte torna-se verdade absoluta para tudo o que vem a jusante. Ao terceiro documento, já ninguém se lembra de que o número nunca foi confirmado.
O que reduz mesmo
Ancoragem, primeiro: deixar o modelo ler os vossos documentos reais em vez de reconstruir de memória, que é o problema que o RAG existe para resolver. Depois, rastreabilidade: pedir fontes e tratar uma resposta sem fonte verificável como uma opinião. Depois, processo: verificação de números contra os sistemas de registo e aprovação humana onde o resultado toque dinheiro, lei ou clientes.
O que não funciona: pedir ao modelo que prometa que tem a certeza. Ele promete.
A pergunta a fazer
Não é “como impedimos as alucinações”, porque não vão impedi-las por completo. A pergunta é: quando uma passar, com que rapidez daríamos por ela, e o que é que já teria tocado até lá? Se a resposta honesta for “podíamos não dar por ela”, o fluxo de trabalho não está pronto para o risco que carrega.
Perguntas frequentes
Porque é que inventa coisas em vez de dizer que não sabe?
Porque não está a consultar nada. Um modelo de linguagem produz a continuação mais plausível do texto que tem à frente e, na maior parte das vezes, plausível e verdadeiro apontam na mesma direção. Quando não apontam, nada dentro do modelo dispara um alarme: gerar uma citação real e inventar uma são a mesma operação. Não está a mentir; mentir exige conhecer a verdade e escolher outra coisa. Está a completar um padrão.
Podemos eliminar as alucinações por completo?
Não, e desconfie de quem disser o contrário. Pode reduzi-las substancialmente: ancore o modelo nos vossos próprios documentos, mantenha as tarefas restritas, peça fontes e faça passar os resultados de risco elevado por revisão. O objetivo não é um sistema que nunca erra. É um fluxo de trabalho em que errar fica barato de apanhar.
Alucinar significa que o modelo é fraco ou está mal feito?
Não. É inerente ao funcionamento dos modelos generativos, e os modelos de todos os fornecedores o fazem. A pergunta útil não é 'qual é o modelo que nunca alucina', porque nenhum se qualifica. É 'o que acontece no nosso processo quando alucinar': quem verifica, contra que fonte, e antes de que decisões.
Como apanhamos alucinações antes de causarem danos?
Torne as afirmações rastreáveis. Peça fontes e abra-as de verdade. Verifique números contra o sistema de registo, não contra o resumo do próprio modelo. Mantenha uma aprovação humana onde o resultado toque dinheiro, lei ou clientes. E estabeleça uma regra cultural: uma afirmação da IA que ninguém consegue rastrear é um rascunho, não um facto.
A trabalhar nisto com a sua equipa?
A Olaia Labs desenvolve programas de formação e automação com IA para PMEs. Comece com um diagnóstico: analisamos onde a sua equipa já usa IA, onde falha e o que vale a pena automatizar.
Pedir um diagnóstico