RAG (Retrieval-Augmented Generation)
Também conhecido como: Retrieval-Augmented Generation · geração aumentada por recuperação · grounding
Deixar a IA ler os seus documentos antes de responder, para que trabalhe com os seus factos em vez das suas suposições.
Porque importa
Um modelo, por si só, apenas sabe o que absorveu durante o treino. Nunca viu a sua tabela de preços, os seus contratos ou as notas de passagem de pasta do último trimestre. O RAG é o que fecha essa lacuna, e é a diferença entre um assistente que soa plausível e um em que a sua equipa pode realmente confiar.
Como funciona
Três passos, e nenhum deles é magia.
Recuperar. A sua pergunta é usada para pesquisar um repositório com os vossos próprios documentos (contratos, wikis, tickets, transcrições) e as passagens mais relevantes são devolvidas. Isto é pesquisa. Tem os mesmos modos de falha da pesquisa.
Aumentar. Essas passagens são colocadas no prompt do modelo, ao lado da sua pergunta, normalmente com uma instrução do género: responde usando apenas o que se segue.
Gerar. O modelo lê as passagens e escreve uma resposta. Como os factos estão à sua frente, não precisa de ir buscar aos dados de treino uma reconstrução que apenas soa certa.
O nome descreve a sequência exatamente. Recuperação, depois geração aumentada.
Onde corre mal na prática
Quase todos os sistemas RAG que desiludem os utilizadores desiludem no passo de recuperação, não no de geração. O modelo está a fazer o seu trabalho com fidelidade: responde a partir das passagens que lhe entregaram. As passagens é que eram as erradas.
Isso tem consequências na forma de avaliar um sistema destes. Se só ler as respostas finais, não consegue distinguir uma falha de recuperação de uma falha de raciocínio, e vai passar semanas a afinar a metade errada do sistema. Registe o que foi recuperado. Leia-o. Na nossa experiência, o primeiro olhar honesto às passagens recuperadas é a hora mais útil de todo o projeto.
A segunda falha comum é mais silenciosa. O sistema funciona, as respostas são boas, e seis meses depois os documentos de origem ficaram desatualizados sem ninguém reparar. Um sistema RAG é apenas tão atual quanto o corpus por trás dele, e os corpus apodrecem. Alguém tem de ser dono disso.
Para que serve
Perguntas e respostas sobre uma base de conhecimento interna. Apoio ao cliente que cita a política verdadeira. Onboarding, em que um recém-chegado pode fazer as perguntas que tem alguma vergonha de fazer a um colega. Revisão de contratos e documentos, em que a resposta tem de ser rastreável até uma cláusula que alguém possa ir ler.
O fio condutor: o valor está na vossa informação, e o modelo é a interface para ela. Onde não há informação proprietária (redação genérica, brainstorming, tradução), o RAG acrescenta custo e nenhuma precisão.
A pergunta a fazer antes de construir um
Não é “conseguimos construir um sistema RAG?”. Conseguem. A pergunta é: quando isto der uma resposta, quem é responsável por ela estar certa, e como é que verificaria?
Se a resposta for “o modelo”, o projeto não está pronto. Se a resposta for uma pessoa com nome, capaz de chegar à passagem de origem em dois segundos, então desenharam algo que vai sobreviver ao contacto com a vossa organização.
Perguntas frequentes
RAG é o mesmo que fine-tuning?
Não. O fine-tuning muda o comportamento do modelo: o tom, o formato, a forma das respostas. O RAG muda o que o modelo sabe no momento em que responde. Se o seu problema é a IA escrever no estilo errado, o fine-tuning pode ajudar. Se o seu problema é a IA não conhecer a vossa política de reembolsos, precisa de RAG. Muitas equipas recorrem ao fine-tuning quando o que precisavam era de RAG.
Precisamos de RAG se o modelo tiver uma janela de contexto grande?
Às vezes, não. Se toda a vossa base de conhecimento cabe confortavelmente na janela de contexto e raramente muda, podem simplesmente colá-la. O RAG justifica a sua complexidade quando o corpus é demasiado grande para ser enviado de cada vez, muda com frequência suficiente para uma cópia estática ficar desatualizada, ou tem permissões associadas: pessoas diferentes podem ver documentos diferentes.
O RAG acaba com as alucinações?
Reduz substancialmente. Não elimina. Um modelo com a passagem certa à frente pode ainda assim resumi-la mal, e um passo de recuperação que traga o documento errado produz uma resposta confiante construída sobre os factos errados. O RAG desloca a falha de 'o modelo inventou algo' para 'o sistema recuperou a coisa errada', uma falha muito mais fácil de inspecionar e corrigir.
O que é que um sistema RAG precisa de nós antes de funcionar?
Documentos localizáveis, atuais e com permissões definidas. A maioria dos projetos de RAG que empancam não empancam no código de recuperação. Empancam porque ninguém sabia dizer qual era a versão autoritativa do documento de políticas, ou porque o conhecimento útil vivia nas caixas de email das pessoas e não em sistema nenhum.
A trabalhar nisto com a sua equipa?
A Olaia Labs desenvolve programas de formação e automação com IA para PMEs. Comece com um diagnóstico: analisamos onde a sua equipa já usa IA, onde falha e o que vale a pena automatizar.
Pedir um diagnóstico