Geração aumentada por recuperação (RAG)

A geração aumentada por recuperação permite que um modelo responda com base nos seus próprios documentos recuperando os trechos relevantes e adicionando-os ao prompt.

  • Usando modelos
  • Atualizado

Um sistema RAG divide seus documentos em pedaços (chunks) e armazena seus embeddings. Para cada pergunta, ele encontra os pedaços mais próximos e os entrega a um modelo de linguagem, que escreve a resposta. O modelo não precisa ser retreinado, e a resposta pode apontar de volta para os trechos de origem.

O RAG reduz alucinações, mas não as elimina. O modelo ainda pode interpretar mal os trechos ou ignorá-los, e os resultados dependem muito da qualidade do modelo de embeddings e de como os documentos são divididos em pedaços.

Termos relacionados

  • Modelo de embeddings Um modelo de embeddings converte texto, imagens ou outros dados em uma lista de números que captura seu significado, de modo que itens semelhantes acabam próximos uns dos outros.
  • Alucinação Uma alucinação é uma afirmação falsa ou inventada produzida por um modelo de IA com toda a confiança.
  • Janela de contexto A janela de contexto é a quantidade máxima de texto, medida em tokens, que um modelo pode levar em conta de uma vez, incluindo o seu prompt e a resposta dele.
  • Memória de agente (Agent memory) A memória de agente permite que um agente de IA guarde fatos, preferências e experiências passadas entre sessões, em vez de começar de um contexto em branco a cada vez.

Todos os termos