Generación aumentada por recuperación (RAG)
La generación aumentada por recuperación permite que un modelo responda a partir de tus propios documentos recuperando los pasajes relevantes y añadiéndolos al prompt.
Un sistema RAG divide tus documentos en fragmentos y almacena sus embeddings. Para cada pregunta encuentra los fragmentos más cercanos y se los entrega a un modelo de lenguaje, que redacta la respuesta. El modelo no necesita reentrenarse, y la respuesta puede apuntar a los pasajes de origen.
El RAG reduce las alucinaciones pero no las elimina. El modelo puede seguir leyendo mal los pasajes o ignorarlos, y los resultados dependen mucho de la calidad del modelo de embeddings y de cómo se dividen los documentos en fragmentos.
Términos relacionados
- Modelo de embeddings Un modelo de embeddings convierte texto, imágenes u otros datos en una lista de números que captura su significado, de modo que los elementos parecidos acaban cerca unos de otros.
- Alucinación Una alucinación es una afirmación falsa o inventada que un modelo de IA expresa con total seguridad.
- Ventana de contexto La ventana de contexto es la cantidad máxima de texto, medida en tokens, que un modelo puede tener en cuenta a la vez, incluidos tu prompt y su propia respuesta.
- Memoria de agente (Agent memory) La memoria de agente permite que un agente de IA conserve datos, preferencias y experiencia pasada entre sesiones, en lugar de empezar cada vez con un contexto vacío.