Génération augmentée par récupération (RAG)
La génération augmentée par récupération permet à un modèle de répondre à partir de vos propres documents en récupérant les passages pertinents et en les ajoutant au prompt.
Un système RAG découpe vos documents en morceaux (chunks) et stocke leurs embeddings. Pour chaque question, il trouve les morceaux les plus proches et les remet à un modèle de langage, qui rédige la réponse. Le modèle n'a pas besoin d'être réentraîné, et la réponse peut renvoyer aux passages sources.
Le RAG réduit les hallucinations mais ne les élimine pas. Le modèle peut toujours mal lire les passages ou les ignorer, et les résultats dépendent fortement de la qualité du modèle d'embeddings et de la manière dont les documents sont découpés.
Termes associés
- Modèle d'embeddings Un modèle d'embeddings transforme du texte, des images ou d'autres données en une liste de nombres qui capture leur sens, si bien que les éléments semblables se retrouvent proches les uns des autres.
- Hallucination Une hallucination est une affirmation fausse ou inventée qu'un modèle d'IA avance avec assurance.
- Fenêtre de contexte La fenêtre de contexte est la quantité maximale de texte, mesurée en tokens, qu'un modèle peut prendre en compte à la fois, y compris votre prompt et sa propre réponse.
- Mémoire d'agent (Agent memory) La mémoire d'agent permet à un agent d'IA de conserver des faits, des préférences et des expériences passées d'une session à l'autre, au lieu de repartir d'un contexte vide.