Reranker

Ein Reranker bewertet eine kurze Liste von Suchergebnissen neu, indem er die Frage und jedes Ergebnis zusammen liest – langsamer, aber genauer als Embeddings allein.

  • Modelle und Architektur
  • Aktualisiert

Suche mit Embeddings ist schnell, weil Dokumente einmal in Vektoren umgewandelt und per Distanz verglichen werden, aber sie kann feine Treffer verpassen, weil Frage und Dokument einander nie sehen. Ein Reranker, meist ein Cross-Encoder, liest die Frage und einen Kandidaten zusammen und gibt einen Relevanz-Score aus. Das übliche Rezept hat zwei Schritte: Ein Embedding-Modell holt die Top-50- oder Top-100-Kandidaten, dann sortiert ein Reranker sie.

Reranker fügen jeder Abfrage Verzögerung hinzu, weil jeder Kandidat einen eigenen Modelldurchlauf braucht; halten Sie die Kandidatenliste daher kurz, auch wenn listweise Reranker wie Jina Reranker v3.5 die ganze Liste in einem Durchlauf lesen. Ein Reranker ist ein eigenes Modell neben dem Embedding-Modell und hat eine eigene Lizenz, die Sie separat prüfen sollten. Die BGE-M3-Modellkarte verweist etwa auf die bge-reranker-Modelle von BAAI, um die Top-Ergebnisse neu zu bewerten.

Verwandte Begriffe

  • Embedding-Modell Ein Embedding-Modell verwandelt Text, Bilder oder andere Daten in eine Liste von Zahlen, die ihre Bedeutung erfasst, sodass ähnliche Elemente nahe beieinander landen.
  • Retrieval-Augmented Generation (RAG) Retrieval-Augmented Generation ermöglicht einem Modell, aus Ihren eigenen Dokumenten zu antworten, indem es die passenden Passagen abruft und in den Prompt einfügt.
  • Matryoshka-Embeddings Matryoshka-Embeddings werden so trainiert, dass der vordere Teil des Vektors für sich allein funktioniert, sodass Sie den Vektor kürzen können, um Speicher und Suchzeit zu sparen.

Alle Begriffe