Реранкер (reranker)

Реранкер заново оценивает короткий список результатов поиска, читая вопрос и каждый результат вместе; это медленнее, но точнее, чем одни лишь эмбеддинги.

  • Модели и архитектура
  • Обновлено

Поиск с эмбеддингами быстр, потому что документы один раз превращаются в векторы и сравниваются по расстоянию, но он может пропустить тонкие совпадения, ведь вопрос и документ никогда не «видят» друг друга. Реранкер — обычно кросс-энкодер — читает вопрос и одного кандидата вместе и выдаёт оценку релевантности. Типовая схема состоит из двух шагов: модель эмбеддингов достаёт 50 или 100 лучших кандидатов, затем реранкер их сортирует.

Реранкеры добавляют задержку к каждому запросу, потому что каждый кандидат требует отдельного прохода модели, поэтому держите список кандидатов коротким — хотя listwise-реранкеры вроде Jina Reranker v3.5 читают весь список за один проход. Реранкер — отдельная модель от модели эмбеддингов и имеет собственную лицензию, проверьте её отдельно. Карточка BGE-M3, например, отсылает к моделям bge-reranker от BAAI для переоценки верхних результатов.

Связанные термины

  • Эмбеддинг-модель Эмбеддинг-модель превращает текст, изображения или другие данные в список чисел, отражающий их смысл, так что похожие элементы оказываются рядом друг с другом.
  • Генерация, дополненная поиском (RAG) Генерация, дополненная поиском, позволяет модели отвечать на основе ваших собственных документов: она находит релевантные фрагменты и добавляет их в промпт.
  • Матрёшка-эмбеддинги Матрёшка-эмбеддинги обучаются так, что первая часть вектора работает сама по себе, что позволяет укоротить вектор и сэкономить на хранении и поиске.

Все термины