Реранкер (reranker)
Реранкер заново оценивает короткий список результатов поиска, читая вопрос и каждый результат вместе; это медленнее, но точнее, чем одни лишь эмбеддинги.
Поиск с эмбеддингами быстр, потому что документы один раз превращаются в векторы и сравниваются по расстоянию, но он может пропустить тонкие совпадения, ведь вопрос и документ никогда не «видят» друг друга. Реранкер — обычно кросс-энкодер — читает вопрос и одного кандидата вместе и выдаёт оценку релевантности. Типовая схема состоит из двух шагов: модель эмбеддингов достаёт 50 или 100 лучших кандидатов, затем реранкер их сортирует.
Реранкеры добавляют задержку к каждому запросу, потому что каждый кандидат требует отдельного прохода модели, поэтому держите список кандидатов коротким — хотя listwise-реранкеры вроде Jina Reranker v3.5 читают весь список за один проход. Реранкер — отдельная модель от модели эмбеддингов и имеет собственную лицензию, проверьте её отдельно. Карточка BGE-M3, например, отсылает к моделям bge-reranker от BAAI для переоценки верхних результатов.
Связанные термины
- Эмбеддинг-модель Эмбеддинг-модель превращает текст, изображения или другие данные в список чисел, отражающий их смысл, так что похожие элементы оказываются рядом друг с другом.
- Генерация, дополненная поиском (RAG) Генерация, дополненная поиском, позволяет модели отвечать на основе ваших собственных документов: она находит релевантные фрагменты и добавляет их в промпт.
- Матрёшка-эмбеддинги Матрёшка-эмбеддинги обучаются так, что первая часть вектора работает сама по себе, что позволяет укоротить вектор и сэкономить на хранении и поиске.