Матрёшка-эмбеддинги
Матрёшка-эмбеддинги обучаются так, что первая часть вектора работает сама по себе, что позволяет укоротить вектор и сэкономить на хранении и поиске.
Обычный эмбеддинг-вектор имеет фиксированную длину, например 1024 числа, и нужны все они. Модель, обученная по принципу матрёшечного представления, складывает самую полезную информацию в первые числа — как матрёшки друг в друге. Можно оставить только первые 256 или 128 чисел, потерять немного точности и уменьшить векторный индекс в несколько раз.
Модельные карточки EmbeddingGemma 2, Granite Embedding R2 и Jina Embeddings v5 описывают матрёшечное обучение или снижение размерности, а Qwen3-Embedding позволяет выбрать длину вектора. Используйте только длины, под которые обучалась модель, и после усечения заново проверьте качество поиска: величина потери зависит от ваших данных.
Связанные термины
- Эмбеддинг-модель Эмбеддинг-модель превращает текст, изображения или другие данные в список чисел, отражающий их смысл, так что похожие элементы оказываются рядом друг с другом.
- Генерация, дополненная поиском (RAG) Генерация, дополненная поиском, позволяет модели отвечать на основе ваших собственных документов: она находит релевантные фрагменты и добавляет их в промпт.
- Реранкер (reranker) Реранкер заново оценивает короткий список результатов поиска, читая вопрос и каждый результат вместе; это медленнее, но точнее, чем одни лишь эмбеддинги.