Embeddings matrioska
Los embeddings matrioska se entrenan para que la primera parte del vector funcione por sí sola, lo que te permite cortar el vector más corto y ahorrar almacenamiento y tiempo de búsqueda.
Un vector de embeddings normal tiene una longitud fija, por ejemplo 1.024 números, y hace falta cada uno de ellos. Un modelo entrenado con aprendizaje de representación matrioska concentra la información más útil en los primeros números, como muñecas rusas encajables. Puedes conservar solo los primeros 256 o 128 números, perder un poco de precisión y reducir el índice de vectores varias veces.
Las model cards de EmbeddingGemma 2, Granite Embedding R2 y Jina Embeddings v5 describen entrenamiento matrioska o reducción de dimensiones, y Qwen3-Embedding te permite elegir la longitud del vector. Usa solo las longitudes para las que el modelo fue entrenado y vuelve a probar la calidad de la recuperación tras truncar, porque la pérdida depende de tus datos.
Términos relacionados
- Modelo de embeddings Un modelo de embeddings convierte texto, imágenes u otros datos en una lista de números que captura su significado, de modo que los elementos parecidos acaban cerca unos de otros.
- Generación aumentada por recuperación (RAG) La generación aumentada por recuperación permite que un modelo responda a partir de tus propios documentos recuperando los pasajes relevantes y añadiéndolos al prompt.
- Reranker Un reranker vuelve a puntuar una lista corta de resultados de búsqueda leyendo la pregunta y cada resultado juntos, lo que es más lento pero más preciso que solo embeddings.