Ajuste fino (fine-tuning)
El ajuste fino continúa el entrenamiento de un modelo preentrenado con tus propios ejemplos para que se comporte mejor en una tarea, un estilo o un dominio concretos.
En lugar de entrenar desde cero, partes de un modelo abierto y lo ajustas con un conjunto de datos mucho más pequeño, por ejemplo tus tickets de soporte o un estilo de escritura concreto. Métodos como LoRA solo actualizan un pequeño conjunto de pesos extra, lo que hace posible el ajuste fino con una sola GPU.
Si puedes ajustar un modelo y compartir el resultado depende de su licencia. Licencias permisivas como Apache 2.0 lo permiten, mientras que otras añaden condiciones como requisitos de denominación o límites de ingresos. El ajuste fino también necesita más memoria que la inferencia, porque el entrenamiento guarda datos adicionales por cada parámetro.
Términos relacionados
- LoRA (adaptación de bajo rango) LoRA, siglas de low-rank adaptation, ajusta un modelo entrenando un pequeño conjunto de pesos añadidos en lugar de cambiar todos sus parámetros.
- Destilación La destilación entrena a un modelo estudiante más pequeño para imitar a un modelo profesor más grande, conservando gran parte de su capacidad con una fracción del tamaño.
- Pesos abiertos (open weights) Un modelo de pesos abiertos es un modelo de IA cuyos parámetros entrenados, llamados pesos, se publican para que cualquiera pueda descargarlo y ejecutarlo, normalmente bajo una licencia que fija las condiciones de uso.