Modelo base (Base model)

Un modelo base es el resultado crudo del preentrenamiento, antes de que se le haya enseñado a seguir instrucciones o conversar; suele ser el punto de partida para el fine-tuning.

  • Modelos y arquitectura
  • Actualización

El preentrenamiento con enormes cantidades de texto produce un modelo base que continúa texto pero no responde preguntas ni sigue instrucciones de forma fiable. El post-entrenamiento, como el ajuste por instrucciones y a menudo el aprendizaje por refuerzo, lo convierte en el modelo de chat o «instruct» que usa la mayoría de la gente. Un desarrollador que también publica el modelo base te permite hacer tu propio post-entrenamiento.

La palabra se usa con cierta laxitud. En los modelos de lenguaje significa el checkpoint previo al ajuste por instrucciones, como el Inkling de Thinking Machines, publicado como base para personalización. En modelos de imagen como Z-Image, «base» significa el modelo no destilado, que es más lento pero da resultados más variados y es mejor punto de partida para el fine-tuning que la versión destilada Turbo, que es rápida.

Términos relacionados

  • Ajuste fino (fine-tuning) El ajuste fino continúa el entrenamiento de un modelo preentrenado con tus propios ejemplos para que se comporte mejor en una tarea, un estilo o un dominio concretos.
  • Destilación La destilación entrena a un modelo estudiante más pequeño para imitar a un modelo profesor más grande, conservando gran parte de su capacidad con una fracción del tamaño.
  • LoRA (adaptación de bajo rango) LoRA, siglas de low-rank adaptation, ajusta un modelo entrenando un pequeño conjunto de pesos añadidos en lugar de cambiar todos sus parámetros.
  • Aprendizaje por refuerzo (RL) El aprendizaje por refuerzo entrena a un modelo premiando los buenos resultados, como una respuesta correcta o superar pruebas, en lugar de copiar texto de ejemplo.

Todos los términos