Дообучение (fine-tuning)

Дообучение продолжает обучение предобученной модели на ваших собственных примерах, чтобы она лучше работала в конкретной задаче, стиле или предметной области.

  • Использование моделей
  • Обновлено

Вместо обучения с нуля вы берёте открытую модель и настраиваете её на гораздо меньшем наборе данных, например на своих обращениях в поддержку или на определённом стиле письма. Методы вроде LoRA обновляют лишь небольшой набор дополнительных весов, поэтому дообучение возможно на одном GPU.

Можно ли дообучать модель и делиться результатом, зависит от её лицензии. Разрешающие лицензии вроде Apache 2.0 это допускают, другие добавляют условия — например, требования к названию или ограничения по выручке. Дообучение требует и больше памяти, чем инференс: при обучении для каждого параметра хранятся дополнительные данные.

Связанные термины

  • LoRA (низкоранговая адаптация) LoRA, сокращение от low-rank adaptation, дообучает модель, тренируя небольшой набор добавленных весов вместо изменения всех её параметров.
  • Дистилляция Дистилляция обучает меньшую «ученическую» модель подражать большей «учительской», сохраняя большую часть её способностей при малой доле размера.
  • Открытые веса (open weights) Модель с открытыми весами — это модель ИИ, чьи обученные параметры, называемые весами, опубликованы, так что любой может скачать её и запустить, обычно под лицензией, задающей условия использования.

Все термины