Базовая модель (Base model)
Базовая модель — это сырой результат предобучения, ещё не обученный следовать инструкциям или вести диалог; обычно это отправная точка для дообучения (fine-tuning).
Предобучение на огромных объёмах текста даёт базовую модель, которая продолжает текст, но не умеет надёжно отвечать на вопросы и следовать инструкциям. Посттренировка — например, instruction tuning и часто обучение с подкреплением — превращает её в чат-модель или «instruct»-модель, которой пользуется большинство. Если разработчик публикует и базовую модель, вы можете провести свою собственную посттренировку.
Слово используется свободно. Для языковых моделей это чекпоинт до instruction tuning, как у Inkling от Thinking Machines, выпущенного как база для кастомизации. Для моделей изображений вроде Z-Image «базовая» означает недистиллированную модель: она медленнее, но даёт более разнообразные результаты и лучше подходит как отправная точка для дообучения, чем быстрая дистиллированная версия Turbo.
Связанные термины
- Дообучение (fine-tuning) Дообучение продолжает обучение предобученной модели на ваших собственных примерах, чтобы она лучше работала в конкретной задаче, стиле или предметной области.
- Дистилляция Дистилляция обучает меньшую «ученическую» модель подражать большей «учительской», сохраняя большую часть её способностей при малой доле размера.
- LoRA (низкоранговая адаптация) LoRA, сокращение от low-rank adaptation, дообучает модель, тренируя небольшой набор добавленных весов вместо изменения всех её параметров.
- Обучение с подкреплением (RL) Обучение с подкреплением тренирует модель, вознаграждая хорошие результаты, например правильный ответ или прохождение тестов, вместо копирования примеров текста.