베이스 모델(Base model)

베이스 모델은 사전학습의 원시 결과물로, 지시를 따르거나 대화하는 법을 아직 배우지 않았으며, 보통 파인튜닝의 출발점이 됩니다.

  • 모델과 아키텍처
  • 업데이트

방대한 텍스트로 사전학습하면 텍스트를 이어 쓸 수는 있지만 질문에 확실히 답하거나 지시를 따르지는 못하는 베이스 모델이 만들어집니다. 인스트럭션 튜닝과 흔히 강화 학습 같은 포스트 트레이닝이 이를 대부분의 사람이 쓰는 채팅 모델, 즉 'instruct' 모델로 바꿉니다. 개발자가 베이스 모델도 함께 공개하면 직접 포스트 트레이닝을 할 수 있습니다.

이 단어는 느슨하게 쓰입니다. 언어 모델에서는 인스트럭션 튜닝 이전의 체크포인트를 뜻하며, Thinking Machines의 Inkling이 커스터마이징용 베이스로 공개된 사례입니다. Z-Image 같은 이미지 모델에서 '베이스'는 증류하지 않은 모델을 의미합니다. 이는 느리지만 결과가 더 다양하고, 빠른 증류 버전인 Turbo보다 파인튜닝 출발점으로 더 적합합니다.

관련 용어

  • 파인튜닝(Fine-tuning) 파인튜닝은 사전 학습된 모델의 학습을 자신의 예제로 이어서, 특정 작업·스타일·도메인에서 더 잘 동작하도록 만드는 것입니다.
  • 증류(Distillation) 증류는 더 작은 '학생' 모델이 더 큰 '교사' 모델을 모방하도록 학습시키는 방법으로, 크기는 훨씬 작으면서도 교사 모델의 능력 대부분을 유지합니다.
  • LoRA(저랭크 적응) LoRA는 저랭크 적응(Low-Rank Adaptation)의 줄임말로, 모델의 모든 파라미터를 바꾸는 대신 소수의 추가 가중치를 학습시켜 파인튜닝합니다.
  • 강화 학습(RL) 강화 학습은 정답이나 테스트 통과 같은 좋은 결과에 보상을 주는 방식으로 모델을 훈련합니다. 예시 텍스트를 따라 하는 대신 말입니다.

전체 용어