파인튜닝(Fine-tuning)
파인튜닝은 사전 학습된 모델의 학습을 자신의 예제로 이어서, 특정 작업·스타일·도메인에서 더 잘 동작하도록 만드는 것입니다.
처음부터 학습시키는 대신 오픈 모델에서 출발해 훨씬 작은 데이터셋으로 조정합니다. 예컨대 여러분의 고객 지원 티켓이나 특정 문체 같은 것입니다. LoRA 같은 방법은 소수의 추가 가중치만 업데이트하므로 GPU 한 장으로도 파인튜닝이 가능합니다.
모델을 파인튜닝하고 그 결과를 공유할 수 있는지는 라이선스에 달려 있습니다. Apache 2.0처럼 관대한 라이선스는 허용하고, 다른 라이선스는 이름 표기 요건이나 수익 상한 같은 조건을 붙입니다. 파인튜닝은 추론보다 메모리도 더 필요한데, 학습은 파라미터마다 추가 데이터를 저장하기 때문입니다.
관련 용어
- LoRA(저랭크 적응) LoRA는 저랭크 적응(Low-Rank Adaptation)의 줄임말로, 모델의 모든 파라미터를 바꾸는 대신 소수의 추가 가중치를 학습시켜 파인튜닝합니다.
- 증류(Distillation) 증류는 더 작은 '학생' 모델이 더 큰 '교사' 모델을 모방하도록 학습시키는 방법으로, 크기는 훨씬 작으면서도 교사 모델의 능력 대부분을 유지합니다.
- 오픈 웨이트(Open weights) 오픈 웨이트 모델은 학습된 파라미터(가중치)가 공개된 AI 모델로, 누구나 다운로드해 실행할 수 있으며, 보통 이용 조건을 정한 라이선스가 붙습니다.