Fine-tuning Process

파인튜닝(Fine-tuning)은 이미 훈련된 모델(베이스 모델)을 특정 작업이나 데이터셋에 맞게 추가적으로 조정하는 과정이다. 이 방법은 베이스 모델이 이미 가지고 있는 지식을 활용하면서, 새로운 데이터에 대해 모델을 더욱 최적화시키기 위해 사용된다. 파인튜닝을 통해 모델은 특정 도메인이나 작업에 더욱 특화되어 성능이 향상될 수 있다.

1. 데이터 준비
   원시 데이터(Raw Data)를 수집하고, 필요한 형식으로 가공한다.

2. 모델 선택
   베이스 모델을 선택, 이 모델을 기반으로 추가 학습을 진행하게 된다.
   주로 GPT 혹은 Llama와 같은 사전 훈련된 모델을 사용한다.

3. 파인튜닝 실행
   선택된 모델에 준비한 새로운 데이터셋을 사용하여 학습을 진행한다.
   이 과정에서 모델은 새로운 데이터의 특성을 학습하며,
   필요에 따라 하이퍼파라미터 조정을 통해 최적화를 진행할 수 있다.

4. 모델 평가 및 배포
   학습이 완료된 모델을 평가하고, 성능이 검증된 모델을 로컬 시스템이나 클라우드 플랫폼에 배포한다.
   필요에 따라 포맷하여 Hugging Face Hub나 LM Studio같은 플랫폼에 업로드할 수 있다.