파인튜닝, fine-tuning · 미세조정 · 추가 학습

파인튜닝은 사전학습을 마친 모델에 비교적 적은 예시를 더 보여 줘서, 특정한 일이나 말투에 맞게 다듬는 학습이에요. 처음부터 다시 가르치는 게 아니라, 이미 배운 걸 바탕으로 조금만 고쳐요. 질문에 친절히 답하도록 모범 답안으로 가르치는 것도 파인튜닝의 한 종류예요.

요즘은 원래 숫자는 그대로 두고, 작은 숫자 묶음만 덧붙여 학습하는 방법도 많이 써요. 2021년 발표된 LoRA는 이렇게 해서 학습할 숫자를 크게 줄여, 큰 모델도 비교적 싸게 다듬을 수 있게 했어요. 파인튜닝은 말투와 형식을 바꾸는 데 강하고, 새 사실을 넣을 때는 자료를 찾아 펴 놓고 답하는 RAG가 더 잘 맞는 경우가 많아요.