답변 어투와 fine-tuning에 관한 건 about koalpaca HOT 1 CLOSED

안녕하세요!

해당하는 경우는 답변의 말투를 바꿔서 finetune해보는 것이 더 좋을 듯 합니다.

특히, 이런 경우는 원본 데이터와 함께, 신규 데이터의 instruct에 ‘아래 대답을 00한 말투로 대답해줘’ 라는 프롬프트를 추가해서 학습시킬 경우 여러 말투를 한 모델 내에 학습시킬 수 있고, prompt를 바꾸는 것만으로도 말투를 조절할 수 있는 가이드를 모델에게 제공할 수 있습니다 :)

즉, 원본 데이터 + 반말로 변환한 데이터(+ “반말로 대답해”와 같은 instruct prompt 추가) + 기타 말투 데이터(+ 해당 말투 설명하는 instruct prompt 추가) 와 같이 학습하시는게 좋을 것 같습니다 :)

만약 데이터를 전체 변환하는게 힘드시다면, KoAlpaca-polyglot 모델을 받아서 수백-수천개 수준을 말투만 변환시켜서 finetune 시키거나, 혹은 LoRA로 학습시켜 보는 것도 괜찮은 방법일 듯 합니다.

from koalpaca.