참고 문서: https://crfm.stanford.edu/2023/03/13/alpaca.html https://github.com/tatsu-lab/stanford_alpaca/tree/65512697dc67779a6e53c267488aba0ec4d7c02a Stanford에서 만든 Alpaca model Meta의 LLaMA 7B model 사용 " Alpaca is a language model fine-tuned using supervised learning from a LLaMA 7B model on 52K instruction-following demonstrations generated from OpenAI’s text-davinci-003" 출처: https://crfm.stanford.edu/2023/03/13/alpaca.html Alpaca 용 학습 데이터 구축소규모 학습 데이터를 GPT를 이용해서 대량으로 자동 생성함 수동으로 소규모 데이터를 구축하고, 이 데이터를 seed로 해서 GPT를 이용해서 52K개의 데이터를 자동 생성 175개 데이터를 수동으로 구축한다. 수동 데이터 예시 (tatsulab/stanford github) {"id": "seed_task_0", "name": "breakfast_suggestion", "instruction": "Is there anything I can eat for a breakfast that doesn't include eggs, yet includes protein, and has roughly 700-1000 calories?", "instances": [{"input": "", "output": "Yes, you can have 1 oatmeal banana ...