참고 자료
실습 자료
실습은 실습 폴더(교안 저장소에서는 workspace/)를 작업 폴더로 두고 실행합니다. 읽는 파일은 강사 노트북과 같은 data/ 폴더에 있고, 경로도 원본 그대로 data/파일이름 으로 씁니다.
데이터 파일
| 파일 | 내용 | 쓰는 장 |
|---|---|---|
data/persona_sft_raw.csv | 평범한 질문(prompt)과 "냉소적인 절대 군주" 말투의 모범 답변(response) 327쌍. 학습 전후 말투 차이가 눈에 잘 보이도록 고른 학습용 데이터다 | 7~9장 |
data/support_inquiries.csv | 쇼핑몰 고객 문의 100건(inquiry, category, urgency, answer). 종합평가(최종과제)에서 쓰는 데이터다 | 7장 프로젝트, 종합평가 |
처음 실행할 때 내려받는 것
모델과 데이터 일부는 Hugging Face 에서 처음 한 번 내려받습니다. 두 번째부터는 내 PC 의 캐시(사용자폴더\.cache\huggingface)에서 읽습니다. 인터넷이 되어야 하고, 따로 가입하거나 토큰을 넣지 않아도 됩니다.
| 이름 | 무엇 | 크기(대략) | 쓰는 장 |
|---|---|---|---|
bert-base-uncased | BERT 의 토크나이저(영어 낱말 조각 나누기) | 1MB 안팎 | 2장 |
Qwen/Qwen2.5-0.5B-Instruct | 이 과정의 LLM. 파라미터 약 4억 9천만 개 | 약 1GB | 2장, 5~9장 |
strongminsu/ko-en-structured-translations | 영어·한국어 문장쌍 데이터셋(학습 7,594, 검증 949, 평가 950쌍) | 수 MB | 4장 |
tunib/electra-ko-en-small | 영어와 한국어를 함께 나누는 토크나이저 | 1MB 안팎 | 4장 |
실습이 만드는 파일
노트북은 결과를 실습 폴더의 outputs/ 아래에 저장합니다.
| 폴더 | 만드는 곳 | 내용 |
|---|---|---|
outputs/translation-scratch/ | 4장 | 작은 번역기 학습 기록(중간 저장은 하지 않는다) |
outputs/persona-lora/ | 8장 | LoRA 학습 기록 |
outputs/persona-lora-adapter/ | 8장 | 학습한 LoRA 어댑터(가중치 파일 33.6MB)와 토크나이저. 9장에서 다시 불러온다 |
outputs/persona-merged/ | 9장 | 어댑터를 기반 모델에 합친 전체 모델(942MB) |
outputs/persona-qlora/ | 9장 | QLoRA 학습 기록 |
- 병합 모델은 크기가 큽니다. 다 본 뒤에는 지워도 됩니다. 어댑터 폴더는 9장에서 다시 쓰므로 남겨 둡니다.
- 장마다 프로젝트가 새로 만드는 파일은
out_chNN_으로 시작합니다.
장마다의 실습이 무엇을 읽고 무엇을 남기는지는 그 장의 "실습 지도"에 있습니다.