8장. PEFT와 LoRA 학습
확인문제와 해답
객관식
Q1FP32 로 Full Fine-tuning 할 때 파라미터 하나가 차지하는 메모리(가중치, 그래디언트, 옵티마이저 상태의 합)는 약 몇 바이트일까요?
Q2PEFT 에서 동결(freeze)된 가중치에 대한 설명으로 맞는 것은 무엇일까요?
Q3입력 896칸, 출력 896칸인 q_proj 에 r = 16 인 LoRA 를 붙이면 학습 파라미터는 몇 개일까요?
Q4LoRA 에서 B 를 0 으로 초기화하는 까닭은 무엇일까요?
Q5per_device_train_batch_size=1, gradient_accumulation_steps=8 일 때 실질 배치는 얼마일까요?
Q6실습의 손실처럼 학습 손실은 3.09 → 2.42 → 1.87 로 내려가는데 검증 손실은 3.1265 → 3.1223 → 3.2088 로 3 epoch 에 올라갔습니다. 가장 알맞은 해석은 무엇일까요?
Q7lora_model.save_pretrained(ADAPTER_DIR) 가 저장하는 것으로 맞는 것은 무엇일까요?
단답형
- 기반 모델 가중치 대부분을 얼리고 적은 파라미터만 학습하는 방법들을 통틀어 무엇이라고 합니까(영문 약자)?
정답 보기
PEFT(Parameter-Efficient Fine-Tuning) - 실습에서 Qwen 의 일곱 선형층에 r = 16 LoRA 를 붙였을 때
print_trainable_parameters()가 찍은 학습 파라미터 수는 몇 개입니까?정답 보기
8,798,208개 - 실습에서 저장한
adapter_model.safetensors파일의 크기는 몇 MB 입니까?정답 보기
33.60 MB
정답
정답 전체 보기
객관식: 1-C, 2-A, 3-D, 4-B, 5-C, 6-D, 7-A
단답형: 1. PEFT(Parameter-Efficient Fine-Tuning). 2. 8,798,208개. 3. 33.60 MB.