6장. Qwen 모델 준비와 텍스트 생성
확인문제와 해답
객관식
Q1Qwen2.5-0.5B-Instruct 의 파라미터 494,032,768 개를 BF16 으로 올릴 때 가중치 메모리로 가장 가까운 것은 무엇일까요?
Q2model.generate(..., do_sample=False) 가 다음 토큰을 고르는 방식은 무엇일까요?
Q3후보 확률이 A 40%, B 30%, C 15%, D 10%, E 5% 일 때 top-p = 0.8 로 남는 후보는 무엇일까요?
Q4temperature 를 1 에서 0.5 로 낮추면 확률 분포는 어떻게 될까요?
Q5실습 2의 출력 첫 줄 "The following generation flags are not valid and may be ignored: ['temperature', 'top_p', 'top_k']" 가 나온 까닭으로 알맞은 것은 무엇일까요?
Q6SFT 에서 손실(벌점)을 계산하는 부분은 어디일까요?
Q7같은 질문에 대한 두 답변 가운데 사람이 더 좋아한 쪽을 학습 신호로 쓰는 단계는 무엇일까요?
단답형
pipeline이나generate에서 새로 만들 토큰 수의 상한을 정하는 인자의 이름은 무엇입니까?정답 보기
max_new_tokens- 샘플링 결과를 같은 PC 에서 다시 똑같이 보려고 생성 전에 부르는 PyTorch 함수는 무엇입니까?
정답 보기
torch.manual_seed - 사전학습만 마친 Base 모델에 SFT 를 적용해 질문에 답하도록 만든 모델을 무엇이라고 부릅니까?
정답 보기
Instruct 모델(지시를 따르는 모델)
정답
정답 전체 보기
객관식: 1-B, 2-D, 3-A, 4-C, 5-B, 6-D, 7-A
단답형: 1. max_new_tokens. 2. torch.manual_seed. 3. Instruct 모델(지시를 따르는 모델).