실습 1 — 실습 준비와 Qwen 불러오기

# 데이터를 읽고 모델을 학습하는 데 필요한 도구를 불러옵니다.
import gc  # 더 이상 쓰지 않는 모델 객체를 메모리에서 정리합니다.
import json  # JSONL 데이터를 읽고 쓸 때 사용합니다.
import os  # 파일 경로와 폴더를 다룹니다.
import warnings  # 경고 메시지를 제어합니다.
# filterwarnings("ignore") = 경고 거르개를 "무시"로 둔다
warnings.filterwarnings("ignore")  # 실습과 무관한 경고를 숨깁니다.

import pandas as pd  # 표 형태 데이터를 다룹니다.
# torch = PyTorch. 텐서(GPU 에서 계산할 수 있는 숫자 배열)와 신경망 도구
import torch  # 텐서와 모델 학습에 사용합니다.
import matplotlib.pyplot as plt  # 그래프를 그립니다.
import koreanize_matplotlib  # 그래프에서 한글이 깨지지 않게 합니다.

# "cuda" = NVIDIA GPU. 뒤에서 모델과 입력을 이 장치로 옮긴다
device = "cuda"  # GPU 1개를 사용합니다.
# makedirs(폴더, exist_ok=True) = 폴더를 만들되, 이미 있으면 그냥 넘어간다
os.makedirs("outputs", exist_ok=True)  # 학습 결과를 저장할 폴더입니다.

# Hugging Face 의 모델 이름. "만든 곳/모델 이름" 꼴이다
MODEL_NAME = "Qwen/Qwen2.5-0.5B-Instruct"  # 추론과 LoRA 학습에 사용할 모델입니다.

# GPU가 지원하는 숫자 정밀도를 고른 뒤 기반 모델을 불러옵니다.
# AutoModelForCausalLM = 다음 낱말 맞히기(causal LM)용 모델을 이름으로 불러오는 도구
# AutoTokenizer = 모델 이름에 맞는 토크나이저를 골라 주는 도구
from transformers import AutoModelForCausalLM, AutoTokenizer  # 생성 모델과 토크나이저를 불러옵니다.

# from_pretrained = 이미 학습된(pretrained) 것을 내려받아 불러오기
tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)  # Qwen용 토크나이저를 불러옵니다.
# is_bf16_supported() = 이 GPU 가 BF16 을 지원하는가. RTX 3080 은 True 라 BF16 을 고른다
MODEL_DTYPE = torch.bfloat16 if torch.cuda.is_bf16_supported() else torch.float16  # BF16 지원 GPU(RTX 30 이상, A100, L4)는 BF16, 그 외(Colab T4 등)는 FP16입니다.


# 기반 모델을 부르는 함수. 9차시에서 어댑터를 붙이거나 QLoRA 로 다시 부를 때도 쓴다
def load_base_model(model_name=MODEL_NAME, dtype=MODEL_DTYPE, **kwargs):  # 같은 기반 모델을 필요할 때 다시 불러옵니다.
    model = AutoModelForCausalLM.from_pretrained( # 지정한 기반 모델 가중치를 불러옵니다.
        model_name,  # 내려받을 기반 모델입니다.
        dtype=dtype,  # 가중치의 정밀도입니다. 기본값은 MODEL_DTYPE입니다.
        # **kwargs = 이름 붙은 인자를 사전으로 모아 그대로 넘긴다(예: quantization_config, device_map)
        **kwargs,  # 양자화와 장치 배치 등 추가 옵션입니다.
    )
    # device_map 을 주면 라이브러리가 알아서 장치에 올리므로 직접 옮기지 않는다
    if "device_map" not in kwargs:  # device_map 옵션이 없을 때만 아래에서 장치를 직접 지정합니다.
        model = model.to(device)  # 앞에서 선택한 장치로 모델을 옮깁니다.
    # 종료 토큰과 패딩 토큰은 모델에 저장된 생성 설정을 사용합니다.
    return model


# 인자 없이 부르면 MODEL_NAME 을 BF16 으로 불러와 GPU 에 올린다
model = load_base_model()  # 기본 정밀도로 Qwen 모델을 불러옵니다.
# parameters() = 가중치 텐서를 하나씩 돌려준다. numel() = number of elements, 원소 수
n_params = sum(p.numel() for p in model.parameters())  # 모든 가중치 원소 수를 합칩니다.
# 결과: 파라미터 수: 494,032,768 (0.49B)
print(f"파라미터 수: {n_params:,} ({n_params / 1e9:.2f}B)")
# get_memory_footprint() = 가중치가 차지하는 바이트 수. 1024**2 로 나눠 MB 로. 결과: 942 MB
print(f"메모리 사용량: {model.get_memory_footprint() / 1024**2:,.0f} MB")