배우기
표기법
레슨이 기대는 약칭을 한곳에 모았다. 특별한 것은 없다 — torch 의 어휘다 — 다만 기호를 한 번 이름 붙여 두면 각 장이 빠르게 나아갈 수 있다.
레슨 읽기
- Run — 상자를 실행; ⌘/Ctrl + Enter 도 같다. 원하면 먼저 고치고, Reset 으로 원본 복구.
- JavaScript / Python 탭 — 둘 다 같은 일; 눌러서 수를 비교한다.
- ○ → ✓ — 코스 홈의 레슨 완료 동그라미; 누르거나 레슨 연습을 통과해 완료 표시.
- 직접 — 고칠 한 줄이 든 연습; 맞으면 페이지가 learned 라 한다.
await— GPU 에서 값을 읽는 것은 JavaScript 에서 비동기(await x.item()); Python 은 바로 읽는다.
텐서와 모양
[N, C, H, W]— 모양: 배치·채널·높이·너비. 벡터는[n], 행렬은[m, n].dtype— 원소 타입(예:float32);device— 있는 곳(GPU).[m, k] @ [k, n] → [m, n]— 행렬곱 모양 규칙: 안쪽 크기가 맞고, 바깥 둘이 결과가 된다.- 스칼라는 모양
[]텐서; JavaScript 에서 상수는Tensor.full([], k).
벡터와 행렬
a · b— 내적,a.dot(b): 짝지은 성분을 곱해 더함.‖v‖— L2 norm(길이),v.norm(); 거리는‖a − b‖.Aᵀ— 전치,A.transpose();A @ B— 행렬곱,A.matmul(B)(또는mm).A v = λ v— 고유벡터v와 고윳값λ;A = U diag(S) Vᵀ— SVD, 특이값S.
학습
- logit — 모델의 원점수, 확률로 바뀌기 전.
softmax— logit 을 합이 1 인 확률 분포로; 교차 엔트로피 — 정답 클래스의 손실−log p.requiresGrad·backward()·.grad— 입력을 표시하고, 역전파를 돌리고, 기울기를 읽는다.- train / eval — 모듈의 모드; dropout 과 배치 정규화가 각각 다르게 동작한다.