AI

[1주차-LLMSO]LLM 기초 동작 원리 (2026.08.02)

LLM 기초 · 동작 원리 들어가며 1 가중치 2 역전파 3 GPU 4 Transformer 5 텐서·임베딩 6 GPT-2 해부 7 입력 만들기 8 Attention 9 Head·MLP 10 Residual·LN 11 출력 12 Gradient 13 dtype·양자화 14 정리 마치며 LLM 서빙 스터디 1주차 · LLM 기초 학습자료 숫자 몇 개가말을 하게 되기까지. 가중치 하나짜리 신경에서 시작해서, GPT-2 Small의 124,439,808개 숫자가 다음 단어 하나를 고르는 순간까지 — 중간을 건너뛰지 않고 이어서 봅니다. 수식은 전부 실었습니다. 다만 본문에는 두지 않고 접는 상자 안에 넣었고, 기호 하나하나를 한국어로 읽는 법까지 붙였습니다. 맨 끝에 수..

[1주차-LLMSO]CH2. Large Language Model Serving (2026.08.02)

CH2 · LLM Serving 들어가며 1 LLM 발전 2 자기회귀 3 Decoder-only 4 Attention 5 생성 루프 6 KV Cache 7 Prefill·Decode 8 vLLM 9 PagedAttention 10 Streaming 11 Batching 12 정리 마치며 LLM 서빙 스터디 1주차 · CH2 학습자료 토큰 하나가 나오기까지안에서 벌어지는 일. Large Language Model Serving — Transformer 안을 열어보고, 토큰 생성 루프를 직접 돌려보고, KV Cache · PagedAttention · streaming · batching이 왜 그렇게 생겼는지까지. 수학은 거의 안 나옵니다. 나오는 것은 전부 접는 상자 안에..

[1주차-LLMSO]CH1. Introduction to Model Serving and Optimization (2026.08.02)

CH1 · Model Serving 들어가며 1 구성요소 2 생명주기 3 서빙이란 4 왜 공부하나 5 최적화 6 vLLM 7 On-Device 8 Single 9 Multi 10 Platform 11 정리 마치며 LLM 서빙 스터디 1주차 · CH1 학습자료 학습이 끝난 모델을진짜 서비스로 만드는 일. Introduction to Model Serving and Optimization — 모델이 무엇으로 이루어져 있는지부터, 그것을 API로 내보내고 빠르고 싸게 굴리는 네 가지 방법까지. 수학은 거의 나오지 않습니다. 나오는 것은 전부 접는 상자 안에 넣었고, 본문은 덧셈과 곱셈만으로 따라갈 수 있게 썼습니다. 이 자료가 지키는 것 ① 전문 용어는 영어 그..

[1주차-LLMSO]트랜스포머 모델을 이해하기 위한 기초 수학 정리

순서 1. 벡터 2. 회전 3. 사원수 4. 합과 곱 5. 내적·외적 6. 어텐션 7. 위치 8. 확률 9. 학습 정리 안녕하세요, Devlos 입니다. 오랜만에 CloudNet@에서 진행하는 Hands-On LLM Serving and Optimization Study에 참여하게 되었습니다. 항상 공부할때마다 아리송한 Transformer 모델을 이해하고자 필요한 내용을 정리해 보았어요. 스터디에서 추천해 주신 침착맨과 정승재 강사님의 영상 개념이 곱의 법칙과 합의 법칙을 상기하는데 도움이 많이 되었어요 ㅎㅎ 수학적 개념들을 최대한 풀어서, 이런 개념들이 왜 Transformer 모델에 필요한지에 대한 설명을 정리해 보았습니다 Transformer Mod..