CHAPTER 0 LLM이 만들어지기까지

0.1 구성 요소
0.2 LLM의 사전 학습
0.3 LLM의 사후 학습

[PART I 기본편: CodeBot 만들기]

I.1 개발 흐름
I.2 사전 학습
I.3 SFT(지도 파인튜닝)
I.4 강화 학습

CHAPTER 1 토크나이저 (기본편)

1.1 문자 단위 토큰화
1.2 바이트 단위 토큰화
1.3 BPE의 학습 알고리즘
1.4 BPE를 적용한 인코딩과 디코딩
1.5 특수 토큰 대응
1.6 사전 토큰화
1.7 TinyCodes를 이용한 학습
1.8 토크나이저 평가
1.9 TinyCodes 인코딩
1.10 정리

CHAPTER 2 모델 (기본편)

2.1 어텐션 기본 원리
2.2 어텐션의 수식과 구현
2.3 어텐션 스케일링
2.4 트랜스포머 기본 구조
2.5 위치 인코딩
2.6 어텐션 마스크
2.7 밸류 변환 행렬 효율 개선
2.8 멀티헤드 어텐션
2.9 트랜스포머 블록
2.10 GPT-2
2.11 정리

CHAPTER 3 학습 (기본편)

3.1 사전 학습
3.2 텍스트 생성
3.3 SFT(지도 파인튜닝)
3.4 SFT 모델과 나누는 대화
3.5 강화 학습과 언어 모델
3.6 정책 경사법
3.7 베이스라인
3.8 오프-정책과 클리핑
3.9 GRPO
3.10 정리

[PART II 응용편: StoryBot 만들기]

II.1 데이터셋
II.2 개발 흐름

CHAPTER 4 토크나이저 (응용편)

4.1 BPE 학습 개선 ①: 중복 제거
4.2 BPE 학습 개선 ②: 부분 갱신
4.3 BPE 학습 개선 ③: 분할 처리
4.4 BPE 학습 개선 ④: 병렬화
4.5 토크나이저 평가
4.6 BPE 인코딩 개선 ①: 고속 병합
4.7 BPE 인코딩 개선 ②: 대규모 데이터 처리
4.8 정리

CHAPTER 5 모델 (응용편)

5.1 RoPE
5.2 SwiGLU
5.3 RMSNorm과 그 밖의 개선
5.4 개선된 GPT 구현
5.5 KV 캐시
5.6 정리

CHAPTER 6 학습 (응용편)

6.1 AdamW의 원리
6.2 AdamW 구현
6.3 학습률 스케줄
6.4 혼합 정밀도
6.5 사전 학습 (개선 버전)
6.6 텍스트 생성과 모델 평가
6.7 RLHF와 DPO
6.8 DPO 구현
6.9 정리

[PART III 도전편: WebBot 만들기]

III.1 데이터셋
III.2 개발 흐름

CHAPTER 7 토크나이저 (도전편)

7.1 WebBot의 토크나이저
7.2 병목 지점 찾기
7.3 러스트와 C++를 이용한 속도 개선
7.4 특수 토큰 추가
7.5 다른 토크나이저
7.6 토크나이저를 사용하지 않는 접근법
7.7 정리

CHAPTER 8 모델 (도전편)

8.1 모델 크기 선택
8.2 FlashAttention
8.3 Grouped-Query Attention(GQA)
8.4 전문가 혼합(MoE)
8.5 torch.compile
8.6 컨텍스트 길이 확장
8.7 정리

CHAPTER 9 학습 (도전편)

9.1 기울기 누적
9.2 기울기 체크포인트
9.3 분산 학습
9.4 ZeRO
9.5 Muon 옵티마이저
9.6 Weights & Biases
9.7 WebBot 학습과 생성 결과
9.8 정리

APPENDIX A UTF-8 인코딩의 원리
APPENDIX B 어텐션의 스케일링 효과 증명
APPENDIX C 베이스라인을 적용한 정책 경사 추정량의 불편성 증명
APPENDIX D Adam의 편향 보정
APPENDIX E DPO의 최적해 유도