모델을 '빌려 쓰는' 시대에서 '만들어 쓰는' 시대로
원리에서 구현까지, LLM 개발의 전체 흐름을 익힌다

LLM API를 호출해 서비스를 만드는 것과 모델을 제대로 이해하고 다루는 것은 다른 문제입니다. 목적에 맞게 모델을 학습하고 최적화하며, 실제 서비스 환경에서 안정적으로 운영하려면 모델과 시스템을 함께 이해해야 합니다.

LLM 개발에는 모델의 작동 원리를 이해하는 일부터 목적에 맞게 학습하고, 빠르게 서빙하며, RAG와 에이전트로 실제 시스템을 구축하는 일까지 서로 다른 영역의 지식이 필요합니다. 이 책은 이 과정을 개별 기술의 나열이 아니라 하나로 이어지는 엔지니어링 흐름으로 설명합니다.

언어 모델의 원리부터 트랜스포머까지 깊이 이해한다

BoW와 N-gram에서 RNN, LSTM, Seq2Seq를 거쳐 트랜스포머에 이르는 언어 모델의 발전 과정을 따라갑니다. 셀프 어텐션의 작동 원리를 수식과 메커니즘 수준에서 이해하고, 그리디 디코딩, 빔 서치, Top-k, Top-p 등 주요 디코딩 전략까지 익혀 LLM의 탄탄한 기초를 다집니다.

모델을 학습하고, 최적화하고, 빠르게 서빙한다

SFT와 LoRA, QLoRA 같은 PEFT 기법으로 모델을 효율적으로 파인튜닝하고 평가합니다. VLM과 툴콜링 모델의 파인튜닝까지 경험하며 목적과 데이터에 맞게 모델을 조정합니다.

이어 FlashAttention, PagedAttention, MQA/GQA, KV 캐시, 연속 배치 등 추론·서빙 최적화의 핵심 원리를 이해하고 vLLM 기반 서빙으로 연결합니다. DeepSeek-R1과 GRPO를 통해 강화학습 기반 추론 모델의 원리를 살펴보고, MiniR1의 추론 능력을 직접 훈련하고 평가합니다.

고급 RAG와 에이전트로 실제 AI 시스템을 구축한다

Docling을 활용한 문서 처리부터 BM25와 벡터 검색을 결합한 하이브리드 검색, HyDE, 크로스 인코더 리랭킹, 캐싱까지 고급 RAG 기법을 단계적으로 적용합니다.

이어 ReAct와 툴콜링, 예외 처리, 동시 도구 실행, Text-to-SQL을 활용해 외부 도구와 데이터를 연결하고 실제 문제를 해결하는 에이전트 시스템을 구현합니다.

배운 기술은 프로젝트로 완성한다

뉴스 요약과 키워드 추출, 패션 속성 추출, 멀티턴 상담 챗봇, MiniR1 추론 훈련, 금융 PDF RAG, 병원 DB 질의 챗봇까지 다양한 프로젝트를 구현합니다. RunPod를 활용한 GPU 학습, vLLM 기반 서빙, 모델 평가 등 실제 개발 과정도 경험합니다.

트랜스포머의 원리를 이해하는 데서 시작해 모델을 학습하고 서비스하며, RAG와 에이전트로 확장하는 과정까지. 흩어져 있던 LLM 기술을 하나의 개발 흐름으로 연결하고 싶은 독자에게 필요한 실전 로드맵입니다.

이런 분께 추천합니다!

· API 활용을 넘어 트랜스포머의 내부 구조와 작동 원리를 깊이 이해하고 싶은 개발자
· 자체 데이터로 모델을 파인튜닝하고 최적화해 목적에 맞게 활용하려는 AI 실무자
· 학습한 모델을 빠르게 서빙하고 실제 LLM 서비스로 구현하려는 개발자
· 고급 RAG와 에이전트까지 연결해 더 완성도 높은 AI 시스템을 구축하고 싶은 엔지니어