한빛미디어 ＜나는 리뷰어다＞ 활동을 위해서 책을 제공받아 작성된 서평입니다.

밑바닥부터 시작하는 웹 브라우저(한빛미디어, 2025)

책 소개

저자 : 수하스 파이(Suhas Pai)

역자 : 박조은

제목 : 실무로 통하는 LLM 애플리케이션 설계

출판사 : 한빛미디어

출간 연도 : 2025.10. 

원서명 : Designing Large Language Model Applications(O'Reilly Media , 2025)

페이지 : 424쪽

https://www.yes24.com/product/goods/158678739

  대 LLM의 시대, AI 기술의 최전선에 있는 LLM은 RAG와 함께 다양한 분야에서 활용되고 있다. LLM의 흐름과 LLM의 활용을 모두 다루는 '실무로 통하는 LLM 애플리케이션 설계'를 통해 현업에서 사용 중인 LLM을 더 깊이 있게 알아가 보자.

 3부 13챕터로 구성된 책은 1부에서 LLM의 구성 요소를 중점으로 다룬다. 데이터 전처리 등의 사전 훈련 데이터와 토큰화, 트랜스포머를 주제로 LLM의 기본을 설명한다. 이어지는 2부에서는 파인 튜닝과 추론을 중심으로 다루는데, LLM을 활용하는 방법과 파인 튜닝을 통한 특정 작업 성능 향상 방법 그리고 LLM의 주요 한계점에 대한 완화/해결 접근법을 안내한다. 마지막 3부에서는 LLM 상호 작용 패러다임을 중점으로 에이전트와 RAG를 중심으로 LLM 애플리케이션을 설명한다.

 책의 마지막 챕터에서 다루는  LLM 애플리케이션 설계는, 앞선 챕터들에서 다룬 개념을 적용한 LLM 설계를 디자인 패턴과 시스템 아키텍처의 측면에서 LLM 시스템 구성, 다중 LLM 아키텍처 활용을 설명한다. (DSPy와 LMQL 등의 프레임워크 설명이 눈에 띈다.)

 다양한 예시 코드로 LLM 설계와 최적화를 모두 학습 할 수 있는 책으로 LLM 어플리케이션을 실무에 적용 할 수 있는 다양한 전략을 알려주는 책을 LLM을 다루는 모든 분께 추천한다.

  한빛미디어 ＜나는 리뷰어다＞ 활동을 위해서 책을 제공받아 작성된 서평입니다.

실무로 통하는 LLM 애플리케이션 설계 : 프로토타입을 넘어 제품으로 완성하는 생성형 AI 개발 전략

수하스 파이 지음

박조은 옮김

서비스로서의 LLM 을 어떻게 설계하고 운영할지를 알려주는 안내서 이며,

"어떻게 상용 수준의 LLM 어플리케이션을 만들 것인가 ?" 라는 질문에 대한 명확한 답을 주는 것은 안니지만, 그 길잡이 역활로써

명확한 로드맺을 제시하는 책 입니다.

# 대상 독자

이 책은 AI 어플리케이션 개발을 공부하고자 하는 모든 사람을 그 대상으로 하고 있습니다.

기초 책은 아니기 때문에 인공지능에 대한 최소한 용어에 대한 이해는 있어야 합니다.

# 이 책의 구성

이 책은 총 13개의 장으로 구성되어 있으며, 3개의 부로 나뉘어 있습니다.

  1부 LLM의 구성요소

        LLM 에 대한 개념을 잡고, 언어 모델의 구성요소를 이해 할 수 있습니다.

  2부 LLM 활용하기

        사용 목적에 맞는 LLM 활용 방법, 다양한 방식으로 파인 튜닝하는 등 언어 모델을 활용하는

        방법에 대해 학습할 수 있습니다.

  3부 LLM 애플리케이션 활용 패러다임

        RAG 가 왜 필요한지, 언제 검색을 섞어야 하는지, 외부 도구와의 연동방법, 설계 패턴과 시스템 아키텍처

        등에 대해 학습할 수 있습니다.

이 책은, 내용 중 이 책에서 다루지는 않지만 기본 적으로 알아야할 부분들에 대해서 도움을 줄 수 있는 링크등을

표시해 주고 있으며, 바로바로 알려줄 내용들에 대해서는 별도 공간을 할애 하여 추가 설명을 함으로써 이해도를

높여 주고 있습니다. (단어의 정의, NOTE ... 등)

# 이 책의 장점

  1. '실무'라는 제목에 충실 합니다.

      학술적인 이론 나열에 그치지 않고, 실제 프로덕션 환경에서 마주칠 수 있는 문제들에 대해 깊이 있게 논의 합니다.

  2. 기술 스택의 다양성을 존중 합니다.

      특정 프레임워크에만 종속되지 않고, 랭체인, 라마인덱스 등 다양한 도구와 생태계를 폭넓게 소개하여 독자가 자신의 상황에

      맞는 도구를 선택할 수 있게 돕습니다.

  3. 균형 잡힌 시각을 제공 합니다.

      LLM이 만능이 아님을 상기시키며, 기존 NLP 기술과 LLM을 어떻게 하이브리드로 사용할지, 그리고 멀티모달로의 확장 가능성까지

      다루며 엔지니어의 시야를 넓혀줍니다.

# 마무리

이 책은 "LLM 서비스 전체를 한 번에 바라볼 수 있는 실무형 지도" 같은 책 입니다.

LLM의 기본 원리에서 출발해서 설계 패턴 (RAG, 에이전트 등)을 거쳐 프로덕션 운영과 최적화 까지 이어지는 흐름이 잘 잡혀 있습니다.

LLM 어플리케이션을 설계를 맛 보고 싶은 분들께 추천 합니다.

안녕하세요. 정리하는 개발자 워니즈입니다. 최근들어 AI 활용이 급속히 많아지면서 대부분의 서평 작성의 주된 관심사가 AI쪽으로 많이 치우치는데요. 이번 책은 실무로 통하는 LLM 애플리케이션 설계라는 책에 대해서 서평을 해보려고 합니다.

목차

• PART 1 — LLM의 구성 요소

  • CHAPTER 1. LLM의 개념과 첫걸음
  • CHAPTER 2. 사전 훈련 데이터
  • CHAPTER 3. 어휘와 토큰화
  • CHAPTER 4. 아키텍처와 학습 목표
  PART 2 — LLM 활용하기
  • CHAPTER 5. 사용 목적에 맞게 LLM 활용하기
  • CHAPTER 6. 파인 튜닝
  • CHAPTER 7. 고급 파인 튜닝 기법
  • CHAPTER 8. 정렬 훈련과 추론
  • CHAPTER 9. 추론 최적화
  PART 3 — LLM 애플리케이션 활용 패러다임
  • CHAPTER 10. LLM과 외부 도구의 인터페이스
  • CHAPTER 11. 표현 학습과 임베딩
  • CHAPTER 12. 검색 증강 생성(RAG)
  • CHAPTER 13. 디자인 패턴과 시스템 아키텍처

그럼 각 항목별로 서평 작성을 해보도록 하겠습니다.

챕터별 간단 서평

[PART 1 LLM의 구성 요소]

CHAPTER 1 – LLM의 개념과 첫걸음

• 이 장은 LLM이 무엇인지, 왜 지금 중요한지, 그리고 실제로 API나 프롬프트를 통해 접근할 수 있다는 점을 알기 쉽게 설명합니다. LLM의 강점과 한계, 그리고 “단순 호출 → 프로토타입 → 제품화”로 이어지는 실무 흐름을 처음부터 보여줍니다.
• 특히 “첫 번째 챗봇 프로토타입 만들기” 같은 실습 예시는, LLM이라는 개념이 추상적이지 않고 손에 잡히는 도구라는 것을 느끼게 해줍니다.
• 한 줄 요약: LLM에 처음 입문하는 사람에게 “이게 뭐고, 어떻게 시작할 수 있나”를 알려주는 훌륭한 출발점.

CHAPTER 2 – 사전 훈련 데이터

• LLM이 단순히 “모델 + 프롬프트”로만 이루어지는 게 아니라, 사전 훈련 데이터의 품질과 구성, 전처리, 편향성 등이 결과에 얼마나 큰 영향을 주는지를 짚어줍니다.
• 이 장을 통해 “LLM은 블랙박스가 아니라, 결국 데이터 + 구조 + 학습 방식의 산물”이라는 점을 이해하게 되며, 실무 프로젝트로 도입할 때 ‘데이터 확보와 정제’가 얼마나 중요한지도 알 수 있습니다.
• 한 줄 요약: 좋은 LLM은 좋은 데이터에서 시작한다 — 데이터의 품질과 편향을 간과하면 안 된다.

CHAPTER 3 – 어휘와 토큰화

• 어휘(vocabulary), 토크나이저, 토큰화 파이프라인 등 LLM 내부의 기초 메커니즘을 설명합니다. 평소 우리가 의식하지 못하는 부분이지만, 한글·다국어를 다루거나 커스텀 모델을 만들 때 매우 중요한 요소입니다.
• 특히 한국어처럼 언어 구조가 영어와 다른 경우, 이 장의 개념이 실제 성능에 큰 영향을 줄 수 있다는 점이 와닿습니다.
• 한 줄 요약: ‘토큰화’는 기술적 디테일이지만, LLM의 퍼포먼스와 정확성에 직접 영향을 준다.

CHAPTER 4 – 아키텍처와 학습 목표

• 여기서는 왜 LLM이 현재의 ‘트랜스포머(transformer)’ 구조를 사용하는지, 손실 함수(loss function), 의미 표현, 사전 훈련 모델(backbone) 등이 어떤 의미를 갖는지를 설명합니다.
• 수학적인 깊이보다는 실무 관점에서 “우리가 왜 이 구조를 선택해야 하는가 / 어떤 trade-off가 있는가”를 이해하게 해 주기 때문에, 개발자나 실무 책임자로서 기술적 설계 결정을 할 때 유용합니다.
• 한 줄 요약: LLM의 뼈대와 설계 철학을 이해해야, 안정적이고 확장 가능한 AI 애플리케이션이 가능하다.

[PART 2 LLM 활용하기]

CHAPTER 5 – 사용 목적에 맞게 LLM 활용하기

• 모델 선택, 로딩 방식, 디코딩 전략, 출력 구조화, 디버깅/해석 가능성 등 실무자가 당장 고려해야 할 사항들을 실용적으로 다룹니다.
• “LLM은 무작정 던져 쓰는 게 아니라, 목적과 요구사항에 맞춘 세밀한 설정이 필요하다”는 점을 설계 초기부터 인식하게 합니다.
• 한 줄 요약: “어떤 LLM을, 어떻게, 왜 쓰느냐”를 목적 중심으로 정리해 주는 장.

CHAPTER 6 – 파인 튜닝

• 단순 API 호출 수준이 아니라, 특정 도메인이나 목적에 맞춘 커스텀 모델을 만들기 위한 파인 튜닝의 필요성과 실제 과정을 설명합니다.
• 특히 파인 튜닝이 왜 필요한지, 어떤 데이터셋이 필요한지, 그리고 초기 예제를 통해 “커스텀 LLM 만들기”에 대한 감을 잡게 해줍니다.
• 한 줄 요약: 기본 LLM으로 부족할 땐, 파인 튜닝으로 “우리만의 모델”을 만들 수 있다.

CHAPTER 7 – 고급 파인 튜닝 기법

• 전체 재훈련이 아닌, 파라미터 효율적 파인 튜닝(PEFT), 여러 모델 결합 등 비용과 자원을 줄이면서도 커스터마이즈할 수 있는 여러 기법을 소개합니다.
• 실무에서는 “모델 성능 vs 비용 vs 유지보수” 사이에서 균형을 잡아야 하는데, 이 장은 그 균형점을 찾는 데 많은 도움이 됩니다.
• 한 줄 요약: 리소스 제약이 있는 현실에서도, 실용적이고 효율적인 커스터마이징이 가능하다.

CHAPTER 8 – 정렬 훈련과 추론

• 단순한 언어 생성이 아니라, “어떤 응답이 좋은지/안 좋은지”를 학습시키는 정렬 훈련, 그리고 실제 추론 시 일어날 수 있는 문제들(예: 환각, 잘못된 추론, 부정확한 응답)과 그 완화 전략을 다룹니다.
• 특히 “LLM이 완벽하지 않다”는 사실을 숨기지 않고, 어떻게 보완·운영할지에 대한 현실적인 방법을 제시하는 점이 현실적이고 가치 있다고 느껴졌습니다.
• 한 줄 요약: LLM의 약점(환각, 오답)을 직시하고, 실무에서 어떻게 관리할지 알려준다.

CHAPTER 9 – 추론 최적화

• 단순한 생성이 아니라, 실제 운영 환경에서 inference 비용, latency, 메모리, 디코딩 속도, 저장 공간 등 현실적인 제약을 고려한 최적화 기법들을 소개합니다.
• 특히 대규모 시스템을 운영하거나, 여러 요청을 동시에 처리해야 할 때 “효율성 vs 품질” 사이에서 설계할 수 있는 구체적인 방법들을 얻을 수 있습니다.
• 한 줄 요약: “잘 동작하는 LLM”이 아니라, “효율적이고 실용적인 LLM 서비스”를 위한 필수 장.

[PART 3 LLM 애플리케이션 활용 패러다임]

CHAPTER 10 – LLM과 외부 도구의 인터페이스

• LLM만으로는 부족하거나 비효율적인 작업을, 외부 툴/시스템/워크플로우와 결합하는 패러다임을 설명합니다. 에이전트 개념, 워크플로우 설계, 시스템 구성 요소 등을 다룬 부분은 단순한 챗봇을 넘는 복합적인 AI 애플리케이션을 고민하는 이들에게 유용합니다.
• 예: 문서 검색 + 요약 + 자동 응답, 혹은 도메인 지식 DB + LLM + 사용자 인터페이스를 함께 설계하는 경우 — 이처럼 ‘AI + 기존 시스템’의 통합 설계에 대한 감이 생깁니다.
• 한 줄 요약: LLM을 중심으로 하지만, 결국은 “기존 시스템 + AI”의 통합을 어떻게 설계할지 알려주는 장.

CHAPTER 11 – 표현 학습과 임베딩

• 임베딩, 의미 검색, 유사도 계산, 벡터 데이터베이스, 청킹(chunking) 등, LLM 기반 애플리케이션에서 자주 쓰이지만 “나중에 알면 되지” 싶었던 개념들을 정리합니다.
• 특히 문서 검색, 질문 응답 시스템, 지식베이스 구축 등에서 실용적으로 활용될 수 있는 기반 기술들을 다루기 때문에, 실제 서비스 설계 관점에서 매우 중요합니다.
• 한 줄 요약: 단순 생성 말고, “지식 검색 + LLM”을 염두에 둔다면 반드시 이해해야 할 장.

CHAPTER 12 – 검색 증강 생성 (RAG)

• LLM이 단순히 내장된 지식만 쓰는 것이 아니라, 외부 문서/DB를 참조해 응답을 생성하는 RAG 기법을 설명합니다. RAG 활용 시나리오, 파이프라인, 한계, 파인 튜닝과의 비교 등 현실적인 고려사항이 풍부합니다.
• 이 장을 통해 “LLM = 모든 지식을 갖고 있는 만능 도구”가 아니라, “LLM + 외부 지식 소스 = 실무용”이라는 설계 철학을 이해하게 됩니다.
• 한 줄 요약: RAG는 현실 세계의 정보와 LLM을 연결하는 매우 실용적인 다리.

CHAPTER 13 – 디자인 패턴과 시스템 아키텍처

• 마지막으로, 다중 LLM 아키텍처, 프롬프트/에이전트/워크플로우 중심의 프로그래밍 패러다임, 전체 시스템 설계 패턴을 다룹니다.
• 이 장은 단순한 기능 구현을 넘어, 유지보수성, 확장성, 안정성을 고려한 “프로덕션급” LLM 애플리케이션 설계 관점을 제공합니다.
• 실무 환경, 특히 당신처럼 DevOps 파이프라인과 인프라 중심으로 일하는 팀이라면 이 장의 시야가 매우 도움이 될 것이라 생각합니다.
• 한 줄 요약: 단발성 실험이 아니라, 지속 가능한 LLM 시스템을 설계하려면 반드시 읽어야 할 장.

서평

누가 읽으면 좋은가

• 생성형 AI, 특히 대규모 언어 모델(LLM)을 실제 서비스나 제품에 적용하고자 하는 개발자 및 팀 리더
• 단순 실험이나 프로토타입을 넘어, 안정성과 확장성 있는 실무용 애플리케이션 개발을 고민하는 개발자
• AI 기술을 조직 내 프로세스, 파이프라인에 도입하려는 기술 리더, 테크 리더

특히, 자동화·인프라 중심의 워크플로우 설계에 익숙한 개발자에게 적합합니다 — LLM을 단순한 기술 실험이 아니라 “실무용 도구”로 승격시키는 관점이 핵심이기 때문입니다.

책의 주요 장점

1. 개념에서 실무까지 연결하는 설계 흐름
   • 단순한 “LLM 이해” 혹은 “이론” 수준이 아니라, “LLM 기반 애플리케이션을 어떻게 설계·구축할 것인가”라는 실무 중심의 흐름을 제시합니다.
   • 프토토타입 → MVP → 제품화까지 단계를 나눠서, 각 단계에서 고려해야 할 구조적 설계, 인프라, 안정성, 성능, 유지보수 등을 설명합니다.
2. 생성형 AI의 현실과 한계에 대한 현실적 고려
   • 단순히 “LLM이 만능이다”는 과장된 기대가 아니라, “어디까지 LLM이 잘 맞고, 어디에서 보완이 필요한가”를 냉정히 보는 시야가 인상적입니다.
   • 예: 비용, 응답 지연(latency), 데이터 프라이버시, 모델 업데이트, 에러 핸들링 — 실무에서 마주할 수 있는 문제들에 대한 대응 전략이 구체적입니다.
3. 실용적이고 응용 가능한 예시 제공
   • 단순한 설명이 아니라 실제 구현 예시, 설계 패턴, 체크리스트, 고려해야 할 변수를 포함하고 있어, 읽고 바로 실무에 적용할 여지가 많습니다.
   • “기술 → 설계 → 제품”으로 넘어가는 가교 역할을 한다는 점이 이 책의 강점입니다.

아쉬운 점 / 보완할 부분

• 배경 지식에 대한 요구
  • 기본적으로 AI, LLM, 머신러닝에 대한 기초 지식이 어느 정도 있어야 내용을 잘 따라갈 수 있습니다. 입문자보다는 “이미 AI/ML/DevOps에 익숙한 개발자” 대상입니다.
• 한국어 환경 관련 내용 부족
  • 모델 예시나 활용 사례 상당수가 영어권 / 글로벌 서비스 중심이라, 한국어 NLP, 한국 사용자 경험, 한국의 규제나 인프라 환경에 맞춘 내용은 다소 부족합니다.
  • 한국 환경에서 LLM을 운영하려는 독자라면, 여기에 더해 현지화 전략, 데이터 거버넌스, 한글 처리 관련 보완이 필요합니다.
• 빠르게 변하는 기술 트렌드와의 시차
  • AI/LLM 분야는 매우 빠르게 진화하기 때문에, 출간 시점 이후 등장한 최신 모델이나 기술 변화(예: 새로운 알고리즘, 프레임워크, 정책 등)는 반영되지 않을 수 있습니다.

『실무로 통하는 LLM 애플리케이션 설계』는 단순히 기술을 소개하는 책이 아니라, 생성형 AI 시대에 개발자가 어떤 관점과 철학으로 접근해야 하는지를 짚어주는 안내서였다. 읽는 내내 복잡한 개념을 억지로 끌고 가지 않고, 실무자가 궁금해할 질문에 정확히 답해주는 구성 덕분에 부담 없이 깊이 있게 이해할 수 있었다. 특히 “LLM을 어떻게 만들 것인가”보다 “LLM을 어떻게 제대로 활용할 것인가”에 초점을 맞춘 서술이 인상적이었다. 기술이 빠르게 변화하더라도 이 책에서 배운 원칙과 사고방식은 오래 유효할 것이라고 느낀다. 생성형 AI와 함께 일할 모든 개발자에게 자신 있게 추천하고 싶은 책이다.

본 포스팅은 “한빛미디어 ＜나는 리뷰어다＞ 활동을 위해서 책을 제공받아 작성된 서평입니다

"이 책은 LLM 환경에 대한 종합적인 가이드를 제공하며, 
복잡한 LLM 애플리케이션을 구축하는 데 필요한 직관과 도구를 갖추도록 돕습니다."
《실무로 통하는 LLM 애플리케이션 설계》, 13p