이미 소장하고 있다면 판매해 보세요.
|
CHAPTER 1 대규모 언어 모델 소개
_1.1 주요 용어 _1.2 트랜스포머 모델 _1.3 대규모 언어 모델 _1.4 LLM 구조 _1.5 LLM 선택 _1.6 기업의 LLM 활용 사례 _1.7 LLM을 활용한 구축의 도전 과제 _1.8 결론 참고 문헌 CHAPTER 2 LLMOps 소개 _2.1 운영 프레임워크의 개념 _2.2 LLMOps 팀과 역할 _2.3 LLM과 조직 _2.4 LLMOps의 네 가지 목표 _2.5 LLMOps 성숙도 모델 _2.6 결론 참고 문헌 읽을거리 CHAPTER 3 LLM 기반 애플리케이션 _3.1 애플리케이션에서 AI 모델 사용하기 _3.2 인프라 애플리케이션 _3.3 VLM과 멀티모달 LLM의 부상 _3.4 LLMOps 질문 _3.5 LLM 기반 애플리케이션에서 무엇을 제어할 수 있는가? _3.6 LLM 기반 인프라 시스템의 도전 과제 _3.7 결론 참고 문헌 CHAPTER 4 LLM 데이터 엔지니어링 _4.1 데이터 엔지니어링과 LLM의 부상 _4.2 데이터옵스 엔지니어 역할 _4.3 데이터 관리 _4.4 일반적 LLM 데이터 전처리 파이프라인 _4.5 벡터화 _4.6 결론 참고 문헌 읽을거리 CHAPTER 5 LLM 기반 애플리케이션의 모델 도메인 적응 _5.1 LLM 기초 훈련 _5.2 모델 앙상블 접근 방식 _5.3 모델 도메인 적응 _5.4 프롬프트 엔지니어링 _5.5 파인 튜닝 _5.6 전문가 혼합 모델 _5.7 자원 제약 장치용 모델 최적화 _5.8 효과적인 LLM 개발 전략 _5.9 결론 참고 문헌 CHAPTER 6 API 우선 LLM 배포 _6.1 모델 배포하기 _6.2 LLM용 API 개발하기 _6.3 API 구현하기 _6.4 자격 증명 관리 _6.5 API 게이트웨이 _6.6 API 버전 관리 및 수명 주기 관리 _6.7 LLM 배포 아키텍처 _6.8 검색 재정렬기 파이프라인을 활용한 RAG 자동화 _6.9 지식 그래프 자동 업데이트 _6.10 배포 지연 시간 최적화 _6.11 다중 모델 오케스트레이션 _6.12 RAG 파이프라인 최적화 _6.13 확장성과 재사용성 _6.14 결론 CHAPTER 7 LLM 평가 _7.1 평가가 어려운 이유 _7.2 성능 평가 _7.3 일반적인 평가 고려 사항 _7.4 전통적인 평가 지표의 한계 _7.5 결론 참고 문헌 CHAPTER 8 거버넌스: 모니터링, 개인정보 보호, 보안 _8.1 데이터 문제: 규모와 민감성 _8.2 보안 위험 _8.3 방어 조치: LLMSecOps _8.4 LLMSecOps 감사 수행 _8.5 안전 및 윤리적 가드레일 _8.6 결론 참고 문헌 CHAPTER 9 스케일링: 하드웨어, 인프라, 자원 관리 _9.1 올바른 접근 방식 선택하기 _9.2 스케일링과 자원 할당 _9.3 모니터링 _9.4 LLM을 위한 A/B 테스트와 섀도 테스트 _9.5 자동 인프라 프로비저닝과 관리 _9.6 LLM 인프라 최적화 _9.7 LLM을 위한 병렬 및 분산 컴퓨팅 _9.8 고급 프레임워크 ZeRO와 DeepSpeed _9.9 결론 참고 문헌 CHAPTER 10 LLM과 LLMOps의 미래 _10.1 현재의 한계를 넘어서는 확장 _10.2 하이브리드 아키텍처: 신경망과 심볼릭 AI의 결합 _10.3 LLMOps의 미래 _10.4 LLMOps 엔지니어로 성공하는 방법 _10.5 결론 참고 문헌 읽을거리 |
Abi Aryan
박조은의 다른 상품
|
모델 호출은 누구나 하지만 운영은 아무나 못하는 이유
AI 서비스를 비즈니스 자산으로 바꾸는 단 하나의 전략 이제 LLM을 활용한 비즈니스는 ‘무엇을 만들 것인가’를 넘어 ‘어떻게 안정적으로 가치를 창출할 것인가’라는 증명의 단계로 진입했습니다. 프로토타입 단계의 환희는 짧고 실제 서비스화 과정에서 마주하는 비용과 품질의 벽은 높기만 합니다. 이 책은 단순한 기술 나열을 넘어, 불확실성이 가득한 LLM을 비즈니스의 통제권 안으로 가져오는 운영의 기술을 전수합니다. 특히 사이트 신뢰성 엔지니어링(SRE)의 정수인 SLO-SLA-KPI 프레임워크를 LLM에 도입해 막연한 성능 지표를 구체적인 성과로 전환하는 명확한 해법을 제시합니다. 이 책은 기술적인 해결 방법 소개에 그치지 않고, LLMOps 엔지니어라는 새로운 역할 정의부터 조직의 AI 성숙도를 단계별로 높이는 로드맵까지 상세히 담았습니다. 앤트로픽의 MCP 프로토콜이나 에이전틱 워크플로 같은 최신 흐름을 운영자의 시각에서 재해석하여, 급변하는 기술에 휘둘리지 않고 조직의 핵심 인프라를 설계하는 전략가로 거듭나도록 돕습니다. 대규모 언어 모델을 단순한 도구가 아닌 신뢰할 수 있는 시스템으로 안착시키고 싶다면, 지금 이 책이 제안하는 운영 방식에 주목해야 할 차례입니다. 주요 내용 ● LLM 운영을 위한 새로운 역할과 프로세스 파악하기 ● 기존 지표의 한계를 넘는 LLM 성능 모니터링 방법 ● 생성형 AI 맞춤형 평가, 거버넌스, 보안 감사 체계 구축하기 ● 에이전트, RAG, 프롬프트의 복잡한 운영 문제 해결법 ● 비용 낭비를 막는 효율적인 인프라 확장 전략 대상 독자 ● 조직의 AI 성숙도를 높여 비즈니스 가치를 증명하고 싶은 리더 또는 관리자 ● 프로토타입을 넘어 견고한 실전 운영 인프라를 구축하려는 AI/ML 엔지니어 ● 생성형 모델의 특성에 맞춰 전문성을 확장하려는 데이터 엔지니어와 데브옵스 엔지니어 ● 전사적 AI 도입 전략과 효율적인 운영 체계를 고민하는 기획자나 경영진 |
|
LLM이 빠르게 산업 전반에 스며드는 지금, 단순히 모델을 잘 만드는 것을 넘어 이를 안정적으로 운영하고 개선해 나가는 역량, 즉 LLMOps의 중요성은 점점 더 커지고 있습니다. 이 책은 이러한 변화의 흐름 속에서 데이터, 모델, 실제 서비스 환경을 유기적으로 연결하는 방법을 체계적으로 짚어 냅니다. - 김경서 (데이터 과학자)
|
|
LLM을 ‘만드는 것’과 ‘운영하는 것’ 사이에는 생각보다 훨씬 큰 간극이 존재합니다. 이 책은 LLMOps를 단순한 도구의 문제가 아니라 사람, 프로세스, 기술이 결합된 운영 체계 전체의 문제로 바라봅니다. 조직에 필요한 운영 역량이 무엇인지 고민하는 이들에게 좋은 출발점이 되어 줄 것입니다. - 안정수 (카카오 AI 플랫폼 리더)
|
|
프로토타입은 잘 동작하지만 운영 환경에 들어가는 순간 비용, 품질, 안정성 문제가 한꺼번에 드러나곤 합니다. 이 책은 배포 이후의 현실적인 문제에 초점을 맞춥니다. 특히 비결정적 생성 모델을 평가하는 통계적 접근과 보안 이슈를 체계적으로 정리한 부분이 실무적으로 매우 유용합니다. - 임지연 (삼성전자 AI 개발 엔지니어)
|
|
준비되지 않은 AI 도입은 정제되지 않은 데이터와 막대한 운영 비용이라는 벽에 부딪힙니다. 이 책은 기술을 실제 현장에 어떻게 안착시킬 것인지에 대한 현실적인 해답을 제공합니다. 자사만의 AI 전략을 세우고 올바른 운영 방향을 고민하는 모든 임직원에게 강력히 추천합니다. - 정진우 (동희그룹 품질관리 담당)
|
|
비결정적인 시스템을 프로덕션에서 다룬다는 것은 낯선 지형을 걷는 일과도 같습니다. 이 책은 그 지형에서 무엇을 관찰하고, 어떻게 측정하며, 어떤 근거로 결정할 것인가에 대한 지도이자 도구상자가 되어 줍니다. LLM을 실제로 살아 움직이게 해야 하는 분들께 큰 도움이 될 것입니다. - 조영록 (소프트웨어 엔지니어)
|
|
LLM 기반 서비스의 개발부터 파인 튜닝, 배포, 평가, 거버넌스에 이르는 전체 수명 주기를 빠르게 훑으며 개념 체계를 정립할 수 있습니다. SLO-SLA-KPI 프레임워크와 MCP 프로젝트 예제 등 숲과 나무의 관점을 모두 제공하는, 설계자에게 최적화된 책입니다. - 허민 (한국외국어대학교 정보전략팀)
|