| 이 책의 독자 대상 |
- AI로 새로운 기회를 만들고 비즈니스 가치를 높이려는 실무자와 경영진
- 당장 제품과 서비스에 AI를 적용해야 하는 개발자, 머신러닝 엔지니어, 데이터 과학자
- 기존 서비스에 AI를 접목해 프로덕트를 기획, 운영해야 하는 PM과 PO
- 반복되는 AI 프로젝트 실패의 구조적 원인을 찾고 싶은 조직 리더

| 이 책의 구성 |
1부 ‘AI 프로젝트를 시작하며: 기본 점검’
1장 ‘프로젝트가 실패할 확률을 추산해보았나?’에서는 AI 프로젝트가 실패할 확률은 왜 그리도 높은지, 실패를 피하려면 초기에 어떤 부분을 고려해야 하는지를 다룹니다.
2장 ‘생성AI 기술은 절대반지일까?’에서는 생성AI 기술이 모든 것의 해답은 아닐 수도 있다는 점을 짚어봅니다. 특히 기존에 잘 활용해온 규칙기반 시스템이나 머신러닝 시스템이 더 적합한 일들은 무엇이며, 생성AI/LLM이 적합한 일은 무엇인지를 알아봅니다.
3장 ‘업무 노하우와 도메인 지식을 파악해 적용했는가?’에서는 AI를 적용할 각 분야 실무자들의 도메인 지식과 업무 노하우를 어떻게 정리해서 AI 프로덕트에 녹여낼 것인지를 살펴봅니다.

2부 ‘AI 프로젝트의 실제 구축 방안’
4장 ‘우리 비즈니스에 맞는 AI 기술을 제대로 알고 선택했는가?’에서는 현재 해결하고자 하는 문제에 어떤 AI 기술을 선택해서 써야 할지에 대해 알아봅니다. 다양한 기술의 기본 사항과 특장점에 대한 기초 지식을 갖추고자 합니다.
5장 ‘서비스 가능한 AI 프로덕트를 위한 아키텍처 요소를 잘 구성했는가?’에서는 AI 프로덕트가 현실에서 돌아가게 하기 위해 필요한 가드레일, 라우터나 게이트웨이, 프롬프트 템플릿 관리 등을 알아보고, 그 필요성과 의미에 대해서도 살펴봅니다.
6장 ‘데이터는 어떻게 확보했으며, 충분히 준비할 수 있었는가’에서는 데이터를 가져오는 데 방해가 되는 요소들을 피하는 방법, 때에 따라서는 오픈소스로 공개된 데이터들을 이용하고 부족할 경우에는 합성 데이터를 만드는 것, 그리고 개인정보보호 방안까지 알아봅니다.
7장 ‘비정형 문서를 제대로 읽어와서 처리했는가?’에서는 다양한 문서에서 비정형 데이터를 가져와서 정리하는 방법, 파일 포맷별로 달라져야 하는 다양한 문서 파싱 전략 방안을 살펴봅니다.
8장 ‘LLM: 자체 구축할까? API를 활용할까?’에서는 직접 서빙시에 어느 정도의 비용이 드는지 추산을 해보고 상황에 따라 어떻게 접근하는 것이 경제적인지를 살펴봅니다.
9장, ‘SLM: 적시에 도입하고 제대로 활용하고 있는가?’에서는 실제 비즈니스에 맞는 SLM을 언제 만들어야 하고 어떻게 만들어야 하는지를 알아봅니다. 지식 증류, 파인튜닝, 양자화 등 독자가 꼭 알아야 하는 기본 사항들을 위주로 살펴봅니다.
10장 ‘비즈니스 문제 해결: LLM 워크플로를 만들까? 에이전트에게 맡길까?’에서는 워크플로와 에이전트의 차이를 알아보고, 언제 무엇을 선택해 쓰는 게 좋은지를 살펴봅니다.

3부 ‘더 완벽한 AI 프로덕트를 향하여: 성능 평가와 최적화, 인적 요소’
11장 ‘적절한 프롬프트를 만들어 우리가 원하는 컨텍스트를 구성했는가?’에서는 좋은 프롬프트를 만드는 많은 방법 중에 제가 직접 써보고 좋았던 방법들을 정리했습니다. 특히 ‘컨텍스트 엔지니어링’의 관점에서 어떻게 프롬프트를 봐야 할지도 알아봅니다.
12장 ‘AI 답변 수준을 높이기 위해 RAG 최적화를 했는가?’에서는 RAG를 최적화해서 AI가 더 답을 잘할 수 있는 방법을 소개합니다. 이와 관련해, 청킹, 임베딩, 검색, 재순위, 에이전틱 RAG 등을 배워봅니다.
13장 ‘RAG 성능을 평가하고 있는가?’에서는 RAG의 성능 평가를 할 때 벡터DB에 올린 자료들에 입각해서 평가 데이터셋을 만들고, LLM을 통해서 평가하는 RAGAS에 대해 알아봅니다.
14장 ‘LLM 모델 성능을 평가하고 있는가?’에서는 LLM 모델의 성능 평가가 필요한 이유를 알아봅니다. 성공적인 모델 성능 평가를 위해서는 명확한 목표를 정의하고 이에 맞는 데이터셋을 모아야 하며, 여러 가지 평가지표를 설정하고 마지막으로 이 지표들을 균형 잡힌 결과로 해석해야 합니다.
15장 ‘에이전트 성능을 평가하고 있는가?’에서는 에이전트 성능 평가가 필요한 이유, 그리고 성능 평가를 실제로 수행하기 위해 공개 벤치마크를 활용한 평가 방식을 알아봅니다. 또한 기존의 벤치마크들이 다루지 못하는 부분에 대해 직접 벤치마크와 지표를 마련하는 방법도 살펴봅니다.
16장 ‘AI의 거짓말과 환각에 대응하고 있는가?’에서는 환각 현상이 모델 학습에서부터 기인한 현상이므로, 환각 현상을 줄이기 위한 방안으로 RAG를 통한 외부 문서 참조, 롱 컨텍스트 모델 활용, 가드레일 기술을 통한 실시간 입출력 검증, 출처 명시를 통한 투명성 강화, 인적 검증 및 피드백 시스템 구축 등을 알아봅니다.
17장 ‘인재 확보와 관리 전략을 운영하고 있는가?’에서는 기업이나 조직에서 함께 사용자의 관점에서는 일할 사람들을 어떻게 뽑을 수 있을지, 그리고 이취업을 준비하는 피사용자의 관점에서는 어떻게 AI 회사에서 일할 기회를 얻을 수 있을지를 알아봅니다.

부록 A ‘오픈 가중치 모델을 선택하기 위한 체크리스트와 추정 항목’에서는 허깅페이스에 있는 모델카드상의 스펙들을 비교/추정해서 우리가 만들려는 제품에 어떤 모델이 맞는지를 판단할 수 있는 항목을 알아봅니다.
부록 B ‘AI 프로덕트를 기획하기 전에 고려할 사항’에서는 어떻게 해야 의미가 있는 프로덕트를 만들 수 있을지, 그 스펙은 어떻게 정해야 하는지, 경쟁자들은 어떻게 따돌릴지에 대해 생각해 볼 수 있는 항목을 살펴봅니다.

[지은이의 말]
서점에는 많은 생성AI/LLM 관련 책들이 있습니다. AI가 인류의 모든 직업을 없앨 거라는 미래 예측서들, 엊그제 출시된 AI 서비스들을 우선 빨리 써보고 스크린샷에 설명을 붙여 정리한 책들, AI는 모두 사기라는 책들, 수학과 코드를 동원해 기술적으로 아주 깊이 설명하는 책까지 정말 다양합니다. 그러나 이 책들만 들고 뭔가 일을 하기에는 다소 허망한 느낌이었습니다. 그래서 많은 사람이 챗GPT나 제미나이에 물어보거나 어디서 ‘들어본 이야기’를 바탕으로 일을 하려다가 어려움을 겪는 상황을 적잖이 볼 수 있었습니다. 혹은 지나치게 많은 자료들 가운데 일부 잘못된 이야기를 거르지 못해서 그릇된 판단을 내리는 상황을 본 적도 많습니다.
저는 ‘좋은 것이 무엇인지’ 알려줄 수 있는 지도 같은 것이 필요했습니다. 그러나 이를 찾기가 쉽지는 않았습니다. 결국 제가 선택할 수 있는 방법은 ‘스스로 지도를 만드는’ 것뿐이었습니다. 제가 본 것, 들은 것, 해본 것, 찾은 것, 또 주위에서 해주는 이야기들을 하나씩 적고 스크랩하고 정리하면서 그 속의 의미들을 고민하는 것부터 시작했습니다. 그러다 보니 저와 비슷하게 AI를 이용해서 뭔가를 하려는 사람들에게 도움이 될 수 있는 자료들을 만들 수 있었습니다. 처음에는 이 내용들을 백과사전처럼 정리했습니다. 그러다가 출판사로부터 ‘체크리스트’처럼 정리하는 것이 읽는 사람들에게 더 도움이 되겠다는 피드백을 받았습니다. 그래서 AI 프로젝트를 하거나 프로덕트를 기획할 때 꼭 가야 하는 길을 알려주고, 피해야 하는 ‘암초’들의 위치를 알려주는 17가지 체크리스트들을 각 장의 ‘제목’으로 삼아 제가 직접 현장에서 경험한 세부 사항들을 정리했습니다.
이 책은 생성AI나 LLM 등에 관한 기초 지식이나 사용법을 익히게 하려는 데 그 목표를 두지 않았으며, 실제 기업이나 조직에서 현업 AI 프로젝트를 수행하거나 AI 프로덕트를 만들 때 성공률을 100% 가까이 높이게 하고자 하는 독자를 타깃으로 했습니다. 독자분들이 책을 읽으면서 좀 더 정보를 얻으면 좋을 참고 자료 목록이나 링크 등을 주석으로 달아두었습니다. 또한 최대한 어려운 수식이나 코드는 배제하고 설명했으므로 프로젝트 성공을 바라는 독자들에게 좋은 자료가 되길 바랍니다.
다른 분야에 종사하다가 AI 분야로 들어오시는 모든 분께도 모쪼록 이 책이 좋은 길라잡이가 되었으면 합니다. 그리고 기술 그 자체에만 너무 얽매이지 말고 그 기술이 영향을 미치는 ‘사람들’과 사람 간의 ‘관계’, 이들이 만들어 내는 ‘기회’를 잡는 데 도움이 되기를 진심으로 바랍니다.

[일러스트 작가]
정진호
개발자 출신 작가, 일러스트레이터, 바이브코딩 전문가. 글로벌 인터넷 기업 엔지니어를 거쳐, 독학으로 14년째 그림을 그리고 있다. 40권 이상의 저서·역서·일러스트 작업, 기업·학교·공공기관 강의와 프로젝트를 수행하며 아날로그와 디지털을 넘나드는 창작을 실험한다. 복잡한 것을 단순하게, 어려운 것을 쉽게. 국내 최고령 크리에이터가 되는 소박한 꿈을 품고 매일 바이브 코딩으로 앱을 만든다.