트위터 이벤트를 통해 책을 제공받아 연휴동안 읽어보았습니다.

최근 AI 사용은 너무 보편화돼서 개발자 뿐 아니라 비개발자 분들도 바이브코딩 더 나아가 에이전트 코딩을 통해, 만들고 싶은 혹은 유용한 프로그램들을 쉽고 빠르게 생산해내고 있습니다.

그래서 이 책도 혹시 바이브 코딩류의 책이 아닌가 생각했었는데 전혀 아니었습니다.

AI가 만들어준 프로그램의 소스등을 볼 때 간단한 프로그램이라면 어느 정도 이해해 볼 수 있겠지만, 규모가 좀 더 커지거나 요구사항이 많아진다면 소스를 이해하기가 어렵거나 거의 불가능할 것입니다.

그렇다고 딥러닝단계까지 거슬러 이론공부하고 수학공식등을 보는건 너무 부담스럽고, 그 중간단계에서 이루어지는 일들을 박물관의 도슨트봇 프로젝트를 통해 단계별로 설명해줍니다.

대상독자: 파이썬으로 AI관련 API(클로드 특화API)를 사용해서 진행되므로 개발자 혹은 코드까지는 아니더라도 과정을 알고 싶은 분

도슨트 봇은 독자들에게도 쉽게 다가올 컨셉입니다.  

좌측에 유물사진 우측엔 익숙한 챗봇 인터페이스가 존재하는 프로그램입니다.

엔트로픽API사용법, 파이썬 스트림릿 사용법 프롬프트 관련내용을 소개하고
유물 데이타는 우리가 작성할 수 없기에 웹 스크레이핑 기술을  설명하고 스크레이핑 프롬프팅도 적용하여 데이타를 받아옵니다.
이 과정에서 캐싱(동적, 정적) 개념설명 및 적용

받아온 자료에서 이미지기반 AI에게 설명을 요청해야 하므로 OCR요청하여 어떤 이미지인지 판단하는 방법

채팅창에서 사용자 입력으로 질답처리를 위한 프롬프트 설계
외부정보 조회등을 위한 Tool 사용
결과를 일정한 포맷으로 출려하게 하는 구조적 출력방법 적용
배치 처리 , 프롬프트 캐싱
검색을 위한 코사인(유클리드) 유사도 측정
RAG 시스템 구축
MCP기능까지 갖추도록 확장하여 타 프로그램에서도 유용하게 활용할 수 있게하고
에이전트 기능을 통해 도슨트 예약관리, 슬랙봇 연동, 이메일 연동

등을 통해 구상한 컨셉을 단계별로 어디에 어떤 식으로 AI를 접목하고, 

어떤 개념을 통해 확장해 나갈 수 있는지를 보여줍니다.

책 구성은 가독성이 좋게 되어있고, 이론적인 부분은 정말 딱 필요한 정도선으로 들어있고, 다양한 방식의 도식화

및 샘플 데이타로 개념증명용 코드를 먼저 설명하는 방식으로 이해를 돕고 있습니다. 

계속 기능을 발전시키는 코드다보니 코드는 설명을 위해 일부 반복되기는 하지만 바뀐부분은 볼드체 강조로 쉽게 파악할 수 있게 되어 매우 만족하면서 읽었습니다.

PS)
실습은 클로드로 하십시오. 저는 codex를 구독해서 초반 이미지 인식까지는 코드 변경해가며
따라 했었는데 결국 API 대체하기 어려운 부분이 생기더라구요

예제파일 다운로드: 챕터별로 브랜치가 만들어져 있는데 따로따로 다운로드 받아야 하는 불편함. 처음에 git으로 체크아웃 받았을때 디폴트 chapter02만 받아져 당황했었음

사소하지만 중간경로 빠진거 chapter-07-tf＞src＞llm.py =＞ chapter-07-tf＞src＞llm＞llm.py

최근 AI를 활용해 프로젝트를 밑바닥부터 만들었다는 사례들을 보며, 나도 한번 AI를 활용해서 프로젝트를 밑바닥부터 만들어보고 싶었습니다. 하지만 정작 '어디서부터, 어떻게 시작해야 할지' 막막해 첫 삽을 뜨지 못하고 망설이던 중이었습니다. 마침 이 책을 통해 클로드를 활용하여 실제 작동하는 프로젝트를 밑바닥부터 만들어볼 수 있겠다는 기대감으로 책을 읽게 되었습니다.

책의 초반부인 '앤트로픽 API 기본기' 챕터를 학습하며 AI의 특성에 대해서 이해할 수 있었습니다. 특히 매개변수의 역할을 살펴보면서 LLM을 효율적으로 제어하는 방법을 익히게 되었고, 토큰이 처리되고 계산되는 과정을 알게 되었습니다. 가장 흥미로웠던 부분은 멀티턴 학습이었습니다. 모델이 이전 대화의 맥락을 어떻게 유지하고 기억하는지 그 원리를 알 수 있었습니다. 이어지는 '클로드를 위한 엔지니어링' 챕터는 LLM 프로젝트의 핵심답게, AI 프로세스 상에서 프롬프트를 왜 이렇게 작성해야 잘 동작할 수 있는지를 알 수 있었습니다. 또한, 서비스를 시각화하는 도구인 '스트림릿'을 처음 접했음에도 불구하고, 친절한 설명 덕분에 큰 어려움 없이 이해하며 따라갈 수 있었습니다.

실습을 진행하며 클로드를 처음으로 유료 결제해 사용해 보았습니다. 생각보다 빠르게 소진되는 토큰을 보며 "어떻게 하면 비용을 효율적으로 관리할 수 있을까?" 하는 고민이 생겼습니다. 그 찰나에 '프롬프트 캐싱' 챕터를 마주했습니다. 효율적인 토큰 사용에 대한 고민이 LLM 프로젝트에서는 지극히 자연스러운 흐름임을 깨달았고, 책에서 소개된 '중단점 프롬프트 캐싱'과 더불어 프로젝트의 상황과 규모에 따라 어떤 프롬프트 캐싱 전략을 세워야 할 지 고민해보는 계기가 되었습니다. 더불어 부록으로 제공된 '클로드 코드로 전시물 스크레이핑하기'는 너무 좋았습니다. 전시물 이미지 스크레이핑을 구현할 때 책에 수록된 방식으로도 구현이 가능했지만, 클로드 기반으로 대화하듯 코딩하는 방식을 함께 다루어 '바이브 코딩'을 직접 경험해볼 수 있어서 무척 신선하고 유익했습니다.

실습 환경 구성부터 코드 구현까지 전반적으로 매끄럽게 진행되어, 학습하는 과정에서 걸림돌이 될 만한 불친절한 부분은 없었습니다. 저는 파이썬이나 스트림릿 자체의 깊은 기능보다는 '클로드를 어떻게 활용할 것인가'에 집중하여 읽었기에, 저처럼 클로드를 활용해서 프로젝트를 밑바닥부터 만들어보고 싶으신 분께 추천합니다.