[ 한빛미디어 서평단 '나는 리뷰어다' 활동을 위해서 전자책 을 제공 받아 작성한 도서 리뷰 입니다. ]

- 읽어보니?

저자가 친절하게  어떤 독자가 읽으면 좋을지  대상을 지정해 놓았다.

저자가 지정한 대상 독자를 보면 알 수 있듯이 AI 에이전트를 사용하는 '주니어' 라고 생각되는 개발자들을 위해 실무와 관련된 내용들로 구성되어 있다.

이 책은 실화를 바탕으로 시작하는 서론이 흥미를 더해준다.

 'AI 에이전트는 실수를 할 수 있다.' 라고만 쓰여있던 대부분의 책들과 달리 실제 사례들을 가져와 '이런 일이 있었다.' 라고 이야기를 시작한다. 실제로 AI 에이전트를 활용해 개발을 하면서 AI가 사람이라면 상상도 못 할 멍청한 실수(예를 들어 DB를 고쳐야 한다면서 기존에 생성되어있던 설계를 다 제거해버린다던지...) 를 하는것은 많이 보았지만, 실제 사용자에게 제공하면서 발생하는 일은 겪을 일이 없었다. 대부분은 '개발'에 활용하지 어느정도 규모가 있는 기업에서 사용자 구매를 돕기위해 챗봇을 만들고 학습을 시키진 않기 때문이다.

 실화를 바탕으로 하는 이야기와 더불어 개발자들이 자주 마주치는 난관에 대해서도 이야기한다. 

AI를 전문적으로 누구보다 잘 쓴다고는 말 할 수 없지만, 꽤나 써와본 입장으로써 '누가' 쓰느냐보단, '어떻게' 쓰느냐에 따라 10인분을 할 수도, 1인분을 못 할 수도 있는 것이 AI라고 생각한다.

 이러저러한 시행착오를 겪으며 AI를 써오며 느낀 경험들이 이 책에 잘 녹아들어가 있어 '아, 나 뿐만이 아니라 다른 사람도 그렇구나' 하고 공감을 하고, 해결과정을 바라보는 것 또한 즐겁게 읽을 수 있는 포인트라고 할 수 있다.

 실화를 바탕으로 해결방법을 알아보고 어떻게 해결해야 하는지까지 알아보았다면, 실제로 LLM을 어떻게 구성해야 하는지, 어떤식으로 학습시켜야 하는지 등 시스템 구성쪽의 내용도 전반적으로 살펴본다.

 그리고 학습 시 위험성을 경계해 조심하는것도 중요하지만, 실제 학습된 데이터 자체도 중요하기 때문에 모든것을 너무 보수적으로 보지 말자는 이야기도 나온다.

 처음 이야기 했던 것처럼 책의 구성은 위와같이 총 5장으로 되어있다.

실화를 바탕으로 한 AI에 대한 불만과 문제점들로 공감과 흥미 위주로 읽혔던 1부를 지나, 실제 현업에서 AI가 어떤식으로 문제점을 일으킬 수 있는지에 대한 2부 설명을 통해 3부에서 이런 문제들을 해결하기 위해선 LLM의 작동 원리를 알면 좋다는 내용으로 이어진다. 4장에서는 생성된 LLM 모델을 통해 실제 프로덕션에선 어디에 문제가 생기는가를 활용하여 어떻게 시스템을 설계하면 좋을지를 이야기하고, 5부에선 이를 바탕으로 배포와 운영까지 이어지는 깔끔한 스토리라인을 구축하여 읽는사람이 덜 지루하게, 그리고 재미있고 흥미롭게 볼 수 있도록 구성되어 있다.

크게 5부로 나뉘어 있고 전체적인 스토리라인이 이어져 있기 때문에 저자도 가능하면 순서대로 읽기를 권하지만, 특정 문제를 해결하기 위해 이 책을 찾았다면 위와 같은 내용을 보고 해당 장을 먼저 읽어봐도 좋다고 한다.

- 느낀점은?

 그간 다양한 AI 관련 서적을 읽어오면서 그저 프롬프트만 읊어주던 시기를 지나 이제 진짜 찐 AI 사용자들의 경험담이 들어있는 내용들이 나오는구나 하고 점점 더 좋아지는 내용들에 감동(?)을 느끼고 있다.

 이 책을 왜 이 돈을 주고 사야하지(?) 라는 충족감을 채워 줄 수 있을만한 내용들이 들어가 있지 않는다면, 독자들은 외면할 것이다, 왜냐? AI 딸깍으로 알려달라고 하면 되니까 말이다.

 얼마 전 'AI 토큰 비용 때문에 다시 개발자들 채용이 활발해지고 있다' 라는 이야기를 들었다. 결국 AI 과도기를 지나 미국 AI 3파전으로 굳혀지는듯 하더니, 그록의 눈에 띄는 발전과 제미나이의 눈에 띄는 후퇴, 중국 AI의 눈부신 발전등에 힘 입어 거대한걸 떠나 더욱 효율성을 추구하는 시기로 접어든 모양이다.

 더 싸지고 더 좋아지면 소비자는 좋다. 하지만 이게 언제까지 갈까? 라고 한다면 그건 아무도 예측할 수 없을것이다. 갑자기 지구에서 전기가 사라진다거나 3차 세계대전이 발발해서 AI 발전이 모두 사라져 버린다거나, 갑자기 너무 뜨거워져서 데이터센터가 다 폭발한다거나 하는 재해들이 언제 일어날지 우리는 예측할 수 없기 때문이다.

 개발자들이 살아남는 방법이 'AI를 적극 활용해서 결국 관리자' 라는 방향으로 가는듯 하다가 이제는 'AI를 효율적으로 사용하면서 생각을 하는 사람' 으로 또 방향이 틀어지고 있다.

 AI를 직원처럼 고용해서 전부 AI로 무언가를 만들던 회사는 대체 무엇을 만들고 무엇을 서비스하고 있는것일까? 내가 아는바에 의하면 AI로 모든 직원을 꾸린 회사가 돈을 벌었다는 이야기를 들은적은 없다. 파산이라도 안했으면 다행이라고 생각한다. 어쩌면 사람과의 관계를 껄끄러워하는 사장님들이 부러워할만한 환상이 아니었을까?

 아무튼, 대 AI 시대가 도래했다가 갑자기 사라질 수도 있는 노릇이지만 우리는 지금 이 시대를 살고 있다. AI가 등장해서 세상에 영향을 끼친지 얼마나 되었는가? 우리는 모두 AI 초보자이고 AI를 탐험하는 탐험가일 뿐이다. 이 책처럼 여러 AI 선구자들의 이야기를 듣고 보고 따라하면서 우리 능력을 기를 수 밖에 없는것이다.

 이 책은 그런면에서 굉장히 친절하다. 새로운 영역에 발을 들일 때 필수 요소 중 하나는 '재미' 라고 생각한다. 실화를 바탕으로 한 흥미를 유발해 어찌 그런 일이 터졌고, 그곳에서의 문제는 무엇이고, 어떻게 해결할 수 있었을까? 하고 생각을 유도한다. 그리고 직접생각해보고 설계해보고 운영해보는 것까지 구성되어있다.

 친절, 재미, 구성 등 모든 요소가 꽉꽉 찬 이런 서적은 한번 쭉 읽어보고, 또 필요한 곳을 골라 읽어보면서 저자의 AI 경험을 나만의 AI 경험으로 녹이는 것도 좋은 일이 아닐까 싶다.

“한빛미디어 서평단 ＜나는리뷰어다＞ 활동을 위해서 책을 협찬받아 작성된 서평입니다.”

나는 개발자가 아니다. 그저 AI라는 분야에 관심이 많은 입문자에 가깝다. 그런데도 이 책을 끝까지 읽은 건, 제목 그대로 '반드시 알아야 할 지식'이라면 나 같은 사람도 알아둬서 나쁠 게 없겠다 싶었기 때문이다. 한빛미디어 서평단에 신청해서 받은 책으로 신청할 때 목차만 훑어봐도 어렵겠다는 느낌은 있었는데, 요즘 여기저기서 AI 에이전트니 RAG니 하는 말들이 쏟아지길래 이참에 제대로 알아보자는 마음으로 펼쳤다. 읽기는 했지만, 당연히... 모든 챕터를 다 이해지는 못했다.

모델은 똑똑한데 시스템은 왜 바보가 될까

그동안 막연히 'AI가 가끔 엉뚱한 답을 한다더라' 정도로만 알고 있었는데, 왜 그런지를 구조적으로 짚어주는 첫 챕터에서 이해도가 깊어진 느낌이다. 전통적인 소프트웨어는 같은 입력에는 같은 결과가 나오는 결정론적 시스템이고, AI는 같은 질문에도 매번 조금씩 다른 답이 나오는 확률론적 시스템이라고 구분해서 설명한다. 말로만 들으면 당연한 소리 같은데, 이 차이 하나가 이후 모든 챕터의 전제로 계속 깔린다는 걸 읽으면서 알게 됐다.

성능 지표는 멀쩡한데 서비스는 이미 망가져 있을 수 있다는 대목도 흥미로웠다. 응답 속도도 정상, 에러율도 정상인데 정작 사용자가 받은 답이 엉뚱한 경우를 침묵하는 장애라고 부르는 것이 납득이 갔다. 이 부분은 비전공자가 읽어도 무리 없이 따라갈 수 있는, 책 전체에서 가장 친절한 구간이었던 것 같다.

진짜 사고는 데이터 파이프라인에서 난다

2부부터는 솔직히 조금씩 벅차지기 시작했다. ETL이라는 단어부터 이 책에서 제대로 처음 접했는데, 데이터를 모으고 가공하는 과정이라는 정도는 이해했지만 구체적으로 어떤 작업인지까지는 잘 그려지지 않았다. 그래도 데이터가 생각보다 훨씬 쉽게 망가진다는 이야기, 잘못된 피드백 루프가 시스템을 서서히 무너뜨린다는 이야기의 큰 줄기만큼은 어렵지 않게 따라갈 수 있었다.

RAG와 에이전트, 어렴풋이나마 알게 된 것들

3부와 4부는 이 책에서 가장 기대하고 펼친 부분이다. 뉴스나 SNS에서 RAG니 에이전트니 하는 단어를 하도 많이 봐서 이번 기회에 궁금증을 해소하고 싶었다. 생성형 AI를 API가 아니라 확률 엔진으로 다시 정의하고, 그 위에 맥락을 어떻게 설계해서 얹느냐가 RAG의 핵심이라는 설명까지는 따라갈 수 있었다. 벡터 검색 같은 세부 기술 이야기로 들어가면 다시 아득해졌지만, 적어도 'RAG가 왜 필요한가'라는 질문에는 예전보다 훨씬 또렷하게 답할 수 있게 됐다.

에이전트 설계 부분은 읽는 재미가 가장 컸다. 모델에게 도구를 쥐여주고 알아서 판단하게 두는 방식이 매력적으로 들리지만, 통제되지 않은 자율성은 결국 예측할 수 없는 위험으로 되돌아온다는 경고가 여러 번 반복된다. 화려해 보이는 에이전트와 실제 서비스에 올려도 되는 에이전트 사이의 거리가 생각보다 멀다는 걸, 이 챕터를 읽고 나서야 어렴풋이 실감했다.

배포 이후: 나에게는 가장 어려웠던 구간

5부는 비용 최적화, 평가, 관측 가능성까지 이어지는 운영 파트인데, 솔직히 여기서부터는 절반 정도는 흘려보내듯 읽었다. 구체적인 지표나 도구 이야기가 나오면 용어 자체가 낯설어서 속도가 잘 안 났다. 그나마 부록으로 실린 현업 AI 엔지니어 네 명의 인터뷰는 반가웠다. 이론으로만 읽었던 이야기들을 실제 사람의 목소리로 다시 들으니, 앞서 어렵게 읽은 챕터들도 책 속 이야기만은 아니었구나 싶은 확인을 받는 기분이었다.

이런 사람에게 맞을 것 같다

정리하자면, 이 책이 진짜로 도움이 될 사람은 나 같은 입문자가 아니라 제목처럼 1~3년 차 AI 엔지니어일 것 같다. 코드를 다뤄본 적 없는 완전 입문 자라면 좀 과장해서 각오하고 펼쳐야 하는 책이지만, 그래도 뜻을 짐작하며 읽은 대목이 많았어도 남는것도 있었다. 적어도 AI가 왜 예측 불가능하고, 그 위에 어떤 고민들을 쌓아야 서비스가 안정적으로 돌아가는지에 대한 큰 그림 하나는 얻어 간 것 같다. RAG와 에이전트라는 단어를 이제는 뉴스에서 봐도 예전만큼 막막하진 않겠다 싶은데, 이 정도면 비전공자 입장에서는 나쁘지 않은 결과라 생각된다.