|
"길벗 36차 개발자 리뷰어 활동을 위해서 책을 협찬 받아 작성된 서평입니다." 최근 1년을 되돌아보면서 소프트웨어 개발하는 방식과 개발된 제품을 보면서 엄청난 격세지감을 느낀다. 개발 활동의 모든 과정에서 AI의 활용도는 거의 전부라고 말할 수 있다. 자료조사, 분석, 설계, 구현, 테스트, 배포, 문서 작업까지 AI가 영향을 미치지 않는 곳이 없다. 개발되는 제품도 AI 기능이 없으면 시장에 내놓을 수 없을 지경이다. 다른 한편으로 AI 빈부격차도 뚜렷하다. AI 활용 지식과 토큰 비용은 차치하더라도 비용과 보안 때문에 상용 플래그십 모델(오픈AI, 앤트로픽, 구글)을 사용할 수 없는 곳이 대부분이다. 개발 과정은 상용 모델을 사용하더라도 서비스하는 제품은 sLLM으로 해야 되는 것이다. sLLM은 최근 구글(Gemma4)을 비롯하여 알리바바(Qwen3.8), 메타(llama3.2), 마이크로소프트(Phi4), 미스트랄(mistral)에서 오픈소스 모델을 내놓으면서 꾸준히 연구되고 있다. 국내에서도 카카오(kanana), LG(exaone), 업스테이지(solar), 허깅페이스에 모델이 계속해서 업로드된다. 문제는 성능이다. 벤치마크에서 우수한 성능을 받았더라도 우리가 모델의 활용법(이해)을 모르거나, 모델의 수정 없이는 고객의 요구사항을 제대로 만족시킬 수 없다. 이 책은 바로 이 지점, 즉 sLLM을 "어떻게 이해하고 다듬어서 실제 서비스에 붙일 것인가"에 대한 답을 조사 근거와 실습으로 제시한다. sLLM을 파인튜닝하는 다양한 방법뿐만 아니라 sLLM과 관련된 매우 상세한 트렌드와 동향, 산업별 사례 분석을 시작으로 파인튜닝 방법, 최적화 기법, sLLM 모델을 활용한 서비스 배포, 챗봇, 문서 요약, RAG, 랭체인, 라마 인덱스 사용법, 실무에서 발생하는 문제 해결까지 sLLM으로 서비스하는 모든 것을 다룬다.  ＜1장 LLM과 sLLM - sLLM이 해결할 수 있는 문제, p042~p043＞
＜4장 sLLM모델 학습 환경 구축 - 표 4-6 RAG 성능 향상 포인트, p100~p101＞
＜6장 sLLM의 효율적인 파인튜닝 - 표 6-3 모델 학습 시 필요한 VRAM 비교, p176~p177＞
＜10장 실무에서 발생하는 문제 해결 - 출력 품질 평가 지표 분류, p346~p347＞ 책 내용 중간에 sLLM 모델의 튜닝/서빙 환경에서 메모리 양을 비교하는 것과 파인튜닝 방법을 서로 비교하는 내용이 인상 깊었다. 예제에서는 허깅페이스의 다양한 모델을 다운로드하여 활용하는 방법이 도움이 되었다. 아이러니하게도 생각보다 모델의 성능이 좋지 않다는 점이 오히려 더 흥미로웠다. 예제에 사용된 허깅페이스 모델 대부분이 파라미터 3B 미만이라 성능에 한계가 있었는데, 오히려 그만큼 개선의 여지가 많다는 뜻이기도 하다. 예제의 서비스 주제도 센스 있게 느껴졌다. 현업에서 가장 많이 사용되는 챗봇, 문서 요약, RAG이기 때문이다. Streamlit이 아니라 Gradio를 사용한 점도 신선했다. 대부분의 책들이 Streamlit으로 예제를 소개하는 경우가 많은데, 이 책 덕분에 Gradio도 경험해볼 수 있었다. 마지막으로, 10장에서 소개하는 실무에서 발생하는 문제 해결법은 앞으로도 계속해서 찾아볼 만큼 실용적이었다.  ＜노트북 예제 실습 장면＞ 책의 아쉬운 부분은 소스 코드를 실행하기 위한 방법을 좀 더 친절하게 설명해주었으면 좋을 것 같았다. Colab뿐만 아니라 MacOS(Linux), Windows에서도 실습할 수 있도록 Github의 README.md를 활용해서 개선해 주었으면 좋겠다. 실습에 사용한 데이터 파일도 함께 올려주면 책을 읽는 독자에게 더욱 도움이 될 것 같다. sLLM을 활용하여 고객의 요구사항을 충족하기에는 아직 할 일이 많다. 그렇기 때문에 이 분야는 경쟁력을 키울 잠재력이 크다고 생각한다. sLLM을 서비스에 활용하고자 계획하시는 모든 기획자, 개발자에게 이 책이 좋은 출발점이 될 것이다. 진심으로 추천드린다. #길벗 #오지영 #sLLM #원하는대로튜닝하는나만의sLLM #파인튜닝 #랭체인 #RAG #Gradio #LoRA #QLoRA |
|
서평 - 원하는 대로 튜닝하는 나만의 sLLM - 기초부터 실습까지 "원하는 대로 튜닝하는 나만의 sLLM"은 LLM의 기본 원리부터 sLLM 대표 모델, RAG(검색 증강 생성), 데이터 전처리, 파인튜닝, API 배포와 서비스 구축까지 단계적으로 다루는 실습형 도서입니다. 책 속 그림과 도식이 복잡한 LLM 개념을 이해하는 데 도움이 되었으며, 전문 용어도 원어와 약어, 한글 설명을 함께 제공해 접근하기 좋았습니다. LLaMA, Gemma, DeepSeek 등 다양한 모델의 특징과 활용 분야를 살펴보고 Ollama를 활용한 실습도 직접 따라 해볼 수 있도록 구성되어 있습니다. 특히 모델 학습에서 끝나지 않고 실제 서비스에 적용하는 과정과 데이터 윤리, 개인정보, 보안과 같은 실무적인 내용까지 다루고 있어 유용했습니다. LLM을 단순히 사용하는 것을 넘어 내 업무에 맞는 AI를 직접 구축하고 싶은 분들에게 추천하고 싶은 책입니다. |
|
많은 사람들이 ChatGPT나 Calude, Gemini을 사용하고 있고, 전문적인 도구인 Claude Code나 Codex를 사용하는 사람도 점차 늘어납니다. 이 모델들은 매우 큰 Large Language Model입니다. 여러가지 사정으로 Large가 맞지 않은 환경이 있습니다. 모바일 디바이스에서 직접 돌린다면 LLM은 어렵겠죠. LLM 모델의 비용도 문제입니다. 일반적인 LLM이 서비스의 형태인 것도 맞지 않은 영역이 있겠죠. 그런 분야에서는 SLM(Small Lanage Model)이나 sLLM(smaller Large Langage Model)이 적합한 것 같습니다. 출판사에서 도서를 제공받아 리뷰를 작성하였습니다. |
|
오늘 소개할 책은 2026년 7월에 출간한 오지영 님의 『원하는 대로 튜닝하는 나만의 sLLM』입니다. 이 책은 sLLM(소형 언어 모델)을 활용해 나만의 맞춤형 AI를 직접 만들어보는 실습서입니다. 산업 동향부터 오픈소스 모델 활용, 데이터 전처리, LoRA·QLoRA 기반 경량 파인튜닝, 양자화, RAG 구축까지를 다루고, 여기서 그치지 않고 FastAPI와 Gradio로 서비스까지 만들어 허깅페이스 스페이스에 배포하는 과정까지 이어집니다. 『원하는 대로 튜닝하는 나만의 sLLM』은 약 370여 페이지로 구성되어 있어 휴대하며 읽기에 큰 부담은 없을 것 같습니다. 길벗 도서의 좋은 점으로 전자책으로도 출간되어 있으므로 전자책 뷰어가 있으면 전자책으로 만나보는 것도 좋을 것 같습니다. 이 책의 저자는 오지영 님으로 필자와 동문인 분이라 더 반가웠습니다. 현재 한국표준협회 AI융합추진단에서 AI/AX 사업전략과 기획을 담당하고 있습니다. 기업과 공공 현장을 오가며 AI가 필요한 사람들이 여러 이유로 시작조차 못 하고 돌아서는 모습을 지켜본 경험이 이 책을 쓰게 된 계기라고 합니다. 길벗 36차 개발자 리뷰어에 참가하여 작성한 글이며, 길벗에서 제공해 준 책을 읽고 작성했음을 밝힙니다. 거대 모델의 사용자가 아니라 만드는 사람으로이 책이 던지는 문제의식은 명확합니다. 모두가 LLM을 '쓰는' 시대에, 굳이 sLLM을 '만들' 필요가 있느냐는 질문입니다. 저자는 여기에 비용과 보안이라는 두 축으로 답합니다. 적은 연산 자원으로도 충분한 성능을 낼 수 있고, 기업 내부망이나 에지 디바이스에 안전하게 배포할 수 있다는 점에서 sLLM은 거대 LLM과는 다른 실용적인 선택지가 됩니다. 책은 이 주장을 추상적으로 던지고 끝내지 않습니다. 1~3장에 걸쳐 의료, 공공, 금융, 교육, 법률, 유통, 제조 등 도메인별 활용 사례와 국내외 시장 동향을 상당히 촘촘하게 정리해 두었는데, 왜 지금 sLLM인지를 숫자와 사례로 납득시키려는 구성이 인상적이었습니다. 이론에서 실습으로, 실습에서 배포로이 책의 중심은 5~7장의 파인튜닝과 최적화 파트라고 생각합니다. 풀 파인튜닝의 한계를 먼저 짚은 뒤 LoRA와 QLoRA의 개념과 작동 원리, 코드를 순서대로 밟아나가고, 두 방식의 장단점을 표로 비교해 정리하는 흐름이 실무자의 의사결정 과정을 그대로 따라가는 느낌을 줍니다.  7장에서는 가지치기, 양자화, 지식 증류 같은 모델 압축 기법과 배치 처리, 키-값 캐시, 플래시 어텐션 같은 추론 최적화 기법을 다루면서 'GPU 비용을 어떻게 아낄 것인가'라는 실무적인 고민까지 짚어줍니다. 8~9장에서는 FastAPI로 API를 만들고 Gradio로 웹 인터페이스를 붙인 뒤, ngrok과 허깅페이스 스페이스로 실제 배포까지 진행합니다. 챗봇, 문서 요약, RAG 기반 AI 어시스턴트를 직접 완성해 보는 구성이라, 모델을 학습시키는 데서 끝나는 책이 아니라 서비스 하나를 처음부터 끝까지 만들어보는 책에 가깝습니다.  코랩 하나로 완주할 수 있다는 것이 책에서 가장 눈에 띄는 부분은 모든 예제가 구글 코랩 환경에서 그대로 실행된다는 점입니다.  저자는 거창한 인프라 없이도 노트북 한 대와 구글 코랩만 있으면 나만의 LLM을 만들 수 있다는 것을 증명하고 싶었다고 밝히고 있는데, 실제로 책에 담긴 코드를 저자가 직접 구동해 보며 초보자가 막힐 만한 지점마다 설명을 보강했다고 합니다. GPU 자원이 없어 sLLM 실습을 망설였던 독자라면 이 부분이 진입 장벽을 크게 낮춰줄 것 같습니다. 또한, 한국어에 최적화된 모델을 우선적으로 다루고 있어서 해외 튜토리얼을 그대로 번역한 책들과 달리 실무에서 바로 써먹을 수 있는 실습이라는 점도 강점으로 보입니다. 이 책이 필요한 사람들LLM 시장은 이제 '누가 더 큰 모델을 만드는가'의 경쟁을 넘어, '누가 특정 비즈니스 도메인에 딱 맞는 가볍고 똑똑한 모델을 효율적으로 운영하는가'의 싸움으로 넘어가고 있습니다. 이 책은 거대 LLM API를 사용하는 데서 한 걸음 나아가, 보유 데이터로 직접 모델을 학습시키고 운영해보고 싶은 개발자와 실무자에게 적합한 책입니다. 특히, 파인튜닝이나 RAG를 이론으로만 접해봤을 뿐 실제로 손을 대본 적은 없는 분이라면 이 책은 좋은 가이드북이 될 것으로 생각합니다. |
|
출판사로부터 도서를 제공받아 작성한 기술 리뷰이다. 전체적인 흐름을 빠르게 조망하며 핵심 개념을 재정리하고 추가 자료를 덧붙였다. 약 300페이지 남짓한 분량에 sLLM 기초부터 모델 선택, 파인튜닝(LoRA/QLoRA), 양자화, RAG, 서비스 배포까지의 전 주기를 폭넓게 압축해 담아냈다. 분량의 한계상 각 기술의 심도 있는 실전 구현 팁까지 다루지는 못하지만, 복잡한 sLLM 생태계의 전체 지형을 단기간에 파악하기에 제격이다. 실무적 깊이보다는 전체 파이프라인의 흐름을 파악하고, 본인에게 필요한 기술 스택을 탐색하는 로드맵으로 활용하기에 알맞다. |
|
길벗 출판사의 ＜원하는 대로 튜닝하는 나만의 sLLM＞은 비용과 보안, 업무 적합성을 고민하는 AI 실무자에게 현실적인 방향을 보여주는 책입니다. LLM 기초부터 파인튜닝, Inference API, Hugging Face Spaces, RAG까지 다뤄서 따라 읽는 재미가 있었습니다. sLLM을 직접 다뤄보고 싶은 개발자와 기획자에게 도움이 됩니다. |
|
LLM을 이용해서 다양한 서비스를 구현하는 사례, Agent를 구성하고 실시간 자료를 구축하기 위해서 Rag, LangChain, MCP를 도입하는 사례들이 다양하게 도입되고 있습니다. 하지만 기업 입장에서 "비용은 낮게 보안은 높게, 성능은 내 업무에 딱 막게" 이책의 부제목 처럼 우리가 반드시 알아야 하는 사항이 언급되어 있습니다.
구성된 내용이 매우 체계적이고, 실제 꼭 알아야 하는 부분이 잘 정리되어 있습니다. 
일반적으로 사용되는 LLM말고 sLLM은 어떤 개념일까? 책이 표지에서도 언급되어 있는 5가지 사항이 실제 간단한 이론 만이 아니라 실제 업무시스템에서도 활용 가능한 부분이 많은 내용으로 구성되어 있습니다. OpenAI 파인튜닝, QLoRA, RAG, FastAPI, Gradio 의 각각의 기술요소를 살펴보며서, 단순한 연동이 아닌 좀더 세분화된 효과와 비용적인 절감 측면에서 도움이 많이 되는 내용입니다.
■ 대상 독자 새로운 분야를 접근하기 위해서는 작은 개념부터 로컬에서 동작 테스트를 하는 것이 먼저 입니다 실제 업무 시스템에 도입하기 위해서는 사전에 내재화도 필요하지만, 비용적인 부분없이 기능적인 효과성을 증명하는 단계도 필요합니다. 그런 부분에서 저자님의 접근법도 그러한 방향성과 일치를 합니다. 무료 코랩 한칸으로 sLLM을 직접 학습 시키고, 작은 서비스를 띄어볼수 있게 시작합니다.
· 전반부 : LLM과 sLLM에 대한 개념, LLaMA, Gemma, 클로드 및 국내 sLLM생태계 살펴보기 · 중반부 : 허깅페이스 모델을 불러오로, LoRA, QLoRA경량 파인튜닝 모델 활용 · 후반부 : 파인 튜닝한 모델을 활용해서, FastAPI, Gradio을 활용해 화면 구성을 진행
■ sLLM 알아보기 기업엣 사소한 업무 자동화 부터, 고객 대응, 사내 문서 요약 등 비교적 단순하고 반복적인 작업에 둗이 거대한 모델을 투입하는 비효율적일수 있습니다.  · sLLM이 고려될때의 문제 유형 - 고비용 API인프라가 부담될때 - 실시간 응답이 필요한 서비스가 지연될때 - 프라이버시와 규제가 중요한 환경일때 - 특정 도메인에 적용이 어려울때 - 빠른 실험과 반복적인 개선이 어려울때 - 에지 또는 온디바이스 환경일때 대부분 우리가 일반적으로 고민하는 사항입니다. 꼭 sLLM을 모조건 적용해서 처리하는 것이 정답은 아니지만, 우리는 이것에 대한 학습을 통해서 효율적인 방안을 찾아내는데 함께 고려를 해야 합니다. 책을 통해서 허깅페이스, 구글, 메타, Mistral, MS에서 제공하는 다양한 sLLM을 소개하고 정의해주는 것도 좋았습니다. 각 산업분야 (의료, 공공, 금융, 교육, 법률, 제조) 입장에서 어떠한 것을 활용하고 있는지, 스타트업/기업/연구기관에서 활용사례를 통해서 시행착오를 줄이고, 처음 접근하기 위한 가이드를 받을수 있습니다.
■ 실습 환경 가이드 · 허깅페이스를 통해서 sLLM 모델 학습을 위한 구성을 하고, 코랩으로 필수 라이브러리 설치를 통해서 모델과 데이터를 내려 받습니다. · Ollama를 로컬 환경에서도 구성하는 것도 포함되어 있습니다. (VSCode, RestAPI, 도커 활용) · 랭체인, 라마인덱스, 랭그래프 및 벡터 데이터베이스 구성 및 파인튜닝까지 함께 진행합니다. 파인튜닝은 그 방식과 범위가 다양합니다. sLLM에 대한 파인튜닝에도 장/단점이 존재합니다. 상용 서비스인 OpenAI의 파인튜닝을 지원하는 방법을 통해 간단한 명령어 인터페이스를 활용합니다. 
■ sLLM의 효율적인 파인 튜닝 파인 튜닝에 대해서 어떻게 하는 것이 효과적일까? 특히 영어권이 아닌 한국어 모델에 대해서는 기본 영어와 다른 점이 있기 마련이다. 우리는 어떻게 접근해야지 튜닝을 통해서 원하는 결과를 테스트 하고 적용할수 있을까? · 전통적인 방식은 메모리, 비용문제가 있습니다. - 경량 파인튜닝에 PEFT기법을 통해서 접근합니다. - PETF기법에는 아래와 같은 방법이 있습니다. 1) 어댑터 기반 튜닝 2) 프리픽스 튜닝 3) LoRA 4) QLoRA 
＞ 풀 파인튜닝 vs LoRA vs QLoRA각각 파인튜닝 기준으로 비교해볼수 있는 내용을 통해서 각각 어떠한 장단점이 있고 ＞ 한국어의 경우는 어떻게 파인튜닝을 실습해야 하는지 QLoRA를 통해서 진행합니다.
· 모델에 대한 최적화 내용도 흥미로웠습니다. 우리는 왜 최적화가 필요할까요? 대부분 추론 속도 문제가 있고, 운영 비용 증가 사항이 큽니다. 그러면 그러한 사항을 최적화 해야 할것입니다. - 모델 압축기법, 양자화, 배치처리, 키-값 캐시, 플래시 어텐션, 메모리 최적화 기법을 통해서 상황별 적용해 볼 사항을 설명합니다.
■ sLLM모델의 서비스 적용 실제 모델을 통해서 실무에서 가장 빈번하게 사용되는 배포방식을 다룹니다. · API배포는 가장 일반적으로 사용되는 FastAPI서비스를 이용합니다. - 일반적인 웹서비스의 백앤드 말고, 모델을 통한 서빙을 하기 위한 개념을 알수 있습니다. - ngrok 터널링을 왜 사용하는지 이해합니다. - 허깅페이스 인터페이스 API 도 실습합니다. - Gradio을 이용해서 웹 인터페이스를 만들어봅니다. - 허깅페이스 Spaces를 생성해서 배포환경을 구성합니다.
· 서비스 구축으로 실제 아래와 같은 사항을 테스트합니다. - 챗봇, 문서 요약, AI에이전트를 만들어봅니다. 가장 기본적인 포맷이지만 가장 LLM의 동작방식을 이용해서 사용해보고 동작 원리를 살펴볼수 있는 좋은 예시 입니다. "사용자 입력 -＞ 프롬프트 구성 -＞ 토큰화 -＞ 모델 추론 -＞ 디코딩 -＞ 응답 출력" 공통적인 구조를 가지고 있습니다.
· 실무에서 발생하는 문제 해결 1) 데이터 부족 문제 해결법 2) 모델 출력 품질 향상 기법 3) 윤리적 이슈와 보안 고려 사항 해당 고민사항은 AI를 활용한 LLM기법에서 동일하게 발생하는 공통적인 문제입니다. 이러한 것은 처음 사업 및 조직이 활성화 되기 전에 기준을 잡고 사전에 체크하고 고려해야 하는 중요한 문제 입니다. 평소에 잘 알지 못하였던 내용이 정리되어 있어서 도움이 되고, 어느 한 부분만 수정하고 처리하는 방식 보다 큰 방향성으로 가이드를 제공해주는 생각이 들었습니다. #협찬 |
|
어려운 복잡한 수식 대신 풍부한 그림과 친절한 코드로 풀어내어, 노트북 한 대와 무료 코랩만으로 나만의 생성형 AI 서비스를 배포까지 할 수 있게 해주는 최고의 실무 가이드북입니다.
매번 남이 만들어 둔 AI의 단순한 '소비자'로 머물러 계실 건가요? 이제는 내 데이터로 직접 나만의 AI를 만들고 굴리는 '생산자'가 될 타이밍입니다. AI 개발의 기초 체력부터 실무 적용까지 막힘없이 가이드해 주는 《원하는 대로 튜닝하는 나만의 sLLM》, AI 시대를 앞서가고 싶은 개발자와 직장인분들께 자신 있게 추천합니다! |
|
STT로 상담 대화를 분석하고, 품질 점수를 매기고, 코칭 멘트를 자동으로 뽑는 일을 15년째 하고 있다. 그런데 늘 같은 벽에 부딪힌다. "이 데이터, 외부 LLM에 태워도 되나요?" 상담 녹취는 개인정보 덩어리라 보안팀 문턱을 넘기가 쉽지 않다. sLLM이라는 단어를 볼 때마다 눈이 갔던 이유다. 이 책 한 줄로 요약하면 이렇다. 큰 AI를 빌려 쓰지 말고, 내 데이터로 내가 감당할 수 있는 크기의 AI를 직접 만들라. 372쪽 실습으로 그 말을 끝까지 증명한다. 1~3장은 LLM 대신 sLLM을 써야 하는 이유를 비용과 보안, 두 축으로 정리한다. 상담 데이터가 사외로 못 나가는 우리 팀 입장에서는, 결국 사내에서 도는 작은 모델이 유일한 현실적 답이었다. 5~6장 QLoRA 경량 파인튜닝은 GPU 없이도 모델을 조정하는 절차를 코드로 짚는다. 우리가 STT 대화분석·코칭 자동화를 돌릴 때도 결국 "우리 콜 데이터"로 미세조정해야 정확도가 오른다는 걸 새삼 확인했다. 8~9장 RAG·서비스 배포 파트는 사내 보안 Q&A를 ChromaDB로 만들고 FastAPI·Gradio로 서비스까지 붙인다. 이 구조가 CS팀 사내 매뉴얼 챗봇과 정확히 같아서 가장 눈이 갔다. 저자는 "무조건 큰 모델이 정답은 아니다"라고 말한다. 작게 시작해 내 손으로 끝까지 완성한 사람만이 얻는 자신감이 있다는 것. 팀에 필요한 건 거대한 AI 전략이 아니라 작은 성공 경험 하나라는 말에 공감했다. 다만 비개발자 관점에서는 4~7장 코드 밀도가 꽤 높다. 파이썬·허깅페이스 기초가 어느 정도 전제돼 있어 코딩 경험 없는 실무자가 혼자 완주하긴 체감 난이도가 있다. 그럼에도 보안 정책 때문에 외부 LLM API를 못 쓰는 조직의 실무자, 상담품질·코칭 자동화를 직접 코드로 굴려보고 싶은 CS 리더라면 권할 만하다. ※ 출판사로부터 도서를 제공받아 작성한 서평입니다. #원하는대로튜닝하는나만의sLLM #오지영 #길벗 #sLLM #파인튜닝 #QLoRA #RAG |
|
평소 나는 SLM이 앞으로 두가지 측면에서 중요해질 것이라고 생각해 왔다. 첫째, AI가 동작해야 하는 환경에는 제약이 있다. 그것이 실시간성을 요구하는 기능적인 것일 수도 있고, 개인정보 보호같은 컴플라이언스 때문일 수도 있다. LLM의 성능이 우수하다고 하지만 산업현장이나 의료현장처럼 보안이나 규제가 존재하는 곳에서는 이야기가 달라진다. 제조업에 있는 지인도 SLM을 열심히 살펴보는 중인데, 장비의 센서 정보를 외부 서비스로 보낼 수도 없을 뿐더러, 요청을 보낸 뒤 언제 돌아올지 모르는 응답을 기다릴 수는 없다는 이야기를 들었다. 이런 환경에서는 모델의 절대적인 지능보다는 어디에서 실행할 수 있고, 얼마간의 자원으로 실행할 수 있고, 얼마나 도메인을 잘 이해하는가가 더 중요한 조건이 된다. Edge AI나 On-device AI가 계속 언급되는 이유이기도 하다. 둘째, 학습을 직접 경험하기 위한 현실적인 크기를 SLM은 제공해 준다. 우리가 다들 대형 언어모델을 이야기하지만, 개발자가 밑바닥부터 언어모델을 만들어 볼 일은 거의 없다. 실제 업무에서는 대부분 기존 모델을 선택하고, 데이터를 준비하여 파인튜닝하고, 평가하고, 양자화하거나 RAG를 붙여 원하는 성능을 만들어 가는 과정에 가까울 것이다.문제는 이 과정을 제대로 경험해 보려면 GPU 메모리와 학습 비용이라는 현실적인 부담이 존재하게 된다. 그래서 나는 SLM/sLLM이 단순히 작은 LLM을 넘어 학습 도구로 활용 가능성이 높다고 생각한다. 이런 고민을 하던 차에 길벗의 챗 ＜원하는대로 튜닝하는 나만의 sLLM＞이 눈길을 끌 수밖에 없었다. 아차! 정확하게는 SLM이 아니라 sLLM이다. 이 책에서는 sLLM을 중점적으로 설명하는데, 중요한 것은 이름보다는 책이 다루는 범위다. 단순히 규모가 작은 모델을 소개하는데 그치지 않고 파인튜닝 방법부터 최적화, 서비스 구현까지 한 사이클을 모두 다룬다. 이 책에서 다루는 파인튜닝 과정을 제대로 로컬에서 실행해보려면 초기 투자비용이 발생한다. 물론 Google Colab에서도 실행할 수 있게 구성되어 있다. 이 책에서 소개하는 개념들은 책 한권으로 이해하기는 만만치 않다. 책에 실린 코드에는 설명이 달려 있지만, 각 기술을 좀 더 파고들기 시작하면 그것만으로도 공부가 필요했다. 이 부족한 부분은 독자가 스스로 메워야하는 여백? 공간인데... 나는 그 간격을 GPT에게 계속 질문하면서 메워 나갔다. 개인적으로는 1장은 개발자가 아니더라도 AI에 관심 있는여러 사람들이 함께 읽어봤으면 좋겠다. 지금까지 나온 AI의 흐름과 관련 용어, 개념을 잘 정리해 두었다. 그냥 추세를 읽고 싶은 분들이라면 충분히 공감할 내용이 많다. 용어 정리도 잘 되어 있다. 1장은 업계 흐름의 큰 지도를 그린다. 2장과 3장은 고만고만했는데, 1장 기본 개념을 기반으로 sLLM으로 개념을 확장정리하였다. 개인적으로 1장만큼 강한 인상은 받지 못했다. 어느정도 AI 관련 내용을 계속 학습해 온 사람이라면 익숙한 내용들이었다. 처음 접한다면 굳이 왜 작은 모델인가에 대한 배경 지식을 잡을 수 있을 것 같다. 4장부터 7장까지가 실질적으로 모델을 학습시키면서 최적화하는 과정을 설명한다. 모델을 가져와 데이터를 준비한 후 파인튜닝을 하고, 모델을 압축하고, 추론비용을 줄이는 과정. 코드에 주석이 달려 있지만, 그렇다고 모든 코드의 내부 동작을 한 줄씩 설명해주는 스타일의 책은 아니다. 그래서 중간중간 멈춰서 따로 찾아보거나 GPT 선생님의 도움을 받아야 하는 부분이 꽤 있다. 반대로 말하지면 예를 따라가면서 전체과정을 한번 경험해 보는 것이 목표라면 적당한 것 같다.    8, 9장은 서비스로 구현하는 내용인데, 아직 읽고 있는 중이다. SLM이나 sLLM을 이야기하다 보면 '잘 튜닝만 하면 작은 모델로도 LLM만큼 좋은 성능을 낼 수 있다'라는 주장도 자주 만나게 된다. 나는 최적화된 sLLM이나 SLM으로 범용적인 추론 능력과 광범위한 지식을 갖춘 LLM에 비할 성능을 얻을 수 있다는 말은 거짓이라 생각한다. 하지만 우리가 수행하는 반복적인 업무중 상당 부분은 LLM의 지능이 아니라 SLM/sLLM으로도 충분히 해결가능한 일이 많다. 이를 합리적으로 해결하는 것이 엔지니어의 몫이라 생각한다. 그래서 LLM으로 할 일과 SLM으로 할 일을 나눠 할당하는 것이 점점 더 중요할 것이라 본다. 이 책은 그 출발점으로 직접 자신의 컴퓨터 내지는 저가의 클라우드 환경에서 해보면서 배울 수 있는 내용을 담고 있는, 현 시점에서 볼 수 있는 몇 안되는 책이라 생각한다. 특정 파인튜닝 기술을 깊이 알고 싶다면 조금 부족한 느낌을 줄 수도 있겠다. |
