이 책은 출간된 현재 시점에서 대규모 언어 모델에 대해 우리가 알아야 할 거의 모든 부분을 다룬다. 만약 신경망 유닛이나 역전파와 정규화나 텐서 연산 등 기초적인 인공지능 개념에 대해 파악했고 파이토치 등을 통해 기본적인 학습과 추론을 사용해 본 독자라면 이제 이 책의 내용을 소화할 차례다. AI 분야의 인재가 부족한 상황에서 이렇게 자세하고 친절하게 그리고 최신 내용을 모두 포함해 언어 모델을 설명한 도서라니 목차부터 매력적이지 않을 수 없다.
이 책은 순환신경망, 어텐션, 트랜스포머, BERT, 임베딩, 파인 튜닝과 RLHF 그리고 LoRA 등의 생성형 AI 학습의 역사와 모델 훈련과 추론에 대한 세세한 내용을 자세히 다룬다. 동시에, 반향을 일으켰던 여러 논문들도 소개하며 실제 모델 훈련 예제까지 알려준다. 모델을 연구 개발하면서 참조하게 될 허깅페이스와 깃허브의 여러 유용한 데이터와 라이브러리까지 소개하고 있으니, 본격적으로 LLM에 발을 들여놓은 분이나 이미 알고 있더라도 관련 지식을 한번 정리하고 싶은 사람에게 많은 도움이 될 것으로 보인다. 실제 훈련 과정에서 GPU를 효율적으로 활용하는 방법에 대한 내용까지 다루며, 만들어진 모델이 최신 지식을 참조해 답을 할 수 있도록 RAG를 적용하는 방법과 에이전트로 만들어진 모델의 평가와 트랜스포머 이후의 아키텍처 등 이 분야의 향후 발전 방향까지도 가늠할 수 있도록 충실하게 채운 저자의 노력이 독자에게 큰 배움을 선사하며 빛을 발하리라 기대한다.
