그렇지만 어텐션 메커니즘 기반의 트랜스포머에 대한 기본 이론에 대해서는 이미 수도 없이 접한 상황이라 개념 정도는 대강 이해하고 있는 상황에서(Attention Is All You Need 논문에 대한 이야기는 요새 나오는 LLM 책들에서 반드시 빠지지 않고 언급되는 내용이다보니 자연스럽게 그렇게 된 것 같다.) 추가적으로 본 도서를 통해 트랜스포머에 대한 여러 가지 활용 사례와 practical한 개발 방법에 대해 좀 더 자세히 알 수 있게 된 것 같다.

또한, 본 도서를 통해 얻은 또 하나의 큰 수확이라면 바로 허깅페이스 생태계에 대한 이해이다. 허깅페이스는 사실 2016년에 설립된 미국의 인공지능 스타트업 이름이나, 보통은 딥러닝 모델에 대한 여러 가지 라이브러리를 제공하는 세계 최대의 인공지능 리소스 플랫폼이자 오픈소스 커뮤니티라는 의미로 통용되며, 흔히 머신러닝계의 깃허브라고도 부른다.

본 도서에서는 허깅페이스 생태계의 여섯 가지 주요 구성 요소에 대해 설명하고 있으며, 설명하는 소스코드 예제 등을 통해 허깅페이스를 활용하는 방법에 대해 독자로 하여금 내용을 이해할 수 있도록 구성이 되어 있어 개인적으로 이 부분이 특히 마음에 들었다.

그리고 3장에서는 파이토치 기반으로 트랜스포머 모델을 개발하는 과정에 대해 소개하고 있다. 많은 사람들이 잘 알고 있듯이 트랜스포머는 크게 임베딩 층과 위치 인코딩 모듈, 그리고 인코더 층과 디코더 층으로 구성되는데, 이 중 위치 인코딩 부분은 파이토치에 내장되어 있지 않아 직접 코드를 작성해야 하며, 본 도서에서는 이에 대한 샘플 예제코드도 제공하여 전체적인 구현을 진행할 수 있도록 가이드한다. 

물론 트랜스포머의 인코더 층과 디코더 층은 반드시 함께 사용해야 되는 건 아니다. 잘 알려져 있듯이 구글의 BERT는 트랜스포머의 인코더 구조를 주로 사용하고, 오픈AI의 GPT는 트랜스포머의 디코더 구조를 주로 사용하고 있으니 말이다. 그렇기 때문에 본 도서에서 언급하고 있듯이 필요에 따라 인코더와 디코더를 단독 또는 혼합으로 유연하게 사용함으로써 트랜스포머 모델을 데이터 분류부터 언어 번역까지 다양한 작업에 활용이 가능할 수 있도록 하게 된 것이다.

본 도서의 5장에서는 방금 언급한 LLM 모델인 BERT와 GPT(GTP-3), 그리고 BART에 대한 내용을 다룬다. 아주 자세히는 아니지만, 각 모델의 전체적인 동작 원리와 학습 과정에 대해 독자가 이해할 수 있도록 압축 요약하여 잘 담아 내고 있어서 개념을 이해하는데에는 오히려 분량이 부담되지 않고 좋았다.

그리고 실제 BERT 모델을 이용하여 Kaggle 사이트에 올라와 있는 임상 노트 데이터셋을 기반으로 학습을 수행해보는 Python 예제도 담고 있다. 사실 파이토치에서 제공되는 트랜스포머 기반의 BERT 모델을 라이브러리 형태로 쉽게 가져다가 사용할 수 있기 때문에 우리가 개발하는 코드 자체는 코드량이 몇 줄 되지 않는다. 아마 100라인도 안될 듯.. (물론 밑바닥부터 구현하려면 이야기는 달라지겠지만..^^;)

또한, 6장에서는 트랜스포머 모델을 활용하여 NLP 작업을 수행하고 이를 통해 의료 목적의 질의 응답 챗봇을 개발해보는 실습 내용도 담고 있다. 챗GPT의 출현으로 인해 생성형 AI 시대가 도래하였으며, 그 중심에는 트랜스포머 모델을 활용한 LLM 기술이 있었듯이, 본 도서에서도 트랜스포머 모델의 가장 대표적인 활용 내용인 자연어 기반 챗봇 개발에 대해 다루고 있다.

본격적으로 LLM 기반 상용 챗봇을 제대로 개발하고자 하는 사람들은 LLM 개발을 전문으로 다룬 별도 자료를 더 참고해야 하겠으나, 간단한 실습 예제 구현을 통해 개략적인 LLM 챗봇을 이해하고자 하는데 있어서는 본 도서가 그 시작점의 역할을 충분히 할 수 있을 것 같다. 참고로 도서의 지면에서 다루는 코드는 일부 코드이고, 풀 소스는 출판사에서 제공하는 별도 GitHub 저장소에서 다운로드 받을 수 있다.

서평: 『10가지 프로젝트로 끝내는 트랜스포머 활용 가이드 with 파이토치』를 읽고

출판사 협찬도서를 받아 서평단 자격으로 작성한 리뷰입니다.

본 도서는 이전에 출간된 트랜스포머 관련 도서와는 확실히 다른  차별점이 있는것같다.

그것은 바로 트랜스포머 모델 자체에 대한 자세하고 전문적인 내용과 실습, 그리고, 거의 전 분야에 적용이 가능한 알찬 내용이 있다는 것이다. 책을 보고 요약하고 느낀점을 한번 기술해 보고자 한다.

CHAPTER1은 트랜스포머 개발배경에 대해서 요약적을 설명해준다.

수식이나 코드 자체보다는 개념을 잘 제시해서 RNN 과 LSTM 의 발전과 함께 이들의 한계를 극복하기위한 트랜스포머의 개발, 그리고 그  구조에 대한 설명을 보여준다.

특히, 여기서는 트랜스포머의 구조와 각 레이어의 역할, 인코더, 디코더에 대해서 필요한 설명이 잘되어 있다. 이 장은 책의 전반적인 학습을 위해 꼭필요한 개념이라고 본다.

CHAPTER 2 는 트랜스포머모델과 데이터셋의 유명 생태계인 허깅페이스의 사용에 대해서 설명한다. 여기서는 토크나이저, 데이터셋, 모델의 파인튜닝의 개념과 사용, 추론 등에 대해 전반적으로 설명해준다. 트랜스포머 모델의 사용에서 허깅페이스를 아는것은 중요하기 때문에 이 장을 잘 보면 좋다.

CHAPTER 3 은 트랜스포머모델에서 가장 많이 사용된다고 알려진 파이토치로 모델을 구현하는 내용을 설명한다. 여기서는 파이토치에서 제공하는 라이브러리를 사용해서 인코딩 모델, 디코딩 모델등으로 트랜스포머모델을 구축해보고, 전이학습과, 사전학습, 그리고 BERT 등이 다양한 모델을 불러와서 사용하는 방법들을 알려준다.

파이토치 라이브러리를 사용해서 모델을 구축해보기때문에, 모델 내부를 어느정도 들여다볼수 있는 재미를 즐기면서 공부를 할수 있는 장이다.

CHAPTER 4 는 파이토치와 허깅페이스를 사용한 전이학습의 장으로, 사전학습된 모델을 사용하여 전이학습을 수행하는 방법을 흥미롭게 보여준다. 비전과 음성인식의 사전학습모델을 소개해주는 부분도 재미있고, 실제 해보는 부분에서는 사전학습된 bert 모델과 캐글 데이터셋을 사용한다.이과정에서 중요한 개념과 코드를 학습할수 있다. 이 장을 공부하고 나면 사전학습된 모델로 파인튜닝하는 기본은 갖추는데 좋을것같다. 

CHAPTER 5 에서는 대규모언어모델인 llm 의 아키텍처와  커스텀 모델의 구축을 보여준다.

이를 위해 llm의 중요개념을 보여주고, bert, gpt, bart 의 아키텍처와 특성을 좀더 자세하게 공부 할 수 있다. 그리고, 캐글의 임상기록 데이터와 bert 를 사용하여, 임상데이터로 사전학습된 커스텀 모델구축방법을 배운다. 이 장에서는 llm 을 기업의 요구사항을 충족시킬 수 있게 실제로 어떻게 준비하고 구축할 수있는지를 매우 흥미로운 예시로 배울 수 있다는 의미가 있다.

CHAPTER 6 에서는 다양한 nlp 작업을 보여주는데, 즉 텍스트분류, 토큰분류, 질의 응답등 여러 분야에서 필요로 하는 과제를 해결하는 방법을 학습할 수 있다. 이 중에서 텍스트 분류와 텍스트 생성 프로젝트를 위한 데이터 전처리와 파인 튜닝을 보여주고, ai 의사 챗봇을 만들기위해 메타의 Lama 모델을 사용한다. 흥미로운 점은 계산비율을 줄이고 효율적인 파인튜닝을 위해 PEPT (parameter-efficient fine-tunning) 중에 LoRA 를 적용한다는 것이다. 이 장에서는 llm 과 함께 더욱 최신의 발전된 방법을 사용해볼수 있다는 점이 큰 의미가 있는것 같다. 

CHAPTER 7 에서는 트랜스포머 기반의 컴퓨터 비전 모델인 ViT 와 이 모델의 고급버전인 DeiT 와 DETR 모델에 대해서 다룬다. 트랜스포머 아키텍처를 사용했기때문에, 이미지의 patch 전체에 셀프어텐션을 적용해서 이미지의 전체적인 맥락을 이해하기때문에, 복잡한 작업에서도 매우 유리하다. 그리고 본문에서는 ViT 와 DeiT 를 사용해서 작은 프로젝트로 백내장 이미지를 분류할 수 있는 분류기를 만들어 보고 DETR 를 사용해서 객체 검출기를 만들게 된다. 이 장은 자연어 처리를 위한 트랜스포머 아키텍쳐가 비전 모델에서도 사용되는 점이 무척 흥미롭게 보여진다.

CHAPTER 8 에서는 이전 장에서 다루었던 모델들을 다른 재미있는 어플리케이션을 위해 활용하게 된다. 그리고 백내장 분류를 사용해서 ViT와 DeiT, ResNet50 간의 성능비교하는 부분도 흥미롭게 볼 수 있다. 

이 장에서 해볼 수 있는 프로젝트는 캐글의 음식사진 데이터를 기반으로 칼로리 함량을 계산할 수 있는 다이어트 계산기용 이미지 세그맨테이션 모델을 만드는것이다. 음식사진에서 대상을 정확히 보기 위해서는 세그멘테이션이 필요한데 역시 노트북을 통해서 학습과 추론이 가능하다. 여기서는 또다른 재미있는 내용은 이미지생성을 위해 크게 활용되는 디퓨전 모델을 도입한것이다. gpu 성능에 따라 학습이 힘들수는 있지만, 관련 내용을 공부하기에는 좋은것 같다. 이 장은 이전 장과 함께 컴퓨터 비전의 대표적인 모델과 흥미로운 주제를 다뤄본다는 재미가 있다.

CHAPTER 9 에서는 지금까지 텍스트, 이미지 프로젝트에 이어서 음성과 이를 처리하기 위해 트랜스포머 아키텍처를 활용한 음성 처리 모델을 다루게 된다. 대표적인 음성 처리 모델 3가지를 다루게 되는데, Whisper, SpeechT5, Wav2Vec 이 그것이고, 이중에서 Whisper 는 성능도 괜찮고, 실제 업무에서도 활용범위가 큰 모델이다. 이 장에서는 음성처리를 위한 개념과 음성 데이터 전처리, 모델의 파인튜닝을 공부해볼수 있어서 트랜스포머 아키텍처 기반의 다양한 분야를 또 접할 수 있어서 의미있는것 같다.

CHAPTER 10 이 장에서는 이전 장에 이어 음성 처리 모델을 공부하는데 더욱 실용적인 어플리케이션을 실행해볼수 있게된다. 특히 응용성이 매우 크고, 국내외 기업들도 많이 개발하는 speech to text 를 whisper 를 사용해서 직접 해볼수 있다. 이를 위해서 오디오 데이터를 직접 다뤄볼 수 있고, 이후엔 반대로 text to speech 도 실습해볼 수 있고, 오디오 to 오디오의 입력과 출력이 모두 오디오지만, 출력단에서는 품질을 향상시킬수도 있는 고급기능이다. 이번 장은 이렇게 다양한 기능을 맛볼 수 있다는점에서도 의미가 있다고 본다.  

CHAPTER 11 은 역시 이전과는 다른 유형의 프로젝트인데, 구조화된 데이터, 즉, 테이블등의 처리를 위한 공부를 하게 된다. 이를 위해 구글의 TAPAS 모델을 사용하여 테이블 구조 데이터의 질의응답을 실행해볼수 있고 Tab transformer와 FT transformer 의 아키텍처에 대해서 설명을 볼 수 있다. 이번 장은 다음장에서 본격적으로 테이블 데이터 처리를 위한 준비라고 보면 될 것 같다.

CHAPTER 12 은 이전 장에 이어 본격적으로 테이블 데이터 처리를 하고 분류와 회귀를 위해 트랜스포머 아키텍처 모델을 사용하게 된다. 여기서는 미국 인구조사국에서 조사한 데이터에서 개인별 연간소득이 일정금액을 넘는지 아닌지를 분류하기 위해 Tab transformer와 FT transformer, 그리고 파이토치 모델인 TabNet 을 사용하고, 이 세 모델을 학습하여 성능을 평가하게 된다. 그다음에는 주택판매가격을 예측하기 위한 회귀 프로젝트도 실행 해 볼수 있다. 이 장은 일반적인 머신러닝 프로젝트에서 볼 수 있는 문제를 트랜스포머 모델로 풀어 보는 재미가 있다고 본다.

CHAPTER 13 지금까지는 각 개별 특성의 프로젝트를 실행하고 공부했는데, 이 장에서는 여러 유형의 데이터를 처리해보는 멀티모달 트랜스포머에 대해서 알아본다.이를 위해 필요한 아키텍처를 학습하고, ViT 와 트랜스포머 언어모델이 결합된 멀티모달 모델인 CLIP 에 대해서 공부하고, 다양한 분야의 데이터를 처리하는 트랜스포머 모델을 실습해볼 수 있다. 이 장에서는 여러 분야의 데이터를 각긱에 적합한 트랜스포머 모델들을 사용해서 처리해보는 실습을 해보는데 의미가 있다. 

CHAPTER 14 이번 장은 이전과는 다른 유형의 트랜스포머를 배우게 되는데, 바로 강화학습이다. 간단하게 말하면, 이전결과를 기반으로 누적되어온 보상을 최대화하는 방향으로 다음 방향을 결정하게 된다. 이러한 강화학습의 기본 개념을 보고 파이토치에서 사용하기 위한 지식과 툴을 기반으로 데이 트레이딩 모델을 개발하게 된다. 이를 위해 파이토치 강화학습 모델인 stable baseline3를 사용해 볼수 있고, 트랜스포머의 강화학습모델들도 배울 수 있다. 역시 이 책의 강점인 다양한 분야를 배우게 된다는 점을 여기서도 느낄수 있다.

CHAPTER 15 지금까지는 다양한 분야에 적합한 데이터를 처리하고 모델을 학습하고 추론하는데 대해서 배웠는데, 이 장에서는 학습 결과인 모델을 저장하고, 불러오고, 배포하는 방법등에 대해서 배우게 된다. 실제 서비스를 위해서 매우 필요한 개념이고, 여기서 배우는 파이토치 코드와 라이브러리는 트랜스포머 뿐만 아니라 일반 딥러닝 모델에도 적용할 수 있기 때문에 잘 보는게 중요할것 같다. 아마존 세이지메이커를 사용하는 부분도 상당히 유익하다.

CHAPTER 16 은 여러분야에서 중요하게 나타나는 해석가능성과 설명 가능성에대해서 논의 하게 된다.이를 위한 트랜스포머 및 파이토치의 라이브러리를 보여주고, 감성분석결과를 해석하는 과정을 보여준다. 또한 파이토치의 모델의 학습에 매우 중요한 텐서보드도 사용하는 방법을 보여준다. 여기까지 공부하게 된다면 상당히 완성형에 가깝게 되지 않을까 생각된다.

CHAPTER 17 은 트랜스포머 모델을 사용할때의 가이드 라인을 제시한다. 여기서는 허깅페이스에서 모델과 데이터 셋을 사용할때 모범 사례를 설명해주고, 학습할때 필요한 지침도 제시해준다. 마지막으로 파이토치를 사용할때, 실제 만날수 있는 에러와 디버깅에 대해서 설명해주는데, 역시 매우 유익한 내용이다.

도서 서평에 신청해서 처음으로 책에 대한 요약을 작성해보았는데, 개인적으로도 매우 유익하고 배움이 많은 작업이어서 보람있었고, 본 도서도 상당히 좋은 내용이어서 보람과 배움이 더 컸다고 본다.

이책은 가장 많이 사용되는 머신러닝 패키지인 파이토치를 활용하여 현재 가장 많이 사용되고 있는 LLM모델의 근간 기술인 트랜스포머로 10가지의 다양한 활용법을 알려주는 책이다. 

실전에서 트랜스포머를 어떻게 사용할 수 있는지 친절한 설명과 이를 활용하는 예제를 제공해주어 파이썬을 조금이라도 할 줄 아는 독자면 충분히 따라갈 수 있다.트랜스포머 아키텍처를 직접 파이토치를 사용하여 구현함으로써 이해를 가능하게 해주고 있고 이를 토대로 허깅페이스의 생태계, 파이토치와 허깅페이스를 사용한 전이학습도 배울 수 있다. 

파이썬을 쉽게 활용할 수 있다는 말에 관심을 갖고 책을 봤다. 파이썬을 실전에 활용하고 싶은데 쉽게 도전하지 못하고 있었다. 이런 때에 ＜누구나 쉽게 따라하는 트랜스포머 모델 실습＞을 접하게 되었다. 이참에 파이썬 공부를 제대로 해서 활용해보자는 마음으로 책 읽고 배우는 것에 도전했다. 그런데, 이렇게 좋을수가~~!!! 인공지능을 활용하는 것이 먼 이야기가 아니라는 생각에 기대감 가득해지고, 배우는 즐거움도 커졌다. ＜10가지 프로젝트로 끝내는 트랜스포머 활용 가이드 with 파이토치＞... 실전에 사용할 수 있는 책이다. 혹시, 서평을 읽는 분이 계시다면, 팁^^을 드리고 싶다. 개념 등을 이해하고 쉽게 따라하기 위해 ＜101가지 문제로 배우는 딥러닝 허깅페이스 트랜스포머 with 파이토치＞부터 하면 좀 더 쉽게 트랜스포머와 가까워지고 활용할 수 있으리라고 생각된다. 좋은 책을 만나게 되어 기쁘다!!

하고 싶은 것이 많은데, 이 책과 실전 배움을 통해 조만간 꿈이 이루어질 기대감이 커졌다.

인공지능 시대.. 인공지능을 활용할 수 있는 실전 강의 교재!!다!!