소득공제
PDF
eBook
트랜스포머를 활용한 자연어 처리
허깅페이스 개발팀이 알려주는 자연어 애플리케이션 구축
스마트한 PDF 필기 기능을 사용해 보세요!
- PDF 안내
-
이 상품은 구매 후 지원 기기에서 예스24 eBook앱 설치 후 바로 이용 가능한 상품입니다.
상세 이미지
소개
목차
|
CHAPTER 1 트랜스포머 소개_1.1 인코더-디코더 프레임워크_1.2 어텐션 메커니즘_1.3 NLP의 전이 학습_1.4 허깅페이스 트랜스포머스_1.5 트랜스포머 애플리케이션 둘러보기__1.5.1 텍스트 분류__1.5.2 개체명 인식__1.5.3 질문 답변__1.5.4 요약__1.5.5 번역__1.5.6 텍스트 생성_1.6 허깅페이스 생태계__1.6.1 허깅페이스 허브__1.6.2 허깅페이스 토크나이저__1.6.3 허깅페이스 데이터셋__1.6.4 허깅페이스 액셀러레이트_1.7 트랜스포머의 주요 도전 과제_1.8 결론CHAPTER 2 텍스트 분류_2.1 데이터셋__2.1.1 허깅페이스 데이터셋 처음 사용하기__2.1.2 데이터셋에서 데이터프레임으로__2.1.3 클래스 분포 살펴보기__2.1.4 트윗 길이 확인_2.2 텍스트에서 토큰으로__2.2.1 문자 토큰화__2.2.2 단어 토큰화__2.2.3 부분단어 토큰화__2.2.4 전체 데이터셋 토큰화하기_2.3 텍스트 분류 모델 훈련하기__2.3.1 트랜스포머를 특성 추출기로 사용하기__2.3.2 트랜스포머 미세 튜닝하기_2.4 결론CHAPTER 3 트랜스포머 파헤치기_3.1 트랜스포머 아키텍처_3.2 인코더__3.2.1 셀프 어텐션__3.2.2 피드 포워드 층__3.2.3 층 정규화 추가하기__3.2.4 위치 임베딩__3.2.5 분류 헤드 추가하기_3.3 디코더_3.4 트랜스포머 유니버스__3.4.1 트랜스포머 가계도__3.4.2 인코더 유형__3.4.3 디코더 유형__3.4.4 인코더-디코더 유형_3.5 결론CHAPTER 4 다중 언어 개체명 인식_4.1 데이터셋_4.2 다중 언어 트랜스포머_4.3 XLM-R 토큰화__4.3.1 토큰화 파이프라인__4.3.2 SentencePiece 토크나이저_4.4 개체명 인식을 위한 트랜스포머_4.5 트랜스포머 모델 클래스__4.5.1 바디와 헤드__4.5.2 토큰 분류를 위한 사용자 정의 모델 만들기__4.5.3 사용자 정의 모델 로드하기_4.6 NER 작업을 위해 텍스트 토큰화하기_4.7 성능 측정_4.8 XLM-RoBERTa 미세 튜닝하기_4.9 오류 분석_4.10 교차 언어 전이__4.10.1 제로 샷 전이가 유용할 때__4.10.2 다국어에서 동시에 미세 튜닝하기_4.11 모델 위젯 사용하기_4.12 결론CHAPTER 5 텍스트 생성_5.1 일관성 있는 텍스트 생성의 어려움_5.2 그리디 서치 디코딩_5.3 빔 서치 디코딩_5.4 샘플링 방법_5.5 탑-k 및 뉴클리어스 샘플링_5.6 어떤 디코딩 방법이 최선일까요?_5.7 결론CHAPTER 6 요약_6.1 CNN/DailyMail 데이터셋_6.2 텍스트 요약 파이프라인__6.2.1 요약 기준 모델__6.2.2 GPT-2__6.2.3 T5__6.2.4 BART__6.2.5 PEGASUS_6.3 요약 결과 비교하기_6.4 생성된 텍스트 품질 평가하기__6.4.1 BLEU__6.4.2 ROUGE_6.5 CNN/DailyMail 데이터셋에서 PEGASUS 평가하기_6.6 요약 모델 훈련하기__6.6.1 SAMSum에서 PEGASUS 평가하기__6.6.2 PEGASUS 미세 튜닝하기__6.6.3 대화 요약 생성하기_6.7 결론CHAPTER 7 질문 답변_7.1 리뷰 기반 QA 시스템 구축하기__7.1.1 데이터셋__7.1.2 텍스트에서 답 추출하기__7.1.3 헤이스택을 사용해 QA 파이프라인 구축하기_7.2 QA 파이프라인 개선하기__7.2.1 리트리버 평가하기__7.2.2 리더 평가하기__7.2.3 도메인 적응__7.2.4 전체 QA 파이프라인 평가하기_7.3 추출적 QA를 넘어서_7.4 결론CHAPTER 8 효율적인 트랜스포머 구축_8.1 의도 탐지 예제_8.2 벤치마크 클래스 만들기_8.3 지식 정제로 모델 크기 줄이기__8.3.1 미세 튜닝에서의 지식 정제__8.3.2 사전 훈련에서의 지식 정제__8.3.3 지식 정제 트레이너 만들기__8.3.4 좋은 스튜던트 선택하기__8.3.5 옵투나로 좋은 하이퍼파라미터 찾기__8.3.6 정제 모델 벤치마크 수행하기_8.4 양자화로 모델 속도 높이기_8.5 양자화된 모델의 벤치마크 수행하기_8.6 ONNX와 ONNX 런타임으로 추론 최적화하기_8.7 가중치 가지치기로 희소한 모델 만들기__8.7.1 심층 신경망의 희소성__8.7.2 가중치 가지치기 방법_8.8 결론CHAPTER 9 레이블 부족 문제 다루기_9.1 깃허브 이슈 태거 만들기__9.1.1 데이터 다운로드하기__9.1.2 데이터 준비하기__9.1.3 훈련 세트 만들기__9.1.4 훈련 슬라이스 만들기_9.2 나이브 베이즈 모델 만들기_9.3 레이블링된 데이터가 없는 경우_9.4 레이블링된 데이터가 적은 경우__9.4.1 데이터 증식__9.4.2 임베딩을 룩업 테이블로 사용하기__9.4.3 기본 트랜스포머 미세 튜닝하기__9.4.4 프롬프트를 사용한 인-컨텍스트 학습과 퓨-샷 학습_9.5 레이블링되지 않은 데이터 활용하기__9.5.1 언어 모델 미세 튜닝하기__9.5.2 분류기 미세 튜닝하기__9.5.3 고급 방법_9.6 결론CHAPTER 10 대규모 데이터셋 수집하기_10.1 대규모 데이터셋 수집하기__10.1.1 대규모 말뭉치 구축의 어려움__10.1.2 사용자 정의 코드 데이터셋 만들기__10.1.3 대용량 데이터셋 다루기__10.1.4 허깅페이스 허브에 데이터셋 추가하기_10.2 토크나이저 구축하기__10.2.1 토크나이저 모델__10.2.2 토크나이저 성능 측정하기__10.2.3 파이썬 코드를 위한 토크나이저__10.2.4 토크나이저 훈련하기__10.2.5 허브에 사용자 정의 토크나이저 저장하기_10.3 밑바닥부터 모델을 훈련하기__10.3.1 사전 훈련 목표__10.3.2 모델 초기화__10.3.3 데이터로더 구축하기__10.3.4 훈련 루프 정의하기__10.3.5 훈련 실행_10.4 결과 및 분석_10.5 결론CHAPTER 11 향후 방향_11.1 트랜스포머 확장__11.1.1 규모의 법칙__11.1.2 규모 확장의 어려움__11.1.3 어텐션 플리즈!__11.1.4 희소 어텐션__11.1.5 선형 어텐션_11.2 텍스트를 넘어서__11.2.1 비전__11.2.2 테이블_11.3 멀티모달 트랜스포머__11.3.1 스피치-투-텍스트__11.3.2 비전과 텍스트_11.4 다음 목적지는?
|
저자 소개 4
Lewis Tunstall
허깅페이스의 머신러닝 엔지니어다. 스타트업과 기업을 위해 NLP, 위상 기반 데이터 분석(topological data analysis), 시계열 분야의 머신러닝 애플리케이션을 만들었다. 이론 물리학으로 박사 학위를 받고 호주, 미국, 스위스에서 연구를 수행했다. 현재는 NLP 커뮤니티를 위한 도구를 개발하며 이를 효율적으로 사용하는 방법을 가르치는 일에 열중한다.
Leandro von Werra
허깅페이스 오픈소스 팀의 머신러닝 엔지니어다. 산업 분야에서 NLP 프로젝트를 제품화하는 데 머신러닝 스택 전반에 걸쳐 다년의 경험을 쌓았으며, 트랜스포머와 강화 학습을 결합해 인기 있는 파이썬 라이브러리 TRL을 만들었다.
Thomas Wolf
허깅페이스의 최고 과학 책임자이자 공동 설립자다. 그가 이끄는 팀은 NLP 연구를 촉진하고 민주화하는 임무를 수행한다. 허깅페이스를 공동 설립하기 전에 물리학 박사 학위를 취득하고 나중에 법학 학위를 받았다. 한때 물리학 연구원과 유럽 변리사로 일했다.
기계공학을 전공했지만 졸업 후엔 줄곧 코드를 읽고 쓰는 일을 했다. Google AI/Cloud GDE, Microsoft AI MVP이다. 텐서플로우 블로그(tensorflow.blog)를 운영하고 있으며, 머신러닝과 딥러닝에 관한 책을 집필하고 번역하면서 소프트웨어와 과학의 경계를 흥미롭게 탐험하고 있다.
《혼자 만들면서 공부하는 딥러닝》(한빛미디어, 2025), 《혼자 공부하는 머신러닝+딥러닝 개정판》(한빛미디어, 2025), 《혼자 공부하는 데이터 분석 with 파이썬》(한빛미디어, 2023), 《챗GPT로 대화하는 기술》(한빛미디어, 2023), 《Do it! 딥러닝
기계공학을 전공했지만 졸업 후엔 줄곧 코드를 읽고 쓰는 일을 했다. Google AI/Cloud GDE, Microsoft AI MVP이다. 텐서플로우 블로그(tensorflow.blog)를 운영하고 있으며, 머신러닝과 딥러닝에 관한 책을 집필하고 번역하면서 소프트웨어와 과학의 경계를 흥미롭게 탐험하고 있다.
《혼자 만들면서 공부하는 딥러닝》(한빛미디어, 2025), 《혼자 공부하는 머신러닝+딥러닝 개정판》(한빛미디어, 2025), 《혼자 공부하는 데이터 분석 with 파이썬》(한빛미디어, 2023), 《챗GPT로 대화하는 기술》(한빛미디어, 2023), 《Do it! 딥러닝 입문》(이지스퍼블리싱, 2019)을 집필했다.
《밑바닥부터 만들면서 배우는 LLM》(길벗, 2025), 《핸즈온 LLM》(한빛미디어, 2025), 《머신 러닝 Q & AI》(길벗, 2025), 《개발자를 위한 수학》(한빛미디어, 2024), 《실무로 통하는 ML 문제 해결 with 파이썬》(한빛미디어, 2024), 《머신러닝 교과서: 파이토치 편》(길벗, 2023), 《스티븐 울프럼의 챗GPT 강의》(한빛미디어, 2023), 《핸즈온 머신러닝 3판》(한빛미디어, 2023), 《만들면서 배우는 생성 딥러닝 2판》(한빛미디어, 2023), 《코딩 뇌를 깨우는 파이썬》(한빛미디어, 2023), 《트랜스포머를 활용한 자연어 처리》(한빛미디어, 2022), 《케라스 창시자에게 배우는 딥러닝 2판》(길벗, 2022), 《개발자를 위한 머신러닝&딥러닝》(한빛미디어, 2022), 《XGBoost와 사이킷런을 활용한 그레이디언트 부스팅》(한빛미디어, 2022), 《구글 브레인 팀에게 배우는 딥러닝 with TensorFlow.js》(길벗, 2022), 《파이썬 라이브러리를 활용한 머신러닝 개정2판》(한빛미디어, 2022), 《머신러닝 교과서 3판》(길벗, 2021)을 포함하여 수십 권의 책을 우리말로 옮겼다.
《혼자 만들면서 공부하는 딥러닝》(한빛미디어, 2025), 《혼자 공부하는 머신러닝+딥러닝 개정판》(한빛미디어, 2025), 《혼자 공부하는 데이터 분석 with 파이썬》(한빛미디어, 2023), 《챗GPT로 대화하는 기술》(한빛미디어, 2023), 《Do it! 딥러닝 입문》(이지스퍼블리싱, 2019)을 집필했다.
《밑바닥부터 만들면서 배우는 LLM》(길벗, 2025), 《핸즈온 LLM》(한빛미디어, 2025), 《머신 러닝 Q & AI》(길벗, 2025), 《개발자를 위한 수학》(한빛미디어, 2024), 《실무로 통하는 ML 문제 해결 with 파이썬》(한빛미디어, 2024), 《머신러닝 교과서: 파이토치 편》(길벗, 2023), 《스티븐 울프럼의 챗GPT 강의》(한빛미디어, 2023), 《핸즈온 머신러닝 3판》(한빛미디어, 2023), 《만들면서 배우는 생성 딥러닝 2판》(한빛미디어, 2023), 《코딩 뇌를 깨우는 파이썬》(한빛미디어, 2023), 《트랜스포머를 활용한 자연어 처리》(한빛미디어, 2022), 《케라스 창시자에게 배우는 딥러닝 2판》(길벗, 2022), 《개발자를 위한 머신러닝&딥러닝》(한빛미디어, 2022), 《XGBoost와 사이킷런을 활용한 그레이디언트 부스팅》(한빛미디어, 2022), 《구글 브레인 팀에게 배우는 딥러닝 with TensorFlow.js》(길벗, 2022), 《파이썬 라이브러리를 활용한 머신러닝 개정2판》(한빛미디어, 2022), 《머신러닝 교과서 3판》(길벗, 2021)을 포함하여 수십 권의 책을 우리말로 옮겼다.
박해선의 다른 상품
품목정보
- 발행일
- 2022년 12월 12일
- 지원기기
- 크레마, PC(윈도우 - 4K 모니터 미지원), 아이폰, 아이패드, 안드로이드폰, 안드로이드패드, 전자책단말기(저사양 기기 사용 불가), PC(Mac)
- 파일/용량
- PDF(DRM) | 8.48MB ?
- 글자 수/ 페이지 수
- 약 485쪽 ?
- ISBN13
- 9791169216517
출판사 리뷰
|
자연어 처리 애플리케이션을 만드는 큐브, 트랜스포머이 책은 머신러닝 지식을 갖춘 엔지니어와 연구자를 대상으로 직접 모델을 구현하며 트랜스포머를 업무에 적용하는 실용적인 방법을 전달한다. 트랜스포머를 이용하는 데 필요한 기본적인 이론과 방법을 소개한 뒤, 다국어 텍스트의 개체명 인식(NER)을 비롯해 텍스트 생성, 텍스트 요약, 질문 답변(QA) 같은 목적에 맞는 다양한 자연어 처리 모델을 훈련해본다. 다양한 트랜스포머 모델에 표준화된 인터페이스를 제공하는 라이브러리인 허깅페이스 트랜스포머스를 개발한 팀의 안내를 따라 내게 필요한 모델을 구축해보자.대상 독자ㆍ트랜스포머를 입맛에 맞게 조정하고 싶은 데이터 과학자와 머신러닝 엔지니어ㆍ자기만의 자연어 처리 애플리케이션을 만들고 싶은 개발자주요 내용ㆍ텍스트 분류, 개체명 인식 등 NLP 작업을 위한 트랜스포머 모델을 빌드 및 디버깅, 최적화하는 방법ㆍ언어 간 전이 학습에 트랜스포머를 사용하는 방법ㆍ레이블링된 데이터가 부족한 상황에서 트랜스포머를 적용해 모델 성능을 높이는 방법ㆍ지식 정제와 양자화, 가지치기 같은 기술을 사용한 트랜스포머 모델 효율화 방법ㆍ대규모 트랜스포머 모델을 밑바닥부터 훈련하고 여러 GPU 및 분산 환경으로 확장하는 방법
|
