『선형대수와 통계학으로 배우는 머신러닝 with 파이썬』

■ CHAPTER 1. 환경 설정
1.1 윈도우에서 환경 설정하기
1.2 맥북에서 환경 설정하기
1.3 리눅스에서 환경 설정하기

■ CHAPTER 2. 머신러닝 개요
2.1 머신러닝이란
2.2 지도 학습 vs 비지도 학습
2.3 머신러닝의 전반적인 과정

■ CHAPTER 3. 머신러닝을 위한 선형대수
3.1 선형대수와 머신러닝의 관계
3.2 행렬의 기초
___ 3.2.1 행렬이란
___ 3.2.2 대각 행렬
___ 3.2.3 전치 행렬
___ 3.2.4 행렬의 덧셈, 뺄셈
___ 3.2.5 행렬의 스칼라곱
___ 3.2.6 행렬곱
___ 3.2.7 행렬의 원소곱
___ 3.2.8 행렬식
___ 3.2.9 역행렬
3.3 내적
3.4 선형 변환
3.5 랭크, 차원
___ 3.5.1 벡터 공간, 기저
___ 3.5.2 랭크와 차원
___ 3.5.3 직교 행렬
3.6 고윳값, 고유 벡터
3.7 특이값 분해
___ 3.7.1 닮음
___ 3.7.2 직교 대각화
___ 3.7.3 고윳값 분해
___ 3.7.4 특이값 분해
3.8 이차식 표현
___ 3.8.1 이차식 개념
___ 3.8.2 양정치 행렬
3.9 벡터의 미분

■ CHAPTER 4. 머신러닝을 위한 통계학
4.1 통계학과 머신러닝의 관계
4.2 확률 변수와 확률 분포
___ 4.2.1 확률 변수
___ 4.2.2 확률 분포
4.3 모집단과 표본
4.4 평균과 분산
___ 4.4.1 평균
___ 4.4.2 분산
___ 4.4.3 평균과 분산의 성질
4.5 상관관계
___ 4.5.1 공분산
___ 4.5.2 상관 계수
4.6 균일 분포
4.7 정규 분포
4.8 이항 분포
___ 4.8.1 베르누이 분포
___ 4.8.2 이항 분포
___ 4.8.3 다항 분포
4.9 최대 가능도 추정
4.10 최대 사후 추정
___ 4.10.1 조건부 확률
___ 4.10.2 베이즈 추정
___ 4.10.3 최대 사후 추정

■ CHAPTER 5. 최적화
5.1 컨벡스 셋
___ 5.1.1 직선과 선분
___ 5.1.2 아핀 셋
___ 5.1.3 아핀 함수 vs 선형 함수
___ 5.1.4 컨벡스 셋
___ 5.1.5 초평면과 반공간
5.2 컨벡스 함수
___ 5.2.1 컨벡스 함수의 개념
___ 5.2.2 컨벡스 함수의 예
___ 5.2.3 1차, 2차 미분 조건
___ 5.2.4 얀센의 부등식
___ 5.2.5 컨벡스 성질 보존 조건
5.3 라그랑주 프리멀 함수
___ 5.3.1 일반적인 최적화 문제
___ 5.3.2 컨벡스 최적화 문제
___ 5.3.3 라그랑주 프리멀 함수
5.4 라그랑주 듀얼 함수
5.5 Karush-Kuhn-Tucker(KKT) 조건
5.6 머신러닝에서의 최적화 문제
___ 5.6.1 최소 제곱법
___ 5.6.2 제약식이 포함된 최소 제곱법
5.7 뉴턴-랩슨 메소드
5.8 그래디언트 디센트 옵티마이저
___ 5.8.1 그래디언트 디센트 소개
___ 5.8.2 확률적 그래디언트 디센트
___ 5.8.3 모멘텀
___ 5.8.4 네스테로프 가속 경사(Nesterov Accelerated Gradient)
___ 5.8.5 Adagrad
___ 5.8.6 Adadelta
___ 5.8.7 RMSprop
___ 5.8.8 Adam
___ 5.8.9 AdaMax
___ 5.8.10 Nadam

■ CHAPTER 6. 머신러닝 데이터 살펴보기
6.1 머신러닝에 사용할 데이터 소개
___ 6.1.1 집값 예측하기
___ 6.1.2 꽃 구분하기
___ 6.1.3 와인 구분하기
___ 6.1.4 당뇨병 예측하기
___ 6.1.5 유방암 예측하기
6.2 데이터 전처리
___ 6.2.1 결측치 처리
___ 6.2.2 클래스 라벨 설정
___ 6.2.3 원-핫 인코딩
___ 6.2.4 데이터 스케일링

■ CHAPTER 7. 모형 평가
7.1 오버피팅과 언더피팅
7.2 크로스-밸리데이션
7.3 파이프라인
7.4 그리드 서치
7.5 손실 함수와 비용 함수
___ 7.5.1 손실 함수와 비용 함수의 개념
___ 7.5.2 L1 손실 함수
___ 7.5.3 L2 손실 함수
___ 7.5.4 엔트로피
___ 7.5.5 Negative Log Likelihood(NLL)
7.6 모형 성능 평가
___ 7.6.1 모형 성능 평가에 필요한 개념
___ 7.6.2 분류 문제에서의 성능 평가
___ 7.6.3 회귀 문제에서의 성능 평가
___ 7.6.4 군집 문제에서의 성능 평가

■ CHAPTER 8. 지도 학습
8.1 지도 학습 개요
8.2 사이킷런 소개
8.3 k-최근접 이웃 알고리즘
___ 8.3.1 k-최근접 이웃 알고리즘의 개념
___ 8.3.2 k-최근접 이웃 실습
8.4 선형 회귀 분석
___ 8.4.1 선형 회귀 분석의 개념
___ 8.4.2 릿지 회귀 분석(L2 제약식)
___ 8.4.3 라쏘 회귀 분석(L1 제약식)
___ 8.4.4 엘라스틱 넷
___ 8.4.5 선형 회귀 분석 실습
8.5 로지스틱 회귀 분석
___ 8.5.1 로지스틱 회귀 분석의 개념
___ 8.5.2 로지스틱 회귀 분석 실습
8.6 나이브 베이즈
___ 8.6.1 나이브 베이즈의 개념
___ 8.6.2 나이브 베이즈 실습
8.7 의사 결정 나무
___ 8.7.1 의사 결정 나무의 개념
___ 8.7.2 엔트로피
___ 8.7.3 지니 계수
___ 8.7.4 회귀 나무
___ 8.7.5 의사 결정 나무 실습
8.8 서포트 벡터 머신
___ 8.8.1 서포트 벡터 머신의 개념
___ 8.8.2 소프트 마진
___ 8.8.3 커널 서포트 벡터 머신
___ 8.8.4 서포트 벡터 회귀
___ 8.8.5 서포트 벡터 머신 실습
8.9 크로스 밸리데이션 실습

■ CHAPTER 9. 앙상블 학습
9.1 앙상블 학습 개념
9.2 보팅
___ 9.2.1 보팅의 개념
___ 9.2.2 보팅 실습
9.3 배깅과 랜덤 포레스트
___ 9.3.1 독립적 앙상블 방법
___ 9.3.2 배깅과 랜덤 포레스트의 개념
___ 9.3.3 랜덤 포레스트 실습
___ 9.3.4 배깅 실습
9.4 부스팅
___ 9.4.1 의존적 앙상블 방법
___ 9.4.2 에이다 부스트 개념 설명
___ 9.4.3 에이다 부스트 실습
___ 9.4.4 그래디언트 부스팅 개념 설명
___ 9.4.5 그래디언트 부스팅 실습
9.5 스태킹
___ 9.5.1 스태킹의 개념
___ 9.5.2 스태킹 실습

■ CHAPTER 10. 차원 축소
10.1 차원 축소 개념
___ 10.1.1 차원 축소하는 이유
___ 10.1.2 차원의 저주
10.2 주성분 분석
___ 10.2.1 주성분 분석의 개념
___ 10.2.2 주성분 분석 실습
10.3 커널 PCA
___ 10.3.1 커널 PCA의 개념
___ 10.3.2 커널 PCA 실습
10.4 LDA
___ 10.4.1 LDA의 개념
___ 10.4.2 LDA의 이론적 배경
___ 10.4.3 LDA 실습
10.5 LLE
___ 10.5.1 LLE의 개념
___ 10.5.2 LLE 실습
10.6 비음수 행렬 분해
___ 10.6.1 비음수 행렬 분해의 개념
___ 10.6.2 비용 함수
___ 10.6.3 비음수 행렬 분해 실습

■ CHAPTER 11. 비지도 학습
11.1 비지도 학습 개요
11.2 K-평균 클러스터링
___ 11.2.1 K-평균 클러스터링의 개념
___ 11.2.2 K-평균 클러스터링 실습
11.3 계층 클러스터링
___ 11.3.1 계층 클러스터링의 개념
___ 11.3.2 단일 연결
___ 11.3.3 완전 연결
___ 11.3.4 Ward’s 계층 클러스터링
___ 11.3.5 계층 클러스터링 실습
11.4 DBSCAN
___ 11.4.1 DBSCAN의 개념
___ 11.4.2 DBSCAN 알고리즘
___ 11.4.3 DBSCAN 실습
11.5 가우시안 혼합 모형
___ 11.5.1 가우시안 혼합 모형의 개념 설명
___ 11.5.2 EM 알고리즘
___ 11.5.3 가우시안 혼합 모형 실습

■ CHAPTER 12. 딥러닝
12.1 딥러닝 소개
12.2 퍼셉트론, 딥러닝의 기본
___ 12.2.1 퍼셉트론의 개념
___ 12.2.2 퍼셉트론으로 분류하기
___ 12.2.3 퍼셉트론 실습
12.3 인공 신경망으로 하는 딥러닝
___ 12.3.1 신경망의 개념
___ 12.3.2 오차 역전파
___ 12.3.3 활성화 함수
___ 12.3.4 배치 정규화
___ 12.3.5 드롭아웃
___ 12.3.6 텐서플로 2.0 소개
___ 12.3.7 분류 신경망 실습
___ 12.3.8 회귀 신경망 실습
12.4 합성곱 신경망(CNN)
___ 12.4.1 합성곱 신경망의 개념
___ 12.4.2 패딩
___ 12.4.3 스트라이드
___ 12.4.4 풀링
___ 12.4.5 고차원 데이터 합성곱
___ 12.4.6 합성곱 신경망 실습
12.5 순환 신경망(RNN)
___ 12.5.1 순환 신경망의 개념
___ 12.5.2 LSTM
___ 12.5.3 GRU
___ 12.5.4 순환 신경망 실습
12.6 오토 인코더(Auto-Encoder)
___ 12.6.1 오토 인코더 개념
___ 12.6.2 오토 인코더 실습
12.7 자연어 처리
___ 12.7.1 단어의 토큰화
___ 12.7.2 단어를 벡터로 변환
___ 12.7.3 단어 임베딩
___ 12.7.4 seq2seq 모형
___ 12.7.5 어텐션
___ 12.7.6 자연어 처리 실습
12.8 적대적 생성 신경망(GAN)
___ 12.8.1 적대적 생성 신경망의 개념
___ 12.8.2 적대적 생성 신경망 알고리즘
___ 12.8.3 적대적 생성 신경망 실습

『알고리즘 구현으로 배우는 선형대수 with 파이썬』

CHAPTER 01. 개발 환경 구축하기

1.1 윈도우 개발 환경 구축하기
1.2 맥 개발 환경 구축하기
1.3 리눅스 개발 환경 구축하기

CHAPTER 02. 파이썬 기초

2.1 기초 자료형
___ 2.1.1 숫자
___ 2.1.2 문자
___ 2.1.3 리스트(list)
___ 2.1.4 불(bool)
2.2 조건문
___ 2.2.1 비교 연산자
___ 2.2.2 조건 판단 연산자
___ 2.2.3 if문
2.3 반복문
___ 2.3.1 for문
___ 2.3.2 while문
2.4 함수
___ 2.4.1 사용자 정의 함수
___ 2.4.2 재귀 함수
2.5 깊은 복사
___ 2.5.1 mutableㆍimmutable
___ 2.5.2 얕은 복사
___ 2.5.3 깊은 복사
___ 2.5.4 깊은 복사 구현하기
2.6 라이브러리
___ 2.6.1 라이브러리의 개념
___ 2.6.2 나만의 라이브러리 만들기

CHAPTER 03. 행렬

3.1 스칼라
___ 3.1.1 스칼라의 정의
___ 3.1.2 스칼라의 기본 연산
___ 3.1.3 파이썬 실습
3.2 벡터
___ 3.2.1 벡터의 정의
___ 3.2.2 벡터의 덧셈과 뺄셈
___ 3.2.3 벡터의 스칼라 곱
___ 3.2.4 벡터 기본 연산의 성질
___ 3.2.5 파이썬 실습
___ 3.2.6 넘파이 실습
3.3 행렬
___ 3.3.1 행렬의 정의
___ 3.3.2 행렬의 덧셈과 뺄셈
___ 3.3.3 행렬의 스칼라 곱
___ 3.3.4 행렬의 원소 곱
___ 3.3.5 행렬 곱
___ 3.3.6 행렬의 대각합
___ 3.3.7 행렬 연산의 성질
___ 3.3.8 파이썬 실습
___ 3.3.9 넘파이 실습

CHAPTER 04. 다양한 행렬

4.1 전치 행렬
___ 4.1.1 전치 행렬의 개념
___ 4.1.2 전치 행렬의 성질
___ 4.1.3 파이썬 실습
___ 4.1.4 넘파이 실습
4.2 대칭 행렬
___ 4.2.1 대칭 행렬의 개념
___ 4.2.2 대칭 행렬의 성질
___ 4.2.3 파이썬 실습
___ 4.2.4 넘파이 실습
4.3 대각 행렬
___ 4.3.1 대각 행렬의 개념
___ 4.3.2 대각 행렬의 성질
___ 4.3.3 파이썬 실습
___ 4.3.4 넘파이 실습
4.4 단위 행렬
___ 4.4.1 단위 행렬의 개념
___ 4.4.2 단위 행렬의 성질
___ 4.4.3 파이썬 실습
___ 4.4.4 넘파이 실습
4.5 영 행렬
___ 4.5.1 영 행렬의 개념
___ 4.5.2 영 행렬의 성질
___ 4.5.3 파이썬 실습
___ 4.5.4 넘파이 실습
4.6 삼각 행렬
___ 4.6.1 삼각 행렬의 개념
___ 4.6.2 삼각 행렬의 성질
___ 4.6.3 파이썬 실습
___ 4.6.4 넘파이 실습
4.7 토플리츠 행렬
___ 4.7.1 토플리츠 행렬의 개
___ 4.7.2 파이썬 실습
___ 4.7.3 scipy 실습
4.8 이중 대각 행렬
___ 4.8.1 이중 대각 행렬의 개념
___ 4.8.2 파이썬 실습
___ 4.8.3 넘파이 실습
4.9 하우스홀더 행렬
___ 4.9.1 하우스홀더 행렬의 개념
___ 4.9.2 파이썬 실습
___ 4.9.3 넘파이 실습

CHAPTER 05. 선형 시스템

5.1 선형 방정식
___ 5.1.1 선형 방정식의 정의
___ 5.1.2 선형 방정식의 예
___ 5.1.3 선형 방정식이 아닌 경우
5.2 선형 시스템
___ 5.2.1 선형 시스템의 정의
___ 5.2.2 기본 행 연산
___ 5.2.3 가우스 조르단 소거법
___ 5.2.4 가우스 소거법
5.3 동차 선형 시스템
5.4 파이썬 실습
___ 5.4.1 단계적으로 계산하기
___ 5.4.2 함수 생성 테스트
___ 5.4.3 최종 함수
5.5 넘파이 실습

CHAPTER 06. 행렬식

6.1 행렬식의 개념
6.2 행렬식 계산
___ 6.2.1 2×2 행렬의 행렬식
___ 6.2.2 3×3 행렬의 행렬식
6.3 행렬식의 성질
___ 6.3.1 삼각 행렬의 행렬식
___ 6.3.2 대각 행렬의 행렬식
___ 6.3.3 전치 행렬의 행렬식
___ 6.3.4 특정 행과 열의 원소가 모두 0일 때 행렬식
___ 6.3.5 행렬의 기본 행 연산과 행렬식
___ 6.3.6 비례하는 행과 열에 대한 행렬식
___ 6.3.7 행렬 곱과 행렬식
6.4 파이썬 실습
___ 6.4.1 단계적으로 계산하기
___ 6.4.2 재귀 함수로 구현하기
___ 6.4.3 삼각행렬 변환으로 구현하기
6.5 넘파이 실습

CHAPTER 07. 역행렬

7.1 역행렬의 개념
7.2 역행렬 계산
___ 7.2.1 2×2 행렬의 역행렬 구하기
___ 7.2.2 ??×?? 행렬의 역행렬 구하기
7.3 정사각 행렬의 거듭 제곱
7.4 역행렬의 성질
___ 7.4.1 역행렬의 거듭 제곱
___ 7.4.2 역행렬과 전치 행렬
___ 7.4.3 거듭 제곱 행렬의 역행렬
___ 7.4.4 역행렬과 행렬식
7.5 파이썬 실습
___ 7.5.1 단계적으로 계산하기
___ 7.5.2 함수로 구현하기

CHAPTER 08. 기저와 차원

8.1 벡터 공간
___ 8.1.1 벡터 공간의 개념
___ 8.1.2 부분 공간
8.2 선형 변환
8.3 선형 독립
8.4 기저
___ 8.4.1 기저의 정의
___ 8.4.2 기저와 벡터 공간
8.5 차원
8.6 행 공간ㆍ열 공간ㆍ영 공간
___ 8.6.1 행 공간ㆍ열 공간ㆍ영 공간의 개념
___ 8.6.2 행 공간ㆍ열 공간ㆍ영 공간의 성질
8.7 랭크와 널리티
___ 8.7.1 랭크와 널리티 개념
___ 8.7.2 랭크와 널리티의 성질

CHAPTER 09. 내적

9.1 내적의 개념
___ 9.1.1 내적 공간
___ 9.1.2 내적의 정의
___ 9.1.3 내적의 성질
___ 9.1.4 정사영
9.2 직교 공간과 정규 직교 공간
___ 9.2.1 직교 공간
___ 9.2.2 정규 직교 공간
___ 9.2.3 정규 직교 벡터를 활용한 좌표 표현
___ 9.2.4 직교 벡터를 활용한 좌표 표현
9.3 그램 슈미트 과정
___ 9.3.1 정사영 정리
___ 9.3.2 직교 정사영
9.4 QR분해
___ 9.4.1 기본적인 QR분해 방법
___ 9.4.2 그램 슈미트 과정을 이용한 QR분해
___ 9.4.3 하우스홀더 방법을 이용한 QR분해
9.5 파이썬 실습
___ 9.5.1 기본 내적 실습
___ 9.5.2 그램 슈미트 과정을 이용한 QR분해
___ 9.5.3 하우스홀더 방법을 이용한 QR분해
9.6 넘파이 실습
___ 9.6.1 기본 내적 실습
___ 9.6.2 QR분해 실습

CHAPTER 10. 다양한 곱 연산

10.1 외적과 크로네커 곱
___ 10.1.1 벡터의 외적
___ 10.1.2 크로네커 곱
10.2 벡터 곱
___ 10.2.1 벡터 곱의 정의
___ 10.2.2 벡터 곱의 기하학적 의미
10.3 삼중 곱
___ 10.3.1 스칼라 삼중 곱
___ 10.3.2 벡터 삼중 곱
10.4 파이썬 실습
10.5 넘파이 실습

CHAPTER 11. 고윳값과 고유 벡터

11.1 고윳값과 고유 벡터의 개념
11.2 고윳값과 고유 벡터 계산
___ 11.2.1 2×2 행렬의 고윳값과 고유 벡터 구하기
___ 11.2.2 3×3 행렬의 고윳값과 고유 벡터 구하기
___ 11.2.3 QR분해를 이용한 방법
11.3 고윳값과 고유 벡터의 성질
11.4 파이썬 실습
11.5 넘파이 실습

CHAPTER 12. 직교 행렬

12.1 직교 행렬의 개념
12.2 닮음
___ 12.2.1 닮음의 개념
___ 12.2.2 닮음의 성질
12.3 파이썬 실습
12.4 넘파이 실습

CHAPTER 13. 대각화

13.1 대각화의 개념
13.2 직교 대각화의 개념
13.3 고윳값 분해
13.4 특이값 분해
13.5 파이썬 실습
___ 13.5.1 고윳값 분해 실습
___ 13.5.2 특이값 분해 실습
13.6 넘파이 실습
___ 13.6.1 고윳값 분해 실습
___ 13.6.2 특이값 분해 실습

CHAPTER 14. LU분해

14.1 기본 행렬
___ 14.1.1 기본 행렬의 개념
___ 14.1.2 기본 행렬의 역행렬
14.2 LU분해
___ 14.2.1 LU분해의 개념
___ 14.2.2 LU분해 방법
___ 14.2.3 LU분해 쉽게 하기
___ 14.2.4 LU분해와 선형 시스템의 해
14.3 파이썬 실습
___ 14.3.1 LU분해 과정 살펴보기
___ 14.3.2 LU분해 함수 만들기
14.4 scipy 실습

CHAPTER 15. 행렬의 이차식

15.1 이차식 개념
15.2 양정치 행렬
15.3 벡터의 미분

CHAPTER 16. 텐서

16.1 텐서의 기초
___ 16.1.1 텐서의 개념
___ 16.1.2 텐서의 구성 원소
16.2 텐서의 기본 연산
___ 16.2.1 텐서의 노름
___ 16.2.2 텐서의 내적
___ 16.2.3 Rank One 텐서
___ 16.2.4 텐서의 대칭성
___ 16.2.5 대각 텐서
___ 16.2.6 텐서의 행렬화
___ 16.2.7 텐서 곱
16.3 파이썬 실습
16.4. 넘파이 실습

CHAPTER 17. 머신러닝과 선형대수

17.1 파이썬을 활용한 분석
___ 17.1.1 데이터 불러오기
___ 17.1.2 문자형 자료를 숫자형 자료로 변환
___ 17.1.3 데이터 열 추출
___ 17.1.4 데이터 열 연산
___ 17.1.5 전치 행렬 구하기
___ 17.1.6 피처ㆍ타깃 데이터 분할
___ 17.1.7 피처별 평균
___ 17.1.8 공분산 행렬
___ 17.1.9 특이값 분해
___ 17.1.10 머신러닝 적용하기
17.2 넘파이ㆍ판다스 라이브러리를 활용한 분석
___ 17.2.1 데이터 불러오기
___ 17.2.2 데이터 열 추출
___ 17.2.3 데이터 열 연산
___ 17.2.4 전치 행렬 구하기
___ 17.2.5 피처ㆍ타깃 데이터 분할
___ 17.2.6 공분산 행렬
___ 17.2.7 특이값 분해
___ 17.2.8 머신러닝 적용하기

CHAPTER 18. 딥러닝과 선형대수

18.1 파이썬을 활용한 분석
___ 18.1.1 데이터 불러오기
___ 18.1.2 피처ㆍ타깃 데이터 분할
___ 18.1.3 데이터 전처리
___ 18.1.4 이미지 데이터 확인
___ 18.1.5 원-핫 인코딩
___ 18.1.6 딥러닝 적용하기
18.2 넘파이ㆍ판다스 라이브러리를 활용한 분석
___ 18.2.1 데이터 불러오기
___ 18.2.2 피처ㆍ타깃 데이터 분할
___ 18.2.3 데이터 전처리
___ 18.2.4 이미지 데이터 확인
___ 18.2.5 원-핫 인코딩
___ 18.2.6 딥러닝 적용하기