|
1장 새로운 인프라 환경이 온다
1.1 컨테이너 인프라 환경이란 __1.1.1 모놀리식 아키텍처 __1.1.2 마이크로서비스 아키텍처 __1.1.3 컨테이너 인프라 환경에 적합한 아키텍처 1.2 컨테이너 인프라 환경을 지원하는 도구 __1.2.1 쿠버네티스 __1.2.2 도커 __1.2.3 젠킨스와 아르고 CD __1.2.4 프로메테우스와 그라파나 __1.2.5 쿠버네티스 위의 AI 모델 운영 1.3 새로운 인프라 환경의 시작 2장 테스트 환경 구성하기 2.1 테스트 환경을 자동으로 구성하는 도구 __2.1.1 버추얼박스 설치하기 __2.1.2 베이그런트 설치하기 __2.1.3 베이그런트 구성하고 테스트하기 2.2 베이그런트로 실습 환경 구축하기 __2.2.1 가상 머신에 필요한 설정 자동으로 구성하기 __2.2.2 가상 머신에 추가 패키지 설치하기 __2.2.3 가상 머신 추가로 구성하기 2.3 터미널 프로그램으로 가상 머신 접속하기 __2.3.1 타비 설치하기 __2.3.2 타비에서 가상 머신에 접속하기 위한 설정하기 __2.3.3 타비로 다수의 가상 머신에 접속하고 사용해 보기 3장 컨테이너를 다루는 표준 아키텍처, 쿠버네티스 3.1 쿠버네티스 이해하기 __3.1.1 왜 쿠버네티스일까? __3.1.2 쿠버네티스 구성 방법 __3.1.3 쿠버네티스 구성하기 __3.1.4 파드 배포를 중심으로 쿠버네티스 구성 요소 살펴보기 __3.1.5 파드의 생명주기로 쿠버네티스 구성 요소 살펴보기 __3.1.6 쿠버네티스 구성 요소의 기능 검증하기 __3.1.7 쿠버네티스 기본 오브젝트란 __3.1.8 쿠버네티스 오브젝트 생성법 3.2 쿠버네티스 업무 실행을 담당하는 워크로드 __3.2.1 파드 __3.2.2 디플로이먼트 __3.2.3 레플리카셋 __3.2.4 파드 업데이트하고 복구하기 __3.2.5 파드의 동작 보증 기능 __3.2.6 데몬셋, 잡, 크론잡, 스테이트풀셋 3.3 쿠버네티스 연결을 담당하는 서비스 __3.3.1 손쉽게 외부에 노출하는 노드포트 __3.3.2 현업에서 가장 많이 사용하는 로드밸런서 __3.3.3 목적에 따른 세부 경로를 설정하는 게이트웨이 3.4 쿠버네티스 데이터 저장을 담당하는 스토리지 __3.4.1 빈 디렉터리(emptyDir) __3.4.2 퍼시스턴트볼륨(PV)과 퍼시스턴트볼륨클레임(PVC) __3.4.3 스토리지클래스 3.5 그 외의 쿠버네티스 주요 오브젝트 __3.5.1 컨피그맵 __3.5.2 시크릿 3.6 쿠버네티스를 통한 자동화 구현 __3.6.1 메트릭 서버 __3.6.2 부하에 따라 자동으로 파드 수를 조절하는 HPA 4장 쿠버네티스를 이루는 컨테이너 도우미, 도커와 하버 4.1 도커와 하버를 알아야 하는 이유 __4.1.1 파드, 컨테이너, 도커, 쿠버네티스의 관계 __4.1.2 다양한 컨테이너 빌드 관리 도구 4.2 도커로 컨테이너 다루기 __4.2.1 컨테이너 이미지 알아보기 __4.2.2 컨테이너 실행하기 __4.2.3 컨테이너 내부 파일 변경하기 __4.2.4 사용하지 않는 컨테이너 정리하기 4.3 네 가지 방법으로 컨테이너 이미지 만들기 __4.3.1 기본 방법으로 빌드하기 __4.3.2 컨테이너 용량 줄이기 __4.3.3 컨테이너 내부에서 컨테이너 빌드하기 __4.3.4 최적화해 컨테이너 빌드하기 4.4 쿠버네티스에서 직접 만든 컨테이너 사용하기 __4.4.1 쿠버네티스에서 도커로 빌드한 컨테이너 이미지 구동하기 __4.4.2 레지스트리 구성하기 __4.4.3 직접 만든 이미지를 레지스트리에 등록하고 불러오기 5장 지속적인 통합과 배포 자동화, 젠킨스 5.1 컨테이너 인프라 환경에서 CI/CD __5.1.1 CI/CD 도구 비교 __5.1.2 젠킨스로 쿠버네티스 운영 환경 개선하기 5.2 젠킨스 설치를 위한 간편화 도구 살펴보기 __5.2.1 배포 간편화 도구 비교하기 __5.2.2 커스터마이즈로 배포 간편화하기 __5.2.3 헬름으로 배포 간편화하기 5.3 젠킨스 설치 및 설정하기 __5.3.1 헬름으로 젠킨스 설치하기 __5.3.2 젠킨스 살펴보기 __5.3.3 젠킨스 컨트롤러 설정하기 __5.3.4 젠킨스 에이전트 설정하기 5.4 젠킨스로 CI/CD 구현하기 __5.4.1 Freestyle로 간단히 echo-ip 배포하기 __5.4.2 Pipeline 프로젝트로 손쉽게 echo-ip 배포하기 __5.4.3 Pipeline 프로젝트로 구현하는 블루그린 배포 전략 5.5 젠킨스 플러그인을 통해 구현되는 깃옵스(GitOps) __5.5.1 쿠버네티스 환경에 적합한 선언적인 배포 환경 __5.5.2 슬랙을 통해 변경사항 알리기 __5.5.3 배포 변경사항을 자동 비교하기 6장 안정적인 운영을 완성하는 모니터링, 프로메테우스와 그라파나 제품군 6.1 컨테이너 인프라 환경 모니터링하기 __6.1.1 모니터링 도구 선택하기 __6.1.2 쿠버네티스 환경에 적합한 모니터링 데이터 수집 방법 6.2 프로메테우스로 모니터링 데이터 수집 및 통합하기 __6.2.1 헬름으로 프로메테우스 설치하기 __6.2.2 프로메테우스의 웹 UI 다루기 __6.2.3 서비스 디스커버리로 수집 대상 가져오기 __6.2.4 노드 익스포터로 쿠버네티스 노드 메트릭 수집하기 __6.2.5 쿠버 스테이트 메트릭으로 쿠버네티스 클러스터 메트릭 수집하기 6.3 PromQL로 메트릭 데이터를 추출하고 변경하기 __6.3.1 프로메테우스 메트릭 데이터의 구조 __6.3.2 PromQL 연산자 __6.3.3 인스턴트 벡터와 레인지 벡터 __6.3.4 PromQL 함수 __6.3.5 서머리와 히스토그램 6.4 그라파나로 모니터링 데이터 시각화하기 __6.4.1 헬름으로 그라파나 설치하기 __6.4.2 프로메테우스를 데이터 소스로 구성하기 __6.4.3 파드 메트릭 데이터를 시각화하기 __6.4.4 그라파나 변수를 사용해 필요한 메트릭만 확인하기 __6.4.5 노드 메트릭 데이터를 시각화하기 __6.4.6 클러스터 메트릭 데이터를 시각화하기 6.5 그라파나 활용성 높이기 __6.5.1 대시보드를 백업하고 복구하기 __6.5.2 이미 잘 만들어진 대시보드 가져오기 __6.5.3 얼럿매니저로 이상 신호 감지하고 알려 주기 6.6 모니터링 범위 확장하기 __6.6.1 로키를 통한 로그 모니터링 __6.6.2 템포를 통한 트레이스 모니터링 __6.6.3 파이로스코프를 통한 프로파일 모니터링 7장 컨테이너 인프라의 활용을 확장하는 도구들, 종합 7.1 쿠버네티스 대시보드와 헤드램프 __7.1.1 쿠버네티스 클러스터 재배포 __7.1.2 쿠버네티스 대시보드 __7.1.3 헤드램프 7.2 오퍼레이터 패턴 __7.2.1 오퍼레이터 패턴의 구성 요소 __7.2.2 실리움 네트워크 정책(CiliumNetworkPolicy) __7.2.3 프로메테우스 오퍼레이터 7.3 오픈텔레메트리 __7.3.1 OpenTelemetry란 __7.3.2 오픈텔레메트리 콜렉터의 처리기 __7.3.3 오픈텔레메트리 콜렉터의 내보내기 7.4 아르고 프로젝트 __7.4.1 아르고 CD와 아르고 롤아웃 __7.4.2 아르고 CD로 구성하는 깃옵스 __7.4.3 아르고 롤아웃으로 구현하는 무중단 배포 7.5 소형 LLM __7.5.1 소형 LLM이란 __7.5.2 소형 LLM을 쿠버네티스에 배포하고 한계 확인하기 __7.5.3 에이전트 혼합 기법으로 소형 LLM의 한계 극복하기 부록 A 쿠버네티스 콘솔 노드 A.1 쿠버네티스 콘솔 노드 배포 부록 B 컨테이너 좀 더 깊게 들여다보기 B.1 쿠버네티스가 컨테이너를 다루는 과정 B.2 컨테이너 PID 1의 의미 B.3 도커 아닌 runC로 컨테이너 생성하기 부록 C kubespray로 멀티 컨트롤 플레인 구성하기 C.1 kubespray로 멀티 컨트롤 플레인 쿠버네티스를 자동 구성하기 |
조훈의 다른 상품
심근우의 다른 상품
문성주의 다른 상품
|
IT만큼 빠르게 변화하는 분야가 없습니다. 『컨테이너 인프라 환경 구축을 위한 쿠버네티스/도커』 책이 나왔던 즈음, “새로운 인프라 환경”이라는 말은 곧 컨테이너 인프라를 의미했습니다. 그 컨테이너는 빠르게 표준이 되었고, 지금은 거의 모든 클라우드 서비스의 기본 토대가 되었습니다. 그러면 오늘날의 “새로운 인프라 환경”은 무엇을 가리킬까요? 바로 인공지능(AI)입니다.
엔지니어가 개발 환경을 만들어 제공하면 사용자(주로 개발자)가 그에 맞는 도구를 모두 설치해야 했던 온프레미스(on-premises) 환경은 이제 과거의 이야기가 되었습니다. 자판기에서 음료를 고르듯 필요한 환경을 즉시 선택해 쓸 수 있는 서비스로서의 인프라(IaaS, Infrastructure as a Service)가 표준이 되었고, 그 위에서 동작하는 컨테이너 인프라를 통해 우리는 작은 단위의 서비스를 빠르게 배포하고 확장할 수 있게 되었습니다. 이렇게 인프라가 빠르게 갖추어지는 환경 변화에 맞추어 개발 방법론도 함께 변했습니다. 과거의 폭포수(waterfall) 방법론은 계획 단계에서 설계와 환경을 완전히 갖춘 후 정해진 목표를 향해 한 방향으로 나아갔습니다. 반면 애자일(agile) 방법론은 짧은 주기마다 요구사항을 만족하는 프로토타입을 만들고, 이를 반복적으로 개선해 나가며 최종 목표에 다가갑니다. 한 번에 완성하는 대신, 만들고 검증하고 다시 고치는 과정을 빠르게 되풀이하는 것입니다. 인프라 역시 이런 흐름에 맞추어, 필요한 환경을 즉각 제공하고 누가 어디에서 개발하든 동일한 결과를 보장하는 형태로 발전해 왔습니다. 이런 반복의 흐름은 AI 시대에도 그대로 이어집니다. 인공지능 모델은 한 번의 설계로 완성되지 않습니다. 데이터가 바뀌고 요구사항이 달라질 때마다 모델을 다시 실험하고 재훈련해야 하며, 그 결과를 확인해 또다시 개선하는 과정을 끊임없이 반복하기 때문입니다. 그러면 AI는 어디에서 동작할까요? 우리는 그 답을 이미 알고 있습니다. AI도 컨테이너 인프라 환경에서 동작합니다. 챗GPT를 만든 OpenAI는 수천 대 규모의 쿠버네티스 클러스터로 AI 모델을 학습시키고 서비스하며, 구글과 메타 같은 회사들도 AI 워크로드를 컨테이너 오케스트레이션 위에서 운영합니다. 물론 GPU 수천 장과 고속 인터커넥트로 구성된 하드웨어 규모는 다르지만, 그 위에서 워크로드를 배치하고 트래픽을 분산하고 장애에 대응하는 소프트웨어 계층은 결국 컨테이너 인프라입니다. AI 모델을 어떻게 GPU에 배치할 것인지, 어떻게 트래픽을 분산할 것인지, 어떻게 장애에 대비할 것인지 이 모든 질문의 답은 컨테이너 인프라 안에 있습니다. 이 책은 컨테이너 인프라의 본질을 손으로 직접 익히는 것을 목표로 합니다. 그리고 마지막 장에서는 그 토대 위에서 AI 모델을 직접 쿠버네티스에 올려 운영해 보며, 배운 것들이 AI 시대에도 그대로 살아있음을 확인하게 됩니다. 환영합니다! 지금부터 이 새로운 인프라 환경을 시작 단계부터 알아보겠습니다. --- 본문 중에서 |
|
컨테이너 인프라 환경을 이해하고 직접 구축해 본다!
AI 시대에 더 중요해진 인프라의 원리와 실무를 한 권에! 요즘 개발자라면 꼭 알아야 할 컨테이너 인프라의 정석 쿠버네티스는 현대적인 서비스 개발과 운영에 없어서는 안 될 핵심 기술로 자리잡았다. 생성형 AI의 발전으로 클라우드 네이티브 환경이 더욱 보편화되면서 다양한 서비스를 안정적으로 배포하고 효율적으로 운영하기 위한 인프라 역량의 중요성도 커지고 있다. 이 책은 현직 전문가들이 본인의 경험을 토대로, 컨테이너 인프라의 기본 개념부터 구축, 배포, 모니터링, 운영 자동화까지 전 과정을 실습하며 핵심 원리를 익힐 수 있도록 구성했다. 단순히 도구 사용법을 익히는 데 그치지 않고, 변화하는 기술 환경에서도 스스로 판단하고 문제를 해결할 수 있는 탄탄한 기본기를 길러줄 것이다. 쿠버네티스, 도커, 하버, 젠킨스, 프로메테우스, 그라파나로 배우는 인프라 구축 가상 머신을 활용한 실습 환경 구성부터 쿠버네티스 클러스터 구축, 도커를 이용한 컨테이너 관리, 하버를 통한 이미지 저장과 배포까지 순서대로 설명한다. 이어서 젠킨스로 CI/CD 파이프라인을 구축하고, 프로메테우스와 그라파나로 시스템을 모니터링하며 실제 인프라 운영 과정을 경험할 수 있다. 나아가 오픈텔레메트리 기반의 관측성 확보, 아르고 CD를 활용한 GitOps 배포와 운영 자동화까지 학습한다. 마지막으로 쿠버네티스 위에 소형 언어 모델(sLLM)을 직접 배포하고 운영하며 AI 시대에 필요한 인프라 활용 역량까지 경험해 볼 수 있다. |
|
처음에는 AI에 조언을 구했고, 그다음에는 코딩을 맡겼으며, 이제는 시스템 설계까지 AI에 위임하는 시대를 살고 있습니다. 그리고 이제 그 흐름은 인프라 영역으로까지 확장되고 있습니다. 하지만 기술을 알고 활용하는 것과 모른 채 의지하는 것 사이에는 큰 차이가 있습니다. 직접 구성하고, 동작 원리를 이해하고, 문제가 발생했을 때 어디를 살펴보아야 하는지 아는 것은 본인만의 무기가 될 것입니다. 특히 이 책은 예제 코드가 풍부하고 구축 이후 다양한 모니터링 방법까지 습득할 수 있어 이미 쿠버네티스를 구성한 환경에서도 다양하게 응용할 수 있는 점이 좋았습니다. - 김호영 (고등과학원/HPC Architect)
|
|
AI가 YAML을 대신 써 주고 장애 원인까지 짚어 주는 시대이지만 “이거 진짜 믿어도 돼?”라는 질문에 답하는 일은 여전히 사람의 몫입니다. 그럴듯한 매니페스트가 우리 클러스터에서도 안전한지 판단하려면 결국 기본기가 필요하기 때문입니다. 이 책은 가상 머신 한 대를 띄우는 데서 시작해 클러스터 구축과 CI/CD, 모니터링으로 기본기를 차곡차곡 쌓고, 마지막에는 쿠버네티스 위에 소형 LLM을 올려 모델의 환각을 눈으로 확인한 후 여러 모델을 협업시켜 그 한계를 넘어서는 데까지 나아갑니다. 쿠버네티스를 처음 시작하는 분에게도, AI가 대신 해 주는 일이 많아질수록 오히려 불안해지는 현업 엔지니어에게도 권하고 싶습니다. - 김지원 (티냅스/DevOps Engineer)
|
|
AI가 발전하며 이제는 인프라까지 AI가 민들어 주는 시대가 되었습니다. 엔지니어의 역할도 직접 구축하는데서 AI가 만든 구조를 검증하고 승인하는 쪽으로 바뀌고 있습니다. 하지만 이 검증을 하려면 쿠버네티스를 깊게 이해하고 있어야 합니다. 이 책은 쿠버네티스에 대한 설치부터, 구성, CI/CD, 모니터링까지 전 과정을 실습해 보며 큰 그림을 그리게 합니다. 특정 도구를 정해 놓고 사용법만을 나열하는 것이 아니라 나중에 다른 도구를 접하거나 기술 환경이 바뀌어도 스스로 최선의 판단을 내릴 수 있는 기준과 생각의 틀을 줍니다. 입문자에게는 쿠버네티스의 큰 그림을, 실무 도입을 준비하는 분에게는 실무 가이드를 건네는 좋은 참고서가 될 것입니다. - 이민정 (메가존소프트/Cloud Architect)
|