프롤로그. 작은 서버가 책상 위에 올라오는 순간
1장. 로컬 LLM은 클라우드 AI의 복사본이 아니다
1절. 내 컴퓨터 안에서 답이 나오는 구조
2절. 모델과 프로그램과 서버의 차이
3절. 개인용 챗봇과 문서 검색기의 갈림길
4절. 첫날 가장 많이 헷갈리는 세 가지
2장. 컴퓨터 사양표가 답변 속도를 정한다
1절. GPU보다 먼저 봐야 할 메모리
2절. VRAM이 모자라면 답변이 느려지는 이유
3절. CPU만으로 가능한 일과 버거운 일
4절. 모델 크기와 양자화가 만드는 체감 차이
3장. 첫 도구는 Ollama류로 충분하다
1절. 설치보다 중요한 실행 흐름
2절. 모델을 내려받고 말을 거는 첫 순간
3절. 로컬 서버가 열리는 주소와 포트
4절. 실패 메시지를 읽는 초보자의 순서
4장. 모델 선택은 최신 순위표보다 용도에서 시작한다
1절. 한국어 문답과 코딩 보조는 다른 모델을 원한다
2절. 7B, 14B, 32B라는 숫자가 말해 주는 것
3절. 라이선스와 배포 조건을 놓치면 서버가 멈춘다
4절. 작은 모델을 잘 쓰는 사람이 먼저 성공한다
5장. 개인용 챗봇은 기록보다 맥락을 다룬다
1절. 대화 기록이 쌓일수록 위험도 쌓인다
2절. 시스템 프롬프트는 말투가 아니라 운영 규칙이다
3절. 답변 품질은 질문보다 역할 설계에 흔들린다
4절. 가족 컴퓨터와 개인 서버의 경계선
6장. 문서 검색기는 파일을 읽는 순서가 전부다
1절. RAG는 기억이 아니라 찾아보기다
2절. 문서를 쪼개는 크기가 답변을 바꾼다
3절. 벡터 데이터베이스는 서랍장이 아니라 색인이다
4절. 검색 결과를 믿을 수 있게 만드는 출처 문장
7장. 사내 문서 AI는 보안부터 설계한다
1절. 로컬이라는 말이 곧 안전을 뜻하지 않는다
2절. 접근 권한이 검색 품질보다 먼저다
3절. 프롬프트 인젝션은 문서 속 지시문에서 시작된다
4절. 로그와 백업이 감사 대응을 살린다
8장. 작은 AI 서버도 운영 규칙이 필요하다
1절. 업데이트는 기능보다 재현성을 먼저 지킨다
2절. 모델 파일과 설정 파일을 따로 보관한다
3절. 장애가 났을 때 되돌아갈 지점을 만든다
4절. 한 사람이 만든 서버를 팀이 쓰게 되는 순간
9장. 비용은 전기요금보다 시간에서 새어 나간다
1절. 무료 모델이 공짜 운영을 뜻하지 않는 이유
2절. 느린 답변이 업무 흐름을 끊는 방식
3절. 클라우드 API와 로컬 서버의 손익 분기점
4절. 중고 GPU와 새 장비 사이의 판단 기준
10장. 로컬 LLM을 업무 도구로 연결한다
1절. 브라우저, 메신저, 노트 앱과 붙는 방식
2절. API 호환이 앱 선택권을 만든다
3절. 자동화는 작은 명령부터 안전하게 시작한다
4절. 사내 승인 없이 붙이면 위험한 연결들
11장. 답변 품질은 테스트 문장으로 길들인다
1절. 내가 자주 묻는 질문 30개가 성능표다
2절. 틀린 답을 줄이는 비교 질문의 힘
3절. 문서 검색기는 정답보다 근거를 먼저 본다
4절. 운영자는 모델보다 평가 습관을 키운다
12장. 첫 서버에서 사내 AI 운영까지
1절. 개인 실험을 팀 실험으로 넘기는 기준
2절. 권한과 비용과 책임을 나누는 문장
3절. 폐기할 모델과 남길 모델을 가르는 기준
4절. 30일 운영 기록이 다음 서버를 결정한다
에필로그. 작은 AI 서버는 끝이 아니라 운영의 시작이다