프롤로그. 챗봇의 답보다 위험한 것은 연결된 권한이다

제1장. LLM 보안은 모델 문제가 아니라 시스템 문제다
1절. 답변 화면 뒤의 데이터 흐름
2절. 자산·권한·행동을 함께 그리는 법
3절. 보안팀만으로 닫히지 않는 책임

제2장. 프롬프트 인젝션을 방어 언어로 이해하기
1절. 명령과 데이터가 섞일 때 생기는 균열
2절. 직접 입력보다 위험한 간접 입력
3절. 차단보다 격리와 검증이 먼저다

제3장. RAG는 지식 연결인 동시에 유출 경로다
1절. 검색 품질과 접근권한을 분리해 본다
2절. 문서 조각 하나가 권한을 우회하는 순간
3절. 인덱스·메타데이터·출처 검증의 역할

제4장. 에이전트 권한은 편의와 위험을 함께 키운다
1절. 읽기 권한과 실행 권한의 차이
2절. 도구 호출은 작은 자동화가 아니라 행위다
3절. 승인·중단·되돌리기를 설계하는 법

제5장. 데이터 분류와 접근통제가 첫 방어선이다
1절. 공개 데이터와 내부 데이터의 경계
2절. 권한 있는 검색과 권한 없는 요약의 충돌
3절. 개인정보·영업비밀·보안정보를 나누는 기준

제6장. 모델 공급망과 외부 API 리스크
1절. 모델 선택보다 계약과 처리 위치를 먼저 본다
2절. 플러그인·라이브러리·데이터셋의 공급망
3절. 외부 API 장애와 정책 변경이 만드는 운영 위험

제7장. 로그·모니터링·평가가 사고를 줄이는 방식
1절. 남겨야 할 로그와 남기면 위험한 로그
2절. 품질 평가와 보안 평가는 다르다
3절. 이상 사용을 늦게라도 발견하는 운영 감각

제8장. 레드팀과 위협모델링을 안전하게 운영하기
1절. 공격 재현보다 실패 조건을 찾는 훈련
2절. 테스트 범위와 중단 기준을 먼저 정한다
3절. 발견 결과를 문서와 개발 흐름에 남긴다

제9장. 사용자 교육이 기술 통제를 완성한다
1절. 금지 문구보다 업무 장면이 먼저다
2절. 현업이 알아야 할 데이터 입력의 경계
3절. 교육은 한 번의 공지가 아니라 반복되는 운영이다

제10장. 사고 대응은 출시 전에 정해야 한다
1절. 유출·오작동·권한 남용을 따로 다룬다
2절. 중단과 공지와 복구의 책임자를 정한다
3절. 재발 방지는 모델 교체가 아니라 구조 수정이다

제11장. LLM 보안 운영체계를 조직에 심는 법
1절. 승인 절차와 예외 절차를 함께 둔다
2절. 기획·개발·보안·법무가 같은 흐름을 본다
3절. 작은 서비스부터 성숙도를 쌓는다

제12장. 안전한 LLM 서비스를 남기는 최종 판단
1절. 위협모델은 문서가 아니라 반복 질문이다
2절. 편의 기능마다 책임의 주인을 둔다
3절. 프레임워크를 현장 운영 언어로 번역한다

에필로그. 안전한 AI는 똑똑한 모델보다 책임 있는 연결에서 시작된다

참고문헌