프롤로그. 취약점을 먼저 발견하는 직업

1장. 공격이 허용되는 이유: AI 레드팀의 일
1절. 레드팀 전문가가 실제로 책임지는 것
2절. 테스트가 이루어지는 일터
3절. 보안·개발·평가 인력의 협업

2장. AI 서비스의 취약점은 어디에 생기는가
1절. 모델에서 서비스까지의 경계
2절. 사용자 입력과 외부 자료의 신뢰 차이
3절. 위협 모델과 우선순위

3장. 프롬프트 인젝션의 실체
1절. 정상 요청을 가로채는 지시문
2절. 검색 결과와 문서에 숨는 공격
3절. 성공 주장과 재현의 차이

4장. 기밀과 개인정보의 유출 위험
1절. 비밀의 종류와 노출 판단
2절. 권한이 엇갈리는 검색과 기억
3절. 유출 증거의 경계

5장. 안전장치 우회와 AI 오용
1절. 탈옥과 정책 위반의 차이
2절. 다회차 대화가 만드는 실패
3절. 민감한 사용 영역의 위험 해석

6장. 도구를 쓰는 AI의 위험
1절. 도구 호출과 과잉 권한
2절. AI 에이전트의 외부 연결
3절. 사람의 승인과 실행 환경

7장. 시험 전에 끝내야 할 설계
1절. 목표와 허가 범위
2절. 위험 가설과 테스트 사례
3절. 중단 기준과 데이터 통제

8장. 수동 탐색과 자동화 도구
1절. 사람이 찾아내는 실패
2절. PyRIT·garak·Inspect의 쓰임
3절. 탐색 결과를 숫자로 읽는 법

9장. 발견을 보고서로 바꾸는 기술
1절. 증거의 완결 조건
2절. 심각도와 사업 영향
3절. 개발자에게 전달하는 수정 제안

10장. 고친 뒤에 더 중요한 재검증
1절. 방어책의 적용 위치
2절. 회귀 테스트와 배포 판단
3절. 출시 후 지속 점검

11장. 보안·개발·AI 연구자의 진입 경로
1절. 보안 전문가의 전환
2절. 개발자의 전환
3절. AI 연구자와 도메인 전문가의 전환

12장. 포트폴리오와 커리어의 다음 단계
1절. 안전한 실습과 90일 훈련
2절. 채용·면접에서 확인하는 역량
3절. 커리어 확장과 직업 윤리

에필로그. 공격의 결과를 신뢰로 돌려놓는 사람들