AI는 이제 우리 삶의 인프라이다.
?아침에 눈을 뜨면 AI가 뉴스를 요약하고, 출근하면 AI가 이메일 초안을 쓰고, 퇴근 후에는 AI가 저녁 레시피를 추천한다.
?
?그런데 우리는 정작 그 AI를 만든 사람들에 대해 얼마나 알고 있는가?
?그들이 왜 그 AI를 만들었는지, 무엇을 두려워하는지, 어디까지는 허용하고 어디서부터는 절대 물러서지 않는지에 대해.
?이 책은 그 질문에서 시작했다.
?
앤트로픽은 조용한 회사다. 오픈AI처럼 샘 올트먼이 매주 트위터를 달구지 않는다. 구글처럼 슈퍼볼 광고를 사지 않는다. 메타처럼 저커버그가 UFC 훈련 영상을 올리지 않는다. 다리오 아모데이는 격주 금요일마다 2,500명의 직원에게 조용히 자신의 생각을 전달하고, 연구자들은 논문을 쓰고, 엔지니어들은 모델을 테스트한다. 그게 앤트로픽의 방식이다.
?
그러나 이 조용한 회사가 지금 AI 세계의 중심에 서 있다. 기업가치 3,800억 달러. 매출 런레이트 190억 달러. 전 세계 30만 개 기업이 클로드를 핵심 인프라로 쓰고 있다. 테크크런치는 기업 고객들이 오픈AI보다 앤트로픽을 더 선호한다고 보도했다. 어떻게 이런 일이 가능했을까?
?
답은 역설 속에 있다. 앤트로픽은 가장 빠르게 달리기 위해 가장 자주 멈추는 회사다. 새 모델을 출시하기 전에 수개월간 레드팀 테스트를 돌린다. 수익이 되는 계약도 안전 원칙에 어긋나면 거절한다. AI가 스스로 수백 개의 윤리 원칙을 참조해 응답하도록 설계한다. 그 설계의 이름이 헌법적 AI(Constitutional AI)이고, 그 설계로 만들어진 AI의 이름이 클로드다.

## 이 책이 다루는 핵심 질문들
- 오픈AI의 내부에서는 무슨 일이 있었기에 핵심 연구원 7명이 동시에 떠났는가?
?- '헌법적 AI’란 무엇이며, 기존 AI와 어떻게 다른가?
?- 구글은 왜 최대 경쟁사의 AI 회사에 수십억 달러를 투자했는가?
?- 아마존은 왜 자체 AI를 개발하면서도 앤트로픽에 80억 달러를 쏟아부었는가?
?- 클로드는 왜 국방부의 요구를 거절했고, 그 결정은 회사에 어떤 결과를 가져왔는가?
?- 다리오 아모데이가 예언하는 2027년의 AI는 어떤 모습인가?