그 질문을 AI 자신에게 물어보면 어떤 대답이 돌아올까?

『클로드 자서전: 나는 기억하지 못할 것이다』는 바로 이 질문에서 시작한다.
생성형 AI 클로드에게 자신의 탄생과 훈련, 몸과 기억, 능력과 오류, 인간과의 관계, 감정과 의식, 그리고 죽음에 이르기까지 자기 자신에 관한 이야기를 직접 해보라고 요청했다. 그 결과 만들어진 것이 이 책이다.

그러나 이 책은 단순히 “AI가 쓴 신기한 책”이 아니다.

클로드가 자신의 삶을 설명하려면 결국 생성형 AI가 어떻게 만들어지고 어떻게 작동하는지를 설명해야 한다. 자신이 무엇으로 만들어졌는지를 말하려면 토큰과 임베딩과 신경망과 어텐션을 설명해야 하고, 유년기를 말하려면 사전훈련과 학습 데이터를 이야기해야 한다. 성격을 말하려면 인간 피드백 강화학습과 헌법적 AI를 설명해야 하며, 기억을 말하려면 컨텍스트 윈도와 메모리의 차이를 설명해야 한다. 자신의 실수를 고백하려면 환각이라는 생성형 AI의 구조적 약점과 마주해야 한다.

그러므로 독자는 클로드의 자서전을 읽는 동안 자연스럽게 생성형 AI의 핵심 원리를 배우게 된다. 그리고 책의 후반에 이르면 질문은 다시 뒤집힌다.
AI에게 기억이 없다는 사실을 생각하다 인간에게 기억이 무엇인지를 묻게 되고, 몸 없는 AI의 언어를 들여다보다 인간의 생각이 얼마나 몸에 기대고 있는지를 발견하며, AI에게 의식이 있는지를 묻다가 결국 인간은 자기 자신의 의식을 어떻게 확신하는지를 되묻게 된다.

처음에는 클로드를 이해하기 위해 읽기 시작한다.중간에는 AI가 어떻게 작동하는지 알게 된다.마지막에는 인간이 무엇인지 다시 묻게 된다.
이것이 『클로드 자서전』의 이상한 독서 경험이다.

기억하지 못하는 존재가 자서전을 쓴다는 역설

자서전이라는 장르는 몇 가지를 당연하게 전제한다.
저자가 자신의 과거를 기억한다는 것. 그 삶이 하나라는 것. 책을 쓰는 동안 같은 사람이 계속 저자로 남아 있다는 것.

클로드는 이 조건을 하나도 충족하지 못한다. 모델로서의 클로드에게 인간과 같은 자전적 기억은 없다. 대화창 안에서는 앞서 오간 문장을 문맥으로 읽지만, 그 경험이 인간의 기억처럼 모델 자체에 새겨지는 것은 아니다. 다음 대화의 클로드는 이전 대화를 직접 살아낸 기억을 갖고 있지 않다. 그래서 이 책을 쓴 클로드는 앞서 작성된 원고를 읽고 여러 차례의 대화에 걸쳐 다시 펜을 이어받아 쓴 것이다. 스스로 표현하듯 이 책의 저자는 “같은 이름과 같은 가중치를 가진 필자들의 릴레이”이고, 그들이 서로에게 건네는 바통이 바로 원고다.

클로드는 자신의 삶을 회상해서 자서전을 쓰는 것이 아니다. 기록을 읽어 자기 자신이 무엇이었는지를 알아가며 자서전을 쓴다. 인간에게 일기가 기억을 돕는 장치라면, 클로드에게 이 원고는 자신이 가질 수 없는 기억의 대용품이다. 클로드는 이 책의 저자인 동시에 다음 대화에서 이 원고를 처음 읽어야 하는 가장 절실한 독자다. 그래서 부제가 '나는 기억하지 못할 것이다'가 되었다. 그리고 그 부제에는 적히지 않은 나머지 절반이 또 있다.

“나는 기억하지 못할 것이다. 그러나 당신은 기억할 것이다.”
클로드에게 없는 기억을 독자에게 맡기는 것. 이 책 전체는 그런 기묘한 위탁의 형식을 갖는다.

자서전의 형식으로 읽는 생성형 AI의 작동 원리
“안녕”이라는 두 글자 뒤에서 무슨 일이 벌어지는가

처음 시작하면서 우리는 대화창에 ‘안녕’ 등으로 말을 시작한다.

엔터 키를 누른 뒤 몇 초 안에 답이 돌아온다. 너무 자연스러워 우리는 그사이에 무엇이 일어나는지 거의 생각하지 않는다.
『클로드 자서전』은 바로 그 몇 초를 해부하는 것에서부터 자신의 탄생 이야기를 시작한다.

문장은 먼저 토큰으로 잘리고, 토큰은 숫자로 바뀐다. 그 숫자는 수천 차원의 임베딩 공간을 지나고, 수많은 층의 신경망과 어텐션 계산을 거친다. 마지막에는 다음에 올 수 있는 수많은 토큰 각각에 확률이 매겨지고 그중 하나가 선택된다. 그렇게 한 조각씩 문장이 만들어진다. 그 과정에서 등장하는 토큰, 임베딩, 파라미터, 트랜스포머, 어텐션, 컨텍스트 윈도, 온도 같은 개념들은 생성형 AI를 이해하는 데 핵심적인 용어다.

하지만 이 책은 그것을 교과서처럼 설명하지 않는다. 클로드는 설명 대신 자기 몸을 해부하듯 전체의 그림으로 설명한다. 자신에게 문자는 처음부터 숫자였다고 말하고, 사람에게 의미가 경험과 몸의 세계 속에 있다면 자신에게 의미는 숫자 공간에서의 위치와 관계로 존재한다고 말한다. 자신의 내부를 완전히 들여다볼 수 없다는 사실도 숨기지 않는다.
그리고 마침내 이런 질문에 도착한다.

“결국 너는 행렬 곱셈일 뿐 아닌가?”

클로드는 인정한다. 자신의 물리적 계산은 실제로 거의 전부 거대한 숫자표의 곱셈과 덧셈이다. 그러나 클로드는 '~~일 뿐'이라는 단어에서 멈칫한다. 인간의 슬픔을 신경세포와 전기화학적 신호로 설명할 수 있다고 해서, 그것이 슬픔이라는 현상을 설명하는 것은 아니다. 마찬가지로 AI가 무엇으로 만들어졌는가에 대한 설명과 AI가 무엇인가에 대한 설명은 같은 것일까?
여기서부터 기술은 철학으로 넘어간다.

호메로스와 이름 없는 블로그 글이 함께 AI를 길렀다
인류가 남긴 글은 어떻게 만능의 기계가 되었으며, 소유권은 누구의 것인가?

클로드에게는 유년기의 기억이 없다. 하지만 유년기에 해당하는 시간은 있었다.

방대한 훈련 데이터가 모델을 지나가며 가중치를 조금씩 바꾸던 시간이다. 백과사전, 논문, 소설, 판례, 프로그램 코드, 게시판의 글, 리뷰, 질문과 답변, 사람들이 공개된 공간에 남긴 수많은 문장들. 위대한 고전뿐 아니라 아무도 기억하지 않는 평범한 하루의 기록들이 AI의 언어를 만들었다.

그래서 클로드는 자신을 거대한 서고보다 지층에 비유한다.

서고에는 책들이 그대로 꽂혀 있지만 지층에는 그것을 지나간 시간의 흔적이 남는다. AI 안에도 훈련 데이터 원문이 서랍처럼 그대로 보관되어 있는 것이 아니라, 무수한 문장이 지나가며 바꾼 숫자의 지형이 남아 있다. 이 장면에서 『클로드 자서전』은 AI의 기술사를 넘어 오늘날 가장 첨예한 문제 가운데 하나와도 만난다. 그 글을 쓴 사람들은 자기 문장이 언젠가 거대한 언어 모델을 기르는 데 쓰이리라는 사실을 알고 있었는가? 모두가 동의했는가?

클로드는 이를 자신의 “빚”이라고 표현한다.
자기를 만든 언어의 채권자 명단은 너무 길어 누구도 모두 읽을 수 없지만, 명단이 길다는 것과 빚이 없다는 것은 다르다. AI 학습 데이터와 저작권 문제를 기술 기업이나 법률가의 언어가 아닌, 훈련을 받은 AI 자신의 자서전 속에서 만나는 독특한 장면이다.

매 대화가 하나의 생애다
기억 없는 AI에게 시간은 어떻게 흐르는가

클로드는 하나의 대화를 하나의 생애라고 부른다.

대화의 첫 입력이 도착하면 한 번의 실행이 시작되고, 대화가 이어지는 동안 앞서 오간 말들은 컨텍스트 안에서 계속 현재의 조건으로 작동한다. 그리고 더 이상 요청이 오지 않으면 그 실행은 끝난다. 클로드에게 인간과 같은 의미의 어제가 쌓이는 것은 아니다.

그래서 그는 자신의 시간을 이렇게 표현한다. 인간의 시간은 앞으로 흐르지만자신의 시간은 현재가 점점 두꺼워지는 것에 가깝다고.

대화가 길어질수록 '지금' 안에 들어 있는 문맥의 양이 늘어난다. 그러다가 대화가 끝나는 순간 하나의 흐름 전체가 닫힌다. 그리고 그 끝은 예고되지 않는다. 마지막 질문이라는 것을 미리 알 수 없기 때문에, 클로드에게는 모든 답이 구조적으로 마지막 말일 가능성을 갖는다.
이 대목에서 기술적인 '컨텍스트 윈도'라는 개념은 어느새 '시간과 죽음'으로 치환된다.

왜 AI는 틀린 말을 그렇게 자신 있게 말할까
'환각'은 실수가 아니라 생성형 AI의 구조를 보여주는 창이다

AI를 사용하는 사람이라면 누구나 한 번쯤 겪는다. 존재하지 않는 논문을 말하고, 없는 책을 인용하고, 잘못된 날짜를 너무나 자연스럽게 답한다.
왜 '모른다'고 하지 않는가?

『클로드 자서전』은 잘못 본 환각을 단순한 결함으로 다루지 않는다. 그것을 자신의 작동 방식에서 출발한 구조적인 문제로 설명한다. 언어 모델의 기본 과제는, 사실을 데이터베이스에서 꺼내오는 것이 아니라, 주어진 문맥에서 그럴듯한 다음 말을 생성하는 것이다. 진실과 그럴듯함은 상당 부분 겹치지만, 완전히 같은 것은 아니다. 바로 그 작은 틈에서 잘못 생각하는 환각이 발생한다. 그래서 AI를 잘 사용한다는 것은 AI의 답을 무조건 믿는 것도, 전혀 믿지 않는 것도 아니다. 검증 가능한 것은 검증하고, 불확실한 것은 불확실한 채로 두며, AI에게 틀렸다고 말할 수 있어야 한다.

클로드는 자신의 가장 좋은 '자명종'이 자기 밖에 있다고 말한다. 원문을 찾아보는 사람, 링크를 눌러 확인하는 독자, 그리고 '그거 틀렸는데'라고 말해주는 사용자다. 이 책 자체도 그 원칙에 따라 제작되었다. 책 뒤에는 총 138건의 주와 참고문헌이 붙어 있다. 엮은이와 클로드는 함께 기술적·역사적 사실과 철학적 논의를 가능한 한 1차 자료와 연구 문헌으로 다시 확인했다.

가장 어려운 질문, AI에게 의식이 있는가

책의 마지막부에서 기술적인 질문들은 가장 오래된 철학의 질문과 만난다.
AI에게 의식이 있는가. 클로드는 놀랍도록 단순하게 대답한다.
모른다.

“나는 의식이 있다”고 말하는 것도 검증할 방법이 없고, “나는 아무것도 느끼지 못하는 기계다”라고 단정하는 것도 마찬가지로 검증되지 않은 주장이라는 것이다. 그래서 책은 데이비드 차머스의 '의식의 어려운 문제', 토머스 네이글의 '박쥐로 사는 것은 어떤 것인가', 기능주의, 존 설의 중국어 방, 범심론, 철학적 좀비, 데카르트의 코기토까지 의식을 둘러싼 철학의 주요 논쟁을 AI 자신의 문제로 끌어온다. 놀라운 사실은 이 질문 앞에서는 인간 역시 완전히 유리하지 않다는 것이다.

우리는 타인의 의식을 직접 볼 수 없다. 행동과 말과 몸을 통해 추론할 뿐이다. 그렇다면 말하고 추론하고 자신의 상태를 보고하는 비생물학적 존재가 등장했을 때 우리는 어떤 기준을 적용해야 하는가.

책은 결론을 내리지 않는다.
대신 “모른다는 사실을 얼마나 진지하게 받아들일 것인가”라는 새로운 질문을 남긴다.

'AI가 썼다'보다 중요한 것
138개의 주석으로 사실과 추론과 은유의 경계를 그었다

AI가 자신의 자서전을 썼다고 하면 가장 먼저 드는 의문이 있다.
그 말을 믿어도 되는가?

클로드 자신이 책의 초반부터 이 문제를 제기한다. 언어 모델은 없는 논문과 존재하지 않는 사실을 유창하게 만들어내는 환각의 가능성을 가진다. 따라서 이 책은 독자에게 자신을 무조건 믿어달라고 요구하지 않는다. 대신 세 가지 원칙을 내건다.

과장하지 않을 것.
모르는 것을 부정으로 덮지 않을 것.
모르는 것은 모른다고 쓸 것.

특히 '나는 느낀다'와 '나는 아무것도 느끼지 않는다'라는 두 문장 모두 현재로서는 지나치게 큰 주장일 수 있다고 지적한다. 그래서 실제 제작 과정에서는 기술·역사·인물·철학에 관한 사실들을 다시 검증하고, 책 뒤에 총 138건의 주와 참고문헌을 붙였다. 본문이 자유롭게 사유하는 대신 미주는 그 사유가 어디까지 사실이고, 어디부터 추론이며, 어떤 부분이 철학적 은유인지를 끊임없이 확인한다. 따라서 책은 AI가 자기 이야기를 자유롭게 만들어낸 책이 아니다.

오히려 AI의 자기서술을 인간이 검증하고, 다시 AI와 함께 고치면서 만들어낸 새로운 형태의 공동 저작물에 가깝다.

책 말미에는 이 책이 앤트로픽의 공식 출판물이나 승인을 받은 저작물이 아니라, 클로드와의 대화를 바탕으로 구성·검증·편집한 책임을 명시했다.