우리는 이제 생각하기 전에 AI에게 묻는다.
글의 초안을 부탁하고, 자료를 요약하게 하고, 비교와 분석을 맡기며, 때로는 무엇을 질문해야 하는지조차 AI에게 묻는다. 생성형 AI는 인간의 사고를 확장하는 가장 강력한 도구가 되었지만, 바로 그 편리함 때문에 한 가지 질문은 점점 더 중요해지고 있다.

지금 내가 이해한 것은 정말 내가 이해한 것인가?

내가 내린 판단은 어디까지 나의 판단인가?
『모의사고』는 이 질문에서 출발한다.

저자는 대학 강의에서 학생들의 과제를 채점하던 중 이상한 장면을 발견했다. 참고문헌 작성법을 설명하기 위해 수업시간에 즉석에서 만들어 낸 가상의 저자 이름이 서로 다른 학생들의 과제에 실제 문헌처럼 등장한 것이다. 문장은 자연스러웠고 형식도 그럴듯했다. 겉으로 보면 충분히 잘 작성된 과제였다. 그러나 그 안에서 학생이 무엇을 읽고, 무엇을 의심하고, 어떻게 판단했는지는 확인하기 어려웠다.

사고의 결과물은 있는데, 사고의 흔적은 없었다.

저자는 여기에서 오늘날 생성형 AI가 만들어 내는 새로운 문제를 발견한다. 인간이 실제로 충분한 사고의 과정을 통과하지 않았음에도, 완성도 높은 결과물을 통해 자신이 이미 이해하고 판단했다고 느끼게 되는 상태다. 이 책은 이를 ‘모의사고(Simulated Thinking)’라고 부른다.

모의사고는 단순히 AI가 틀린 답을 만드는 문제가 아니다. 오히려 더 어려운 문제는 AI가 꽤 좋은 답을 만들어 낼 때 발생한다. 답이 매끄럽고 논리가 정돈되어 있을수록 우리는 그것을 더 쉽게 받아들인다. 무엇이 빠졌는지, 어떤 선택지가 처음부터 제시되지 않았는지, 왜 이런 결론에 이르렀는지를 검토하기보다 이미 만들어진 사고의 경로 안에서 비교하고 선택한다. 그러면서 우리는 ‘내가 충분히 생각했다’고 느낄 수 있다. 따라서 이 책이 묻는 것은 AI의 정확도만이 아니다.

사람은 언제 자신의 사고를 AI에게 넘기는가.

넘겨진 사고는 어떻게 자신의 사고처럼 느껴지는가.
그리고 우리는 그것을 어떻게 알아차릴 수 있는가.

『모의사고』는 이 문제를 단순히 최근의 기술 현상으로만 바라보지 않는다. 점토판과 문자, 알렉산드리아 도서관, 구텐베르크의 인쇄 혁명, 계산기와 인터넷, 검색엔진에 이르기까지 인간은 오래전부터 기억과 계산과 탐색의 일부를 외부의 도구에 맡겨 왔다. 인간의 지성은 애초부터 완전히 독립된 채 존재하지 않았다.

하지만 생성형 AI에는 이전의 도구들과 다른 지점이 있다.
검색엔진이 정보를 찾아 주었다면 생성형 AI는 정보를 해석하고, 연결하고, 요약하고, 주장하고, 문장으로 완성한다.인간이 오랫동안 자신의 사고라고 여겨 온 과정의 중심부까지 기술이 들어오기 시작한 것이다. 이제 외부화되는 것은 단순한 기억이나 정보가 아니라 질문, 해석, 비교, 추론, 판단의 과정일 수 있다.

그래서 『모의사고』는 AI를 사용하지 말자고 주장하지 않는다. 오히려 그 반대에 가깝다. 이미 AI와 함께 살아가게 된 상황에서 중요한 것은 AI 사용 여부가 아니라 인간에게 무엇이 남는가이기 때문이다. 이를 살펴보기 위해 책은 교육 현장으로 들어간다. AI를 활용한 학생들의 글과 과제, 교수자의 실험, 학습과 평가의 장면을 따라가면서 결과물의 향상이 반드시 학습자의 능력 향상을 의미하는 것은 아니라는 문제를 살펴본다. AI와 함께 더 좋은 결과물을 만들 수 있게 된 시대에 우리는 결국 새로운 질문과 마주한다.

‘잘 만든 결과물’은 여전히 ‘잘 배웠다는 증거’인가?

이 질문은 교육을 넘어 채용과 조직의 문제로 이어진다. 학위, 보고서, 자기소개서, 기획서, 평가점수와 같은 결과물들은 오랫동안 한 인간의 지식과 노력, 판단 능력을 보여 주는 신호로 사용되어 왔다. 그러나 생성형 AI가 그 신호를 함께 만들어 내기 시작한다면, 우리는 무엇을 근거로 사람의 능력을 판단해야 할까. 조직이 요구해 온 ‘좋은 결과’가 정작 그 결과를 만들어 낼 수 있는 인간의 역량을 약화시키고 있는 것은 아닐까.

이 과정에서 저자는 존 듀이의 경험과 성찰, 비고츠키의 학습과 매개, 파울로 프레이리의 비판적 의식, 한나 아렌트의 사유와 판단, 쇼샤나 주보프의 기술과 인간 행위에 대한 논의를 불러온다. 오래된 사상가들의 질문을 생성형 AI라는 새로운 조건 속에 다시 놓음으로써 ‘생각한다’는 행위의 의미를 다시 묻는다.

그러나 『모의사고』는 문제를 진단하는 데서 멈추지 않는다. 책의 후반부에서 저자는 AI에게 맡겼던 사고를 다시 인간의 것으로 가져오기 위한 개념으로 ‘회수사고’를 제안한다. 회수사고는 AI의 답을 거부하거나 처음부터 혼자 모든 것을 해결하는 방법이 아니다. AI를 활용하되, 그 과정에서 사라지기 쉬운 자신의 판단 구조를 다시 세우는 과정이다.

그 중심에는 의심, 검증, 반론이라는 세 개의 기둥이 있다. 그리고 이를 실제 행동으로 옮기기 위해 먼저 쓰기, 멈춰 읽기, 반론하기, 다시 쓰기의 네 단계를 제안한다. 책에는 이 과정을 일상적인 AI 사용 속에서 직접 시도해 볼 수 있는 여섯 가지 실험도 담겨 있다. 중요한 것은 AI 없이 할 수 있는 인간으로 돌아가는 것이 아니다.

앞으로의 인간에게 필요한 것은 AI와 단절된 독립성이 아니라, AI의 도움을 받은 뒤에도 무엇을 왜 선택했는지 설명하고, 오류를 찾아내고, 다른 가능성을 상상하며, 필요하다면 AI의 답을 거부할 수 있는 판단 구조를 유지하는 것일 수 있다.

책은 마지막에 독자를 다시 하나의 오래된 장소로 데려간다. 지식을 모으고 보존하려 했던 고대의 알렉산드리아 도서관이 오늘날 모든 질문에 응답하는 거대한 생성 시스템으로 다시 나타난다면 우리는 무엇을 기대해야 할까. 모든 지식에 접근할 수 있는 인간은 더 많이 생각하게 될까, 아니면 생각해야 할 이유를 점점 잃게 될까.

AI가 인간보다 더 빠르게 답을 만들 수 있는 시대에 인간에게 남는 역할은 답을 만드는 능력만이 아닐지도 모른다.

무엇을 의심할 것인지, 무엇을 확인할 것인지, 어떤 질문을 다시 던질 것인지, 그리고 마지막 판단을 어디까지 자신의 것으로 남겨 둘 것인지 결정하는 일이다.

『모의사고』는 AI를 사용할 것인가 말 것인가를 묻는 책이 아니다.

AI가 대신 생각할 수 있는 시대에도 우리는 여전히 생각하는 존재로 남을 수 있는가.

그리고 그 질문은 교육을 넘어, 우리가 앞으로 어떤 인간을 학습시키고 평가하고 채용하며 사회의 중요한 판단을 맡길 것인가에 대한 질문으로 이어진다.

『모의사고』는 그 질문을 시작하는 책이다.