우주론을 연구하던 수학자이자 케임브리지대학 교수였던 존 배로가
생애 마지막으로 남긴 가장 단순하고도 심오한 질문

“그건 1 더하기 1이 2인 것처럼 확실해.” 이런 말을 들어보았을 것이다. 이처럼 1+1=2는 ‘확실하고 뻔한 것’의 대명사처럼 쓰이는 말이자, 우리가 수학을 배울 때 처음 마주치는 가장 단순한 수식이기도 하다. 하지만 여기 정말 1 더하기 1이 2인지를 생의 마지막 탐구 주제로 삼은 수학자가 있다.

존 배로는 영국의 수학자, 이론물리학자, 우주론 학자로 케임브리지 대학교의 응용수학 및 이론물리학 교수이자 수학의 대중화를 위한 밀레니엄 수학 프로젝트의 책임자였다. 그는 우주론 연구로 학자로서의 여정을 시작했는데, 이것이 이후에 그가 수학자로 살면서도 존재의 근본에 관한 철학적 탐구를 이어가는 데에 영향을 주었다. 이에 관해 김민형 교수는 이렇게 말하기도 했다. “물리학자에게 수학적 구조의 정체성 문제는 좋든 싫든 집요하게 다가온다. 그래서 ‘우주란 무엇인가’라는 질문으로부터 출발한 저자는 자연스럽게 ‘수학이란 무엇인가’를 묻다가 시간이 지나면서 결국 ‘1 더하기 1은 어째서 2인가’로 탐구가 귀결되었다는 인상이 책의 구성에 전체적으로 스며들어 있다.” 그렇다면 저자는 정말이지 왜 이런 책을 쓰게 된 것인지, 직접 그의 목소리를 통해 들어보자.

“여러분이 지금 읽으려는 책은 제가 마지막으로 쓴 책이고, 저는 이제 더 이상은 쓰지 못할 것 같습니다. 이 책에서 저는 수에 대해 중요한 몇 가지를 말하려고 합니다. 많은 사람들은 1+1=2와 같은 연산이 너무나 단순해서 특별히 주의를 기울일 이유가 없다고 생각합니다. 하지만 우리는 이 기초적인 연산의 복잡한 면을 탐구하려고 합니다. 우리는 서로 다른 사물을 더할 때 생기는 미묘한 난점에 대해 알아볼 것입니다. 이 문제를 다룬 19세기와 20세기의 가장 위대한 수학자들에 대해서도 살펴볼 것이며, 그들이 이 문제를 풀고 덧셈을 명료하게 이해하기 위해 어떤 생각을 했는지도 알아보겠습니다. 무한에 대해서도 알아보고, 무한을 더하는 법을 배워보며, 무한이 수학의 대상으로 적합한지에 대한 논쟁도 살펴볼 것입니다. 괴델의 유명한 불완전성 정리를 공부하고, 마지막으로 수학이란 도대체 무엇인지에 대한 격렬한 논쟁에 대해서도 알아보겠습니다.”_14~15쪽, 〈서문〉 중에서

우리가 딛고 선 수학 체계의 주춧돌, ‘1+1=2’
수학이란 무엇인가, 그리고 수학이 던지는 존재의 수수께끼

1+1=2라는 수식은 간단하고 기본적인 만큼 수학에 대해 근본적인 의문을 제기할 수 있는 매개가 되기도 한다. 얇지만 단단한 이 책에서 그는 열 개의 장에 걸쳐 그러한 문제 제기가 어떻게 가능한지를 역사적·물리적·순수수학적인 사례와 더불어 하나하나 보여준다. 몇 가지 질문을 살펴보자.

“배 하나 더하기 사과 하나는 무엇일까? 이것은 배 두 개나 사과 두 개가 아니다. 기호 ‘+’와 ‘=’는 무엇인가? 이것들은 진짜로 무슨 뜻일까? 똑같은 파동 둘을 더하는데 둘의 위상이 정반대이면, 파동 하나의 마루가 다른 파동의 골과 일치해서 영이 된다. 파동 두 개가 되지 않는 것이다. 영에 영을 더하면 영이 둘이고, 이것은 영이다. 무한에 무한을 더하면 무한이 된다. 이것들의 합은 하나에 하나를 더해서 같은 것이 둘이 되는 패턴을 따르지 않는다. 사물은 의외로 단순하지 않다.”(21~22쪽, 〈1장. 1+1은 진짜로 어려울까?〉 중에서)

이 책이 1+1=2와 같은 연산에 집중하는 이유는 수학이 ‘추상화’라는 과정으로부터 시작된 학문이기 때문일 것이다. 사과 하나, 파동 하나, 0 하나 등 세상의 모든 하나는 1이라는 수로 환원되는데, 이 환원에 바탕을 두고 있는 덧셈이라는 연산이 과연 모든 사물에 보편적으로 적용할 수 있을 만큼 타당한가 하는 것이다. 이것은 지금의 수학 체계를 떠받치고 있는 주춧돌에 관한 의문이기에, 많은 것을 무너뜨릴 수 있는 강력한 질문이기도 하다.

예를 들어 1과 -1을 번갈아가며 무한하게 더하는 수식 S가 있다고 하자. 그리고 양변에 각각 같은 식을 더해보자. 그러면 2S=1-1+1-1+1-1…=S가 된다. 그렇다면 2S=S이므로 2=1이 된다(27쪽). 공리 체계에서 논리적 모순이 하나라도 있으면 그것을 사용해서 모든 것이 참이라고 증명할 수 있기 때문에 모든 산술이 무너져버린다. 이를 보여주는 재미있는 사례가 있다.

수학자이자 철학자였던 버트런드 러셀은 강연에서 2=1이 참이라면 모든 것이 참이라고 증명할 수 있다고 말했는데, 한 학생은 이를 수긍하지 못해 그렇다면 러셀 자신이 교황임을 증명해보라고 했다. 러셀은 주저하지 않고 이렇게 대답했다. “나와 교황만 포함하는 집합이 있다고 하자. 이 집합의 원소는 둘이다. 그러나 2=1이므로, 이 집합의 원소는 하나뿐이다. 따라서 나는 교황이다.”(28쪽) 뭔가 이상하지만, 어떻게 반박해야 할지 모르겠다. 그렇다면 이 책을 찬찬히 읽어보자. 이 책은 어렵지 않은 수식들과 함께 우리가 흔히 자연수의 공리화, 수학의 집합론적 모델, 화이트헤드와 러셀의 기초론, 무한대의 산술 이론, 괴델의 불완전성 정리, 뉴컴-벤포드의 법칙 등으로 불리는 개념을 설명해내면서 가장 단순한 수식을 통해 갈 수 있는 가장 먼 수학적 사유까지 우리를 데려간다.

평생 수학을 연구한 친구와 나누는 대화 같은 책
‘1+1=2’라는 실타래를 들고 걸어가 미로 속에서 만나게 되는 것

수학이 우리를 가장 곤란스럽게 만드는 지점은 어디일까? 정규 교육 과정을 거쳐온 대다수의 한국인에게 그것은 아마도 수학이 왜 필요한지 모르겠다는 점일 것이다. 2020년 8월 미국의 한 고등학생이 틱톡에 ‘수학이 진짜라는 것을 어떻게 알 수 있는가, 사칙연산 외에 수학적 개념들이 왜 필요하며 누가 생각해냈는가’라고 묻는 영상을 올렸다. 여기에는 “지금껏 본 것 중 가장 멍청한 영상”이라는 등 수없는 비난과 조롱이 쏟아졌으나, 수학자 유지니아 쳉, 조던 엘렌버그, 물리학자 숀 캐럴 등 유수의 학자들은 이것이 “매우 훌륭한 질문”이며, 학생이 “수학자보다 더 수학적으로 생각한다”며 답변과 격려를 보낸 사건이 있었다.

수학을 잘한다는 것은 복잡한 방적식을 쉽게 풀어내고 공식이나 법칙을 빠르게 기억해내서 기술적으로 잘 활용한다는 말도 되겠지만, 수와 기호들의 의미가 무엇이며 인간이 이 언어를 사용하여 무엇을 하려고 했고 무엇을 할 수 있는지를 잘 이해하고 있다는 뜻이기도 하다. 이 책은 후자의 의미에서 수학을 잘하도록 돕는 책이다. 미국의 고등학생도 이런 맥락에서 “수학자보다 더 수학적으로 생각한다”라는 말을 들었을 것이다.

“‘수학이란 무엇인가’라는 질문은 이 책 마지막 장의 제목이고, 책 전체의 핵심 주제이기도 하다. 이 너무나 어려운 질문의 답에 접근하기 위해서 저자는 책 전체를 통해 수학철학 개론을 전반적으로 그리고 독창적으로 설명해나간다.”(김민형, 〈감수의 말〉 중에서)

저자는 수학 내부에서뿐만 아니라 수학 외부를 포함하여 수학을 사유한 사람이었다. 이 책이 다른 수학책에 비해 다소 물리적일 뿐만 아니라 철학적이고 종교적이라고까지 할 수 있다면, 바로 이런 저자의 위치와 관점 때문일 것이다. 그래서 이 책은 스스로 수학과 멀다고 생각하는 사람이라도, 아니 그런 사람이 오히려 재미있게 읽을 수 있는 책이다. 따뜻한 차를 한 잔 옆에 두고 종종 창밖을 바라보며 시집 읽듯 이 책을 읽기를 권한다. 평생 학술 논문만 500편 이상을 쓰고 과학 대중서를 20여 권 집필한 대가와 마주 앉아 담소를 나누는 듯한 느낌을 주는 독서일 것이다. 이 얇은 책에 한 대가의 평생에 걸쳐 이루어진 탐구가 오롯이 녹아 있다면 믿기 어려울 수도 있겠지만, 오히려 마지막이기에 더 압축적으로 쓸 수밖에 없었는지도 모른다.

이 책에서는 단순한 수식과 작은 수가 중요한 주제이지만 이는 그것과만 관련된 책이 아니며, 오히려 이 책에 나오는 무한 간의 산술같이 무한 너머의 무한을 보여주는 거대한 책이다. 우리는 아리아드네의 실타래를 든 테세우스처럼 1+1=2라는 수식을 통해 수학이란 도대체 무엇인지를 묻는 크고 깊은 미로로 용감하게 들어갈 수 있다. 그리고 그곳에서 우리는 미노타우로스가 아니라 미로 그 자체를 비로소 만나게 된다.