p.199

1943년 사망했을 때 힐베르트의 묘비에는 언젠가 라디오 강연에서 한 말이 새겨졌다. "우리는 반드시 알아야 하며, 또 반드시 알게 될 것이다." 힐베르트의 낙관주의적 관점을 잘 알 수 있는 말이다.

p.205

어떤 명제의 경우, 그 명제와 그 명제에 반대되는 명제가 동시에 참일 수 있다. 즉, 참과 거짓을 결정할 수 없는 명제를 만들어낼 수 있다는 것이다.

결정 불가의 문제를 예..

세빌리아의 이발사는 자기 스스로 면도를 하지 않는 사람들에게 모두 면도를 해주어야 한다. 그렇다면 세빌리아의 이발사는 자기 스스로 면도를 할까? 만일 스스로 면도를 한다면 그는 스스로 면도를 한 사람에게는 면도를 해주지 않으니 자기 자신에게 면도를 해주지 않을 것이다. 또 면도를 하지 않는다면 면도를 하지 않은 사람은 모두 면도를 해주어야 하므로 자기 자신에게도 면도를 해줘야 할 것이다. 따라서 위의 질문에는 답을 할 수가 없게 된다.

p.357

컴퓨터에 대한 헤일스 자신의 태도도 시간이 지남에 따라 변화를 보였다. "1998년 증명에 컴퓨터를 사용한 이유는 다른 대안이 떠오르지 않았기 때문이다. 그러나 최근 들어 내 입장은 많이 변했다. 컴퓨터를 활용한 증명은 수학 발전에 매우 필수불가결하다는 생각을 나는 갖고 있다."

이 책 속에 등장하는 위대한 수학자들은 짧게는 몇 개월, 길게는 몇 십 년씩 한 연구에 몰두하며 끝까지 해결하려 하는데, 나는.. 고작 책 한 권 읽는데.. 1년 걸렸다. 많이 낯선 분야라 조금 읽고 한 두 달 모른 척하다가 또 생각나면 조금 읽다가.. 그런 식으로 1년이나 읽었다.. 빌린 책을 이렇게 길게 읽기는 페르마의 마지막 정리를 이후 첨인 듯.. ㅋ

우리 집 첫째 아이가 교육청 수학 영재원을 2년째 다니고 있는데, 이번에 코로나19 사태로 인해 영재원에서 온라인 수업을 개설한 것을 옆에서 지켜보다 개인 프로젝트 연구 과제를 정하는데 같이 아이디어를 내었다. 마침 사회적 거리두기를 지키면서 학교에 등교해 수업을 받는다는 세부 지침이 나왔길래, 만일 교실이나 식당 등 여러 학교 공간에서 서로 2미터씩 떨어져 사회적 거리두기를 하면서 최대한 얼마나 많은 학생들이 해당 공간에 들어갈 수 있을지 알아보는 것을 연구주제로 정했다. 그러면서 이론적 배경을 찾아보기 시작했는데, 가장 먼저 이 책의 제목이기도 한 "케플러의 추측"이 나왔다. 그래서 이 책을 아이와 같이 읽게 되었다. 얼핏 보기에 단순해 보이는 것도 그렇게 단순하지만은 않다는 것이 바로 이 책에도 나와 있는 교훈이다. 우리에게 천문학자로 잘 알려진 케플러는 1611년에 공을 가장 조밀하게 쌓는 방식은 청과물 상인이 오렌지나 토마토를 쌓을 때 쓰는 방식과 동일하다는 추측을 언급했고, 이 추측을 증명하기 위해 400년 가까이 수많은 학자들이 달려들었다고 한다. 바로 증명 과정이 이 책의 주된 내용이다. 좀 더 수학적으로 케플러의 추측을 묘사하자면, 구체의 3차원 육방밀집쌓기가 74.05퍼센트의 밀도로 가장 높은 밀도를 가지는 쌓기 방식이란 것이다.

원래 1590년대 말 한 영국 귀족이 포탄 무더기의 모양을 보고 곧바로 개수를 알아낼 수 있는 공식을 만들어보라고 그 당시 유명한 학자였던 토머스 해리엇에게 요청했는데, 그가 최고 수학자이자 천문학자인 케플러에게 도움을 요청해서 케플러가 이 일에 관여하게 되었다고 한다. 포탄은 3차원이지만 우선 2차원 평면에 원을 배치하는 문제로 단순화해서 고민해보았다고 한다. 그는 실험을 통해 2차원에서 최적 배열은 정육각형 형태이며 밀도는 90.7퍼센트라고 계산하였다. 물론 평면이 무한 평면이 아닐 때는 정육각형 배열이 반드시 정사각형 배열보다 효율적인 배열이라는 보장은 없다면서, 케플러의 추측은 경계가 없는 무한 공간일 때를 가정한다고 말한다. 3차원에서도 정육각형 배열이 최적이 배열이라고 주장하기 위해서 확실한 증명이 요구되었는데, 그 일은 후대 학자들의 몫이었다고 한다. 케플러가 이 부분에 대해 고민하기 시작했을 무렵에 놀랍게도 우리에게 화가로 잘 알려진 뒤러가 기하학 연구를 통해 원을 정육각형으로 배열하는 것이 정사각형으로 배열하는 것보다 밀도가 높다는 사실을 알아냈으며, 라그랑주도 2차원에서 정육각형 배열이 격자가 최소값의 셀 면적을 가지게 된다고 증명했다고 한다. 이렇게 초기에는 2차원에서 정육각형 배열이 밀도가 가장 높다는 사실을 증명해 나갔는데, 3차원 격자 쌓기와 최대 밀도에 대한 증명은 20세기에 와서 본격화 되었다고 한다.

물론 키스 문제라고 한 구를 가운데 놓고 얼마나 많은 수의 구가 가운데 구와 접촉할 수 있는지에 대해 18세기에 뉴턴과 데이비드 그레고리 사이 벌어진 논쟁에 대해서도 언급하고 있다. 뉴턴은 최대 12개의 공이 가운데 공과 맞닿을 수 있다고 주장했는데, 이 부분에 대한 증명 역시 후대에 호페, 쿠르트 쉬테, 바르텔 렌데르트 반 데르 바르덴, 리치 등 많은 수학자들의 노력에 의해 증명되었다고 한다. 한편 19세기에 가우스도 공을 격자 형태로 배열할 경우 케플러가 제안한 배열보다 더 밀도가 높은 배열은 존재하지 않는다는 것을 증명했지만, 비격자 형태로 배열하면 그보다 더 높은 밀도를 가지는지에 대한 문제는 증명하지 못했다고 한다. 그 증명 문제는 1900년 세계수학자대회에서 힐베르트가 선언한 23개의 수학의 난제들 중 하나로 제시되었다고 한다. 이후 많은 학자들은 밀도의 상한 값을 83.5퍼센트에서 77.97퍼센트, 77.30퍼센트로 낮춰 가며 케플러가 제시한 74.05퍼센트에 근접해 갔다고 한다. 그런데 1993년, 버클리 대학의 우이 시앙 교수가 자신이 케플러의 추측을 증명해냈다고 선언했다고 한다. 하지만 해당 논문 심사과정에 대한 의구심이 제기되고 증명에 있어서 몇 가지 결함들이 발견되었는데, 우이 시앙 교수는 그것에 대해 반박하고 자신이 제대로 증명해냈다는 주장을 굽히지 않았다고 한다. 

이 논란의 와중에 미국의 수학자 토머스 헤일스가 1997년 들로네 삼각 분할이라는 새로운 방식으로 케플러의 추측에 대한 증명을 완료했다고 한다. 이 책은 원저가 2003년 출간된 것인데, 그 시점까지도 헤일스의 연구 논문은 심사 중이며 아직 학술지에 정식 수록되지 않았다고 한다. 이 증명의 상세한 내용을 검토할 능력이 있는 논문 심사위원을 찾기도 어려웠고, 또 그런 능력이 있다고 해도 기꺼이 심사를 떠맡으려는 사람도 찾기 어려웠다고 한다. 대부분의 학자들은 헤일스의 증명이 옳은 것으로 생각하고 있지만 한편에서는 새로운 논란이 촉발되었다고 하는데, 그것은 수학적 진리를 컴퓨터를 통해 확증한다는 것이 가능한가에 대한 논쟁이라 한다. 사실 헤일스는 매스매티가, 메이플, Cplex 같은 컴퓨터 프로그램을 사용하여 거의 10만개가 넘는 계산과 증명 문제를 다루었다고 한다. 반례 가능성 있는 것들이 유한개일 경우 이들 하나하나를 제거해 나가는 방식으로 컴퓨터를 활용했다는 것이다. 하지만 순수 수학자들은 컴퓨터의 오류 가능성 같은 이슈를 제기하며 수학 증명에 컴퓨터 사용을 반대하고 있다고 언급하고 있다. 이 부분에서 컴퓨터 버그를 최소화 하기 위해 1980년대 부동소수점 연산에 대한 IEEE 표준 754 제정을 둘러싸고 벌어진 수많은 논쟁들이 눈길을 끌었다.

그 밖에도 이 책은 켈빈 문제, 이중 비누방울 문제 같은 다른 공간 분할 문제들로 다루고 있으며, 아예 부록으로 수학 분야의 풀리지 않은 116개의 추측들의 목록을 소개하고 있다. 또한 이 책 초반부에 육각 눈송이에 대한 이야기도 눈길을 끌었는데, 결과적으로 눈의 에너지 상태는 물 분자들이 육각형 형태로 배열될 때 최소가 되며, 그래서 눈 결정은 육각의 모습을 가지게 된다고 설명하고 있다. 어쨌든 지난 4세기 동안 많은 우수한 두뇌의 소유자들이 케플러의 추측을 해결하고자 시도했던 내용들을 쭉 읽어보니 별 것 아닌 단순한 문제가 이렇게 어렵게 증명될 줄은 몰랐다. 이 추측의 응용으로는 분자 배열 방식에 따라 결정되는 결정체의 형태 분석, 물품을 컨테이너 안에 쌓는 문제를 비롯해, 이를테면 쓰레기를 운반하는 데 50미터 이상 걷지 않도록 하려면 얼마나 많은 쓰레기통을 배치해야 하는지, 최소의 비용으로 한 사람도 빼놓지 않고 모든 사람들을 아우르되 중복되지 않도록 모든 잠재적 고객을 관리하는 경우 분류된 고객군에 얼마나 많은 예산을 할당할지 결정하는 일 같은데 적용될 수 있다고 한다. 물론 우리 집 아이가 연구과제로 수행 중인 코로나19로 인한 사회적 거리두기를 지키면서 한 교실에 최대로 채울 수 있는 인원수를 산정하는데도 활용될 수 있다.