◇ 케플러 추측의 증명

케플러의 추측이 마침내 증명된 것은 1998년 미시건 대학의 젊은 수학자 토머스 헤일스에 의해서였다. 그것도 상당 부분을 컴퓨터 계산에 의존해야 했다. 공교롭게도 그보다 수십 년 전 헝가리 수학자 라슬로 페에스토트는 이 문제 증명에 컴퓨터가 활용될 것임을 정확하게 예견했었다. 페에스토트는 2차원에서의 쌓기 문제를 해결한 인물로, 헤일스는 그에 대한 존경을 표하면서 “오랜 세월 동안 케플러 문제에 천착해 오면서 나는 페에스토트가 그 어느 누구보다도 문제의 본질을 제대로 꿰뚫고 있었다는 사실을 깨닫게 되었다”고 밝힌 바 있다.

케플러 추측의 증명은 토머스 헤일스 한 사람의 공이 아니다. 지난 400년 동안 당대 최고의 두뇌를 자랑하던 천재 수학자들이 이 문제에 도전했었다. 그들은 최종적인 증명을 향해 조금씩 다가가며 한 걸음씩 내딛었고, 토머스 헤일스는 그 마지막 걸음의 주인공이었을 뿐이다. 이 책은 그 역사적인 추이를 따라가는 구성으로 이뤄져 있다.

케플러가 내놓은 추측은 각각의 구가 12개의 구에 의해 둘러싸이도록 하면 가장 밀도가 높은 배열을 얻게 된다는 것이었다. 이것이 곧 ‘육방 밀집 쌓기’이며, 그 밀도는 74.05퍼센트이다. 케플러는 이후 수백 년 동안 수학자들을 괴롭히게 될 문제를 이렇게 던져놓고 아무런 논증도 내놓지 않았다. 이에 대한 증명은 74.05퍼센트보다 높은 밀도의 배열이 과연 존재하는가가 핵심이었다. 그러한 배열이 존재하지 않는다는 것만 증명하면 문제는 해결된다. 심증은 있지만(물리학자들 또는 심지어 청과물 상인들에게도 이것은 상식이었다), 증명은 넘을 수 없는 벽처럼 생각되었다.

수학자들은 한 걸음씩 전진한다. 20세기 들어 모든 노력의 초점은 최고 쌓기 밀도의 상계값을 74.05퍼센트로 끌어내리는 데 모아졌다. 즉, 어떤 배열의 밀도도 이 비율을 넘지 않음을 증명해야 했다. 물론 상상할 수 있는 최대치의 상계는 100퍼센트이다. 수학자들은 100퍼센트에서 출발하여 상계를 74.05까지 끌어내려야 했다. 첫 걸음은 블리크펠트가 내딛었다. 그는 1919년 모래로 구를 채우는 방법을 사용하여 상계를 88.3퍼센트로 낮추었고, 1929년에는 다시 83.5퍼센트까지 낮추었다. 그로부터 18년 후인 1947년 로버트 랭킨은 블리크펠트의 방식을 최대한으로 활용하여 상계값을 82.7퍼센트로 낮추었다.(0.8퍼센트 낮추는 데 18년이 걸렸다!)

하지만 1943년에 이미 페에스토트는 보로노이 셀(V-셀)을 이용하여 상계를 75.46퍼센트까지 낮추는 데 성공한 바 있었다. 그러나 증명 과정에 오류가 발견되어 공인받지 못했다. 이후 1958년 클로드 앰브로스 로저스는 페에스토트의 방식을 개선하여 77.97퍼센트라는 값을 얻었다. “수십 년 동안 로저스의 상계는 마치 기하학의 사막이라는 황량한 들판에 외로이 서 있는 등대처럼 그곳을 지나는 이들을 인도해 주었다. 새로운 결과가 나올 때면 언제나 로저스의 상계와 비교해 그 평가가 이루어졌다.

근 30년 동안 어느 누구도 로저스의 기록을 깨지 못했다.”(231쪽) 그러다 1987년 일리노이 대학의 린지가 77.84퍼센트의 상계를 얻었다.(0.13퍼센트 낮추는 데 29년이 걸렸다!) 그 이듬해 더그 머더는 77.836퍼센트를 얻었고, 이어 1993년에는 77.306퍼센트까지 낮추는 데 성공했다. V-셀 방식을 최대한으로 활용한 결과였다.(블리크펠트의 첫 시도 이래로 74년 만에 0.77306퍼센트 낮춘 셈이다. 100미터 달리기 세계기록 단축 속도와의 흥미로운 비교는 237쪽 참조.) 한편, 3차원에서 가장 효율적인 구 쌓기의 하계(최소치)가 74.05퍼센트라는 사실은 이미 가우스 시대에 밝혀졌던 것이다.

위와 같은 선대 수학자들의 연구 성과를 이어받은 토머스 헤일스는 보로노이 셀 분할과 들로네 삼각분할 방식을 접목시키는 새로운 방식을 도입하고, 구간 연산과 선형계획법을 활용하여 케플러의 추측을 증명해 냈다. 이에 따른 복잡한 계산을 수행하는 데에는 C플렉스와 매스매티카라는 컴퓨터 프로그램이 사용되었다.