무한은 무엇이며 어떻게 연구되어 왔는가? 『무한의 신비』는 중국의 철학자 장자가 “至大無外, 至小無內”(지극히 큰 것에는 밖이 없고, 지극히 작은 것에는 안이 없다)라는 말로 설명하기도 한 `무한'이라는 개념이 수학사에 어떤 위치로 자리매김되었으며 수학에 어떤 영향을 미쳤는지, 그리고 이 개념이 어떻게 증명이 되었는지 탐구한 책이다.

무한은 기원전 5~6세기에 고대 그리스인들이 발견했다.(그 증거로 제논의 유명한 아킬레스와 거북이야기가 있다. “고대인 가운데 가장 발이 빠른 아킬레스에 비하면 거북은 너무 느리기 때문에 아킬레스보다 앞에서 출발한다. 거북이 처음 출발한 지점에 아킬레스가 쫓아갈 무렵이면 거북은 얼마간 더 기어갔을 것이다. 거북이 더 기어간 거리만큼 아킬레스가 쫓아갈 무렵이면 거북은 또 얼마간 기어갔을 것이다.” 이런 식의 논법이 무한히 계속 되면 아킬레스는 결코 거북을 따라잡을 수 없을 것이다. 이와 같은 제논의 패러독스에는 무한의 개념이 담겨 있다.) 이후 피타고라스, 플라톤 등이 무한을 연구했고, 중세 시대에 이르러서는 인간이 범접할 수 없는 신의 영역으로 여겨져, 깊이 다루는 것을 금기시하기도 했으나 유대 신비주의(카발라)는 무한의 개념을 수준 높게 발전시켰다. 이후 갈릴레오, 0과 1 사이에 있는 수가 0과 2 사이에 있는 수만큼 많다는 것을 증명한 체코의 성직자 베른하르트 볼차노, 카를 바이어슈트라스 등에 의해 무한의 개념은 계속 발전되었지만, 무한에 관한 중요한 진실을 제대로 이해한 최초의 수학자는 현대 집합론의 창시자 게오르크 칸토어(1845~1918)이다. 『무한의 신비』는 칸토어의 생애를 중심으로 전개된다.

“무한 너머에는 또 다른 무한이 있다. 크기가 같은 무한도 있지만, 크기가 다른 무한도 있다. 하지만 가장 큰 무한은 있을 수 없다. 가장 큰 무한을 말하는 순간 그 무한 너머에 있는 더 큰 무한을 말할 수 있기 때문이다”와 같이 무한의 속성을 구체적으로 해명하고, “실무한”의 개념을 확립하여 무한을 체계적으로 다루게 된 후 수학의 지평은 크게 넓어졌다. 이러한 적극적인 접근으로 인해 선택 공리의 문제, 연속체 가설의 문제 등 추가적인 문제도 등장했으며 러셀의 역설 같은 다양한 역설도 등장하며, 수학계는 보다 활발해졌다. 또한 칸토어 이후 수학자들은 집합론, 함수 이론 등을 점점 발전시켜 나갈 수 있었으며, 지금은 무한을 효과적으로 다룰 수 있게 되었다. 때문에 현대 수학에 지대한 업적을 남긴 독일의 수학자 힐베르트는 칸토어를 높이 평가하여 “칸토어가 우리를 수학의 낙원으로 인도하였다”고 말했다고 한다.

칸토어는 양극성 장애(흔히 조울증이라고 일컬어진다)라고 진단 내려진 정신병에 걸려 정신병원에 입원하기를 반복하다가 결국 병원에서 사망한다. 병에 걸렸을 때 칸토어는 `칸토어의 연속체 가설'이라고 알려진 것에 사로잡혀 있었다고 한다. 어쩌면 무한으로 인해 병을 얻었을지도 모르는 칸토어의 묘지 기념판에는 그의 가장 깊은 신념이라고 할 수 있는 문장 “수학의 본질은 자유에 있다”가 적혀 있다고 한다.

『무한의 신비』는 수학에서도 여전히 가장 규명되기 어렵다는 무한에 대해 다루기 때문에 수학 전문 저자의 편한 서술에도 불구하고 쉽지는 않다. 그러나 `무한'을 본격적으로 다룬 책으로는 흔하지 않은 책이기 때문에 수학을 공부하는 학생이나 연구자들에게는 큰 즐거움을 줄 수 있을 것이다.