‘상상의 수’ 없는 수학은 상상할 수 없다
그 후 나는 대학 물리학과에 진학하여 현대물리학에서 양자역학(Quantum Mechanics)이라는 과목을 처음 접하게 되었고, 담당 교수님으로부터 “지금까지 배운 물리학은 모두 잊어라. 올바른 물리학은 양자역학뿐이다. 그리고 양자역학의 수학체계는 모두 허수로 이루어져 있다”는 또 한 번의 충격선언을 들어야 했다. 모든 연산자와 파동함수, 그리고 가장 중요한 슈뢰딩거의 파동방정식에 한결같이 허수(복소수)가 개입되어 있다는 것이다.

이처럼 이름부터 미심쩍은 수인 허수는 의외로 수학과 과학에서 매우 중요한 위치를 차지한다. 역설적이지만 현실세계를 만족스럽게 설명하려면 ‘상상의 수’인 허수가 반드시 필요하다. 그렇다면 수학자들은 허수라는 상상하기 어려운 수를 어떻게 수학에 도입하게 되었을까? 이 책은 우여곡절 많았던 그 수용과정을 추적하면서 독자들을 수학적 상상의 세계로 안내한다.

제곱해서 음수가 되는 수?
학창시절에 “자신을 제곱하여 음수가 되는 수를 허수(虛數)라고 한다”는 수학 선생님의 충격적인 선언을 듣고 커다란 배신감을 느꼈던 경험이 있을 것이다. 초등학교와 중학교에서는 “모든 수의 제곱은 양수이다”, “음수를 두 번 곱하면 양수가 된다”라고 말해 놓고 이제 와서 딴소리를 하다니!

‘제곱해서 음수가 되는 수’라니, 과연 이런 수가 존재할까? 허수에 관한 설명을 처음 들은 사람이라면 누구나 이런 의문을 떠올렸을 법하다. 초등학교와 중학교에서 배우는 수, 곧 자연수, 정수, 유리수, 실수는, 양수이건 음수이건, 모두 제곱하면 양수가 되기 때문이다.

다행히 우리는 혼자가 아니다. 과거 수학자들도 사정은 마찬가지였다. 허수를 “불가능한” 수라고 단정 지었던 15세기 이탈리아 수학자 니콜라스 슈케(Nicolas Chuquet, 1445~1488)의 주장은 유럽의 수학자들 사이에 널리 수용되었다. 그러나 허수는 나름의 효용성을 입증하며 끈질기게 살아남았고, 대수학의 계산을 수행하는 데 매우 강력한 도구임이 밝혀졌다. 그렇지만 허수의 수용과정이 순탄했던 것만은 아니다. 허수가 마침내 만족스러운 ‘이미지’를 얻고, 수학자들이 허수를 편안하게 사용하기까지는 무려 300여 년이 걸렸다.

상상의 수, 허수
음수의 제곱근인 허수의 수용과정이 그토록 험난했던 이유는 무엇일까? 여러 이유가 있지만 무엇보다 과거 수학자들이 허수를 눈으로 볼 수 없었기 때문이다. 기존의 수들은 수직선이나 좌표평면 위에 표현할 수 있었지만 허수는 그럴 수 없었다. 그들에게 시각화할 수 없다는 것은 현실세계에 존재하지 않는다는 의미였으며, 그리하여 이 괴상한 제곱근에는 Imaginary Numbers, 곧 ‘상상의 수’라는 이름이 붙었다. 허수를 나타내는 기호 i는 바로 Imaginary의 첫 글자 i에서 유래했다.

시인의 마음으로 들여다본 수학적 상상의 세계
하버드대학교의 수학 교수이며 문학에도 조예가 깊은 배리 마주르(Barry Mazur)는 이 ‘상상의 수’를 설명하는 방편의 하나로 문학을 선택했다. 수학과 문학, 일견 완전히 동떨어진 분야인 것 같지만 둘 다 ‘상상력’과 ‘발상의 전환’이 중요하다는 공통점이 있다. 마주르는 이 책을 “수학적 상상력을 경험해 보고 싶고, 그러한 경험을 시구(詩句)를 읽고 이해하는 데 쓰이는 상상력과 비교해 보고자 하는” 독자들을 위해 썼다. 따라서 수학 애호가들뿐만 아니라 평소 수학을 어렵게 느꼈던 문학 애호가들까지 수학적 상상의 변천사를 문학적으로 설명하는 이 책을 읽으면서 상상하는 즐거움을 누릴 수 있을 것이다.