수학자 세드릭 빌라니의 자전 에세이
하나의 영감이 수학 정리(定理)가 될 때까지,
필즈상 수상자가 쓴 경쾌하고 열정적인 기록들

천재 수학자의 머릿속에서는 무슨 일이 일어났을까? 프랑스 수학자이자 필즈상 수상자인 세드릭 빌라니의 『살아 있는 정리』(원제:Th?or?me vivant)는 하나의 수학 정리가 완성되는 과정을 생생하고 열정적으로 그려낸 자전 에세이다. 필즈상을 받은 수학자가 대중을 대상으로 이토록 상세하게 자신의 연구 과정을 보여준 책은 이 책 말고는 찾기 어렵다.
세드릭 빌라니는 수학과 물리학의 경계에 있는 여러 중요한 문제들을 연구하고 증명해냄으로써 2010년에 수학계의 노벨상이라고 할 수 있는 필즈상을 수상했는데, 이 책은 마치 한 편의 다큐멘터리처럼 빌라니 교수에게 필즈상을 안겨준 연구가 어떤 과정을 통해 이루어졌는지를 보여주고 있다.

이야기는 세드릭 빌라니가 수학계의 오래된 악마에 도전하기로 마음먹었던 2008년 3월 프랑스 리옹에서부터 시작된다. 세드릭 빌라니와 그의 동료 수학자인 클레망 무오가 뛰어든 문제는 ‘비균질적인 볼츠만 방정식의 정칙성 문제’였고, 이 두 명의 수학자는 매달 수 백 통의 메일을 주고받으면서 연구한 끝에, 마침내 2009년 12월에 ‘무오-세드릭 정리’를 완성시킨다. 그들은 이 정리를 통해 러시아 물리학자 레프 다비도비치 란다우가 제시한 ‘란다우 감쇠’를 수학적으로 입증했다.
여기서 일반 대중에게 중요한 것은 세드릭 빌라니가 증명한 수학적 내용이 정확히 무엇인지 이해하는 것이 아닐 것이다. 고도로 훈련된 수학 전공자가 아닌 한, 그가 밝혀낸 것들을 오롯이 이해하기란 힘들다. 저자도 그것을 감안한 듯, 자신과 공동으로 연구한 클레망 무오와의 대화와 이메일에서는 수학자들 간의 실제적인 대화를 있는 그대로 리얼하게 노출시키는 한편으로, 그 외의 부분들에서는 최대한 대중들에게 수학을 쉽게 설명해주려고 애쓰고 있다.

그리하여 난공불락의 현대 수학 문제를 해결한 천재 수학자이자, 항상 커다란 스카프 리본에 거미 브로치를 달아서 수학계의 ‘패셔니스타’로 불리는 세드릭 빌라니 교수가 우리를 이끌고 데리고 가는 곳은 바로 수학자의 일상이다.
대개들 수학자라고 하면, 아침에 눈떠서 밤에 잠들 때까지 오로지 수학만을 생각하는 괴팍한 수학자를 떠올릴 테지만, 이 책에서 실상 눈앞에 펼쳐지는 수학자의 일상은 매우 독특한 방식으로 평범하고, 매우 역동적인 방식으로 정적인 일상이다. 바로 이런 기묘한 결합에서 수학적 아이디어가 피어올랐던 것일까?
서른여섯 살에 일반인은 결코 이해하기 어려운 ‘비선형 란다우 감쇠와 볼츠만 방정식에 대한 균형수렴’을 증명해 필즈상을 받은 이 수학자는, 지하철을 탈 때 재킷 속에 집어넣어두었던 만화책을 꺼내 읽는가 하면, 밤에 자기 전에 따끈따끈한 신간 단편소설집을 꺼내 읽고, 종잡을 수 없는 황당무계한 꿈들을 글로 기록하는가 하면, 프랑스 포크록 그룹 테트 레드의 20년 팬으로서 집으로 돌아오는 대중교통 차편이 없는데도 홀로 콘서트를 찾는 자신의 일상을 가감 없이 보여준다.

더욱이 그는 아무리 수학에 빠져 있다고 해도, 아빠로서의 의무 또한 결코 게을리 하지 않는다. 학교에서 아이들을 데려와서 돌보거나, 아침을 차려준 다음 통학 버스까지 데려다주고, 아이들에게 밤마다 모험 가득한 이야기를 들려주는 등 우리는 이 책에서 육아 분담이 몸에 밴 프랑스 아빠의 모습을 엿볼 수 있다.
음악에 대한 사랑은 또 얼마나 각별한지! 에콜 폴리테크니크에서 구술면접고사를 치를 때 떠올렸던 곡, 최적수송 정칙성 이론을 배웠을 때 들었던 곡, 세계수학자대회 보고서를 작성하던 때 들었던 곡, 최적수송에 대한 첫 번째 책을 쓸 때 들었던 곡 등 저자는 자신이 몸담았던 수학 증명마다 일대일로 대응되는 음악들을 하나씩 언급하는 기벽을 선보이기도 한다.
누구나 짐작할 수 있듯, ‘란다우 감쇠’를 수학적으로 입증하는 것은 결코 간단치 않았다. 완벽하게 풀었다고 생각한 시점에 치명적인 오류가 발견되는가 하면, 포기할 시점에 실낱같은 해결의 실마리가 나타나고, 국제 학술지 『악타 마테마티카』에 충분히 실릴 줄 알았는데 게재가 거부되는가 하면, 논문을 다시 전부 뜯어고치고 전부 단순화하고 전부 개선하는 작업을 괴력을 발휘하여 3주 만에 해낸다.

하늘은 스스로 돕는 자를 돕는다고 했던가. 한 가지 흥미로운 점은, 미궁 속에 갇힐 때마다 영감이 마치 목소리처럼 들리면서 문제를 해결할 수 있었다는 점이다. 2009년 4월 9일의 일화만 봐도 그렇다. “머릿속에서 목소리가 들렸다. ‘두 번째 항을 다른 변으로 넘기고 푸리에 변환을 취해서 L^2로 뒤집어야 해.’” 머릿속에 떠오른 영감에 대한 저자의 첫 반응은 “말도 안 돼!”였지만, 일단 수식을 써놓고 가만히 들여다본 다음에는 머릿속으로 외친다. ‘된다!!! 확실해!’ 이때 저자가 느꼈을 법한 충만한 행복감은 그 어떤 감정과도 바꿀 수 없을 것이다.

도쿄에서 프린스턴으로, 리옹에서 하이데라바드로 이어지는 여정의 기록들 속에는 아이디어를 떠올렸을 때의 흥분과 희열, 안개 속을 헤맬 때의 절망과 불안, 퍼즐 조각을 찾았을 때의 기쁨과 안도감으로 점철되어 있다. 동료 수학자 클레망 무오와 주고받은 열정적인 이메일, 줄줄이 이어지는 불가해한 방정식, 수식과 함께 떠오르는 음악 등으로 얽힌 이야기의 실타래는 마침내 필즈상을 안겨준 ‘무오-세드릭 정리’로 인도한다. 수학 정리가 완성되는 과정은 지그재그식의 혼란스러운 길을 닮았다. 위대한 수학자들의 초상이 리드미컬하게 등장하는가 하면, 현기증 나는 방정식들이 여기저기서 튀어나온다. 그의 수학은 어렵지만, 세드릭 빌라니만큼 미열에 들떠서, 열정적으로, 그리고 서정적으로 수학을 얘기하는 수학자는 드물 것이다.