검사는 LA에 500만 쌍의 커플이 살고 있는데, 이 사람이 말한 조건을 모두 충족시킬 확률을 계산하면 1,200만 분의 1이므로, 용의자가 범인임에 틀림없다고 주장합니다. 결국 1, 2차 법원에서는 유죄 판결이 났습니다. 하지만 대법원에서 무죄로 풀려나게 됩니다. 어떻게 풀려날 수 있었을까요?
대법원에서 변호인은 수학자를 증인으로 택했습니다. 검찰 측에서 범인의 인상착의를 모두 만족시킬 확률이 1,200만 분의 1로 낮다고 주장했는데, 그렇다면 이 커플이 범인이라고 할 수 있는지 묻지요. 그러자 수학자는 그렇게 주장할 수 없으며 그 조건을 만족시킬 다른 커플이 존재할 가능성이 크다고 말합니다. 즉, LA에 사는 500만 쌍의 커플 중 위의 조건을 모두 만족시킬 확률은 1,200만 분의 1이지만, 위 조건을 만족시킬 다른 커플이 존재할 확률은 거의 20%라는 것입니다(‘조건부 확률’의 문제). 따라서 이들을 범인으로 확정할 수 없다고 했고 용의자는 무죄로 풀려나죠. 이렇듯 일상에서 수학이 큰 역할을 하는 경우를 자주 볼 수 있습니다.
--- p.23~24

자연현상을 수학적인 모델로 예측하기는 기본적으로 불가능합니다. 어느 정도는 설명해줄 수 있지만 100% 설명은 못한다는 거죠. 아인슈타인은 “어떤 수학적 법칙이 실재를 언급하는 한 법칙은 확실치 않고, 또한 모델이 확실치 않은 한 실재를 나타내지 못한다”고 했습니다. 이를 불확실성의 정량화라고 하지요. 요즘 응용수학에서 뜨고 있는 분야인데, 불확실성을 어떻게든 이해해보자는 겁니다.
2002년 2월, 9·11 테러 이후 럼스펠트가 기자 간담회를 엽니다. 기자들은 알 카에다와 후세인이 어떤 관계가 있는지 질문하며 “테러리스트 집단과 바그다드가 직접적인 관련이 있다는 증거가 없다는 보고서가 있다”고 합니다. 그러나 럼스펠트는 “우리가 알고 있는 것도 있고, 우리가 모르는 것이 있다는 것도 알고, 또 우리가 모르는 걸 모르는 것도 있다”고 대답합니다. 이는 수학에서도 마찬가지입니다. 불확실성의 정량화란 이렇게 불확실한 현상에서 신뢰할 수 있는 구간을 찾는 것입니다.
수학은 자연을 기술하는 언어일 뿐만 아니라, 우리 몸의 작동 메커니즘을 이해하는 중요한 도구로 쓰일 수 있습니다. 그리고 수학을 기반으로 미래 산업을 준비할 수 있습니다. 지금 4차 산업이 진행 중인데, 4차 산업을 미리 내다보고 준비한 학자들이 많았습니다. 우리는 5차, 6차 산업을 준비해야겠지요.
그 결과, 최근에 뜨고 있는 학문 분야가 양자생물학입니다. 이는 양자역학을 세포 수준에 적용해서 그 기저를 이해하려는 학문입니다. 지금까지는 거시적으로 복잡계 시스템의 집단 역학을 살펴봤다면, 이제는 양자 수준에서 바라봐야 하지 않을까요?
--- p.60~61

위대한 수학자 가우스는 “과학의 여왕은 수학이고, 수학의 여왕은 정수론이다”라고 말했습니다. 수론에는 많은 난제들이 있는데, 리만 가설, 쌍둥이 소수 문제, 골드바흐 문제, abc 예상, BSD 추측 등이 있습니다. 아직도 해결이 안 되어 많은 수학자들이 굉장히 수고하고 있지요.
수론의 문제는 각종 수학을 동원합니다. 때에 따라서는 전혀 새로운 개념을 통해 문제가 해결되기도 하고, 굉장히 복잡하지요. 수론의 난제들의 특징은 일단 해결이 잘 안 된다는 거죠.
그중 abc 예상은 2012년에 모치즈키 신이치라는 수학자가 증명했다고 주장했습니다. 그렇지만 아직 증명으로서 검증된 것은 아닌 듯합니다. 그 증명이 맞다고 수학자들이 공감하지 않고 있거든요. 유명한 수학자 숄체도 증명이 문제가 있다고 하면서 아 직 증명으로서 인정받지 못합니다. 그런데 모치즈키 증명이 500페이지는 됩니다. 굉장히 복잡하고, 새로운 수학이에요. 많은 사람들이 지금도 연구하고 있고 언제 검증될지는 알 수 없습니다. 이렇듯 수론은 복잡하고 어렵지요.
--- p.74~75

이렇듯 빅데이터가 다양하게 이용되면서 통계에 대한 관심이 굉장히 높아졌습니다. 구글 수석 경제학자 할 베리언은 2009년 에 향후 10년간 가장 섹시한 직업이 통계학자라고 할 정도였지요. 그러다가 ‘데이터과학’이라는 말이 새롭게 등장합니다. 그러자 2013년 〈하버드 비즈니스 리뷰〉에서는 “21세기 가장 섹시한 직업이 데이터과학자”라고 할 정도가 됩니다.
도대체 데이터과학자와 통계학자의 차이는 무엇일까요? 그다지 큰 차이는 없지 않을까 싶습니다만, 안타깝게도 통계학자라는 용어는 죽음을 맞이하고 있는 것 같습니다. 구글 트렌드를 확인했더니 통계학자는 점점 줄어들고, 데이터과학자라는 말은 점점 늘어가고 있는 것을 알 수 있습니다.
--- p.105~106

게임 이론을 한마디로 설명하기는 어렵지만, 친구들끼리 하는 카드 게임 같은 것을 연구하는 학문이라고 생각해도 되지 않을까 싶습니다.
카드 게임은 서너 명이 모여서 치는 경우가 많지요. 그래서 숫자가 한정돼 있고, 노력과는 상관 없이 자신이 아무리 잘해도 좋은 패가 안 들어온다든지, 옆 사람이 고수라면 진다는 특징이 있습니다. 즉, 옆의 사람에 의해 영향을 받는 상황이지요. 그런데 이런 일이 경제 현실에서 많이 벌어지고 있습니다.
삼성전자가 열심히 핸드폰을 만들어도 아이폰이나 엘지전자에서 그보다 더 좋은 걸 만들거나 새로운 방법을 쓰면 잘 팔리지 않을 수 있지요. 그러니 열심히 노력하는 만큼 애플이나 엘지전자에서 어떤 행동을 하는지 신경 씁니다. 마치 내 패가 이 정도인데 다른 사람 패가 더 좋은지 신경 쓰는 것처럼 말이지요. 이를 전략이라고 하는데, 이런 전략적인 상황을 분석하는 것이 게임 이론이라고 생각하면 됩니다.
--- p.164

2007년, 화이자는 PF-670462라는 신약 후보 물질을 개발합니다. 이 약을 쥐에게 주었더니 갑자기 다른 시간에 일어났습니다. 약 농도에 따라 마음껏 생체시계를 조절할 수 있는 것이죠. 그런데 이 약은 하루 중에 언제 먹느냐에 따라 효과가3 배 정도 달라집니다. 생체 시계는 하루 종일 똑같은 상태에 있지 않아서 끊임없이 바뀌기 때문에, 약도 언제 복용하느냐에 따라 효과가 달라지는 겁니다.
뿐만 아니라 이 약으로 조절된 생체시계는 빛에 의해서 다시 원상태로 돌아오려고 합니다. 즉, 약의 효과가 빛에 의해 반감되는 것이지요. 그러니 이 약을 여름에 먹느냐, 겨울에 먹느냐에 따라, 혹은 평소에 빛 노출 정도에 따라 효과가 달라지겠지요. 이러한 복잡한 모든 경우를 실험하는 것은 거의 불가능합니다.
화이자에서 수학 모델을 이용해서 약의 효과를 테스트할 수 있겠느냐고 요청해서 이 연구에 참여하게 되었습니다. 굉장히 정확하고 정밀한 모델이 필요해서 생체시계를 구성하는 모든 분자들을 식으로 담아 250여 개의 미분방정식을 세웠습니다. 이 모델을 가지고 가상 실험을 해봤더니 실제 실험 결과를 잘 구현할 수 있을 뿐만 아니라 특정한 실험 조건이 아닌 다양한 조건하에서 약의 효과를 예측할 수 있었습니다. 즉, 약 먹는 시간이 달라지면 어떻게 되는지, 여름과 겨울에 어떻게 약의 효과가 달라지는지 확인하여, 이를 바탕으로 실험할 수 있는 거죠.
이 약은 환자의 생활 패턴과 환경까지 고려해야 하는 굉장히 복잡한 약입니다. 처방하기가 너무 어렵지요. 그래서 미분방정식을 바탕으로 생활 패턴과 환경을 계산해서 약 먹을 시간을 알려주는 앱을 개발할 계획입니다.
--- p.208~209

새로운 문명, 새로운 문제가 등장하면 새로운 수학이 필요해지곤 합니다. 농경시대에는 땅을 나누는 일이 제일 중요했습니다. 또한 농사를 지으려면 천체의 움직임을 예측할 수 있어야 했으니, 기하학이 가장 중요한 관심사를 풀어주는 도구였습니다. 상업이 발전하고 교류하면서는 돈 계산이 중요해지면서 대수학이 발달했습니다. 고대, 중세를 넘어서 근대에 들어서면서 과학 혁명이 일어났고 물리에 대한 질문이 대두되었습니다. 이때 미분이라는 도구가 등장해 그런 문제들을 해결하고 발전시켜왔습니다. 즉, 각 시대에 대두된 문제가 새로운 수학을 만들었지요. 현대에는 컴퓨터와 정보 통신의 발전에 맞춰서 수치해석이나 응용수학이나 통계학 등 응용수학이 발전했습니다.
그런데도 문제는 다 풀리지 않았습니다. 환자 1,000명의 평균적인 뇌 모양이 어떤지, 일반적인 사람 100명과 특이한 5명의 차이를 얼마만큼 규정할 것인지도 알 수 없습니다. 이제까지는 수학적으로 다뤄보지 않은 비유클리드 기하학에 대한 질문에 답해야 하는 거죠. 더 나아가서 4차 산업혁명의 영상 자료는 새로운 함수 해석, 위상수학이라는 게 필요하고요. 모든 자료가 과거와는 달리 이산적인 비정형화된 자료이므로 이를 해결할 새로운 형태의 수학, 통계학이 필요할 것입니다.
그렇다면 어떤 수학이 필요할까요? 우선 당장 우리가 쓰고 있는 알고리즘을 좀 더 효율적으로 할 필요가 있지요. 고속 병렬 알고리즘이나 과학 계산 이론 등 아직도 풀어야 할 수많은 수학적 문제들이 남아 있습니다. 더 나아가서, 인공지능처럼 새로운 시도에 대해서는 제대로 된 가이드라인을 아직 찾지 못했습니다. 그러므로 딥러닝의 수학적 이론이 필요할 테고요. 궁극적으로는 과연 튜링기계를 넘어서 무엇을 해야 할까 하는 문제가 있습니다. 한 번도 경험해보지 못한 세계에 대한 수학적 상상력이 이런 문제들을 해결할 수 있을 것 같습니다.
--- p.236~237

이는 안드로메다 외계인과 지구인의 관계와 같아요. 이를테면 지구에서 암이 큰 문제인데, 아직 암을 정복하지 못했잖아요. 문제를 해결하고 싶은데 어떻게 해야 할지 모르는 거죠. 그런데 지구인과 같은 유전자를 가진 안드로메다의 외계인이 이미 암을 정복했다고 하면, 암을 어떻게 정복했는지 배워 우리 유전자에 그대로 적용할 수 있겠지요. 타니야마-시무라 추측이 그런 역할을 하는 거죠. 타원 곡선은 지구이고 보형형식은 안드로메다라면, 안드로메다에서 정보를 가져와 지구의 문제를 해결하는 셈이죠. (물론 정보를 반대 방향으로 보낼 수도 있고요.)
이렇게 정보의 흐름이 일어나면서 어려운 문제들을 해결할 새로운 실마리가 생기지요. 그게 랭글랜즈 프로그램의 핵심적인 역할이라고 볼 수 있어요. 난제를 해결하는 데 새로운 접근법을 제시해주고, 때로는 전혀 불가능해 보이는 문제에도 해결의 실마리를 줄 수 있는 거죠. 물론 만병통치약은 아니지만, 지금까지 많은 문제를 해결하였을 뿐 아니라 전에 없던 통찰력을 제공함으로써 패러다임의 변화를 가져왔다고 생각합니다.
랭글랜즈 프로그램은 현재도 계속 발전하고 있고, 여러 방향으로 확장되고 있습니다. 그중에 주목할 만한 것을 하나 꼽자면, 젊은 독일 수학자 숄체가 최근 굉장히 새로운 기하학을 도입하고 이로써 랭글랜즈 상호법칙에 새로운 접근법을 제시해서 필즈상 0순위로 여겨지고 있지요. (강연이 있은 후 2018년 국제 수학자 대회에서 숄체 교수가 예상대로 필즈상을 수상하였습니다.)
랭글랜즈의 대통일 이론은 지금까지는 성공적입니다. 다른 수학적 대상에서 오는 유전자가 같은 것을 상호법칙이라 한다면, 그의 상호법칙은 방정식의 유전자를 다른 수학적 대상들의 유전자와 연결지음으로써 통합을 이루어냅니다. 물론 랭글랜즈의 대통일이 수학의 모든, 또는 대부분의 문제를 해결할 수는 없지만, 우리가 굉장히 강력한 기반 위에 서서 수학을 바라볼 수 있게 해주겠지요.

<b>수학자들의 눈으로 본 세상</b><br/>인문학이나 생물학처럼 수학과 전혀 관련 없어 보이는 분야에 수학이 얼마나 큰 영향력을 미치고 있는지 알면 깜짝 놀라게 된다. 심지어 우리의 심장 박동을 미적분으로 풀어 이해하고 의학에 적용하고 있다는 것을 알게 되면 수학은 어디에나 있고 모든 것에 있다는 말을 수긍하게 된다. 수학에 익숙하지 못해도, 계산에 약한 사람이라도, 수학은 생각하는 방법이자 도구로서 세상을 보는 또 다른 관점을 제공한다. 계산은 수학에서는 극히 일부분에 지나지 않을 뿐, “과학은 지식의 총합이 아니라 생각하는 방법”이라고 칼 세이건이 말한 것처럼, 수학은 또 다른 사고방식을 제공하는 사고의 틀이다. <br/>세상에서 가장 어렵다는 수학 난제 리만 가설까지 다루는 이번 카오스 강연은 수학에 익숙하지 않은 사람이 이해하기에는 어려운 부분도 있지만, 세계와 우주를 이해하는 또 다른 도구이자 관점으로서 수학을 바라보게 되는 계기가 될 것이다.<br/><br/><b>1강 ‘세상 속의 수다’</b>에서는 얼핏 보면 무질서한 이 세상을 수학으로 이해할 수 있다고 설명한다. 생활과 밀접한 투표나 마케팅, 병원의 진단, 재판의 결과 같은 것에 수학을 적용하면 전혀 다른 결과를 이끌어낼 수 있다. 수학은 어렵게 느껴지고 점점 더 어렵게 발전했지만 사실 단순한 것을 바탕으로 하며, 우리의 삶을 더 아름답게 바꾸어갈 것이다.<br/><br/><b>2강 ‘자연에 숨어 있는 수학적 질서를 찾아서’</b>에서는 태양계와 같은 복잡계 시스템의 집단 현상을 설명한다. 플로킹, 동기화, 카오스와 같이 얼핏 무질서해 보이지만 어떻게 보면 정밀한 움직임을 수학적으로 이해하고, 그 복잡한 상호작용을 수학적으로 풀어내는 과정을 보여준다.<br/><br/><b>3강 ‘수학 역사상 가장 유명한 난제, 리만 가설’</b>에서는 수학계의 여러 난제 중 하나인 리만 가설에 대해 설명한다. 전공자조차 이해하기 어려운 리만 가설이지만, 사실 이는 정확히 소수의 개수를 세는 문제라고 단순하게 말할 수 있다. 이런 리만 가설이 무엇을 배경으로 한 것인지, 왜 어려운지, 누가, 어떤 시도를 하고 있는지 알려준다.<br/><br/><b>4강 ‘디지털 인문학과 데이터과학, 셰익스피어에서 예송 논쟁까지’</b>에서는 빅데이터 시대를 맞이하여 데이터과학이 무엇인지, 인공지능과 어떤 관련이 있는지, 인공지능이 인문학에 어떤 식으로 적용될 수 있는지 설명한다. 문학작품의 진위 여부를 가리고, 실록에 숨겨진 역사를 발견해내고 분석하는 데 데이터과학과 통계가 어떻게 응용되고 있는지 보여준다. 그리고 통계 지식이 우리 삶에 직접적으로 어떤 식으로 적용되는지도 알 수 있다.<br/><br/><b>5강 ‘고차원 비유클리드 공간으로의 초대’</b>에서는 기원전부터 전해 내려온 유클리드 기하학을 넘어선 비유클리드 기하학에 대해 설명한다. 유클리드의 공리로는 설명되지 않는 비유클리드 공간은 공간의 개념을 확장하고 바꿔놓았다. 고차원의 비유클리드 공간이 로봇 개발이나 인간 뇌의 이해에 어떤 연관이 있고 어떻게 응용되는지 보여준다.<br/><br/><b>6강 ‘게임 이론-인간의 행동을 예측하다’</b>에서는 게임 이론이 무엇인지, 경제학을 비롯한 우리의 삶에 어떻게 응용되고 있는지 설명한다. 단순히 가위바위보에서 어떻게 해야 이길지 아는 것뿐만 아니라, 치명적인 전염병이나 문화의 차이도, 경매에서 어떻게 해야 많은 이들에게 이득이 돌아갈지도 게임 이론으로 이해할 수 있음을 알 수 있다.<br/><br/><b>7강 ‘수학과 생물학의 아름다운 만남, 수리생물학’</b>에서는 생명현상이라는 복잡한 시스템을 이해하기 위해 수학과 생물학이 결합한 수리생물학을 설명한다. 생체리듬을 어떻게 수학적으로 이해할 수 있는지, 생체시계가 신약의 개발에 어떤 연관이 있는지, 미분방정식을 통해 이해하고 풀어낸다. 복잡하고 다양한 변수와 패턴을 포함한 미분방정식이 생물학에 적용되는 예를 살펴볼 수 있다.<br/><br/><b>8강 ‘세상을 바꾼 알고리즘, 알파고와 블록체인을 넘어 미래로’</b>에서는 알고리즘이 무엇이고, 어떻게 만들어졌으며, 어떻게 발전하고 어떤 역할을 하고 있는지 설명한다. 알고리즘은 아주 예전부터 경로를 찾는 방법의 수를 세는 것처럼 삶의 문제를 해결하는 도구였는데, 이것이 발전하여 컴퓨터가 되고 블록체인을 넘어 인공지능으로 이어진 것이다.<br/><br/><b>9강 ‘수학의 대통일 이론? 랭글랜즈 프로그램에 대하여’</b>에서는 수학과 과학을 아우르는 랭글랜즈 프로그램에 대해 설명한다. 랭글랜즈 프로그램은 물리학의 기본적인 세 가지 힘을 이해하려는 노력에서 시작되어 수학에서는 수학의 여러 분야를 통합적으로 이해하려는 시도로 발전했는데, 수학의 지평을 어떻게 넓혀가고 있는지 알려준다.<br/><br/><b>10강 ‘컴퓨터과학의 원천 아이디어가 나오기까지-튜링의 1935년 이야기’</b>에서는 컴퓨터를 만든 튜링의 이야기를 담고 있다. 튜링의 수학 논문에서 소품으로 등장했던 컴퓨터는 20세기를 바꿔놓았지만, 그 원천 아이디어는 사실 간단한 기계에서 출발한 것이었다. 튜링이라는 천재가 나타나게 된 환경이 우리나라에도 형성된다면, 그런 원천 아이디어를 만들어낼 인재가 얼마든지 나타나리라고 이야기한다.