“질문에서 가설, 선택과 검증까지
수학적 사고의 전 과정을 한 권에 담다”

? 무엇을 가정하고, 무엇을 버릴지 판단하는 기준
? 수식보다 먼저 등장해야 할 질문들
? 계산 결과를 해석하고 한계를 인식하는 사고법

수학 시간에 이런 질문을 들어 본 적이 있을 것이다. “정확한 하나의 답은 무엇일까요?” 우리는 그렇게 배워 왔다. 빠르게 계산하고, 정확한 답을 맞히는 것. 수학은 정답을 향해 곧장 달려가는 과목처럼 보였다.
그런데 현실은 조금 다르다. 예를 들어 보자. 어떤 데이터의 관계를 함수로 만들어 그래프로 그렸더니, 점들이 거의 직선 위에 놓였다. 누가 봐도 “관계가 분명하네”라고 말할 만한 그림이다. 그런데 분석 방식을 조금 바꾸자 전혀 다른 이야기가 나왔다. 그래프는 같은데, 의미는 완전히 달라진 것이다. 무엇이 틀린 걸까? 계산이 잘못된 걸까? 이 책은 바로 그 지점에서 질문을 던진다.
‘혹시 우리가 놓치고 있는 건 계산의 결과가 아니라, 그 계산을 바라보는 방식이 아닐까?’
이 책 『수학자의 생각 수업』은 수학을 문제 풀이 기술로 다루지 않는다. 대신, 문제를 어떻게 바라보고 정의하는지부터 차근차근 보여 준다. 현실의 문제는 시험 문제와 다르기 때문이다. “조건은 아래와 같다”라고 깔끔하게 정리되어 제공되지 않는다. 우리가 직접 결정해야 한다. 어떤 요소를 포함할지, 어떤 요소는 단순화해도 되는지, 어디까지를 가정으로 둘지 등 이런 선택의 과정이 바로 ‘모델링’이다.

복잡한 세상을 이해하는 30번의 대화

“수학은 사람의 학문이다.” 이 책의 저자는 이 한 문장으로 책을 시작한다. 수학은 누군가 반드시 완성해야 하는 임무도, 지적 수준을 판단하는 수단도, 완벽한 학문도 아니라는 선언이다. 사람에게 한계가 있듯 수학도 마찬가지이며, 사람과 수학은 서로의 한계에 마주하며 끊임없이 저항하고 진화한다는 통찰이 책 전체를 관통한다.
그렇다면 한계가 있는 수학이 어떻게 인류 문명과 과학 기술 발전의 핵심 역할을 수행했을까? 그는 이 질문에 답하기 위해 수학적 모델링이라는 렌즈를 제시한다. 수학적 모델링이란 단순히 실세계 문제를 수학으로 해결하는 것이 아니다. 그것은 “어떤 현상 이면에 있는 수학 구조를 찾아내고, 이러한 구조를 활용해 현상을 이해해 나가는 과정”이다. 피타고라스학파의 이념에서 시작해 미적분, 위상수학에 이르기까지 많은 수학적 개념이 실은 수학적 모델링의 산물이었다.
이 책은 호기심 많은 학생 수연, 전통적 사고를 대표하는 손 선생님 그리고 철학과 과학에 정통한 신세대 교사 주 선생님의 이 세 명이 나누는 대화로 펼쳐진다. 30개의 대화 주제를 통해 저자는 수학적 모델링의 전 과정을 입체적으로 보여 준다. 첫 대화에서 수연이 던지는 질문은 명료하다. “수학적 모델링이란 무엇인가요?” 주 선생님의 답변은 더욱 날카롭다. “고등학교에서 응용문제처럼 답이 하나만 있는 문제는 없단다.” 현실은 명확한 정답이 없는 열린 문제들로 가득하며, 무궁무진한 접근 방식을 허용한다. 그것이 바로 수학적 모델링이 필요한 이유다.

우리에게 필요한 건 계산 능력이 아니다

책 속에는 이런 장면이 등장한다. 특정 상황에서 가장 좋은 선택을 찾는 문제다. 비용을 최소로 하면 시간이 늘어나고, 시간을 줄이면 위험이 커진다. 그렇다면 무엇이 최선일까? 처음에는 하나의 답만 있을 것처럼 보인다. 하지만 조건을 조금만 바꾸면 답도 달라진다. 비용을 더 중요하게 생각하는 사람과 안전을 더 중요하게 생각하는 사람의 선택은 같을 수 없다. 그 순간 우리는 깨닫게 된다. ‘최적’이라는 말이 생각보다 간단하지 않다는 것을.
이 책이 흥미로운 이유는 수학의 한계까지 솔직하게 보여 주기 때문이다. 측정에는 항상 오차가 있고, 모형은 현실을 완벽하게 담을 수 없다. 그래서 계산이 끝난 뒤에도 생각은 계속된다. ‘이 결과를 어디까지 믿을 수 있을까?’ ‘내가 세운 가정은 충분히 타당할까?’ 이 질문을 반복하는 과정에서 수학은 점점 살아 있는 도구가 된다.
우리는 지금 수많은 데이터와 숫자 속에서 살아간다. 인공지능은 순식간에 분석해 내고, 그래프와 예측 결과를 화면에 띄운다. 그럴수록 더 중요해지는 것은 계산 능력이 아니라 해석 능력이다. 이 책은 그 힘을 길러 준다. 숫자를 마주했을 때 한 번 더 생각하게 만든다. 그래프를 보면 ‘왜 이렇게 나왔을까?’를 묻게 되고, 결론을 보면 ‘어떤 가정에서 나온 걸까?’를 따져 보게 된다.
그렇게 사고의 방향이 조금씩 바뀐다. 수학은 여전히 엄밀한 학문이다. 하지만 이 책을 읽고 나면 알게 된다. 엄밀함은 출발점일 뿐, 끝이 아니라는 사실을. 정답이 하나가 아닐 때, 우리는 더 깊이 생각하게 된다. 그리고 그 생각의 과정이 세상을 이해하는 가장 단단한 방법임을 이 책은 조용하지만 설득력 있게 보여 준다.

과학자처럼 생각하고, 수학자처럼 해결하라

모델링 과정은 일곱 단계를 거친다. 호기심이 생겨나고, 문제에 대한 감성적 인식이 형성되며, 기존 패턴을 시도하다 한계에 부딪히고, 감성적 통찰이 재개입하여 혁신 방향을 제시하며, 새로운 패턴을 창조하고, 검증과 추상화를 거쳐, 다시 처음으로 돌아가 반복한다. 이 과정에서 학습자는 예술을 감상할 때와 비슷한 감성적 깨달음을 얻는다. 전율, 몰입, 기쁨, 위안… 이는 이성만으로는 도달할 수 없는 영역이다.
이 책은 그저 그런 수학 교재가 아니다. 수학을 통해 세계를 이해하고, 자신을 이해하며, 진정한 사유의 자유를 경험하는 안내서다. 저자가 연구실 포스터에 적어 놓았다는 문구가 이 책의 정신을 압축한다. “수학 모델링 연구소에서 자유의 기술과 과학의 정신을 배우고 도구화될 위험으로부터 스스로를 해방하라.”
수학은 사람의 학문이다. 그리고 사람은 자유를 향한 존재다. 수학적 모델링은 그 자유를 실현하는 하나의 방법이다. 30번의 대화는 마치 30개의 문처럼 펼쳐진다. 각각의 문을 열 때마다 새로운 세계가 나타나고, 이전에 품었던 의문이 다음 문의 열쇠가 된다. 문제 선택에서 시작해 요소 분석, 기본 가설, 데이터 수집을 거쳐 관계 존재론과 쌍대성으로 나아가고, 대칭과 측정, 복잡계와 작용 원리를 지나 은유와 방법론으로 이어지며, 과학의 전통과 사고방식을 배우고, 측정과 동역학, 진법과 검증을 거쳐 마침내 감성과 이성의 변증법에 도달한다.
자연스럽게 이어지는 이 여정은 우리에게 묻는다. “당신은 무엇을 보고 있는가? 당신은 어떻게 생각하는가? 당신은 왜 그것을 아름답다고 느끼는가?” 수학은 답을 주기 전에 먼저 질문하게 만든다. 그리고 그 질문 속에서 우리는 비로소 자유로워진다.