게으름의 예술, 알고리즘이 만들어내는 가능성

알고리즘은 우리가 뭔가를 해결하려 고민할 때 그걸 어떻게 고민할 것인가 하는 방법, 즉 문제를 보는 시각이라고 할 수 있다. 더 자세하게는 ‘문제를 풀기 위한 일반적이고도 단계적인 방법’이라고 할 수 있다. 알고리즘은 문제를 해결하기 위한 단순한 과정들로 이루어져 있고, 이 과정들이 아주 많이 모여서 순차적으로 진행될 때, 그 진가가 나타난다. 그런데 사실 알고리즘은 우리가 아주 오랜 옛날부터 사용해온 사고법의 일부이며, 극도의 효율을 추구하는 게으름의 예술이다.

예컨대, 두꺼운 전화번호부책에서 원하는 전화번호를 찾을 때 우리는 수십만 개의 이름을 앞 페이지에서부터 일일이 뒤적여 찾진 않는다. 우리는 1000페이지의 전화번호부에서도 원하는 번호를 대략 대여섯 번의 손놀림으로 찾아낼 수 있다. 별 생각 없이 진행하는 전화번호 검색에는 주어진 정보 중에서 필요하지 않은 정보 묶음 절반을 버리고 목표로 하는 정보가 있는 나머지 절반의 정보 묶음만 순차적으로 살펴보는 이진법을 이용한 검색 알고리즘(이진검색법)이 숨어 있다. 그 원칙은 아주 단순하지만, 엄청나게 많은 정보를 처리할 수 있는 가능성을 지닌 알고리즘의 한 예인 것이다.

알고리즘의 발달은 단순한 일을 반복 처리하는 컴퓨터와 만나면서 그 가능성과 효과가 폭발적으로 커졌다. 그런데 사실 알고리즘의 발전은 컴퓨터 성능의 발전을 훨씬 능가한다. “예컨대 1990년 두 팀이 똑같은 정수선형프로그램을 풀게 되었다고 가정해보자. 두 팀은 2014년으로 잠시 시간여행을 할 수 있다. 제1팀은 2014년의 최신 컴퓨터를 가지고 돌아와 1990년 당시 최고의 해결 과정(알고리즘)을 적용한다. 제2팀은 2014년 최고의 해결 과정(알고리즘)을 적용하되, 사용한 컴퓨터는 1990년의 것이다. 이때 제1팀은 시간여행을 하지 않고 문제를 풀었을 경우보다 6500배나 빨리 문제를 풀 수 있다. 그런데 제2팀, 즉 1990년의 컴퓨터에 새로운 알고리즘을 적용한 이 팀은 똑같은 문제를 87만 배나 더 빠른 속도로 풀어낸다. 알고리즘의 진보가 컴퓨터 계산 성능의 진보 속도를 100배 이상 뛰어넘은 것이다.”

컴퓨터 성능의 발전은 프로세서 칩의 집적회로 밀도가 높아짐으로써 저장공간과 처리능력이 커지는 방식으로 이루어지지만, 이런 식의 용량압축에는 분명 한계가 있게 마련이다. 게다가 이미 발열 문제로도 그 한계에 다다르고 있는 실정이다. 한편, 알고리즘의 성능 향상은 그야말로 ‘무(無)’에서 비롯된다. 연구 인력이나 자원, 비용이 컴퓨터처럼 그렇게 집약적으로 들어가지 않는다. 우리가 덜 번거로운 방법으로 해결책을 찾으려는 과정에서, 어떻게 하면 더 쉽게 일을 처리할 수 있을지 고민하는 과정에서 알고리즘의 성능이 자연스럽게 향상되는 것이다. 미래 컴퓨터의 대안이라고 불리는 양자컴퓨터도 ‘양자컴퓨터 알고리즘’으로 먼저 그 가능성이 제시된 바 있는데, 이 책에서는 양자컴퓨터 알고리즘의 원리도 '장거리 데이트’라는 일상의 사례를 통해 흥미롭게, 쉽게 풀어내고 있다.

사회가 점점 더 복잡해고, 다양한 문제들이 도출되는 현대 사회에서 이렇듯 알고리즘적인 해결책, 즉 경제적이고도 효율적인 알고리즘의 해결방식이 중요해지고 있는데, 이 책은 그 가능성과 사례들을 두루 살펴볼 수 있는 길잡이가 되어줄 것이다.


복잡성을 길들이고, 다양성과 가능성을 일궈내려면
우리에겐 알고리즘적 시각이 필요하다

이 책은 알고리즘에 대한 오해들을 속 시원하게 풀어주고 있다. 알고리즘은 흔히 문제를 풀기 위한 단계적 절차나 규칙으로 설명되며, 요리 레시피에 빗대어 설명되는 경우가 많다. 그래서 하나의 결론을 낳는 딱딱한 원칙, 기계나 쓸 법한 무엇인가로 오해를 받기 십상이다. 그러나 알고리즘은 지극히 인간적인 사고의 일부분이며, 기준이나 입력 데이터가 달라질 때마다 엄청나게 다양한 해결책을 도출해내는 능력을 발휘한다. 일례로, <슈퍼마리오> 게임에 숨은 알고리즘은 누구나 검색을 통해 알 수 있지만, 누구나 그런 원리를 안다고 모든 게임 레벨을 클리어할 수 있는 것은 아니다. 사용자의 입력 데이터에 따라 어마어마하게 많은 유형의 알고리즘 결과가 도출되기 때문이다. 게다가 처리해야 할 정보나 데이터가 많을수록 알고리즘은 더욱 막강한 힘을 발휘한다.

한마디로, 데이터의 다양성을 해치지 않으면서 복잡성을 길들일 수 있는 유용한 수단인 셈이다. 오늘날 잡지사 편집장이 좋은 원고를 고르기 위해 수백만 건의 원고를 일일이 다 살펴본다면 아마 제대로 업무를 처리할 수 없을 것이다. 자신이 원하는 기준과 모델을 반영하여 검색하는 과정, 즉 알고리즘의 도움을 받아야만 더 효과적이면서도 빠르게 최적의 원고를 찾아낼 수 있다. 또한 알고리즘은 단 ‘하나’의 풀어내는 해결 과정이 아니다. 원칙은 같으나 응용되어 그 모습이 무수히 다양하게 변형되어 나타나는 문제들, 즉 다양하고 복잡한 문제들의 유형에 맞서 명료하게 해결책을 찾아가는 과정이라고 할 수 있다.

그렇기 때문에 알고리즘은 21세기의 얽히고설킨 복잡한 문제, 사람들의 다양한 요구와 이해관계가 포함되는 어려운 사회 문제(예컨대, 물이나 장기 같은 부족한 자원 분배 문제 등)에 대응할 수 있는 유용한 수단이기도 하다. 또한 우리는 사회에서, 조직에서 중요한 결정을 내릴 때 유용한 정보가 최대한 많이 반영되기를 원한다. 그러나 사회가 커질수록, 조직이 커질수록 너무 다양하고 세세한 정보들이 범람해 최적의 해결책을 찾기 힘들다. 그러므로 이때 복잡한 문제들에서 그 원칙이나 유형을 꿰뚫어볼 수 있는 알고리즘적 사고, 문제를 해결하는 과정에서 정보를 효율적으로, 최적으로 처리하기 위한 알고리즘적 과정이 필요한 것이다. 물론 알고리즘은 그 자체로 기능할 수는 없다. 인간이 마련해주는 문제 해결의 ‘기준’, 올바른 ‘입력데이터’가 있어야 한다. 그렇지 않으면 알고리즘은 전혀 엉뚱한 결과를 도출해낼 수 있다.

따라서 저자는 아무리 기술이 발달해도, 주체는 알고리즘이 아니라 인간이라고 강조한다. 그리고 21세기의 복잡한 문제, 복잡한 관계, 복잡한 머릿속을 풀어내는 실마리는 문제의 복잡성에 숨겨진 원칙을 찾아내는 ‘알고리즘적인 시각’, 그리고 인간들이 서로 투명하게 정보를 공유하고 합의하여 만들어낸 알고리즘의 ‘기준’이 될 것이라고 이야기한다. 요컨대, 개개인의 다양성이 존중되면서도 좀 더 평등하게 문제해결이 이루어지는 세계, 더 인간적인 세계로 가는 길은 알고리즘에 대한 연구와 이해를 통해 한층 더 가까워질 것이라고 말이다.

■ 추천사

전문성에 유머까지 갖춘 수학자가 일반 독자도 두루 읽을 수 있게 쓴, 드물게 재미있는 알고리즘 책이다. _도이칠란트푼크

엄청나게 매력적인 통찰을 제시하는 책이다. 우리에게 필요하지만 무한대로 주어지는 정보들을 어떻게 개념화하고 간추릴 수 있는지, 그 복잡한 원리와 과정을 풀어서 설명한 책이다. _

점점 더 우리의 일상에 파고드는 알고리즘의 수학적 과정을 일목요연하고 재치 있게, 이해하기 쉽게 전달하는 책이다. _ZDF방송 <아스펙테>

감동적이고 놀라울 정도로 반박의 여지가 없는, 유쾌한 알고리즘 여행안내서. _<슈트라세매거진>

■ 본문 중에서

알고리즘의 성능 향상은 말 그대로 무(無)에서 비롯된다. 알고리즘의 성능이 향상되는 데에는 보조 에너지나 더 우수한 재료 같은 추가 자원이 필요하지 않다. 우리가 그저 덜 번거로운 방법으로 해결책을 찾으려다 보니, 어떻게 하면 일을 더 쉽게 처리할지 고민하다 보니, 알고리즘의 성능이 저절로 향상되는 것이다.

알고리즘의 필요성이 점점 커지는 이유는 하나다. 바로 커다란 구조, 거대한 규모의 구조 때문이다. 알고리즘은 어떤 문제의 범위가 커졌을 때 그 장점이 한껏 발휘된다. 알고리즘은 거대한 기술 또는 경제 시스템의 주인이 될 수 있도록 해주는 전문가용 도구다.

알고리즘은 정보의 홍수를 헤쳐 나가기 위한 수단이다. 엄청난 양을 원활히 다룰 수 있다는 것이 바로 알고리즘의 장점이다. 다시 말해, 알고리즘은 처리해야 할 정보의 규모가 커져서 우리가 그 전반적인 상황을 정확하게 파악하지 못할 때 우리를 도와줄 수 있는 임시방편의 수단이다.

우리가 주목해야 할 것은 학문, 기술, 경제, 정치, 사생활에 미치는 알고리즘의 영향력이다. 알고리즘 가운데 상당수가 법률, 행정 규정, 계약 및 제도와 견줄 만한 의미를 갖고 있다. 알고리즘의 이런 역할은 앞으로도 계속될 것이다. 알고리즘이 이 역할을 어떻게 수행할지는 누가 그것을 이해하고 만들어 나가느냐에 달려 있다. 따라서 알고리즘은 사생활을 위협하는 것이 될 수도 있고, 정보화 시대의 장점을 포기하지 않고도 사생활을 보호해주는 수단이 될 수도 있다.

알고리즘의 본질은 확정된 규칙이 아니라, 거기에서 도출되는 다양성에 있다. 요리 레시피를 따르면 언제나 비슷한 요리를 만들 수 있다. 하지만 알고리즘은 인풋에 따라 예측 불가능한 다양성을 만들어낸다. 그렇기 때문에 알고리즘은 언제나 문제 유형의 맥락에서 설명된다. 똑같은 알고리즘이라도 어떤 인풋 데이터를 적용하는지에 따라 매우 다양한 결과가 나타나기 때문이다. 이런 의미에서 알고리즘은 게으름의 예술 작품이다. 미학적으로는 별 의미가 없는 원칙에서 어안이 벙벙할 정도의 다양성이 도출된다.

복잡성 이론이란, 하나의 문제를 해결하기 위해 자세한 추론을 하는 데, 즉 각 알고리즘을 찾아내는 데 얼마나 많은 상황이(비용이) 소요되는가 하는 것을 다루는 문제다. 이 비용은 알고리즘의 단점이 아니라, 그 문제의 본질이라 할 수 있다. 문제의 복잡성을 이해하는 것은 적절한 알고리즘을 연구하는 것과 궤를 같이한다. 무엇은 희망해도 좋고 무엇은 불가능한지 이해하는 사람은 올바른 알고리즘을 더 잘 찾아낼 수 있다.

알고리즘은 여전히 눈 먼 장군과 비슷하다. 알고리즘은 올바른 데이터가 입력될 때에만 제대로 기능한다. 그렇기 때문에 그 결과에 대한 책임은 우리에게 있다.

구글은 웹사이트의 링크를 추천서로 이해한다. 가능한 한 많은 추천서를 받은 사람은 평판이 훌륭해 보이고, 그의 추천서는 더욱 큰 가치를 지니게 된다. 반대로 많은 추천서를 써주는 사람의 추천서는 상대적으로 그 가치가 적다. 구글은 우리가 기업 내 직원의 영향력을 평가하는 것과 똑같은 방식으로 웹사이트들을 평가한다. 이것이 바로 구글의 핵심인 ‘페이지랭크Page Rank’다.

뭔가를 제대로 바라보기 위해 다 빈치는 거기에 어떤 규칙이 있는지 이해하려고 노력했다. 코덱스에는 물의 흐름에 관한 연구 내용이 많이 실려 있다(다 빈치에게는 놀라울 만큼 어색한 경우가 많이 보였던 것 같다). …… 그가 추구한 원칙은 ‘현상을 이해하려면 모든 것을 가능한 한 단순화해야 한다’는 것이었다.