고대 이집트부터 현재까지, 암호의 역사를 담다

성서 속 코드에서 보이니치 필사본에 이르기까지, 고대 이집트 기념물에 새겨진 미세하게 변형된 상형 문자에서 르네상스 그림 속에 숨은 단서에 이르기까지, 우리는 과거로부터의 비밀 메시지를 담은 수수께끼 같은 암호에 둘러싸여 있다.

고대 이집트의 서기관에서 현대의 컴퓨터 프로그래머에 이르기까지, 암호 개발의 전체 역사를 포괄하고 있는 이 책은 가장 비밀스럽고 신비로운 이 기술에 관한 흥미로운 통찰력을 제공한다. 또한 율리어스 카이사르가 중요한 전시 메시지의 의미를 감쪽같이 감춘 방법을 보여주고, 프란시스 월싱엄 경(잉글랜드 최초의 첩보기관 창립자)이 엘리자베스 1세에 대한 음모를 저지하기 위해 암호화된 편지를 사용할 수 있었던 방법을 설명한다. 또 냉전 시대에 고안되고 해독되었던 역대 가장 복잡한 암호에 대해서 설명하며, 오늘날 범죄와 테러에 맞서기 위해 암호 해독이 어떻게 사용되고 있는지도 살펴본다. 더불어 역사 속 모든 시기의 암호를 어떻게 해독하는지 보여주는데, 그중에는 오늘날까지 사용되고 있는 암호도 여럿 포함된다.

도라벨라 암호나 빌 페이퍼 암호처럼 아직 깨지지 않은 것으로 유명한 암호에 도전해보고 싶다거나 제2차 세계대전의 나바호 통신병에 대해 좀 더 많은 것을 알고 싶다면, 또는 암호 개발 기술의 길고 흥미진진한 역사를 간단히 훑어보고 싶다면, 이 책은 확실하고 유용한 길잡이가 될 것이다.

카이사르의 암호문 : 카이사르는 고대 로마에서 가장 유명한 통치자다. 그는 전쟁 회고록 『갈리아 전쟁』에서, 전시의 중요한 메시지가 적의 손에 들어갈 경우를 대비해 그 의미를 교묘하게 감추는 방법에 대해 설명하고 있다. 로마군이 현재 프랑스, 벨기에, 스위스가 위치한 지역의 군대를 상대로 전쟁을 하던 시기, 카이사르의 집정관인 키케로가 적에게 포위되어 항복을 목전에 두고 있을 때였다. 지원군이 곧 도착할 것이라는 내용을 적들 모르게 키케로에게 알리고 싶었던 카이사르는 전령을 통해 그리스 문자를 사용한 라틴어 편지를 보냈다. 전령은 키케로의 막사에 들어갈 수 없으면 창에 편지를 묶어 요새 안으로 던지라는 명을 받았다.

‘갈리아인은 지시대로 창을 던졌다.’ 카이사르는 회상했다. ‘그런데 창이 망루에 단단히 꽂히는 바람에 이틀 동안 우리 군대가 그 창을 보지 못했다. 그러던 셋째 날, 한 군인이 창을 발견하여 키케로에게 가져다주었다. 편지를 읽은 키케로가 열병식에서 그 내용을 낭독해 주었더니 모두가 기뻐해 마지않았다.’ 고대 로마인들은 카이사르가 암호문을 사용했다는 사실을 잘 알고 있었다. 역사가 수에토니우스 트란퀼리우스(Suetonius Tranquillus)가 카이사르 사후 100년이 지나 기술한 전기에 따르면, 카이사르는 비밀리에 할 말이 있으면 ‘그것을 사이퍼로 작성했다’고 한다.

가장 불가사의한 책, 보이니치 필사본 : 이 책을 해독하려는 필사적인 시도에도 불구하고, 보이니치 필사본의 대부분이 아직도 수수께끼로 남아 있다. 책의 이름은 1912년 로마 근처 예수회대학 도서관에서 이 책을 재발견한 폴란드의 책 애호가 윌프레드 보이니치(Wilfrid M. Voynich)에서 딴 것이다. 거의 모든 페이지에 별, 식물, 인간의 형상이 담긴 난해한 삽화가 수록되어 있다. 몇몇 쪽에는 텍스트가 나선형으로 쓰여 있는가 하면, 어떤 쪽에는 텍스트가 가장자리에 구획 별로 배열되어 있다. 대부분 복잡한 그림을 위에 먼저 그리고 나서, 남은 공간에 텍스트를 끼워 넣은 것처럼 보인다.

그러나 보이니치가 마침내 그 비밀을 드러낼 것이라는 희망은 있다. 2014년, 영국 베드포드셔대학의 응용언어학 교수 스티븐 백스(Stephen Bax)는 필사본 해독을 위해 새로운 접근 방식을 취했다. 책에 실린 식물 표본을 최대한 식별한 후, 이를 해당 식물의 이름과 연관해 암호 알파벳이 생성됐는지 보는 것이다. 백스가 첨단 컴퓨터를 사용하여 필사본의 정보를 처리하는 대신, 이와 같은 ‘상향식’ 접근법을 사용한 이유는 이집트 상형 문자와 선문자 B를 해독할 때도 이러한 방법으로 성공했기 때문이다.

다른 중세 초본서들을 분석한 결과, 백스는 삽화 속 식물의 이름이 같은 페이지 본문 첫 번째 줄, 첫 번째 단어일 가능성이 있다는 가설을 내놓았다. 첫 시도에서 그는 필사본의 15쪽과 16쪽을 검토하였다. 백스는 이후 텍스트에 반복하여 등장하는 OROR에 주목했다. 그는 이것이 ‘노간주나무(juniper)’를 의미하는 아랍어 또는 히브리어 단어(arar)를 나타낼 수 있으며, 같이 나오는 삽화는 지중해 동부에서 흔히 볼 수 있는 가시노간주나무(Juniperus oxycedrus)를 그린 것이라는 의견을 제시했다. 그는 해당 소리를 이용하여 9개의 추가 단어를 식별하고, 추가로 14개의 기호와 연속 모음의 대략적인 음가를 제시하는 것으로 이러한 식별을 강화했다. 이를 통해 백스가 내린 결론은 보이니치 필사본이 날조는 아니지만, 정교한 사이퍼도 아니라는 것이었다. 그는 이 필사본이 자연계를 공들여 설명하는 학술 논문이며, ‘문화 간에 정보를 이해하고 전파하기 위한 설명서 역할을 하는 것 같다’는 견해를 피력했다.

스코틀랜드 여왕, 메리의 죽음과 암호 : 1587년, 잉글랜드에서 가장 뛰어난 암호 분석가가 빈도 분석을 이용하여 군주를 죽음에 이르게 하고 국가의 미래를 결정한 일이 있다. 스코틀랜드 여왕 메리 1세는 1567년까지 스코틀랜드를 통치하였으나 이후 왕위를 포기하고 잉글랜드로 망명했다. 그러나 그녀의 사촌인 엘리자베스 1세는 헨리 8세의 조카딸이자 가톨릭 신자인 메리를 위협적인 존재로 보았던 터라 메리를 여러 성에 감금했다. 엘리자베스 여왕이 제정한 반가톨릭 법안은 나라에 공포 분위기를 조성하였으며, 투옥된 메리는 개신교도 여왕의 폐위를 원하는 중심이 되었다.

1586년, 메리의 신봉자인 안소니 바빙턴(Anthony Babington)이 엘리자베스 1세를 암살하고 메리를 다시 왕좌에 앉히기 위해 음모를 꾸몄는데, 메리와 비밀리에 소통하는 것은 쉬운 일이 아니었다. 이에 바빙턴은 신학생이었던 길버트 기포드(Gilbert Gifford)를 전령으로 고용했다. 젊고 대담한 기포드는 이내 맥주통을 이용하여 메리가 있는 샤틀레이 영지의 감옥 안팎으로 편지를 몰래 주고받을 방법을 찾았다. 그러나 놀랍게도 사실 기포드는 이중 스파이였다. 그는 엘리자베스 1세의 수석 비서관이자 잉글랜드 최초의 첩보기관 창립자인 프란시스 월싱엄 경(Sir Francis Walsingham)에게 이미 충성을 맹세한 터였다. 기포드는 메리의 편지를 잉글랜드 최고의 암호 해독가 토마스 필립스(Thomas Phelippes)에게 바로 전달했다.

메리가 외부와 하는 소통은 대부분 암호화되었지만, 필립스에게는 식은 죽 먹기였다. 그는 불어, 스페인어, 이탈리아어, 라틴어에 유창했고 위조의 달인으로 악명 높았다. 메리와 바빙턴 사이에 오가는 편지 비밀을 쉽게 밝힐 수 있었다. 7월 6일, 바빙턴은 메리에게 장문의 편지를 썼다. 그는 ‘왕위를 찬탈한 경쟁자의 처형’?엘리자베스 1세 암살?에 대해 메리에게 승인과 조언을 구했다. 이에 메리가 7월 17일 답신을 보내면서 그녀의 운명이 결정되었다. 월싱엄은 노련한 필립스에게 편지를 복사할 것과 음모에 가담한 이들의 신원을 요구하는 위조 추신을 코드로 만들어 추가할 것을 요구했다. 요구대로 명단이 작성되면서 메리가 음모에 관여한 사실도 입증되었다. 그로부터 며칠 후 바빙턴과 그의 동료들은 체포되어 런던탑으로 이송되었다. 10월이 되자 메리는 재판에 회부되었고, 1587년 2월 1일, 엘리자베스 여왕이 메리의 사형 집행 영장에 서명하였다. 그리고 7일 후 메리는 참수되었다.

냉전 시대의 코드 전쟁(The Cold War, code war) : 1943년 초, 미국 육군 신호정보국은 버지니아주의 알링턴 홀을 근거지로 소련의 외교 통신을 감시하는 비밀 프로그램을 만들었다. ‘베노나(Venona)’로 불린 이 프로그램은 전직 교사였던 진 그래빌(Gene Grabeel)에 의해 시작되었다. 전쟁이 끝나자, 언어학자 메레디스 가드너(Meredith Gardner)가 합류했다. 가드너는 전쟁 때 독일과 일본의 코드를 해독했던 인물로 이후 27년 동안 베노나의 주요 번역가이자 분석가로 활동했다.

베노나가 취급하는 메시지는 송신자가 누구냐에 따라 다섯 개의 시스템 가운데 하나로 암호화되었다. KGB, 소련 육군참모정보국, 소련 해군정보부, 외교관, 통상대표부가 각각 다른 시스템을 사용했던 것이다. 전직 고고학자 리처드 핼록(Richard Hallock) 중위가 통상대표부발 메시지를 처음으로 해독하였다. 그다음 해, 또 한 명의 암호 분석가 세실 필립스(Cecil Phillips)가 KGB 메시지에 사용된 암호 시스템의 기본 원리를 파악하였으나 메시지를 읽을 수 있기까지는 2년의 집중적인 암호 분석 기간이 필요했다.

소련이 사용하는 모든 암호 프로그램은 이중 암호화를 포함했다. 암호화의 1단계는 코드북에 있는 숫자 목록으로 단어와 구를 대체하는 것이었다. 2단계에서는 메시지를 더 복잡하게 만들기 위해, 송신자와 수신자가 사본을 가지고 있는 1회용 암호표에서 임의의 숫자를 취해 메시지에 추가하였다. 만약 소련이 이 ‘1회용 암호표’를 정확하게 사용했다면, 즉 여러 번 재사용하지 않고 한 번만 사용했다면, 메시지는 풀리지 않은 채로 남았을 것이다. 그러나 1회용 암호표의 일부가 복사본을 가지고 있었고, 이것이 연합군의 손에 들어가는 바람에 KGB의 메시지를 이해할 수 있는 길이 열리고 말았다.

1946년 말, 베노나 암호 분석가들이 해독한 한 메시지에 맨해튼 원자폭탄 프로젝트에 참여했던 과학자들의 이름이 나열되어 있었다. 많은 이들이 이 메시지와 원자폭탄에 관한 다른 정보로 인해 소련이 예상보다 훨씬 빠르고 쉽게 자체 무기를 개발할 수 있었다고 여긴다. 이는 두 초강대국의 관계를 냉각시킨 중요한 계기가 되었다.

1952년 해리 트루먼 대통령은 각 군대의 암호국을 통합한 미국 국가안보국(NSA)을 설립했다. 초기에는 금괴 매장지로 유명한 켄터키주 포트 녹스에 본부가 있었으나, 이후 메릴랜드주 포트 미드로 옮겼으며 현재까지 그곳에 기반을 두고 있다. 1950년대 미국의 암호 분석은 망명자에 의존하는 부분이 컸기 때문에 최신 정보에 뒤처진 상태였다. 그러나 베노나는 1980년까지 계속해서 전시 메시지를 해독했다. 1960년대부터 1970년대까지 소련 첩보원의 신분이 다수 밝혀진 것은 베노나의 지속적인 작업 덕분이었다. 1995년이 되어서야 베노나가 취급했던 총 3,000개의 메시지가 공개되면서 냉전 시기 암호 분석의 역할이 드러났다.