제1장 양자역학 100년사
양자역학을 이해하는 데 있어 ‘무작위’라는 개념은 중요하다. 무작위란 어떤 결과가 나올지 전혀 예측할 수 없는 상황이다. 다양한 요소가 복잡하게 영향을 미치기 때문에 예측하기 어렵다는 의미에서 주사위의 눈이나 내일의 날씨도 무작위라고 할 수 있다. 양자역학에서의 무작위는 원리적으로 누구도 예측할 수 없고 결과가 정해져 있지 않은 상황을 의미한다.
양자역학적인 사고방식은 우리가 일상적으로 눈으로 보는 세계와 다르지만 이렇게 생각하지 않으면 설명할 수 없는 실험이 있다. 바로 전자를 이용한 이중 슬릿 실험이다. 실험은 이렇다. 전자총(전자를 방출하는 장치)으로 스크린을 향해 전자를 하나씩 날려 보낸다. 그리고 전자가 스크린에 부딪히면 기록되도록 한다. 단, 전자총과 스크린 사이에는 벽을 세우고 가느다란 두 개의 슬릿을 뚫어 둔다. 그러면 스크린에는 어떤 무늬가 나타날까? 〈본문 47쪽〉

제2장 양자컴퓨터 혁명
이 연구를 시작으로 ‘정보는 물리다’라는 철학이 점차 확산되었다. 정보도 물리인 이상, 정보 처리의 궁극적인 한계를 알기 위해서는 여기에 적용되는 물리 법칙을 알아야 한다. 이런 흐름을 타고 1981년에 매사추세츠 공과대학교에서 개최된 것이 ‘계산의 물리학(physics of computation, 수치 해석을 다루는 기존의 계산물리학(computational physics)과 구별되며, 정보 처리 과정이 지닌 근본적인 물리적 한계와 원리를 탐구하는 학문-옮긴이)’이라는 회의다.
이 전설적인 회의에는 지금의 양자컴퓨터의 초석을 다진 인물들이 참여했다. 그중 소립자물리학으로 노벨 물리학상을 받은 리처드 파인만(Richard Feynman, 1918~1988)은 “자연계는 고전역학으로 움직이지 않는다. 따라서 자연계를 효율적으로 시뮬레이션하려면 컴퓨터도 고전역학이 아니라 양자역학의 원리로 만들어야 한다”라고 지적했다. 〈본문 80~81쪽〉

양자컴퓨터 연구는 1980년대에 그 개념이 형성되었고 1990년대에는 후술할 암호 해독과도 관계 있는 소인수분해 알고리즘이 발견되는 등 많은 연구자가 참여해 크게 발전했다. 제1차 양자컴퓨터 붐이라고 할 수 있을 것이다.
하지만 1990년대 후반에 들어서면서 양자비트의 성능을 높이거나 개수를 늘리는 일이 어려워졌고, 이론 측면에서도 소인수분해 알고리즘에 버금가는 커다란 돌파구가 나타나지 않아 정체기를 맞이했다. 그 후 현재로 이어지는 양자컴퓨터 개발의 열기가 다시 시작된 것은 2010년대에 들어서면서부터다.
그 계기가 된 것이 캐나다의 스타트업 디웨이브(D-Wave)가 상용화한 양자 어닐링 머신(Quantum Annealing Machine)이다. 특히 양자 분야에 진출한 지 얼마 되지 않았던 구글이 디웨이브의 상용 양자 어닐링 머신을 구입하면서 큰 화제가 되었다. 양자 어닐링 머신은 양자 중첩이나 양자 터널 효과를 사용해 조합 최적화 문제의 답(근사해)을 얻는 전용 머신이다. 〈본문 92쪽〉

제3장 시행착오의 연속
2014년 이후 양자컴퓨터는 눈부시게 발전했다. 처음에는 5양자비트 수준이었던 양자컴퓨터가 지금은 100양자비트를 넘는 규모로 작동되고 있으며, 연구실 수준의 기초 연구에서 산업계가 참여하는 개발로 나아가며 기술이 급속도로 발전하고 있다. 하지만 지금까지 목표로 삼았던 소인수분해 등 복잡한 문제를 안정적으로 푸는 단계에는 아직 이르지 못했다. 2016년 무렵부터는 이런 양자컴퓨터를 어떻게 활용할 것인지 논의하기 시작했다. (중략)
특히 양자 우월성(quantum supremacy)에 대해서는 실용적으로 의미 있는 문제가 아니어도 무방하다. 어쨌든 양자컴퓨터에 유리한 인위적인 문제라도 좋으니, 고전 컴퓨터 대비 양자컴퓨터가 더 빠르다는 것을 보여 준다는 목표가 설정되었고 이는 양자컴퓨터의 발전에서 중요한 목표로 자리 잡았다. 〈본문 107쪽〉

2019년 구글 연구팀은 53양자비트의 시커모어 칩을 탑재한 초전도 양자컴퓨터로 무작위 양자 회로 샘플링을 실행해 높은 확률로 올바른 결과를 얻었다. 이 정도 규모의 양자컴퓨터가 가진 중첩 상태를 고전 컴퓨터로 단순하게 시뮬레이션하려면 수십 페타바이트(페타(peta)는 1000조)의 데이터 용량이 필요하다. 최첨단 슈퍼컴퓨터로 1만 년 걸리는 계산을 양자컴퓨터로는 단 200초 만에 실행할 수 있다는 발표는 큰 주목을 받았다. 〈본문 113쪽〉

양자컴퓨터의 구현 방법으로는 크게 다섯 가지 방식이 있다. 초전도 양자비트 방식, 이온 트랩 방식, 냉각 중성 원자 방식, 반도체 양자비트 방식, 광 방식이다. 이 중에서 어느 방식이 대세가 될지 아직은 모르지만 현재는 다양한 방식으로 양자컴퓨터를 개발하는 기업들이 군웅할거하는 상황이다.
초전도 양자비트 방식은 구글과 IBM이 견인하고, 일본에서는 후지쯔가 참전하고 있다. 이 방식은 저온으로 냉각해 전기 저항이 0이 되는 ‘초전도’라는 소재로 만든 전기 회로를 이용해 양자비트를 구성한다. 가장 차가운 부분은 무려 우주 공간(약 영하 270도)보다 더 차갑다. 이는 고체 부품인 전자 회로가 양자비트가 된 첫 사례이기도 하다. 〈본문 133쪽〉

제4장 실용화를 둘러싼 격전
확실히 2018년 무렵부터 양자컴퓨터에 대한 과도한 기대가 있었던 것은 사실이다. 반면 챗GPT로 대표되는 AI처럼 비즈니스에 영향을 미칠 만한 활용 방법은 찾아내지 못했다. 하지만 양자 분야에 대해 조금이라도 지식이 있는 전문가라면 이미 그 점은 감안하고 있다. 애초에 2014년에 구글이 양자컴퓨터 분야에 뛰어들어 붐에 불을 지폈을 때 전문가들조차 “곧 기술적 난관에 부딪혀 이 붐은 5년 안에 끝난다”라고 예측했었다.
하지만 이런 기술적인 어려움은 적절한 인재와 자금 투입으로 극복되었다. (중략) 동시에 대규모 양자컴퓨터가 실용화되려면 아직 연구 개발 시간이 더 필요하다는 사실도 널리 알려져 있다.
즉 ‘양자의 겨울 시대’는 아직 오지 않았으며 ‘2024년 양자 대붕괴가 찾아온다’라는 호센펠더의 예언은 완전히 빗나갔다. 신은 아무래도 양자컴퓨터에 대한 탐구를 계속하는 쪽으로 주사위를 던진 모양이다. 〈본문 154쪽〉

고전 컴퓨터의 여명기에 그랬던 것처럼, 양자컴퓨터에서도 에러 문제는 피해 갈 수 없다. 현재 가장 성능이 좋은 양자비트라 하더라도 에러 확률은 0.1퍼센트 정도이며 1000번에 한 번은 에러를 일으킨다. 이는 양자비트가 0과 1의 양자적 중첩을 유지해야만 한다는 점에 원인이 있다. 양자비트는 0이냐 1이냐를 측정해서 알게 되면 중첩이 깨져, 단순한 고전 비트가 되어 버린다.(중략)
이런 중첩 상태는 이론적으로는 존재할 수 있지만 매우 깨지기 쉽고, 중첩되어 있음을 검증하는 것이 극히 어렵다. 그 이유는 고양이와 같은 큰(매크로적인) 존재는 주위의 환경과 다양한 형태로 관계되어 있기 때문이다.
예를 들어 고양이가 살아 있으면 심장이 고동치고 공기를 진동시킨다. 그런 소리는 살아 있는 경우와 죽어 있는 경우가 다를 것이다. 또한 체외에서 발생하는 열로도 고양이가 살아 있는 상태와 죽어 있는 상태를 식별할 수 있다. 즉 ‘슈뢰딩거의 고양이’가 양자적으로 중첩된 상황을 만들기 위해서는 환경에 어떤 생사의 흔적도 남겨 두어서는 안 되는 것이다.
그 때문에 이런 큰 존재의 중첩은 현실에서는 거의 유지될 수 없다. 많은 독자에게는 그보다 ‘은혜 갚는 두루미’의 예가 더 이해하기 쉬울 것이다. 〈본문 163쪽〉

제5장 세상이 바뀐다, 세상을 바꾼다
또한 양자역학에 기반한 시뮬레이션의 응용 범위는 매우 넓어서 물리학의 최첨단 연구에만 머물지 않는다. 왜냐하면 지구상에서 일어나는 거의 모든 현상은 원자나 분자를 통해 환경과 상호작용하거나 물질이 변화하는 이른바 화학 반응으로 이뤄지며, 여기에는 양자역학이 필수적이기 때문이다.
지금까지도 슈퍼컴퓨터를 이용한 시뮬레이션으로 복잡한 화학 반응의 원리를 규명하고자 노력해 왔다. 하지만 여전히 이론으로 설명하지 못하는 현상이나 아직 밝혀지지 않은 부분이 많이 남아 있다. 양자컴퓨터를 이용하면 이런 미시 세계의 움직임을 양자의 관점에서 정확하게 포착할 수 있다. 〈187쪽〉

제3차 AI 붐으로 이어지는 씨앗은 1980년대에 착실히 뿌려지고 있었다. 제프리 힌턴 등은 뇌의 신경을 모방한 수리 모델인 신경망을 어떻게 하면 잘 학습시킬 수 있을까 하는 과제에 몰두했다. 신경망은 입력과 출력뿐만 아니라 그 사이에 ‘은닉층’이라 불리는 중간 처리 과정을 더해 더욱 복잡한 판단을 내릴 수 있게 한다. 하지만 그만큼 구조도 복잡해져서 제대로 학습시키기가 어려워진다. 2006년에 힌턴은 ‘볼츠만 머신’이라는 AI 모델에 은닉층을 더하고, 층과 층의 연결을 제한해 학습하기 쉽게 만든 새로운 기법을 제안했다. (중략)
기존 신경망에서는 인간이 수작업으로 이런 특징을 적절히 추출해 데이터를 전처리해야 했다. 오토인코더는 이 부분을 자동화하는 데 성공해 이후 딥러닝을 성공으로 이끈 중요한 열쇠가 되었다. 〈본문 202쪽〉

나아가 힌턴 등은 이렇게 학습시킨 오토인코더를 직렬로 연결해 은닉층이 수없이 많은 깊은 신경망을 구성했다. 각각의 오토인코더로는 단순한 응용밖에 할 수 없지만 이를 깊게 연결하면 보다 고도의 판단을 내릴 수 있다. 이는 더욱 복잡한 판단을 더 간단한 학습으로 해낼 수 있게 되어 딥러닝의 원형이 되었다. 〈본문 205쪽〉

제6장 양자컴퓨터와 우리
현재의 AI를 뒷받침하는 GPU는 원래 게임용 그래픽 처리에 특화된 계산 장치로 개발되었다. 그 결과 게임 이외의 용도로서 AI 학습에 쓰이게 되었고, 고성능 이미지 인식이 가능한 딥러닝이나 챗GPT로 대표되는 대규모 언어 모델 등의 개발로 이어졌다. 〈본문 222쪽〉

근대에 들어서면서 독일군은 더욱 복잡하게 글자를 자동으로 미는 ‘에니그마 암호기’를 개발했고 이를 해독하기 위한전자계산기 연구가 영국 등에서 이뤄졌다. 튜링 머신의 창시자 앨런 튜링이 제2차 세계대전 중 영국의 암호 해독 프로젝트에 참여했던 사실은 영화 〈이미테이션 게임〉의 모티브가 되기도 했다.
카이사르 암호나 에니그마 암호 같은 ‘공통키 암호’는 암호화와 해독에 송신자와 수신자가 같은 키(암호화를 하기 위한 규칙)를 사용하는 방식이기 때문에 사전에 키를 안전하게 공유해 둬야 한다. 하지만 이 규칙을 간파당하면 암호가 쉽게 해독될 위험이 있다. 〈본문 227쪽〉

이런 단점을 극복한 것이 1976년에 수학자인 휘트필드 디피(Whitfield Diffie, 1944~)와 마틴 헬만(Martin Hellman, 1945~)이 개발한 ‘공개키 암호’다. 암호화에 사용하는 키(공개키)와 해독에 사용하는 키(비밀키) 두 가지를 준비하기 때문에 공개키가 누구에게 알려져도 문제가 없는 방식이다.
메시지를 보내고 싶은 사람은 공개키를 사용해 암호화하고, 해독에는 본인만 아는 비밀키를 사용한다. 열려 있는 자물쇠를 공개키로 보내고 상대방이 자물쇠를 잠가서 되돌려 보내면 수중에 있는 키로 여는 식이다.
하지만 이 구조를 구현하려면 ‘암호화는 간단하지만 비밀키가 없으면 해독하기 매우 어렵다’라는 일방향성을 갖춘 함수가 필요하다. 여기서 이용되는 것이 소인수분해 문제다. 〈본문 228쪽〉

양자가 더욱 친숙해지는 ‘양자도서실’
양자역학은 눈에 보이지 않는 작은 세계에만 적용할 수 있는 특수한 물리 법칙이라고 생각하는가? 하지만 실제로는 양자역학이야말로 모든 것에 적용할 수 있는 가장 보편적인 물리 법칙이며 고전역학 쪽이 오히려 거대한 세계에만 적용할 수 있는 특수한 물리 법칙이다.
이런 세계관은 만화 『진격의 거인』에 비유하면 이해하기 쉽다. 거인(양자)으로부터 몸을 지키기 위해 벽에 둘러싸인 세계에 사는 인류가 벽 밖으로 나감으로써 보다 고도의 지식과 물리 법칙과 기술을 접하며 세계의 진실을 알게 된다. 벽 안의 세계는 ‘고전역학’이며 인류는 뉴턴의 운동 방정식으로 기술할 수 있는 ‘예측 가능하고 결정론적인 세계’를 믿고 있다. 거인(직관적으로는 설명할 수 없는 양자 현상)이라는 위협은 있지만 벽 안에 있는 한 닫힌 단순한 법칙으로 설명할 수 있다고 믿는다.
하지만 벽 밖에는 ‘양자역학’의 세계가 펼쳐져 있다. 그곳에는 상식으로는 설명할 수 없는 중첩이나 양자 얽힘이 있으며 관측으로 현실이 형성된다. 〈본문 262쪽〉

--- 본문 중에서