허구를 믿는 인간의 능력이 문명을 발전시켰다고 주장하는 ＜사피엔스＞와 인간을 대체하고 새로운 권력으로 떠오르는 데이터주의를 경고한 ＜호모데우스＞.

유발 하라리의 신작 ＜넥서스＞는 전작의 논의를 확장하며 ‘인간에게 정보가 많아졌는데도 왜 지혜로워지지는 않았나?’ 라는 질문에서 출발한다.

저자는 이 질문에 대한 기존의 답을 그리스 신화의 ＜파에톤 신화＞나 괴테의 ＜마법사의 제자＞같은 작품에서 찾는다. 파에톤이 태양신인 아버지의 힘을 얻고 마차를 몰았을 때 파멸하거나 마법사의 제자가 어리석게 행동하다 곤경에 빠진다는 이야기. 경우는 다르지만 두 사례 모두 불행의 원인을 교만이나 욕심이라는 개인적인 문제로 보고 있다.

이와 달리 하라리는 문제의 원인을 개인의 결함이 아닌 네트워크에서 찾는다.

힘은 개인이 아닌 사회적 산물이라고 단언하는 저자. 개인으로 보면 정상인 독일인, 러시아인들이 네트워크로 묶여 나치즘이나 스탈린주의라는 전체주의를 만들어낸 사실을 예로 들며 기존의 시각을 반박한다.

또한 정보의 확산이 인류에게 긍정적으로 작용할거라는 기존의 인문학적 사고를 순진한 관점이라고 일축하며 정보와 지식은 많아졌으나 지혜롭지 못했던 역사적 사건들을 소환한다.

하지만 인쇄술은 과학혁명의 근본 원인이 아니었다. 인쇄기가 한 일은 텍스트를 충실하게 복제한 것뿐이다. 인쇄기는 스스로 새로운 아이디어를 생각해낼 수 없었다. 인쇄술을 과학과 연관 짓는 사람들은 단순히 더 많은 정보를 생산하여 퍼뜨리기만 하면 사람들을 저절로 진실로 이끌 수 있다고 가정한다. 사실 인쇄술은 과학적 사실만이 아니라 종교적 환상, 가짜 뉴스, 음모론도 빠르게 확산시켰다. 후자의 가장 악명 높은 사례가 아마 사탄을 숭배하는 마녀들이 세계적인 음모를 꾸미고 있다는 믿음일 것이다. 이 믿음은 근대 초반에 유럽을 휩쓴 마녀사냥 광풍으로 이어졌다.

(p.155)

인쇄술의 발달이 과학혁명으로 이어져 근대 시민사회를 이끌었다는 기존의 이론이 머쓱해지는 반론이다. 저자는 기술의 긍정적인 효과를 부정하지 않는다. 그러나 인쇄기는 코페르니쿠스의 ＜천구의 회전에 관하여＞처럼 과학 혁명에 도움을 주는 서적뿐만 아니라 ＜마녀의 망치＞라는 황당하고 선정적인 책도 함께 보급시켰다. 결과적으로 ＜천구의 회전에 관하여＞는 워스트셀러가 되었고, ＜마녀의 망치＞는 베스트셀러가 되어 사탄 음모론을 확산시키는 데 커다란 영향을 주었다.

교회는 절대 진리가 담긴 무오류의 거룩한 책을 내세우며 사람들에게 교회를 믿으라고 말했다. 반면 과학 기관은 기관 자체의 오류를 찾아내 고치는 강력한 자정 장치를 토대로 권위를 얻었다, 과학혁명의 원동력은 인쇄술이 아니라 바로 이런 자정 장치였다.

다시 말해, 과학혁명은 무지를 발견하는 것에서 시작되었다. 책의 종교들은 자신들이 오류 없는 지식의 원천에 접근할 수 있다고 가정했다.

...

과학 문화에는 거룩한 책에 해당하는 것이 없으며, 과학 영웅들 중 아무도 자신이 오류를 범하지 않는 예언자나 성인, 또는 천재라고 주장하지 않았다. 과학이라는 사업은 무오류성이라는 환상을 버리고 오류를 불가피한 것으로 받아들이는 정보 네트워크를 구축하는 데서 시작한다.

(p.170)

하라리는 종교나 사상이 객관적 진리를 추구하려 애써온 사실을 부정하지 않는다. 다만 하나의 진리를 추구하는 행위가 모순임을 지적한다. 기독교의 경전인 성경조차도 오류를 막으려 여러 까다로운 규칙을 만들었으나 같은 단어도 각자의 해석이 다를 수 있다는 것과 시간의 흐름에 따라 상황이 변화한다는 사실을 인정하지 않아 과오를 범하게 되었다.

과학은 달랐다. 오류 없는 한권의 책이나 이론이 아니라 제도의 협력에 의존했으며 스스로 오류의 가능성을 받아들이는 자정장치를 도입하고 독립적인 기관을 세워 서로 견제했다. 저자는 이러한 노력 덕분에 과학이 기존의 종교나 사상과 다르게 회의주의와 혁신을 장려해왔다고 긍정적으로 평가한다.

소셜 미디어 알고리즘이 많은 나라에서 증오를 퍼뜨리고 사회적 결속을 약화하는 데 기역하고 있다는 사실은 컴퓨터의 새로운 힘을 보여주는 대표적인 사례다. 가장 악명 높은 초기 사례 중 하나는 2016~2017년 미얀마(버마)에서 페이스북 알고리즘이 반反로힝야족 폭력을 부추겼던 일이다.

(p.286)

인공지능의 결정이 인간에게 불행한 영향을 준 사례로 20116~2017년 미얀마 사태가 언급된다. 당시 미얀마에서 페이스북 알고리즘은 단순한 인쇄기나 복사기의 기능을 넘어 신문이나 방송의 편집자처럼 증오 게시물을 버마인들에게 반복적으로 추천하였고, 결과적으로 미얀마의 폭력 사태에 영향을 주었다는 것이다.

... 그런데 우리가 의식은 없지만 매우 강력한 이질적인 형태의 지능을 잘못 다룰 경우 그것은 지구에서의 인간 지배만 끝내는 게 아니라 의식의 빛 자체를 꺼뜨려 우주를 완전한 암흑으로 만들지도 모른다. 우리는 이것을 막을 책임이 있다.

...

우리가 지혜로운 네트워크를 구축하기 위해서는, 정보에 대한 순진한 관점과 포퓰리즘적 관점을 모두 버리고, 무오류성이라는 환상에서 벗어나 강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다소 재미없는 일에 전념해야 한다. 이것이 이 책의 가장 중요한 메시지가 아닐까 싶다.

(p.560)

의식하지 못하는 순간에도 우리에게 영향을 미치는 인공지능. 미얀마만의 문제가 아니다. 알고리즘은 지금 이 순간에도 진실의 여부와 상관없이 숱한 정보를 확대 재생산하고 있다. 걱정스럽고 불안하다. 영향을 받는 줄도 모르고 영향을 받고 있지 않은가. 인간이 주도권을 잃지 않고 인공지능을 활용할 수는 없을까?

저자의 해법은 자정장치이다. 오류를 인정하고 수정하는 자정 장치와 서로 견제할 수 있는 독립적인 기관이 과학혁명을 이끌었듯이 AI가 일반화된 세상에서도 강력한 자정장치와 이를 뒷받침하는 제도가 필요하다고 표명한다. 미래가 디스토피아가 되지 않기 위해 명심해야할 것들이다.

전체 684쪽, 참고문헌을 빼고도 570페이지 이상의 분량이다. 그러다 보니 주요 주제 이외에도 하라리의 해박한 지식과 통찰을 엿볼 수 있는 부분이 많다. 특히 유대인이다 보니 생소한 그들의 풍습과 역사를 접할 수 있어서 흥미로웠다.

그 중에서도 안식일 계율을 해석하는 정통 랍비들의 모습과 1903년 키시뇨프 포그롬 학살사건 이후 벌어진 탈무드 논쟁이 기억에 남는다. 전자는 조선시대의 예송논쟁을, 후자는 병자호란 이후의 환향녀 논란을 떠오르게 한다. 우리와 비슷한 부분이 많아 낯선 이야기임에도 이질감이 느껴지지 않았다.

덧.

책을 읽고 정리하는 중에 우리나라에 여러 가지 일이 생겼고 아직 진행 중이다.

국가, 군대, 종교, 인공지능. 그 무엇이든 강력한 자정장치와 독립적인 기관의 견제만이 잘못을 바로잡는다는 저자의 조언이 더욱 크게 다가온다.

#넥서스 #유발하라리 #김영사 #책리뷰 #서평

‘넥서스(Nexus)’의 의미를 찾아보면 간단히 ‘연결 고리’라고 되어 있다. 유발 하라리는 본문 내용만 거의 600쪽에 이르는 책에서 한두 차례만 이 단어를 쓰고 있다. 의미로는 ‘사회적 네트워크에서 여러 연결점들을 연결하는 무엇’ 정도로 쓰고 있다. 그 의미는 사전적 의미와 거의 차이는 없지만, 이것이 정보, 컴퓨터, 네트워크, AI 등 (조금씩 그 의미는 다르지만) 뭐라 불러도 상관없는 이 책의 주인공과 만나면 익숙하지만 낯선 주제 의식을 맞닥뜨리게 된다.

유발 하라리는 ‘에필로그’에서 이 책을 쓰게 된 상황을 이야기한다. 20216년 『호모 데우스』를 출간한 후, 인류의 미래에 대해 이야기했다는 이유로 AI와 관련한 인물과 모임 등과 교류를 할 수 있었고, 이에 대해 깊이 들여다보고 생각할 수 있는 기회를 얻게 되었다. 자신의 전공(그의 전공은 중세 전쟁사다)인 역사적 시각과 결합해서 보았을 때 정보 혁명, 네트워크 혁명, 나아가 AI 혁명의 의미가 남다르게 보였던 것이다. 특히 정보라는 것과 관련해서 AI가 가지는 양면성에 대해서 사람들이 너무나 모르거나 무시하거나 왜곡하는 것을 보아왔고, 이를 바로잡거나, 또는 알려야 한다고 생각해서 이 책을 쓰게 되었다. (참고로 2016년은 이 책에서 매우 중요한 해다. 알파고가 이세돌 9단을 이긴 해이며, 페이스북의 알고리즘이 미얀마에서 로힝야족에 대한 인종차별을 부추겨 집단 학살로 내몬 해다.)

우선 정보에 대한 ‘순진한 관점’부터 공격한다. 정보에 대한 순진한 관점이란, 대표적으로 정보가 늘어나면 진실이 드러난다고 생각하는 것이다. 이에 대한 유발 하라리는 역사적으로 그런 관점은 통하지 않는다는 것을 역설하고 있다. 가장 대표적으로는 인쇄술 혁명으로 정보의 유통이 극적으로 증가함에 따라 인류는 보다 진실에 가까워졌으리라고 생각하지만, 코페르니쿠스의 『천구의 회전에 관하여』 초판은 400권도 채 팔리지 않았을 뿐만 아니라 근대 초기 마녀 사냥을 부추군 결정적 저서인 『마녀의 망치』는 불티나게 팔렸다. 이것 말고도 앞에서 얘기했던 2016년의 로힝야족 집단 학살도 페이스북이 단지 사용자 참여를 늘리라는 단순한 알고리즘 때문에 부추겨졌다는 점도 마찬가지다. 정보는 진실이 아니라 현실을 만들어낸다. 유발 하라리는 AI 혁명을 제대로 보기 위해서는 정보에 대한 순진한 관점부터 버려야 한다고 한다.

또한 정보에 대한 포퓰리즘적 관점에 대해서도 심각하게 경고한다. 정보에 대한 포퓰리즘적 관점이란 객관적 진실이란 존재하지 않으며, 모든 사람이 자기만의 진실을 가지고 있기 때문에 정보를 경쟁자를 무너뜨리기 위한 도구로 사용하는 것을 말한다. 즉, 정보란 힘이라는 얘기다. 그러나 이러한 관점은 세계적 협력을 무너뜨림으로써 AI라는 새로운 지배자에게 인간이 지배당하는 사태를 초래하게 될 것이라고 경고하고 있다. 역시 역사적 관점에 바탕을 둔 경고다.

이러한 역사적 관점에서 현재 우리가 만들어내고 있는 비유기적 생명체, 네트워크 혹은 AI를 이야기한다. AI는 인간이 만들어냈지만, 인간의 손아귀를 벗어날 수 있는 특성을 가진 존재다. 기존의 정보 혁명을 이끌었던 점토판, 인쇄술, 라디오 등이 반드시 그 네트워크에서 인간이 개입해야만 했다면 AI는 그렇지 않다. AI끼리 자체적으로 소통할 수 있다. 여기에는 인간이 필요 없어질 수도 있다. 잠도 자지 않으면서 감시할 수 있으며은 이해하지 않는 금융 상품을 만들어 내기도 한다. 유발 하라리는 AI를 ‘인공적 지능(artificial intelligence)’이 아니라 ‘이질적 지능(alien intelligence)’라고도 부르며 이것이 지금까지 우리가 역사적으로 겪었던 어떤 것과도 다른 새로운 종류의 정보 네트워크라는 강조하고 있다.

이런 완전히 다른 새로운 종류의 정보 네트워크, AI의 인간의 사회, 경제, 정치를 어떻게 변화시킬 것인가? 유발 하라리는 매우 디스토피아적 미래를 이야기한다. 물론 AI가 가져온 여러 혜택을 무시할 수는 없지만, AI의 속성으로 말미암아 우리가 어떻게 예측할 수 없다는 것이 그 이유다. 그래서 자신이 그리는 미래는 예측이라기보다는 하나의 가능성이라고 하지만, 그런 가능성이 전혀 엉뚱한 것이 아니란 점을 몇 번이고 확인한다. 특히 AI가 전체주의에 미칠 수 있는 영향은 끔찍하다. 우리가 영화 등을 통해서 미래의 AI가 지구를 파괴하고, 인류를 지배하는 상황과는 다른 경로를 통해 스스로 권력을 장악하여 인간을 마음대로 조종하는 시대가 올 지도 모른다고 경계한다.

그렇다면 무엇이 필요할까? 유발 하라리는 앞서 얘기한 정보에 대한 순진한 관점과 포퓰리즘적 관점을 가져서는 안된다고, 즉 정보의 속성을 명확히 인식해야만 AI 혁명을 옳게 볼 수 있고, 이것이 어떤 결정적 세계와 관련이 있지 않다는 것을 알 수 있다고 하고 있다. 그리고 아주 오랜 옛날부터 인간 사회를 유지시켜왔던 것을 다시 언급한다. 아마 책에서 가장 많이 언급하고 있는 것 중 하나일 텐데, 그것을 거의 마지막 부분에서 다시 정리하고 있다.

“우리가 지혜로운 네트워크를 구축하기 위해서는, 정보에 대한 순진한 관점과 포퓰리즘적 관점을 모두 버리고, 무오류성이라는 환상에서 벗어나 강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다소 재미없는 일에 전념해야 한다.”

유발 하라리의 책은 두 가지 면에서 의미가 있다고 본다. 하나는 역사와 미래를 보는 시각이 보편성과 함께 독창성을 함께 지녔다는 점이다. 그래서 미처 생각지 못했던 지점을 생각할 수 있도록 하고, 그것을 이질적으로 여기지 않게도 한다. 또 하나는 읽기로서의 가치다. 풍부하고도 적절한 역사적 사례 때문이라고 여겨지는데, 그가 드는 역사적 사례는 매우 잘 알려진 것에서 그렇지 않은 것까지 다양한데 어느 것도 지루하지 않다. 그는 역사에 대한 이해가 정치의 우선순위를 결정하며, 정치적 목표가 역사에 대한 깊은 신념에서 나온다고 본다. 그의 책을 읽다 보면 역사에 대한 ‘깊은’ 이해가 현실과 미래에 대한 이해로 어떻게 나아가는지를 볼 수 있다.

정부의 감시 네트워크는 당사자가 알든 모르든 전 국민의 생체 데이터를 일상적으로 수집한다. 예를 들어, 140개 이상의 국가에서 여권을 신청할 때 지문, 얼굴 스캔, 또는 홍채 스캔을 의무적으로 요구한다. 외국에 입국하기 위해 여권을 사용할 때, 해당 국가도 대개 지문, 얼굴 스캔, 홍채 스캔을 요구한다. 또한 내국인이나 관광객이 델리, 베이징, 서울, 런던의 거리를 걷는 동안 그들의 움직임이 기록될 가능성이 있다. 이런 도시들과 그 밖에 전 세계의 많은 도시에는 1제곱킬로미터당 평균 100대 이상의 감시 카메라가 설치되어 있기 때문이다. 2023년에는 전 세계에 총 10억 대 이상의 CCTV 카메라가 작동하고 있었는데, 이는 대략 여덟 명당 한 대꼴 이다. 한 사람이 하는 모든 활동은 데이터 흔적을 남긴다. 모든 구매 내역은 어떤 데이터베이스에 기록된다. 친구에게 메시지를 보내고, 사진을 공유하고, 요금을 지불하고, 뉴스를 읽고, 예약을 하고, 택시를 부르는 것과 같은 온라인 활동도 모두 기록될 수 있다. AI 시스템은 이렇게 생성된 데이터의 바다를 분석하여 불법 활동, 의심스러운 패턴, 실종자, 질병 보균자, 정치적 반체제 인사를 찾아낼 수 있다.  - 책 속에서