국가와 기업이 지배하는 세계에 로봇이 진입하고 있다. 이런 단체와 기관은 우리가 생각하는 것보다 로봇과 훨씬 더 많은 공통점을 가지고 있다. 만일 우리가 그 공통점을 제대로 보지 못한다면 어떻게 인류가 여기까지 왔는지, 앞으로 무슨 일이 일어날지, 또는 우리가 무엇을 해야 하는지 이해하지 못하게 된다. 즉 국가와 기업 그리고 생각하는 기계 사이의 관계가 우리의 미래를 결정한다는 뜻이다. 만약 여전히 인류를 위해 돌아가는 미래를 만들고 싶다면, 우리와 기계와의 관계뿐만 아니라 국가나 기업 같은 다른 종류의 기계 간의 상호관계에 대해서도 심각하게 고민해야 한다.
--- p.13, 「들어가며: 국가와 기업 그리고 로봇은 닮았다」 중에서

정치에 있어서 가장 중요한 문제는 우리가 국가를 어떻게 생각하느냐다. 국가는 집단인가, 기계인가? 국가는 생각할 수 있는 존재인가, 아니면 단순히 실행만 하는 존재인가? 철학의 역사를 봐도 이에 관한 합의가 없다. 어떤 철학자들은 국가를 본질적으로 인간적인 것으로 이해해야 한다고 생각한다. 국가가 우리 자신이기 때문이다. 다른 철학자들은 국가가 기계와 같다고 주장한다. 국가의 기능 때문에 그렇다는 것이다. 그런데 또 다른 가능성도 있다. 국가가 인간으로 만들어진 기계일 수도 있다는 점. 다시 말해 일종의 로봇이라는 것이다. 그것도 단순히 인간과 비슷한 로봇이 아니라 프랑켄슈타인의 괴물처럼 인간의 부품으로 만들어진 로봇. 다만 이 경우는 인간이라는 부품이 살아 있어서 기꺼이 참여한다.
--- p.30, 「1장 국가, 초월적 대리인」 중에서

마찬가지로 검색 엔진도 집단 편향에 매우 취약하다. 수백만 명의 사람들이 같은 방식으로 다른 것을 찾으면 모든 검색 엔진에 공통된 편견을 반영하는 결과를 낳을 수 있다. 여기에는 인종차별, 성차별 및 기타 집단적 우둔함 등이 포함된다. 더 심각한 문제는 참여자들이 그것을 깨닫지 못하는 사이에 발생할 수 있다는 점이다. 검색 엔진은 우리의 공동 관심사를 통합하고 반영해 우리가 검색하는 것에 관한 답을 보여준다. 우리가 공통적으로 편견을 가지고 있다면, 그것이 마치 진실인 양 우리에게 다가올 것이다.
--- p.76, 「2장 집단 사고와 구성원의 의지」 중에서

국가의 삶은 국가가 내린 선택에 의해 결정된다. 물론 인간이 대신 선택하긴 하지만 국가와 인간은 삶의 곡선을 함께 그려나간다. 시간이 지남에 따라 국가는 행동의 패턴을 형성하고, 이것으로 미래에 어떤 행동을 할지 정한다. 인간의 삶도 그렇지만, 창조 당시의 상황이 국가를 결정하지는 않는다. 그렇지만 그 상황에서 완전히 벗어날 수는 없다. 국가라는 조직은 국가의 존재를 설명하기 위해 존재한다. 국가는 단순히 기계적인 허구가 아니다. 그것은 우리 자신이 기계화된 버전이다. 자신의 이야기를 전하려고 노력하는 기계인 것이다.
--- p.116, 「3장 인간보다 오래 사는 대리인들」 중에서

21세기 동안 몇몇 기업은 전통적으로 국가의 영역이었던 곳으로 다시 침투하기 시작했다. 아마존은 고객들 간의 지적 재산권 분쟁을 중재할 것이며, 구글은 당신의 신원을 확인할 것이다. 메타는 언젠가 자체 통화를 갖기를 희망한다. 하지만 이는 주권에 대한 도전이 아니다. 단지 돈을 벌 수 있는 또 다른 방법일 뿐. 구글에는 여권을 발급할 권한이 없다. 대신 실제 여권이 도착하길 기다리는 동안 본인 인증이 된 구글 아이디로 온라인 세계를 여행할 수는 있다.
--- p.169~170, 「4장 고대 제국과 현대 국가」 중에서

오늘날 많은 개인에게 있어 희생은 아이를 적게 낳거나 전혀 낳지 않는 것이 아니다. 많은 자녀를 갖는 것이다. 인구 변천의 여파로 많은 국가에서 출산율을 높이기 위해 홍보 활동과 인센티브 제도를 운영하기 시작했다. 한국과 일본의 예비 부모는 출산 장려금을 받는다(1인당 250만 원 정도). 하지만 이 금액이 그리 큰 변화는 이끌어내지 못하고 있다. 프랑스에서는 오랫동안 다자녀 가구에 특별한 혜택을 제공해 왔다. 20세기 전반기에는 독일과의 다음 전쟁을 염두에 두고 미래의 군인 수를 충분히 확보하기 위해서였지만, 지금은 빠르게 늘고 있는 고령화 인구를 부양하기 위해서다. 아이를 낳지 않으면 모든 일이 결국 이민자나 로봇에게 돌아갈 것이다.
--- p.200, 「5장 위대한 변환」 중에서

국가는 그 누구도 감당할 수 없는 부담을 짊어질 수 있는 힘을 가지고 있다. 특히 다른 사람의 돈을 계속 끌어다 쓸 수 있는 능력으로 인해 자금 낭비에 대해 상대적으로 무심하다. 그렇기에 분노를 유발하면서도 혁신을 가져오기도 한다. 우리는 국가의 이러한 무심함 때문에 고통을 받지만, 혜택을 얻기도 한다. 특히 큰돈이 들어가는 혁신 기계 개발에 근접해 즉각적인 보상을 얻을 수 있는 행운아라면 더욱 그렇다. 세계에서 가장 성공한 기업들은 이로 인한 수혜를 톡톡히 보았다.
--- p.222, 「6장 누가 구축하는가」 중에서

AI의 세계는 단순히 다양한 지능 사이의 선택을 제시하지 않는다. 현재로서는 국가라는 인공의 대리인이 AI와 결합할 것인지, HI와 결합할 것인지가 더 중요하다. 이는 단순히 인간 대 인공의 문제가 아니다. 인간-인공 대 인공-인공에 관한 것이다. 기계에게는 중요한 문제가 아닐지 몰라도, 인간에게는 중요한 문제다.
--- p.260, 「7장 국가를 넘어서」 중에서

당신의 일을 장기적으로 처리하고, 당신을 대신해 투자 결정을 내리고, 당신의 일정을 관리하고, 당신의 건강을 모니터링하고, 당신을 치료할 실력 있는 의료 전문가를 찾고, 치료의 성과를 검토하고, 필요한 경우 손해배상을 청구할 수 있는 권한을 스마트 기계에 주는 것을 상상해 보자. 먼 미래의 일이 아니다. 이미 일부는 일어나고 있다. 스마트 기계가 자신의 선택을 책임지는 일만 아직 일어나지 않았다. 아마존의 챗봇 알렉사가 당신이 원하지 않는 상품을 구매했다고 해도 그 값을 치를 책임은 당신에게 있다. 그런데 알렉사가 마치 투자 펀드처럼 당신의 허락을 받아 돈을 굴리고 있었다면 누가 최종적으로 책임을 지느냐 하는 문제는 매우 복잡해진다.
--- p.321, 「8장 인간과 기계의 미래 세계」 중에서

우리는 호모 사피엔스에서 호모 데우스로 간단히 이동할 수 없다. 그 중간에 무언가가 있어야 한다. 인간의 이야기는 크게 세 부분으로 나뉜다. 몇백 년 전까지만 해도 인간의 삶은 자연의 제약을 받았고, 미신에 의지했다. 그리고 첫 번째 특이점이 도래했다. 자연과 함께하던 인간의 삶이 과학 지식과 인공 대리인에 의해 변화를 맞이한 것이다. 현대의 국가와 기업의 탄생은 인간의 상태를 재창조하는 데 도움을 주었다. 다음의 단계는 두 번째 특이점이 될 것이다. 이때는 AI를 통해 인간과 인공 대리인의 관계가 변곡점을 찍을 것이다. 그 변화는 인간의 상태를 또다시 바꿀 것이다.

<b>초월적 대리인 국가와 국가의 모방자 기업은 <br/>어떻게 탄생했는가</b><br/><br/>바야흐로 AI의 시대다. 연일 AI와 관련된 상품 광고가 넘쳐나고 챗GPT는 이제 혼자서 책을 쓸 경지에까지 올랐다. 우리는 곧 다가올 AI 혁명과 그로 인해 변화될 세상을 ‘특이점’이라고 부르며 그때가 언제 올지 기대 반, 우려 반으로 기다리고 있다. <br/><br/>하지만 영국을 대표하는 정치학자, 케임브리지대학교 정치학 교수 데이비드 런시먼은 다소 다른, 특이한 주장을 펼친다. 우리는 이미 300년 동안 AI와 살아왔다는 것이다. 바로 ‘국가’와 ‘기업’이라고 하는 ‘인공 대리인’으로, 런시먼에 의하면 국가와 기업도 로봇이기 때문이다. 인간적인 한계로 인해 인류는 기계적이지만 스스로 작동하는 인공 대리인을 만들었는데, 이 인공 대리인이 작동하는 원리는 현재의 로봇 또는 AI와 다를 바가 없다는 것이다. <br/><br/><b>복제성, 긴 생명력, <br/>인간이 감당할 수 없는 책임을 질 수 있는 능력</b><br/><br/>런시먼은 국가와 기업의 특징으로 크게 세 가지를 꼽는다. 복제성, 긴 생명력, 인간이 감당할 수 없는 부담과 책임을 질 수 있는 능력이다. 이는 AI의 특성이기도 하다. <br/><br/>현대의 국가와 기업은 저마다 다른 모습이긴 해도 큰 틀에서는 비슷한 시스템으로 움직인다. 그런 면에서 이들은 복제가 가능하며 확장 가능성 또한 매우 크다. 다국적 기업의 경우는 국가보다 훨씬 더 넓은 영역에서 활약하며 영향을 미치기도 한다. AI 역시 마찬가지다. 오히려 이들의 복제성과 확장성은 국가와 기업을 뛰어넘는다. <br/><br/>또한 현대의 국가와 기업은 인간보다 더 오래 산다. 이것이 우리가 국가와 기업이라는 인공 대리인을 만든 이유이기도 하다. 자연인인 인간은 언젠가는 병들고 죽게 마련이다. 하지만 국가와 기업은 아니다. 특히 국가는 특별한 이유가 없는 한 소멸하기가 대단히 어렵다. 그렇기에 인간의 의사결정이 세대를 넘어 지속될 수 있는 것이다. 기업 역시 인간이 자신의 일을 더 오래, 더 조직적이고 일관된 방식으로 할 목적으로 설립되었다. AI 또한 수명이 유한한 인간보다 오래 존속할 수 있다.<br/><br/><b>우리는 AI와 공존할 수 있을까?<br/>그렇다면 우리 삶은 더 좋아질까, 아니면 나빠질까?</b><br/><br/>무엇보다 현대 국가와 기업의 가장 큰 특징은 ‘인간이 감당할 수 없는 부담과 책임을 질 수 있다’는 점이다. 대표적인 것이 부채와 전쟁이다. 국가와 기업은 모두 큰 금액의 부채를 장기적으로 감당할 수 있다. 싸게 빌려 오래오래 갚을 수 있는 것이다. 바로 그 때문에 국가와 기업은 대출받기에도 용이하다. 무엇보다 국가는 부채를 바탕으로 전쟁을 수행할 수 있다. 이러한 살상 능력은 개인이 짊어질 수 있는 것이 아니다. <br/><br/>전쟁과 장기적 부채를 부담할 수 있는 국가의 능력은 곧 혁신으로 이어졌다. 우리는 흔히 기술 혁신은 기업의 몫이라고 생각한다. 하지만 수많은 혁신 기술이 전쟁을 통해 가능해졌다. 국가는 전쟁에서 이기기 위한 기술 및 제품을 연구하고 발명하는 데 아낌없이 투자할 수 있기 때문이다. 이 세상에 국가보다 막대한 자원을 쏟아부을 수 있는 존재는 없다. 생각해 보라. 기업이 무너질 위기에 놓여 있을 때 기업을 구제해 주는 것도 결국 국가다. 국가는 그 특성상 기업보다 더 오래, 더 많이 돈을 빌리고 투입할 수 있다. <br/><br/>로봇과 AI 역시 마찬가지다. 이들은 인간의 신체적 능력을 뛰어넘어 인간의 활동 영역을 넓혀주며, 인간이 할 수 없는 일을 담당할 수 있다. 아주 간단하게 휴대폰을 생각해 보자. 휴대폰은 우리의 기억력을 보조해 준다. 다시 말해 우리가 뇌 기능의 일부를 외주 주고 있는 것이다. 이로 인해 우리는 일상생활에서든 업무에서든 더 큰 능력을 발휘할 수 있다. 물론 이러한 기계가 자신이 한 일에 대한 책임을 지는 것까지는 아직 먼 이야기지만 말이다. <br/><br/><b>인간 같은 기계가 지배하는 세계에 살게 될 우리에게 <br/>지금 꼭 필요한 미래 담론</b><br/><br/>우리는 초인적 능력을 가진 인공 대리인에게 우리의 권한을 이양함으로써 더 강해졌다. 빈곤을 정복하고, 질병을 퇴치하며, 평화를 유지하고, 몇 세대 전까지는 불가능했을 법한 부를 축적하게 되었다. 하지만 순기능만 있었던 것은 아니다. 이러한 편안함과 안락함을 위해 국가와 기업은 다른 국가 혹은 기업과 경쟁하고, 다른 지역의 자원과 주민들을 착취했으며, 자연을 파괴했다. 이로 인해 인간의 상태와 생활양식도 변해왔다. <br/><br/>이것이 바로 우리가 이미 경험한 것으로, 런시먼의 표현에 의하면 ‘첫 번째 특이점’이다. 지금 이러한 세계에 로봇과 AI가 진입하고 있다. 그렇다면 이 인위적인 존재들끼리 결합하면 우리는 어떻게 될까? 이들이 우리를 위해 일하게 될까, 아니면 우리가 이들을 위해 일하게 될까? 우리는 과연 이들을 통제할 수 있을까? <br/><br/>만약 국가 권력이 우리가 통제할 수 없는 방식으로 컴퓨터 권력과 결합하면 어떻게 될까? 이미 그런 일이 벌어지고 있을지도 모른다. 우리는 카드 하나만으로 우리의 동선이 드러날 수 있는 세상에 살고 있다. 조지 오엘의 《1984》에 나오는 사회가 지금 이 순간에도 펼쳐질 수 있다. <br/><br/>그런 세상이 온다면 과연 누가 우리를 구하러 올까? 국가와 기업, AI의 유사성을 탐구해야 하는 이유가 바로 여기에 있다. 런시먼은 우리가 만들어낸 인공 대리인, 즉 현대의 국가와 기업에 우리가 어떤 식으로 권력을 이양했는지를 살펴보고, AI 시대가 우리 사회를 어떻게 재구성할 것인지를 다각도로 예측한다. 그럼으로써 우리가 궁극적으로 나아가야 할 방향을 제시한다. 이를 통해 우리는 지금 우리가 가져야 할 자세가 무엇인지, 앞으로 어떤 미래를 그려가야 할지 진지하게 모색해 볼 수 있을 것이다.

역사학자 유발 하라리는 우리 종이 보잘것없는 근육을 가졌음에도 이 행성에서 우월적 지위를 얻게 된 이유를 ‘공통의 상상(collective imagination)’ 때문이라고 정의합니다. 이 책 《핸드오버》의 저자는 이렇게 허구를 함께 믿으며 문명을 건설해 온 인류가 만들어낸 협력 시스템의 구조와 역사에 대해 다음과 같이 서늘하게 설명합니다.
“우리는 우리를 위해 스스로 작동하는 국가와 기업을 만들었고, 국가와 기업은 우리가 현재 살고 있는 세계를 구축했다. 그리고 이제, 이 세계에 로봇이 진입하고 있다. 계속 인류를 위한 미래를 만들고 싶다면 국가와 기업, 인공지능과 인간 간의 상호관계에 대해서 심각하게 고민해야 한다.”
국가와 기업을 넘어 인공지능으로 진화하는 새로운 협력 및 통제 시스템이 앞으로 어떻게 작동할 것인가에 대한 이해와 전망을 구하고픈 분들에게 일독을 권합니다. 이 책을 통해 ‘호기심 많고, 창의적이며, 쉽게 산만해지고, 궁극적으로 취약한 종’인 우리가 무엇을 만들었는지, 그리고 무엇을 만들고 있는지 생각해 보았으면 합니다.