국가와 기업이 지배하는 세계에 로봇이 진입하고 있다. 이런 단체와 기관은 우리가 생각하는 것보다 로봇과 훨씬 더 많은 공통점을 가지고 있다. 만일 우리가 그 공통점을 제대로 보지 못한다면 어떻게 인류가 여기까지 왔는지, 앞으로 무슨 일이 일어날지, 또는 우리가 무엇을 해야 하는지 이해하지 못하게 된다. 즉 국가와 기업 그리고 생각하는 기계 사이의 관계가 우리의 미래를 결정한다는 뜻이다. 만약 여전히 인류를 위해 돌아가는 미래를 만들고 싶다면, 우리와 기계와의 관계뿐만 아니라 국가나 기업 같은 다른 종류의 기계 간의 상호관계에 대해서도 심각하게 고민해야 한다.
--- p.13, 「들어가며: 국가와 기업 그리고 로봇은 닮았다」 중에서
정치에 있어서 가장 중요한 문제는 우리가 국가를 어떻게 생각하느냐다. 국가는 집단인가, 기계인가? 국가는 생각할 수 있는 존재인가, 아니면 단순히 실행만 하는 존재인가? 철학의 역사를 봐도 이에 관한 합의가 없다. 어떤 철학자들은 국가를 본질적으로 인간적인 것으로 이해해야 한다고 생각한다. 국가가 우리 자신이기 때문이다. 다른 철학자들은 국가가 기계와 같다고 주장한다. 국가의 기능 때문에 그렇다는 것이다. 그런데 또 다른 가능성도 있다. 국가가 인간으로 만들어진 기계일 수도 있다는 점. 다시 말해 일종의 로봇이라는 것이다. 그것도 단순히 인간과 비슷한 로봇이 아니라 프랑켄슈타인의 괴물처럼 인간의 부품으로 만들어진 로봇. 다만 이 경우는 인간이라는 부품이 살아 있어서 기꺼이 참여한다.
--- p.30, 「1장 국가, 초월적 대리인」 중에서
마찬가지로 검색 엔진도 집단 편향에 매우 취약하다. 수백만 명의 사람들이 같은 방식으로 다른 것을 찾으면 모든 검색 엔진에 공통된 편견을 반영하는 결과를 낳을 수 있다. 여기에는 인종차별, 성차별 및 기타 집단적 우둔함 등이 포함된다. 더 심각한 문제는 참여자들이 그것을 깨닫지 못하는 사이에 발생할 수 있다는 점이다. 검색 엔진은 우리의 공동 관심사를 통합하고 반영해 우리가 검색하는 것에 관한 답을 보여준다. 우리가 공통적으로 편견을 가지고 있다면, 그것이 마치 진실인 양 우리에게 다가올 것이다.
--- p.76, 「2장 집단 사고와 구성원의 의지」 중에서
국가의 삶은 국가가 내린 선택에 의해 결정된다. 물론 인간이 대신 선택하긴 하지만 국가와 인간은 삶의 곡선을 함께 그려나간다. 시간이 지남에 따라 국가는 행동의 패턴을 형성하고, 이것으로 미래에 어떤 행동을 할지 정한다. 인간의 삶도 그렇지만, 창조 당시의 상황이 국가를 결정하지는 않는다. 그렇지만 그 상황에서 완전히 벗어날 수는 없다. 국가라는 조직은 국가의 존재를 설명하기 위해 존재한다. 국가는 단순히 기계적인 허구가 아니다. 그것은 우리 자신이 기계화된 버전이다. 자신의 이야기를 전하려고 노력하는 기계인 것이다.
--- p.116, 「3장 인간보다 오래 사는 대리인들」 중에서
21세기 동안 몇몇 기업은 전통적으로 국가의 영역이었던 곳으로 다시 침투하기 시작했다. 아마존은 고객들 간의 지적 재산권 분쟁을 중재할 것이며, 구글은 당신의 신원을 확인할 것이다. 메타는 언젠가 자체 통화를 갖기를 희망한다. 하지만 이는 주권에 대한 도전이 아니다. 단지 돈을 벌 수 있는 또 다른 방법일 뿐. 구글에는 여권을 발급할 권한이 없다. 대신 실제 여권이 도착하길 기다리는 동안 본인 인증이 된 구글 아이디로 온라인 세계를 여행할 수는 있다.
--- p.169~170, 「4장 고대 제국과 현대 국가」 중에서
오늘날 많은 개인에게 있어 희생은 아이를 적게 낳거나 전혀 낳지 않는 것이 아니다. 많은 자녀를 갖는 것이다. 인구 변천의 여파로 많은 국가에서 출산율을 높이기 위해 홍보 활동과 인센티브 제도를 운영하기 시작했다. 한국과 일본의 예비 부모는 출산 장려금을 받는다(1인당 250만 원 정도). 하지만 이 금액이 그리 큰 변화는 이끌어내지 못하고 있다. 프랑스에서는 오랫동안 다자녀 가구에 특별한 혜택을 제공해 왔다. 20세기 전반기에는 독일과의 다음 전쟁을 염두에 두고 미래의 군인 수를 충분히 확보하기 위해서였지만, 지금은 빠르게 늘고 있는 고령화 인구를 부양하기 위해서다. 아이를 낳지 않으면 모든 일이 결국 이민자나 로봇에게 돌아갈 것이다.
--- p.200, 「5장 위대한 변환」 중에서
국가는 그 누구도 감당할 수 없는 부담을 짊어질 수 있는 힘을 가지고 있다. 특히 다른 사람의 돈을 계속 끌어다 쓸 수 있는 능력으로 인해 자금 낭비에 대해 상대적으로 무심하다. 그렇기에 분노를 유발하면서도 혁신을 가져오기도 한다. 우리는 국가의 이러한 무심함 때문에 고통을 받지만, 혜택을 얻기도 한다. 특히 큰돈이 들어가는 혁신 기계 개발에 근접해 즉각적인 보상을 얻을 수 있는 행운아라면 더욱 그렇다. 세계에서 가장 성공한 기업들은 이로 인한 수혜를 톡톡히 보았다.
--- p.222, 「6장 누가 구축하는가」 중에서
AI의 세계는 단순히 다양한 지능 사이의 선택을 제시하지 않는다. 현재로서는 국가라는 인공의 대리인이 AI와 결합할 것인지, HI와 결합할 것인지가 더 중요하다. 이는 단순히 인간 대 인공의 문제가 아니다. 인간-인공 대 인공-인공에 관한 것이다. 기계에게는 중요한 문제가 아닐지 몰라도, 인간에게는 중요한 문제다.
--- p.260, 「7장 국가를 넘어서」 중에서
당신의 일을 장기적으로 처리하고, 당신을 대신해 투자 결정을 내리고, 당신의 일정을 관리하고, 당신의 건강을 모니터링하고, 당신을 치료할 실력 있는 의료 전문가를 찾고, 치료의 성과를 검토하고, 필요한 경우 손해배상을 청구할 수 있는 권한을 스마트 기계에 주는 것을 상상해 보자. 먼 미래의 일이 아니다. 이미 일부는 일어나고 있다. 스마트 기계가 자신의 선택을 책임지는 일만 아직 일어나지 않았다. 아마존의 챗봇 알렉사가 당신이 원하지 않는 상품을 구매했다고 해도 그 값을 치를 책임은 당신에게 있다. 그런데 알렉사가 마치 투자 펀드처럼 당신의 허락을 받아 돈을 굴리고 있었다면 누가 최종적으로 책임을 지느냐 하는 문제는 매우 복잡해진다.
--- p.321, 「8장 인간과 기계의 미래 세계」 중에서
우리는 호모 사피엔스에서 호모 데우스로 간단히 이동할 수 없다. 그 중간에 무언가가 있어야 한다. 인간의 이야기는 크게 세 부분으로 나뉜다. 몇백 년 전까지만 해도 인간의 삶은 자연의 제약을 받았고, 미신에 의지했다. 그리고 첫 번째 특이점이 도래했다. 자연과 함께하던 인간의 삶이 과학 지식과 인공 대리인에 의해 변화를 맞이한 것이다. 현대의 국가와 기업의 탄생은 인간의 상태를 재창조하는 데 도움을 주었다. 다음의 단계는 두 번째 특이점이 될 것이다. 이때는 AI를 통해 인간과 인공 대리인의 관계가 변곡점을 찍을 것이다. 그 변화는 인간의 상태를 또다시 바꿀 것이다.
--- p.345, 「나오며: 인간의 상태가 바뀌는 지점에서」 중에서