가까운 미래에 스스로 의식하는 컴퓨터가 생겨난다고 믿는 사람들은 컴퓨터가 의식하고 자각하는 방법에 대해 다른 사람들이 모르는 것을 알고 있어서 그렇게 주장하는 것이 아니다. 이들은 인간이 근본적으로 기계라고 믿는 것이다. 그래서 결국 기계 인간도 만들어낼 수 있다고 생각한다. 하지만 반대로 기계는 절대로 의식의 영역에 도달할 수 없다고 생각하는 사람들에게 이 주장은 전혀 먹히지 않는다. 이 책에서 내가 말하고 싶은 것도 바로 이것이다. 로봇, 일자리, 인공지능, 의식을 주제로 한 다양한 견해들을 뒷받침하는 핵심 신념을 해체하는 것 말이다.
--- p.10

우리가 사는 세계는 최근까지 제3시대에 머물러 있었다. 그 과정에서 증기기관의 발전, 전력의 이용, 가동 활자의 발명 같은 믿기 힘들 정도의 혁신이 있었다. 그러나 언어와 농업, 글이 그랬듯이 인간을 근본적으로 변화시키지는 못했다. 제3시대의 특징이라고 할 만한 혁신들은 혁명이라기보다는 진화였다. 폄하하려는 의도가 아니다. 인쇄는 세상을 엄청나게 변화시켰지만, 우리가 이미 할 수 있었던 어떤 일을 좀 더 값싸고 효율적으로 할 수 있게 해주었을 뿐이다. 복엽비행기의 상세한 도면은 레오나르도 다빈치에게나 의미 있는 것이었다. 새로운 시대에 접어들었다고 말하려면 우리를, 또 우리가 사는 방법을 철저하게 영구적으로 변화시키는 어떤 것이 나타나야만 한다. 우리 종족의 궤적을 바꾸는 무엇인가가 말이다.
--- p.33

우주의 대부분은 컴퓨팅이다. 허리케인과 DNA는 눈송이나 모래 언덕과 마찬가지로 컴퓨팅이다. 놀라운 사실은 물리적 세계에서 일어나는 컴퓨팅의 결과가 우표 1장 크기의 컴퓨팅 장치 안에서 모형화될 수 있다는 것이다. 이 사실에 대해 잠깐 생각해보자. 사람을 달에 보내는 데는 로켓과 추진체, 중력에 대한 엄청나게 복잡한 계산이 수반된다. 이 모두가 실제 세상의 것이다. 이것을 아주 작은 프로세서 안에서 0과 1을 통해 그대로 표현할 수 있다. 이는 컴퓨터 안에서 모형화할 수 있는 것은 어떤 것이든 컴퓨팅을 통해서 실제 세계에서도 구현할 수 있다는 심오한 사실을 시사한다. 달리 말해 아폴로 11호의 발사는 컴퓨팅이다. 단순히 아폴로 11호의 발사에 컴퓨팅이 포함된 것이 아니라, 아폴로 11호 자체가 연산이고 아폴로 11호가 수행하는 임무 전체가 컴퓨팅이다. 문제는 극단으로 갔을 때 흥미로워진다. 우리는 컴퓨팅인가? 우리의 정신은 아폴로 11호가 따른 것과 같은 기본적인 규칙을 따르는 거대한 태엽인가? 이것은 컴퓨터의 한계(혹 존재한다면)를 파악하기 위해 우리가 답해야 하는 질문들이다.
--- p.42~43

우리는 새로운 시대마다 기술이 물리적 혹은 정신적 삶의 기능들을 외부에 위탁해서 강화하는 것을 목격했다. 우리는 불을 이용해서 소화를 잘하게 되었고, 글을 써서 기억을 증대시키고, 바퀴를 이용해서 우리의 등과 다리를 편안하게 움직일 수 있게 되었다. 지금에 와서는 기계적 두뇌 장치를 만들었다. 이 장치는 무한한 수의 문제를 해결하도록 프로그래밍할 수 있을 정도로 다재다능하다. 현재 우리는 이 장치가 스스로 구동할 수 있도록 한 인공지능을 개발하고 있다. 로봇공학의 힘을 이용해 이 장치에 기동성을 부여하고 물리적인 세계와 상호작용하는 길을 마련하기 시작했다. 우리는 컴퓨터와 로봇을 이용해서 가능한 한 더 많은 생각과 행동을 아웃소싱 하게 될 것이다. 이것이야말로 진정한 변화이며 새로운 시대, 제4시대의 여명을 알리는 표지이다. 그런데 이러한 전환 단계에서 심각한 의문들이 제기된다. 바로 인간적이라는 것이 어떤 의미인지에 관한 심오한 의문들이다. 과연 기계가 사람처럼 생각할 수 있을까? 기계가 의식을 가질 수 있을까? 모든 인간적 활동을 기계화할 수 있을까? 우리는 단순한 기계일 뿐인가? 이 책의 궁극적인 목적은 이런 문제들을 탐구하는 것이다. 즉 정신적, 신체적 인간 활동을 얼마만큼 기계에 넘겨줄 수 있는지, 그런 변화가 세상에 의미하는 바는 무엇인지 알아내는 것이다.
--- p.50

대부분의 기술 발전은 직종 전체를 한 번에 없애는 것이 아니라 일의 특정 부분을 없앤다. 그리고 전혀 예상치 못한 방식으로 새로운 일자리를 만든다. ATM 기계가 등장하자, 대부분의 사람들은 은행원이 더 이상 필요치 않게 될 것이라고 예상했다. 모두가 ATM이 무슨 말의 줄임말인지 알고 있었던 것이다. 하지만 실제로는 어떤 일이 일어났나? 물론 현금을 찾거나 예금하는 것 이외의 용무를 보려는 고객을 상대하려면 몇몇 은행원은 필요할 것이다. 그래서 은행 지점은 4명의 은행원을 두는 대신, 2명의 은행원과 2대의 ATM을 두었다. 이후 지점들의 운영비가 적게 들자 은행은 더 많은 지점을 열 수 있다는 것을 깨달았다. 그리고 어떻게 되었을까? 그들은 더 많은 은행원을 고용해야 했다. 현재 역사상 가장 많은 은행원이 있는 이유가 여기에 있다. 그리고 지금은 ATM을 제조하는 일자리와 ATM를 보수하는 일자리, ATM을 채우는 일자리도 있다. ATM 기계를 늘리면 더 많은 은행원이 필요해질 것이라고 누가 생각이나 했을까?
--- p.143~144

두뇌는 종종 컴퓨터에 비견된다. 하지만 대뇌는 구조적인 면에서 컴퓨터와 전혀 다르다. 가장 비슷한 부분이라면 컴퓨터가 지금 두뇌가 하는 일들을 하기 위해 만들어지고 있다는 점이다. 가스레인지에서도 팝콘을 만들 수 있고, 전자레인지에서도 팝콘을 만들 수 있지만, 그것이 가스레인지와 전자레인지가 흡사하다는 의미는 아니다. 두뇌와 컴퓨터를 직접적으로 비교한다면, 현재는 두뇌가 더 강력하다. 컴퓨터는 2+2와 같은 계산을 인간보다 훨씬 빠르게 할 수 있지만, 두뇌는 많은 과제에서 컴퓨터를 능가한다. 그들은 많은 일을 한 번에 하기 때문이다.