물론 인공지능을 연구하는 사람들 사이에서도 의식을 갖는 ‘강한' 인공지능이 출현할 것인가 하는 데에는 의견이 분분하다. 의식과 감정이 있는 인공지능이 나올 수 있다는 주장을 하려면 상당한 신념과 확신이 필요하다. 하지만 이 책을 읽다 보면 인간의 고차원적인 의식이나 감정이라는 것도 작은 지능들이 무수히 모여 창발되는 현상일지도 모른다는 생각을 하게 되는데, 그렇다면 특별히 새로운 기술적 도약을 하지 않고도 강한 인공지능이 자연스럽게 출현할 수 있지 않을까 하는 생각을 조심스럽게 하게 된다.
11장이나 되는 비교적 두꺼운 책임에도, 한번 읽기 시작하면 다음에는 어떤 이야기가 펼쳐질지 궁금하여 도저히 책을 손에서 놓을 수 없었다. 인공지능을 연구하는 전문가는 물론, 일반독자들도 레이 커즈와일의 깊이 있는 설명과 논리적인 전개와 흥미로운 이야기 속에 금방 빠져들 것이라 믿어 의심치 않는다.
---「감수자의 글: 알파고의 충격과 눈 앞에 닥친 미래」중에서

나는 뇌가 얼마나 복잡한지 이야기하는 기존의 수백만 권의 책에 또 한 권을 덧붙이고자 이 책을 쓴 것이 아니다. 그와 반대로 단순성의 힘을 일깨워주고자 이 책을 썼다. 패턴을 인식하고 기억하고 예측하는 정교한 기초적인 메커니즘이 신피질에서 수억 번 반복되면서 어떻게 우리 생각의 엄청난 다양성을 만들어내는지 설명할 것이다. 핵과 미토콘드리아DNA에서 찾을 수 있는 유전자코드 값의 다양한 결합에 의해 유기체의 놀라운 다양성이 발생하듯이, 신피질의 패턴인식기 안에서 또 패턴인식기 사이에서 찾을 수 있는 패턴값의 다양성에 의해 생각, 사고, 기술의 놀라운 다양성이 발생한다.
---「들어가는 글: 어쨌든 마음은 뇌의 작용일 뿐」중에서

내가 이 책의 첫 머리를 다윈과 아인슈타인의 생각실험으로 시작하는 데에는 몇 가지 이유가 있다. 우선, 이들은 인간의 뇌가 지닌 매우 특별한 힘을 보여준다. 이 실험을 하는 데에는 막대인간을 그리고, 거기서 얻은 단순한 방정식을 적기 위한 펜과 종이 말고는 어떤 장비도 필요하지 않았다. 이 단순한 실험을 통해 아인슈타인은 2세기에 걸쳐 내려온 물리학의 세계에 대한 이해를 뒤엎어버렸고, (2차 세계대전을 비롯해) 역사의 물줄기에 상당한 영향력을 미쳤으며, 핵발전시대를 열었다.
---「1. 생각의 역사: 다윈과 아인슈타인의 생각실험」중에서

친숙했던 컴퓨터프로그램과 우리 뇌가 어느 정도까지 유사한지 알아내기 위해, 그 때부터 나는 뇌에서 정보를 처리할 때 무슨 일이 일어나는지 의식하려고 노력했다. 벌써 50년째 나는 이 주제를 의식하며 살고 있다. 뇌가 작동하는 방식에 대해 최근 밝혀지고 있는 사실들을 보면, 뇌와 컴퓨터의 작동방식은 매우 다른 것처럼 보인다. 하지만 기본적으로 우리 뇌 역시 정보를 저장하고 처리한다는 측면에서 컴퓨터와 크게 다르지 않다. 그리고 ‘컴퓨테이션의 보편성’으로 인해 뇌와 컴퓨터의 유사성은 겉으로 보이는 것보다 훨씬 크다는 것을 알 수 있다.
---「2. 어쩌다 마주친 그녀: 우리 뇌가 작동하는 방식」중에서

인간은 논리를 처리하는 능력은 약한 반면, 패턴을 인식하는 능력은 놀라울 정도로 뛰어나다. 신피질은 기본적으로 거대한 패턴인식기라고 할 수 있다. 논리적 변환을 수행하기 위해 최적화된 구조가 아니다. 하지만 논리적인 사고를 하기 위해서 우리가 의존하고 활용할 수 있는 기관은 이것밖에 없다.
…
문화적 규칙은 올드브레인, 특히 아미그달라의 도움을 받아 신피질에 강력한 영향력을 발휘한다. 우리 머릿속에 떠오르는 생각은 예외없이 온갖 잡다한 생각을 촉발하는데, 그 중 일부는 위험한 생각으로 연결된다. 하지만 문화적 규범을 어기는 행동은 머릿속에서 생각하는 것만으로도 사회적으로 추방될 수 있다는 것을 어릴 적부터 배웠기 때문에, 신피질은 이런 생각이 자신의 안녕을 위협한다고 인식한다. 생존에 대한 위협을 느끼는 순간, 아미그달라가 본격적으로 작동하기 시작한다. 아미그달라의 주요역할은 공포를 유발하는 것이고, 공포가 휩쓰는 순간 그러한 생각은 완전히 차단당하고 만다.
---「3. 패턴인식 마음이론: 뇌의 정보처리 알고리즘」중에서

신피질 없이 유의미한 수준으로 새로운 행동(식물의 경우, 새로운 적응)을 학습하려면 엄청난 세대---수천 년---를 거쳐야 한다. 신피질이 제공하는 가장 두드러진 혜택은 이러한 학습을 며칠 만에 달성할 수 있다는 것이다. 어느 종이 급변하는 환경에 처했을 때, 그 종의 한 개체가 변화에 적응할 수 있는 방법을 발견하거나 발명해냈을 때 다른 개체들이 그것을 알아보고 학습하고 복제할 수 있다면 종 전체가 살아남을 수 있다. 신피질은 곧 생존과 직결되는 것이다.
---「4. 생각하는 기계 분해하기: 뇌과학이 밝혀낸 사실들」중에서

신피질이 문제해결에 능하다면, 우리가 풀고자 하는 가장 큰 문제는 무엇일까? 진화가 언제나 풀고자 했던 문제는 종의 생존이다. 개개인 차원에서도 생존은 가장 중요한 문제다. 살아남기 위해 다음 끼니를 조달해야 하는 한편, 다른 누군가의 끼니가 되어서는 안 된다. 또한 재생산도 해야 한다. 초기의 뇌는 이러한 가장 근본적인 욕구를 가능케 하는 기초적인 행동과 더불어, 이러한 욕구를 충족했을 때 보상하는 쾌감과 공포 시스템을 만들어냈다.
---「5. 싸우거나 도망치거나: 생존과 번식을 위한 원초적인 욕망」중에서

진화의 관점에서 보면, ‘사랑’은 순전히 신피질의 욕구를 충족시키기 위한 행동이다. 사랑이라는 감정 없이도---욕정의 힘만으로도---재생산(번식)활동은 충분히 이어나갈 수 있기 때문이다. 사랑의 황홀한 자극은 애착과 성숙한 사랑을 이끌어내고 이는 마침내 영속하는 유대를 만들어낸다. 이러한 유대는 새로 태어난 아이들이 책임있고 유능한 어른으로 성장하기 위해 많은 것을 습득해야 하는 중요한 시기---보통 생후 3년---동안은 적어도 안정적인 양육환경을 뒷받침할 가능성을 높여준다. 신피질이 제대로 기능하기 위해서는 풍족한 환경에서 학습할 수 있는 충분한 기간이 확보되어야 한다는 측면에서, 이 모든 상황은 신피질이 원하는 환경이라 할 수 있다.
---「6. 사랑의 세레나데: 적성과 창조성과 사랑의 진화」중에서

많은 사람들이 컴퓨터가 은유, 비유, 말장난, 중의어, 유머와 같은 인간 언어의 미묘한 영역까지는 절대 터득하거나 구사하지 못할 것이라고 생각한다. 하지만 IBM 왓슨은 TV퀴즈쇼 [제퍼디!]에 참가하여 인간 우승자 두 명을 이겼다. 전형적인 [제퍼디!]의 질문에는 인간언어의 예측하기 힘든 변이들이 많이 들어있다. 이는 컴퓨터가 터득하지 못할 것이라고 말하는 세련되고 수준 높은 인간의 언어 영역에 속하는 것이다. 왓슨은 예측할 수 없는 비비꼬인 질문을 이해했을 뿐만 아니라, 자연어로 된 문서 2억 페이지를 읽고 3초만에 답을 찾아냈다. 이 문서에는 3.6테라바이트 분량에 달하는 위키피디아를 비롯한 백과사전이 포함되어있는데, 누구나 알듯이 위키피디아는 프로그래밍언어로 작성된 것이 아니라 언어의 본래적인 모호함과 미묘함으로 가득한 자연어문장으로 이루어져있다.
---「7. 소프트웨어 뇌 만들기: 뇌의 알고리즘을 디지털 공간에 시뮬레이션하는 법」중에서

우리 뇌는 놀라운 가소성을 가지고 있다. 덕분에 우리는 배울 수 있다. 하지만 컴퓨터의 가소성은 훨씬 크다. 소프트웨어를 교체하는 것만으로 작동방식을 완전히 재구축할 수 있기 때문이다. 그런 점에서 컴퓨터는 뇌를 모방할 수 있지만 뇌는 컴퓨터를 모방할 수 없다.
---「8. 하드웨어 뇌 만들기: 컴퓨터 아키텍처 발전의 역사」중에서

사람들은 대개 기계가 의식을 가질 수 있다는 이야기가 나올 때마다 위협을 느낀다. 이러한 논의가 의식이 있는 인간의 영적인 가치를 떨어뜨린다고 간주하기 때문이다. 하지만 이러한 반응은 ‘기계’라는 개념에 대한 오해에서 비롯되는 것이다. 사람들은 현재의 ‘기계’를 바탕으로 이 문제를 이해한다. 물론 오늘날 기계들이 인상깊은 발전을 거듭하고 있지만, 나 역시 현재 볼 수 있는 기술의 결과물들을 의식을 가진 존재라고 생각하지는 않는다. 하지만 기계들은 머지않아 우리가 의식이 있는 존재라고 간주하는 생물학적 인간과 구별할 수 없는 수준으로 발전할 것이며, 이로써 우리가 의식에 부여하는 영적인 가치도 공유하게 될 것이다.
---「9. 마음을 지닌 기계의 탄생: 의식, 자유의지, 정체성의 재발견」중에서

진화과정에서 뇌가 발생한 1차적인 이유는 미래를 예측해야 할 필요성 때문이다. 우리 선조 중 한 명이 수천년 전 사바나를 걸어가다 어떤 동물이 다가오는 모습을 봤다고 하자. 자신이 가던 대로 계속 간다면 그 동물과 마주칠 것이라고 예측한다. 이러한 예측에 따라 방향을 바꿨고, 그러한 선견지명이 생존에 도움이 되는 것으로 판명되었다. 이처럼 미래를 예측하는 우리의 능력은 신피질의 선형적 구상에서 나오는 자질이다. 다음엔 어떤 글자와 단어가 나올까? 모퉁이를 돌면 누가 나타날까? 신피질은 끊임없이 앞으로 펼쳐질 일을 예상한다.
---「10. 특이점이 온다: 우리 눈 앞에서 펼쳐지는 인공지능 혁명」중에서

인간수준의 패턴인식능력과 컴퓨터의 일관된 속도와 정확성이 결합하는 순간, 매우 강력한 능력이 발휘될 것이다. 하지만 이것은 화성인의 침공이 아니다. 더 뛰어난 도구를 만들어 우리 스스로 더 영리해지는 것이다. 이것은 우리가 인간이기에 할 수 있는 일이다. 지금까지 이러한 도구를 만들어온 것은 우리 자신의 능력을 확장하기 위한 것이다.
---「11. 반론: 불신과 비관적 전망을 넘어서」중에서

호모사피엔스의 가장 중요한 진화는 양적인 것이었다. 즉, 이마를 넓히는 대대적인 확장공사를 성공적으로 이룩해냄으로써 더 많은 신피질을 확보한 것이다. 신피질이 늘어남으로써 인간은 개념적으로 고차원적인 생각을 할 수 있게 되었으며, 이로써 예술과 과학과 같은 다양한 분야에 발전을 일궈낼 수 있었다. 하지만 이제는 10배는커녕 10퍼센트도 확장하기 힘든 상황이 되었다. 다행스러운 것은, 생물학적으로 불가능한 진화를 기술적으로 해쳐나갈 수 있게 되었다는 사실이다. 인간은 이제 클라우드로 연결된 디지털신피질을 무한하게 활용하게 될 것이며, 지금보다 훨씬 높은 수준의 추상적 사고를 하게 될 것이다.