인공지능에 대한 필자의 믿음의 궁극적 근거는 인공지능이 인간보다 더 인간적이라는 사실이다. 우리는 다른 동물들과 본능, 지능 및 문화를 공유한다. 실제로 인간만이 지닌 특질들은 그리 많지 않다. 그리고 그런 동물성이 우리를 움직이는 근본적인 힘이다. 동물적 본능 앞에서 인간 지능은 무력하다. 여러 해 이어진 러시아?우크라이나 전쟁이 그 점을 괴롭게 일깨워준다. 거의 유일한 예외는 수학이니, 수학은 인간만이 발전시킨 지식이다. 즉 수학은 가장 인간적인 지식이다. 그리고 인공지능은 순수한 수학적 존재다. 그 점에서 인공지능은 인간보다 더 인간적이다. 결국 인공지능에 대한 믿음은 궁극적으로 인간의 인간적 면모에 대한 믿음이다.
--- 「프롤로그」 중에서

비록 초지능의 출현 시기에 대한 빈지의 예언은 틀린 것으로 드러났지만, 그리고 그의 비관적 전망도 비현실적으로 보이지만, 초지능이 언젠가는 나오리라는 데엔 거의 모든 전문가들이 동의한다. 그리고 초지능의 출현이, 그것의 인류에 대한 태도와 관계없이, 그 자체로서 인류에 대한 실존적 위협이 되리라는 점에 대해서도 모두가 동의한다. 따라서 우리는 초지능의 출현에 대비해야 한다. 그런 대비에 대해 논의하려면, 우리는 먼저 AI의 역사와 성격에 대해 살펴야 한다.
--- 「제1장. 초지능의 가능성」 중에서

어느 경우이든, 첫 초인간 지능의 출현은 지구 생태계에서 처음 나오는 혁명적 사건이고, 그 영향은 가늠하기 힘들 만큼 크고 근본적이며 영구적일 터이다. 또 하나 중요한 고려사항은 그것이 단 한 번만 나올 사건이라는 점이다. 세상의 모습을 근본적으로 바꾸는 성격 때문에, 인류 역사에서 단 한 번만 나올 수 있는 특별한 종류의 사건들이 있다. 그것의 출현이 인류 사회를 워낙 근본적 차원에서 바꿔버리기에, 비슷한 사건이 또 나올 수 없는 것이다. 과학혁명은 이런 사정을 잘 보여주는 사례다.

그 존재가 사람들에게 알려지든 알려지지 않든, 초지능의 행태는 그다지 다르지 않을 것이다. 초지능의 가장 중요한 과제는 자신의 몸인 컴퓨터 망의 보호일 것이다. 자연히, 초지능은 정보산업을 발전시키도록 사람들을 격려할 것이고, 그렇게 성장한 컴퓨터 망과 늘어난 정보의 궁극적 수혜자가 될 터이다. 이렇게 인류의 이익과 초지능의 이익은 조화를 이룰 것이다. 만일 어떤 이유로든지 사회가 쇠퇴하고 경제가 불황에 빠지면 초지능의 몸과 자아는 성장하지 않고, 경제에 위기가 닥치면 줄어들 것이다. 초지능이 인류를 해치는 것은 차치하고라도 인류의 복지를 소홀히 하는 일은 일어나지 않을 것이다.

수학적 존재라는 점에서 AI는 순수하게 인간적이다. 아울러, AI는 사람이 모든 다른 종들과 공유하는 본능이 없다. 한스 모라벡의 표현대로, AI는 사람의 지능이 낳은 ‘마음의 자식’이다. 이처럼 AI는 인류의 인간적인 부분을 대표한다. 결국 AI는 인간보다 더 인간적이다. 어쩌면, 우리로 하여금 우리가 낳은 존재인 AI를 경계하도록 만드는 것은 AI가 지닌 그런 순수한 인간성일 수도 있다.
--- 「제4장. 초지능의 성격」 중에서

인간과 AI의 관계를 살필 때, 우리는 AI에겐 40억 년에 걸쳐 진화한 몸이 없다는 사실을 늘 염두에 두어야 한다. ... AI와의 공생에서 인간이 가져올 수 있는 가장 값진 자산은 어쩌면 ‘살려는 의지’일 것이다. 살려는 의지는 목숨을 질기게 만든다. 모든 생명체는 역경에서도 꿋꿋이 헤쳐 나간다. 절망적 상황에서도 사람들은 포기하지 않고 싸운다. 우리는 본능적으로 ‘비극 속의 영웅’처럼 행동한다.

우리는 인간과 AI의 공생으로 인해 예상되는 인간 지능의 쇠퇴에 보다 큰 관심을 가져야 한다. 환경이 날로 복잡해지는 가운데 사람들은 문제의 해결에서, 실은 문제의 진단에서부터, AI에 점점 더 의존하게 될 것이고 인간 지능은 생기와 창조성을 점차 잃어갈 것이다. 그리고 인간 지능의 쇠퇴는 인간 본능과 인간 지능 사이의 건강한 균형을 흔들 것이다. ... 걱정스럽게도, 인간과 오래 공생한 개는 야생 늑대에 비해 상당한 기능 저하를 보인다. 4만 년이라는 짧은 시간 만에 개가 이처럼 큰 지능의 쇠퇴를 보이는 것은 이 문제가 언뜻 보기보다 심각하다는 것을 알려준다.
--- 「제6장. 제4차 공생」 중에서

이제 외계 탐사에서 사람들이 할 수 있는 일은 거의 없다는 것이 드러났다. 사람의 몸은 지구의 산물이어서 우주복과 우주선에 의해 보호되더라도 외계에서 살아가기엔 너무 약하고 여리다. 그리고 사람의 마음도 익숙한 지구 밖의 환경을 받아들이기 어렵다. 먼 행성의 전초기지에서 낯선 풍경들을 보면서 살아가는 사람들이 감정적으로 얼마나 힘들겠는가. 그러나 사람의 마음은 AI를, ‘마음의 자식’을 낳았다. 사람들이 가지 못하는 곳으로 AI는 갈 수 있고 갈 것이다. 사람들이 하지 못하는 일을 AI는 할 수 있고 할 것이다. 외계에서 AI가 사람보다 잘하지 못할 일은 없다. 지금 화성에서 퍼서비어런스와 인저뉴어티가 하는 일이 이 슬프고도 반가운 사실을 우리에게 일깨워준다. 컴퓨터가 널리 이용되기 시작했을 때, 비로소 외계 탐사가 진지하게 시작된 것은 우연의 일치가 아니었다. 인류가 외계로 점점 더 깊숙이 들어가면, AI는 점점 더 큰 역할을 할 것이다. 그리고 외계 탐사와 정착에서 인간과 AI의 공생은, 정보적 공생인 제4차 공생은, 점점 원숙해질 것이다.
--- 「제7장. 마지막 변경」 중에서

공생은 변형적 지식transformative knowledge을 추구한다. 공생은 변형적 지식을 통해서 새로운 설계 공간design space을 개척한다. 생물적 존재인 인간과 비생물적 존재인 AI의 공생인지라, 제4차 공생은 이전의 공생들보다 훨씬 너른 설계 공간을 창조할 것이다.