슈밥 등이 말하는 것은 4차 산업혁명이 아니라 3차 디지털 혁명의 연장이다. 필자가 정의하는 4차 산업혁명은 1, 2, 3차 산업혁명만이 아니라 인류사 700만 년 이래 전혀 다른 세상을 연다. ‘혁명’이라는 말로도 부족하고 ‘개벽’이 어울린다. (…) 하필 4차 산업혁명은 자본주의의 가장 야만적인 형태인 신자유주의 체제와 극단의 불평등, 간헐적 팬데믹, 기후위기, 인류세anthropocene/자본세capitalocene의 조건에서 수행되고 있다. 과학기술을 자본의 탐욕으로부터 독립시키지 않는다면, 패러다임과 사회체제의 대전환이 없으면, 그 끝은 인류 멸망이나 디스토피아다. (…) 아무리 높은 자리에 오르고 부자가 되더라도 건강이 상하면 모든 것을 잃은 것이듯, 과학혁명, 산업발전, 경제적 풍요를 이루더라도 거기 인간과 생명이 없다면 인류는 모든 것을 잃은 것이다. 자연과학과 인문학을 융합한 이유다. 이에 더하여 동양사상을 종합하였다. (…)
--- 머리글 중에서
슈밥이든, 제러미 리프킨이든, 이들에 동조하든 반대하든, 이에 대해 말하는 무수한 석학과 학자들은 아직 4차 산업혁명의 본질을 통찰하지 못한 채 껍데기만 핥고 있다. (…) 이렇게 간주하는 이유는 크게 열 가지다. 첫째, 인류는 생명을 조작하고 창조하는 호모 데우스의 지위에 올랐다. 둘째, 인공지능이 인간의 지능을 앞서는 초지능을 달성해 인간과 유사하게 사고하고 감정을 느끼는 인공지능 로봇, 곧 안드로이드가 인간 존재의 정체성을 뒤흔들 것이다. 셋째, 인간과 기계의 이분법이 무너지고, 인간이 석기를 제작한 이래 처음으로 도구가 인간을 지배하거나 통제하는 역전이 일어날 것이다. 넷째, 지구상의 거의 모든 사물과 인간이 초연결되어 하나의 네트워킹을 형성하고 사물이 스스로 말하게 된다. 다섯째, 인류는 삼중의 현실, 곧 실제 현실, 증강현실, 가상현실에서 삶을 영위하는 ‘매트릭스적 실존’을 하게 될 것이며, 가상현실이 현실을 대체하거나 전도하는 ‘재현의 위기(the crisis of representation)’는 일상이 될 것이다. 여섯째, 인간은 육체적이나 정신적으로 초인적인 능력을 가진 포스트휴먼으로 거듭날 것이다. 일곱째, 뇌의 디지털 복제가 가능하여 디지털 상에서는 자신과 똑같이 사고하고 행동하는 아바타를 만들어 무한하게 복제하거나 영생을 누리는 것이 가능할 것이다.
--- p.22
4차 산업혁명은 하필 지구촌이 위기에 처한 시점에 진행되고 있다. 세계 거의 모든 국가에서 상위 10%가 절반 이상의 부를 소유할 정도로 불평등은 극단화했다. 대략 38%의 동물이 멸종위기에 있고, 역대 급의 태풍, 빙하 붕괴와 영구 동토층의 해빙, 장기 산불, 미세먼지 등 기후위기는 일상이 되었다. 환경파괴로 인해 팬데믹은 주기적 사건이 되었다. 지구의 지층에서 닭 뼈 화석, 콘크리트와 플라스틱 덩이가 발견될 정도로 인류의 문명이 지구의 지층을 형성하는 인류세/자본세에 이르렀다.
4차 산업혁명은 이를 가속시킬 수도 있고 완화시킬 수도 있다. 이것이 야기하는 사회는 유토피아인가, 디스토피아인가? 디스토피아를 막으려면 ‘지금 여기에서’ 우리는 무엇을 해야 하는가. 디스토피아를 최소화하고 유토피아를 최대화하는 4차 산업혁명의 길은 무엇인가? 이는 700만 년의 인류사에 어떤 변화를 가져올 것이며 어떤 의미를 갖는가. 4차 산업혁명을 맞아 우리는 이런 질문을 던져야 하며, 이 질문에 긍정적인 답을 할 수 없다면, 그를 실천하려는 의지가 없다면 4차 산업혁명은 중지해야 한다. 4차 산업혁명을 인류의 역사와 더불어 사고하고 성찰해야 하는 이유가 여기에 있다.
--- p.24
빅브라더가 개인을 통제하는 것은 디지털 시대의 악령이다. 4차 산업혁명 시대에서는 빅마더(the Big Mother)가 모든 자유를 부여하면서도 관리하고, 겉으로는 시민을 체포하거나 구금하지 않고도 디지털 상으로 통제하고, 개인의 욕망과 무의식을 조절한다. 시민은 자신이 원하던 대로 행위를 한다고 생각하지만, 이는 빅마더가 매체의 이미지와 플랫폼의 알고리즘을 통하여 통제한 틀 안에서 자유일 뿐이다.
--- p.113~114
불평등이 심하면 좋은 정부가 개혁 정책을 수행한다 하더라도 실패로 귀결되기 십상이다. 왜냐하면, 개혁은 법과 시스템에 이어 사람과 문화가 바뀌어야 안착하는데, 불평등이 심할수록 사람들이 협력전략보다 지배전략을 선택하고 반개혁적 성향과 행동을 표출하기 때문이다. 불평등이 심하면, 울타리 안의 기득권은 자신과 자식들의 자본과 권력을 유지할 수 있는 ‘유리창’을 강화하기 위해 모든 권력과 자본, 정보를 동원해 제도와 법을 바꾸고 편법을 구사하며, 울타리 밖의 서민 또한 탐욕을 키우고 살아남기 위하여 치열하게 경쟁한다. 불평등이 심화한 사회에서는 기득권층은 누구나 ‘나경원’과 ‘조국’이 될 수 있고, 하층은 누구나 ‘송파 세 모녀’가 될 수 있다.
--- p.181
이렇게 붕괴요인과 상쇄요인이 함께 작용하면서 자본주의 체제는 오랫동안 버틸 것이다. 하지만, 이윤율이 0%에 근접하고 부채에 대한 이자 상환 비용이 5%를 넘어서고 반면에 공유경제 영역이 30%를 넘어선다면 자본주의 체제는 붕괴하거나 최소한 주변화할 것이다.
--- p.204
큰 틀에서는 도구와 인간의 관계가 전복되지만, 라투르가 지적하는 대로, 기술이 단순한 도구로서 기능만 하지는 않을 것이다. 이는 사회의 맥락에서 행위자(actor)로 기능을 하면서 끊임없이 각본화(in-scription)와 재각본화(re-scription)를 되풀이하며 주인과 도구의 경계를 해체하거나 모호하게 하며 사회의 변화를 야기할 것이다. (…) 물론, 인공지능 시대에도 거장들은 존재할 것이다. 최고의 AI작가라 하더라도 예기치 않은 곳에서 결함을 나타낼 것이며, 인간이 이를 끊임없이 보완하는 작업을 거쳐야 할 것이다. AI가 거장만이 갖는 세계와 인간에 대한 웅숭깊은 통찰, 독창적인 내용과 형식의 창조, 현실에 대한 예리한 분석, 진정성, 형식적 완결성까지 흉내 내려면 수많은 시행착오와 시간, 과학의 발전이 필요하다. 2∼3류 작가들은 인공지능에게 따라잡히며 점차 소멸하겠지만, 이후에도 오랫동안 거장은 AI가 따라올 수 없는 창조력을 가지고서 새로운 스타일과 형식을 창조하고, 남다른 세계관과 통찰력을 갖고 인간과 사회를 바라보면서 세계를 재질서화한 다음 이상과 현실, 세계와 자아 사이에서 끊임없이 진동하면서 이를 긴밀한 구조와 아름다운 문체로 형상화할 것이다.
--- p.329∼330
인공지능인간의 지능을 초월하는 인공지능 개발이 30년 안에 가능하다고 말한다. 하지만, 어느 정도 흉내 낼 수는 있더라도 인간의 본성을 가진 인공지능은 이보다 훨씬 어려울 것이다. 왜냐하면, 인간은 유전자의 명령을 초월하여 노동하고 수행하고 생활하면서 역동적으로 자신의 본성을 구현하기 때문이다. 또, 생물학적 존재, 사회적 존재로서 인공지능은 그리 어렵지 않겠지만, 의미론적 존재, 미적 존재, 초월적 존재로서 인간성을 갖춘 인공지능을 만들기는 상대적으로 쉽지 않을 것이다. 그럼에도 인공지능은 인간의 본성을 거의 유사하게 갖출 것이고, 착한 인공지능도 여러 방식으로 제작할 수 있을 것이다.
문제는 인공지능로봇과 인간의 관계이다. 인공지능이 인간의 본성을 닮을수록 인간은 정체성의 혼란을 겪을 것이다. 자신보다 더 일을 잘하는 AI는 인간에게 무력감을 준다. 자신보다 더 착한 AI는 자괴감을 안겨준다. 자신보다 인간에게 인기가 있는 AI는 무력감과 자괴감을 줄 것이다. AI가 인간을 닮을수록, 가까이에서 존재할수록, 인간은 존재의 의미를 상실할 것이다.
--- p.363
편견이 있는 것이 인간의 특성이며, 편견이 없는 왓슨이 오히려 인간보다 진단 정확도가 높은 장점은 갖더라도 인간이 될 수 없다는 것이 그 반대로 약점일 수도 있다.
실수하고 오류를 빚고 좌절하고 절망하면서 성찰하고 지혜를 터득하는 것이 인간의 중요한 본성이기도 하다. 인간은 실수와 죄를 참회하며 더 나은 인간으로 성숙하며, 죽기 때문에 유한성을 인식하고 실존을 모색하며, 모든 것이 무상함을 알기 때문에 무한을 추구한다. 주변에서 떠돌고 있음을 알기에 중심과 근원으로 다가가고, 비루하기에 거룩함을 지향한다. 이것이 자유의지이기도 하다.
유전자와 뇌신경세포에 인간의 성격과 마음, 행동 등을 결정하는 요소들이 이미 잠재되어 있지만, 그런 마음과 지향성, 실천을 이끌어내는 것에는 유전자와 뇌신경세포만이 아니라 온몸이 관여하며, 그 유전자와 뇌신경세포는 바깥의 환경, 타자 등과 연기적 관계에 따라 후성유전적으로 발현되기도 하고 발현되지 않을 수도 있다.
--- p.364∼365