과거든 현재든 로봇을 들여다보면 파멸이라는 오래된 주제가 끊임없이 귀환한다.
--- p.13

최초의 로봇은 1920년대 체코 극작가 카렐 차페크Karel ?apek가 창작한 희곡, 『R. U. R.: 로숨의 유니버설 로봇Rossum’ Universal Robots』에서 출현했다. 이 희곡은 매우 독특하다. 여기서 ‘로봇’이라는 용어가 처음 사용되었고 로봇에 관한 문화적 재현도 처음 이루어졌다. 『R. U. R.』은 인류 종말을 인류의 완전한 절멸이라는 서사 구조로 표현한 최초의 근대적 희곡이다(Reilly 2011).
--- p.15

적어도 미국 문화에서는 MIT 과학자들이 과학기술 분야의 몰인격적 합리성과 남성적 권위를 상징한다.
--- p.17

기계 인간의 모델을 구축할 때 독특하면서도 예측 불가능한 방식으로 이론과 실천이 뒤엉킨다. 이들 실험실의 로봇학자들은 로봇을 제작하면서 끊임없이 로봇 관련 픽션을 참조했고, 로봇은 실재의 제약들(로봇의 용기container로 작용하는 물리적·사회적·문화적 환경)과 반복적으로 조우하고 있었다. 실재적인 것과 허구적인 것이 비통상적인 방식으로 서로에게 작용했다.
--- p.19

라투르의 주장처럼 기계에 대한 공포는 진정으로 ‘비대칭적 휴머니즘asymmetrical humanism’의 결과일까? 여기서 나는 로봇과 기계에 대한 공포가 오히려 대칭적 반휴머니즘symmetrical anti-humanism의 결과라고 주장하고자 한다. 대칭적 반휴머니즘은 인간과 비인간을 대등한 존재로 설정하고, 다른 행위 주체와 구별되는 어떤 특질도 인간에게 부여하지 않는다.
--- p.22

MIT에서 소셜 로봇을 제작하는 과정에서 이들 로봇은 어린아이로 상상된다. 성인은 부모나 보호자 역할로 로봇 기계와 관계 맺도록 권장되었다. 이런 상호작용적 교환을 촉진하기 위해 로봇은 위협적이지 않거나 심지어 귀여운 형태로 특별히 설계되었다.
--- p.37

자폐증이 사회적 상호작용의 어려움을 뜻하듯이 MIT 로봇학자들이 로봇 기계를 일종의 자폐적 인격, 즉 사회적 신호를 읽고 적절하게 반응하는 능력이 부족한 실체로 상상하기 시작한 것이 전혀 놀랍지 않게 다가올 것이다(Scasselate 2001). 우리는 장애를 가진 사람과 기계 사이의 유비가 로봇 제작의 한 측면으로 되풀이되고 있음을 알 수 있다.
--- p.44-45

로봇은 인간의 의미가 무엇인지 성찰하도록 창조된 모더니티의 산물이다.
--- p.63

동물은 열등한 타자성의 본보기였고, 인간(구체적으로 문화에서 영감을 얻는 부류)은 언어, 의식, 행위 주체성, 문화, 예술 때문에 동물보다 ‘우월한’ 존재였다(Malik 2000 Krantzt 2002). 동물도 인간과 동일한 종류의 존중과 지위를 누릴 자격이 있다고 주장했던 철학자 피터 싱어Peter Singer 같은 운동가는 이제 로봇과 관련해 그와 같은 성찰을 하고 싶어 한다(Lin, Abney and Bekey 2011).
--- p.118

인류학적으로 볼 때, 동물들의 생활 세계를 인간의 관점에서 바라보는 것은 이들 상이한 존재에 특유한 의미들을 혼동하거나 간과할 수 있다(de Waal 1996). 그러면 비인간은 단지 인종, 성, 젠더, 계급이라는 규범적 범주들을 담는 용기로 환원된다.
--- p.167

AI 로봇학과 컴퓨터과학자들은 인간을 단지 매우 복잡한 기계로 바라보면서 인간과 기계의 유사성을 강조한다. 즉 인간이 기계와 근본적으로 다른 것이 아니라 하나의 복잡한 기계에 불과하다는 것이다. 이 역설적인 사고방식에는 또 다른 측면, 즉 남성은 비사회적이기 때문에 기계의 상태에 더 가깝고 여성은 사회적이기 때문에 기계적인 것과 가장 거리가 멀다는 관념을 내포하고 있다.
--- p.178

미국 문화에서 너드에 대한 문화적 스테레오타입은 권력, 위세, 천재의 비전, 비즈니스적 예리함 등이 교차하며 혼합되어 있어 매우 복잡한 양상을 보여준다. 빌 게이츠, 스티브 잡스, 마크 저커버그는 모두 이런 ‘너드적 세계 질서Nerd World Order’의 상징이다.
--- p.182

배런코언(1995, 2003b) 같은 일부 학자는 반사회성이 더 훌륭한 과학자와 기술자를 만들기 때문에 사실상 과학기술에 유익하다고 주장한다.
--- p.186

“모든 것은 기계적이다. 인간은 물리학과 화학의 법칙에 따라 상호작용하는 생체분자들로 구성되어 있다. 우리는 자신이 스스로의 통제하에 있다고 생각하고 싶어 하지만 사실은 그렇지 않다. 인간이든 휴머노이드든, 피와 살로 만들어졌든 금속으로 만들어졌든, 우리는 모두 기본적으로 사회적 기계에 지나지 않는다”
--- p.200

내가 논증하고 싶었던 것은 로봇과 로봇학자의 상호연관성이다. 로봇학자들은 로봇을 설계할 때 자신의 자아를 기본값으로 설정하거나, 아니면 질병과 장애를 기본값으로 설정하는 경향성을 보인다. 이런 의미에서 로봇은 해당 제작자와 심리적·신체적으로 복잡하게 맞물린다.
--- p.243

프로이트(2003)는 언캐니를 다양하게 묘사한다. 그것은 “불편한 상태”(p. 152), “어떤 것이 살아 있는지 죽었는지”(p. 147) 판단하기 힘든 상태, 어떤 사물이 “살아 있는 것과 지나치게 유사할 때”(p. 147) 발생하는 혼란, “지적 불확실성”(p. 146)을 야기하는 것, “반복하려는 내면적 충동”(p. 145), 그리고 “분신(the double)”(p. 141)의 결과다.
--- p.262

이 책에서 나는 절멸이 당대 로봇학의 형성 그리고 인간과 비인간에 관한 인류학적 이론화에 의미심장한 배경으로 작용한다는 점을 보여주고자 했다. 그렇다면 이 과정에서 도대체 무엇이 절멸하는 것일까? 다름 아닌 사회적인 것이 절멸한다.
--- p.291

현재 기계는 인간들이 서로 연결되어 있다고 느끼도록 더 열심히 일한다. 하지만 인류가 로봇 기계를 수용하려면 사회가 좀 더 기계화되어야만 한다. 즉 인류는 기계의 필요에 맞춰 보다 덜 복잡하고 보다 더 스크립트화되며, 보다 더 스테레오타입화되고 보다 덜 자발적인 존재가 되어야 한다.

<b>MIT 로봇 실험실의 그들은 누구인가</b><br/><br/>이공계 실험실 연구자들, 특히 “너드Nerd”나 “긱Geek”으로 불리는 연구자들의 스테레오타입은 복잡한 양상을 보인다. 사회성 결여, 비위생적이고 지저분함, 유머 감각 제로, 자신의 관심사와 전공밖엔 모르는 젊은 남자가 먼저 떠오른다. 심지어 MIT에선 이들을 위해 “매력학교Charm School”을 운영할 정도다(180쪽 참조). 그런가 하면 빌 게이츠, 스티브 잡스, 마크 저커버그, 일런 머스크와 같이 권력, 위세, 천재적 아이디어, 예리한 비즈니스 감각이 교차된 앙트르프러너가 그려지기도 한다. 그런가 하면 배런코언이나 헬름라이히가 주장하듯이, 심지어 과도한 지능을 가진 그들은 자폐 스펙트럼 장애(특히 아스퍼거증후군)나 사회성 장애를 가지고 있어 그들만의 세계에 머물기를 즐기는 사람들로 여겨지기도 한다. 특히 배런코언은 “반사회성이 더 훌륭한 과학자와 기술자를 만들기 때문에 사실상 과학기술에 유익하다”고 주장하기까지 한다(168쪽 참조).<br/><br/>그러나 저자는 이런 스테레오타입에 찬성하는 것은 아니다. 실험실에서 연구에 몰입하며 생활하는 여성 연구자들을 관찰하고, 너드가 비자발적인 심각한 사회적 고립의 결과일 수 있으며, 대학교 실험실은 고등학교에서 당한 집단 괴롭힘의 탈출구일 수 있고, 전자공학과 컴퓨터공학이 갖는 괴상한 사회적 이미지 때문에 만들어진 것이라고 본다. 어쨌거나 이런 스테레오타입은 로봇학에 큰 영향을 미치는 것엔 틀림없다.<br/><br/><b>마음과 신체, 인공지능과 기계, 인간과 비인간 사이의 로봇</b><br/><br/>저자가 관심을 가지는 것은 로봇과 로봇학자들의 관계다. 저자는 그 관계에서 몇 가지 흥미로운 지점을 발견한다.<br/><br/>로봇학자들은 로봇을 설계할 때에 자신의 자아를 기본값으로 설정하거나, 아니면 질병과 장애를 기본값으로 설정하는 경향성을 보인다. 로봇은 제작자와 심리적 · 신체적으로 복잡하게 맞물린다. 로봇학자들은 자신이 제작하는 기계에 장애, 차이, 고통에 대한 일반적인 모델을 도입하는 한편, 자신의 고유한 고통을 기계에 투사한다. 만약에 이를 통해 인간만큼 복잡한 기계가 만들어진다면 여기엔 커다란 역설이 존재하는데, 인간과 기계가 마음이나 신체에서 다를 것이 없는, 즉 인간은 기계에 지나지 않는다는 것과 다른 한편으로 기계가 인간의 장애와 결핍을 보완한다면 그것은 결국에 인간의 완성에 기여한다는 것이다.<br/><br/>저자는 로봇과 AI 학자들의 남성적인 것과 여성적인 것의 이분법적 사고 방식에 주목한다. 로봇과 AI 시스템은 두 가지 방향성을 지니는데, “순수한” 인지적 이성 능력을 발휘하는 차갑고 계산적인 논리적 AI와 관계를 욕망하고 완벽함을 사랑하는 감성적이며 합리적인 로봇이 그것이다. 우리는, 인간의 신체는 기계인가? 냉철한 이성으로서의 AI는 인간에 어떻게 작동하는가? 등의 질문과 맞닥뜨리게 된다. 데카르트적인 마음과 신체의 이분법을 연상시키는 이러한 분류 방식엔, 인간이 기계와 근본적으로 다른 존재가 아니라 단지 매우 더 복잡한 기계에 불과하다는 인식이 숨어 있다.더구나 이러한 사고 방식엔 남성은 비사회적이기 때문에 기계에 가깝고 여성은 사회적이기 때문에 기계에 멀다는 관념을 내포하고 있다.<br/><br/>또한 저자는, 로봇은 연구자들에게 어린이, 반려자, 친구, 그리고 다양한 유형의 특별한 동반자로 재이미지화된다는 점을 지적한다. 즉 기계를 무젠더적, 무계급적, 무인종적으로 만들어 위협적인 요소를 제거하고, 돌봄자와 아이의 관계를 모방하고 그와 닮은 기계를 설계한다는 것이다. 이에 저자는 “로봇이 우리의 애인, 자녀, 치료사, 친구가 될 수 있을까?”라며 기계가 타인의 그럴듯한 대안이 되는 것이 가능한지 질문한다. <br/><br/><b>로봇과 AI: 우리는 어떻게 근심을 멈추고 로봇을 사랑하게 되었는가</b><br/><br/>“과거든 현재든 로봇을 들여다보면 파멸이라는 오래된 주제가 끊임없이 귀환한다”(13쪽). <br/><br/>근대의 성립 이후 인류가 발견한 것은 몰개성적이고 집단적인, 오로지 노동력으로서만 존재하는 노동자 군중의 등장이었다. 그것은 피와 살로 이루어진 인간이든, 전기와 금속으로 만들어진 휴머노이드이든 본질적으론 구분이 불가하며, 인간이든 기계든 기본적으로 사회적 기계에 지나지 않는다는 말과 같다. “로봇”이란 단어를 세계에 처음으로 소개한 카렐 차페크의 작품 『R.U.R.』이 이때에 등장한 것은 우연한 일이 아닌 셈이다. 차페크는 로봇을 파괴적인 문화적 실체로 묘사했으나, 이는 인간과 근대 산업 사회에 대한 깊은 통찰에서 비롯한 것이었다. 로봇은 인간의 의미가 무엇인지 성찰하도록 창조된 모더니티의 산물이었던 것이다.<br/><br/>저자가 말하듯이, 아직은 기계는 인간들이 서로 연결되어 있다고 느끼도록 더 열심히 일하고 긍정적으로 작동한다. 하지만 사회가 갈수록 더 기계화되면 어떤 일이 일어날까? 저자는 MIT 실험실에서 일어난 일화를 소개한다. 로봇이 오류를 일으키거나 작동에 어려움을 겪으면 로봇학자가 나서서 대신 동작을 취하며 해결을 한다는 것이다. 언뜻 보기엔 인간이 돌봄자로서 아이 같은 로봇을 도와주는 것처럼 보이지만, 인간이 기계에 맞춰 살아가는, 또는 살아갈 모습을 상징하는 것으로 읽힌다. 인간이 기계의 필요에 맞춰 살아가는 것은 덜 복잡하면서 보다 더 스크립트화된 일상을 살아가고, 보다 더 스테레오타입화되고 보다 덜 자발적인 존재가 되는 것이다(249쪽 참조). 그럼으로써 인류는 사회적인 것의 절멸을 통해서 절멸한다.<br/><br/>이 책은 인격과 사물, 인간과 기계, 마음과 신체, 인간과 비인간, 팩트와 픽션, 공적 공간과 사적 공간, 이론과 실천 들의 복잡하고 복합적인 철학적, 인류학적 세계를 주유한다. 이 책은 로봇과 AI 그리고 인간에 대해, 인류의 문화와 사회에 대해 근원적이고 본질적인 질문을 던지며 우리가 살아가는 현대 사회를 되돌아볼 기회를 제공한다.