‘미래’ 할 때 우리에게 떠오르는 종말론의 암울한 이미지는 이런 소셜 로봇들과는 전혀 다른 이미지를
인공행위자들에게 부여했다. 인간보다 뛰어난 로봇과 인공행위자들이 우리 일자리를 빼앗을 거라는 두려움이 오늘날 우리를 지배하고 있다. 카렐 차페크의 희극에서 “더 이상 인간이 필요치 않은 미래”를 만들어낼 “초인”의 이미지로 로봇이 그려진 뒤로 이런 생각은 백년 가까이 우리를 지배해 왔다. - 서문, 자율성, 사람, 로봇 --- p.18

철학자 귄터 안더스Gunther Anders는 “자기가 만든 뛰어난 작품 앞에서 인간이 느끼는 수치심”을 “프로메테우스적인 수치심promethean shame”이라 불렀다. 그래서 불쾌한 골짜기는 우리에게 다음과 같은 사실을 말해준다. 즉 인간은 언제든 자기가 만든 기계나 인공물을 본인보다 우월한 존재로 여길 수 있으며, 이런 감정은 수치심이나 경외감을 불러일으킨다. 또한 로봇이 인간과 흡사할 때 느끼는 불편함은 낯선 사람들과 함께할 때 느끼는 관계의 어려움을 드러내 준다. - 제1장, 불쾌한 골짜기 --- p.42

소셜 로봇이라면 실시간으로 반응하며, 상황에 적응하고, 상대와 의견을 조율하는 일을 모두 할 줄 알아야 한다. 아무리 세심하게 가상 시나리오를 짜고, 업무 범위를 한정하고, 행위를 제한하여 예측 가능성의 범위 안에 묶어두려 해도 인간과 로봇이 상호공조reciprocal coordination해야 하는 상황들은 배제할 수 없다. 이런 적응능력과 조율능력을 갖춰야 하므로 인공의 사회적 행위자는 일반 기계와 달라야 한다. 바로 이런 사회적 능력이 특정 업무나 기능만 수행하는 로봇과 소셜 로봇의 차이다. 시바타가 정의했듯이 인공으로 사회성을 만들어내는 일은 “특정한 용도 없이 모든 일을 할 수 있는 로봇”을 만들어낼 때에만 가능하다. - 제 1장, 무목적의 로봇 --- p.48

그러므로 로봇의 현실화는 이들을 통하지 않곤 이해 못할 인간의 행동을 더 깊이 살펴볼 기회를 준다. 여기서 우리는 두 가지 사실을 알아야 한다. 첫째는 우리가 어떤 행동을 진정으로 이해 못하면 로봇들에게 표현행동을 심어줄 수 없다는 것이고, 둘째는 이런 행동들을 진정으로 이해해야만 비로소 인공행위자들의 행위에 자율성을 부여할 수 있다는 점이다. 이런 이중의 연구를 통해 사회적 로봇은 과학실험의 도구가 된다. 나아가 인간의 전형적인 행동과 다른 행동도 할 수 있는 로봇을 만든다면 인간의 사회적 행동이 지니는 역할과 의미를 제대로 이해한 것이 된다. 이는 우리의 연구를 선순환으로 이끌어 줄 것이다.
- 제 1장, 과학실험도구로서의 로봇 --- p.68

약 20년 전 앤디 클라크Andy Clark와 데이비드 차머스David Chalmers는 ‘확장된 마음The Extended Mind’이란 제목의 유명한 논문을 통해 같은 이름의 이론을 세상에 내놓았다. ‘확장된 마음’이라는 표현은 은유적일 뿐만 아니라 단어 본래 뜻으로도 해석된다. 은유로서의 확장된 마음은 기술의 도움을 받아 증강되고 개량된 마음을 말한다. 문자에서부터 인터넷까지, 기술을 통해 우리 인지능력을 높이는 경우가 여기에 해당한다.
- 제 2장, 확장된 마음, 그리고 사이보그 --- p.89

인간 파트너의 감정표현을 알아차리고 해석하여 적절히 대응할 줄 아는 로봇을 만드는 일은 인간-로봇의 관계에, 특히 로봇의 사회적 수용에 있어 핵심적인 주제이다. 때문에 인간 파트너와 지속적으로 감정관계를 유지하는 능력은 소셜 로봇의 성공 여부를 가름하는 가장 중요한 척도가 된다. ‘정서affection’, ‘감정emotion’ 또는 ‘공감sympathy’을 지닌 로봇을 만드는 건 오늘날 소셜 로봇공학의 핵심 과제다. 우리는 이런 것을 소셜 로봇공학뿐만 아니라 모든 인지과학이 가장 우선시해야 할 과업으로 본다. - 제 3장, 정서와 공감의 로봇 --- p.125

이렇게 로봇들의 감정이 진짜가 아닌 거짓이고 흉내일 뿐이라는 생각은 로봇공학의 감정에 대한 ‘외적’ 접근의 방법론적 원칙이 된다. 이를 볼 때 예술가, 화가, 조각가, 공연예술가들이 감정의 외적 로봇 연구에 적극 참여하는 현상은 놀라운 일이 아니다. 왜냐하면 예술과 로봇공학은 둘 다 ‘가짜’라 말할 수 있는 의도적 허위를 통해 진짜 감정반응을 유도해내려는 시도이기 때문이다.
- 제 3장, 외적 로봇공학, 또는 감정과 공감의 사회적 측면 --- p.142

우리가 지금껏 만들어 온 대부분의, 아니 모든 기술도구들(최신의 현대문물까지 포함해)은 우리 인간의 생물학적, 문화적 조건들을 송두리째 바꿔 놓았다. 그중에서도 대리로봇의 탄생은 우리 인간들이 지닌 다수성의 조건을 변화시키고 더 다양하게 만들 것이 분명하다. 지금 인류는 우리를 빼닮았지만 전혀 다른 새로운 주역들(동물들과 비슷하지만 전혀 다른 방식을 지닌)의 출현을 눈앞에 두고 있는 것이다. - 제 4장, 또 하나의 가정 --- p.197

크리슈난은 결국 인간이 주도하고 책임질 영역이 점점 줄어들 것이라고 예측한다. 죽일 것인가 살릴 것인가, 누구를 죽일 것인가, 어떤 상황에서 죽일 것인가 등의 결정권이 자율적(인간의 통제를 벗어났다는 의미에서 자율적이다) 시스템으로 넘어가는 것이다. 하지만 크리슈난의 이런 주장을 기술혁신을 거부하거나 제한하자는 주장으로 받아들여선 곤란하다. 크리슈난은 경제적, 정치적 이유로 인해 자율무기의 발달이 가속화되리라는 예측에 동의한다. 자율무기 경쟁이 지속되는 한 인간에게 부여됐던 책임과 결정권의 많은 부분이 불가피하게 자율적 시스템으로 넘어가게 될 것이다. 전장의 지휘권이 기계로 넘어가는 문제도 당분간은 어쩔 수 없다. 하지만 이런 이유 때문에라도 책임을 양도하는 일의 윤리성이나 타당성은 따져보아야만 한다. 그러면 이런 변화에 우리가 어떻게 대응해야 할까? - 제 5장, 자율무기와 인공행위자들 --- p.210

우리가 제안하는 인공윤리는 현재 진행 중인 발전에 주목하고 깊이 생각함으로써 새로이 문제를 제기하고 해법을 찾으려는 것이지 이미 있는 이론을 가지고 새로운 상황들을 판단하려는 것이 아니다. 인공적 방법론은 윤리에도 혁신이란 것이 있을 수 있다는 생각을 진지하게 받아들인다. 공상과학이 보여주는 미래에 대한 디스토피아적 예측과 달리, 인공 윤리는 로봇들의 사회로의 진입을 종말의 시작이 아닌, 우리 인간 본성에 대한 보다 깊은 이해를 위한 전진이라고 생각한다. 동시에 이는 인공의 사회적 파트너(대리로봇)를 만들어낼 수 있는 유일한 존재인 우리 인간에 대한 도덕적 성찰이자 탐구가 될 것이다. - 제 5장, 다시 대리로봇