‘미래’ 할 때 우리에게 떠오르는 종말론의 암울한 이미지는 이런 소셜 로봇들과는 전혀 다른 이미지를
인공행위자들에게 부여했다. 인간보다 뛰어난 로봇과 인공행위자들이 우리 일자리를 빼앗을 거라는 두려움이 오늘날 우리를 지배하고 있다. 카렐 차페크의 희극에서 “더 이상 인간이 필요치 않은 미래”를 만들어낼 “초인”의 이미지로 로봇이 그려진 뒤로 이런 생각은 백년 가까이 우리를 지배해 왔다. - 서문, 자율성, 사람, 로봇 --- p.18

철학자 귄터 안더스Gunther Anders는 “자기가 만든 뛰어난 작품 앞에서 인간이 느끼는 수치심”을 “프로메테우스적인 수치심promethean shame”이라 불렀다. 그래서 불쾌한 골짜기는 우리에게 다음과 같은 사실을 말해준다. 즉 인간은 언제든 자기가 만든 기계나 인공물을 본인보다 우월한 존재로 여길 수 있으며, 이런 감정은 수치심이나 경외감을 불러일으킨다. 또한 로봇이 인간과 흡사할 때 느끼는 불편함은 낯선 사람들과 함께할 때 느끼는 관계의 어려움을 드러내 준다. - 제1장, 불쾌한 골짜기 --- p.42

소셜 로봇이라면 실시간으로 반응하며, 상황에 적응하고, 상대와 의견을 조율하는 일을 모두 할 줄 알아야 한다. 아무리 세심하게 가상 시나리오를 짜고, 업무 범위를 한정하고, 행위를 제한하여 예측 가능성의 범위 안에 묶어두려 해도 인간과 로봇이 상호공조reciprocal coordination해야 하는 상황들은 배제할 수 없다. 이런 적응능력과 조율능력을 갖춰야 하므로 인공의 사회적 행위자는 일반 기계와 달라야 한다. 바로 이런 사회적 능력이 특정 업무나 기능만 수행하는 로봇과 소셜 로봇의 차이다. 시바타가 정의했듯이 인공으로 사회성을 만들어내는 일은 “특정한 용도 없이 모든 일을 할 수 있는 로봇”을 만들어낼 때에만 가능하다. - 제 1장, 무목적의 로봇 --- p.48

그러므로 로봇의 현실화는 이들을 통하지 않곤 이해 못할 인간의 행동을 더 깊이 살펴볼 기회를 준다. 여기서 우리는 두 가지 사실을 알아야 한다. 첫째는 우리가 어떤 행동을 진정으로 이해 못하면 로봇들에게 표현행동을 심어줄 수 없다는 것이고, 둘째는 이런 행동들을 진정으로 이해해야만 비로소 인공행위자들의 행위에 자율성을 부여할 수 있다는 점이다. 이런 이중의 연구를 통해 사회적 로봇은 과학실험의 도구가 된다. 나아가 인간의 전형적인 행동과 다른 행동도 할 수 있는 로봇을 만든다면 인간의 사회적 행동이 지니는 역할과 의미를 제대로 이해한 것이 된다. 이는 우리의 연구를 선순환으로 이끌어 줄 것이다.
- 제 1장, 과학실험도구로서의 로봇 --- p.68

약 20년 전 앤디 클라크Andy Clark와 데이비드 차머스David Chalmers는 ‘확장된 마음The Extended Mind’이란 제목의 유명한 논문을 통해 같은 이름의 이론을 세상에 내놓았다. ‘확장된 마음’이라는 표현은 은유적일 뿐만 아니라 단어 본래 뜻으로도 해석된다. 은유로서의 확장된 마음은 기술의 도움을 받아 증강되고 개량된 마음을 말한다. 문자에서부터 인터넷까지, 기술을 통해 우리 인지능력을 높이는 경우가 여기에 해당한다.
- 제 2장, 확장된 마음, 그리고 사이보그 --- p.89

인간 파트너의 감정표현을 알아차리고 해석하여 적절히 대응할 줄 아는 로봇을 만드는 일은 인간-로봇의 관계에, 특히 로봇의 사회적 수용에 있어 핵심적인 주제이다. 때문에 인간 파트너와 지속적으로 감정관계를 유지하는 능력은 소셜 로봇의 성공 여부를 가름하는 가장 중요한 척도가 된다. ‘정서affection’, ‘감정emotion’ 또는 ‘공감sympathy’을 지닌 로봇을 만드는 건 오늘날 소셜 로봇공학의 핵심 과제다. 우리는 이런 것을 소셜 로봇공학뿐만 아니라 모든 인지과학이 가장 우선시해야 할 과업으로 본다. - 제 3장, 정서와 공감의 로봇 --- p.125

이렇게 로봇들의 감정이 진짜가 아닌 거짓이고 흉내일 뿐이라는 생각은 로봇공학의 감정에 대한 ‘외적’ 접근의 방법론적 원칙이 된다. 이를 볼 때 예술가, 화가, 조각가, 공연예술가들이 감정의 외적 로봇 연구에 적극 참여하는 현상은 놀라운 일이 아니다. 왜냐하면 예술과 로봇공학은 둘 다 ‘가짜’라 말할 수 있는 의도적 허위를 통해 진짜 감정반응을 유도해내려는 시도이기 때문이다.
- 제 3장, 외적 로봇공학, 또는 감정과 공감의 사회적 측면 --- p.142

우리가 지금껏 만들어 온 대부분의, 아니 모든 기술도구들(최신의 현대문물까지 포함해)은 우리 인간의 생물학적, 문화적 조건들을 송두리째 바꿔 놓았다. 그중에서도 대리로봇의 탄생은 우리 인간들이 지닌 다수성의 조건을 변화시키고 더 다양하게 만들 것이 분명하다. 지금 인류는 우리를 빼닮았지만 전혀 다른 새로운 주역들(동물들과 비슷하지만 전혀 다른 방식을 지닌)의 출현을 눈앞에 두고 있는 것이다. - 제 4장, 또 하나의 가정 --- p.197

크리슈난은 결국 인간이 주도하고 책임질 영역이 점점 줄어들 것이라고 예측한다. 죽일 것인가 살릴 것인가, 누구를 죽일 것인가, 어떤 상황에서 죽일 것인가 등의 결정권이 자율적(인간의 통제를 벗어났다는 의미에서 자율적이다) 시스템으로 넘어가는 것이다. 하지만 크리슈난의 이런 주장을 기술혁신을 거부하거나 제한하자는 주장으로 받아들여선 곤란하다. 크리슈난은 경제적, 정치적 이유로 인해 자율무기의 발달이 가속화되리라는 예측에 동의한다. 자율무기 경쟁이 지속되는 한 인간에게 부여됐던 책임과 결정권의 많은 부분이 불가피하게 자율적 시스템으로 넘어가게 될 것이다. 전장의 지휘권이 기계로 넘어가는 문제도 당분간은 어쩔 수 없다. 하지만 이런 이유 때문에라도 책임을 양도하는 일의 윤리성이나 타당성은 따져보아야만 한다. 그러면 이런 변화에 우리가 어떻게 대응해야 할까? - 제 5장, 자율무기와 인공행위자들 --- p.210

우리가 제안하는 인공윤리는 현재 진행 중인 발전에 주목하고 깊이 생각함으로써 새로이 문제를 제기하고 해법을 찾으려는 것이지 이미 있는 이론을 가지고 새로운 상황들을 판단하려는 것이 아니다. 인공적 방법론은 윤리에도 혁신이란 것이 있을 수 있다는 생각을 진지하게 받아들인다. 공상과학이 보여주는 미래에 대한 디스토피아적 예측과 달리, 인공 윤리는 로봇들의 사회로의 진입을 종말의 시작이 아닌, 우리 인간 본성에 대한 보다 깊은 이해를 위한 전진이라고 생각한다. 동시에 이는 인공의 사회적 파트너(대리로봇)를 만들어낼 수 있는 유일한 존재인 우리 인간에 대한 도덕적 성찰이자 탐구가 될 것이다. - 제 5장, 다시 대리로봇

<B>소셜 로봇과 함께 정서, 감정, 공감을 나누며 살아가는 방법!<br/><br/>1. 로봇은 우리의 친구가 될 수 있을까? <br/></B><br/>멀지 않은 미래에 우리와 함께 살아갈 로봇들은 어떤 모습을 하고 있을까?<br/>확실한 건 미래의 로봇들은 반려동물이나 각 분야의 전문적인 보조자의 역할을 하는 데 그치지 않을 거라는 점이다. 어느 정도의 자율성을 갖추고, 스스로 학습하고 진화하면서 인간의 언어와 마음을 이해하고 소통할 수 있는 로봇이 우리가 그리는 미래의 소셜 로봇이다. 그러나 불안한 우리들은 끊임없이 질문을 던질 수밖에 없다.<br/><br/>“로봇들이 진심으로 우리 인간을 도울 수 있을까?” <br/>“이들이 인간들과 믿음, 우정 또는 사랑이라 부르는 관계를 나눌 수 있을까?” <br/>“그리고 이를 과연 진실한 관계라고 할 수 있을까?”<br/>“혹시 인간을 뛰어넘는 시점이 오면 끔찍한 일이 일어나는 건 아닐까?”<br/><B><br/>2. 로봇들은 우리의 자화상이다. <br/></b><br/>실생활에서 완벽한 대리로봇들이 출현하더라도 인간 파트너와의 소통이나 공감 능력이 떨어진다면 제대로 일을 수행할 수 없을 것이다. 현대사회에서 일처리 능력만큼이나 중요한 사회성은 누구에게나 쉬운 일은 아니다. 사회 속에서 ‘낯선 사람들과 관계할 때의 어려움’은 우리 누구나 겪는 일이다. 이런 점에서 인간은 자신이 만드는 로봇과 별반 차이가 없다고 봐야 할 것이다. <br/><br/>“로봇 친구를 만드는 일은 단순한 기술만 가지고 되는 게 아니다.<br/>나와 타인에 대한, 그리고 인간의 사회성에 대한 이해가 전제되어야 한다. <br/>개인 단독자로서 환경과 마주할 때뿐만 아니라 주변 사람들과의 관계 속에서<br/>인간의 마음이 어떻게 작동하는지도 잘 알아야 한다. <br/>인간의 ‘사회성’과 ‘마음’은 소셜 로봇공학이 반드시, <br/>그리고 깊이 탐구해야만 하는 주제이다. <br/>인간의 주요한 사회적 특성을 재현해낼 로봇 연구 플랫폼들은 <br/>인간의 사회성을 연구하는 데 있어 중요한 실험대가 될 것이다.”<br/><br/>미래의 로봇들은 바로 우리의 자화상이다.<br/>로봇은 그저 흉내만 낼 수 있을 뿐이다. 기계의 마음이란 건 애초에 존재하지 않으며, 그 기계를 만든 인간의 마음이 마치 컴퓨터의 소프트웨어 기능처럼 그 기계의 행동패턴을 좌우할 것이기 때문이다. 미래의 기술혁명으로 로봇들이 얼마나 더 진화하게 될지는 알 수 없으나, 로봇들이 보여줄 표현이나 행동들은 결국 어떤 의미에서, 인간의 마음을 본 딴 결과물의 그 이상 이하도 아닐 것이다. 아이가 어른을 닮아가며 성장하듯이, ‘소셜 로봇들’ 역시 ‘사회속의 우리 모습’을 본 따 만들어지고 진화할 것이기 때문이다. 그런 의미에서 소셜 로봇공학의 발전은 인간에 대해, 다시 말해 ‘인간의 사회적 본성’에 대해서 더 잘 알게 되리라는 기대를 갖게 한다. <br/>인공지능과 로봇의 혁명은 인류문명에 또 하나의 거대한 변화를 예고하고 있다. <br/><br/>물론 우리 사피엔스들은 그 방향이 인류에게 큰 도움을 줄 거라 예상하면서 로봇 공학을 실험, 발전시키고 있으며, 스티브 호킹 박사나 빌 게이츠, 엘렌 머스크 회장을 비롯한 여러 석학들의 부정적이고 심지어 극단적인 견해에도 불구하고, 그 혁신과정을 이제 와 멈출 수도 없다. 그런 의미에서 [로봇과 함께 살기]는 인류를 위한 인공지능과 로봇들을 기대하기 이전에 우리가 무엇을 알고 준비해야 하는지를 다시 한 번 생각해보게 한다. <br/>