스푸너를 구한 로봇은 “로봇은 인간을 보호해야 한다”는 로봇 3원칙의 제1원칙에 따라 그를 구했을 것이다. 문제는 보호할 수 있는 사람보다 보호해야 할 사람이 많을 때 발생한다. 이런 상황은 자율주행차에도 적용된다. A를 살리고 B를 죽이는, 어쩔 수 없는 선택의 순간이 온다면 자율주행차는 어떤 판단을 내려야 할까?
--- p.19

알고리즘에는 인간의 편견, 오해, 편향성 등이 코드화되어 있다. 코드화된 알고리즘은 점점 더 우리 삶을 지배하는 시스템의 일부가 되어가고 있다. 미래에는 알고리즘의 통제권을 손에 쥔 사람이 세상을 지배할 것이다. 알고리즘이 권력이며 최종 결정권자가 되는 셈이다. 어쩌면 알고리즘이 모두의 인생 항로를 결정할지 모른다. 지금부터라도 알고리즘을 체계적으로 감시하고 다방면으로 견제해야 할 것이다.
--- p.87

사람들은 종종 타인이 내 기분에 맞춰 주고 내 욕구를 받아 주기 를 기대한다. 그렇게 일방적으로 자기가 원하는 역할을 타인에게 맡겨 버린다. 마치 타인을 자기 마음대로 해도 상관없는 인형처럼 생각하는 것이다. 온갖 희생을 감수하며 이런 관계를 유지할 사람 은 별로 없다. 그러나 인공지능 로봇의 경우에는 사용자가 무리한 요구를 해도 아무런 불평 없이 들어준다. 결국 사람들은 점점 더 기 계에 더 기대하고 사람에게는 덜 기대하게 될지도 모른다.
--- p.115

신체와 정신을 구별하고, 인간의 본질이 신체가 아닌 정신에 있다는 관점은 이미 많은 서양 철학자들로부터 논의되었다. 그러나 몸을 벗어난 정신이 그 자체로 존재한다는 것은 차원이 다른 이야기이다. 정신과 육체는 정말 상호 배타적일까? 몸을 이리저리 자유자재로 바꾸는 사람들, 기계와의 융합을 서슴없이 시도하는 사람들도 인간이라고 부를 수 있을까?
--- p.170~171

노동 소득의 감소는 세 가지 문제를 초래한다. 첫째, 생산과 유 통, 그리고 소비로 이어지는 순환 구조가 깨진다. 한마디로 경제가 작동하지 않는다. 둘째, 복지, 특히 노동과 연계된 사회보험의 지속 가능성이 줄어든다. 국민연금, 건강보험 등은 일하는 사람이 많아 야 보험료가 많이 걷히고, 쌓아 둔 보험금도 쉽게 바닥나지 않고 오 래 유지되기 때문이다. 셋째, 할 일을 잃고 방황하는 이들이 가득해 진다. 먹고살 최소한의 돈이 없으면 범죄나 폭동이 만연해질 수밖 에 없다. 기술은 부富의 총량을 늘리는 동시에 불평등을 심화한다.
--- p.191~192

사람보다 훨씬 똑똑한 기계가 출현해 월등히 뛰어난 인공지능을 쉽게 만들어 낸다면 어떻게 될까? 이때부터 인간과 기계가 맺는 관 계는 지금과는 완전히 달라질 수밖에 없다. 과학자들은 미래 사회 에서 사람과 기계의 사회적 관계는 세 가지 중 하나가 될 것으로 예 측한다. 인간이 기계를 짐승처럼 부리는 관계, 인간과 기계가 서로 돕고 사는 관계, 기계가 인간을 지배하는 관계이다. 우리가 추구해 야 할 관계는 인간과 기계가 서로 돕고 사는 것이 아닐까?