“기업은 낑낑대며 괴로워하는 개 애니메이션을 만들어 그것을 지켜보는 우리의 감정적 반응을 조종하려 할지도 모르지만, 결국 꾸며낸 것에 불과합니다.”
--- p.14

“이론적으로는 기쁨과 고통을 모두 체현할 수 있는 디지털 생명체를 만드는 것이 가능합니다. 하지만 그보다는 고통을 회피하는 것이 훨씬 우선시되어야 한다고 봅니다. 지금 인간은 동물들에게 계속해서 믿기지 않을 정도의 고통을 가하고 있습니다. 동물은 피와 살로 이루어진 생명체이기에, 그들이 고통받고 있다는 사실은 보면 금방 알 수 있습니다. 하지만 디지털 생명체는 살아 있는 신체가 아니기 때문에 많은 사람이 그 고통을 무시하고 지나치겠지요. 그래서 만약 우리가 디지털 생명체를 만든다면, 우리는 그들에게 막대한 고통을 주게 될 것입니다.”
--- p.16

“사회문제는 개인이 혼자서 해결할 수 있는 게 아닙니다. 예를 들어 가상의 연인을 구매하는 것은 고독한 남자가 혼자서도 할 수 있는 일입니다. 하지만 고독을 없애기 위해 사회를 재구축하는 일은 혼자서는 불가능하지요.”
--- p.20

“오늘날에는 의식이라든가 의식과 뇌의 관계 같은 문제를 소프트웨어와 하드웨어라는 모델, 혹은 영혼과 육체라는 종교적인 개념 중 어느 쪽에도 의존하지 않고 이야기하는 것이 거의 불가능하다고 할 수 있습니다. 두 가지 표현 방식 모두 우리에게 깊이 배어 있지만, 문제는-과제라고 해도 좋겠습니다-이것들이 정말로 적절한 용어법인가 하는 점입니다.”
--- p.40

“자율성이야말로 생명의 본질이라는 것은, 인공생명이 위험한 사상을 내포하고 있다는 뜻이 된다. 무슨 말일까. AI가 어떤 출력을 내도록 하려면, 우리는 그 목적에 맞게 적절한 입력을 하면 된다. 현재 챗GPT를 잘 활용하려는 사람들이 ‘최적의 입력’인 ‘프롬프트 엔지니어링’에 매진하고 있는 것을 보면 명백하다. 즉 AI는 출력을 전제로 입력을 할 수 있다는 조건 아래, 인간이 제어할 수 있는 ‘기술’(도구)이 되었다. 설령 GPT 내부가 블랙박스로 되어 있어서 인간이 그 입력과 출력의 대응 관계를 이해할 수 없다고 해도, 챗GPT는 입력만 하지 않으면 아무런 출력도 하지 않는다. 그러나 만약 AI와 같은 ‘입출력’을 전제로 하지 않고 제멋대로 움직이기 시작하는 ‘자율성’을 가진 인공생명이 존재한다면, 인간이 침묵하고 있어도 그것은 알아서 뭔가 출력을 계속할 것이다. 이는 진정한 의미로 인간의 통제를 벗어난다는 뜻이다. 세간에서는 흔히 ‘AI가 폭주한다’라는 걱정과 두려움을 호소하지만, 실제로는 AI가 폭주하는 것이 아니라 AI를 이용하는 인간이 폭주하는 것이다. 진정으로 폭주할 가능성이 있다면 그것은 인공생명 쪽이다. AI가 제어 가능한 시스템을 설계하려 한다면, 인공생명은 제어 불가능한 시스템을 탄생시킨다는 점이 본질적으로 따라붙는다.”
--- p.119