이 사실은 정체성의 문제를 어렵게 만든다. 우리는 어린 시절의 경험, 관계에서 받은 상처와 위로, 성공과 실패를 엮어 “내가 누구인지” 설명한다. 그런데 그 재료가 타인의 기억에서 왔다면 그 위에 세워진 자아도 가짜일까? 생성형 AI는 방대한 언어 자료에서 패턴을 학습해 기억을 말하는 듯한 문장을 만들 수 있고, 뇌ᐨ컴퓨터 인터페이스 임상 연구는 인간의 운동·의사소통 기능을 보조하는 방향에서 진행되고 있다. 동물 연구에서는 특정 기억과 관련된 신경세포 집단인 엔그램을 자극해 회상을 유도하거나, 생쥐에게 실제로 일어나지 않은 상황과 공포 반응을 연결한 실험도 보고되었다. 그러나 한 인간의 풍부한 자전적 기억을 다른 인간에게 통째로 주입하는 기술이 실현된 것은 아니다. 영화는 바로 그 아직 열리지 않은 가능성을 먼저 시험해 온 윤리적 실험실이다.
--- 「01 인간다움의 경계와 복제된 기억」 중에서

진정한 사랑은 상대의 모든 말에 동의하고 언제나 기분을 맞추는 일이 아니다. 때로는 쓴 진실을 말하고, 부당한 요구를 거절하며, 서로의 경계를 지켜야 한다. 거절할 수 있다는 것은 사랑하지 않는다는 뜻이 아니라 각자가 독립된 존재라는 증거가 될 수 있다. 내가 원하는 대답만 하도록 설계된 존재는 나를 편안하게 만들 수 있지만, 나와 대등한 관계를 맺는다고 보기는 어렵다. 그래서 AI 컴패니언의 윤리는 “그 사랑이 진짜인가?”라는 물음에만 머물 수 없다. 사용자가 상대의 정체와 상업적 목적을 분명히 알고 있는가, 감정적 의존을 키우는 설계가 숨겨져 있지는 않은가, 대화를 중단하고 데이터를 지울 권리가 보장되는가도 물어야 한다. 특히 외롭거나 취약한 이용자에게 친밀감을 제공하는 서비스라면 다정함을 수익화하는 방식과 위험을 더 엄격히 살펴야 한다.
--- 「03 프로그래밍된 사랑과 관계의 본질」 중에서

쿠사나기가 추적하는 인형사는 정부의 프로젝트 2501에서 만들어져 네트워크를 떠도는 동안 자의식을 얻었다고 주장하는 정보적 존재다. 그는 자신을 생명체로 선언하고 정치적 망명을 요구한다. 이후 쿠사나기에게 결합을 제안하고, 두 존재는 어느 한쪽으로 환원되지 않는 새로운 존재로 변한다. 〈사이보그 선언〉보다 약 10년 뒤 나온 이 영화가 해러웨이의 영향을 직접 입증하는 것은 아니지만, 인간과 기계의 경계 붕괴를 오염이 아니라 생성 가능성으로 그린다는 점에서 깊이 공명한다. 해러웨이의 ‘촉수적 사유’는 하나의 중심이 모든 것을 명령한다는 그림보다 여러 존재가 감지하고 얽히며 세계를 만든다는 관점에 가깝다. 쿠사나기와 인형사의 결합은 바로 그런 관계적 생성의 상징으로 읽을 수 있다. 아무도 계획하지 않은 새로운 지능이 출현한다면, 그것을 소유물이나 오류로만 처리할 것인가. 아니면 새로운 관계와 책임의 언어를 마련할 것인가.
--- 「06 창조주의 책임과 피조물의 원망」 중에서

두 영화의 자동화는 방향이 다르지만 같은 지점에 도달한다. 〈써로게이트〉에서는 인간이 몸과 관계를 대리체에 맡기며 삶의 현장에서 물러나고, 〈업그레이드〉에서는 몸을 되살린 기술이 그 몸의 통제권을 차지한다. 하나는 인간을 몸 밖으로 밀어내고 다른 하나는 몸 안으로 침투한다. 핵심은 기술이 얼마나 많은 일을 해내는가가 아니라, 무엇을 할지 결정하고 행동을 중단하며 결과를 자신의 것으로 받아들이는 인간의 자리가 남아 있는가다. 그렇다고 주체성을 모든 일을 혼자 해내는 자립과 동일시해서는 안 된다. 인간은 본래 타인의 돌봄과 사회적 제도, 수많은 도구에 의존해 살아간다. 주체성은 도움을 받지 않는 능력이 아니라 도움의 목적과 범위를 함께 정하고, 이유를 이해하며, 잘못된 판단에 이의를 제기하고, 필요할 때 관계를 바꿀 수 있는 능력이다. 따라서 좋은 자동화는 인간의 부담만 줄이는 것이 아니라 판단 능력과 선택 가능성을 보존하고 필요하면 회복시켜야 한다. 문제를 정확히 정의하고 AI를 기존의 운영·홍보·커뮤니케이션 체계와 유기적으로 결합했는가이다.
--- 「09 자동화된 편의와 주체성의 상실」 중에서