포스트휴머니즘의 관점은 동일한 기술이 서로 다른 사용자를 만난 결과가 선인가, 악인가를 따지는 대신에 기술이 애초부터 서로 다른 관계망 속에서 서로 다른 존재로 구성된다는 관점을 택한다. 다시 말해 관계가 달라지면 AI의 사회적 효과뿐 아니라 그 자체의 성격과 능력, 행위성도 함께 달라지는 것이며, 기술은 가치중립성이라는 고정된 본성을 지닌 것이 아니라 그것이 맺고 있는 모든 관계가 형성한, 우리가 소위 ‘본성’이라 부르는 속성을 지니게 된다.
--- pp.25-26

최근 비판적 AI 연구(Critical AI Studies)와 STS 학계의 논의는 알파고, 특히 알파고 제로의 자율성에 관한 서사가 인간과 AI를 서로 분리된 존재로 상정하는 근대적 이분법에 기초해서 사실을 과도하게 단순화하고 있다고 비판한다. 가장 직접적인 비판은 AI를 연구하는 인지심리학자 개리 마커스(Gary Marcus)로부터 나왔다. 마커스는 딥마인드가 사용한 ‘백지상태’라는 표현 자체가 대중에게 잘못된 인상을 준다고 비판하는데, 알파고 제로는 인간 기보를 사용하지 않았을 뿐, 결코 아무것도 없는 상태에서 출발한 것이 아니기 때문이다.
--- p.45

평소 우리는 스테이블 디퓨전 같은 이미지 생성 AI를 하나의 프로그램으로 인식하지만, 이를 네트워크의 관점에서 펼쳐(unfold) 보면 그 내부에는 인코더와 디코더, 확산 모델(diffusion model), 대규모 학습 알고리즘, 컴퓨팅 인프라, 그리고 수십억 장의 학습 이미지가 연결되어 있다. 이 데이터는 인터넷 이용자들이 오랜 기간 축적한 자료이며, 이를 수집·정제·학습시키는 과정에는 수많은 연구자와 프로그래머, 데이터 노동자가 참여한다. 뿐만 아니라 모델은 지속적인 업데이트와 사용자 피드백을 통해 향상된다. 결국 우리가 하나의 AI라고 부르는 대상은 인간의 행위·데이터·알고리즘·하드웨어가 결합된 거대한 사회기술적 네트워크이다.
--- p.77

LLM의 역사는 더 많은 데이터와 더 많은 GPU, 개선된 알고리즘의 역사이지만, 그것은 동시에 인간 고유의 능력으로 여겨 온 언어 활동이 점차 인간과 기계가 함께 수행하는 활동으로 재구성되어 온 역사이기도 하다. 일라이자 이후 챗GPT에 이르기까지 기계가 인간을 닮아 간 만큼 인간 역시 점차 기계에 더 밀착하여 사고하고 쓰고 배우는 존재로 변화해 왔다. 이러한 관점에서 보면 LLM의 역사는 인간과 기술의 공진화의 역사라고 할 수 있다.
--- p.91

역사적으로 뮬 방적기, 수치제어 공작 기계, ATM, 컨테이너, 산업용 로봇이 보여 주었듯이 기술의 효과는 기계 자체보다 그것을 둘러싼 사회적 제도와 협상 구조에 의해 결정되어 왔다. 생성형·피지컬 AI 역시 예외가 아니다. 이들은 모두 노동을 대체하는 기술이 될 수도 있고, 인간의 능력을 확장하는 기술이 될 수도 있다. 그 차이를 만드는 것은 기술이 아니라 사회이다.
--- p.145

우크라이나 전쟁에는 팔란티어는 물론, 마이크로소프트, 아마존, 구글과 같은 빅테크 기업이 클라우드와 AI 분석 기술을 제공했다. 전쟁 수행의 핵심 역량이 더 이상 국가의 군사 조직 내부에만 존재하지 않고 민간 데이터 기업과 클라우드 인프라, AI 플랫폼으로 분산되기 시작한 것이다. 냉전기의 군산복합체가 무기 생산 기업을 중심으로 형성됐다면, 오늘날의 전쟁은 데이터와 컴퓨팅 자원을 제공하는 군사-기술 복합체 위에서 수행된다.
--- p.157

통제에 대한 인간중심적 인식과 밀접하게 연결된 또 다른 문제는 행위의 원인을 하나의 주체로 환원하는 통념이다. 우리는 큰 고민 없이 ‘클로드가 인간을 협박했다’ ‘GPT-4가 거짓말했다’ ‘o3 모델이 종료를 거부했다’ ‘AI가 자신을 복제했다’라고 말한다. 이러한 표현은 현상을 간결하게 설명한다는 점에서는 효과적이지만, 동시에 AI를 행동의 시작점이자 원인으로 지정하는 효과를 만든다.
--- p.202

포스트휴먼 AI는 인간중심 AI를 폐기하려는 것이 아니다. 오히려 인간중심 AI가 강조한 인간의 존엄과 책임, 설명가능성, 인간의 주도권이라는 규범을 계승하면서도 그 인간의 범위를 AI의 혜택을 누리는 선진국의 사용자를 넘어 AI를 가능하게 하는 노동자, 지역 공동체, 미래 세대, 그리고 자연환경까지 확장하려 한다. 동시에 AI를 인간과 기술의 관계를 넘어서 노동·자본·국가·생태계가 얽혀 있는 정치경제적 네트워크로 이해한다. 인간중심 AI가 ‘인간을 중심에 놓자’고 선언했다면, 포스트휴먼 AI는 ‘관계와 정의를 중심에 놓자’고 제안한다.
--- p.257