포스트휴먼이라는 유령이 현대 문명의 주위를 배회하고 있다＿얼마 전 미국의 군수업체 록히드 마틴사가 개발한 ‘헐크(HULC)’를 착용한 병사들은 90킬로그램 장비를 메고 시속 5킬로미터로 이동할 수 있다. 헐크 속에 부착된 압력센서 덕분이다. 일본의 벤처기업 사이버 다인은 근위축증 환자의 걸음걸이를 돕는 외골격 로봇 ‘할(HAL)’을 개발했다. 테슬라의 대표 일론 머스크가 설립한 ‘뉴럴링크(Neural link)’도 증강 인간 기술의 개발을 목표로 하고 있듯이, 증강 인간에 대한 연구와 제품개발은 갈수록 늘어나고 있다.
--- p.30

포스트모던 세계와 포스트휴먼 그리고 트랜스휴머니즘＿비의식적 지능과의 게임에서 인간이 살아남으려면 ‘마음을 업그레이드하는 일에 적극적으로 나서야 할 것’이라는 하라리의 주장은, 해결책의 단초를 ‘최선의 인간 본성’에서 찾아야 한다는 보스트롬의 주장과 일맥상통한다. 현상계의 모든 것은 오직 의식의 투사영일 뿐이다. 인공지능 역시 인간이 만드는 것이니 인간의 의식이 투영된 것이다. 1998년 양자물리학 분야에서 최고 권위를 자랑하는 이스라엘의 와이즈만연구소에서 실시한 전자의 운동성에 대한 ‘이중슬릿 실험’은 전자의 운동성이 관찰자의 생각에 따라 달라지는, 이른바 ‘관찰자 효과(observer effect)’를 보여주는 것으로 과학과 의식의 접합을 보여준다.
--- p.63

인공지능 시대를 보는 이론적 관점들＿유토피아적 미래도 디스토피아적 미래도 모두 가능한 시나리오지만 양자는 다분히 극단적 전망이다. 중요한 것은 미래가 열려 있다는 점이고, 따라서 현재 우리가 어떤 미래를 바라느냐, 그리고 그것을 실현하기 위해 어떤 선택과 노력을 할 것이냐이다. 이러한 점에서 지난 수백 년처럼 근대주의를 신봉하면서 ‘근대화’ 를 더욱 가속화시키는 길을 추구하는 것은 바람직하지 않다고 생각된다. 근대화는 합리성을 통해 야만적 전근대성과 단절하여 문명화된 근대성으로 이행한다는 ‘진보’의 신화를 따르는 것이다. 트랜스휴머니즘은 바로 이런 근대화를 더욱 가속화시키는 것으로서, 인간향상기술(human enhancement technology)을 통해 이젠 ‘휴먼’을 넘어서 ‘포스트-휴먼’, 즉 초인이 되고자 하는 열망이다.
--- p.90

체계적인 인공지능 윤리＿인공지능 과학기술의 발전과 인공지능 존재자와 인간 사이의 상호작용 영역과 정도가 심화됨에 따라 인공지능 존재자는 도덕적 행위주체로 인정되는 충분한 인격 지위를 부여받을 수 있을 것이다. 왜냐하면, 인정에 근거한 인격 논의는 다양한 속성들에 대한 인정과 비중주기를 통해 인식의 변화를 반영하기 때문이다. 이 수준은 약한 인공지능 수준과 강한 인공지능 수준 사이에 있을 수도 있고, 강한 인공지능 수준일 수도 있을 것이다. 무어의 구분법에서 추론하여 행동하는 수준의 3단계 정도일 것이다.
--- p.119

존엄에 관하여＿포스트휴먼의 존엄성 여부를 묻는 것은, 근본적으로 불필요하거나 성립되기 어려운 질문을 의미한다. 거칠게 말하자면, 트랜스휴머니즘의 관점에서 포스트휴먼은 이미 유일하게 존엄한 존재로 가정된 인간의 완성을 의미하기 때문이고, 반휴머니즘을 지향하는 포스트휴머니즘의 관점에서 인간 존엄은 -그들의 입장에서 수용할 수 없는-실체화된 개체 개념에 근거해 있는, 근대의 인간중심적 휴머니즘을 전제로 가능한 개념이기 때문이다. 그러나 존엄이 하나의 즉물적 사태나 특성이 아니라, 정신적 현상이거나 적어도 정신을 통해 매개된 현상인 한, 존엄에 대한 명시적 접근과 파악을 가능케 하는 토대로서 이성의 역할을 제한적으로나마 용인하는 것은 불가피해 보인다.
--- p.145-146

포스트휴먼 시대의 예술＿구글의 딥드림은 이제 인간의 무의식에 도전하기 시작했다. 꿈의 패턴을 배워 꿈의 이미지를 만들고, 무의식을 모방하여 인공지능의 ‘알고리즘 의식’이 깃든 미술을 창작한다. 2016년에는 초현실주의 작품들로 전시회를 개최하기도 했다. 딥드림은 기존에 학습한 회화 데이터베이스를 기반으로 빈센트 반 고흐의 작품을 모사하는 훈련을 받았고, 인공지능 프로그램은 자신의 학습 기억에 들어있는 형상과 반 고흐의 작품을 연결해 매우 독특한 작품을 만들어냈다.
--- p.172

포스트휴먼 시대의 교육과 학습의 변화＿지금까지의 교육은 근대주의적 합리성과 과학주의적 효율성이라는 근거(rationale)를 바탕으로, 학습 목표와 학습 내용, 학습 방법, 평가가 마치 별개인 것처럼 구별, 순서화, 모듈화해왔다. 하지만 이러한 근대적 관념은 디지털, 네트워크화, 가상현실의 환경들이 점점 확대되어가는 기술문명 사회 속의 인간의 경험과 학습을 설명하기에 적합하지 않다는 것이다.
--- p.199

강한 인간척도주의에서 약한 인간척도주의로＿‘인간’은 더 이상 만물의 척도가 아니다. ‘생각하는 기계’는 더 이상 ‘인간의 사고’를 기준으로 삼지 않는다. 그 기계는 이제 서서히 ‘인간’이라는 울타리를 떠나기 시작한다. 특히 인공지능은 인간의 자연적인 지능을 모방하는 단계에서 벗어나 순전히 공학적인 디지털의 영역에서 ‘더 잘 생각하는 기계’로 탈바꿈하고 있다. 그럴 경우 디지털 원리에 기초한 공학적인 설계에서 탄생한 인공지능은 인간의 자연지능을 모방하지 않아서 인간지능보다 열등한 것이 아니라 오히려 우월할 수 있게 된다.
--- p.211

인공지능과 법인격＿인간의 자유의지와 합리성은 비록 정신철학, 심리학, 뇌과학의 성과에 의하여 의문이 제기되고 있기는 하지만, 억압의 부재로서의 자유, 그 자유를 실현하기 위한 현실적 합리성이라는 형태로 여전히 법적 주체성의 근거로서의 유효성을 유지하고 있다. 이에 비하여 AI의 자율성과 합리성은 적어도 현재의 기술 수준에서는 단지 성능이 좋은 자동화 기술의 맥락과 범주를 벗어나지 못하고 있다. 인공지능의 법적 주체성에 관한 최근의 논의에서는 영혼이나 정신 또는 의식과 같은 속성이 주목을 받고 있다.
--- p.251

인공지능 시대와 미래 리터러시의 방향＿AI 글쓰기가 다수에 의해 보편화된다면, 리터러시는 더 이상 인간만의 고유한 활동이나 능력으로 여겨지지 않을 것이다. 또 리터러시가 단지 정보를 전달하고 수용하는 ‘소통 기능’으로 환원가능하다면, 이 기능을 기계적으로 대체하는 것은 기술적으로 어려운 과제가 아닐 수도 있다. 결과의 측면만을 본다면, 인공지능 기술의 발전에 따라, 인간의 글쓰기와 AI 글쓰기는 구별되지 않기 때문이다. 그러나 과정의 측면을 고려하면 얘기는 크게 달라진다.