서문＿우리는 지금 인류 역사상 가장 급진적인 전환의 한복판에 서 있다. 21세기의 가장 중요한 기술혁신 중 하나인 인공지능(AI)의 등장은 단순한 기술혁신이나 인간의 노동을 보조하는 도구를 넘어 인간 문명 자체의 재정의를 요구하고 있다. 마치 산업혁명이 인류를 농경 중심 사회에서 산업 중심 사회로 이끌었듯, 인공지능은 지식과 정보, 창의력 중심의 새로운 문명 전환을 이끌고 있다._이한구 (인류사회재건연구원장)

문명사의 관점에서 본 디지털혁명＿가상에서 자신의 정체성을 마음껏 구현하고자 한 메타버스가 기술적 한계, 인식의 한계로 침체한 가운데, 바로 이어서 2022년 챗GPT가 출현한 것에 주목할 필요가 있다. 자신의 정체성을 제대로 구현하려면 수요자가 필요로 하는 것을 맥락(콘텍스트)에 입각하여 구현해주는 AI 기술의 발전은 필수적인 것이다. 따라서 AI 기술의 출현 또한 개인맞춤형 정체성 발현 열망이 핵심 동인(動因)이라고 보아야 한다._[43쪽]

로봇 마음의 가능성＿인간 역사에서 농업, 문자, 산업, 정보 혁명을 거치면서 인간은 ‘그 혁명의 주체’였지만, ‘인공지능의 혁명’에서는 혁명의 주체가 뒤바뀔 수 있다. 사람이 로봇의 지배를 받지 않으려면 사람이 로봇을 ‘윤리화하는’ 선제적 인문학을 마련해야 한다. 멕시코의 아즈텍(Aztec) 종족은 신인 줄 알고 백인 코르테스(Hernán Cortés) 스페인 장군을 신뢰했다. 하지만 그에게 1521년에 무자비하게 정복당했던 것처럼, 지구 인류는 도우미로 믿고 개발한 로봇에게 정복당할 수 있다. 현 단계에서 ‘사람’은 그러한 ‘로봇’에 대해 통합적, 체계적으로 접근을 하여 선제적 인문 주체성을 확립할 필요가 있다._[54쪽]

AI에 대한 오해 해소와 미해결 문제＿신경유전 구조주의 이론에 따르면, 의식은 생물학적 뇌 속 뉴런의 매우 특정하고 복잡한 조직에서 비롯되므로, 현재 AI와 같은 합성 시스템에서는 모방할 수 없는 특징이다. 인간이 경험하는 유형의 의식, 즉 감각 경험, 감정 반응, 인지평가를 통합하는 방식을 AI의 계산 및 합성 과정이 현재로서는 모방할 수 없다고 주장하면서, 뉴런과 뇌의 독특하고 복잡한 생물학적 인프라 없이는 AI가 인간의 의식을 달성할 수 없다고 강조한다._[86-87쪽]

AI는 그 고유의 마음을 지닌 것일까?＿전문가의 멘탈 모델에 대한 관심은 교육 훈련, 특히 기업 현장에서 요구되는 ‘직무 역할을 보다 잘 수행해 내는 데 필요한 능력 개발’을 지원하는 분야(예: 인력개발)에서는 오랜 관심 주제이기도 하다. 필자의 박사 논문도 전문성 개발과 관련하여 전문가 집단 중 소위 1등과 2등의 차이를 확인하는 주제를 다뤘다. 당시 심사위원 중 한 분이셨던 전문성 관련 연구를 많이 하신 교수님이 “전문가와 비전문가에 관한 연구는 어느 정도 수렴되고 있기 때문에 전문성 연구에서 보다 중요한 주제는 전문가 내에서의 차이를 확인하는 것”이라는 의견을 주신 것이 영향을 미친 결과였다._[92쪽]

일반인공지능(AGI) 시대의 안전성 담론＿안전한 AI 개발이라는 사명이 시장 경쟁에서 우위를 거두어야만 실현될 수 있다고 보는 그의 발언은 실리콘밸리 AI업계에 만연한 논리 세 가지를 드러낸다. 첫째, 일단 성능 개발부터 해야 하고 뒷수습은 나중에 한다. 둘째, 압도적 시장 선점이 최우선이다. 셋째, 기술로 인한 문제는 기술로 해결이 가능하다는 기술 해결주의(technological solutionism)이다. 기술 해결주의는 잠재적 위험에 대한 선제적 검토와 예방을 강조하는 사전 예방원칙과는 본질적으로 상충한다._[137쪽]

인공지능 시대의 포스트인문학＿엄격히 말해서 포스트휴먼에게는 인간/자연의 이분법이 적용되기 어렵다. 우리가 정의한 포스트휴먼은 증강인간이기도 하고 기계장치와 인공지능이 결합된 존재이기도 하다. 이들은 서로 간이나 다른 사물들과 상호작용하면서 자신들의 정체성을 만들어간다. 나는 앞에서 이런 탈이원론적 존재론을 연결망 존재론이라고 규정했다. 이런 연결망 존재론과 가장 잘 조화되는 것이 융합적 연구다. 그러므로 포스트인문학이 당면한 최대의 과제가 과학과 인문학의 융합이라 할 수 있다._[177쪽]

문예 AI를 통한 인류 영성＿일반적으로 오픈 AI가 등장하면서 영성 AI가 진화하면 그 스스로 신과 같은 영성적 능력이 있다고 착각하는 것은 아닌가 하는 의구심과 두려움이 있다. 특히 AGI가 발달하게 되면 특정 분야가 아니라 인간을 뛰어넘고 그 자체가 스스로 사고하는 능력을 진화시켜 지능에서 인간을 추월하게 되고 이에 따라 인간을 압도하고 지배하거나 파괴하는 것이 아닌가 하는 우려이다._[200쪽]

AI를 통한 예술 창작의 한계와 가능성＿예술 작품 감상은 이성으로 이해하는 작업이 아니다. 그것은 이성을 넘어서, 혹은 비껴서, 즉각 느끼는 과정이다. 작품은 느낌의 영매다. 앞서 말했듯, 이 과정에서 작가의 몸과 감상자의 몸 사이에 공진이 일어난다. 그런데 앞에서도 지적했듯 AI는 비물질적이다. 그것이 물질을 조작해서 감각의 영매가 되게 하는 일은 별도의 작업을 요구한다. 물질적 매개를 조직해야 한다. AI를 통한 작업은 앞서 미디어아트가 했던 작업에서 얼마나 더 전진할 수 있을까?_[221쪽]

인공지능 윤리는 개인의 문제인가?＿미시윤리학적 관점과 연결된 지배적인 ‘리터러시’에 대한 인식론적 경향은, 마치 사회 구성원들 개개인의 리터러시를 기계적으로 총합하면 그것이 바로 한 사회의 리터러시가 될 수 있다는 기계론적 이해의 방식과 가깝다. 문해력이란 기본적으로 말과 글을 잘 이해하고 쓰는 능력을 뜻한다. 그렇다면 인공지능 문해력은 인공지능을 잘 이해하고 쓰는 능력으로 이해될 수 있다. 그러나 문제는 인공지능 윤리와 관련하여 현대 사회에 필요한 사회적 역량은 구성원 개개인의 문해력으로 한정될 수 없다._[240쪽]