＜AI혁명의 시대, 사피엔스의 마지막 항해＞는 역사 속에서 기술이 겪어온 과정을 통해 AI가 어떻게 작용할지 질문을 던지는 책이다. ‘마지막 항해’에서 의미하는 바는 AI가 인류가 도달하는 거의 최종적인 기술 혁신, 기술 역사의 종착점이라는 의미가 아닌가 싶다. 다리오 아모데이는 1~2년 안에 일반인들은 상상도 못 할 수준으로 변화한다고 말한다. 하지만, 기술의 발전과 일반 대중 사이의 간격은 끝없는 오해와 불신을 낳는다.

기술에 대한 역사는, 사실상 오해의 기록이다. 과거를 돌아보면 어이가 없다. 질병으로, 종교의 이름으로, 과학의 탈을 쓴 사이비 미신이나. 동원된 전문가들은 끊임없이 기술을 공격했다. 당시 과학이 지닌 한계도 있겠지만, 기술은 변화를 낳았기에 기득권은 본능적으로 거부할 수밖에 없다. 수많은 이름으로 공격받았던 기술들이 결국은 살아남아 세상을 변화시켜 왔다. 사람들의 걱정과는 달리 불행한 일은 일어나지 않았고, 일어났더라도 그만큼 파괴적이지 않았다.

기술은 편리함과 효용성을 무기로 생활 속으로 침투했다. 그로 인한 이득은 두려움을 감수하고도 남았다. 그렇게 기술은 세계를 혁명적으로 변화시켜 왔다. AI는 인류의 마지막 기술 혁명이 될 수 있을 만큼 거대하다. 역사는 변화와 불확실성 앞에 압도될 것인가, 아니면 주도할 것인가를 묻는다. 전자라면 책 속에 나오는 하나의 사례로 남을 것이다. 후자라면 AI가 진정한 ‘역사의 종말’을, 유토피아를 완성할 수도 있다.

책과 역사는 기술적 낙관론을 반복해서 보여준다. 기술이 남긴 불확실한 두려움에도 인간은 끝없이 전진했다. 변화된 세상은 계속해서 인간에게 질문을 던졌지만 슬기롭게 답해왔다. 과연 이번에도 같을까? 책은 단순한 기술적 희망과 낙관론이 아니라 우리에게 질문을 던진다. 인간은 무엇이고, 무엇으로 남고 싶은지를.

판단이 AI와 인간의 차별점으로서 고유한 결정이 될 수 있을까? AI가 계산한 확률을 무시하고, 온전하게 판단할 수 있을까? 초지능이 등장한다면 우리의 판단이 그들의 설계 아래 있지 않음을 확신할 수 있을까? 지금도 여론이나 광고에 속아 넘어가는데? 우리의 뇌는 여전히 원시시대에 머물러 있는데?

역사는 우리에게 위안을 준다. 해 아래 새것이 없다. 기술의 변곡점에도 인간은 어떻게든 적응하고 살아남아 왔다. 전례가 없어 보이지만, 역사는 그 운율을 반복한다. 그러므로 과감하게 나아가자. 하지만 명심해야 한다. 그 운율은 오로지 생존자만이 알 수 있다. 희망적인 ‘역사의 종말’만이 존재하는 것은 아님을 기억해야 한다.

PS : 개인적으로는 AI로 만든 삽화를 좋아하지 않는다. 너무 패턴이 일정하다고나 할까.

일독일자 260331 작성일자 260404

-----------------------------------------------------------------------------

인류사는 안락을 등지고 미래를 향해 고된 항해를 무릅쓴 이들이 일궈낸 담대한 개척 서사입니다. 그러나 그 여정은 결코 평탄치 않았습니다. p.5

정말 두려워해야 할 것은 연결 자체가 아니다. 보이지 않는 선을 통해 나의 정보와 선택권이 흘러나가는데도 아무 행동도 하지 않는 무감각을 경계해야 한다. 19세기 사람들이 성경책으로 마음을 달랬다면, 21세기의 우리는 더 현실적인 디지털 방어 기제를 가져야 한다. p.55

어떤 이들은 “고통스러운 고뇌와 수만 번의 붓질, 수천 번의 퇴고라는 ’정석적인 과정‘을 거치지 않고 프롬프트 입력이라는 짧은 행위만으로 결과를 얻는 것은 예술에 대한 모독이자 부정행위다.”라고 주장하기도 한다. / 과연 그러한가? 19세기의 마차 산업 관계자들은 “땀 흘려 걷거나 마차의 흔들림을 견디지 않고 기계의 힘으로 편하게 이동하는 것은 인간의 품격에 어긋나는 짓이다.”라고 말하곤 했다. p.62

’바보상자‘가 우리를 바보로 만들지 않았다는 사실을 기억하자. 인류는 새로운 미디어를 처음엔 항상 ’독‘이라고 불렀지만, 결국 그것을 ’도구‘로 길들여왔다. p.82

이것은 퇴화가 아니라, 도구를 활용한 지능의 외주화였고, 매우 효율적인 진화였다. p.104

“과연 어떤 문제를 해결해야 가치가 있는가?” / 이제 중요한 것은 문법이 아니라 아키텍처다. 단어가 아니라 맥락이고 코드가 아니라 의도다. 질문하는 능력이 곧 사고력인 시대가 다가오고 있다. 계산기가 계산 과정을 단축했듯이, AI는 지식을 얻고 표현하는 경로를 단축해주었다. / 인간은 원래 도구를 사용하며 진화해 온 존재다. 돌도끼를 쓰기 시작하면서 손톱은 무뎌졌지만, 생존 가능성은 비약적으로 높아졌다. 계산기를 쓰면 암산 속도는 느려졌지만, 과학 기술은 폭발했다. / 이제 AI를 사용하며 단순 문장 구성력이나 타자 속도는 약해질지 모른다. 그러나 우리가 상상하고 설계할 수 있는 세계의 크기는 이전과 비교할 수 없을 정도로 확장될 것이 분명하다. p.105~106

기술이 대신해주는 것은 판단 그 자체가 아니라, 판단에 이르기까지 반복적으로 소모되던 작업이다. p.114

생각해보면 위키백과가 완벽해서 살아남은 것이 아니었다. 오류는 늘 존재했다. 그러나 중요한 것은 그 오류를 검증하고 수정할 수 있는 구조를 갖추고 있느냐는 부분이다. 그러나 중요한 것은 그 오류를 검증하고 수정할 수 있는 구조를 갖추고 있느냐는 부분이다. 지식은 이제 선언이 아니라, 집단적 감시와 피드백 속에서 다듬어지는 과정이 되었다. p.120

판단과 공감, 책임과 윤리 같은 영역이 인간의 몫으로 남는다고 말하지만, 실제로 그 경계는 생각보다 빠르게 흐려지고 있다. 로봇이 사람을 돌보고, 안내하고, 심지어 위로하는 시대에 ’인간다움‘의 경계를 어디에서 찾을 수 있을까. p.142

기술은 예술을 파괴하는 것이 아니라, 오히려 예술이 가야 할 새로운 길을 끊임없이 되묻게 했다. 이번 논란 역시 비슷한 맥락이다. 예술은 어디에서 탄생하는가, 손의 노동에서인가, 아니면 세계를 상상하고 구조화하는 정신의 노동에서인가. p.182

이해가 막히는 순간, 사람들은 더 깊이 파고드는 대신 다음 영상으로 이동한다. 여기서 위험은 매체가 아니라 속도다. 빠른 전환에 익숙해질수록, 인간은 불편한 질문 앞에서 오래 머무는 능력을 잃어 간다. ... 핵심은 생각의 지구력이다. p.210

요약만 소비하는 뇌는 정보로는 비대해질 수 있지만, 사고의 근육은 자라지 않는다. 우리는 AI를 지식의 지도로 활용할 수는 있지만, 그 지도를 따라 실제로 걷는 행위까지 대신할 수는 없다. 요약은 탐색을 위한 도구이지, 도착을 보장하는 수단이 아니다. p.211~212

타인의 삶을 ’하이라이트 영상‘으로 소비하면서, 자신의 일상을 ’무삭제본‘으로 견뎌야 하는 구조가 형성됐기 때문이다. p.223

알파고 쇼크 이후 10년, 우리는 이제 AI가 인간보다 바둑을 잘 둔다는 사실을 상식처럼 받아들인다. 그러나 역설적으로 바둑의 가치는 오히려 더 높아졌다. 우리는 더 이상 ’정답‘을 보기 위해 바둑을 보지 않는다. / 정답은 이미 스마트폰 속 AI가 알고 있기 때문이다. 대신 우리는 기계가 가질 수 없는 ’인간의 서사와 고뇌‘를 보기 위해 바둑판을 바라본다. 초읽기에 몰려 떨리는 손끝, 패배를 직감하면서도 끝까지 기적을 노리는 눈빛. 이것은 데이터가 아니라 살아 있는 영혼의 영역이다. p.241

인류 역사에서 기술은 언제나 축복이라는 가치보다 두려움이라는 그림자를 먼저 데려왔으며, 진보라는 이름의 문은 늘 적지 않은 위험과 완강한 저항 속에서만 간신히 다가갈 수 있었습니다. / 인류는 새로운 도구 앞에 설 때마다 번번이 자신이 공들여 쌓아온 세계의 균열을 목격해야 했고, 그 균열 사이로 새어 나오는 변화의 냉기가 삶의 질서를 근본적으로 무너뜨릴지도 모른다는 위기 의식을 느껴왔습니다. / 결국 이 책에 기록된 것들은 단순히 기술이 거둔 승리의 연대기가 아니라, 짙은 두려움을 기꺼이 껴안은 채 미지의 세계로 발을 내디뎌야 했던 인간의 숭고한 선택과 관련한 기록입니다. p.293