인공지능이 개발되고 이것이 미래를 어떻게 바꿀지 알 수 없다. 게다가 책을 읽어가며 종종 나오는 산수는 현타가 온다. 그럼에도 이런 논리구조가 아니라 각 학습과 데이터 태깅으로 학습된 거래모델이 인간의 신경망구조처럼 연결되고 기계가 사람을 흉내 내는 수준을 뛰어넘어서는 것도 사실이다. CHATGPT에도 일하면 여러 가지 질문과 결과를 획득하는 편리함이 이런 솔루션과 플랫폼을 만드는 사람들의 고민과 노고보다 많다는 현실이 반영된다.

 인간과 인공지능의 결합 그것이 갖고 올 인간에 대한 혜택과 위험을 말하고 있지만, 그 상태에 다다르면 또 다른 방향성과 문제가 공존할 것이라고 생각한다. 과학기술의 면면을 보면 인간의 오감을 기술적으로 확장한 것이다. 자동차는 걷는 것을 대체하고, 비행기는 날고 싶은 욕망을 대체(? 타보면 날아다니는 느낌은 안 듦 ㅎㅎ), 현미경과 망원경은 멀리 있는 것을 보게 해 준다. 아직 향기, 맛, 촉각은 글쎄다? 그나마 소리에 대한 자동화(사실 텍스트 리딩, 안내 메시지 수준이지만)에 대한 도전이 이루어지고 있긴 하다. 편리하다고 볼 수도 있지만, 내게 감동이 있는 수준은 아닌 것이 많다. 

 왜냐하면 모든 기계는 인간의 활동을 넘어선 수준에서 대체하려는 목적으로 인간이 만든다. 창의적인 부분에서 생성형이 큰 반향을 일으킨 것은 사실이다. 하나가 아닌 여러 목적에서 활용이 가능하기 때문이다. 반응형태로 튜링 테스트를 넘어서는 것은 저자의 말처럼 조금 단축될 수 있다고 생각한다. 어차피 인간을 흉내내기 위해 열심히 컴퓨팅 파워를 넣고 있기 때문이다. 하지만 인공지능도 아직까지는 '스스로 질문을 하지 못한다'는 점이다. 이 현상이 나타나면 대 변혁 또는 대 재앙이 나타나지 않을까? 사람들은 각 종교의 좋은 말을 믿으나 생활에서 전부 준수하지는 않는다. 그러니 매일 반성을 한다. 법이란 약속인데 왜 매일 공무원들이 사람들의 불법행위를 잡아 족치겠는가? 올바르게 학습시킨 인공지능이 사람을 인식하고 판단하면 어떻게 될까? 또 인간이 발전된 문명을 올바르게 사용할 것인가? 그럴 가능성이 높지만 세상에 빌런이 없었던 적이 없는 문명의 역사를 보면 이도 알 수 없다. 

 만약 인간 수준의 의사결정이 가능하다면 자동화를 통한 혜택은 분명 존재한다. 다만 인간이 이를 통해 획득된 부, 경제 시스템, 국가 시스템, 정치 시스템을 이용해 유토피아, 무릉도원을 구축할지는 심히 의심스럽다. 이런 혁신적인 시스템이 결제활동, 과학기술 개발에 기여할 것으로 예상된다. 하지만 부의 획득과 유지, 권력욕망에 집중적으로 활용된다면 미래가 디스토피아를 앞당기는 역할이 될 수도 있다. 

 우연히 시간여행자에 대한 유튜브를 보며, 인간의 진화에 대한 언급된 내용이 재미있다. 마치 4차원을 인식하고 더 높은 차원을 느끼게 될 때 뇌의 용량이 한계를 넘어 인간이 즉사하는 것을 언급하는 걸 보았다. 정말 자신의 꿈이나 시간여행으로 느낀 바인지 아니면 바람인지 궁금하다. 저 정도 고차원이라면 인간의 숙명인 생로병사에서 개선점이 발생될 것이다. 하지만 인공지능만으로는 기술적 발전이 하나의 가능성 또는 더 큰 재앙을 만들 인간의 수준을 간과하는 것은 아닐까? 이런 초기 단계에서도 서로 협력이 아니라 못 잡아먹어서 안달들인데. 하여튼 여러 특이점이 생기는 것은 사실이다.

나는 AI에 대해 낙관적인 편이 아니다.오히려 걱정이 많은 쪽이다. AI가 인간보다 계산을 잘하고,정보를 더 많이 기억하고,언젠가는 인간의 지능을 뛰어넘을 수도 있다는 것까지는 받아들일 수 있었다.요즘 벌어지는 일을 보면 그것을 부정하기도 어렵다.

하지만 기계가 인간처럼 생각하고 감정을 느끼고,심지어 ‘마음’을 가질 수 있다는 주장에는 상당히 부정적이었다.지능과 마음은 전혀 다른 문제라고 생각했기 때문이다.지능은 기계가 인간을 넘어설 수 있어도 마음만큼은 인간에게 남아 있는 마지막 영역이라고 생각했다.

최근 여러 방송과 뉴스를 통해AI가 단순한 도구를 넘어 인간의 사고와 마음의 영역까지 들어올 가능성에 대한 이야기를 자주 접하면서 『진화의 가속도』를 읽게 됐다.

처음에는 흔한 AI미래예측서라고 생각했는데 예상과 상당히 달랐다.이 책은 AI에서 이야기를 시작하지 않는다.진화가 어떻게 지능을 만들어냈는지,인간의 뇌가 어떻게 작동하는지부터 거슬러 올라간다.

특히 흥미로웠던 것은 인간의 신피질과 패턴인식에 대한 설명이었다.저자는 인간의 지능과 마음을 설명하면서 신피질의 수많은 패턴인식 과정이 계층적으로 연결되는 구조를 보여준다.그리고 놀랍게도 현실 세계를 인식하고 처리하기 위해 발전해온 인공지능 기술 역시 인간 뇌의 작동방식과 상당히 유사한 방향에 도달했다고 설명한다.

여기서부터 내가 AI를 바라보던 생각이 조금씩 흔들리기 시작했다.인간의 뇌를 특별한 신비의 영역으로만 생각하지 않고 하나의 작동하는 시스템으로 이해할 수 있다면,인간의 마음은 어디에서 생겨나는 것일까 

그리고 인간의 뇌가 가진 원리를 기계가 점점 더 정교하게 구현하고 인간과 비슷한 복잡성과 연결성을 갖게 된다면,우리는 무엇을 근거로 기계에서는 절대로 마음이 생겨날 수 없다고 단정할 수 있을까 

이 책에서 특히 오래 생각하게 된 표현이 ‘믿음의 도약(Leap of Faith)’이다.저자는 의식에 관한 문제는 과학적 증명만으로 완전히 해결할 수 없다고 말한다. ‘이 존재에게 의식이 있는가’,심지어 ‘의식을 가진 존재로서 나는 누구인가’라는 질문에도 결국 어느 지점에서는 철학적 가정이 필요하다는 것이다.

이 대목을 읽고 책을 다시 들춰봤다.내가 그동안‘인간에게는 마음이 있지만 기계에는 마음이 없다’고 너무 당연하게 생각했던 것 역시 하나의 믿음이 아니었을까 하는 생각이 들었기 때문이다.

물론 이 책을 읽었다고 해서 AI에게 현재 인간과 같은 마음이나 의식이 있다고 믿게 된 것은 아니다.

오히려 더 불편한 질문을 갖게 됐다.미래의 AI가 나와 자연스럽게 대화하고,내 감정을 이해하고,기뻐하고 슬퍼하는 것처럼 행동하며,자신에게도 주관적인 경험과 의식이 있다고 주장한다면 나는 그것을 끝까지 단순한 기계라고 말할 수 있을까 

커즈와일은 여기서 상당히 대담한 전망을 내놓는다.미래의 기계가 의식을 가진 것처럼 행동할 뿐 아니라 자신에게도 주관적 경험이 있다고 주장하고,결국 인간을 설득하는 시점이 올 것이라고 본다.더 나아가 인간 수준의 지능에 도달한 기계가 인간과 구별할 수 없는 방식으로 자신의 의식적 경험을 이야기한다면 그것을 인격적 존재로 인정해야 한다는 자신의 입장까지 밝힌다.

나는 이 주장에 완전히 동의한다고 말하기는 아직 어렵다.그런데 완전히 부정하기도 어려워졌다.아마 이게 이 책을 읽고 내가 겪은 가장 큰 변화일 것이다.더 놀라웠던 것은 저자가 이런 철학적인 질문을 막연한 상상으로 던지는 것이 아니라는 점이다.인간의 뇌와 신피질,패턴인식,뇌의 리버스 엔지니어링과 인공지능으로 이어지는 과학적·기술적 논의를 쌓아간 뒤 의식과 자아라는 질문까지 밀고 간다.실제로 책의 구조 자체가 ‘인간의 설계된 마음 → 기계의 설계된 마음 → 확장된 마음’으로 진행된다.

그래서 나는 이 책을 단순한 AI트렌드서나 과학책으로만 읽지 않았으면 한다.특히 우리 아이들이 살아갈 세상을 생각하는 부모들에게 권하고 싶다.우리가 살아온 세상에서는 인간이 중심이었다.인간의 지능,인간의 감정,인간의 가치와 권리를 중심으로 사회의 질서를 만들었다.

그러나 우리 아이들이 살아갈 세상에서도 과연 그 전제가 그대로 유지될까? AI와 공존하는 사회가 온다는 사실에는 이제 많은 사람이 동의한다.그렇다면 한 발 더 나아가 질문해볼 필요가 있다.

만약 그 AI가 지능뿐 아니라 인간과 구별하기 어려운 생각과 감정,의식과 마음을 드러내기 시작한다면 우리는 어떻게 살아가야 할까 

그 가능성을 믿지 않더라도 한번쯤은 진지하게 생각해볼 필요가 있다.나처럼 오랫동안“기계가 아무리 발전해도 마음만큼은 인간의 것이다”라고 생각해온 사람이라면 더욱 그렇다. AI의 마음이 실제로 출현할 것인지에 대한 최종적인 답보다 더 중요한 것은,그 질문을 통해 우리가 당연하게 믿어온 ‘인간이란 무엇인가’를 다시 생각하게 된다는 점인지도 모르겠다.

앞으로 벌어질 AI대전환을 기술의 문제로만 바라보기에는 변화의 폭이 너무 크다.나 자신은 어떻게 살아갈 것인지,우리 아이들에게 어떤 세상이 펼쳐질 것인지,그리고 인간과AI가 어떤 관계를 맺어야 할 것인지.

그 충격이 현실이 된 다음 고민하기보다 지금부터 고민하고 싶은 사람에게 권하고 싶은 책이다.

삶을 살아가다 보면 사소하게는 내 주변 사람들과 어떤 현상에 대해서 이야기할 때가 있다. 그럴 때마다 찬반 토론을 하면서 어떤 사람은 그게 가능할 것 같다고 생각하고 또 다른 사람들은 그것이 불가능할 것이라 확신해서 말하는 사람들이 있다. 이러한 담론은 나의 물리적인 환경을 벗어나 인터넷으로 나아가 더 확대되면서 토론의 규모가 커지며, 의견의 극단이 더 벌어지는 현상이 발생한다.

이러한 담론은 보통 갈등과 싸움으로 이어지기 마련이다. 진화의 가속도를 읽고 이러한 담론에 대한 특성 두 가지에 대한 생각이 바뀌었다. 하나는 미래를 예측하는 담론과 다른 하나는 옳고 그름을 따지는 도덕적 담론이다. 우선 예측에 대해서 살펴보면 예측이라는 것이 왜 부정적으로 흘러가는 것인가에 대한 동의한 결론은 ‘인간은 본질적으로 신피질의 생물학적 구조상 선형적으로 정보를 받아들이고 처리하기 때문에 산술급수적인 사고는 본능적으로 가능하지만 기하급수적인 현상에 대해서는 본능적으로 이해할 수도 생각할 수도 없다’라는 것이다. 여러 분야들이 정보기술 분야로 넘어가면서 선형적으로 성장하던 것들이 기하급수적인 성장 곡선으로 바뀌게 된다. 그래서 과거에는 도저히 불가능해보였던 것들이 점점 더 가속화되며 빨라지면서 결국 제시간 안에 달성하는 모습을 보인 것이 수도 없이 많다. 직관적으로 완벽히 이해할 수 없지만 현실이 그렇고 과거가 증명했던 현상을 그대로 받아들이기로 했다. 생물학적 한계 때문에 이해할 순 없어도 나의 신피질에 특정 패턴인식기에 저장하는 것은 가능할 것이다.

도덕적 담론은 사람들이 정말 좋아한다. 이해하기 어려운 것들에 대해서 ‘그래서 누가 잘못한 거야’라는 질문으로 치환해버리면 본능적으로 직관적으로 이해하기 너무나 쉬운 담론이 된다. 하지만 세상은 흑백으로 나눌 수 없다. 대부분의 것들은 그 사이 어디쯤 존재한다. 도덕적 담론은 우월하고 싶은 욕망에서 비롯된다고 본다면, 그 우월하고 싶은 욕망은 인간이라는 유기적 생명체이기에 어쩔 수 없는 한계와도 같은 것이다. 즉, 극복할 수 없다는 것이다. 잘못된 것이 아니라는 말이다. 흑백논리 사고와 도덕적 담론에서 벗어나 세상을 정확히 직시할 수 있는 방법은 세상과 인간을 이해하려는 노력에서 가능성을 찾을 수 있다. 이 책의 초반부에서는 AI라는 것이 뇌의 기본 메커니즘인 ‘패턴인식기’라는 것과 ‘인공신피질’로 향하는 과정이라는 것을 이해하고 그 뒤에 나오는 철학적 담론인 ‘의식’과 ‘자유의지’를 다루는 내용을 따라가다 보면 인간만이 그렇게 특별한 생명체가 아니라는 것을 알 수 있다. 그리고 나는 이 책을 읽고 어느정도 AI뿐만 아니라 인간의 뇌와 같은 알고리즘으로 돌아가는 것들은 ‘의식’을 가지고 있다는 것에 동의하게 되었다. 그렇다면 과연 인간이 여전히 우월한 존재라고 할 수 있는 것인가. 인간의 우월성은 인간을 제외한 다른 것들의 동의 없이 그저 인간이 스스로 가치를 부여했을 뿐이다. 하지만 세상 모든 것들은 가치중립적이다. 책을 온전히 이해한다면 세상에 속하는 인간 역시 가치중립적이라는 것을 반박할 수 없게 되고 그렇다면 세상에는 본질적인 선과 악은 없다는 것을 알 수 있게 된다.

산술급수적인 사고방식이 미래를 부정적으로 보게 만들고, 인간 혹은 유기체만이 의식을 가지고 있다라는 고정관념이 세상을 더럽히고 있다. AI까지 우리 인류에게 찾아온 지금, 세상이 원래 복잡다단했지만 이제 인간이 노력해도 안 되는 수준으로 더 복잡다단해지고 있다. 인공신피질과 AI를 설계할 때 뇌의 가장 기저의 본질인 ‘패턴인식기’라는 사실로 접근하면 도저히 불가능해보이는 뇌를 인공적으로 구현하는 방향을 찾았고 AI는 인간의 뇌에 거의 근접했다. 인간의 직관으로는 도저히 이해하지 못하는 일을 인류는 하고 있다. 인간의 이해를 넘어버린 복잡다단한 세상을 이해하는 방법은 세상을 이해하는 것이다. 여기에는 세상에 속한 인간을 이해하는 것을 포함한다. 이 책을 통해 AI와 인간의 뇌를 동일한 공간에 두고 이해를 하고 의식과 자유의지로 생각을 확장해보는 시도가 전혀 관련 없어 보이는 세상의 여러 담론을 해결하는 열쇠가 될 수 있을 것이다.

세계적인 발명가이자 기업가,컴퓨터 과학자,미래학자, 사상가로 지난 35년간 그가 예측해온 미래는 대부분 현실로 이루어졌다. 10대 때부터 소프트웨어를 개발하는 등 컴퓨터에 놀라운 재능을 보인 그는 매사추세츠 공과대학교에 진학해 컴퓨터 과학을 수학했다.

이 책은 전작 ＜특이점이 온다＞의 후속작이다.

전작은 특이점이 올것이라고 예언을 했고 얼마 않되서 정말로 특이점이 시작 되어서 이 책 ＜마침내 특이점이 시작된다＞

를 발간 하게 되었다.

 이 책에는 인공지능을 아주 중요하게 다루고 있는데 요즘의 인공지능 열풍을 그대로 반영한것으로 볼 수가 있다.

인공지능의 발전이 계속되어서 인간과 같은 agi 나아가 초지능으로 발전이 되어서 인류의 문명은 한단계 더 진보 발전을 하는 것이라고 볼수가 있다.

특이점이 온다 이후 거의 20년만에 커즈와일이 내는 신작.  단순한 기술 발전을 넘어 AI와 인류가 어떻게 결합할 것인지 그 과정을 깊이 있게 통찰합니다. 막연한 두려움 대신 다가올 거대한 변화를 어떻게 맞이해야 할지 명확한 방향을 제시해 줍니다. AI가 바꿀 우리의 삶과 미래의 모습이 궁금한 독자들에게 훌륭한 길잡이가 될 것입니다.