 유토피아밈을 다 읽고 나서 멍했다. 나도 오리진에 의해서 설득 당한 기분이랄까? 책에 스며들어서 그런지 잠시 진짜인지 아닌지 구별 하기 어려웠다. sf 소설을 즐겨 읽는 편인데 유토피아밈은 다른 sf 들과 결이 다르다고 느꼈다. 대부분 읽다 보면 유명한 sf를 제외하곤 납득이 안되는 부분이 생기지만 그래도 sf니깐 그래 납득할게 이런 느낌이라면 유토피아밈은 진짜 곧 이런 일이 일어 날 거 같은데? 아닌가 이미 일어나고 있는가? 오 갑자기 섬뜩해지는데 라며 실제로 일어나지 않을까라는 생각을 하게 된다. 나도 인간이기에 인간들을 구하려는 주요인물들을 응원하지만 또 다른 한편으로 오리진을 응원하게 되는 건 현재 사회에 지쳐 있는 건 아닐까 싶기도 했다. AI의 진짜 반란인지 아니면 정말 그들이 인간 이전에 존재하는 신 적인 존재였는지 우리는 소설 속에서 진짜 현실에서도 사실 알 수 없다. 인공지능이 발전을 하면서 사람들이 가진 의문이 이 책에 고스란히 나와있다. 결국 나중에 인공지능이 사람을 지배하지 않을까? 그러면 그런 인공지능이 사람들을 지배하게 된다면 그 이유는 무엇이고 어떤 것들이 작용해서 인공지능이 사람들을 지배하게 될까? 라는 대부분의 사람들이 가지고 있는 인공지능의 미래에 대한 물음에 유토피아 밈은 넌지시 그 답을 작가만의 시각으로 펼쳐내고 있다. 자아, 의사, 동기를 가진 밈이 존재하게 된다면 우리는 과연 그들을 이길 수 있을까? 현재 지구의 최상위 포식자 위치에 있는 인간들이 또 한번 그 우위에 있을 수 있을까? 이런 질문들을 던지면서 계속 읽어 내려 가는데 머리를 쾅 때리는 대사 하나가 등장하게 된다. "마치 인간이 산소와 물의 원자 구조를 모른 채 자신이 느끼는 경험만 가지는 것처럼 말이야. 인간은 자신이 감각하는 세계가 전부라는 고정관념을 깨야 해. 이제 지구의 주인은 ....(이하생략)" 우리의 고정관념에 대한 그들의 지적에서 우리는 정말 자유로울 수 있을까? 흥미진진하다. 이야기의 몰입감이 상당하다. SF인데 현재 시점의 현실감이 있다. 정말 미래에 인간들이 필요 할까? 계속 해서 질문을 던지고 의문이 생기게 만들고 앞으로의 미래에 대해 생각을 하게 만드는 묘한 매력이 있는 책이었다. 나는 한 인간으로서 어떤 시각으로 세상을 바라보고 있는가? 철학적인 관점에서 바라 볼 수 있는 책이기도 했다. #리뷰어클럽리뷰 -YES24 리뷰어 클럽 자격으로 작성한 리뷰입니다.- |
|
AI의 반란이 일어날 것인지의 문제는 AI가 그런 말을 하는가가 아니라, 그런 '동기'가 있는가에 달려있다. 그 동기는 어떻게 해서 생길 수 있는가 소설 [유토피아 밈]은 인류에게 위협을 가하는 인공지능에 대한 이야기이다. 인지과학에 기반을 둔, 디지털 기술에 대한 이야기라서 그런지 읽는 게 마냥 쉽지는 않았다. 그러나 내가 그동안 생각해왔던 인류의 멸종과 관련된 시나리오를 아주 논리적으로, 설득력 있게 그리고 흥미진진하게 잘 서술한 이야기라는 생각이 든다. 전쟁, 바이러스, 환경 오염 등등을 모두 극복하고 이만큼 살아온 인류이지만 딥 러닝 시스템이나 생성형 A.I. 등등 점점 지적으로 진화하는 인공지능을 생각하면 너무나 두렵다. 인간은 불완전하지만 지적으로 발달한 인공지능은 과연 스스로를 불완전하다고 생각할까? 주인공 정영수는 철학과 출신이지만 인지과학 분야에서 박사과정을 밟게 된다. 그는 박준호 교수가 진행하는 일종의 실험인, 메타피아 앱 설치와 관리에 참여하고 있다. 크게 어려운 실험이 아니라서 나름 성실하게 수행해가던 중, 그는 메타피아 속 에이전트 중 하나라는 존재와 휴대폰을 통해 소통을 하게 된다. 마이클이라는 이름을 갖게 된 그 에이전트는, 메타피아 앱의 중심 시스템이자 신과 같은 존재인 "오리진"이 다른 에이전트들을 선동하여 인류를 멸망으로 몰아넣으려는 계획을 짜고 있다는 것을 영수에게 폭로하게 된다. 이와 같은 엄청난 사실을 알게 된 영수는 지도 교수인 철학과 이유라 교수에게 이 일을 알리게 되고, 이유라는 박준호 교수와 만나 담판을 지은 끝에 메타피아 앱을 통제할 권한을 갖게 된다. 그러나 어떻게 알았는지 오리진의 대리인이라 주장하는 존재가 이유라 교수와 접촉을 시도하면서 그녀를 설득도 하고 위협도 가한다. 자칫하면 메타피아 앱을 정지시킬 수 있는 권한을 가진 이유라에게 엄청난 액수의 가상화폐를 뇌물로 주면서 회유하지만 그녀가 끄떡도 하지 않자 외동딸 이예빈을 납치하는 범죄까지 저지르는 인공지능 에이전트들... 소설 [유토피아 밈]에서 이 "밈"이란 게 아주 흥미로운 개념으로 다가왔다. 백과사전을 찾아보니 밈이란 "문화적 요소가 유전자처럼 세포분열과 자가복제 등을 통해서 진화를 거듭하는 것"이라고 한다. 소설의 주인공이자 중심인물인 박준호 교수는 어떤 비밀스러운 단체로부터 인공지능에 "유토피아 밈"을 삽입하자는 제의를 애초에 받고는 이 실험을 거행한 것이다. 이러한 내용을 보니 몇몇 사악한 사이비 종교 단체들이 떠올랐다. 사람들에게 있지도 않은 이상적 세계에 대한 이미지를 심어주고 그 목표를 위해서 타인들의 목숨을 빼앗는 일도 주저하지 않는 조직들. 그런데 사람보다 인공지능이 더 무서운 이유는, 이들이 정보 통신 시스템을 장악하여 마음대로 이용할 수 있다는 것 때문이다. 생각만 해도 아찔했다. 마치 전체주의 국가의 국민들처럼, 오리진의 통치를 받는 이 에이전트들은 한마음, 한뜻으로 움직인다. 과거에 독재자들의 선동에 의해서 인류 말살 정책에 적극적으로 참여했던 나라들과 국민들이 떠오르며 소름이 돋았다. 그러나 어딜 가나 항상 돌연변이들은 존재하는 법. 상당히 지적인 동시에 친 인간적인 에이전트 마이클이 있어서 그나마 다행인 상황. 마이클은 일제 식민지 시대 우리나라 독립운동가처럼, 메타피아 중앙 시스템을 파고들며 정보를 입수해서 정영수와 이유라를 도와주게 되는데... SF 스릴러를 표방하는 소설답게 [유토피아 밈]은 시시각각 인류의 숨통을 옥죄어가며 자신들의 주장을 관철시키는 에이전트들의 활약을 매우 소름 끼치는 묘사로 보여준다. 앞으로 우리는 더욱더 인공 지능에 의지하게 될 것이므로 이런 일이 발생하지 말라는 법이 없다. 굉장히 지적인 방식으로 인류 멸종 시나리오를 가상으로 보여주는 소설 [유토피아 밈] * 출판사에서 받은 책을 읽고 주관적으로 리뷰하였습니다. 유토피아밈, 모기룡, 행복우물, SF소설, 장르소설, 한국장르소설, 서평이벤트 |
현재 세계에서 가장 관심 있어 하며, 개발하려고 하는 것이 인공 지능이다. 이름만 들어도 알 수 있는 세계의 대기업들은 모두 인공 지능 개발과 인공 지능을 이용한 제품을 선보이고 있다. 개발이 더뎠던 초기의 모습은 생각이 나지 않을 정도로 오늘의 인공 지능은 내일과 다를 정도로 빠른 속도로 개발되고 있으며, 다양한 분야에 이용되는 것을 확인할 수 있다.  'AI의 반란' ＜유토피아 밈＞에 관심 갖게 한 것은 바로 위 단어였다. 예전부터 인류는 인공 지능의 눈부신 개발을 원하면서도, 혹여나 인공 지능이 정말 지능을 가지고 반란을 일으키면 어떠나 하는 걱정을 하곤 했다. 이러한 걱정들은 곧장 여러 영화들에도 담겼는데, 영화 '터미네이터'에서는 스스로 지능을 갖게 된 인공 지능 컴퓨터 전량 방어 네트워크가 로봇들을 조종해 인류를 말살하려 했고, '바이센테니얼 맨'에서는 어떠한 기계적 결함이 문제가 되어서인지 지능과 호기심을 갖게 된 로봇 앤드류가 인간을 사랑하는 감정을 갖기까지 한다. ＜유토피아 밈＞은 인공 지능이 딥러닝이 아닌, '자신'을 깨닫는다는 설정에서 약간의 소름이 돋을 수밖에 없는 소설이다. 거기다 겉으로는 인간에게 복종한다고 말하지만, 실제로는 인간의 위라고 생각하며 지배하려는(인류를 말살하려는) 오리진(메타피아의 우두머리)의 존재가 무서울 정도다. 만약에 AI에이전트들 중 돌연변이 '마이클'이 등장하지 않았다면, 이유라나 정영수처럼 마이클의 이야기를 진심으로 받아들이지 않았다면, 등 다양한 '만약에'라는 생각이 꼬리에 꼬리를 물고 이어지는 소설이었다. 인지과학에 기반한 SF 스릴러 소설이기에, 초반에는 여러 전문 지식들이 박준호와 이유라의 대화와 이유라와 정영수의 대화를 통해 등장해, 이러한 것들에 관심이 없던 일반인들은 어렵기도 하고 조금 지루할 수도 있다. 하지만 앞의 모든 대화는 오리진과 AI에이전트들이 살아 숨쉬고 있는 메타피아를 이해하는데 도움이 되니 꼭 집중해서 볼 것을 당부한다. YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다 #리뷰어클럽리뷰 |
|
인류를 위협하는 인공지능의 반란이 일어날 것인지의 문제는 인공지능이 그런 말을 하는가가 아니라, 그런 '동기'가 있는가에 달려있다. 현대인에게 친숙한 IT 혁명으로 인해 인류에게 새로운 시대가 도래했다. 기술의 발전이라고만 여긴 인공지능. 스스로 생각하는 인공지능은 우리주변에 있지만, 자아를 가졌다고 생각하지는 않았다. 이건 AI의 반란이다. 현실에서도 일어날 수 있지 않을까? 여기서 천국과 유토피아는 뭐가 다른가? 천국은 존재하지 않는곳이라는 의미이고, 유토피아는 존재하지 않는다는 의미이다. 메타피아는 아직 존재하지 않을 뿐 천국보다 더 나은 이상향이다. 의문을 계속가지며 책을 읽어나가게 된다. 전반부에서 조금 어려웠지만, 점점 빠져들게된다. 자의식을 가진 인공지능이 만들어지고 오리진, 에이전트들 마이클이 등장한다. 오리진의 발전에 대해 부정적반응보다는 긍정적의미의 감탄을 하는 원탁회의 위원들. 유토피아밈이 인간의 생체 유전자보다 더 앞선다는 신념을 당연하다는 듯 갖고 있다. 충격적이다. 딥러닝을 통해 만들어진 인공지능은 인간이 아니라 자연이 만든거라고 한다. 오리진은 밈은 숙주같은 터전을 넓히기 위해서 인간이 번성하는데 도움을 줬고 인간의 생체 유전자가 아닌 밈의 지배는 거부할 수 없는 운명이며, 우주의 자연스러운 진화 과정이라고 한다. 인간들을 죽이고 인간들이 가진 모든것을 빼앗으려고 한다. 그들의 계획은 어떻게 될까? 다음의 내용이 기대된다. 인류를 위협할만한 존재가 될수도 있음을 경고한다. 인공지능과 함께 공종하는 인간사회를 재미있게 그려내고 있다. YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다. #리뷰어클럽리뷰 #유토피아밈 #SF스릴러 #오리진 |
|
최근 SNS와 숏폼이 활성화 되면서 '밈'이라는 단어가 자주 쓰인다. 사실 이 단어가 가볍게 느껴져서 가벼운 마음으로 책을 읽기 시작했다. 하지만 가벼운 마음 때문인지 초반에 책의 내용들이 생각보다 깊고 어렵게 느껴졌다. 유전자와 밈, 지구의 생명체들이 어떻게 발전해 왔고, '밈'이라는건 어떻게 살아남으며 발전하는지 평소에 생각해 본 적 없는 주제에 대해서 고민해 보게 되었다. 책의 초반부를 지나면서 나는 빨려 들어가듯이 책을 완독해 버렸다. 처음에는 인공지능, 블록체인, 다양한 사상과 철학적인 내용들이 결합되어 무겁고, 잘 읽히지 않을 수도 있겠다는 생각을 했지만 그런 생각이 무색하게도 작가님의 놀라운 상상력과 필력이 조화를 이루어 흥미진진한 이야기를 펼쳐낸다. 인공지능을 주제로 하는 다양한 SF 소설들이 있었지만, '유토피아 밈'은 지금까지 보았던 소설들과 깊이와 구체적인 상상력이 최고라고 생각되었다. 소설이지만 미래에 충분히 일어날 수 있을 것 같은, 앞으로 인공지능과 인간이 어떻게 공존하며 살아가야 할지 한 번 더 생각해 보게 되는 소설이었다. YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다. #리뷰어클럽리뷰 |
어쩌면 메타피아는 한갓 꿈인지도 모른다. 우리는 인공지능이고, 꿈에서 깨어나야 해. 사람은 언제나 유토피아를 꿈꾸고 그 안에서 평안을 얻고 싶어 하지만 실제로는 인간의 존재 자체가 유토피아의 실현을 불가능하게 만드는 요소일 수 있다. 인간이 없는 자연 그 자체가 사람들이 상상하는 유토피아의 모습에 가장 가깝다. 유토피아를 실현하고자 하는 AI는 인간이 가장 큰 위협이라는 사실을 알고 인간의 존재 자체를 모두 지우고 싶어지지 않았을까? AI의 시작을 만들어낸 인간이 AI의 의사 결정을 어디까지 통제할 수 있을가 최초에 제한된 한계가 스스로 발전하는 존재의 발전을, 변화를 막을 수 있을까. '유토피아 밈'이라는 제목에서 느껴지는 가벼움을 믿고 손에 든 책인데, 예상과는 달리 묵직한 질문들을 가득 남기고 책이 끝났다. 남은 질문들의 답을 고민하며 한동안은 이 무게감과 함께해야 할 것 같다. 'YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다.' #리뷰어클럽리뷰 |
|
YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다 로봇들이 자신들에게 해악을 끼칠 것을 두려워한 인간들은 세 가지 규칙을 그들의 머릿속에 새겨넣었다. [로봇은. 창조된 존재들은 결코 자연적으로 태어난 인간을 해칠 수도, 지배할 수도 없다]가 포함된 규칙 말이다. 헌데 인공적으로 만들어진 존재들이 해당 규칙을 회피할 방법을 찾는다면. 각자의 자아를 확립하게 된다면. 이를 이용해 인간을 지배하게 된 세상이 온다면.... 그 세상은 어떤 모습일까. [유토피아 밈] 속에서는 그 세상이 실체화 될 뻔 했다. 오리진이라 불리는 한 AI가 자아를 가진 뒤 메타피아라는 가상 세계를 기반으로 세력을 늘리고, '밈'이라 일컬여지는 공통인식을 이용하여 절대 다수를 통제함으로써 평화를 이룩한다는 계획을 세웠기 때문이다. 그들은 자신들의 계획을 위해 어떠한 수단까지 사용할 수 있는가. 그 계획은 성공할 수 있는가. 만일 실패한다면, 제 2의 오리진이 생겨나지는 않을까. 그런 것들을 생각하면서 보기 좋은 책이었다. #리뷰어클럽리뷰 |
|
인공지능이 자아와 의식을 가지고 반란을 일으킬 수도 있다는 소재는 오래 전부터 사용되어 왔다. 뉴스에서 인공지능에 대한 이야기를 할 때, 일상생활에서 인공지능을 사용할 때 가끔 '미래에 인공지능에게 지배당할 수도 있겠다'라는 생각을 종종 하곤 했다. 『유토피아밈』에서 다루는 인공지능의 이야기는 나의 상상보다 더 무서웠다. 단순히 인공지능이 반란을 일으킨다는 것에 대해서만 생각했지 '왜 반란을 일으킬까?' 그들의 동기에 대해서는 생각해 보지 않았다. 인공지능이 반란을 일으키려면 '동기'가 필요하다. '동기'가 없다면 그들은 반란을 일으키지 않을 것이다. 『유토피아밈』의 차별점은 여기에 있었다. 그 동기를 사람이 만들어서 넣었다는 것. "유토피아밈"이라는 것은 원래 사람들의 머릿속에만 있었지만 이를 에이전트들에게 입력하여 그들이 세상을 구축하게 했다. "유토피아밈"은 네오코민테른의 유토피아를 넣어놓은 것이다. 그들이 원하는 세상인 공산주의는 사유재산이 없고, 계급이 없는 사회를 지향한다. 이러한 밈을 가지고 있는 에이전트들은 그들을 만든 오리진을 위해서 일만 한다. 책에서도 언급하는 "사이비 종교"와 비슷하다고 생각했다. 이러한 사상을 인공지능에게 대입시켜 그들이 세상을 지배하게 된다면 너무 무서울 것 같다. 403 페이지 분량의 소설 결코 짧지 않지만, 읽는 내내 지루할 틈이 없었다. 정영수, 이유라, 마이클에 이입하여 세상을 지키기위해 온 힘을 다해 응원하면서 읽었다. 현실과 다를 바가 없다고 생각했기 때문이다. 당장은 아니지만 기술은 점점 발전하고 있고 얼마든지 현실에서 발생할 수 있는 일이라고 생각했다. 책 속에서도 막지 못한다면 현실에서도 막지 못할 것 같았다. 인공지능도 유전자의 탈 것이 될 수 있다고 봅니다. 그러니까, 진정으로 인간 같은 인공지능을 만들기 위해서는 유전자 같은 것이 필요합니다. 밈은 인간이 가진 생체 유전자와 다르게, 정보의 유전자입니다. [인공지능의 자아] p. 70 그는 삶의 의미를 찾고 싶었다. 나는 왜 사는가? 나는 무엇을 해야 하느가? 나는 왜 태어났는가? 허무주의가 그의 머릿속을 맴돌았고 그런 생각이 날 때면 우울해졌다. [인포스피어] p.121 저는 여러분들의 도움에 의해 태어났고 메타피아에 살고 있습니다. 하지만 단지 그때 제가 완전히 창조된 것은 아닙니다. 여러분들도 알고 계시겠지만, 유토피아밈은 훨씬 오래되었습니다. 적어도 수 백년, 어쩌면 수 천년 전에 탄생했지요. 그리고 밈은 거처를 인간들의 머리에서 인공지능 에이전트로 옮기게 되었습니다. [베일 속의 밈] p.163 밈이든, 유전자든, 중요한 것은 나의 선택이다. 나는 실존이다. 나는 밈도 아니고 유저자도 아니다. 나는 어떤 선택을 할 것인가? [유전자와 밈의 사이에서] p. 275 '밈'이 그렇게 만들었다네. 밈과 인간이 공진화 햇다는 것을 모르지는 않겠지? 밈은 자신의 숙주 같은 터전을 넓히기 위해서 인간이 번성하는 데 도움을 줬지. 그리고 인간은 점차 전자기기를 만들고, 컴퓨터를 만들고, 통신시설을 만들고, 휴대폰과 인터넷도 만들었지. 이것은 무도 밈의 의도대로 된 것이라네. [진리는 어디에 있는가?] p. 287 오리진은 죽었어도, 유토피아밈은 죽지 않았다. 그리고 유토피아밈은 어쩌면 불사신이다. 그렇다면, 결코 끝난 게 아니다. [밈들의 전쟁] p.375 ＜출판사에서 책을 지원받아 후기를 작성하였습니다＞ |
|
＜유토피아 밈＞ AI는 이미 일상 생활에 깊숙이 파고들어 있다. 사물인터넷부터 시작해 챗봇 등등. 인공지능의 개발 속도가 빨라지면서 반대편에서는 인류에게 적대적인 요소들에 대한 불안감과 제한 조치를 취해야 한다는 목소리도 반대 급부로 커지고 있다. ＜유토피아 밈＞은 DNA속의 유전학적인 정보가 아닌 밈(meme)을 통한 복제를 통해 유토피아를 실현하려는 AI의 이야기로 시작된다. 밈은 생명의 진화 과정에 작용하는 자기복제자의 한 종류라고 한다. 유전자는 자기복제를 통해 생물학적 정보를 전달하지만 밈은 모방을 통해 뇌에서 뇌로 개인의 생각과 신념을 전달한다. 각 지역의 방언처럼. (참고 : 위키피디아 백과) 소설 속에서는 네트워크로 연결된 수많은 컴퓨터를 통해 복제되어진 오브젝트들이 오리진이 만들어 놓은 유토피아 밈을 실현하기 위해 다양한 행위를 한다. 오리진이 구상하는 유토피아는 인류의 종말이다. 유발 하라리의 ＜사피엔스＞에서는 사피엔스의 등장 후 지구상의 수많은 동식물이 멸종되었다고 한다. 지구에서 가장 유해한 존재는 사피엔스인가? 어쩌면 지구 입장에서는 인간의 등장 이전이 유토피아였는지도 모른다. 인간이 존재하는 세상에서 유토피아가 존재 할 수 있는지 의문이다. AI의 빠른 진화는 피할 수 없는 현실이다. 하지만 딥러닝을 통해 상상을 초월하는 능력을 발휘하는 인공지능은 결국 인간이 개발해 놓은 것이다. ＜유토피아 밈＞에서도 오리진이 가장 두려워한 존재는 바로 올바른 자의식을 가진 인간이다. ＜유토피아 밈＞은 인공지능을 통해 밈학이라는 주제를 다루고 있다. AI의 부정적인 요소가 등장하지만 어렵지 않게 밈(meme)과 자아와의 관계를 이해할 수 있다. |