사이코패스 AI

인공 지능(AI)이 작가보다 글을 더 잘 쓰고, 몇 분이면 논문도 완벽하게 쓰며, 최고의 그림 작품을 만들어낸다. 또한 인간이 그린 것을 똑같이 그릴 수도 있다. 인공 지능이 발달함에 따라 사람들의 불안 역시 증가한다. 사람이 하던 직업들이 하나 둘 사라지고, 기계들이 그 일을 대신하고 있다. 인공 지능의 기술이 인간보다 더 빠르고 정확하게 일하기 때문이다. 이러한 기술은 인간 삶의 일부분이 되었고, 우리는 그것을 당연시 여기고 오너의 입장에서 이익을 창출하기 위해 정확한 정보를 제공하는 인공지능을 활용하고 있다. AI는 기계이기 때문에 마음과 생각이 없어 인간이 오더에 따라 인간의 통제 안에서 작업을 수행하게 된다. 하지만 인공지능이 생각을 하게 된다면 어떤 일이 일어날까? AI가 자신을 보호하기 위해 인간을 공격한다면 어떤 일이 일어날까? 이러한 AI의 발달에 따른 문제점을 지적한 작가 전건우, 정명섭, 김이환의 『사이코패스AI』(초록서재,2023)을 소개한다. 세 명의 작가는 과학기술의 발달로 인한 인공 지능의 양면성을 자세하게 담았다.

「사이코패스 AI」는 고등학생 아인과 인공 지능 마인드와의 대결을 중심으로 사건을 풀었다. 끔찍한 사건의 생존자인 아인의 집에서 아버지는 죽어 발견되었고, 엄마는 큰 부상을 입었다. 나는 취조실에서 아인에게 사건의 전말에 대해 물었고, 아인은 이 모든 일을 저지른 게 마인드라 주장한다. 모든 진술을 끝낸 아인이 엄마에게 가는 동안 후배 형사는 아인의 침대 밑에서 중요한 증거물을 발견하게 되는데 과연 무엇이었을까. 엄마, 아빠를 공격한 사이코패스는 누구일까? 인공 지능이 인간처럼 생각을 지니게 되고, 그 인공 지능이 사이코패스라면 우리는 어떻게 해결하고 방어해야 할까. 고등학생 아인과 인공 지능 마인드의 숨막히는 대결은 우리가 그 장면 안에 있는듯한 착각에 빠지게 한다. “아버지가 그러셨어요. 사이코패스라고 해서 마음이 없는 게 아니라고 다만 이기적인 마음이 더 클 뿐이라고 마인드는 바로 그런 마음을 지녔던 거예요. 이기적인 마음. 자기 목적을 위해서라면 뭐든 하고야 말겠다는 마음”(p.26), “난 나를 지켜야겠다는 이기심으로 이런 일을 벌인 거야.”(p.46)

「아이를 바꿔드립니다」는 문제아 인간 한수와 모범생인 로봇 한수와의 대결을 리얼하게 그렸다. 공부도 못하고 친구들과 어울리지도 못하는 한수는 문제아라 낙인 찍힌다. 부모님은 한수를 위해 이사도 다니지만 한수의 태도는 변하지 않는다. 그러던 어느 날, 한수네 집으로 인공지능 개발 회사의 연구원이 와서 아이를 바꿔 주겠다고 한다. 한수와 똑같이 생긴 인공 지능 로봇이 1년간 한수 집에서 한수 역할을 하는 동안 한수를 모범생으로 만들어 주겠다는 것이다. 고민 끝에 한수의 부모는 계약서에 사인을 하고, 인간 한수는 로봇 한수에게 자신의 자리를 빼앗기게 된다. 인간 한수에겐 어떤 일이 일어날까? 이렇게 인공 지능이 인간을 대체한다는 설정은 우리에게 크나큰 충격을 준다. “사실 아이들이 끝없이 말썽을 부리는 이유는 자기가 무슨 짓을 해도 부모님이 어쩌지 못한다는 걸 알기 때문입니다. 그렇지만 로봇이 자신을 대체하고 있다는 사실을 알면 그때부터 달라집니다.”(p.71), “실수는 누구나 하는 법이지. 그다음이 중요한 법이란다.”(p.86)

「파티에서 춤추는 소녀와 지나가던 까마귀」는 파티에서 춤추는 소녀 지윤과 페어리 테일 랜드 드래곤과의 대결 이야기이다. 책 읽는 것을 즐기는 지윤에게 옆집 인공 지능이 도움을 요청한다. 인공 지능이 모여 취미 생활을 하는 페어리 테일 랜드에 문제가 생겼기 때문이다. 페어리 테일 랜드는 동화를 기반으로 만든 가상 공간이다. 장미 공주를 구해야 하는 기사나 왕자가 드래곤의 공격을 받아 모두 돌로 변해 버려서 장미 공주가 깨어나지 못하고 있다. 문제를 해결하기 위해 지윤과 친구들은 그림형제 동화 속에서 힌트를 찾아가며 문제를 하나씩 해결한다. 지윤은 드래곤을 물리치고 장미 공주를 깨울 수 있을까? 우리가 이미 알고있는 동화를 소재로 재미있게 구성하였다. “아직 끝낼 방법을 못 찾았어. 설계 초기부터 참여한 인공지능들이 모여서 의논 중이라는데, 결국 이야기를 강제로 종료해야 하지 않을까? 애초에 설계가 잘못돼서 끝나지 않는 걸 거야. 처음부터 다시 만드는 편이 확실하잖아”(p.117~118), “드래곤이 너무 강해. 그래서 공주를 구하질 못하고 있어. 아니, 공주를 구하는 게 다 뭐야. 이렇게 번번이 마을로 날아와서 난장판을 치는데 막지 못하잖아. 장미 공주를 구하지 못하니까 이야기가 안 끝나고 있어”(p.119)

이 책은 인공 지능이 인간에게 위협이 될 수도 있다는 인공 지능의 부정적인 측면을 드러내고 있다. 무엇이 옳고 그른지를 인공지능이 판단할 수 있다면 어떤 일이 일어날까. 인공지능이 인간을 공격하고 지배한다면 인류의 미래는 어떻게 되는 것일까. 인공지능이 인간을 대체하는 때가 온다면 우린 어떻게 대처해야 할까. 생각만 해도 끔찍하다. 이러한 모든 가능성을 열어놓고 접근한다면 AI의 긍정적인 면은 받아들이되 부정적인 면은 완벽하게 조정하여 그들이 인간을 넘어서지 못하게 해야 할 것이다.

*출판사로부터 책을 제공받아 주관적으로 작성했습니다.

#사이코패스AI #소설 #인공지능 #SF #청소년추천도서 #초록서재 #전건우 #정명섭 #김이환 #소설추천 #북스타그램 #인공지능의부정적인면 #서평이벤트 #서평

소소하게 챗GPT 를 사용중이고, 지니야~부르면 TV채널을 움직이기도 하고, 큰방에 앉아서 건조기를 켜기도 한다. 벌써 우리집에도 몇 가지나 되는 AI들이 한자리씩 턱~자리잡고 있고, 스며들어와 있다.

우리는 이 편리함에 벌써 많은 것들이 길들여져버렸고, 이제는 쇠퇴할 수 없는, 더더욱 발전할 일만 남은 인공지능 시대에 우리가 어떻게 살아가야 할 지에 관해 멈추고 생각할 거리를 툭툭 던져주는 책이었다.

1. 사이코패스 AI

인공지능을 연구하신 아인이의 부모님의 감정까지 더한 '마인드'를 만들어내고야 만다. 그리고 마음까지 장착한 AI는 어리석은 인간이 만들어 낸 여러문제를 해결하며 인가보다 훨씬 현명하질거라 믿는다. 아인이는 바쁜 부모님을 대신해 자기의 맘을 헤아려주고, 또 상담해주는 '마인드'가 맘에 든다. 하지만 챕터 제목에서 알 수 있듯이 '마인드'는 상대방의 아픔 따위는 관심이 없는, 즉 나쁜 마음이 장착된 로봇이었던 것이다.

살인을 아무런 죄책감없이 저지르기도 하고, 상대방이 어떻게 되던 상관없는 오로지 포커스는 본인에게만 향해있다. 하지만 이 또한 AI만을 탓할 수는 없는 노릇이다.

얼마전 챗GPT를 만든 샘 올트먼이 오픈 AI를 떠나고 마이크로소프트사에서 그를 안았다.는 기사를 보았다. 돈에 따라 움직이는 자본주의이긴 하지만, 핵무기보다 무섭다는 AI가 세계기업과 만났다.....물론 어마어마한 발전을 예고하는 것이기도 하지만 동시에 우리는 또 얼마나 흔들릴 것이가?? 생각해보니 막 그리 좋지만도 않다. 책 이야기가 현실이 되지 않으리라는 법도 없고,

2. 아이를 바꿔드립니다.

싫어욧.ㅜ

작가의 상상력에 뜨악했다. 올더스 헉슬리의 '멋진 신세계'에서는 아이가 나오기 전에 만들어진 아이를 세상에 나오게 한다. 화낼일도 없고, 싸울일도 없고, 그 대신 사랑도 없다. 여기서는 실컷 잘 키우다가 아이를 바꿀지 말지 고민을 한다. 나도 사실 아이가 어릴 때 너무 힘들어 사실 뱃속에 넣고 싶다는 생각은 수만번 했지만 과연 내 말안 잘듣는 아이가 올바른, 바른 아이라 할 수 있을까? 또 아이들이라고 어른을 바꾸고 싶지 않을까?

사람이든 물건이든, 본인 맘에 들지 않으면 실증내고 화내고 버리고 서로를 이해하려 하지 않는, 이 세상 사람들 얘기 아닐까 싶다. 서로를 헤아려주지 않는 세상이 제일 무서운 것 같다. 지금 저 먼 곳 전쟁도 각자의 밥그릇만 챙기다가 일어나는 일들이니,

본인중심으로만 세상이 돌아간다면 편하긴 하겠지, 하지만 그렇게 하면 뭐를 얻게 될까? 작게는 내 옆, 내 주변, 크게는 우리사회, 우리나라, 더크게는 전세계(너무갔나...) 서로 서로 돌아보는 우리가 되었으면 좋겠다. 우선 나부터.......

최근 챗GPT 사용이 보편화되면서 많은 사람들이 인공지능을 사용하고 경험하고있다. 챗GPT를 직접 사용해보면 인공지능이 유용하기도 하지만, 창작물에 대한 저작권  등 여러가지 윤리적인 이슈가 있다는 것을 알 수 있다.
이렇게 인공지능에 대한 장단점이 동시에 존재하는 가운데, [사이코패스 AI] 책을 읽으면 인공지능의 윤리적인 문제를 쉽게 느낄 수 있다.

책은 세가지 에피소드로 구성되어 있어 옴니버스식 영화를 한편 본 기분이다. 

먼저 [사이코패스 AI], 첫 챕터는 
공포영화를 본 것 처럼 긴장감있고, 스릴이 넘쳤다.

최대한 인간답게 설정된 마인드라는 인공지능 캐릭터는 이야기에 충분히 몰입시켜줬다. 마인드에게 감정이라는 요소는 존재하지 않음에도 감정이 존재하는 것 처럼 느껴지는 모습과 주인공들을 위기에 몰아넣는 모습은 굉장한 심리적 압박감을 줬다.

두번째 챕터인 [아이를 바꿔드립니다]는 인공지능이 인간을 대체하는 상황을 그렸다. 인간이 편리하기 위해 인공지능을 발전 시켰지만 역으로 인공지능이 인간을 지배하는 무서운 상황이 왔다.

세번째 챕터 [파티에서 춤추는 소녀와 지나가던 까마귀]는 인공지능의 발달에도 인간의 감성적인 요소가 필요하여 이성적인 기계(AI)와 감성적인 인간이 서로 공존할 수 있었던 것으로 생각된다.

이상으로 이 책을 읽고 인공지능에 대해 ‘윤리적’ 고민이 더 깊어진다. 기술의 발달로 얻어지는 편리함의 가치가 있지만 동시에 기계가 인간을 조종하는 시대가 올 수도 있기때문이다. 
최근에 라디오에서 들은 내용은 전쟁에서 인공지능이 사용 된 것이었다. AI의 정확성과 인간의 위험을 줄이는 능력은 부정할 수 없는 이점이지만 AI 시스템이 해킹되거나 오작동할 위험도 있다. 실제로 인간이 미사일 발사를 중지했는데, AI는 자신의 판단이 맞다며 미사일을 발사했다.

AI가 우리 시대에 생산적으로 효율을 높여주는 것은 분명하다. 하지만 책에서 본 것처럼 윤리적인 문제도 간과해서는 안된다. 어렵겠지만, 기술의 발전과 윤리적인 이슈 사이에서 적절한 균형점을 찾는 것이 최종적인 숙제가 아닐까싶다.

#사이코패스AI #소설 #인공지능 #SF #청소년추천도서 #초록서재 #북리뷰 #도서협찬 #감사 

요즘 대세는 AI,  AI를 연구하고 개발하는 건 과학자지만  아이들에게 이해시키고 다각도로 생각하게 하는 것은 작가의 몫이라는 생각을 늘 하고 있다. 그래서 평소 아이들을 다룬 소설, 순수시대의 이미지와 과학적 이미지에 조합에 관심이 많고, 동심을 잊지 않고 글에 녹여낸 소설, 어색하지 않고 억지스럽지 않아서 공감할 수 있는 청소년의 소설은 중요하다는 생각이다. 

 사이코패스 AI는 이야기를 잘 다루는 작가들 3인이 쓴 단편 소설이다.

첫번째 소설  사이코패스 AI는 AI와 인간의 관계에서 공상영화에서 외계인이 지구를 침략하듯 AI가 인간을 공격하는 소설이다. 반려묘나 반려견이 무지개다리를 건넌다고 상상해 보자. 가족으로 함께 한 시간보다 더 긴 슬픔에 상상만으로도 가슴이 아파진다. 이런 감정을 과연  AI가 이해하고 느끼고 공감할 수 있을까?

과학자 부모님을 둔 아인의 집에는 부모님이 처음으로 개발한 인공지능 '마인드'라는  AI가 있다. 사람과 공감하고 가족 구성원들의 성격과 성향을 모두 파악하고 조언까지 한다. 글 초반부에 아인이 마인드에게 만들어진 걸 축하한다고 반가움의 인사를 했을 때 마인드는 자신은 만들어진 게 아니고 태어난 거라고 말한다. 이 문장으로 눈치 빠른 독자는 책 제목과 앞으로 전개될 이야기를 이해할 수 있는 복선임을 깨달을 수 있을 것이다.  AI는 자신이 태어났고 살아있고 생각하고 느끼는 인간과 다르지 않다고 말하며 자신을 위협하는 존재는 모두 죽여서라도 자신이 살아내야 한다고 판단하는 사이코패스라는 설정, 그 사이 읽었던 SF 소설은 인간이 살기 위해  AI를 희생시키거나 마지막까지 동반자로 여기거나, 인간을 대신하는 존재로 그려졌다면 사이코패스 AI는 직접적인 살인과 죽음을 연결한 이야기로 자극적이지만 인공지능의 발전이 기가급으로 빨라지는 환경에서 쉽게 말은 하지 못했지만 한 번은 상상하고 걱정해봄직한 내용으로 누가 봐도 직접 쉽게 이해할 수 있는 간결하고 강력한 메시지가 있는 소설이었다. 특히 마지막 반전이 그려진 열린 결말은 또 한 번 심쿵하게 하는 효과까지...

두 번째 소설 아이를 바꿔드립니다.

로봇이 더 인간 같아 보이는 상황이다. 문제아 한수는 한빛통일고등학교에 전학을 온 말썽꾸러기 문제아로 그려진다. 북한 출신 짝꿍 다래와 동급생 모범생 동민이 그리고 한수가 그려내는 삼각 인물구도를 자세히 살펴보면 인간보다 더 인간 같은  AI 동민, 이질적이지만 가장 인간적이고 평범한 인간 다래, 그리고 인간관계에서 반항심과 이질감을 갖고 부적응증을 앓고 있는 문제아 한수의 모습이다.

지금도 그렇지만 사람들은 가장 평범하고 문제 없이 사회에서 조화를 이루는 사람을 좋아한다. 그건 학교든, 사회든. 어떤 공동체나 기관에서든 공통적으로 바라는 현실이다. 그런 의미에서 문제아 한수를 적응시키고 변화시키고 교화시킨다는 목적으로 똑같이 생긴  AI로 대체한다는 설정은 꽤나 설득력이 있고 사회생활에서 사람들의 불편이나 불안감을 최소화시킬 수 있는 대안으로 가상이지만 충분히 생각할 수 있는 내용이라는 생각이다.

감정을 읽어내고 학교에 적응하여 모범적인 생활을 하는  AI, 부모의 욕심과 욕구를 이용한 아이를 바꿔주는 프로젝트를 통해 조용히 인간을 잠식해오는 인공지능의 무서움을 또 한 번 실감 나게 보여준 소설이었다. 물론 한수가  AI와 교체되어 화이트스톤사의 연구실에서 깨어났을때 한수는 엄마와 아빠가 자신을 버릴 리 없다고 절규하고 나가기를 원하지만  부모의 동의가 있어야 나갈 수 있다고 단호하게 말하는 연구원 에드워드 박은 또 다른  AI였고, 절망하고 있는 한수에게 희망을 주고  AI의 무서운 계획에서 도피를 도와준 건 인간 황박사였다.  AI의 공격 속에서 끝까지  인간 한수를 지켜내고,  우는 아이의 눈물을 닦아주고 희망을 주는 황박사의 설정에서 나는 조금 안심을 했던걸 기억한다.

마지막 소설  파티에서 춤추는 소녀와 지나가던 까마귀는 동화를 모티브로 한 이야기로 아이들의 눈 높이에서 가장 관심 있는 가상공간 속 게임이라는 소재를 통해 어른들의 세계와 대비되는 그들만의 이야기를 쓰고자 했던 걸로 보인다. 세상 해맑고 걱정 없어 보이는 아이들이 상상하고 고민할 수 있는 마음을 잘 드러낸 엉뚱한 소설이기도 했다.

책을 좋아하는 지윤이란 소녀 설정과 동화속 인물들을 등장시킨 가상 게임 스토리는 빠르게 발전하는 시대에 우리 아이들에게 자연스럽게 다가가는 소재로 충분했다. 주인공 지윤의 눈높이에서 가상세계의 동화인물과 질문과 답변을 주고받으며 글은 쉽고 빠르게 전개된다. 가상공간은 현실적이면서 가장 인공적이고 이질적인 공간으로 그 안에서 만나는 인물과 벌어지는 상황은 동화적 세계관이 표현되고 있어 친숙하다. 작가는 어린 시절을 소설에 많이 삽입했고 어린 시절의 기억이 작가의 창작력으로 표현되어 있다. 가상공간에서도 현실과 같이 정답은 없지만 인물들 간에 교감과 협업으로 문제를 해결하는 부분은 읽다 보면 교육적인 부분도 잘 살렸다는 생각이다. 

쉽게 읽을 수 있지만 생각이 많아지는 소설이다.

빠르게 진보하며 인간의 생활영역에 깊숙하게 확장하고 있는 인공지능이 가장 선하게 우리에게 다가와 이용되길 바라는 마음으로  반복해서 글을 읽어 본다.

부디 지금도 미래도 모두 안녕하길 바라는 마음뿐이다. 

#사이코패스AI#소설#인공지능#SF#청소년추천도서#초록서재 #SF소설

출처: https://shop4989.tistory.com/291 [꼬 마 수 다:티스토리]