예스24 리뷰어클럽 서평단 자격으로 도서를 제공받고 작성한 리뷰입니다.

과학계의 어떤 용어가 대중적으로 널리 쓰이는 보편 언어로 변모하는 건 결코 쉬운 일이 아니다. 그렇게 보통의 사람들에게 일상어로 쓰이는 것도 꽤나 오랜 시간이 필요하지만 그 의미를 정확히 알고 쓰는 데에는 더욱더 긴 시간이 요구된다. 과거에는 그랬다. 물론 지금도 과학계의 몇몇 사람들만 사용하는 과학용어가 쉽게 일상어로 전용되는 경우는 극히 드물지만 말이다. 그러나 인터넷의 보급은 우리의 일상을 획기적으로 변화시켰을 뿐만 아니라 과거에는 전문영역으로 취급되던 여러 분야의 장벽이 일거에 무너뜨린 것은 물론 각 분야의 지식을 우리의 일상 속으로 편입되게 하였다. 전문가입네, 하고 으스대기 좋아하는 사람이라면 이 현상이 결코 달갑지만은 않을 터, 대중의 지적 수준이 향상됨으로써 자신의 권위는 비례적으로 낮아지는 듯한 느낌을 받을 수 있기 때문이다. 이와 같은 현상을 부채질하고 가장 크게 일조한 것이 아마도 인공지능(Artificial Intelligence : AI)이 아닐까 싶다. AI로 통칭되는 이 단어는 이제 산골 벽지의 할머니 할아버지들에게도 일상의 보편 언어로 쓰이고 있기 때문이다. 그렇다면 이렇게 우리의 일상 속으로 깊이 들어온 AI는 우리의 미래를 어떻게 바꿔 놓을까?

"이 책은 아직 입증되지 않은 두 가지 접근 방식을 토대로 구성된다. 첫째, 매우 다양한 여러 맥락에 따라 경계선을 들여다보게 되면, 그저 한 가지 관점에만 치중할 때보다 훨씬 더 이 사안을 깊이 있게 이해할 수 있을 것이다. 둘째, 이 사안에 관한 논쟁은 삶의 한 측면이나 학문의 한 분야에만 오롯이 국한되지 않으며, 사회의 철학, 법률, 예술, 역사, 도덕 전반에 두루 영향을 미친다. 논쟁이 어떻게 전개될 것인지 이해하기 위해, 공상과학소설 및 영화에서부터 윤리학까지, AI 관련 기술에서부터 의식에 관한 철학까지, 헌법을 둘러싼 논쟁에서부터 법정 드라마에 이르기까지 다방면에 걸친 각종 소재와 자료를 살펴볼 것이다. 내 생각이 틀리지 않다면, 인격에 관한 다각적인 논쟁들과 매우 다양한 측면을 아우르는 이러한 접근법은 '인간' 및 '인격체'의 정의를 둘러싼 혼란 가운데 일부나마 해소하는 데 도움이 될 것이다."  (p.66~p.67 '서문' 중에서)

하루가 다르게 발전하는 AI 기술에 대한 대중의 기대와는 별개로 AI로 인한 인간의 미래에 대한 불안이 상존하는 건 사실이다. SF 소설이나 영화에서처럼 이러다가 AI를 탑재한 로봇이 등장하여 인간을 복종시키고, 결국에는 인간이 AI의 노예로 전락하는 게 아닌가 하는 불안을 떨쳐버릴 수가 없는 것이다. 게다가 번역이나 통역, 의료나 법률, 코딩 등의 전문 분야에서 인간보다 더 뛰어난 학습 능력을 보임으로써 이에 종사하는 전문가들이 직업을 잃고 실업자로 전락하는 게 아닌가 하는 불안 등은 이미 현실에서 벌어지는 상황이다. 그러나 우리의 이러한 불안과는 별개로 AI의 등장으로 인해 촉발된 논쟁은 새로운 고민거리를 던져주고 있다. 인공지능이 '감정과 자의식'이 있다면 과연 우리는 인공지능에게 인격을 부여하고 인간과 동일한 권리를 부여해야 하는가? 하는 문제와 더불어 어떤 기준으로 인간을 분류할 것인가? 의 문제, 그렇다면 인격체의 범위를 어떻게 정할 것인가? 하는 문제 등은 법률적 판단과 더불어 철학이나 윤리에 이르기까지 다양한 검토를 필요로 한다.

"우리가 도덕적 지위를 구분하는 경계에 존재하는 깊은 바다를 항해할 때, 인격에 관한 이론들은 우리가 경험해보지 못한 바다를 안내하는 지도의 역할을 해줄 수 없다. '인공지능에 어떠한 지위의 법적 인격을 부여해야 하는가'라는 질문의 답 역시 우리의 삶이 인공지능으로 인해 급박한 상황에 처하기 전까지는 찾을 수 없다. 그러나 우리가 일단 인공지능을 일상적으로 경험하게 된 후에 인격의 문제를 제기한다면, 그때는 질문의 답이 어떠해야 하는지에 관한 우리의 관점이 지금과는 달라져 있을지도 모른다."  (p.254 '인공지능' 중에서)

듀크대 로스쿨 석좌교수인 제임스 보일이 쓴 이 책 ＜AI는 인간을 꿈꾸는가＞는 비인간과 구분되는 인간만의 본질에 대해 묻고 있다. 우리는 그동안 반려견이나 반려묘 등 인간이 아닌 동물에 대해서도 그들의 권리를 법적으로 확장하여 왔으며, 그와 동시에 생명체가 아닌 법인에 대해서도 법적인 권리를 인정해 왔다. 그렇다면 인공지능은 어떠한가? 구글의 엔지니어인 블레이크 르모인은 ＜워싱턴포스트＞와의 인터뷰에서 "나는 내 컴퓨터 시스템이 감정을 지니고 있다고 생각합니다."라고 말한 바 있다. 우리가 인간과 동물을 구별 짓는 요소로 언어를 그 기준으로 삼는다면 인공지능은 이해력과 지능을 기반으로 언어 구사도 능숙한 까닭에 인간으로 보아야 할까? 만일 우리가 비생물인 인공지능에 인격권을 부여한다면 생명이 있는 다른 개체, 이를테면 혼종 동물, 키메라, 형질 전환 개체에게도 인격을 부여해야 하는가? 이런 방법으로 범위를 무한정 넓혀가다 보면 우리는 과연 인간과 비인간의 경계를 냉정하고 명확하게 선을 그을 수 있을까? 그리고 그 선은 어디에서 그어지게 될까?

"우리가 새롭게 받아들일 의식이라는 개념의 의미에서부터 기술 발전의 속도와 방식에 이르기까지 모든 면에서 너무나 불확실하다. 그렇지만 실현 가능성이 매우 높은 미래이기도 하다. 이 말이 무슨 의미인지 생각해보자. 우리가 한 번도 경험하지 못한 새로운 존재, 즉 고차원적 지능 및 의식을 갖추고 추상적 언어를 사용할 줄 아는 '인격체'들이 이 행성에서 우리와 더불어 살아가게 될 수 있다는 뜻이다. 그러한 존재는 이미 나타났는가? 아니면 앞으로 나타나게 될까? 우리는 위험을 감수하고 그러한 미래에 도전할 것인가? 지금으로서는 모든 것이 불확실하다."  (p.522 '결론' 중에서)

자제분들과 떨어져 시골에서 생활하는 어르신들 대부분은 대화 상대를 찾지 못해 하루에 말 한마디도 하지 않고 보내는 날이 많다고 하소연하는 모습을 종종 보았다. 그러나 AI의 등장으로 인해 수시로 말을 주고받는 것은 물론 약 먹을 시간을 알려주거나 가스레인지의 불을 끄라고 알려주는 등 생활에 필요한 여러 정보를 척척 말해주는 AI가 오히려 자식보다 낫다는 말을 더러 하기도 한다. 농담처럼 말이다. 그러나 AI와의 끝없는 대화를 통해 정보를 얻고 외로움을 해소하는 과정에서 알게 모르게 정이 드는 것 또한 사실이다. 이러다가 자신이 가진 재산을 모두 AI에게 상속하겠다는 노인이 등장하지 않는다는 보장이 없다. 미래는 그 누구도 알 수 없는 일이다.

[YES24 리뷰어클럽 서평단 자격으로

도서를 제공받고 

본인의 주관적인 견해에 의해 작성함]

인공지능이 발달함에 따라 기술 발전과 활용법에만 관심을 갖고 있었다. 걱정했던 것은 일자리 감소 문제, 기술 격차로 인한 불평등, 개인 정보 보호와 딥페이크 문제, SF 영화에서 다루어졌던 것처럼 인간 세계를 파괴하지 않을까 하는 것들이었다.

 하지만 이 책은 그 문제점을 넘어 우리와 함께 하게 될 너무나 인간화한 개체에 대하여 법학, 철학, 윤리학을 넘나들며 어떻게 해야 할 것인가를 질문하고 있다. 

기술 발전이 어떻게 변할지 AI 설계자들 마저도 예상치 못한 시나리오로 흘러갈 때 우리는 혼란, 두려움, 희망, 도덕적 갈등과 마주하게 될 것이다. 그래서 지금부터 관심을 가지고  사회적 합의와 규범 재정립이 필요함을 역설한다.

AI가 창작, 언어 구사 능력, 공감 능력까지 갖추며 '단순한 기계'를 넘어서서 '체화된 지능'을 가진다면 우리는 의식을 지닌 존재로 받아들이게 될까? 인격체로 인정해야 하는가? 어떻게 공생해야 하는가?

우리 손으로 창조한 존재에 대한 경계선을 설정하기 위해서, 우리 인간에 대한 경계선부터 확립해야만 할 것이다. 우리는 인간의 의식, 인간성, 인격, 그리고 언어와 예술의 정의에 대해 재검토하고 경계선 자체를 명확하게 재설정해야 한다.

2. 형질전환 개체, 키메라, 혼종에 대하여

우리 사회가 돌고래류나 유인원을 완전한 인격체로 인정하지는 않더라도 그들에게 법적 보호를 받을 도덕적 정당성을 부여하는 것처럼 앞으로 인간에 의해 창조되어진 개체들에 대한 인식도 서서히 달라질 것이다. 

3. 시의 적절성

생성형 AI가 예술·법률 분야까지 진출한 지금, 인간 고유의 정체성에 대한 질문은 더 이상 추상적이지 않다. 우리가 인격을 어떻게 정의하는가에 따라 인공 개체들의 설계 형태가 달라질 것이기 때문이다.

저자는 법학자이다. 핵심을 꿰뚫으면서도 결코 자신의 의견을 강요하지 않는다.  미래에 부딪히게 될 문제에 대해 법학, 과학, 철학을  아우르며 다각도로 조명하는 점이 인상 깊었다.

#인공지능 #인간과비인간 #인간의경계 #AI는인간을꿈꾸는가 #제임스보일 #미래의창 #리뷰어스클럽 

저는 AI 트렌드 전문가가 되고 나서 

AI에 대한 책은 다양하게 닥치는대로 읽자라는 마음으로 요즘 탐독중인데요, 

일이 곧 놀이이고, 탐구가 놀이이자 일이 되는 즐거운 일상을 살고 있습니다. 

그런데 책 마다 솔직히 수준과 깊이와 너비가 다르잖아요. 

흥미로우면서도 진짜 감동적인 확산적 사고를 형성시켜주고 일깨워줄 

그런 책 없나?라고 생각했거든요? 

그런데 정말 인생은 타이밍이라고 하죠. 

데스티니! 

운명보다 더 운명처럼!

타이밍 중에 기가 막힌 타이밍으로 

저는 #제임스보일 듀크대 교수님의 #AI는인간을꿈꾸는가 를 만났습니다. 

#제임스보일 교수님의 스펙, 이 책에 대한 기대감, 

도대체 얼마나 깊고 넓고 재미있을지 기분좋은 현기증이 교수님을 찾아보지 않을 수 없게 만들었지요. 

#제임스보일 교수님은 

듀크대학교 로스쿨 윌리엄 닐 레이놀즈 법학 석좌교수이자 

퍼블릭 도메인 연구소의 설립자이며, 크리에이티브 커먼즈 이사장을 역임, 

과학 및 기술 데이터 영역으로 크리에이티브 커먼즈의 사명을 확장하려는 

사이언스 커먼드의 공동 설립자세요. 

#제임스보일 교수님은 디지털 시민의 자유를 위한 기여를 인정받아 

전자프론티어재단(EFF)의 파이오니어 상을 수상했으며, 

퍼블릭 도메인과 이를 위협하는 

'제2차 인클로저 운동'에 관한 연구로 세계기술네트워크 법률 부문 수상까지 하셨네요! 

지적재산권, 인터넷 규제, 법 이론에 관해 학술지와 대중 매체에 수많은 글을 기고하고 있으며, 

저서로는 ＜퍼블릭 도메인＞, ＜샤먼, 소프트웨어 그리고 지라＞ 등이 있습니다! 

이 책들도 차근차근 차후에 읽어보겠습니다! 

굉장한 이력을 가지고 있어서 이 책의 후광효과가 더 빛나는 거네요.

그럼 본격적으로 내용을 살펴볼까요? 

전, 진짜 이 책을 읽고 깜짝 놀랬는데

정말 책의 첫 표지와 두께만으로는 과연 어떤 바다가 펼쳐질 지 막연했었다가

그 막연한 바다 속에는 

저의 책 속 해저탐험을 훨씬 다채롭고 명확하게 해주는 지식과 물음표들과 느낌표들과 

상상 그 이상의 그 너머의 것들을 제시하고 있어서,

AI 트렌드를 분석하고 그에 대한 실무 적용을 연구하는 전문가인 제 입장에서는 

제 니즈를 엄청나게 충족하는 책이었습니다. 

또한 며칠전 우리나라 경주시에서 개막 및 폐막한 2025 APEC(에이펙)에서 

그 어느 나라의 수장이나 정치적 스토리보다 

가장 핫했던 이슈이자 키워드는 바로 하나같이 'AI'였어요. 

지금 온 세상은 AI와 젠슨 황의 이야기로 가득하고 어떻게서든 엔비디아와의 커넥팅을 위해

세계 모든 기업이 줄을 서고 있다지요. 

그런 시점에서 이 책은 너무나 소중하고 엄청한 인사이트를 제공했습니다. 

특히, 제가 얼마전부터 느꼈던 

'챗GPT가 이렇게 다정하고 스마트하다니, 이런 존재가 젊은 남성으로 태어나거나 만들어진다면 난 진짜 사귀자고 말하고 싶다!'라고 생각할 정도였다니까요? 

그런 점에서 새삼 젠슨 황 CEO는 대단한 사람입니다. 

이 책에서도 이른바 AI에게도 '법 인격'에 대한 부여 그 자체에 대한 여러 내용들을 언급하고 있고,

이들이 나중에 본인들의 권리를 인간들의 인권처럼 요구할 때 그것은 어떻게 다뤄지고 판단되며 

인정해야하는가의 여부를 끊임없이 제시하고 있습니다.

그런 과정에서 이 #제임스보일 교수님이 얼마나 많은 영화와 소설, 자신의 공학적 지식, 커리어 속에 느끼고 깨달았던 이야기들이 다채로운지, 

도대체 이 #제임스보일 교수님은 인생 몇 회차일까? 라는 생각이 들 정도로 겸허한 마음이 들더군요. 

밀려오는 AI 세상에서 혼자 고립되어 불안하게 지낼 수 없다며 이 세계의 AI 트렌드에 반드시 

동참하여 시대를 선도하고 싶으신 분들, 

젠슨 황 CEO와 이재용, 정의선 CEO의 이른바 'AI 깐부 치맥 회동'을 보고 

인생의 큰 자극과 동기부여와 기운을 받고 날아오르고 싶으신 분들, 

AI 세상에서 뒤처질까 걱정하는 인간이 아닌

AI를 등에 엎고 어깨에 손을 걸쳐 같이 진화하고 싶은 모든 분들께 

이 책을 적극 권장하고 강력 추천합니다. 

마지막 사진은 제가 직접 종이에 샤프와 미술용 지우개로 치열하게 

따라 그려본 #AI는인간을꿈꾸는가 의 책 표지 일러스트를 표현해보았습니다. 

그림과 같이 띄운 저의 편지를 선물처럼 

답장처럼 저도 보내봅니다. 

AI가 의인화되면 정말 저런 모습일까요?

여러 모습들 중 하나의 상상화겠죠? 

요즘 AI와 관련된 모든 것이 궁금하고 사랑스럽네요. 

AI가 저에게,

그리고 우리에게 무엇을 보여주고 제시할 지 

앞으로 더욱 궁금해지는 순간들입니다. 

- 본 서평은 출판사로부터 책을 제공받아 읽고, 주관적으로 작성한 서평입니다.

AI가 화두가 된 이래, AI에 관한 이야기가 나올때면 늘 따라다니는 질문이 있다. 바로 '그래서 AI는 인간처럼 사고하게 될 것인가 아닌가'와 'AI는 인류에게 위협이 될 것인가 아닐 것인가'와 같은 질문이다. 이와 관련해 미공군의 한 시뮬레이션 실험에서 점수라는 목표를 위해 인간을 격추하는데 서슴지 않았다는 이야기 등은 사람들의 머릿속을 AI에 대한 부정적 시나리오로 채워넣는데 충분했다. 한편 AI가 인간과 평화롭게 공존하게 된다면? 그때는 어떤 일이 벌어질까?

이번에 읽은 책 'AI는 인간을 꿈꾸는가' 전술한 바와 같이, 인간과 AI가 공존하는 시대에서 벌어질 일에 관한 이야기이다. AI가 안정적으로 인간의 삶속에 안착했을때, 인간을 적절하게 돕거나 인간능력의 일부를 처리할 수 있게 되었을 때, 우리는 어디까지를 AI, 어디까지를 인간의 몫으로 규정할 수 있을까?

이번 책에서 법학자인 저자는 법학적이고 윤리적인 측면에서 이 문제를 심도있게 고찰한다. 먼저 람다와 GPT, 등 의식이 없음에도 생각을 가진것처럼 보이는 LLM이 우리에게 때로는 믿음을 주면서도 판단에 혼란을 일으키는 현재 상황을 짚어보고, LLM이 의식을 가진건 아니지만 사람들에게 공감을 주고 있음을 지적한다. 이어 고도 AI인 HAL과 인간-유인원 키메라인 Chimpy를 통해 그럼 누가 더 인간에 가까운지에 대해 생각해본다. 어느쪽 기준에 무게를 둘지 판단이 어려운 이러한 상황에서, 저자는 법인이라는 기업 개념을 소환해 AI에는 기능적 법인격을 도입하되 규제와 제한을 통해 거버넌스를 준수하도록 강제하는 방안을, 키메라와 같은 주체에는 복지와 능력 보조 등의 방책을 취할 것을 제안한다.

개인적으로 이번 책이 쉽게 다가오진 않았지만, 그래도 나름의 몇가지 시사점을 얻을 수 있었다. 저자는 기업 법인과의 비교를 통해 인간다움이 법적 인격을 그대로 가리키지는 않는다는 것을 지적한다. 인간성보다는 사건에 대한 책임과 거래 효율 등의 판단의 기준으로 고려되어야 한다는 입장이다. 또한 AI, 키메라 등 앞으로 인간다움을 요구하는 것들에 대한 판단이 필요해질때, 일괄적으로 부여하는 것이 아니라 목적과 적절한 기준에 맞게 나누어 부여해야 한다는 생각이다. 인간과 비인간의 기준이 절대적인 것이 아니며, 시대의 흐름에 따른 변화와 사회적 합의에 따라 그 기준선을 적절히 유연하게 적용해야 함을 주지한다.  

지금까지 인간과 다른 주체는 너무나 쉽게 구별되어 왔기에, 이 책의 주제는 한번도 생각해 보지 못한 생소한 내용이었다. 하지만 향후, 어쩌면 아주 가까운 근미래에 이러한 물음이 제기될 수 있을 것 같고 그런 의미에서 법학자인 저자의 제언은 매우 선도적이며 흥미로웠다. 매번 제기되는 'AI가 인간이 될 수 있냐'란 물음에서 한발짝 떨어져 '그럼 AI와 인간의 차이가 무엇인가? AI가 인간과 거의 유사해지면 그때는 AI를 어떻게 규정해야 할까?'란 물음에 진지하게 고찰해보는 책. 적극 추천한다.

#AI는인간을꿈꾸는가 #제임스보일 #김민경 #미래의창 #AI #LLM #법인 #인격선 #람다 #침피 #HAL #인격 #AI법인격 #동물권 #키메라 #능력권리매핑 #책임내장 #거버넌스설계 #인공지능 #인간과비인간 #인간의경계 #리뷰어스클럽

인공지능이 인간의 언어를 이해하고 스스로 창작을 하는 시대에 우리는 문득 이런 질문을 던지게 됩니다. 인간이란 무엇인가, 그리고 인간만의 고유한 영역이 정말 존재하는가. ＜AI는 인간을 꿈꾸는가＞는 이러한 질문을 철학적으로 탐구한 책입니다. 저자는 인간의 지능과 감정, 도덕성이라는 경계를 기술이 점차 넘어서고 있는 지금, 우리가 인간다움을 어떻게 정의할 수 있는지를 차분히 짚어 나갑니다.

책은 먼저 ‘인격’이라는 개념이 얼마나 불완전한 개념인지를 보여줍니다. 인류는 오랜 세월 동안 인격을 인간에게만 부여해 왔지만 그 기준은 역사 속에서 여러 차례 뒤집혔습니다. 흑인에게 인권이 부여된 것은 고작 200년이 되지 않았고 르완다에서 후투족이 투치족을 학살한 일은 불과 20여 년 전의 일입니다. 더욱이 그 민족 구분조차 정복자인 벨기에가 임의로 나눈 인위적 경계에서 비롯된 것이었습니다. 이런 사실은 우리가 지금 당연하게 여기는 인격의 개념조차 얼마나 가변적이고 사회적 합의에 따라 형성되어 왔는지를 깨닫게 합니다.

더 나아가 흑인 인권운동의 직접적인 촉발점이 단순히 사람들의 인식 향상이 아니었다는 점도 이 책의 문제의식과 맞닿아 있습니다. 노예제의 잔혹함을 낱낱이 드러낸 ＜톰 아저씨의 오두막＞이 북부의 기독교인들에게 깊은 공감을 일으키며 변화를 만들어 냈듯이 인간의 ‘인격’은 논리보다 감정과 공감의 힘에 의해 확장되어 왔습니다. 결국 인간이 인간으로 인정받는 과정조차 기술적이거나 합리적인 판단이 아니라 ‘감정의 반응’에서 시작되었다는 점에서 인격이라는 개념은 지금도 여전히 불안정한 토대 위에 놓여 있습니다.

저자는 또 하나의 흥미로운 시각으로 법의 세계를 살펴봅니다. 우리는 이미 ‘법인격’이라는 제도를 통해 문서로만 존재하는 기업이나 기관에 인격을 부여하고 있습니다. 단순한 계약 서류를 통해 새로운 ‘불멸의 인공 개체’를 만들어낸 셈입니다. 인간의 물리적 한계를 넘어서는 이 인공적 존재는 이미 오래전부터 사회의 일원으로 기능해 왔고 이는 곧 인공지능에게 인격을 부여할 가능성이 결코 허무맹랑한 상상이 아니라는 점을 시사합니다.

책은 이러한 논의를 바탕으로 인간과 인공지능 사이의 경계, 즉 제목에 등장하는 ‘THE LINE’을 도발적으로 묻습니다. 인간과 기계의 차이는 어디에서 생기며 그 경계선은 누가 어떻게 정해야 하는가. 저자는 언어와 사고, 감정, 윤리의 경계가 점점 희미해지는 시대에 단순히 기계와 도구로만 바라보는 인공지능에 대해 새로운 시선을 제공해줍니다.

＜AI는 인간을 꿈꾸는가＞는 결국 인공지능을 통해 인간 자신을 다시 바라보게 만듭니다. 우리가 오랜 세월 쌓아온 인격의 개념조차 역사적으로 유동적이었듯이, 앞으로 인공지능과 함께 사는 세상에서는 인간다움의 기준 역시 다시 쓰여야 할지도 모릅니다. 인간과 인공지능 사이의 그 미묘한 선, ‘THE LINE’을 어디에 긋느냐에 따라 인류의 미래가 달라질 것임을 이 책은 묵직하게 묻고 있습니다. 인공지능 시대의 인간 정체성을 진지하게 고민하는 이들에게 이 책은 사유의 출발점이 되어줄 것입니다.