동물도 기계도 되지 않고 인간 자체로 온전히 살 수 있어야 한다는 작가의 바람 혹은 충고가 간절하게 와 닿는 책이다. AI라고 하는 어마어마한 능력을 가진 기술이 우리 바로 곁에 와 있는 이 시대에, 이 기술 때문에 인간성을 잃지 않고 살 수 있으려면 어떻게 해야 하는지 그 방법과 태도를 탐구하고 취재해서 차근차근 보여 주고 있는 책, 독자로서는 그저 고마울 따름이다. 

지금 살고 있는 시대의 모습을 바로바로 전해 주는 글들은 읽을 때마다 새롭고 긴장도 된다. 내가 이런 시대에 살고 있다는 말이지? 이런 걸 알아야 한단 말이지? 모르면? 모르고 살면 많이 힘들게 되는 것일까? 손해를 보게 되는 걸까? 아는 게 힘이라고 하는 말이 있는 것처럼 모르는 게 약이라는 말도 있는데, 도대체 얼마나 알고 살아야 하는 것일까? 너무도 빠르게 변하고 있는 세상이라 좀처럼 따라잡지 못한다는 좌절감이 들 때는 그만 모르고 살자 포기하는 마음이 크게 들기도 하는데. 그러다가 또 문득 이래서는 안 되지, 그래도 알아봐야지, 남들보다 더 많이 알지는 못하더라도 남들이 이야기하는 맥락에서 뒤처지는 일은 없도록 알아 두어야지, 그런 마음으로 신청해서 얻은 이 책이다. 읽고 나면 더없이 잘 읽었다는 만족감을 주는 책. 

전반적으로 내용이 아주 새롭지는 않다. 작가의 관점 혹은 당부하는 내용도 완전 새롭다는 그런 느낌은 아니다. 어렴풋하나마 들어본 기억이 있는 염려, 걱정, 조바심 따위들이 작가의 글 사이사이로 떠올랐다. AI가 그래, 그런 거였지? 아무리 뛰어난 기술이라고 해도 마냥 좋은 것만도 마냥 위험한 것만도 아닌, 그야말로 기술 그 자체였지. 문제는 항상 이 기술을 개발하고 운용하는 인간에게 있더란 말이지. 미래공상과학영화에서 뛰어난 기술을 가진 나쁜 악당이 지구 차원의 문제를 일으키는 예시처럼. 

그래, 그렇다는 건 알겠다. AI가 어떤 기술을 갖고 있고, AI로 어떤 사회를 맞게 된다는 건지 예측하고 있는 바도 알아듣겠다. 그렇다면 이 책을 누가 가장 힘내서 읽어야 하는 것일까? AI에 가장 큰 영향을 직접적으로 받는 이들은 누구일까? 나는, 나같은 처지에 있는 사람에게는, 나 아닌 어떤 이에게는 AI가 어떤 방식으로 다가갈 것이며 어떤 태도로 맞이해야 좋을 것인가. 결국 이 물음은 어떻게 살 것인가로 이어진다. 다른 대부분의 철학적인 상황과 마찬가지로.(치열한 경쟁 시장의 현장에서 떠나 있는 나에게는 AI의 영향이 덜 위협적이기는 하다. 상당히 강한 정도의 구경꾼으로서 보고 있는데, 이러다가 AI에게 혼날지도 모르겠다.)   

읽고 기억하며 새겼다가도 또 금세 잊고 마는 나로서는 이런 책을 종종 읽고 있어야만 한다. 내가 세상에 대한 관심을 놓지 않으려고 취하는 몇 안 되는 선택 사항이기도 하다. 내 마음에 드는 구절을 타이핑하는 동안에는 설레는 기분이 들기도 했다. 이런 좋은 말은 잊을 때 잊더라도 한번 되짚기는 해야지.  

책은 언뜻 보면 읽기 쉽게 쓰여 있는 것처럼 보인다. 그런데 나는 이런 형식을 갖고 있는 글들을 읽는 것에 서투르다. 외국 책에서 흔히 보기 쉬운데 작가가 자신의 주장을 위한 근거로 취재한 자료를 이용한 글들이, 무수히 등장하는 따옴표와 그 말을 했다는 사람들의 이름들이, 작가가 힘주어 말하고자 한 바와 이어지는 길 위에서 나를 헤매게 만드는 탓이다. 권위 있는 연구자들의 이론이나 실험 결과가 자신의 의견을 펼치는 데에 무엇보다 중요한 증거가 될 것이고, 또 그 증거를 얻기 위해 세계 곳곳을 찾아 다닌 작가의 수고가 대단해 보이는 것은 사실이지만, 나는 매번 이런 형식의 글들에서 한숨을 쉬곤 한다. 내 집중력의 문제일 것이다. 어쩔 수 없는.

YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다.

4차 산업의 시대, 우리는 어떤 생각과 마인드를 바탕으로 미래가치를 계획하거나 실행해야 하는지, 이 책을 통해 보다 명확한 명분과 확실한 방법론에 대해 요약할 수 있을 것이다. 이미 세계의 모든 국가와 기업들이 이 같은 변화상에 주목하고 있고 더 빠른 가치, 나은 결과물을 통해 다양한 분야에서의 독점적 지위확보나 부가가치 창출에 열을 올리고 있다. 미국의 실리콘밸리, 중국의 선전 등 우리가 이미 알만한 글로벌 기업들의 동향을 봐도 이 같은 현상은 뚜렷하며 미래에 대한 새로운 길을 제시하고 있다.

하지만 일반적인 관점에서 4차 산업혁명은 매우 멀게만 느껴지는 것도 사실이다. 국가적 단위에서 4차 산업혁명의 성공은 새로운 미래로의 도약, 경제적 성장과 부의 선점, 나아가 지역 패권경쟁에서 우위를 점하며 더 많은 것을 얻을 수 있을 것이다. 하지만 인공지능과 알고리즘 등 다양한 자동화 열풍이 과연 우리 인간에게 긍정적인 영향만 제공하는지, 이에 대한 냉정한 판단 또한 우선되어야 할 것이다. 부정적으로 평가할 수 있는 인간성 말살이나 새로운 형태의 자본주의와 결합, 이로 인한 양극화나 불평등 문제는 또 다른 사회갈등이나 문제로 확산될 수 있기 때문이다.

저자도 이런 위험성을 경고하며 수동적인 형태로 미래를 맞을 것인지, 아니면 인간 중심의 사회, 윤리나 도덕 등 인공지능이 침범할 수 없는 고유의 영역을 확고히 할 것인지, 결국 선택과 집중, 이로 인한 결과물에 대한 관점론, 해석의 차이가 존재한다. 중요한 것은 다양한 분야들의 결합이나 새로운 효과도 좋지만 인간학 자체에 대한 생각과 현실적인 대안책을 마련해야 4차 산업으로 인한 사회적 혼란이나 부정적 충격에도 견딜 수 있는 힘을 갖게 되는 것이다. 사회제도나 시스템의 구축도 중요하지만 결국 사람들이 공통적으로 느끼는 정서에 대한 관심과 이를 보호할 수 있는 새로운 정책적 판단이 수반되어야 한다.

새로운 형태의 변화, 이를 기회로 보며 전진하는 사람과 기업들, 하지만 미래에도 흔들리지 않는 사회의 유지나 개인의 행복과 삶의 만족도, 집단과 공동체 또는 기업들의 성장이나 혁신사례 등을 고려할 때 사회변화가 주는 다양한 충격은 어쩔 수 없어 보이는 것도 사실이다. 하지만 책을 통해 무엇에 집중하며 어떤 가치관으로 판단해야 하는지, 사회학적인 의미에서도 배울 수 있고 인간학이나 인간성 등 사람들이 간과하는 영역에 대해서도 생각하며 판단해 볼 수 있을 것이다. 동물과 기계에서 벗어나, 수동성과 능동성에 대한 가치판단으로 볼 수 있지만 사회변화와 미래예측을 바라보는 종합적인 가이드북이다. 읽으면서, 다양한 영역에 적용시켜 판단해 보자. 

결국 AI연구는 하면 할수록  인간을 탐구하는 일이 됩니다. 또 이 분야에는 아직 알 수 없는 것들이 부지기수입니다. 『동물과 기계에서 벗어나』, 33페이지

인간을 인간이게 하는 것, 그것을 찾아서!

책을 받고 나서 가장 눈에 띈 것은 제목이었다. 동물과 기계에서 벗어나... 인간은 원래가 동물인데 어떤 의미의 동물에서 벗어난 단 말인가. 책 뒤 표지에 힌트가 살짝 나와있다. 거기에 써 있는 문장 딱 3개면 이 책이 전달하는 바를 유추할 수 있다. 물론 책의 내용을 읽어야지 보이는 것들이지만, 읽기 전에 고민해보면 살짝  힌트를 얻을 수 있다.

뒤 표지에 써진 문장은 이렇다. 'AI알고리즘 추천에만 따르는 동물이 될 것이가, 인공지능의 연산에만 의지하는 기계가 될 것인가, 아니면 오롯이 인간이 될 것 인것가.'저자는 AI 기술에 문제의식 없이 따라가는 의존적인 인간의 모습을 동물 혹은 기계에 비유했다.

그렇다면 인간의 본연의 모습을 날로 상실하게 만드는 인공지능 세상에서 인간다움을 유지하는 것은 어떻게 가능할까. 저자 마사노부는 이를 위해서 '저항'을 찾아 떠나는 여행을 시작했다. 그에게 저항은 다른 말로 하면 AI에 반대편에 선 인간의 자유의지다.

나는 무모하게도 그 어느 쪽과도 거리를 두는 자유의지를 믿어보려 한다. 자유의지야말로 '인간이 인간으로 존재하기 위한 저항''이기 때문이다...이 책은 급격히 발전하는 AI가 바꿀 미래상과 이에 따라 변할 것이 분명한 인간 자유의지의 행방을 찾는여행 기록이다. 『동물과 기계에서 벗어나』, 들어가는 말

낯설지만 가장 그리웠던 여행

본인의 입으로 프로그램의 '프'자도 모른다고 한 저자가 여행의 동반자로 삼은 사람들은 세계 각지의 AI 관련 종사자들이었다. 그는 그들의 이야기를 통해 현재 AI가 어디까지 와있는지, 우리는 어떤 영향을 받고 있는지, 남겨진 과제는 무엇인지 생각하고 고민하는 시간을 가졌다.

나는 마치 생생한 여행 후기를 보는 느낌으로 책에 빠져들었다. 사실 저자가 떠난 여행은 나에게는 좀 낯선 여행지였다. 하지만 또 다시 생각해보니 어쩌면 늘 꿈꿔왔던 여행이었는지도 모른다는 생각이 들었다. 가장 인간다움, 나에게 연결된 모든 것으로부터 벗어나 새의 지저귐이나 바람의 움직임을 느끼고픈, 온전한 자유를 누리고 싶은?

아이러니한 것은 저자가 나를 데리고 간 AI라는 새로운 여행지에서 가장 인간적것들의 소중함을 깨닫게 되었다는 것이다. 나를 둘러싼 모든 기술적 연결이 당연한 것처럼 느꼈던 일상이 나의 전부라 생각했는데, 그렇지 않은 세계, 그렇지 않은 상태가 나를 기다린다는 사실이 새삼스러웠다.

AI, 기술 그 양면의 얼굴

근대산업 시기 이후 기술의 발전은 우리 사회를 비약적으로 발전시켰다. 아마도 생산력에 있어서 가장 눈부신 성과를 이루었다고 말하는 편이 정확할 것이다. 기술의 발전으로 인한 경제적 풍요를 누리면서 우리는 기술이 발전할 수록 행복해질 것이라 착각했다. 하지만 지금 지난 시간들을 돌아보았을 때 꼭 그렇다고 말할 수는 없을 것이다.

고도로 발달한 기술 문명 속에서 인간다움 대신 효율과 성과를 중요시 여기게 되었고, 많은 사람들이 오히려 불행하다고 말하는 세상이 왔다. 인간은 원래 효율적인 존재가 아니다. 감정적이고 즉흥적이고 책에 나온것처럼 때로 칠칠맞은 존재이다. 그 불완점에서 아름다움을 발견하는 존재!

커뮤니케이션 기술이 아무리 진화해도 사람들은 과거와 마찬가지로 싸우고 사랑을 하고 얄팍한 전도사에게 열광하죠... 사회를 바꾸려면 새 기술에 대한 과잉 기대를 멈추는 게 좋을지 몰라요 『동물과 기계에서 벗어나』 239페이지

저자의 말처럼 기계와 인간이 일치된 세상에서 인간은 불행해질 수 밖에 없다. 하지만 분명 AI가 우리의 삶의 편리하게 만드는 부분에 대해서는 인정할 수 밖에 없다. 내가 하기 귀찮은 많은 선택들을 대신 해주지 않는가. 잘 모르거나 귀찮은 것이 있으면 빅스비에게 물어보면 되고, 패션 센스가 없는 나같은 사람은 쇼핑몰 추천 옷들을 셋트로 사서 입으면 된다.

외식, 여행, 독서, 운동... 수많은 질문의 카테고리의 정보가 인터넷 상에 존재하며, 추천이라는 명목하에 늘 선택을 강요받는 상태에 머물러 있다. 이런 상태에서 나의 결정권이나 자유의지를 빼앗긴다는 것은 어쩌면 귀여운 정도에 속하는 어두움이다.

이것보다 더 심각한 것은 AI기술이 거대 기업이나, 국가기관이나 사회기관에서 비윤리적으로 사용될 경우이다. 언론조작이나, 정치의 관여, 사회 통제를 위한 감시에 AI기술이 사용되었을 때, 개인의 자유는 무참히 짓밟힐 수 있다.

고도로 관리되고 통제된 AI 사회 속에서 자유보다 편익에 매진하는 그들의 모습을 보는 내낸, 내 머릿속에서 AI의 가능성과 문제점이 동시에 떠올랐다. 『동물과 기계에서 벗어나』 75페이지

AI가 아키텍처(사회 설계중에서 사람의 사고아 행동을 규정하고 촉구하는 시스템의 설계)나 하이퍼 파놉티콘(하이퍼 기술을 사용한 감시 개념)과 만나게 될 때 야기되는 비윤리적 문제들을 심각하게 경계해야 한다. 책에서 지금의 시대를 새로운 중세로 표현했는데, AI가 빅데이터로 분석한 개인의 정보가 새로운 계급을 만든다는 측면에서 그렇다.

기술의 발전이 오히려 사회의 퇴보를 가져올 수 있다는 의미심장한 대목이었다. 그렇기에 AI는 모든 개인의 자유를 침해하지 않는 차원에서 논의되어야 하며, AI와 연결되지 않을 자유를 보장해야 한다는 것이 의미있게 다가왔다.

저항은 곧 스스로 인간다워지는 것이다.

책을 읽으면 읽을 수록 인간다움이라는 것에 점점 실마리를 찾아가는 느낌이었다. 물론 단번에 해답을 얻지는 못하겠지만, 저자가 만난 사람들 그들의 입을 통해 몇 가지 힌트를 얻을 수 있었다. 인터뷰이들이 중요하게 생각하는 인간다움은 무엇인가.

1. 우리은 알고 있다는 착각 속에 살아간다.

인간은 착각의 동물이다. 쉽게 안다고 말하지만 집요하게 물고 늘어지면, 혹은 몇 가지 질문만으로도 안다는 것이 상당히 주관적인 판단임을 알 수 있다. 하지만 반대적으로 완벽하게 알지는 못해도 알고 있는 부분의 정보들을 이용해 맥락을 이해할 수 있는 능력을 가지고 있다.

알파고가  아무리 이세돌을 이겼다 한들, AI 스스로가 바둑 자체를 알고 있다고 표현할 수는 없다. 그리고 입력한 내용들을 조합해 하나의 프레임으로 사고 할 수도 없다. 안다는 개념에서 AI를 바라보면  인간은 아직도 모르는 투성이이듯, AI도 아직 아는 것 근처에도 다다르지 못했다.
 

마쓰바라는 "AI로 하여금 '알게 만드는 것'은 실로 어려워요. 인간 또한 '안다'라고 해놓고는 대개 잘 모르기 대문이죠"라고 말했다. 『동물과 기계에서 벗어나』 26페이지

2. 인간의 선택은 감정적인 경우가 많다.

AI가 도저히 인간을 따라갈 수 없는 부분, 아니 인간이 가장 인간다움을 논할 때 가장 공감되는 부분이 감정이었다. 감정적이라는 것은 사실 그렇게 부정적인 단어는 아니다. 행복과 평안함, 수치와 분노, 욕망이라는 다양한 감정들이 이 사회를 여기까지 끌고 왔다. 그리고 우리가 내리는 대부분은 감정에서 기인한다.

AI가 인간과 서로 무리 없이 대화할 수 있게 되면, 착오가 생기지 않는 한 인간은 'AI도 의미를 안다'고 말하게 될지도 모르죠. 『동물과 기계에서 벗어나』 82페이지

AI는 과연 감정을 가질 수 있을까? 책에서는 인공지능 챗봇과 사랑에 빠지는 남자의 이야기를 그린 영화 ＜her＞를 소개한다. 나도 예전에 얼핏 광고로 본 적이 있다. 그때는 그냥 지나쳤는데 여기에는 아주 중요한 통찰이 숨어있다. AI에게서 사랑을 느낀 남자의 이야기를 통해 우리가 느끼는 것은 그가 사랑에 빠진 이유이다.

그가 사랑에 빠진 이유는 모르면서도 아는 척 반응(음성값에 따른 반응일 뿐)하는AI에 몰입한 나머지, 자신을 상대하는 AI가 마치 자신을 이해하며, 사랑하고 있다는 착각에 빠졌기 때문이다. 하지만 중요한 것은 이런 착각, 감정 이런 실수들이 인간이기에 가능한 것이다. 감정적인 인간이 실수하며 착각하고 엉뚱한 결론에 이르는 것, 이것은 현재의 AI가 도저히 흉내낼 수 없는 부분이다.

3. 인간은 오감가진 신체가 있다.

마지막으로 가장 명확한 인간다움은 인간의 신체에 있다는 것이다. 우리의 유연하고 신비한 신체, 그곳에서 오감으로 얻어지는 감각 이것이야 말로 AI와 구분되는 확연한 특징일 것이다.

AI가 사람처럼 지성을 가지려면 유연한 신체가 필요하다는 마쓰바라의 생각은, 슈퍼컴퓨터에서 이루어지는 대규모 접속이 인간의 지성을 넘어설 것이라는 싱귤래리티들의 가정에 대한 명쾌한 반박이다. 『동물과 기계에서 벗어나』 33페이지

내가 떠나고 싶은 여행은

AI에 대한 호기심으로 만난 이 책은 나에게 인간다움에 대한 여행을 선물했다. 비록 저자의 여행담을 들은 것이었지만, 그것만으로도 충분한 생각의 거리들을 많이 건져올렸다. 마치 내 생각 창고에 양식이 꽉 들어찬 느낌이다. 아직도 꺼내 먹을 것이 넉넉하다.

끝으로 나다움, 나의 정체성을 찾는 일!  초연결 시대를 살아가면서도 외로움과 고독을 느끼는 시대, 진짜 나아게 필요한 것은 어떤 것일까 생각해본다.

저자의 말처럼 모든 디지털 기기로부터 연결됨을 거부하고 오롯이 나의 내면과 자연에 귀길우리는 사색의 시간, 혹은 그런 공간을 나에게 선물하는 것!  이것이 저자를 통해 얻은 귀한 통찰이었다.

전혀 아무것도 하지 않는 공백의 시간, 즉 사색의 시간은 우리가 평소 제어되고 있다는 사실을 상기시켜주는 귀중한 시간입니다. 『동물과 기계에서 벗어나』 226페이지

이 책은 YES24 리뷰어 클럽 서평단 자격으로 작성된 리뷰입니다.

구글은 매년 개발자 행사인 I/O 를 개최하면서 내부에서 개발하고 있는 신기술들을 소개하고 있습니다. 가끔씩 챙겨보고 있는데 그중 한 세션이 강하게 기억에 남네요. 레스토랑에 전화를 걸어 예약하는 평범한 내용이지만 전화를 건 주체는 다름 아닌 구글 어시스턴트라는 앱이었습니다. 레스토랑에서 전화를 받은 사람과 대화를 주고받으며 날짜와 인원 등 무사히 예약을 마쳤는데 정말 모르고 들었다면 사람이 전화를 건 것으로 오해할만큼 자연스러웠네요. 그동안 SF 영화나 소설에서 등장하는 장면들이 이제는 현실로 성큼 다가온 느낌입니다.

AI 기술이 발전하면서 해외 여행에서도 자동 번역기만 있어도 기본적인 대화는 통하고, 스트리밍 플랫폼에서 추천해주는 영화나 음악을 별로 고민하지 않고 재생하네요. 하지만 이에 따른 윤리적인 문제들도 제기되고 있습니다. '동물과 기계에서 벗어나' 는 이러한 측면에 초점을 맞춰 AI 를 설명합니다.

미국과 러시아, 중국 등은 AI 분야에서 각축을 벌이고 있습니다. 미국의 실리콘밸리는 세계적으로 유명한데 러시아의 스콜코보, 중국의 심천에서도 많은 젊은이들이 스타트업을 창업해 기술을 개발하고 있네요. 전형적인 회사와는 다른 분위기에서 자유롭게 일하면서 영감을 얻기도 하고, 다른 기업과 경쟁하거나 협력해 새로운 서비스를 출시합니다. 반면 다른 민주주의 국가들과는 달리 국가가 미치는 영향력이 큰데 개인정보 보호에 대한 인식이 낮고, 개인을 통제하는 데에도 AI 가 사용되면서 우려를 자아내고 있네요.

AI 가 실생활에 미치는 영향은 점점 커질 것입니다. 이 책에서는 AI 의 추천에 의지하는 것을 동물에, AI 의 연산에 따르는 것을 기계에 비유하고 있네요. 쇼핑을 할때 적극적으로 상품을 찾기 보다는 추천 상품 중에서 결정하는 경우가 많고, 이미 주식 시장에서는 사람에 의한 매매보다 프로그램에 의한 매매의 비중이 크다고 합니다. 인간이 AI 보다 우위에 서는 이유는 스스로 생각하면서 자율적으로 행동할 수 있기 때문인데 AI 에 의존하게 될수록 점점 차이는 없어질 것입니다.

사람들은 AI 를 통해 정확한 결과를 얻을 것으로 기대합니다. 그렇기 때문에 기술 개발도 어떻게 하면 10%, 1%, 0.1% 의 정확도를 올릴 것인지 초첨이 맞춰지네요. 하지만 책에서는 Artificial Intelligence 과는 방향이 다른 Artificial Stupidity 라는 개념도 나옵니다. 인간이 이룬 성과 중에서는 우연과 실수에 의한 것도 많은데 기계에도 이를 적용해 기대하지 않았던 결과를 내도록 하는 것입니다. 결과 중에는 쓸모없는 것도 있겠지만 페니실린처럼 인류에게 큰 도움을 준 결과도 일어날 수 있지 않을까요.

아이작 아시모프는 대표적인 SF 작가인데 로봇이 결정을 내릴때 반드시 따라야하는 로봇공학 3원칙을 제시했습니다. 처음에는 무슨 의미가 있는지 잘 와닿지 않았지만 점점 AI 가 생활 속으로 들어오고 있는 지금, 책을 읽으면서 생각해보니 이와 같은 논의도 필요할 것 같아요. AI 에 의한 사회에 대해 다른 시각으로 볼 수 있어서 도움이 되었습니다.

모든 것에는 양면이 있다. AI에게도 예외는 아니다. 대규모 살상 무기인 원자폭탄은 현재 엄청난 인류에게 커다란 혜택을 주고 있는 발전소로 활용되기도 하고 연쇄살인범의 허리춤에 차여 있는 식칼은 본래 사람을 살리는 요리사의 손에 들려 있기도 하다. 인간을 대규모로 공포로 몰아 넣는 '균'이 있는가 하면 인간의 몸속에서 소화를 돕는 유산균의 존재도 있고 남을 죽이기 위해 만들어진 총은 경찰의 허리춤에서 시민의 안전을 보호하는 용도로 사용되기도 한다. 최초 자동차가 발명 되었을 때, 사람들은 자동차는 인간의 안녕을 위협할 존재의 탄생이라고 여겼다. 산업혁명 이 후 노동자들의 입지를 설명할 때 항상 따라다니는 '러다이트 운동'은 4차 산업혁명 이 후의 우리를 이야기 할 때, 가장 많이 사용되는 역사 중 하나다.

기계들이 노동자의 일을 대신해버린다. 이는 인간 노동자의 생존을 위협하는 존재이고 사회의 악이 될 것이다. 그래야만 노동자들이 기본권을 보장받을 수 있는 사회가 된다. 기계를 부숴버리던 노동자들의 불안감은 오래 전 이야기 같지만 불과 19세기에 일어났던 일이다. 하지만 우리 사회는 기계로부터 일자리를 빼앗기지도 않았고 노동자의 기본권은 시간이 지날 수록 더 보장되었다. 우리는 가끔 기계를 때려 부수던 러다이트 운동의 노동자들처럼 혹은 처음 자동으로 움직이는 '수레'(자동차)를 만났을 때처럼, 새로운 문명에 불안감을 느끼고 있다. 그런 불안감은 또 다시 '인간의 안녕과 존엄'을 위협할 존재들로 규정되어진다. 이런 불안감은 그저 그런 노동자들뿐만 아니라 세계 제일의 부자라고 일컬어지는 '일론 머스크'와 '스티브 호킹'를 포함해 다수의 지식인과 자본가들에게도 느껴진다. 하지만 인간은 새로운 문명의 과도기에 했던 불안감을 항상 극복하고 이를 현명하게 다스릴 수 있는 '법적 제도'를 이용하여 그것들을 사회의 제도권 안에서 현명하게 다스리기 시작했다.

AI에 대한 불안감은 그간 다른 위협들과는 차원이 다른 불안일지도 모른다. 지금 것 인간의 '물리적 노동력'과 에너지 정도를 대체하던 것들을 넘어서 '지적 능력'까지 대체 했을 때 벌어지는 상황에 대한 불안감은 역시나 인간이 단 한 번도 가보지 못한 세상에 대한 두려움이다. 이 책은 '인간'이라는 포유류에서의 사람속인 '호모사피엔스'가 맞이하게 된 다음 문명의 세계를 이야기 한다. 책에서는 여러가지 배경지식과 상식을 소개하며 독자가 AI의 현재와 미래를 이해하고 과거를 돌아 볼 수 있도록 해준다. 책의 어느 부분에서는 중국의 '선전'에 대해 이야기 하기도 하는데, 나는 이 부분에서 굉장히 공감하며 읽을 수 있었다. 우리가 맞이하는 대중 매체는 대부분 미국과 같은 시각으로 맞이 하는 편이지만, 실제 4차 산업에서 미국을 위협하고도 남을 정도의 국가는 '중국'이다. 많은 사람들이 중국의 부정적인 내용을 많이 접하기 때문에 이에 반감을 가질 수도 있다. 가령 포화상태에 이른 중국지방정부의 부채나 기업부채를 이야기하며 중국의 미래가 암담하다고 말한다.

하지만 실제로 중국의 저력을 과소평가 할 수 만은 없다. 빅데이터란 PC와 인터넷, 모바일 기기 이용 중 사람들이 남긴 발자국인 데이터를 이용하는 일이다. 중국의 인터넷 사용자는 2020년 12월 기준 9억 8천 만 명이다. 또한 인터넷 보급률은 70.4%에 이르고 이 중 대다수는 모바일을 이용한다. 중국은 길에서 노점을 운영하는 상인들도 QR코드를 사용하여 결제를 할 만큼 모바일의 일반화가 이루어졌다. '통제'를 명분으로 이루어진 '얼굴인식'과 '데이터 분석' 능력은 이미 세계 최고 수준에 이른다. 중국 내륙에서의 기준 뿐만 아니라 세계를 움직이는 또다른 힘은 '화교'와 중국외 중국인들에게서도 볼 수 있다. 세계 어느 곳을 가더라도 중국인이 없는 곳을 찾는 것은 쉽지 않다. 미국의 인구는 3억 2천만, 유럽의 인구가 7억 4천만, 일본과 한국의 인구가 1억 8천만 정도가 되니, 이를 합치면 중국 단일 국가에서의 인터넷 이용자수 9억 8천만은 실로 엄청나다. 미국, 유럽, 한국, 일본의 모든 인구가 12억 4천이 고작이니, 그들 모두가 인터넷 이용자라고 하더라도 중국과 비교하기 힘들다.

물론 구매력이 다른 인구라고 할 수도 있겠지만 그렇지 않다. 빅데이터의 효용은 단순하게 즉각적인 '실용성'보다는 '인간 내부에 대한 탐구'가 우선이어야 한다는 점에서 중국의 앞으로의 잠재력은 무시 할 수가 없다. 그도 그럴 것이 '미국과 중국의 패권 전쟁'이라는 강대강 국력 기싸움이 4차 산업혁명을 앞두고 미국에서 일방적으로 일어난 것에 기인할 수 있다. AI가 인간을 닮기 위해 가장 중요한 것은 빅데이터이다. AI의 발전의 가장 중요한 요소 중 하나는 결국 '인간'을 알아야 한다. 우리가 '물리적 노동력'의 잠재력으로만 봤던 무자비한 인구수가 결국 '현대의 원유'라고 부르는 빅데이터의 기반이 된 샘이다. 사실상 '빅데이터'는 정보의 수집이다. 이에는 '규제'와 '인권' 문제가 복잡하게 얽혀있는 민주주의 보다는 중국과 같은 사회주의 국가에서 더 빠르게 성장할 가능성이 높다. 얼핏 기본소득에 관해 유럽을 비롯해 여러 국가에서 거론되고 있다. 이는 보수적인 대한민국에서도 이슈가 될 만큼의 이슈이다. AI와 기계에 의해 생산성을 잃게 된 인류를 위한 사회는 어떻게 유지해야할까? 지금껏 그에 대한 대응으로 '기본소득제'의 대안이 될 만한 아이디어가 없다.

생산력을 잃은 인간이 구매력까지 잃지 않기 위해 국가에서 일정 소득을 채워 넣는다는 개념은 아무리 좋게 보려고 해도 사회주의적이라는 비판을 피해가기 어렵다. 책은 '중국과 인공지능'에 대해 그 '주'는 아니지만, 내가 읽어 본 바에 의하여 이 책이 제시하는 여러 근거 중 몇 가지가 다른 책들과 적절하게 융합하여 앞으로 중국과 AI의 미래에 대해 생각해 볼 수 있었다. 이 책은 앞으로 우리가 살아가야 할 시대와 AI 그리고 인간다움에 대해 이야기 하고 있다. 특이한 점으로는 저자의 소개가 뒷 편에 있다는 것이다. 책을 처음 집었을 때 당연히 저자 소개가 책의 앞 쪽에 있을 것이라고 생각했지만 앞 쪽에는 들어가는 말이 있었을 뿐이라 저자의 소개를 한참이나 뒤적겨렸다. 책은 자신이 인터뷰한 내용들을 근본으로 여러가지 앞으로의 미래 인간과 AI에 대해 소개하고 있다.

저자는 일본인이다. 일본 최고 부자인 손정의 회장은 최근 비전펀드를 통해 240조 원에 가까운 투자를 진행하고 있다. 이는 모두 AI와 같은 미래 4차 산업혁명에 대한 투자이다. 이처럼 인류역사상 유래없는 규모의 투자를 진행함에 있어 무모하다고 생각하는 사람도 있지만 손정의는 일론 머스크와 더불어 괴짜 자산가로 유명하다. 그들의 횡보는 자칫 많은 사람들에게 비난을 받고 욕을 먹었지만 보기 좋게 성공해 내기도 했다. 일본은 최근 4차 산업혁명 중 가장 도태되고 있는 주요국 중 하나라는 평을 받고 있지만 이처럼 제3의 눈에서 미래에 대한 관심을 꾸준하게 갖고 있는 국가라 생각이 들기도 했다. 별 연관은 없지만 불현듯 비전펀드와 일본인 작가가 어딘가 공통사가 있어 떠오른 대목이기도 했다.

얼마전 '이지성 작가'의 '에이트'라는 책을 읽었던 적이 있다. 개인적으로 '에이트'는 흥미를 위한 가볍고 재밌는 인공지능의 미래를 이야기 했다면, 이 책은 그 이야기에 이어 여러가지 근거와 논리를 시각을 다양하게 해 줄 좋은 책이라고 생각이 든다.

출판사로부터 도서를 제공받아 작성한 리뷰입니다

 

동물과 기계에서 벗어나 : lalilu

책의 표지는 제목 아래 주황색의 동물(ANIMAL) 연보라색의 기계(MACHINE) 그리고 초록색의 인간(HUMAN)이 비교적 단순하게 디자인 되어 있다. 표지 왼쪽에는 ‘AI가 바꾸는 세상과 인간의 미래’라는 내용이 세로로 약 90도 글자가 왼쪽으로 회전되어 제공 된다. 책의 띠지는 “AI시대가 우리를 행복하게 할까?”라는 물음과 함께 이 책은 인공지능과 인간의 행복의 관계에 집중하여 설명하고 있는 책이란 것을 알게 된다. 

저자는 앞으로 우리가 맞이할 AI 시대의 세상은 나보다 나를 더 잘 아는 기계의 시대라고 전망한다. 과연 그런 시대가 오면 우리는 행복할 수 있게 될 것인지 과연 우리는 어떻게 살아가게 될 것인지 예측하고 전망하는 책이 바로 이 책이다. 

이 책은 저자가 앞으로 다가올 AI 시대를 전망하며 전 세계 수많은 AI 전문가들을 찾아가서 만나 그들과 이야기를 나누면서 만든 책이다. 즉, 책상에 앉아 전망을 예측한 이론서라기보다는 저자가 발로 뛰면서 현장에서 쓰여진 책이다. 저자는 앞으로 AI 시대를 통해 정보를 무비판적으로 수용할 동물과 같은 인간 유형이 만들어지게 될 것이고 AI를 무조건 신봉하고 거기에 의존하는 기계과 같은 인간 유형도 만들어지게 될 것이지만 우리는 언제나 독창적이고 창의적인 인간의 길을 찾아야 한다고 이 책을 통해 강하게 설명한다. 

이 책을 통해 우리는 아무리 AI 시대가 우리 삶을 획기적으로 바꾼다 하더라도 인간은 인간만의 고유한 삶의 길이 있다는 것을 깨닫게 된다. 왜냐하면 결코 AI가 인간의 삶을 모방할 수 없고 능가할 수 없기 때문이다. 그러므로 이 책은 어떤 면에서는 AI 시대에 대한 핑크빛 미래로 낙관하고 있다는 것을 깨닫게 된다. 물론 AI는 우리 삶에 큰 위기와 도전을 줄 것이다. 점점 그런 위기가 곳곳에서 일어나고 있다. 그러나 그럼에도 우리 인간은 AI를 능가할 것이고 인간 본연의 길을 가게 될 것이다. 

기계와 기술이 발전하게 되면서

올더스 헉슬리의 '멋진신세계'의 내용이

점점 현실화 되는것을 느꼈다

스마트폰이 없으면 생활이 안된다거나

불안감을 느낀다거나 그로인해 기억력도 떨어지는

현대의 모습을 보니 AI의 발전도 엄청 좋은면만

있는것이 아니라는걸 느꼈다

그래서 읽어보게 된 인문교양 서적 동물과 기계에서 벗어나 책!

예전에는 AI가 절대로 인간을 대체할수 없다고

느꼈는데 알파고와의 바둑대결에서 이것도

옛날 얘기라는걸 깨닫게 되었다

무서울 정도로 발전하는 AI때문에 물론

편리해진것도 사실인데 경계를 해야 할것 같아

이런 책을 읽는건 꼭 필요하다고 생각되었다

지금까지 나는 AI에 대해 막연하게만 생각했는데

첫장부터 AI에 대해 말해가며 결국에는 AI연구가

인간다움을 탐구한다는 내용을 보고

팔랑귀 처럼 다시 AI가 꼭 나쁜것은 아니다!라는

생각을 하게 되었다

책을 읽으면 읽을수록 AI 자체에 대해 생각을 해볼수

있어서 재미가 있었다. 인공지능은 대게 자율성이 없는데

이를 개발하는게 인공생명 연구 분야라고 하니

또다른 세계를 안것 같아서 흥미로웠다

그리고 인공지능이 얼마나 똑똑할지 몰라도

지성이나 윤리적인 부분으로 아직은 인간을

대체할수 없기에 아직은 갈 길이 먼다고 보는것도

아무런 지식이 없는 내게 흥미로운 내용이었다

책에서 말하는 것처럼 기계에는 감정이

없고 아직은 자율성이 없기에 정말 우리가 상상하는

인공지능이 실현되려면 오랜 시간이 걸릴거라 한다

하지만 또 이게 어떻게 변화할지 모르니

확신하기에는 어려울것 같다

인공지능이 점차 발전하는게 좋은면도 있지만

인간의 입장에서는 막연한 두려움도 주는게 사실이다

이미 인공지능의 개발로 없어지는 직업 순위가

나오는 때고 수많은 사람들이 일자리를 잃게 되면서

기본소득에 대해서도 생각하게 만드는 책이다

이렇게 어려운 관점들에 대해 생각해보고

토론해볼 기회를 주는 책이라 이 시대에 맞는

교양을 쌓는 시간이라 읽어보길 잘한 책 이다

결론적으로 동물과 기계에서 벗어나는

우리에게 던지는 질문이었고

알고리즘 추천에만 따르는 동물이 아닌,

그리고 인공지능에게만 의지를 하는게 아닌

인간 나 자체로서의 삶을 어떻게 할지

생각해보는 시각을 주는 책이다

이제까지 아무생각없이 살았는데

인공지능에 대해 몰랐던 정보들을 보고

이런 발전에 나는 어떻게 대처를 하면 좋을지

되짚어 보는 기회가 되었다

sns, 넷플릭스, 인스타그램 등등

정말 이런것에 중독되어서

오히려 더 외로움과 고독을 느꼈는데

이런 점에 대해서도 해결점을 주는 책이다

이제는 디지털 지하 생활자가 아닌

나만의 삶 그리고 인간다운 삶에 대해

고뇌하고 실천하는 내가 되어야겠다!

여러모로 다양한 관점과 느껴지는 점들이

많아서 현대사회에 아주 잘 맞는 책이라 느껴진다

코로나 때문에 sns 이용량이 더 늘어났는데 이처럼 방향성도 제시해주고

집에서 교양을 쌓기 너무나 좋은

동물과 기계에서 벗어나 후기다

AI(Artificial Intelligence) 인공지능

컴퓨터가 인간의 지능 활동을 모방할 수 있도록 하는 것을 인공지능이라 한다. 즉 인간의 지능이 할 수 있는 사고·학습·모방·자기 계발 등을 컴퓨터가 할 수 있도록 연구하는 컴퓨터공학 및 정보기술 분야를 말한다.

지난 월요일부터 오늘까지 5일을 오전 2시간씩 4차산업에 어떻게 대처할 것인가에 대한 강의를 들었다.

화두는 단연 AI였다.

머신 러닝(인간의 학습 능력과 같은 기능을 컴퓨터에서 실현하고자 하는 기술 및 기법)을 통해 AI가 진화해가는 간단한 실습도 해보았다. 신기했다. 잠깐의 학습(?)으로 똑똑해지는 AI기술을 직접 보며 '알파고'는 정말 많은 학습을 했겠구나 싶었고, 미래에 사라질 직업에 대한 이야기를 들으며, 우리 아이들은 어떻게 살아가야 하는지 걱정스런 마음이 들었다.

AI가 촉발할 인간의 동물화

이세돌을 이기는 알파고를 보면서 그저 인간에 비해 무한정으로 저장된 정보를 즉시 꺼내쓰는 컴퓨터를 이길 수 있겠냐고 생각했다. 그런데 알파고는 AI 기술로 정보 인출 뿐 아니라 정보를 기반으로 스스로 이세돌을 대항하고 있었다. 기계라고 무시할 수 없는 수준이 된 것이다.

데카르트가 '나는 생각한다, 고로 존재한다'라고 선언한이후, 인간은 자유의지를 가지고 나름의 사색을 전개하며 스스로 결단을 내릴 수 있다고 믿어왔다...

더 나아가 인터넷과 스마트폰을 전혀 쓰지 않고 한 의사결정은 얼마나 되었는지.

p.13

AI기술이 분명 많은 것을 편리하게 해준다.

쇼핑 앱에서도 검색어를 입력하면 관련된 상품을 보여주며 나의 고민을 덜어주고, 시간을 아껴주는 것은 분명하다.

하지만, 나는 더 이상 생각이란 것을 덜 하게 되었구나!

좋은 것인가 나쁜 것인가!

AI에 대해 많은 강의를 들었다고 생각했는데 이 책을 읽으며 조금 충격을 받았다.

내가 아는 건 아주 기본적인 것이였구나...

AI가 '해리포터' 신작을 썼다고 한다. 그것도 2018년에...

사람이 쓴 작품으로 여길 수 없는 낮은 완성도였지만, 벌써 2년전에 있었던 일이라니 그 동안 어마나 진화했을까?

일본에서도 소설가의 단편을 학습한 AI가 쓴 단편이 일차 심사를 통과했다고 한다. 소름..

학습한 AI가 이제 창작의 고통도 줄여줄 수 있다. 표절없는 작사, 작곡도 가능하겠구나..다시 또 소름이다.

그러나 학습한 것에만 강하고 학습하지 않은 전혀 다른 분야에선 전혀 힘을 쓰지 못한다고 한다.

윤리와 도덕성의 문제도 도사리고 있다.

최근 화제가 된 '이루다'라는 인공지능 챗봇의 젠더, 인종 차별 논란은 결국 인간이 차별을 하는 한, 인간의 데이터를 학습하고 인간에 의해 설계된 인공지능에게 해결되지 않을 문제라고 한다.

결국, 논란 일주일 만에 사실상 종료되었다고 한다.

무서운 속도로 인간의 모든 것을 학습해 인간처럼 말한 AI.

어떻게 대처해야할지에 대한 고민은 인공지능을 교육시킬(?) 우리 인간에게 던져진 숙제다.

저자는 세계가 인공지능 개발 경쟁에 매달리는 것은 강 인공지능을 가진 자가 세계를 지배할 수 있다고 믿기 때문이라 말한다. 또한, 이 지구상에서 가장 뛰어나다고 자부하는 인류가 그 자리에서 내려와야 할 것 같은 공포에 시달리고 있기 때문이라 말한다.

그러나 저자는 '기계학습과 심층학습의 패러다임으로 주어진 것 이상의 작업을 처리할 수 없고, 기계는 계산은 할 수 있지만, 이해는 할 수 없다'고 한다.

그래서 저자는 싱귤래리티(인공지능이 더 똑똑한 인공지능을 만들어내고 인간이 더 이상 인공지능을 통제할 수 없는 기술적 특이점)가 오지 않겠지만, AI가 인간의 직업을 대체하는 일은 급속히 진행될 것이라 예측한다.

AI의 학습력에 인간의 똑똑함은 설자리를 잃게 될 것이고, 100세 시대와 맞물려 어떻게 살 것인지에 대한 고민이 화두가 될것이라 한다.

저자는 똑똑해질 AI에 지배 당할지도 모를 상황은 오지 않을 것이지만 더 이상 생각하지 않는 동물로 살게 될지도 모른다는 경고를 한다.

책의 앞 부분에서 소설 쓰는 AI에 대한 내용을 읽으며, AI에 지배당할지도 모르겠다는 생각을 했다.

하지만, 책을 덮으며, 결국 똑똑해질 AI는 세상을 바꿀 것이고 그 변화로 인간이 살아갈 세상도 변화할 것이다.

그러므로 앞으로 AI를 대하는 우리에게 필요한 것은 AI를 인류를 위해 어떻게 활용할지에 고민들일 것이다.

그 동안 내가 접한 AI로 대표되는 4차 산업에 대한 많은 강의들이 그 기술에 대한 소개에 지나지 않았다는 걸 깨달았다.

책을 읽으며, AI에 대한 생각과 시야가 넓어졌다.

AI와 경쟁하고 공존하게 될 청년들과 우리 아이들이 준비해야할 미래에 대한 힌트를 얻고 싶은 학부모에게 추천한다.

#인문교양

#동물과기계에서벗어나

#스가쓰케마사노부

#항해

※출판사로부터 도서를 무상으로 제공받아 주관적으로 작성한 서평입니다.