오승현의 『나는 괜찮은 AI입니다』를 읽으면서 새로 구매한 자동차는 앞 차와의 거리에서 위험을 감지하면 자동으로 속도를 줄여서 깜짝 놀란다며 익숙해지기가 어렵다고 토로하는 친구가 생각났다. 자율주행에 대한 부분에서다. 아직 실생활에 적용되기까지는 시간이 필요하지만 자율주행을 꿈꾸는 이가 많을 것이다. 이동하면서 운전이 아닌 업무나 휴식을 취할 수 있는 시대가 곧 도래할 것이다. 자율주행차가 등장하면 교통 정체도 사라지고 교통사고도 줄어들 것이다. 교통 약자인 노인, 어린이, 장애인의 복지도 개선되고 운전을 하지 않아도 차량을 이용할 수 있다. 차를 소유하는 것보다 공유하는 쪽으로 기울 것이다. 자율주행을 떠올리면 이처럼 편리한 장점이 많다. 하지만 인공지능의 기본 설계를 어떻게 하느냐에 따라 위험한 순간에 대처하는 방법이 달라진다. 사고가 났을 경우 탑승자와 보행자 어느 쪽을 보호할 것인가. 탑승자가 될 수도 있고 보행자가 될 수도 있으니 고민이 필요한 부분이다.

『나는 괜찮은 AI입니다』는 이처럼 놀라운 인공지능의 기술로 편리한 생활이 가능해지면서 따라오는 문제에 대해 생각하고 어떻게 변화해야 하는지 질문을 던지고 해답을 찾아가는 책이다. 스마트폰 하나로 모든 게 가능해진 삶이라 해도 과언이 아닌 시대. 인공지능은 우리 일상에 깊숙이 스며들었다. 수많은 빅데이터와 알고리즘으로 삶을 예측한다. 단순한 쇼핑이나 여행 같은 분야에서 범죄 징후 예측 시스템을 활용해 재범 가능성을 분석한다. 직접 발로 뛰어서 수집해야 했던 정보들을 손쉽게 얻을 수 있다. 이로 인해 우리는 인공지능으로 많은 직업군이 사라질 거라 예상한다.

책에서 언급한 것처럼 편견과 고정 관념 없이 평가나 판단을 할 수 있는 판사, 경기 심판, 면접관 같은 직업이 대체될 가능성이 있다. 그런데 과연 그럴까. 객관성이 반드시 좋은 걸까. 시대가 변함에 따라 법률적 해석과 판단도 달라지는 걸 가만하면 데이터로 모집된 과거 판례들로 판단하게 둘 수 없다. 알고리즘의 편향성에 대해서도 주목해야 한다. 데이터가 객관적이지 않고 알고리즘이 중립적이지 않기 때문이다.

알고리즘에는 인간의 편견, 오해, 편형성 등이 코드화되어 있다. 코드화된 알고리즘은 점점 더 우리를 지배하는 시스템의 일부가 되어가고 있다. 미래에는 알고리즘의 통제권을 손에 쥔 사람이 세상을 지배할 것이다. 알고리즘이 권력이며 최종 결정권자가 되는 셈이다. 어쩌면 알고리즘이 모두의 인생 항로를 결정할지 모른다. 지금부터라도 알고리즘을 체계적으로 감시하고 다방면으로 견제해야 할 것이다. (87쪽)

인공지능을 생각하면 자동으로 떠오르는 게 로봇이다. 인간을 도와주는 로봇, 인간 대신 위험한 일을 할 수 있는 로봇 말이다. 그래서 SF 소설에는 인간과 교감하는 로봇이 등장한다. 과연 가능한 일일까. 마음을 지닌 인공지능, 도덕성을 갖춘 인공지능이 생긴다면 어떻게 될까. 상상 속 존재가 아니라 실제적 존재로 등장할지 모르니 토론이 필요한 주제다. 마음을 지닌 인공지능 이야기는 반대로 신체의 일부가 기계화된 인간인 사이보그로 이어진다. 가까운 미래에 기계와 결합한 신인류 ‘포스터 휴먼’이 등장에 관한 것이다. 그렇다면 뇌는 어떤가. 간질이나 파킨슨병 치료를 위한 뇌에 전극을 이식하는 방법뿐 아니라 뇌에 칩을 이식해 타인의 생각을 이해하며, 기억을 저장한다면 업그레이드 한 ‘초인류’가 된다. 기술의 발전이 중요한 만큼 그 기술을 모두가 사용하게 균등하게 적용되는 게 중요하다.

소수의 인간은 인간 향상 기술을 통해 우월한 존재가 될 수 있다. 그러면 태어난 그대로의 평범한 인간과 기술을 통해 육체와 정신은 향상시킨 인간이 양립하게 될 것이다. 이대 보통 사람과 포스터 휴먼 사이에 인간의 내적 가치나 권리에 대한 견해 차이가 발생하지 않을까? 초계급 사회가 도래할지 모른다. (194쪽)

초인류와 포스터 휴먼의 시대는 현재와는 확연하게 다를 것이다. 직업군의 변화는 당연한 일이다. 단순 반복의 일자리는 자동화되고 기계가 대처할 가능성이 크다. 하지만 인간을 돌보고 마음을 다루는 일은 인공지능이 하기 어렵다. 사람을 정성으로 돌보는 일, 심리 상담, 학생 상담 같은 분야다. 즉, 가장 어려운 일이라 할 수 있는 감정 노동, 돌봄 노동은 기계의 도움을 받을 수 없다. 그럼에도 미래에는 많은 이들이 실업의 위기에 처할 가능성이 크다. 이로 인해 기본소득 정책은 구체적인 논의가 필요하다.

인공지능과 살아가는 미래는 피할 수 없다. 공존하기 위해서는 오해와 편견이 아닌 이해가 필요하다. 어쩌면 그건 인공지능을 만들고 개발하는 인간에 대한 이해가 아닐까 싶다. 그런 면에서 이 책에 등장하는 영화나 SF 소설을 찾아보고 읽어도 좋겠다. 더 이상 소설이 아닌 현실로 받아들여야 할 미래를 적극적으로 준비해야 한다. 청소년을 위한 인문도서라 분류했지만 미래를 맞이할 모두를 위한 친절한 AI 안내서로 추천하다.

힘으로 상대를 제압하는 세계관은 더 이상 유효하지 않다. 그런 관점을 유지하는 한 인간보다 더 강력한 초지능에게 제압당할 뿐이다. 미래는 현재의 연장이다. 현재의 씨앗 속에 미래의 열매가 있다. 미래는 우리의 한계 안에 있다. 인류의 의식과 행동이 바뀌면 그만큼 미래도 달라질 수 있다. 우리가 달라져야 한다. (249쪽)

우리가 알아야 할 AI와의 공존법

자신이 평생 풀어야 할 질문과 문제를 스스로 찾아낸 사람들이 역사에서 위대한 발견을 했다. 아이작 뉴턴은 ‘사과는 왜 아래로 떨어질까’ 결국은 이 물음에 관한 답, 만류인력의 법칙을 알아냈다. 아인슈타인은 ‘빛의 속도로 달리면 빛은 어떻게 보일까’라는 물음을 한 끝에 상대성 이론을 발견하게 됐다. 

우리는 가끔씩 관성과 고정관념에 벗어나지 못할 때가 많다. 결국 문제를 달리보면 새로운 시각이, 그리고 또 답이 얻어진다. 이 책은 자음과 모음의 청소년인문시리즈25다. 

인공지능(AI; Artificial Intelligence)이란 게 뭔지, 이 책에서는 여섯 가지 질문형태로 책이 구성됐다. 질문은 탐구와 소통 그리고 미래의 시작이다. 1장 누구를 살릴 것인가? - 자율주행, 2장, 인공지능은 객관적이고 중립적일까? - 빅데이터와 알고리즘- , 3장 인공지능도 마음을 가질 수 있을까?- 관계-, 4장 업로드된 정신은 인간일까? - 신체-, 5장 일자리가 사라지면 어떻게 될까?- 일자리- , 6장 초인공지능과 어떻게 공존할까?-초인공지능-

이렇게 질문을 정리해보면, 인공지능에 관한 궁금증을 묻고 답하는 내용임을 알 수 있을 것이다. 

먼저 인간과 로봇이 생각하는 가치는 같을까? 그렇지 않다. 로봇은 인간을 보호하며, 인간의 명령에 복종해야 한다. 로봇은 스스로 보호해야 한다(영화,＜아이,로봇＞(2004)에 나오는 3원칙이다. 그런데 로봇은 인간을 보호해야하지만, 인간의 명령과 충돌되는 경우, 아울러 로봇은 스스로 보호해야 하는데, 상호모순관계에 있다. ‘가치’는 뭘로 결정되는가라는 물음이 생기지만... 또 영화＜터미네이터＞시리즈, 인공지능을 너머 스스로 생각하는 단계에 까지 이르러 인간을 멸종시키고 기계사회를... 이런 SF, 즉 미래공상과학 영화나 소설은 인공지능의 양면을 살펴보자는 의미이지 않을까, 물론 어느 한쪽에 초점을 맞춰지겠지만, 다음에서 몇 가지 문제를 생각해 보자. 

자, 첫 번째로 자율주행은 어디까지..., 미래의 자동차가 로봇이라면 로봇 3원칙과 어떤 관계에 놓이는가, SF영화에 자주 등장하는 자율자동차는 인공지능에 의해 통제되는 운송기계다. 운전자가 필요가 없을뿐더러 때로는 공유할 수도 있다. 가장 핵심적인 사항은 자율주행차의 목표를 어디에 두고, 우선 가치를 어떻게 설정하는가이다. 꽤 가치관에 관한 문제다. 자율주행차는 보행자, 탑승자 어느쪽을 우선하는가, 탑승자 우선이라면 보행자 보호는... 이런 논쟁은 어찌 보면 실제로는 탁상공론으로 끝날 수도 있다. 자율운행의 목표와 가치는 보행자와 탑승자 이 모두의 생명을 보호해야 한다. 로봇 3원칙으로만 판단하면 보행자냐 탑승자냐는 논리에 빠지기 쉽지만, 답은 문제가 잘못됐다. 즉 자율주행차의 윤리적 딜레마의 문제는 애초 일어날 여지가 없을수도 있다. 왜냐하면, 자율주행차는 모든 생명을 보호하려는 목적이기에...

두 번째는 인공지능은 객관적, 중립적?, 인공지능 알고리즘은 빅데이터와 같은 방대한 데이터를 능률적으로 처리할 수 있게 됐다. 이에 따라 방대한 자료를 다루는 직업들이 인공지능에 의해 대체될 것이라는 전망이 나오고 있다. 그렇다. 인공지능을 바탕으로 빅데이터 분석이 가능하지만, 어떤 목적과 용도로 데이터를 쓸 것인가하는 문제가 생긴다. 오래전부터 교통사고재판에서는 통계 등을 사용하여 AI 도입이나 빅데이터 사용 초기단계쯤이라고 해야할까, 서울지방법원의 교통사고재판전담부는 여러 조건을 대입, 인사사고에 관한 배상 즉 손해배상청구에서 피해자의 과실 비율을 정하고 있다. 형사재판이라면 어떨까, 아직까지는 인공지능을 활용했다는 말은 듣지 못했지만...

자, 보자 이 책에서 예로 들고 있는 인공지능판사라면 어떨까, 모든 판례를 바탕으로 케이스 판단을 할 것이다. 객관성의 기준은, 판결까지의 과정을 보자. 판사는 법과 양심에 따라 재판을 하지만, 법관의 지식과 경험측, 가치에 관한 기준 등에 작용하게 마련이다. 따라서 객관적, 중립적이란 꽤 위험한 로직일 수 있다는 말이다. 데이터가 어떤 의도로 어떤 기준에 의해서 수집됐는지도 관계가 있다. 

세 번째 마음을 업로드할 수 있을까? 업로딩은 현재 기술로는 불가능하다. 뇌의 복제와 전송이라는 발상은 모라벡＜마음의 아이들＞(김영사,2011)에서 인간과 기계의 공통점에 주목, 미래에 이 둘이 하나로 합쳐진 미래를 예언한다. 인간의 실체는 본질적으로 신체화된 행동이 아니라 정보 패턴이며, 따라서 인간 의식을 컴퓨터에 업로드할 수 있다고... 그렇다면 뇌과학자들은 인간의 마음을 어떻게 이해할까? 라는 근원적인 질문, 아직까지 마음, 바꿔말하면 의식, 감정, 정서 등등을 어떻게... 아직은 미지의 세계다. 하지만, 이런 논의는 유의미하다. 인간 커넥톰 프로젝트- 커넥톰(연결성)과 게놈의 합성어- 한 개체의 신경계 안에 존재하는 모든 신경세포들의 연결망을 나타내는 연결성지도다. 

네 번째 로봇이 인간의 일자리를 빼앗을까? 뺏길 것이다. 스마트 팩토리 100% 자동화공정을 갖춘 독일의 아디다스 공장에 상주 인력은 고작 몇 명, 예전에 600명이 일했던 곳이다. 미국에서는 1990이후 20년 동안 섬유업 종사 노동자의 75%가량이 일자리를 잃었다. 브루킹스연구소는 인공지능의 보급으로 앞으로 20년 안에 일자리의 25%일자리가 줄어들 것이고, 세계경제포럼은 “직업의 미래 보고서 2018”에서 2025년까지 기계가 전체 일의 52%를 대체할 것으로... 그러면 남거나 늘어날 일자리는 여전히 인간의 마음과 감성과 연결된 직업들- 돌봄, 보육, 심리상담, 학생 상담 등- 일 것이다.

제 아무리 인공지능이라 할지라도 인간의 의식활동까지 대체하기에는 무리가 있다. 하지만, 대체 가능하면 어떨까 하는 상상과 희망이 없으면 기술발전의 미래는 없을 것이다. 

앞으로 인간에 요구되는 것은 포스트 휴먼이다. 인공지능이 일자리를 빼앗아 가는 것이 아니라 미래 사회는 인간의 모순된 영역, 제한된 윤리성으로 비윤리적 행동을 할 수 있다는 점에 착안, 이를 예방할 수 있는 방법 등은 빅데이터 등을 활용하여 좀더 치밀하게 분석이 가능하게 될지도 모르겠다. 바로 이 대목에서 AI와 인간의 상호이해와 공존이 필요할 것이다. 

사람은 편리한 삶을 위해 인공지능을 만들었지만, 인공지능은 사람을 어떻게 생각하고 있을까? 인간을 정복대상으로 본 영화＜터미네이터＞나 기계에 의해 통제되는 사회 영화＜매트릭스＞처럼, 서로 지배하려들지도 모른다. 인공지능에 대한 오해와 편견의 벽을 허물기 위한 노력이 바로 이 책의 내용이기도 하다. 

여전히 미지수인 인간의 미래, 인간의 창의성이 미래의 원동력인 것만은 사실이다. 이런 창의성이 어떻게 어떤 방향으로 향할지...묻고 또 물어야 할 것이다. 

＜출판사에서 보내준 책을 읽고 쓴 리뷰입니다＞ 

#나는괜찮은AI입니다#오승현#자음과모음#청소년인문25#우리가알아야할AI시대의공존법#탐구시작#소통시작#미래의시작#몽실북클럽#몽실서평단

"사람들은 과학이 가져다주는 걸 좋아하지만 과학이 던지는 질문은 싫어한다."

이 책의 서문에서 소개한 글이다. 이 문장처럼 이 책은 과학이 가져다준 과실에 대한 질문, 과학의 본질에 대한 질문, 과학의 가치에 대한 질문을 재미있게 던진다. 누구나 한 번쯤은 생각해 봤을 질문들을 찾아내 그 질문이 제기된 맥락과 의의를 함께 고민한다. 저자가 밝히고 있듯이 그 질문들은 우리에게도 널리 알려진 여섯 편의 영화에서 끌어온 여섯 개의 질문들이다. 그래서 친숙하고 흥미롭다. 저자는 말한다 그 질문들은 

"과학이 우리에게 던지는 질문이자 우리가 과학에게 보내는 물음"이라고, 

그리고 결국 그 질문들은 "우리는 어떤 미래를 원하는가"에 대한 질문들이라고.

이 책은 오승현 선생님이 쓴 청소년 교양도서다. 이 책은 이른바 인공지능이 모든 것을 바꾸는 시대라는 미래 사회를 살아갈 미래 세대가 생각해볼 질문거리를 던지고 있다. 인공지능 시대 우리에게 주어질 여러 문제 중에서 자율주행, 빅데이터와 알고리즘, 인공 신체, 일자리,  초인공지능 등과 관련한 주제를 다룬다. 한마디로 "인공지능 시대를 준비하는 여섯 가지 질문"이다. 청소년을 주요 독자로 선정해 쓰인 책이어서 쉽게 읽히지만 그 내용과 주제는 결코 가볍지 않다. 흥미로운 영화 속에서 저자가 찾아낸 질문거리를 깊게 파고들어 우리에게 제시한다. 자녀와 부모가 함께 읽고, 관련 영화도 같이 본 뒤에 이야기를 나눠보면 매우 좋을 것 같다.  

앞으로 사람이 자동차를 직접 운전하는 것은 불법일 될 것이다.
너무 위험하기 때문이다
-일론 머스크

6가지 주제를 다루는 만큼 책 구성도 6장으로 이루어져 있다.  1장은 자율주행의 시대가 제기할 주요 문제를 다루고 있다. 자율주행이 가져올 변화와 선택과 갈등 상황에서 과연 인공지능이 어떤 선택을 내릴 수 있는지, 또 그런 선택이 정당한지를 생각해본다.  두 번째 장에서는 빅데이터와 알고리즘으로 이루어진 인공지능이 과연 객관적이고 중립적인가 묻는다. 빅데이터의 편향성과 개인정보 침해의 문제 등을 제기한다. 

인공지능이나 로봇과 관련해 영화에서 아마 가장 많이 다룬 주제가 과연 로봇이 얼마나 인간다울 수 있는가, 혹은 로봇이 인간의 마음, 가정을 가질 수 있을까 하는 주제가 아닐까 싶다. 3장에서는 바로 인간과 로봇의 관계 설정의 문제를 다룬다. 로봇은 인간처럼 생각하고 느끼는 존재가 될 수 있을까의 문제이다. 

인간이 신을 발명할 때 역사는 시작되었고, 
인간이 신이 될 때 역사는 끝날 것이다 
-유발 하라리 ＜사피엔스＞ 중

이어지는 4장은 과학기술과 인공지능은 인간의 능력을 얼마나 확대할 수 있을까 하는 문제이다. 

이와 관련된 주제가 신체 강화, 신체 대체, 인간과 기계의 접속 혹은 동기화의 문제 등이다. 

5장의 주제는 어쩌면 인공지능이 아니어도 과학기술의 발달이 제기한 가장 고전적인 질문일 듯싶다. 

바로 기계나 과학기술이 인간을 대체할 것인가의 문제, 기계가 인간을 대체할지 모른다는 두려움을 다룬다.

인공지능이나 로봇이 과연 모든 노동을 대신하는 세상이 올 것인가의 문제이다. 

마지막 장에서 다루는 초인공지능의 문제는 인간과 인공지능의 공존이 가능할까라는 근본적인 질문이라고 할 수 있다. 인간보다 더 똑똑한 존재가 출현한다면 어떻게 될까? 인류와 인공지능이 경쟁을 벌인다면 어떻게 될까? 인류와 인공지능 사이의 전쟁은 벌어지지 않을까 하는 두려움은 이미 많은 영화와 소설 속에서 표출되었다.

이 책을 읽다 보면, 관련된 영화를 아이들과 같이 보며 이야기하고 싶은 생각이 든다.

비록 이 책에서 다룬 질문들에 대한 답을 바로 찾지는 못한다 해도 그 답을 찾기 위해

또 어떤 곳으로 가야 하며, 누굴 만나야 하며, 무엇을 해야 할지를 친절하게 알려준다는 점에서

이 책은 귀중하다. 

이 책을 읽는다는 것은 나와 우리 아이들이 함께 살아갈 미래에 대해 생각하기를 시작하는 것이다.

*예스24 리뷰어 서평단 자격으로작성한 글입니다.

『나는 괜찮은 AI 입니다』

오승현 ㅣ 자음과모음

이 책은 도래할 인공지능 시대에 발생할 다양한 문제점 중 일부를 제시하며, 그 문제점에 대해 답하고 있다. 하지만 미래의 일이기에 '정답'이기 보다는 또다른 '질문'으로 답한다. 결국 우리에게 어떻게 준비해야 할지를 생각해 보라고 숙제를 내주는 것이다.

▣자율주행

인간에게 속도감과 공간 이동의 용이함을 선사한 '자동차'는 의외로 다양한 문제점도 가지고 있다. 자원을 많이 소비시키며, 환경을 오염시키는 것은 물론이며 차별의 상징이 되기도 한다. 사고도 비일비재하며 인간의 목숨을 앗아간다. 이런 다양한 문제점을 해결할 수 있는 방법이 우리에게 다가왔다.

자율주행차는 사람의 조작 없이 스스로 주행 환경을 인식하여 목표 지점까지 운행하는 자동차를 말한다. 시스템이 차량의 주체이며, 인간은 보조자 역할을 한다.

자율주행차가 도로를 차지하게 된다면 차량의 혁신이 이루어질 것이다. 운전면허의 개념은 더 이상 존재하지 않는다. 모두가 필요할 때 인공지능이 탑재된 자율주행차로 원하는 곳까지 수월하게 이동할 수 있다. 자동차는 순수한 이동의 수단으로만 이용될 수 있게 되며, 소유의 개념을 벗어나 공유경제가 되어 불필요한 소비를 줄일 수도 있을 것이다. 또한 차가 휴식의 공간으로 활용될 수도 있으며, 운전의 스트레스에서 인간을 해방시켜 줄 것이다. 차량 끼리 상호 네트워크를 교환하여 정체라는 단어가 사라질 수도 있다.

하지만 자율주행차도 프로그램이기에 외부 해킹에 의해 통제력을 상실하여 탑승자를 위험에 빠뜨릴 수도 있다. 또한 속도감과 통제감을 차를 통해 얻으려는 사람들에게는 즐길거리 하나가 사라지게 되는 것일 수도 있다. 사고에 관련된 다양한 딜레마를 과연 인공지능이 어떻게 해결할지도 문제이며, 어떻게 프로그래밍해야 옳을지도 모호하다.

▣빅데이터와 알고리즘

세계의 패권은 계속 이동했다. 식민지 시대에는 많은 대륙을 차지한 나라가, 냉전시대에는 미국과 소련 두 진영이, 자본주의 시대에는 자본을 보유한 다국적 기업이 패권의 주인이었다. 하지만 앞으로는 얼마나 많은 데이터의 양을 보유하느냐에 따라 달라진다.

1인 1 스마트 시대에 내손안의 스마트 폰으로 이곳 저곳에서 상품을 구매하고, 결제를 하고, 상품평을 남기고, 사람들과 소통을 하는 모든 것이 누군가에게 아주 중요하고 소중한 정보가 되는 세상이다. 이 소중하고 귀한 정보를 기업은 '플랫폼' 이라고 부르는 서버에 모아놓고 다양한 곳에 활용한다.

[탑건 매버릭]으로 돌아온 톰 아저씨 톰 크루즈가 나왔던 영화 [마이너리티 리포트]는 2054년 워싱턴이 배경이다. 이 작품은 예언자가 범죄를 예언하면 경찰이 범죄가 일어나기 전 범인을 체포하여 범죄를 막는다는 내용이다. 범죄가 일어나기 전 범죄자의 다양한 정보를 취합하여 어느 시점에서 범죄를 일으킬 것이라고 예언하는 것이다. 방대한 정보가 미래를 예측할 수 있다고 보는 것이다. 하지만 여기에는 헛점이 있다. 인간은 자기 의지가 있으며, 행동의 결정을 위한 선택은 의외성을 가지고 있다는 것이다. 그렇다면 아무리 많고 치밀한 정보로 예측하는 미래라도 완전하게 정확하게 예측한다는 것은 불가능한 것이다. 또한 알고리즘은 악의를 가진 누군가가 조작할 수도 있다.

.

.

인공지능은 인류에게 다양한 '딜레마'를 안겨준다. 하지만 우리의 미래 속에 인공지능의 존재감은 확실하다. 그렇다면 마냥 경계하며 겁먹기 보다는 인류에게 도움이 되는 방식으로 공존해야 할 것이다. 미래를 이끌 청소년들에게 이 책이 그 방법을 제시해 줄 것 같다.

▶출판사로부터 도서를 제공받았습니다.

처음 동물권이라는 말이 나왔는데, 많은 이들이 어리둥절해했고 어이없어했다.

전에 없던 개념이 새로 나타났을 때 보이는 당연한 반응들.

왜 그런 생각을 못했나...하는 반성부터,

동물한테 무슨 권리냐?...하는 반응과,

동물과 인간을 대등하게 보는 게 말이 되냐?...강한 거부반응까지.

지금 로봇권을 이야기하는 우리 사회의 반응도 별반 다르지 않을 것이다.

전에 생각해본 적 없던, 그래서 당황스럽고 어떻게 받아들여야 할지 전혀 알지 못할 때 느끼는 난감함.

SF소설가 아이작 아시모프가 만든 로봇 3원칙이 있다.

1.로봇은 인간을 보호해야 한다

2.로봇은 인간의 명령에 복종해야 한다.

3.로봇은 스스로를 보호해야 한다.

로봇의 지능이 아무리 발전하더라도 우리에게 이 3가지 원칙은 너무나 당연한 원칙일 것이다.

솔직히 말하면...그 이외의 다른 결론을 생각하고 싶지 않은 희망사항일지도 모르겠다.

앞으로 사람이 자동차를 직접 운전하는 것은 불법이 될 것이다. 너무 위험하기 때문이다.

-p14, 일론 머스크

하지만 인공지능이 우리보다 우월하다면?

훨씬 더 현명한 판단을 내리고 인류의 발전에 도움이 된다면?

인공지능이 발전하면서 문제는 훨씬 복잡해지는 듯하다.

이 책은 인공지능이 발전함에 따라 우리가 마주하게 될 문제를 여섯 편의 영화에서 끌어온 여섯 개의 질문을 통해 찾아본다.

누구를 살릴 것인가?

인공지능은 객관적이고 중립적일까?

인공지능도 마음을 가질 수 있을까?

업로드된 정신도 인간일까?

일자리가 사라지면 어떻게 될까?

초인공지능과 어떻게 공존할까?

로봇의 어원은 로보타.

인간을 위한 노예라는 뜻이다.

그런 로봇이 우리보다 똑똑해진다면? 누가 진짜 주인이고 노예일까?

인간은 강한 발톱도 날카로운 송곳니도 없지만 스스로를 만물의 영장이라 칭하며 지구를 지배했다. 그게 가능했던 것은 다른 동물들도다 똑똑했기 때문이다. 그런데 인간보다 더 똑똑한 존재가 출현한다면 어떻게 될까?

p218

아이들과 인공지능이 인간을 지배할 수 있는 상황에 대해 이야기해보았다.

처음 만난 이야기에 초등학생 아이들은 많이 블편해했지만, 이내 자신 나름의 논리를 펼쳤다.

엄마, 로봇이 꼭 인간처럼 생각하지 않을 수도 있어. 왜 로봇이 인간을 해칠 거라고 생각해?

로봇이 인간보다 뛰어난 건 지능이야. 감정은 로봇이 가질 수 있는 게 아니라고.

로봇이 인간을 지배하고 점령할 수도 있다고? 그래서 로봇한테 이익이 되는 게 뭔데?

아이들의 질문은 꽤나 날카로웠고, 놀랍게도 이 책에서 다루고 있는 인공지능을 보는 관점들과 닮아 있었다.

어쩌면 로봇이 우리보다 우월해지면, 반드시 우리를 지배하려 들 거라는 사고 자체가 지극히 인간중심적이라는 데 동의한다. 하지만 지금의 발전 속도로 볼 때 인공지능을 가진 로봇이 우리보다 인지 능력은 물론이고 감정까지 훨씬 섬세해지고 스스로 판단하는 날이 오는 건 멀지 않아보인다.

그렇자면 지금부터 우리는 로봇과 공존하는 방법에 대해 고민해야 하지 않을까?

인공지능의 위협으로부터 인간을 지킬 방법은 우리 안에 있다. 우리가 자연과 이웃, 약자를 어떻게 대하느냐에 따라서 인공지능이 우리를 어떻게 대할지도 달라질 것이다. 인간이 자연과 공생할 수 있다면 인공지능과도 공존할 수 있다.

p248

책의 결론까지 뜻밖이라...책을 다 읽고나서도 여전히 당혹스럽고 난감하다.

어찌보면 이미 답은 정해져 있었던 게 아닐까.

모든 문제는 공존보다 지배, 점령, 정복을 먼저 생각하는 우리만의 방식이 빚어낸 우려가 아닐까.

그 시작은 로봇이 노예로 부려먹기 위해 만들어진 '기계'였다면,

이제는 우리 생활 속에서 없어서는 안 될 '동반자'가 되어 버렸는데 여전히 노예의 지위를 부여하고 싶었던 이기심을 버리면 해결 될 간단한 문제였던 것이다.

아직은 로봇과 공존하는 법이 무엇인지 구체적으로 알지 못한다.

하지만 로봇이 머지않은 미래 우리보다 모든 면에서 우수한 능력을 지니게 될 그 전에,

우리에게 배우는 것이 정복과 점령이 아니라 공존과 공생하는 법이어야 한다는 글쓴이의 생각에 동의한다.

그렇기에 그 미래를 살아갈 아이들과 함께,

먼저 자연과 공존하고 약자와 공존하는 세상을 만드는 방법에 대해 고민해봐야겠다.

[자음과 모음에서 도서를 제공받아 꼼꼼하게 읽고 솔직하게 작성한 후기입니다.]

IT 업계에서 일했던 경험과 전공을 바탕으로

퇴사 후 종종 초,중학교 아이들에게 강의할 기회가 생깁니다.

몇년 전부터 AI에 대한 관심이 증가해서 

이와 관련된 강의자료를 공부하고 강의했던 경험이 있어

이 '나는 괜찮은 AI입니다.' 책을 보고 청소년을 위한 인문도서에서

우리가 알아야할 AI시대 공존법을 어떻게 이야기해주는지 

궁금해서 읽게 되었어요.

이 책에는 크게 6가지의 질문을 던지고,

이에 대한 생각을 풀어나갑니다.

1장. 누구를 살릴 것인가? - 자율주행

2장. 인공지능은 객관적이고 중립적일까? - 빅데이터와 알고리즘

3장. 인공지능도 마음을 가질 수 있을까? - 관계

4장. 업로드된 정신도 인간일까? - 신체

5장. 일자리가 사라지면 어떻게 될까? - 일자리

6장. 초인공지능과 어떻게 공존할까? - 초인공지능

AI에 조금이라도 관심을 갖고 있었던 사람이라면

친숙한 질문이나 주제부터,

조금은 더 깊숙한 내용까지 다루고 있었어요.

현장에서 아이들에게 자율주행 관련된 강의를 하면서

가장 많이 하는 질문이 바로 누구를 살려야 하는가? 입니다.

많은 아이들이 자율주행에 대한 내용은 들어봤지만,

이 질문을 처음 듣는 아이들이 많았고,

의외로 이 질문에 대한 답이 쉽지 않다는 것을

이야기를 나누며 알게됩니다.

저자가 들어가는 글에도 적었듯이, 

문제 해결 능력 못지않게 문제 발견 능력이 중요하다는 것에

동의합니다. 문제를 똑바로 알아야 확실한 해답을 얻을 수 있기 때문이죠.

그런 면에서 이 책에는 각 장의 주제별로 크고 작은 질문들을

독자에게 던지고 있습니다. 나는 이런 질문을 가져본 적이 있던가?

아이들이 이런 질문을 던질 수 있다면, 언젠간 스스로 해답도 찾게 될 거라 생각합니다.

226페이지에 나와있는 내용을 보면,

영국 옥스퍼드 대학의 연구에 따르면 인공지능이 인간을 추월하는 시기를 2060년도라고

예상한다고 합니다. 

우리 아이들이 살아갈 얼마남지 않은 미래입니다.

"앞으로 사람이 자동차를 직접 운전하는 것은 불법이 될 것이다. 너무 위험하기 때문이다." 라는 일론 머스크의 말처럼 앞으로 우리 아이들이 살아갈 미래에는 지금 현재와는 다른 기준이 적용될 지도 모르겠습니다.

저는 이 책을 읽고 제 두아이에게 읽어보라고 권해줬습니다.

그리고 책에 나와있는 영화들 중 일부를 아이들과 같이 보려고 합니다.

아이로봇＜2004＞, 월-E ＜2008＞ , 지구가 멈춘날 ＜2008＞,

매트릭스 ＜1999＞, 아바타 ＜2009＞, 로보캅 ＜ 1987＞,

블레이드 러너 ＜1982＞, 바이센테니얼맨＜1999＞,

마이너리티 리포트 ＜2002＞, 엘리시움 ＜2013＞

제가 안본 영화들도 꽤 있고, 너무 예전에 봐서 줄거리가 기억나지 않는 영화들도 있더라구요. 영화들을 같이 보고 짧게나마 아이들과 관련된 내용 이야기해보려고 합니다.

좋은 책 읽어볼 수 있는 기회를 주셔서 감사합니다.

덕분에 많은 도움 받았습니다.

리뷰어클럽 서평단 자격으로 작성한 리뷰입니다.

나는 괜찮은 AI입니다
 - 우리가 알아야 할 AI 시대의 공존법

책을 읽으면 읽을수록 확실하게 드는 생각은 딱 하나다. 

‘미래 기술은 아날로그보다 좋지 못하다’

내가 4차산업혁명, 인공지능과 같은 으리뻔쩍한 기술들을 좋아하지 않는 아주 편향된 시각의 사람이기 때문에 더욱 그러할 수도 있다. 아직 머신이 내려주는 커피맛보다 사람이 손으로 내려주는 커피맛이 더욱 좋고, 로봇청소기보단 내 손으로 구석구석 방을 닦는 것이 속편하며, 남들이 어떻게 사는지 궁금하지 않아 SNS도 하지 않는 구시대적 사람이다. 

하지만 그럼에도 불구하고 이 책을 읽고 더욱 공부하겠다고 다짐한 데에는 이유가 있다. 이러한 흐름은 내가 막을 수 없기 때문이다. 산업혁명의 물결은 내가 댐을 세우고 방파제를 설치하고 미리 예보를 듣는다고 해서 막아지는 것이 아니다. 이전에 존재한 적 없던 그 어떠한 쓰나미보다도 더 크고 거세게 그리고 아무도 모르게 나를 잠기게 할 것이다. 나는 이러한 재난을 막을 수 없는 개인 한 사람이다. 하지만 실체는 알아야 할 의무가 있다. 

이것은 환경오염과 같은 축이다. 사람의 손으로 해결할 수 없는, 되돌릴 수 없는, 이미 우리의 손을 떠난 흐름과 물결의 집합체이다. 저자는 이러한 흐름에 어떻게 대응해야 하는지, 앞으로 우리가 갈 갈에는 어떠한 옵션이 있는지 차근히 설명해준다.  

AI가 최대다수 최대행복을 선택하여 타인 여러명 대신 나를 죽이겠다고 선택하면 어떨까? 범죄자 10명보다 무고한 1명을 죽이겠다고 선택하면 어떨까? 알고리즘과 빅데이터를 통해 저 사람은 범죄를 저지를 가능성이 높으니 미리 체포하겠다고 한다면 어떨까?

책은 머지않아 닥칠 미래를 상상하게 하고 나는 어떤 선택을 응원하게 할 지 미리 경험하게 만든다. 때문에 나는 이전보다는 좀 더 매끄러운 대응을 할 수 있다. 아마존이 나 대신 내가 살 물건을 예언하고 있다는 사실을 알았을 때보단 덜 놀랄 수 있을 것이다. 우리는 곧 닥칠 미래를 대비해야 한다. 그리고 이 책은 그 예방서가 될 수 있다.

'YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다'