설탕은 몸에 해롭다. 어린이집에 다니는 아이도 이 사실을 안다. 인공지능이 설탕처럼 인류에게 해로울까. 제4차 산업혁명 시대의 인공지능기술이 마치 설탕처럼 인류에게 해로울 것이라고 생각하는 전문가들이 적지 않다. 굳이 '터미네이터' 같은 공상과학영화를 언급하지 않더라도 인간의 손길을 전혀 타지 않는 초자동화에 도달한 AI 로봇은 인류의 생존에 위협이 될 것으로 예측하는 이들이 적지 않다.

​

문제는 초자동화의 길은 여전히 먼 미래의 일이고, 현재 실생활에서 쓰이고 있는 인공지능기술은 아직은 기존의 세탁기나 식기세척기처럼 그저 번거로운 일손을 덜고 일감을 줄이는 반자동화의 유용한 수단에 불과할 뿐이다. 명실상부 AI 로봇과 더불어 살아가야 할 첫 세대인 지금의 아이들은 AI 로봇을 또래친구 같은 존재로 간주할 가능성이 크다.

​

과학 저널리스트 고바야시 마사카즈는 인공지능과 로봇, 자동화 기술의 현주소를 자율주행차, 의료 인공지능, 치명적 자율무기 시스템의 사례를 통해 설명하고 있다. 인공지능의 현주소는 패턴인식, 베이즈 정리, 기계학습, 심화신경망(딥러닝) 같은 메커니즘으로 요약된다. 또한 저자는 인공지능 위협론의 허와 실을 따지는데, 미국의 발명가 레일 커즈와일이 제기한 '기술적 특이점'이 '허'에 해당한다면, 고용시장에서의 일자리 파괴나 '인간을 배제한 제어시스템'은 현실적인 위협, 즉 '실'에 해당한다고 지적한다.

​

저자는 인공지능 위협론의 실질적인 문제점을 자율주행 자동차의 사각지대, 로봇 닥터의 오진, 자율적 무기의 조준, 초자동화의 함정에서 찾는다. 사실 초자동화에 도달한 경우, 인간의 범죄가 아닌 AI의 범죄가 발생할 우려도 적지 않다.

알파고의 등장 이후에 인공지능이나 딥러닝과 같이 로봇이 스스로 학습하여 인간의 능력을 넘어 서는 것에 대한 인식이 바뀌었다고 생각합니다. 그 이전까지는 영화속의 이야기이며, 로봇은 인간이 지시한 것에 대해서만 작동하는 하나의 기계라고 생각한 사람이 대부분이었기 때문입니다.

현재는 인공지능의 발전은 당연한 것처럼 받아들이고 있으며, 다양한 분야의 직종에서 개발되거나 이미 활용되고 있습니다. 세계 최고의 IT 기업들이 미래의 사활을 걸고 AI 개발에 투자하고 경쟁하고 있는 것도 익히 알고 있습니다. 지능형 비서나 무인 자동차 등이 이미 상용화 단계 직전까지 개발 되었으며, 인간의 도덕적인 문제와 결부되어 여러 가지 고민거리도 함께 만들고 있습니다.

이 책은 인공지능의 발달에 따라 미래에 대한 불안이나 걱정을 하는 사람들에게 유용한 정보를 제공하고 있습니다. 책에는 총5장에 걸쳐 인공지능의 위협에 대한 내용을 시작으로 자율주행 자동차, 로봇 닥터, 군사용 무기, 자동화의 문제에 대해서 설명하고 있습니다. 산업 혁명으로 탄생한 기계들은 단순 반복작업에서 인간보다 월등한 속도와 품질을 만들어냈습니다. 완벽한 인간의 통제 아래에서 삶의 질을 높여 주는 1등 공신이었습니다. 하지만, 미래의 기계는 인간의 필요에 의해서 만들었지만, 100% 인간의 통제 아래 있지 않고 인공지능이나 빅데이터에서 얻은 결과에 따라 통제가 될 것입니다. 미처 예상하기 못한 환경에서 인공지능이 내릴 판단에 대한 문제가 생길 수 있다는 것입니다. 또한, 사람이 아닌 인공지능을 가진 기계의 판단이기 때문에 결과에 대한 책임문제도 있습니다. 그리고, 각 나라의 법규나 다양한 센서나 장치들의 조화, 베이즈 정리과 같은 통계확률형 AI 이론의 정확성에 대해서도 알게 되었습니다.

이미 IBM이 개발한 왓슨이라는 의료용 인공지능을 보조로 의사의 판단에 활용하고 있습니다. 암 치료 방법의 99%가 암 전문의의 판단과 일치하였으며, 의사가 놓친 치료법도 왓슨이 발견한 경우가 30%에 달한다고 합니다. 개인적으로 이 정도의 단계에서 조금 발전만 하고 더 이상 인간의 최종 판단에 관여 하지 않았으면 하는 생각도 듭니다. 오히려, 치료의 목적보다는 건강검진과 같은 예방을 목적에 두고 더 많이 개발 되었으면 합니다.

책의 뒷 부분에 있는 군사 무기와 같은 분야는 각 국의 경제적 권력을 유지하기 위해서라도 비밀리에 더 많은 발전이 이미 이루어졌으리라 생각합니다. 무기에 대해서는 각 국이 협력하여 인간을 위협하는 것이 아닌, 인간의 안전이나 우주개발과 같은 방향으로 힘을 모았으면 좋겠다고 느꼈습니다. 물리학을 전공하였던 과학저널리스트인 저자가 일반인도 알기 쉽게 설명하고 있어서 큰 어려움 없이 읽을 수 있습니다. 많이 들어 보았지만 자세히 몰랐던 첨단 인공지능 관련 용어나 기술에 대해서 상식을 한 단계 업그레이드하는 좋은 시간을 이 책에서 얻었습니다.^^

인공지능이 인간을 죽이는 날

​4차산업혁명으로 들어서면서 장단점이 있는것같아요. 이 책을 통해서 인공지능에 대해서 깊이있게 배울 수 있었습니다.

빠르게 변화하는 시대, 그래서 편리하기도한 점도 있지만 인간대신 기계가 대신하는 시대가 찾아오는것같아서 다소 두렵더라구요.

이 책은 인강의 생사에 관련된 자동차, 의료, 무기의 세가지분야에 탑재되는 인공지능에 대해서 이야기하고있습니다.

어떻게 변화될지 궁금하네요. 인공지능에 대해서 잘 몰랐는데 이 책을 통해서 알게됩니다.

그리고 현실에 직면하며 실질적인 해결방법 방향을 제시해주네요.

4차산업혁명으로 빠르게 변화하는 현 시대에 우리는 과연 어떻게 대처하고 나아가야할지 생각해봅니다.

이 책은 무엇보다 인공지능의 핵심 원리에 대해 깊이있게 그리고 쉽게 설명해주고있습니다.

누구나 쉽게 인공지능이 무엇인지 알게해주죠. 의료, 자동차, 무기분야에서는 인공지능 제품들이 개발되고있다고하네요.

그런데 사고가 발생하고 사고에 어떻게 대응하는지 개발자조차 명확히 인지를 못한다고 하네요.

이 책을 통해서 우리가 어떻게 문제를 겪고 사고를 대응해야하는지 방향을 제시해줍니다.

편리한점도 있지만 단점도 무시못하는것같아요. 책을 읽으면서 인공지능에 대해서 배우기도하고 생각도 하게되네요.

나의 미래가 후손의 미래가 되기때문에 발전하는 가운데 어떻게 나아가야하는지는 제대로 알아야하는것같아요.

인공지능에 대해 깊이있게 알아야 현 시대를 살아갈 수 있을것같다는 생각이 듭니다. 책을 통해서 인공지능에 대한 지식도 얻네요.

​책 제목이 다소 무섭기도한데요. 이 책을 읽으면서 배워가고 또 깨닫게되는것같아요.

인공지능이 우리에게 주는 이익도 있고 피해도 있다는걸 알아야하는것같습니다.

조금씩 4차산업혁명에 대해서 이해하고 배워가고 있어서 좋네요. 책을 통해서 알아가는 것이 참 좋은것같아요.

​

이 책에는 인공지능의 주요기술과 최신 흐름은 물론 인공지능을 이용한 다양한 혁신들인 자율 주행차, 치명적 자율무기 시스템 그리고 로봇 닥터 등이 활약하는 미래 일상을 모습을 소개합니다. 그리고 이러한 현재 진행형인 변화와 동인을 아주 자세하게 알려주고 있습니다.

이러한 설명에서 인공지능이 어떻게 인간에게 위협이 될 수 있는지를 살펴보고 있는데, 결론적으로는 제목처럼 ‘인공지능이 인간을 죽이는 날’이 오지 않도록 경고하는 내용입니다. 과학저널리스트의 글이라서 그런지 녹녹하지 않은 내용을 쉽게 잘 풀어 놓아서 술술 잘 읽히는 책입니다. 그렇다고 기술의 트렌드와 현상을 피상적으로만 다루는 방식이 아니라 주요 인공 지능 기술에 대해서 상당히 심층적으로 그리고 친절하게 알려주고 있습니다.

이 책의 내용 중에서 예를 들어 로봇 닥터에 의한 진단이나 수술처럼 인간의 생명과 직결되는 분야의 경우 만약 인공지능이 오작동하거나 폭주하면 인간의 생명이 위협받는 등 그 피해는 헤아릴 수 없이 클 수 있습니다. 최악의 경우 인공지능 로봇에 의해 죽임을 당할 수도 있게 됩니다. 이와 관련해 저자는 인공지능 유저들이 반드시 알아야 할 인공지능의 메커니즘과 개발회사들의 소비자 대응 매뉴얼들을 소개해주고 있습니다.

한마디로 이 책에서 저자는 이러한 인공지능의 기술적인 측면에 대한 이해를 바탕으로 해서, 이러한 인공지능 기술 발달로 인해 생겨날 사회적 문제나 경제적 문제도 중요하게 기술되고 있습니다. 또 그러한 사회적 과제를 어떻게 해결할 것인가에 대해서도 고민하고 있습니다.

인공지능이 미래에 과연 어떠한 역할을 하게 될 것인가? 가 요즘 화두입니다. 인공지능에 의한 엄청난 기술적 진화가 이전보다 훨씬 효율적이면서 높은 성과를 줄 수 있는 것은 확실합니다. 그러나 과연 인간의 일자리를 빼앗아서 양극화를 심화시킬 것인가? 또는 이 책에서 말하는 인간에게 위협이 될 것인가? 등의 여러 가지 논의가 있었는데 이 책을 통해서 성찰을 해볼 수 있었습니다. 나아가 이 책을 통해서 미래에 대한 생각과 마음가짐을 가다듬고 대비를 할 수 있었습니다. 

[서평] 인공지능이 인간을 죽이는 날

  제목이 꽤나 무시무시하다. 과학의 발달의 장점만 늘어놓은 책보다 이런 득과 실을 꼼꼼히 따져주는 책이 좀 더 유익하고 흥미로운 것 같다. AI위협로보다 심각한 '2045년문제'라 불리는 '싱귤래리티'의 도래다. 이건 2045년 무렵에는 AI가 인간의 능력을 뛰어넘고 인류를 지배해 인류를 위협한다는 내용인데 커즈와일 뿐만 아니라 스티븐 호킹, 엘론 머스크 등 유명인들도 위험 경고를 날렸다. 하지만 지금 이걸 걱정하는 건 벌써부터 화성의 인구폭발 걱정하는 것과 같다. 하긴 이렇게 생각하니까 겨우 수십 년만에 이런 일은 일어나지 않고, 수백 년은 훨씬 뒤에 일어날 일 같아 다소 안심이 된다. 

  최근 자율주행자동차 뿐만 아니라 의료용 로봇에 대해서도 기대가 크다. 일본에서도 의료기기 왓슨이 병을 진단하고 해석하고 AI가 생명을 구한 첫 사례로 유명해졌다. 하지만 문제점도 있다. 자율주행차와 의료로봇이 사고를 내면 누구의 책임인가 하는 것이다. 아직 의료로봇 사고는 없지만, 자율주행차는 있다. 2016년 5월 미국 테슬라의 전기 자동차, AI의 잘못된 판단으로 사망자를 낸 것이다. 자율주행차는 엄청나게 많은 데이터, 딥러닝이 들어있다. 기계학습 능력이 단순한 통계확률형 AI보다 현저히 높아진다. 따라 팻테일에 해당하는 비정상적 상황도 사전에 학습해 대응할 수 있다면 더 할 나위없이 좋을 것이다. 하지만 언제든 변수가 있을 수 있으니 긴장의 끈을 놓을 수는 없다. 그리고 이런 사건사고에 대한 복잡한 문제와 법안이 새로 마련되야 할 것이다.

 또 최근 몇 년 간 '살인 로봇'이 연구되고 있다고 한다. 스스로 목표를 정해 돌진하는 미사일, 상공에서 자율적으로 지상의 테러리스트를 감시하는 드론, 적의 잠수함을 끝까지 추적하는 무인 군용함, 파일럿이 필요없는 무인 전투기 등등. 이런 살인로봇들이 늘어나면 나쁜 테러리스트 때문에 선량한 군인들이 다치거나 죽지 않아도 되서 참으로 좋다. 하지만 인간 지시 없이 로봇이 스스로 정한다는데, 나쁜 사람, 착한 사람을 구별할 수 있을까. 이러다 아군 적군 상관없이 '인간'자체를 공격하면 어쩌나 걱정이 되기도 한다. 이처럼 AI에 안정성을 확보해야 하는 큰 문제가 남았다. 

AI가 가져오는 진정한 위험은 AI가 인간을 죽이는 것이 아니라,오히려 인간성을 죽이는 것일지도 모른다.우리가 경계해야할 것은 바로 그 점일 것이다. -p.211

 이 책을 보면서 미래의 발달이 좋으면서도 걱정되는 부분들이 많다. 이런 문제를 해결할 수 있는 것은 과학자들이다. 미래에는 사라질 직업들이 많지만, 과학자와 프로그래머들은 더 많은 수요가 필요할 것이다. 자라나는 아이들이 짊어질 과학의 무게가 다소 무겁게 다가오는 시간이었다. 

 요새 기술이 발전하면서 AI부문이 크게 각광받고 있다. 현재도 휴대폰 속의 시리나 자율주행 자동차, AI스피커, 웬만한 가전제품 등 미래의 산물이라고만 여겨졌던 인공지능이 실생활에 이용되고 있다. 인공지능이 성장함에 따라 자연히 떠오르는 걱정거리가 있다. '인공지능이 자아를 가지게 되어 인간에게 반기를 들면 어쩌지?' 하는 생각. 이미 많은 영화 소재로도 이용되어 왔지만 사실 이것이 가능한 얘기인지는 미지수이다. 하지만 인공지능이 우리 곁에 성큼 온 이상, 아무리 어이없는 상상이더라도 위험을 예상해야 한다. 

 이 책은 옛부터 우리가 가진 그 '인공지능에 대한 고민'을 현실적으로, 과학적으로 차근차근 풀어내준다. 어디서 낭설만 주워 듣고 막연히 두려워하기만 했었는데 '로봇'이란 존재가 우리가 우려하는 만큼 위험한 존재가 아니란 것도 알았다. 기술의 발전에는 이유가 있을 것인데 그것이 단순히 '편하다'는 이유만이 있는 게 아니란 것도 알았다. 몸이 불편한 사람들이나 인지 능력이 부족한 사람들에게 기계가 대신 일을 해준다는 건 생활의 편함을 넘어서 몸의 일부가 될지도 모르는 아주 중요한 과제이다. 내가 비장애인이고 사는 데 불편함이 없다는 안일한 생각으로, 기술의 발전을 마냥 '사치'라고만 여긴 스스로의 모습을 반성하기도 했다. 

 지금 우리 사회에서도 익숙한 자율 주행과 의료에 AI가 어떻게 접목되는지, 또 '실제' 문제점은 무엇인지, 문제점을 해결할 수 있는지, 혹은 감수하더라도 그럴만한 가치가 있는지. 객관적인 정보를 받아들이고 스스로 생각할 수 있었다. 표지엔 'AI 유저라면 반드시 알아야 할 인공지능의 메커니즘과 개발자들의 생존 매뉴얼!' 이라는 소개 문구가 있어 전문가들이 읽어야 하는 책인가 싶었지만 이런 방면에선 영 초심자인 내가 봐도 차근차근 이해가 잘 되도록 설명이 되어 있다. 현재 기술과 앞으로 발전 가능성에 대해 연관지어 보여주니 쉽고 재미있었다. 또 내심 기계의 발전이 이렇게까지 앞서 있구나, 내가 알고 있던 '기술의 발전'이 이제야 명확히 알게 되었다고 느꼈다. 기계도 학습을 하고 또 적용될 수 있다니 앞으로 기술의 발전이 미래에 어떻게 조정해 나가고 더 발전시킬지 궁금해진다.

윌스미스가 주연한 [아이 로봇 I, ROBOT] 영화가 있었다. 인공지능 이야기를 할 때면 나는 항상 그 영화가 떠오른다. 2004년에 만들어졌지만 지금까지도 가장 잘 만들어진 로봇영화가 아닐까 한다. 청소로봇을 주기적으로 업그레이드할 수 있다는 아이디어도 신선했고 미래에 대한 나의 생각과 가장 근접했던 시나리오여서 그랬을 수도 있다. 영화는 결국 A.I의 위험성을 강조했다고도 볼 수 있는데 15년이 지나는 지금에서 보면 그 이야기가 어느 정도는 맞을 수도 있겠구나 하는 생각을 해본다. 영화에서 소개된 자율 주행차, 휴머노이드 로봇, 살상무기로봇 그리고 스스로 진화하려는 인공지능의 이야기까지 우리에게는 생소하고 새로운 내용이었지만 미국에서는 이미 개발에 박차를 가하는 시기가 아니였나 생각이 든다.

[인공지능이 인간을 죽이는 날]은 영화보다 더 깊고 자세하게 발전된 오늘의 AI 이야기를 들려준다. 그동안 많은 장미빛 미래를 이야기하던 4차 산업혁명시대의 핵심인 인공지능에 대해 회의론이 아닌 한 번쯤은 짚고 고민해봐야 한다고 주장한다. 책을 덮고 나면 그의 이야기가 상당히 설득력이 있다.

책의 구성은 1장에서 인공지능에 대한 총론을 이야기하고 있고 다음 3개의 장에서 각각 자율주행, 로봇닥터, 자율 무기로봇에 대한 본질과 우려를 말하고 있고 마지막장에서는 AI를 대하는 우리 마음가짐에 대한 이야기로 책을 마무리하고 있다.

자율주행은 시대의 흐름이다. 그것을 거스를 수는 없다. 차라는 것이 운전의 도구에서 벗어나 공간에서 공간을 옮겨주는 전자장비로 바뀌어가고 있다. 여기에 핵심적인 내용이 바로 자율주행차다. 미국에서 그리고 우리도 계속 발전시켜 나가는 과정인데 자율주행 레벨3이상의 시범주행에서 사고 발생의 소식이 들려온다. 물론 테스트 중이어서 그런지 사고의 원인에 대해 정확하게 분석한 뉴스나 자료가 부족하다. 제조사에서 밝힌 공식 이유를 제외하면 이에 대한 조사와 분석이 전무한 실정이다. 저자는 이 점에 주목하고 있다. 테슬라의 사고 자체에 초점을 맞추기 보다는 테슬라의 오토파일럿이라는 자율주행 AI가 노출시키는 단점에 대해 이야기한다.

AI 의 발달사를 보면 가장 초기 AI인 규칙기반AI는 기계적인 학습을 통한 패턴인식에는 뛰어나지만 예외와 우연이 넘쳐나는 현실 상황에 제대로 대응하지 못할 수 있다는 문제제기를 당하여 쇠퇴했다고 한다. 다음 등장한 확률형 AI는 규칙기반 AI보다 정확성면에서 훨씬 더 많은 발전을 가져왔다. 베이즈 정리를 기본 원리로 하여 인간이 가진 직관과 유사한 패턴으로 인식하게 되어 우연상황에 대해 보다 유연하게 대처하게 되었다. 그러나 이것 역시 현실과 이론의 차이인 팻테일 리스크를 발생해서 확률적(이론적)으로 일어나기 어려운 사고가 발생했다. 테슬라의 오토파일럿사고도 미국의 서브프라임사태도 팻테일 리스크로 발생되었다고 이야기한다. 이를 통해 차량에서의 자율주행이 어디까지 가능하며 우리의 책임과 역할을 어디까지이며 가치 판단을 어떻게 해야 할지 숙제를 안겨주는 내용이었다.

다음은 의료 로봇이야기다. 얼마 전 지방의 한 대학병원에 갔더니 IBM의 “왓슨”을 엄청 홍보하고 있었다. 이제 의사를 홍보하는 것이 아니라 로봇 도입을 홍보하는 시대가 온 것이다. 그만큼 이제 의료 분야에서는 다른 분야보다 더 AI가 활용될 부분이 많은 것 같다. 치료라는 것이 결국은 수많은 예의 누적 데이터를 분석한 결과를 이용해 활용하는 것이니 더욱 그렇게 생각이 든다. 규칙기반 AI인 왓슨은 수많은 기계적학습을 통해 인간을 뛰어넘는 판단을 보여주고 있다. 의사를 도와 질병을 치료하는 보조의사의 역할을 하고 있다. 다만 이 책은 우리에게 하나의 시사점을 던진다. 만약 어떤 상황에서 왓슨과 주치의의 의견이 달랐을 때 당신의 결론은 어떨까? 의사는 어떤 결론을 우리에게 들이밀까?

또한 이세돌 9단과의 대결로 유명해진 딥마인드사의 알파고는 왓슨보다 발전된 뉴럴네트워크AI로서 이미 의료계-특히 안과-에 진출해 많은 활약을 하고 있다. 패턴인식의 일종이긴 하지만 수십억개의 매개변수를 통해 판단하는 패턴인식의 수준은 인간을 이미 넘어버렸다. 물론 몇 명 의사의 노력이 필요했지만 그 결과는 그 노력을 결코 헛되이 하지 않았다. 저자는 이러한 AI 들의 활약이 앞으로 기대될 것이라고 이야기하는 한편 항상 문제가 되는 개인정보 유출에 대한 우려도 제기했다. 제공자들의 개인 정보 혹은 히스토리 등의 보안 문제는 지금도 그리고 앞으로도 꾸준히 보완하고 개발자들이 기억해야할 부분이라고 생각된다.

마지막으로 우리가 영화속에서나 보던 일들이 벌어지고 있다. 아이언맨이 등장해 우리를 죽일수도 있는 시대가 온 것이다. 사실 어찌보면 AI가 가장 필요한 분야는 바로 군사부분이 아닐까 한다. 아군의 피해없이 적군을 가능한 한 많이 죽이는 것 혹은 피해를 최대화시키는 것 그것이 바로 군의 목표이기 때문에 자율살상무기의 개발에 힘을 쏟는 것은 어찌보면 당연하다고 볼 수 있다. 미국을 비롯한 군사강대국들이 이미 수십조를 넘는 돈을 투자하고 있으며 머지 않는 미래에 우리는 영화에서 본 현실을 실제 텔레비전에서 볼 수 있을 것 같다는 불길한＜?＞예감을 해본다. 저자 역시 이런 점들을 우려하지만 뾰족한 수가 없다는 것을 은연 중에 이야기하고 있다. 결국 과학자들의 양심에 맡길 수 밖에 없다는 조금은 순진한 생각을 하는 것은 결국 이 문제에 대한 해법은 아직 없다는 것을 반증한다. 새로운 시대에 접어드는 우리가 대단히 고민해야할 부분이 아닌가 한다.

이 책은 AI에 대한 많은 정보와 사실 그리고 우려를 전달해준다. 기본적으로 많은 용어에 대한 지식의 전달로 인해 AI를 이해하는데 많은 도움이 되었으며 우리의 현재 그리고 가까운 미래에 다가올 현실을 준비하고 이해할 수 있는 좋은 책이라고 생각한다. 제목처럼 비극적인 이야기는 거의 없으니 안심하고 읽어도 될 책이다.

* 기억해야할 키워드

규칙기반 AI, 통계확률형 AI, 뉴럴 네트워크 AI, 딥러닝, 기계학습, 블랙박스화, 패턴인식, 자율주행, 패턴인식, 베이즈 정리, 팻테일 리스크

제4차산업혁명시대에 어떻게 대처해 나가야 할 것인지에 대한 책들이 봇물처럼 쏟아지고 있다. 그런데 AI, IoT 등이 발달하면 인류에겐 축복이 될까 아니면 재앙이 될까에 대해서는 별로 고민을 하지 않는 것 같다. 솔직히 나는 인류가 로봇의 지배를 받게 되는 날이 오지 않을까 겁이 많이 난다. 그런데 이 책을 읽고 나서 아직까지 AI의 발전 수준이 그 정도로 겁을 낼 정도는 아닌 것 같아서 가슴을 쓸어내렸따. 하지만 언젠가는 그런 날이 오지 말라는 법이 없을 것이니 인류의 존속을 위해서라도 대비책은 강구해둬야 할 것이다.

​

이 책에서는 자동차, 의료, 무기의 3가지 관점에서 AI의 발전 수준이 어느 정도인지를 상세히 소개하고 있으며, AI의 부작용과 위험성에 대해서 강하게 경고를 하고 있다. 평소 어렸을 때 미국 드라마 '전격Z작전'에서 봤던 자율주행차 Z카같은 자동차가 현실이 된다면 얼마나 좋을까하고 막연히 생각했는데 그게 꼭 좋은 것만은 아니라는 생각을 이 책을 읽고나서 갖게 되었다. 왜냐하면 AI에 오류가 발생했을 경우 사람이 즉시 대처를 하지 않으면 사고가 발생해서 많은 사람들이 죽거나 다치게 될 것이기 때문이다. 자동차의 경우는 그렇다고 하더라도 의료와 무기에 있어서는 더 큰 위험성이 있다.

​

만약 의료를 AI에 전적으로 의존하게 될 경우 AI의 오진으로 인한 ​의료사고를 막기 힘들 것이며, 무기의 경우에는 AI의 오류가 발생할 경우에 피아식별을 잘못하여 아군에게 막대한 피해를 입힐 수도 있기 때문이다. 옛말에 '과유불급'이라고 했다. 지나침은 오히려 부족함만 못하다는 뜻이다. 물론 AI의 발전이 인류사회를 풍요롭고 편리하게 해줄 수는 있겠지만 부작용이 막대하기 때문에 AI는 어디까지나 인간이 하는 일을 보조하는 정도에서 상호 보완하는 게 바람직하다는 생각이 들었다.

​

저자가 이 책의 말미에 남긴 '로봇에게 인류가 지배를 당하는 날이 오지는 않을까하는 나의 걱정이 현실화되기까지는 요원하다'는 말 한마디로 인해 다소나마 걱정을 해소할 수 있어 다행이라는 생각을 했다.

​

	지금으로부터 30년도 더 전에 발견된 AI의 근본적 문제가 아직도 해결되지 못한 것이다. 이를 다른 각도에서 보면 로봇을 피조물인 인간과 닮게 만드는 일이 과학자에게 얼마나 어려운 일인지 알 수 있다.
페이지 : 207

인공지능, 제4차산업혁명시대, 자동차, 의료, 무기, 새로운제안

고바야시 마사카즈 저의 『인공지능이 인간을 죽이는 날』 을 읽고

'인공지능(Artificial Intelligence: AI)'이라는 말을 자주 듣는다.

그리고 제 4차 산업혁명 시대에는 인공지능 시대가 주가 될 것이라는 광고가 나오기도 한다. 그렇다면 이것 자체는 보통의 이야기는 아니라는 생각이다. 나름대로 그 본질을 짚어보면서 대책을 세워나가야 되리라 본다.

특히 책제목처럼 인공지능이 인간을 죽이는 날이 온다면 우리 인간들은 어떻게 대처해야 할 것인가 진정으로 심각한 문제일 수 있기 때문이다.

그러나 쉽사리 하루아침에 일어나는 일은 없을 것이고 언젠가는 분명하게 우리 인간들의 노동은 사라지고 인공지능을 사용한 기계들의 시대는 분명히 올 것이라는 사실이다.

그러나 인간 본연의 상실을 어떻게 진보시켜 나갈 것이며, 인간다움을 유지할 수 있을 것인지 과제가 남아 있는 것은 분명하다.

왜냐하면 각종 규제와 법이 새로 제정될 것이고, 인간을 대신하는 것을 잘 정비하여 대책을 세워야 할 것이기 때문이다.

이 책은 이론적인 인공지능에 대한 이야기보다 매뉴얼된 실질적인 해결 방법을 정리하였기에 매우 흥미롭고 가독성 있는 독서가 되리라고 본다.

특히 저자는 인공지능 위협론의 허와 실을 밝히면서 실제적인 위협에 대한 분석들을 잘 정리해준다.

따라서 인간은 기술의 발전과 더불어 인공지능 또한 발전할 것은 분명하다.

그러나 그 인공지능이 곧 인간의 한계를 시험하는 계기가 될 것이다.

동시에 인간은 인공지능 기계가 바라보는 아버지이며 신으로서 역할을 수행해야 할지도 모른다.

문제는 지금부터 인간사용설명서를 매뉴얼 해놓아야 한다.

왜냐하면 앞으로의 인공지능은 인간을 뛰어넘을지도 모르기 때문이다.

스마트 폰과 함께 IT, 사물인터넷과 결합하여 상상을 초월하는 발전이 이루어질 것이다.

저자는 의료에 진출한 인공지능이 새로운 의료과실을 일으키는 문제 또한 의료에 응용되는 딥러닝 의료를 말해주어 전반적인 사회적인 것들까지 다루어준다.

이것이 왜 중요하냐하면 앞으로 직접적인 응급조치를 취할 수도 있을 것이고, 말을 하지 못하고 쓰러졌을 때 곧바로 스마트 헬스케어에 내장된 프로그램이 119에게 연락해 앰뷸런스를 호출 할 수 있는 시대도 곧 도래할 것이기 때문이다.

자율주행 자동차의 사각지대에 대해서도 말하는 저자는 현실적인 문제들을 짚어주어 우리의 생각에 질문을 던진다.

이것은 자동차 수출국인 우리나라가 보아야 한다.

저자는 더 나아가 인공지능 무기에 대한 발전과 위협들을 말해준다.

이것은 초자동화의 함정으로 이어진다. 때문에 앞으로 미래인공지능에 관심과 투자와 사업을 생각하는 독자들과 지도자들은 저자의 책을 필독하길 권한다.

물론 우리가 마주해야 할 세상이 그런 세상이기에 이 책은 모든 사람들이 흥미롭게 읽기에도 최고라고 말할 수 있다.

청소 로봇, 대화형 스피커를 넘어 자동차, 의료, 무기까지 진출한 인공지능!

최근 세계적으로 IT 기업 간 인공지능 개발 경쟁이 매우 뜨겁다.

 '음성 조작 기능이 있는 스마트폰', '청소 로봇', '대화형 스피커' 등 인공지능을 탑재한 가전제품이 하루가 다르게 진화하고 있다.

이 책은 그중 인간의 생사에 관련된 자동차, 의료, 무기의 세 가지 분야에 탑재되는 인공지능을 다루었다.

인공지능 유저들이 반드시 알아야 할 인공지능의 메커니즘과 개발회사들의 소비자 대응 매뉴얼을 소개하는 데 초점을 맞추고 있다.

인공지능의 핵심 원리에 관해 과학에 문외한인 일반 독자들도 알기 쉽게 설명하고 있다.

궁극적으로는 인공지능을 둘러싼 위협론 또는 장밋빛 전망 등 피상적 이야기들에서 벗어나 우리가 진짜 경계해야 할 현실에 직면함으로써 실질적인 해결 방법을 모색하게 한다.

아무리 발달하는 인공지능과 자동화 시대에도 사람의 영역은 절대로 사라지지 않는다는 사실과 함께 관심 밖이었던 사실들에 대해서 많이 인식할 수 있었던 점이 가장 큰 수확이었다.  

맹신의 사전적 의미는 '옳고 그름을 가리지 않고 덮어놓고 믿는 일'이다. 우리는 어떤 새로운 과학기술에 대해서 맹신하거나 , 혐오하는 경향이 짙다. 이분법적인 논리에서 벗어나지 못하고 있으며, 인공지능과 로봇에 대한 지금 우리의 시선이 바로 맹신과 연결된다. 특히 제 4차 산업혁명을 주도하고 있는 사물인터넷, 클라우드, 빅데터, 모바일은 우리가 생각했던 것보다 더 많은 변화를 가져 오고 있으며, 이런 변화에 대해서 기대반 두려움 반을 간직하고 있는 현재 상황이다. 그동안 우리 앞에 놓여진 변화에 대해서 사람들은 두가지 두려움을 가지고 있었다.내가 가지고 있는 일자리가 사라질 것이고, 기술적 특이점으로 인해 인간이 해왔던 것들이 점점 더 사라지고, 인간의 능력에 대한 무용론이 대둗왼다는 생각이다. 하지만 책에는 바로 그런 우리의 보편적인 두려움에 대해서 새로운 생각을 가지고 있으며, 인공지능이 도래하게 되면 우리가 두려워 해야 할 것은 인간이 통제하고 제어해 왓던 것들이 인간이 아닌 기계에게 빼앗길 수 있다는 점이며, 그로 인해서 생가는 기술적 대공황이 우리 앞에 놓여질 개연성이 충분하다고 말한다.


책에는 바로 이런 두려움에 대해서 교통, 의료, 군사 이 세가지 영역에 대해 다루고 있다. 먼저 자율주행 자동차를 보자면, 인간이 아닌 기계에게 제어권을 넘겼을 때 생기는 문제들이 지금 현실이 되고 있다. 인간에겐 쉽게 해결할 수 있는 문제가 기계에게 제어권을 넘겼을 때 그것이 큰 문제가 될 수 있고, 그로 인해 생가는 폭주적인 상태가 바로 우리 앞에 놓여지게 되는 거였다. 먼저 수많은 자율 주행 자동차들이 한순간에 기계적 제어권이 사라지고 제멋대로 움직일 때 인간이 개입되지 못함으로서 생기는 문제에 대해서 우리는 속수무책이 되는 거였다. 자율 주행 자동차가 공해를 유발시키지 않고, 인간이 운전에서 자유롭고, 시각장애인도 운전할 수 잇다느 점에서 보자면 긍정적이지만, 만에 하나 어떤 돌발적인 상황이 나타날 때 자율 주행자동차가 안고 있는 제어 불능의 상태가 바로 우리 앞에 나타나게 되는 거였다.


닥터 왓슨에 관한 이야기. 인간은 의료 영역에 대해서, 기계가 가지고 있는 막대한 데이터를 뇌 속에 짚어 넣을 수 없다. 인간은 경험과 직관에 의존해 수술을 감행하고 잇으며, 축적된 데이터를 활용해 수술과 다양한 의료 행위를 병행하게 된다. 그것은 실수를 낳을 수 있고, 그로 인해 사람들은 인간이 행하는 의료 행위에 대해서 불신하고 있었다. 그래서 인간은 인간이 아닌 기계의 힘을 빌려서 막대한 빅데이터를 활용해 적절한 치료를 원하는 경우도 더러 존재하고 있으며, 지금 현제 실험 단계에 이르고 있다. 구글의 딥마인드가 보여줬던 인공지능이 가지고 있는 잠재적인 능력이 의료에 접목되면, 좋은 점도 있지만, 부정적인 문제도 분명히 존재하게 된다. 하지만 인간은 인공지능이 행하는 일련의 의료 행위에 대해서 맹신하고 있으며, 긍정적으로 생각하고 있었다. 하지만 이 책을 읽어본다면 인공지능에 의료를 접목하는게 때로는 위험을 초래할 수 있다는 걸 알 수 있었다.