프롤로그: 인공지능은 인류에게 축복인가

멀리 1950년으로 되돌아가서 이야기를 시작해 보자. 그때는 세상이 지금보다 훨씬 더 단순했다. 텔레비전은 흑백 화면이고, 비행기가 있었지만 여객기는 운항되기 전이었다. 실리콘 트랜지스터도 발명되기 전이고, 컴퓨터는 전 세계적으로 열 대 남짓밖에 없었다.(1) 그나마 모두 진공관과 계전기(relays), 배선반, 콘덴서를 조립한 것이어서 컴퓨터 한 대가 방 한 칸을 다 차지할 정도로 컸다.

그 시절에 어떤 대담한 사람이 이런 예측을 내놓았다. “20세기 말이 되면 우리가 쓰는 단어의 의미가 바뀌고, 교육받은 사람들의 일반적인 생각이 크게 바뀌어서 ‘생각하는 기계’에 대해 이야기해도 크게 이상하지 않은 시대가 되어 있을 것이다.”(2) 생각하는 기계라니! 얼마나 멋진 생각인가! 정말 머지않은 장래에 기계가 생각을 할 수 있게 될까? 만약 기계가 생각을 한다면, 언제쯤이면 기계의 생각이 사람을 능가하게 될까?

도대체 누가 그런 예견을 했을까? 진지하게 한 예견이었을까? 그 주인공은 1999년 타임(Time) 매거진이 선정한 ‘20세기에 가장 영향력 있는 인물 100인’ 가운데 뽑힌 사람이었다.(3) 자타가 공인하는 20세기의 괴짜 사상가 가운데 한 명으로 수학자에 전쟁영웅이었으며, 무엇보다도 그는 꿈을 추구하는 사람이었다. 아깝게 요절하고 오랜 세월이 지난 지금까지 그의 꿈은 우리의 삶에 영향을 미치고 있다.

제2차세계대전 중 독일군의 에니그마(Enigma) 암호코드를 해독하는 데 결정적인 역할을 한 그의 이야기는 영화로 만들어져 오스카상을 수상했다. 전쟁 당시 영국 총리 윈스턴 처칠은 암호해독 임무에 투입된 그와 그의 동료들을 가리켜 ‘우는 소리를 내지도 않고 황금알을 낳은 거위들’이라고 불렀다. 많은 역사가들은 이들이 에니그마 암호를 해독함으로써 종전(終戰)이 적어도 2년 앞당겨졌다고 말한다. 그 덕분에 수백만 명이 목숨을 건진 것은 물론이다. 하지만 20세기 말이 되면서부터 나는 이 주인공의 가장 큰 공적이 ‘암호해독’에 그치지 않는다는 생각을 하기 시작했다.
암호해독 과정에서 그는 계산기 작동원리의 이론적인 토대를 만들고, 사실상 최초의 계산기인 ‘봄베’(bombe)의 발명에 기여했다. 이 봄베가 독일군의 암호를 해독하는 데 사용되었고, 그의 이론은 오늘날 컴퓨터 과학의 토대가 되었다.(4) 그는 최초의 계산기가 만들어지기도 전에 가장 완전한 형태의 보편적인 만능 컴퓨터를 만들겠다는 생각을 한 것이다.(5) 이런 공적을 인정해서 컴퓨터과학 분야에서 가장 권위 있는 상은 그의 이름을 따서 제정됐다. 현재 컴퓨터가 우리 삶의 모든 분야에 엄청난 영향을 미치고 있지만 사람들은 컴퓨터과학의 토대를 닦은 그의 공적을 제대로 기억하고 있지 않다.

그는 또한 행태형성(morphogenesis)이라는 생물학 분야에도 큰 영향을 끼쳤다. 그가 끼친 영향력의 원천은 가장 오래 된 과학저널 가운데 한 곳에 발표한 ‘행태형성의 화학적 토대’(The Chemical Basis of Morphogenesis)라는 한편의 논문에서 비롯됐다.(6) 그때까지 찰스 다윈(다윈의 진화론은 인간존재에 대한 그때까지의 생각을 바꾸어놓았다.)알렉산더 플레밍(페니실린을 발견함으로써 수백만 명의 목숨을 구했다.) 제임스 왓슨(James Watson), 프랜시스 크리크(Francis Crick), 도로시 호지킨(Dorothy Hodgkin) 같은 과학계의 우상들이 논문발표자로 이름을 올린 바로 그 저널이다.(호지킨은 분자구조 분석을 통해 유전학 연구 분야의 혁명적인 발전을 촉발시켰다.) 그는 이 논문을 통해 자연계에서 형성되는 패턴에 관한 이론을 제시했다. 식물과 동물들에게 줄이나 점, 나선형 등이 왜 만들어지는지에 대한 설명이다. 그가 쓴 논문 가운데서 가장 많이 인용되는 것이 바로 이 논문이다. 하지만 나는 21세기 말이 되면 그를 기리는 가장 중요한 업적이 이 행태형성 연구일 것이라고 생각하지 않는다. 그는 동성애자 세계에서도 매우 중요한 인물이다. 1950년대 영국에서 동성애는 불법이었다. 그는 1952년 동성애 혐의로 기소된 다음 화학적 거세를 당했는데, 이런 일들이 그의 갑작스런 죽음에 영향을 주었을 것이다. 그렇게 해서 그는 제2차세계대전 중에 자신이 크게 기여한 영국의 기성사회로부터 버림을 받았다.(7) 2009년에 고든 브라운(Gordon Brown) 영국 총리는 국민들의 청원을 받아들여 그의 박해받은 삶에 대해 공식적으로 사과했다. 그로부터 4년 뒤, 영국 여왕은 그에게 내려졌던 유죄판결에 대해 사면 결정을 내렸다. 게이 사회에서는 그를 순교자로 추앙한다. 하지만 나는 21세기 말이 되면 그가 이런 일들로 가장 크게 기억될 것이라고는 생각하지 않는다.

그렇다면 그는 과연 어떤 업적으로 가장 선명하게 기억될 것인가? 나는 그가 다소 이름 없는 철학저널인 마인드(Mind)에 발표한 한 편의 논문이 아닐까 생각한다.(8) 글 첫머리에서 인용한 ‘생각하는 기계’에 관한 구절도 바로 이 논문에 들어 있는 것이다. 앞에서 인용한 그의 논문은 오늘날 인공지능의 역사에서 가장 중요한 논문 가운데 하나로 간주되고 있다.(9) 이 논문은 생각하는 기계의 탄생이라는 미래를 그려 보여주고 있다.

저자가 이 논문을 쓸 당시 세계 전역에 열 대 남짓한 컴퓨터가 있었는데 하나같이 대형에다 엄청나게 비싼 기계였다. 물론 성능은 지금 우리가 호주머니에 넣고 다니는 스마트폰보다 형편없었다. 당시에는 앞으로 컴퓨터가 우리 생활에 얼마나 많은 영향을 미치게 될지 감히 상상도 하지 못했다. 하물며 생각하는 컴퓨터는 꿈도 꿔 보지 못했을 것이다. 하지만 이 논문에서 저자는 생각하는 기계의 탄생 가능성에 대해 앞으로 제기될 여러 반대주장을 예견하고 이를 반박까지 했다. 많은 이들이 이 논문의 저자를 인공지능(AI) 분야의 아버지 가운데 한 명이라고 생각한다.

아시다시피 그 사람은 바로 앨런 매티슨 튜링(Alan Mathison Turing)이다. 영국왕립협회 회원이었으며 1912년에 태어나 1954년에 자살로 생을 마감했다.
21세기가 끝날 무렵이 되면 사람들은 앨런 튜링을 생각하는 기계를 발명하는 연구 분야에 토대를 닦은 인물로 기억할 것이라고 나는 생각한다. 생각하는 기계가 탄생된다면 산업화 시대 초기에 증기엔진이 그랬던 것처럼 인류의 삶에 엄청난 변화를 가져올 것이다. 우리의 일하는 방식은 물론이고, 놀이방식, 육아방식, 환자치료와 노인 간병방식까지 바뀔 것이고, 궁극적으로는 인류의 존재의미 자체가 바뀔 것이다. 이 기계는 인류의 삶에 가장 많은 변화를 가져오는 발명품이 될 것이다. 공상과학소설은 이미 생각하는 로봇 이야기로 가득하고, 실제로 과학은 소설 속의 이야기들을 바짝 뒤따라가며 하나하나 현실로 바꾸어 놓고 있다.

공상과학 소설이 꿈꾼 미래가 우리의 삶에서 현실로 나타나고 있는 것이다. 호주머니 안에 넣어 다니는 휴대용 컴퓨터가 난해한 문제들의 답을 알려주고, 게임과 영화로 놀 거리를 제공해 주며, 길을 잃으면 집으로 가는 길을 알려준다. 뿐만 아니라 일자리를 구해주고, 삶의 동반자를 찾아주며, 세레나데를 연주하고, 세계 곳곳에 흩어져 있는 친구들과 순식간에 연결해 준다. 전화기로 쓰이는 용도는 가장 평범한 기능 가운데 하나에 불과하다.

물론 튜링이 남긴 유산이 인공지능의 시대를 여는 데 큰 역할을 할 것이라는 나의 예견에는 여러 가지 의문이 뒤따른다. 이번 세기가 끝날 때쯤에는 튜링이 생각하는 기계의 발명에 기여한 장본인으로 기억될 것인가? 그리고 그 미래는 좋은 미래일까? 로봇이 지금 인간이 하는 힘들고 위험한 일을 모두 대신하게 될 것인가? 경제는 더 발전할까? 인간은 일을 덜하고, 그 대신 여가를 더 즐길 수 있게 될까? 할리우드 영화에서 그리는 일들이 현실로 나타날까? 미래는 더 힘든 세상이 될까? 빈익빈 부익부가 더 심해질까? 많은 사람이 일자리를 잃고, 로봇이 그 자리를 모두 차지하게 될까? 인간은 지금 스스로 자멸의 씨앗을 뿌리고 있는 것은 아닐까?

이 책은 이런 질문들에 대한 답을 찾기 위해 썼다. 그리고 인공지능(AI)이 인류를 어떤 방향으로 이끌고 나갈 것인지에 대해 예측해 보려고 했다. 첫 번째 파트에서는 과거의 경험에서 얻을 교훈에 대해 알아본다. 기술의 발전이 나아갈 방향에 대해 가장 정확하게 알 수 있는 방법 가운데 하나는 그 기술이 어디서 진화되어 나왔는지 알아보는 것이다. 두 번째 파트에서는 AI의 현주소에 대해 알아보고, 생각하는 기계를 만들어서 인류가 누리게 될 혜택과 위험에 대해 알아본다. 이 위대한 기술의 발전이 이룰 성과를 가능한 한 현실적인 입장에서 평가하려고 노력했다.

생각하는 기계를 만드는 일은 성공한다면 의심의 여지없이 우리 사회에 엄청난 영향을 미칠 담대하고 의욕적인 노력이다. 마지막 세 번째 파트에서는 AI의 미래에 대해 보다 상세히 다루었다. 많은 책자와 영화 속에서 구체적인 근거 없이 예견한 일들이 실제 현실로 나타날 것인가? 아니면 그런 일들은 공상과학이 그린 단순한 허구에 그칠 것인가? 나는 다소 모험적인 시도로 AI가 2050년까지 인류의 미래에 초래할 변화에 대해 10가지 예측을 해보았다. 그 가운데는 여러분이 놀랄만한 예견들도 들어 있을 것이다.

관련 업계는 이미 그런 일들로 들떠 있다. 최근 5년 동안 수십 억 달러의 벤처자금이 인공지능 개발 기업들에 쏟아져 들어갔다.(10)엄청난 거액이 투자되고 있다. 거대 컴퓨터 기업인 IBM은 인지컴퓨팅(cognitive computing) 플랫폼 왓슨(Watson)에 10억 달러를 쏟아 붇고 있다.(11) 도요타는 자율주행 연구에 10억 달러를 투자했다. 안전하고 일반적인 용도의 인공지능 개발을 목표로 하는 비영리 단체인 오픈AI(OpenAI)에도 10억 달러의 연구자금이 모였다. 사우디의 국부펀드가 거액을 투자한 소프트뱅크 비전펀드(SoftBank Vision Fund)는 2015년 10월에 출범해 인공지능과 사물인터넷 기업들을 대상으로 지금까지 1천 억 달러 규모를 집중투자했다.

이밖에도 구글과 페이스북, 바이두(Baidu)를 비롯해 기술 분야의 주요 기업들이 인공지능 개발에 대대적으로 투자하고 있다. 이 분야의 연구가 매우 흥미진진하게 전개되고 있는 것은 분명한 사실이다. 대규모 자금이 유입되면서 앞으로 생각하는 기계의 탄생에는 더 가속도가 붙을 것이다.

AI의 위험성에 대비해야
컴퓨터는 오늘날 인류의 삶을 놀라운 속도로 바꾸어놓고 있다. 그에 따라 인공지능에 대해 제대로 알고자 하는 욕구가 전 세계적으로 커지고 있다. 많은 전문가들이 앞으로 엄청난 일들이 일어날 것이라는 예측을 내놓았다. 2016년 5월 영국 마이크로소프트(Microsoft UK)의 최고전략책임자 데이브 코플린(Dave Coplin)은 “오늘날 인류가 하는 연구 가운데서 가장 중요한 분야는 바로 인공지능이다. 인공지능이 기술과 인간의 관계뿐만 아니라 인간들끼리의 관계도 바꿀 것이며, 나아가서 인간이 어떤 존재인가에 대한 지금까지의 생각까지 바꾸어 놓을 것”이라고 했다.

그보다 한 달 전에 구글의 CEO인 순다 피차이(Sundar Pichai)는 구글 전략의 핵심이 바로 인공지능이라며 이렇게 말했다. “우리의 핵심동력은 머신러닝(machine learning)과 인공지능에 대한 장기투자이다. 우리는 미래를 내다보며, 모바일 퍼스트에서 인공지능 퍼스트를 향해 나아갈 것이다.”

하지만 여전히 많은 전문가들이 AI와 함께 나타날 많은 위험성에 대해 경고하고 있다. 이 위험성에 제대로 대비하지 않으면 인류의 종말이 앞당겨질 것이라는 우려까지 나오고 있다. 2014년 일론 머스크(Elon Musk)는 MIT에서 행한 연설에서 청중들을 향해 “인공지능에 대해 많은 주의를 기울여야 합니다. 인류의 존재에 가장 큰 위협이 무엇일까에 대해 생각해 보면 아마도 인공지능이 바로 그 주인공이 될 것이라는 걱정이 듭니다.”라고 경고했다. 머스크는 페이팔(PayPal), 테슬라(Tesla), 스페이스엑스(SpaceX)를 잇따라 창업한 기업가이며 발명가, 투자자이다. 그는 혁신적인 아이디어로 금융 분야와 자동차 산업, 우주여행 분야에 큰 충격파를 던진 사람이다. 그래서 우리는 그가 컴퓨팅을 비롯한 첨단기술이 초래할 파장에 대해 우리보다 좀 더 정확하게 알 것이라고 생각한다.

머스크는 AI가 인류에 심각한 존재론적인 위협을 안겨 줄 것이라는 우려를 자기 돈을 써서 직접 뒷받침해 보였다. 2015년 초에 그는 인류미래연구소(Future of Humanity Institute)에 1천만 달러를 기부해 인공지능을 안전하게 개발하는 방안을 연구하는 데 쓰도록 했다. 순자산이 100억 달러에 달하고, 세계 100대 부호 반열에 오른 그에게 1천만 달러는 큰돈이 아니라고 생각하는 사람이 있을지도 모르겠다. 그는 바로 그해 기부금 액수를 100배로 늘려서 10억 달러 규모 오픈AI 프로젝트의 핵심 후원자가 되겠다고 발표했다. 오픈AI 프로젝트의 목표는 인공지능을 안전하게 개발하고, 관련 정보를 오픈소스로 만들어 전 세계적으로 누구나 이용할 수 있도록 공개하겠다는 것이다.

머스크에 이어 물리학자인 스티븐 호킹(Stephen Hawking)박사도 인공지능의 위험성을 경고하고 나섰다. 아이러니 하게도 그는 자신의 음성합성장치 소프트웨어 업데이트를 환영하는 말을 하면서 ‘인공지능이 본격적으로 개발되면 인류의 종말을 촉진시킬 수 있다.’는 경고를 내놓았다.

마이크로소프트의 빌 게이츠와 일명 ‘보즈’(Woz)로 불리는 애플의 스티브 보즈니악(Steve Wozniak)을 비롯해 여러 유명 첨단기술 전문가들도 AI로 인해 초래될 위험한 미래를 예고하고 나섰다. 정보이론의 아버지로 불리는 클로드 섀넌(Claude Shannon)은 1987년에 이렇게 썼다. “우리가 애완견을 대하듯이 로봇이 인간을 다루는 시대가 올 것이라는 예감이 든다. 내가 기계의 도우미 역할을 하게 되는 것이다!”(12) 앨런 튜링 본인도 1951년 BBC 라디오3(Third Programme) 방송에 출연해 다음과 같이 신중한 예측을 내놓았다.

“생각하는 기계가 만들어진다면, 인간보다 더 지능적으로 생각할 수 있게 될 것이다. 그렇게 되면 우리 인간이 설 땅은 어디겠는가? 예를 들어 결정적인 순간에 전원을 끄든지 하는 식으로 기계를 계속 인간에게 종속적인 지위에 머물도록 할 수는 있을 것이다. 그렇더라도 우리는 인간이라는 종(種)의 자리에 대해 매우 겸허한 생각을 갖지 않을 수 없게 될 것이다. 다시 말해 불안감 같은 것을 느끼게 될 것이다.”
물론 모든 기술 분야 전문가들이 생각하는 기계의 발명이 인간에게 미치는 영향에 대해 걱정하는 것은 아니다. 2016년 1월, 페이스북의 마크 저커버그(Mark Zuckerberg)는 이런 종류의 불안감을 이렇게 일축했다.

“나는 AI로 하여금 인간을 위해 봉사하고, 우리에게 도움이 되도록 만들 수 있다고 생각한다. 공포감을 조성하는 사람들이 마치 AI가 엄청난 위험을 초래할 것같이 호들갑을 떨지만 그것은 지나친 과장이라고 생각한다. AI가 초래할 위험성은 광범위하게 퍼진 질병이나 폭력 같은 재앙에 비해 훨씬 경미할 것이다.” 중국의 유명 인터넷 기업 바이두(Baidu)의 대표적인 인공지능 연구자인 앤드루 응(Andrew Ng)은 이렇게 말했다. “AI를 둘러싼 우려는 화성의 인구과잉을 걱정하는 것이나 마찬가지이다.”(실제로 앨런 머스크는 문샷(moonshot) 프로젝트를 통해 인간을 화성에 이주시키는 계획을 추진하고 있다.)

그렇다면 우리는 과연 어느 쪽 말을 믿어야 하나? 만약 머스크나 저커버그 같은 사람들의 말이 사실이라면 AI의 미래에 대해 걱정할 필요가 전혀 없다는 것인가? 과거에 제기된 인공지능에 대한 우려들을 되짚어 보자. SF 문학의 거장인 아서 C. 클라크(Arthur C. Clarke)는 1968년에 인공지능이 초래할 위험성을 경고했다. 그는 미래의 기술에 대해 탁월한 예견을 남긴 사람으로 정지궤도 위성(geosynchronous satellites)과 지금의 인터넷에 해당되는 글로벌 디지털 라이브러리, 번역기계의 등장을 예견했다. 무엇보다도 그는 소설 [2001:스페이스 오디세이](2001: A Space Odyssey)에 등장하는 인공지능 컴퓨터 ‘할(HAL) 9000’을 통해 인공지능 시대의 출발을 알렸다.

나는 클라크를 비롯한 여러 공상가들로부터 영감을 받아서 어릴 적부터 인공지능에 관한 꿈을 꾸기 시작했다. 그리고 그 꿈을 이루기 위해 평생 이 분야에 대한 연구를 계속했다. 유명 물리학자나 성공한 첨단기술 기업인들이 AI가 인류의 종말을 초래할 것이라는 경고를 내놓는 것을 보면 다소 우려스럽다는 생각이 든다. AI 연구에 종사하는 우리는 이 일에 너무 몰두하다 보니 그 위험성을 제대로 보지 못하는 것일까? 그게 사실이라면 우리는 인류의 존립을 무너뜨릴지 모를 기계를 만들겠다고 매달리는 어리석은 일을 하고 있는 게 아닌가?

인공지능과 관련한 우려들 가운데 일부는 우리의 심리상태 속 깊숙이 자리한 불안감에 기인할지도 모른다. 그 불안감은 프로메테우스 신화에 들어 있는 불안감과 일맥상통한다. 그리스 신화에서 프로메테우스는 제우스의 지시를 어기고 인간에게 불을 훔쳐다 주었고, 인간은 그 불로 인해 많은 혜택과 화를 함께 입었다. 메리 셸리(Mary Shelley)의 소설 [프랑켄슈타인](Frankenstein)에도 같은 불안감이 등장한다. 그것은 바로 우리가 만든 생명체가 어느 날 우리 자신을 해칠지 모른다는 불안감이다. 오래 전의 일이라고 근거 없는 두려움으로 치부할 수는 없다. 인간이 개발한 기술 가운데는 한 번쯤 멈추고 되돌아봐야 할 것들이 많다. 핵무기를 비롯해 복제술(cloning), 표적을 눈멀게 만드는 실명(失明) 레이저(blinding lasers), 소셜미디어 등 얼마든지 꼽을 수 있다. 이 책을 통해 나는 생각하는 기계의 탄생을 우리가 얼마나 반겨야 할지, 아니면 얼마나 두려워해야 할지에 대해 사람들이 올바른 판단을 하도록 도움을 주고자 한다.

책임의 일부는 인공지능 연구에 종사하는 우리 과학자들에게 있다.
비(非)전문가들과의 소통에 소홀했고, 소통하더라도 의미전달을 명쾌하게 하지 않은 경우가 많았다. 우리가 어떤 일을 하고 있고, 우리가 하는 일이 우리 사회를 어떤 방향으로 이끌어 나갈지에 대해 사람들에게 좀 더 명확하게 설명할 필요가 있었다. 우리가 이끄는 변화의 대부분이 사회적인 파장을 미치는 것이고, 사회적인 변화는 기술의 발전보다 훨씬 느리게 진행된다. 대부분의 기술과 마찬가지로 인공지능도 도덕적으로 중립적이다. 좋은 결과를 낳을 수도 있고, 나쁜 결과를 낳을 수도 있다는 말이다.

한 가지 심각한 점은 인공지능에 관해 많은 오해가 있으며, 이런 오해들은 해소되어야 한다는 사실이다. 특히 이 분야에서 일하지 않는 사람들은 현재 인공지능의 능력, 그리고 가까운 미래에 갖추게 될 인공지능의 능력을 지나치게 과대평가하려는 경향이 있다. 이들은 컴퓨터가 포켓몬 GO를 사람보다 더 잘한다고 생각하고, 사람은 절대로 컴퓨터만큼 잘할 수 없다고 단정한다.(13) 이들은 게임뿐만 아니라 다른 여러 지적인 활동도 컴퓨터가 사람보다 더 우수하다고 생각한다.

하지만 다른 컴퓨터 프로그램과 마찬가지로 GO 프로그램은 해당 게임만 잘하도록 만들어진 ‘바보 천재’에 불과하다. 체스나 포커 같은 단순한 게임을 GO 프로그램에 시켜도 못한다. 해당 프로그램으로 하여금 다른 게임을 할 수 있도록 만들기 위해서는 사람의 손으로 상당한 수준의 엔지니어링 작업을 해주어야만 한다. 컴퓨터가 어느 날 아침에 눈을 떠서 갑자기 GO 게임에 싫증이 난다며 스스로 온라인 포커 도박을 시작할 수는 없다. 마찬가지로 컴퓨터가 어느 날 아침 일어나서 갑자기 세계를 지배겠다는 욕심을 부릴 수도 없다. 컴퓨터에게는 욕망이 없다. 그것은 단지 컴퓨터 프로그램에 불과하며, 사람에 의해 프로그램 된 대로 움직일 뿐이다. 컴퓨터가 포켓몬 GO를 잘하는 것은 그 게임을 아주 잘하도록 프로그램 되었기 때문이다.

다른 한편으로, 나는 또한 우리 모두 기술발전이 가져다주는 장기적인 변화를 과소평가하는 경향이 있다고 생각한다. 스마트폰이 도입되고 불과 10년이 지나는 동안 우리의 삶이 얼마나 바뀌었는지 한번 살펴보자. 인터넷이 시작되고 20년 정도 지나는 동안 우리의 삶은 거의 모든 분야에서 바뀌었다. 그리고 지금부터 20년 뒤에는 얼마나 많은 변화가 일어날지 상상해 보자. 기술이 가져오는 복합적인 영향을 감안하면 이후 20년은 이전 20년보다 더 큰 변화가 일어날 가능성이 높다.

우리 인간은 기하급수적으로 늘어나는 급격한 성장을 인식하는 데 서툴다. 진화과정에서 눈앞의 위험에 잘 대처하도록 최적화되었기 때문이다. 인간은 장기적인 위험요소를 파악하는 데 취약하며, 도저히 일어날 것 같지 않은 충격적인 사태인 ‘블랙스완’(black swan)을 제대로 예측하지 못한다.(14) 장기예측을 제대로 한다면 모두가 복권 사는 짓을 그만두고 연금가입 액수를 늘릴 것이다. 쾌락을 추구하고 고통을 회피하도록 진화된 인간의 뇌로는 복합적인 성장을 동반하는 발전을 이해하기 어렵다. 인간은 순간을 추구하는 존재이다.

이 책을 본격적으로 읽기 시작하기 전에 여러분에게 경고할 일이 하나 있다. 미래를 예측하는 일은 부정확한 학문이라는 사실을 잊으면 안 된다는 것이다. 노벨상 수상자인 덴마크 물리학자 닐스 보어(Niels Bohr)는 “예측은 어려운 작업이며, 미래를 예측하는 일은 특히 더 어렵다.”고 했다. 내가 이 책에서 제시하는 큰 틀의 예측은 정확할 것이지만, 일부 세세한 부분에서는 내 예측이 빗나가는 경우들이 분명히 있을 것이다. 그러한 과정에서 나를 포함해 수천 명의 동료들이 ‘생각하는 기계’의 탄생이라는 목표를 향해 평생을 바쳐 가슴 설레는 작업을 계속해 온 이유를 여러분이 이해하게 될 것이라고 생각한다. 그리고 우리가 가는 이 길이 이 지구상에서 사는 우리 인간의 삶의 질을 향상시키기 위해 반드시 가야 하는 길이라는 점도 여러분이 알게 될 것이다.

무엇보다도 우리가 사는 사회가 얼마나 변화를 필요로 하는지에 대해 여러분이 알아주었으면 좋겠다. 이 책을 통해 제시하고자 하는 궁극적인 메시지는 인공지능이 우리를 여러 다양한 길로 인도해 줄 수 있다는 사실이다. 거기에는 좋은 길도 있고, 좋지 않은 길도 있을 것이다. 어떤 길을 택해서 나아갈지를 결정하는 것은 우리 사회의 몫이다. 인간이 기계의 손에 결정을 맡길 수 있는 분야는 많다. 하지만 나는 설사 기계가 사람보다 더 나은 결정을 내릴 수 있는 분야가 있더라도 그 범위는 일부분에 국한시켜야 한다고 생각한다. 이제 사회 전체가 나서서 어떤 일을 기계에게 맡길지 선택하는 작업을 시작해야 한다.

이 책은 인공지능에 관심을 가진 전문가는 물론이고 비전문가인 독자들을 포함한 모두를 위해 썼다. 많은 이들이 인공지능이 인류를 어떤 방향으로 이끌고 갈 것인지 궁금해 할 것이다. 생각하는 기계를 둘러싼 그 많은 예측들 가운데 실제로 현실화 되는 것은 얼마나 될까? 인공지능이 인간지능을 넘어서는 ‘기술적 특이점’ (technological singularity)은 실제로 다가올 것인가? AI가 인도하는 미래는 우려할만한 것인가? 그 미래는 나와 우리 아이들에게 어떤 영향을 미칠까? 제기되는 예측들이 실제로 일어나기까지 과연 어느 정도의 시간이 걸릴까?(15)

AI는 인류의 삶에 뛰어든 낯선 침입자<br/> 관련 업계는 이미 이런 미래 변화로 들떠 있다. 최근 5년 동안 수십 억 달러의 벤처자금이 인공지능 개발 기업들에 쏟아져 들어갔다. 엄청난 거액이 투자되고 있다. 거대 컴퓨터 기업 IBM은 인지컴퓨팅(cognitive computing) 플랫폼 왓슨(Watson)에 10억 달러를 쏟아 붇고 있고, 자율주행 연구에 10억 달러를 투자했다. 안전하고 일반적인 용도의 인공지능 개발을 목표로 하는 오픈AI(OpenAI)에도 10억 달러의 연구자금이 모였다. 사우디 국부펀드가 투자한 소프트뱅크 비전펀드(Vision Fund)는 2015년에 출범해 인공지능과 사물인터넷 기업들을 대상으로 지금까지 1천 억 달러 규모를 집중 투자했다. 이밖에도 구글과 페이스북, 바이두(Baidu)를 비롯해 주요 기술 기업들이 인공지능 개발에 대대적으로 투자하고 있다. 대규모 자금이 유입되면서 앞으로 생각하는 기계의 탄생에는 더 가속도가 붙을 것이다. <br/> 저자는 다소 모험적인 시도로 AI가 2050년까지 인류의 미래에 초래할 변화에 대해 다음과 같이 10가지 예측을 했다. 그 가운데는 우리가 놀랄만한 예견들도 들어 있다.<br/><br/> 2050년, 인공지능이 만들 10大 미래변화<br/> 1: 자율주행 자동차 정착 <br/> 2: 컴퓨터 가정의(家庭醫) 시대<br/> 3: 가상과 현실이 뒤섞인 하이퍼리얼 시대<br/> 4: 컴퓨터가 인간을 채용하고 해고 <br/> 5: 모든 지시는 음성대화로 <br/> 6: AI 범죄 유행 <br/> 7: 로봇 스포츠팀 활약<br/> 8: 무인수송 보편화<br/> 9: 로봇이 뉴스를 제작하고 보도 <br/> 10: 대역 로봇으로 영생의 꿈에 도전<br/> <br/>AI의 위험성에 대비하지 않으면 재앙 못 피해<br/> 많은 전문가들이 AI와 함께 나타날 많은 위험성에 대해 경고한다. 이 위험성에 제대로 대비하지 않으면 인류의 종말이 앞당겨질 것이라는 우려까지 나오고 있다. 일론 머스크(Elon Musk)는 “인공지능에 대해 많은 주의를 기울여야 한다. 인류의 존재에 가장 큰 위협이 무엇일까에 대해 생각해 보면 아마도 인공지능이 바로 그 주인공이 될 것이라는 걱정이 든다.”고 경고했다. 스티븐 호킹 박사도 생전에 ‘인공지능이 본격적으로 개발되면 인류의 종말을 촉진시킬 수 있다.’며 인공지능의 위험성에 대해 경고했다. <br/> 이 책을 통해 저자는 인공지능이 우리를 여러 다양한 길로 인도해 줄 수 있다는 메시지를 던져 준다. 거기에는 좋은 길도 있고, 좋지 않은 길도 있다. 어떤 길을 택해서 나아갈지를 결정하는 것은 우리 사회의 몫이다. 인간이 기계의 손에 결정을 맡길 수 있는 분야는 많다. 저자는 설사 기계가 사람보다 더 나은 결정을 내릴 수 있는 분야가 있더라도 그 범위는 극히 일부분에 국한시켜야 한다고 주장한다. 그리고 사회 전체가 나서서 어떤 일을 기계에게 맡길지 선별하는 작업을 곧바로 시작해야 한다고 강조한다. <br/> 기계는 인간의 삶에 뛰어 들어온 낯선 침입자이며, 우리는 인류의 삶을 윤택하게 해줄 분야에 국한시켜서 이 침입자를 받아들여야 한다고 저자는 강조한다.<br/><br/>킬러로봇 금지운동에 앞장-<br/>KAIST에 대한 전 세계 학자들의 로봇연구협력 보이콧을 주도한 장본인<br/> 저자 토비 월시 교수는 현재 유엔을 비롯한 여러 국제기구에서 킬러로봇 금지운동의 필요성을 역설하는 운동을 앞장서서 펼치고 있다. 2018년 4월 KAIST의 무기용 로봇 개발에 대해 우려를 표명하며, KAIST에 대한 일체의 로봇연구협력을 중단하기로 결정한 해외 인공지능 연구학자들의 선언을 주도했다. 월시 교수는 이후 KAIST의 해명을 받아들여 이 보이콧을 철회했다. <br/>

“인공지능 연구의 세계적인 권위자가 AI의 현주소에 대해 가장 정확한 설명을 들려준다. 저자 토비 월시 교수는 명쾌한 필치로 AI의 과거와 현재, 그리고 미래에 대해 설명한다. AI가 인류에 미칠 영향을 2050년 의료,수송,오락 등 인류의 삶에 일어날 10대 미래변화로 집약해 보여준다.”

“AI의 과거와 현재, 미래에 대해, 그리고 AI가 우리의 삶에 얼마나 큰 영향을 미칠지에 대해 놀라운 통찰력을 보여준다. 반드시 읽어야 할 책이다.”

“AI 연구 분야 최고의 권위자가 AI의 현재와 미래에 대해 친절하게 설명하는 최고의 안내서이다.”

“저자는 AI 기술에 대한 학문적 깊이와 함께 인공지능이 인류에 미치는 경제적, 사회적 형향에 대한 깊은 통찰을 함께 갖춘 드문 학자이다. 앞으로 생각하는 기계가 점점 더 많은 분야에서 인간의 영역을 잠식해 나갈 미래에 대해 알고 싶다면 반드시 이 책을 읽어야 할 것이다.”