누가 인공지능을 두려워하나

이 책은 

이 책 『누가 인공지능을 두려워하나 』는 ＜생각하는 기계 시대의 두려움과 희망＞을 논하고 있는 책이다.

저자는 토마스 람게, 편저자는 이수영과 한종혜.

원저자 토마스 람케는, ＜독일의 경제 전문지 《브란트아인스brand eins》의 기자로서 과학기술 전문 기사를 쓰면서 《이코노미스트》에 글을 기고하고 있다. 그는 최근 15년간 주목받는 저자로 활동하며, 다양한 디지털 기술들 간의 연관 관계를 고찰하고 그 결과가 사업과 경영에 어떻게 영향을 주는지와 사회와 정책 결정에는 어떤 결과를 초래하는지에 대한 통찰력을 보여주었다.＞

이 책의 내용은 

먼저 영화 이야기부터 해보자. 이런 영화를 본 적이 있는지 

＜메트로폴리스＞ 116쪽

＜엑스 마키나＞ 117쪽

＜2001 스페이스 오디세이＞ 137쪽

＜터미네이터＞ 138쪽

기계가 생각하고, 말하고, 인간을 지배하려고 일을 꾸민다는 설정의 영화들이다.

워낙 실감나게 만들어진 영화라서 그런지 그런 일이 곧 일어날 것 같은 생각을 하게 된다.

인공지능을 탑재한 기계들이 도처에서 준동하고 있다, 는 헤드라인을 이제 신문에서 보게 될지도 모른다는 것. 또한 알파고와 이세돌의 바둑 대결에서 보듯이, 이제 인공지능은 인간을 넘어, 인간 위에 선다는 것이다.

과연 그런 일이 생길 수 있을까? 해서 인공지능에 의해 인간의 삶이 위협받을 위험이 있을까 

혹자는 가능하다고 말하고 또 다른 사람들은 그런 일은 절대 불가능하다고 한다.

과연 어떤 말이 타당한 것일까? 그 답을 찾기 위해 여러 책을 읽어볼 수밖에 없다.

이 책도 그 중의 하나다.

우선 목차를 살펴보면서, 이 책에서 무엇을 다루고 있는지 알아보자.

1장 스스로 판단하는 기계의 등장: 자동화의 진화

2장 인공지능의 아주 짧은 역사: 튜링의 계승자들

3장 기계는 어떻게 배우는가?: 인공신경망, 딥러닝, 그리고 피드백 효과

4장 사람이 묻고 기계가 답하는 시대: 인공지능이 당신의 비서, 쇼핑도우미, 변호사, 의사가 된다

5장 인간과 로봇이 함께 일하는 시대: 스마트 기계, 협동로봇, 지능형 사물인터넷

6장 인공지능이 미래를 장악할까?: 초지능과 특이점

거기에 더하여, 원저자의 글에 덧붙여 편역자중의 한 명인 이수영 교수가 각 장마다, ＜이수영과 한 걸음＞이란 꼭지를 더해, 원저자가 언급하지 않은, 혹은 추가 설명이 필요한 부분에 대하여 친절한 설명을 하고 있다.

해서 지금까지 거론된 인공지능에 관한 논의는 이 책에서 모두다 종합적으로 다루고 있다 해도 과언이 아니다.

그중에서 독자들은 현재까지 인공지능의 발전된 모습을 알 수 있고, 어떤 분야에, 어디까지 인공지능이 인간을 위하여 사용되고 있는지를 알 수 있다.

예컨대, 인공지능 변호사, 인공지능 의사 등은 이미 실용화 단계에 들어서고 있으며, 로봇 형태로는 많은 분야에서 인간 대신 역할을 수행하고 있다는 것, 알 수 있다.

인공지능은 그림과 사람을 인식하고, 복잡한 질문에 대답하고, 문장을 다른 언어로 번역하거나 심지어 독창적인 문장까지 쓰고, 땅과 바다·하늘에서 승객을 태우고 조종하며, 주가를 예측하고, 진찰에 대한 정확한 진단을 내린다. (56쪽)

알파고의 승리 이후 직감과 창의성은 (정의에 따라 달라질 수 있지만) 이제 인간 고유의 영역이 아님이 명백해졌다. (58쪽)

문제는? - 인공지능의 위험성은 실제적인가 

문제는 그런 인공지능이 인류를 위협할 정도의 지능을 가지게 되는가 하는 점이다.

우리는 어떤 사람의 목소리를 모방하거나 얼굴을 다른 사람의 몸에 합성하는 딥페이크(deep fake) 같은 인공지능 조작의 시대를 어떻게 지혜롭게 헤쳐 나가야 하는가를 배워야 한다. (38쪽)

그런 위험성 이외에도 저자는 인공지능 대한 가장 중요한 위험을 다음 세 가지로 요약한다.

1) 데이터의 독점

2) 개인에 대한 조작,

3) 정부에 의한 오용 (144쪽)

그런 위험성에 대한 경고에 대하여 이런 말이 참고가 될 것이다.

컴퓨터는 쓸모없다. 그저 당신에게 답을 줄 수 있을 뿐이다. - 파블로 피카소 (142쪽)

나는 오늘 인공지능이 사악해지는 것을 막기 위해 노력하지 않는다. 그 이유는 현재 화성의 인구 과잉 문제에 대해 걱정하지 않는 것과 같다. (143쪽)

인공지능은 큰 그림을 볼 수 없다. 어느 정도까지 기계의 도움을 받는 것이 적절한지에 대한결정을 포함하여, 중요한 결정은 여전히 인간의 몫이다. (154쪽)

다시, 이 책은? - 인간의 책임은 

편저자인 이수영 교수의 이 말, 기억해 두고 싶다.

인공지능은 위험하다. 그러나 사람만큼만 위험하다. 결코 사람보다 더 위험하지는 않다. 인공지능과 어떻게 공존할 것인가의 문제는 우리 ‘인간’에게 달려 있다. (164쪽)

이 말 설명이 필요한데, 편저자 이수영은 다음과 같은 설명을 한다.

인공지능이 발전하여 인간에 반하는 행동을 할 수도 있지만, 그 위험성은 높지 않다. 인공지능은 인간으로부터 배우기 때문에, 인공지능이 인간보다 더 위험하지는 않다. (109쪽)

그러니, 이제 우리에게 공이 넘어온 것이다. 해서 이런 글은 우리 인간의 책임을 강조하는 말이 아닐까 

인공지능 시스템에는 선천적인 약점이 있다. 이 때문에 잘못된 결정을 내릴 수도 있고 사용이 제한된다. 그러니 우리는 부단히 경계를 해야 한다. 우리는 인공지능 알고리즘이 어떻게 작동되는지를 항상 비판적으로 들여다봐야 하는 무거운 짐을 지고 있다. (34쪽)

‘no pain, no gain’이란 말처럼, 우리가 인공지능의 협력으로 발전된 세상, 편리한 세상을 살게 된다면, 당연히 그런 gain을 누리기 위하여 불가피한 pain 즉, 인공지능 알고리즘에 대한부단한 감시, 비판적인 성찰이 필요할 것이다. 이 책에서 그런 ‘성찰의 필요’를 발견하게 된다.

알파고와 이세돌의 세기의 바둑 대결도 벌써 몇 년이 지났습니다. 컴퓨터가 세계 체스 챔피언을 상대로 승리했을 때만 해도 엄청난 충격이었지만 체스는 경우의 수를 계산할 수 있는 반면 바둑은 경우의 수가 무궁무진하기 때문에 컴퓨터가 이기지 못할 것이라고 하였습니다. 이세돌과의 대결에서도 대부분 이세돌의 우세를 점쳤지만 최종적으로 알파고의 4:1 승리였네요. 이후 AI, 기계학습 등을 다룬 기사나 책이 많이 나왔고, 관련 분야의 연구도 빠르게 발전하고 있습니다.

AI 스피커에 말을 하면 알람을 설정하거나 오늘의 날씨를 알 수 있고, 듣고 싶은 음악을 들려주기도 합니다. 자율주행 자동차는 실제 도로를 달리며 시험을 계속하고 있네요. AI 가 발달하면서 우리의 삶은 더 편리해질 것으로 보이지만 한편으로는 두렵게 느껴지기도 하는데 '누가 인공지능을 두려워하나?' 에서는 인공지능의 역사와 현재의 상황 등 인공지능에 대해 전반적으로 설명하고 있습니다.

최근 인공지능 이야기가 많이 나오고 있어서 새로운 기술인지 알았는데 인공지능의 역사는 무척 오래 되었네요. 인공지능이 사람과 같은 수준인지 판단하는 대표적인 테스트인 '튜링 테스트' 는 이미 1950년대에 제안되었습니다. 컴퓨터가 등장하면서 인공지능도 발전하기 시작했으나 여러가지 한계에 봉착하면서 인공지능의 겨울이라고 불릴 정도로 정체된 시기도 있었네요. 이후 하드웨어의 성능이 좋아지고 신경망 등 새로운 개념들이 등장하면서 인공지능은 오늘날 많은 분야에 영향을 미치고 있습니다.

인공지능은 어떻게 학습을 하는 걸까요? 그리고 SF 소설이나 영화에 등장하는 것처럼 인공지능이 인류를 위협할 수 있을까요? 인공지능은 데이터가 주어졌을때 인공신경망을 통해 결과를 내고, 새로운 데이터가 들어올 때마다 조금씩 결과를 보정하면서 마치 인간이 학습하는 것처럼 보입니다. 인공지능은 강인공지능과 약인공지능으로 나눌 수 있는데 아직은 기술적인 한계로 강인공지능을 구현하는 것은 쉽지 않네요. 반면 약인공지능은 쇼핑몰에서의 상품 추천이나 영화/음악 추천 등 이미 널리 사용되고 있습니다.

그동안은 인공지능의 기술적인 부분에 초점이 맞춰져 왔지만 이제는 윤리적인 문제도 제기되고 있습니다. 대표적인 사례로 사고가 일어날 수밖에 없는 상황에서 왼쪽과 오른쪽에 각각 노인과 어린이가 있을때 자율주행 자동차가 어떤 방향으로 운전대를 돌릴 것인가가 있습니다. 인공지능의 알고리즘을 어떤 식으로 만들 것인지, 그리고 인공지능으로 인해 문제가 발생했을때 누가 책임을 질 것인지의 문제인데 인공지능에 대한 사회적인 논의가 필요한 시점 같아요.

19세기에 영국에서 산업혁명이 일어났을때 노동자들은 기계를 부수는 러다이트 운동으로 대항했습니다. 책으로 읽을 때는 노동자들의 행동이 잘 이해가 안되었는데 인공지능의 발달로 인간의 노동에 변화가 나타나고 있고, 인공지능으로 인해 사라지는 일자리가 생기면서 당시 노동자들이 어떤 기분이었을지 조금은 알 것 같네요. 인공지능에 대해 쉽고 재미있게 읽어볼 수 있어서 도움이 되었습니다.

책이 얇아서 빠르게 읽기 좋다. 인공지능에 관심이 있는 사람이라면 누구나 알 법한 얘기들이라 겉핥기가 아닌가 싶지만 바꿔 말하면 인공지능에 대해 무지해도 쉽게 읽을 수 있다는것이 이 책의 장점이다. 다만 2020년 초판 인쇄가 실화인가 싶을정도로 표지 디자인이 구리다. 한마디로 요즘 책 같지가 않다. 분명 디자인 외주를 맡길텐데 90년대 출간된 '논리야 놀자'같은 책 옆에 있어도 전혀 위화감이 없을 정도다. 90년대에 살던 50대 이상의 중년이 '미래적이다' 라고 생각할법한 디자인 요소(전자회로, 홀로그램)는 다 때려박았다. 그런데 또 글씨체는 명조체, 고딕체로 대충 버무려놓았다. 저자, 역자 사진도 화질, 색감 보정따위 1도 없이 검정 배경에 누끼따서 넣은 것이 매우 인상적이다. 돈아끼려고 대충 손재주 좋은 옆집 아저씨한테 디자인 맡긴게 아닐까 하는 합리적인 의심이 든다. 이 책은 보노보노, 무지개 배경과 더불어 디자이너를 괴롭히는방법 명예의 전당에 오를 자격이 있다. 솔직히 온라인 상에서의 표지도 구리다고 생각했는데 실제로 보니 전체 홀로그램 코팅이 되어있어 정신이 아득해졌다. 이런 디자인을 컨펌하다니... 출판사가 돈욕심이 별로 없는 듯하다. 디자인 전공이라 어쩔수없이 너무 많은것을 봐버렸지만 내용은 인공지능의 탄생부터 예측까지 볼 수 있어 좋다. 근데 다시 손이가지는 않을듯. 

누가 인공지능을 두려워하나?

토마스 람게/ 다섯수레

나는 인공지능이 전혀 두렵지 않다는 분? 손들어 보라고 하면 몇이나 될까 궁금하다. 영화나 최근에 내가 읽은 미래소설에서 그려지는 인공지능은 대부분 부정적인 이미지였다. 인간의 문명을 파괴하고 인간 자체를 말살시키려 했다. 모르는 것에 대한 사람들의 두려움을 미끼로 소설과 영화는 흥행했다. 결론은 인공지능에 대해 알아야 한다는 것이며 이 책이 당신의 두려움을 해결해 주는 책이다.

4차 산업혁명이 대두되면서 교육연수의 차원에서 두 달간 인공지능과 4차 산업 시대의 교육이라는 주제로 연수를 받은 적이 있다. 그때 놀라웠던 점은 가르치는 강사도 배우는 우리도 인공지능에 대해 정확히 모른다는 것이었다^^ 3차 산업혁명 시대를 살아온 우리가 다가올 4차, 5차 산업혁명 시대를 살아갈 아이들을 가르친다? 어딘가 서글픈 모순점이 보인다.

사람에게 어려운 일이 기계에게는 쉽지만, 반대로 사람에게 쉬운 일이 기계에게는 너무 어렵다는 것. 나는 칭얼대는 아기를 3분 안에 함빡 웃게 할 수 있다. 인공 지능 아기 돌보미 로봇에게는 쉬운 일일까? 칭얼대는 강도와 종류에 따라 아기가 무엇을 원하는지 다를 것이다. 인공지능의 발달에 따라 우리가 생각지 못한 많은 문제가 일어난다는 것에 주목할 필요가 있다. 얼마 전에 읽은 책에서 인공지능 로봇이 저지른 살인을 어떻게 처벌해야 하느냐라는 주제를 논의한 적이 있다. 스스로 생각이 가능한 스마트 기기에게 인권을 부여해야 할까? 이런 문제들 외에도 우리가 상상하지도 못한 문제들을 이 책은 제시하고 있다. 

기계를 향한 분노의 표출하면 떠오르는 역사의 한 장면을 떠올리는 일은 쉽다. 19세기 초, 러다이트 운동을 일으켜 영국 중부 최초의 기계식 방직기를 해머로 부숴버리는 노동자들이 있었다. 인공지능에 대한 사람들의 분노는 앞으로 어떤 방향으로 계속될지 모른다. 인공지능 알파고와 이세돌 9단의 대결은 전인류에게 충격적인 장면이었다. 나는 이세돌 9단이 바둑에서 졌다는 사실보다, 이젠 아무도 알파고에게 도전장을 내밀지 않는다는 사실이 더 충격적이다.

부정적인 면은 여기까지이고 사실 이 책은 인공지능 사물인터넷의 많은 장점들을 보여준다. 인공지능이 무엇인지? 어디까지 개발될 것인가? 인공지능의 역사와  인공지능과의 공존 방향에 대해서 많은 논제를 제공하는 책. 어렵지 않고 술술 잘 읽혔다. 진정 우리가 두려워해야 할 대상이 인공지능인지, 인공지능을 두려워하는 우리 자신인지를! 인공지능을 두려워하는 당신. 인공지능은 먼 미래의 일이라고 장담하는 바로 당신이 읽어야 할 책이다.

출판사 지원도서를 읽고쓴 주관적인 리뷰입니다

#누가인공지능을두려워하나 #토마스람게 #이수영 #한종혜 #뇌과학 #인공지능연구소

#다섯수레 #경제분야#협찬도서 #리딩투데이 #완독 #기계시대 #AI #IT

#인지신경과학 #경제예측 #책스타그램 #북스타그램

인공지능, 피해야하는가? 아니면 함께해야 하는가?

인공지능과 관련해서는 정말 많은 책과 이야기가 나와있다.
그중 가장 대표적인 이야기는 터미네이터와 메트릭스.
터미네이터에 나오는 스카이넷은 처음엔 사람들에 의해 만들어 졌지만 사람을 지배하고 파괴하게 만들게 된다.
하지만 이 책에서 나온 이야기를 토대로 하면 우리가 알고 있는 인공지능의 예상되는 미래는 터미네이터의 스카이넷보다는 아이, 로봇의 인공지능에 더 가까운 것 같다.
바로 성급한 일반화의 오류 말이다.

이 책에선 말한다.
사람의 가장 큰 문제를 우리는 "성급한 일반화"와 "편견"이라고 말을 한다.
일반적으로 가난한 사람들이, 그리고 백인보다는 흑인(미국에서)이 더 많은 범죄를 일으킨다는 편견이 있고, 그렇기에 우리는 백인들에게 더 친근함을 표시한다.
그러나 과연 이게 맞는 것일까?
오바마 전 대통령만 보더라도 흑인인데 대통령까지 했다.
오프라 윈프리도 흑인이지만 영향력이 높은 사람이다.
고인이 된 마이클 잭슨도 흑인이지만 훌륭한 가창력으로 사람들에게 많은 감명과 영감을 주었다.(뭐... 마지막엔 좀 그렇지만...)
이처럼 분명 인공지능도 문제점이 있다.
왜?
이것을 사람이 만들었기때문이다.

그럼에도 불구하고 저자가 확실히 말할 수 있는 것은 이런 인공지능과 로봇들이 많은 사람이 하던 업무를 확실히 적은 로봇으로 효율적으로 만들긴 할 것이며, 그로인해 없어지는 직업군이 반드시 생겨난다는 점이다.

그러나... 그 속에서 인공지능에 대응할 수 없는 인간다움이야 말로 우리가 갖고 있는 경쟁력이라 말한다.

인공지능과 로봇산업은 절대 작아질 수 없다고 한다.
이제 시작일뿐...
하지만 그것들이 우리를 지배하게 마냥 바라만 보기 보다는 그것들을 우리 스스로 지배할 수 있는 힘을, 생각을 길러야 한다는 것이 이 책에서 저자가 말하고 싶은 것이 아닐까 싶다.

전체 분량은 200페이지도 안되지만... 만만히 보기엔 다소 어려운 책이였다.

＜누가 인공지능을 두려워하나?＞라는 제목을 보는 순간, 두려움의 본질이 궁금했습니다.

우리는 AI 인공지능에 대해 얼마나 알고 있을까요.

막연한 두려움이나 거부감이 아니라 근본적인 문제부터 살펴보는 것이 중요합니다.

저자 토마스 람게는 독일의 경제 전문지 《브란트아인스》의 기자로서 과학기술 전문 기사를 쓰고 있으며, 최근 15년간 주목받는 저자로 활동하고 있다고 합니다.

이 책은 인공지능에 관한 궁금증을 확실한 정보를 통해 확인해주고 있습니다.

인공지능은 무엇인가, 어떻게 발전되어 왔고 지금 무엇을 할 수 있으며 미래에는 무엇까지 할 수 있을까. 과연 인공지능이 미래를 장악하게 될까.

얼마 전에 딥페이크가 범죄에 악용되는 사례를 보고 깜짝 놀랐습니다.

인공지능을 이용하여 어떤 사람의 목소리를 모방하거나 얼굴을 다른 사람의 몸에 합성하는 딥페이크는 진짜 같은 가짜 영상을 만들어내는데, 점점 이미지 합성 기술이 진화하면서 원본과의 차이를 파악할 수 없을 정도로 정교해지고 있습니다. 이는 영상뿐 아니라 음성 변조와 생성에도 이용되고 있습니다. 우려되는 것은 현재 AI 기술의 발전 속도로 봤을 때 딥페이크는 현실과 거의 구분할 수 없는 가짜 영상과 이미지를 만들어 낼 텐데, 이를 기술적으로 탐지하는 것은 어렵다는 것입니다. 딥페이크 합성 기술이 판별 기술을 앞선다면 심각한 사회문제가 발생될 가능성이 크기 때문에 하루빨리 제도적인 논의가 필요할 것 같습니다.

저자는 두려움 때문에 인공지능이 품은 희망을 간과해서는 안 된다고 이야기합니다. 

전기가 세상을 바꾸었듯이, 데이터로부터 학습하는 인공지능은 다양한 영역에 영향을 미치고 있습니다. 대표적으로 중국은 인공지능 학습을 위한 거대한 데이터 생산국이며, 14억 인구가 전 세계 데이터의 절반을 생성합니다. 특히 이 데이터는 주로 컴퓨터가 아니라 무선통신 모바일 기기를 통해 만들어지기 때문에 인공지능 시스템의 데이터 마이닝에 아주 적합합니다. 경제적인 관점에서 보면 중국은 더 빨리 경제 초강대국이 되어 수백만 명의 사람들이 빈곤ㅇ네서 벗어날 기회가 될 것입니다. 그러나 개인정보 보호와 정부 통제라는 관점에서 볼 때는 매우 우려스러운 면이 있습니다. 

현 상황은 명확합니다. 인공지능에 의한 산업발전이라는 수레바퀴를 멈추게 할 수는 없습니다. 코로나19 비대면 강화로 인해 인공지능과 로봇의 사용이 가속화되고 고용에 영향을 주고 있습니다. 인공지능이 인간의 일터로 더 빠르게 확장해 들어올수록, 사람들이 개인적인 직업 역량이나 사회적 안전 시스템을 준비할 시간은 줄어듭니다. 아직 대처할 준비가 되어 있지 않다는 것이 문제입니다. 따라서 우리가 주목할 것은 막연한 두려움이 아니라 해결책을 강구하는 것입니다.

미래는 인간과 인공지능이 공존하는 사회이므로, 인공지능을 위협의 대상이 아닌 도우미나 동반자로 보는 시각의 변화가 필요합니다.

결론적으로 인공지능의 특이점, 초지능이 인류의 종말을 가져올 거라는 시나리오는 과학적으로나 기술적으로 근거가 부족하다고 합니다. 인공지능 연구자 앤드루 응은 통제불능의 초지능에 대한 회의적 입장인데, 그 핵심을 다음과 같이 말했습니다.

"나는 오늘 인공지능이 사악해지는 것을 막기 위해 노력하지 않는다. 그 이유는 현재 화성의 인구 과잉 문제에 대해 걱정하지 않는 것과 같다."  (143p)

그러나 저자는 나중에 후회하기보다는 안전하게 가는 것이 좋다는 입장입니다. 인공지능으로 인한 데이터의 독점, 개인정보 조작, 정부에 의한 오용이라는 위험을 해결하려는 적극적인 노력이 필요하다는 겁니다. 인공지능의 윤리 문제는 사람의 윤리 문제로 대체될 수 있기 때문에, 인공지능의 책임에 대해 사회적 공감대가 형성되도록 정부의 노력과 입법이 필요합니다. 인류는 기술적 문제에 대한 법적인 해답을 반드시 찾아내야 합니다.

놀랍게도 인공지능의 약점은 인간을 꼭 닮았다는 것입니다. 인공지능은 인간으로부터 배우기 때문에, 인공지능이 인간보다 더 위험하지 않다는 겁니다. 나쁜 인간과 좋은 인간이 공존하듯이, 인공지능 역시 안전하면서도 위험하다는 것. 그러니 두려워할 이유는 없습니다. 이제는 어떻게 공존할 것인가,라는 질문의 답을 찾아야 할 때입니다.