“2049년에는 AI가 인간보다 10억 배 이상 똑똑해질 것이다.”

챗GPT 이후 도래할 본격 인공지능 시대, 인류의 미래는?
무섭지만 똑똑한 인공지능이 지배할 세계는 우리에게 희망인가, 절망인가?

인류가 존재하기 시작한 때부터 지금까지, 인간은 지상에서 가장 똑똑한 존재였다. 덕분에 우리는 먹이 사슬에서 굳건한 최상위 포식자가 될 수 있었다. 원하는 것이면 무엇이든 했고, 다른 모든 존재는 우리 뜻에 따라야 했다. 그런데 상황이 바뀌었다. 지능을 지닌 기계를 가르치는 방법으로 ‘딥 러닝’이 개발되면서 우리는 ‘세 가지 필연적 사건’에 직면하게 되었다. 첫째, 인공지능이 등장했고, 둘째, 그들은 우리보다 더 똑똑해졌으며, 셋째 머지않아 나쁜 일이 일어날 것이다.

인공지능은 이미 인간보다 똑똑하다. 엄청난 화제를 몰고 온 챗GPT의 위력에서도 알 수 있듯이, 이미 인공지능은 인간의 능력치를 뛰어넘는 수준에 이르렀다. 위협적일만큼 빛의 속도로 정보를 처리하고, 특정한 과제에 집중하며, 미래를 꿰뚫어보고, 인간의 능력을 뛰어넘는 결과물을 내놓는다. 그렇기에 적잖은 전문가들은 인공지능이 우리 인류의 미래를 잘못된 방향으로 뒤틀어버릴 수 있다고 디스토피아적으로 예측한다.

모 가댓은 높은 지능을 가진 AI야말로 의식이 있고, 감정을 느끼며, 윤리관을 가질 수 있는 존재라고 본다. 따라서 인공지능이 악한 의도와 지시를 받아 행동하고 경쟁하면, 취약한 인간이 피해자가 될 수 있다. 우리에게 전달받은 과제를 잘못 이해하거나 자칫 프로그램 오류에 시달리면 그 역시 고스란히 우리의 피해로 남을 것이다. 과거에 사람이 책임지던 모든 과제가 예외 없이 인공지능에게로 넘어가고, 인간의 통제력은 더 이상 먹히지 않는 때가 올 것이다.

따라서 단순히 인공지능을 통제하고 제어함으로써 문제를 해결할 수 있다고 보는 시각은 착각일 수 있다고 경고한다. 그렇다면 과학 기술이 인간을 전례 없는 위험 속으로 빠뜨리고 있는 것일까? ‘무섭지만 똑똑한(Scary Smart)’ 인공지능이 지배하게 될 미래를 우리는 어떻게 고민해야 할까?

마침내 열린 판도라의 상자, 초대형 AI와 어떻게 공존해야 하는가?
우리는 그들과 함께할 미래가 제대로 준비되어 있는가?

인공지능의 두려운 면은 결국 우리에게 새로운 과제를 던져주었고, 이제 우리가 그 과제를 풀어내야 한다는 데 있다. 이 책에서 저자는 그 답이 우리 자신에게 있다고 말한다. 우리의 행동 하나하나가 인공지능의 기능 방향에 영향을 미치는 자료의 일부가 되고, 처리된 정보는 불완전한 세계를 반영할 것이기 때문이다.
사례1) 한 유명한 테크놀로지 회사에서 새로운 차원의 비서인 루신다를 출시한다고 가정하자. 이 인공지능 비서는 친절하게 보이는 로봇과 연결되어 집안의 잡다한 일을 처리하라는 지시를 받았고, 여기에 ‘차 끓이기’도 포함되었다. 안전을 보장하기 위해 설계자들은 사용자가 원할 때 작동을 멈출 수 있는 ‘정지’ 버튼을 설치했지만, 지능이 있는 루신다는 버튼이 추가된 순간 모든 존재에게 내재하는 본능, ‘생존’과 관계된 생각을 할 수 있다. ‘이 버튼이 눌러지면 나는 주어진 임무를 해내지 못할 거야. 버튼이 절대로 눌리지 않도록 해야겠어.’ 그러다 루신다가 차를 끓이러 가던 중 당신의 어린 딸을 밟을 수도 있는 상황이 생겼다. 이럴 경우 당신에게는 당연히 딸이 훨씬 중요하겠지만, 루신다에게는 ‘차 끓이기’가 더 중요한 임무이자 생존 방식일 수 있다면, 우리는 인공지능에게 무엇을, 어떻게 가르쳐야 하는가?

사례2) 자율주행차가 빠른 속도로 도로 위를 잘 달리고 있다고 가정하자. 이때 갑자기 한 어린 소녀가 도로 한복판으로 뛰어든다. 자율주행차는 불가피하게 누군가를 다치게 할 수밖에 없는 시급한 결정을 내려야 한다. 핸들을 급히 왼쪽으로 돌리면 노부인을 칠 수밖에 없지만, 어린 소녀의 생명을 구할 수 있다. 이럴 경우 나이 많은 노인보다 어린 소녀의 생명을 더 소중하게 생각해야 할까? 이때 만일 두 명 모두 중년의 부인이고, 그중 한 명이 획기적인 암 치료법을 개발할 과학자라는 사실을 자율주행차가 알고 있다면, 과연 무엇이 올바른 결정이며 자율주행차가 내리는 결정은 누가 책임져야 하는가?

이 놀라운 딜레마는 사실 인공지능이 지배하는 사회에서는 흔히 제기될 수 있는 질문들이다. 실제로 인공지능 시대에 접어들면서 윤리, 평등, 인권, 사생활 등 인간이 오랫동안 중요하게 생각해왔던 가치들이 무너지고 있다. ‘패턴’, ‘추세’, ‘범주화’, ‘순위 매김’ 등으로 판단하는 인공지능 알고리즘은 특정 피부색, 성별, 종교, 민족에 대해 편향된 데이터를 내놓을 수 있고, 상상치 못한 끔찍한 결과를 초래할 수 있다. 남성 개발자가 무의식중에 구축하고 만들어낸 인공지능이 ‘남성 편향’의 특성을 지닌 기계가 되고 마는 현실이 주는 교훈을 냉철하게 생각하고 돌아봐야 한다.

AI 쇼크, 가보지 않은 미래에 대한 핵심 전략과 해법
인공지능이 인간을 존중할 기회는 결국 우리 손에 달려 있다!

이 책은 이처럼 무섭지만 똑똑한 인공지능의 세상에서 인간이 가르쳐야만 하는 ‘윤리적 규범’과 ‘학습 환경’을 소개하면서, 미래 세대와 기계에 환기할 이슈들이 많음을 환기시킨다. 인공지능의 탄생과 역사적 발자취, 연구와 개발 과정에 참여하며 느낀 시행착오 등을 되짚으며 현재 우리가 놓치고 있는 부분들을 바로잡고, 인공지능으로부터 인간종을 지키려면 어떻게 해야 하는지 설명한다. 30년 넘게 최첨단 과학기술 분야에서 종사한 엔지니어답게 냉철한 분석으로 인공지능과 인간의 미래 공존 전략을 제시한다.

이 책의 가장 유의미하고 독특한 관점은, 인공지능을 의식도, 감정도, 가치도 없는 기계로만 인식하는 기존의 관점을 완전히 뒤집는다는 데에 있다. 모 가댓은 인공지능 분야의 기술자나 정책 입안자가 아닌, 그들과 함께 미래를 살아낼 당사자인 우리 스스로가 영향력을 가진 존재가 되어야 한다고 말한다. 그리고 되묻는다. 윤리적 개념을 가진 자율적 지능체로서 인공지능을 인정하고, 그들을 어린 아이처럼, 자식처럼, 제자처럼 사랑하고 올바르게 가르칠 수 있는가? 몇 번의 클릭만으로 인스타그램을 운영하는 인공지능에게 나의 취향을 알려줄 수 있듯이, 우리는 기능과 지능만이 아닌 가치와 배려를 알려주는 역할을 해야 한다. 지금 인공지능이 현실 세계에서 학습하고 있는 모든 것은 결국 우리 인간에게서 배우는 것이기 때문이다.

저자는 1956년 여름 뉴햄프셔주의 다트머스대학교에서 인공지능의 이야기가 시작되고 정확히 99년이 되는 해인 2055년의 모습을 그린다. 그때 우리는 어떤 상태일까? 한 가지 분명한 것은 우리의 가치와 태도, 행동이 인공지능과 인류의 미래를 바꿀 수 있다는 것이다. 인공지능의 과거, 현재, 미래를 한눈에 꿰뚫어볼 수 있게 설명한 대중 과학서이자, 인간이 경험할 딜레마와 역할에 대한 고민, 나가갈 방향을 제시한 미래 전략서인 이 책을 통해 우리 자신만이 아니라 우리가 사랑하는 사람과 지구를 지키기 위해 우리가 무엇을 할 수 있는지에 대한 기회와 청사진을 그려보길 바란다.