다행히도 철학은 원리의 문제를 주로 다루기 때문에 그런 속도에 얽매일 필요가 없습니다. 실제 사례를 몰라도 된다는 뜻이 아니고, 거시적인 조망을 할 수 있다는 말입니다. 예를 들어볼게요. 인공지능(artificial intelligence)이란 기계로 지능을 구현하는 걸 말합니다. 인공지능 연구는 당연히 인간지능(human intelligence) 연구와 밀접하게 관련됩니다. 그런데 우리는 정작 인간지능이 무엇인지 아직 잘 몰라요. 잘 모르는 것을 구현할 수가 있을까요? 공학자들은 이런 질문에는 관심이 별로 없어요. 인간지능이 인공지능과 본성상 같다는 걸 전제로 깔고 작업하니까요. 그래서 연구가 성공할지 말지 알 수 없습니다. 그렇지만 우리는 철학적으로 이런 물음들을 던질 수 있고, 이런 작업은 결코 무의미하지 않습니다.
--- p.7

연구자들이 자율주행 자동차 교통망의 가장 큰 골칫거리로 지적하는 게 바로 인간 운전자입니다. 인간은 그 어떤 돌발 행동도 할 수 있기 때문입니다. 음주운전이나 졸음운전만 문제가 되는 게 아니에요. 보복운전이나 경쟁운전처럼 인간은 의도적으로 돌출 행동을 하곤 하니까요. 자율주행 시스템은 이런 돌출 행동에 취약합니다. 따라서 시스템이 완성되려면 결국 인간 운전자를 도로망에서 완전히 제거해야 합니다. 얼마간 유예기간을 두겠지만, 결국 법적으로 도로에서의 인간 운전을 완전히 금지하게 될 겁니다. 인간이 자동차 운전에 원천적으로 개입할 수 없어야 합니다. 하지만 법적으로 금지한다고 해서 인간 운전자가 없어질까요? 나는 이 점에 대해 무척 회의적입니다. 현실적으로 막을 방도가 없습니다. 사실 지금의 기술로도 자동차를 만드는 건 무척 쉽습니다. 간단한 제어장치와 몇 가지 부품과 모터와 배터리만 있으면 되거든요. 3D 프린터를 통해 부품들을 만들고 모터와 배터리를 결합해 조립하면 자동차가 만들어집니다. 누군가는 설계도부터 부품 조달 방법과 조립 과정까지 인터넷에 올려놓겠죠. 도심의 창고에서 만들어진 자동차가 어떤 운전자의 손에 이끌려 자율운전 시스템 안으로 들어가는 건 그다지 어렵지 않습니다. 이 자동차는 시스템의 제어 범위 바깥에 있습니다. 사전에 사고를 막기는 어렵고 제어는 사후에만 겨우 가능할 겁니다.
--- p.85-86

1971년에 샌프란시스코 동물원에서 태어난 암컷 고릴라 코코의 사례를 볼까요. 당시 스탠퍼드대학교 심리학 박사과정 중에 있던 페니 패터슨은 동물원의 동의를 받아 이듬해부터 코코를 연구하기 시작했어요. 지금까지 코코는 1,000개 이상의 수화를 배웠고 거의 2,000개의 영어를 구어로 이해하는 것처럼 보인다고 해요. 코코는 기쁨, 슬픔, 사랑, 고민, 어색함 등 자신의 감정을 표현하는 것은 물론, 이가 아프다는 걸 수화로 전달해 치료를 받기도 했어요. 다른 유인원인 보노보, 침팬지, 오랑우탄은 물론이고 회색앵무새, 회색돌고래, 프레리도그, 코끼리, 박쥐 등의 소통 연구도 활발히 진행되고 있습니다. 개체 차원에서 마음을 갖고 있다고 보기 어려워도 집단 차원에서 마음을 갖고 있는 듯 보이는 꿀벌이나 개미와 같은 경우도 흥미롭습니다(이걸 ‘떼 지능’이라고 해요). 모든 동물이 마음을 갖고 있다고 주장하려는 건 아니에요. 하지만 인간 말고 몇몇 동물들이 마음을 갖고 있다는 게 사실이라면(진화론적으로 충분히 가능하기도 하고요), 어떤 동물 종까지 마음을 갖고 있는 걸까요? 마음이 무엇인지 알아가는 과정에서 함께 탐구해야 할 내용입니다.
--- p.146-147

물리학자 스티븐 호킹, 마이크로소프트 창업자 빌 게이츠, 테슬라 최고경영자 엘론 머스크, 옥스퍼드대학의 철학자 닉 보스트롬, 『파이널 인벤션』의 저자 제임스 배럿 등 많은 명사들이 말하는 묵시록적 전망은 과장된 것입니다. 이들의 공통점은 인공지능 구현을 위해 노력하는 현장의 전문가가 아니라는 점입니다. 그리고 나는 이 책을 통해 초인공지능의 불가능성을 보였다고 생각합니다. 앞에서 역공학의 문제를 소개했습니다. 역공학 방식으로 인공지능이 만들어진다면, 즉 인간의 뇌를 일부라도 그대로 프로그램으로 옮기는 일이 생긴다면 그게 오히려 더 우려할 만한 상황일 수 있다는 거였죠. 그런데 나는 이 문제도 심각하지 않다고 판단합니다. 뇌 과학을 통해 마음을 알 수 있다는 데 회의적이거든요. 뇌는 그나마 객관적 탐구가 가능한 반면, 마음은 객관적 접근이 불가능하니까요. 따라서 마음의 몇몇 기능을 구현하는 뇌의 부분들 또는 커넥톰을 프로그램에 복사해 넣는 것은 상상에서나 있는 일이라고 봅니다.

과연 기계가 ‘생각’할 수 있을까?
인공지능의 원리를 찾아, 인간의 ‘마음’을 묻다!

책은 앞서 본 한 가지 질문에서 시작한다. “기계가 생각할 수 있을까?” 그렇다면 우리는 ‘생각’이 무엇인지 알고 있을까? 정작 앨런 튜링은 ‘생각하다(think)’를 정의내리지 않고, “튜링 검사(조사자가 5분간 대화를 나눈 뒤 대화 상대가 사람인지 기계인지를 판단한다. 사람이라고 오인받는 경우가 30%를 넘는 기계는 튜링 검사를 통과한 것으로 본다)를 통과한 경우 생각한다고 보자”라고만 제안했었다. 저자 김재인은 이것이 튜링에게 최선이었으리라고 평가한다. 우리는 생각과 마음이 정확히 무엇인지 알지 못하며, 당장 내 옆에 있는 사람에게 생각과 마음이 있다는 것조차 알 방법이 없기 때문이다. 나 스스로만이 내가 생각하고 마음을 가지고 있음을 확신하고 증명할 수 있다는 점에서 이들은 ‘주관적’ 대상이다. 이 논의는 책의 5장과 6장에서 플라톤과 데카르트를 읽으며 서구 사회를 지배해온 몸과 마음의 이원론과 이것이 현재 인공지능 개발에 어떻게 적용되고 있는지 살펴보는 것으로 이어진다. 또, 마음, 몸, 생명 등에 대해 생물학, 뇌과학, 심리학, 철학, 공학 등의 분야에서 연구된 성과들을 확인하며 ‘마음’이 무엇인지 답하고자 했던 인간의 노력들을 검토한다.

동시에 『인공지능의 시대, 인간을 다시 묻다』는 우리의 ‘지능’이 진화의 산물이라는 점을 지적한다. 인간(생명체)이나 인공지능(기계)이나 해결해야 할 문제에 맞닥뜨린다는 점은 동일하다. 그런데 인공지능에게 문제란 인간이 정해준 과제인 반면, 생명체에게 문제는 환경으로부터 닥쳐오는 생존의 과제이고 ‘문제의 포착과 해결’은 진화의 과정이 된다. 즉, 인간과 인공지능이 겪는 문제나 문제 해결이 서로 다른 위상을 갖는 것이다. 책은 기계학습 전문가인 페드로 도밍고스(Pedro Domingos)의 말을 인용하며, 인공지능의 핵심인 알고리즘은 자신의 고유한 의지로 목표를 세우고 그 목표를 성취하는 게 아니라고 강조하고 있다. 알고리즘이든 프로그램이든 목적에 맞게 인간에 의해 주어지는 것이고, 기계는 과거의 데이터를 통계적으로 학습할 뿐이다. 알파고와 같은 인공지능도 단지 계산만 뛰어날 뿐이며, 따라서 그것을 뛰어넘을까 두려워할 필요는 없다는 게 이 책이 인공지능에 대해 확언하는 바이다.

서울대 명강의 [컴퓨터와 마음]을 책으로!
인공지능의 시대, 무엇을 어떻게 공부해야 할까

『인공지능의 시대, 인간을 다시 묻다』는 서울대학교 인기 교양 과목인 [컴퓨터와 마음]을 책으로 엮은 것이다. 수년간 공대생들에게 필수 과목이었던 이 수업은, 이미 다가온 인공지능 시대가 역설적으로 우리 ‘인간’ 자신을 다시 되돌아볼 시기임을 말해왔다. 강의를 듣듯이 읽을 수 있어 딱딱할 수 있는 내용도 따뜻하게 전달되며, ‘철학’이라고 하면 막연히 어렵게 여겨지고 일상과의 괴리가 느껴지게 하는 그 벽을 허물어준다.

“여러분은 앞으로 뛰어난 인공지능과 살아갈 시간이 길 거예요. 그 속에서 잘 살 수 있는 방법이 무엇일까요? 새로운 시대에 인간만이 할 수 있는 일, 또는 인간이 더 잘할 수 있는 일을 고민해봐야 합니다. 바로 여러분의 문제이니까요.”(14쪽)

많은 이들이 걱정하듯이 기계와 인공지능은 바둑이든 운전이든, 주어진 분야가 있다면 끝끝내 인간을 뛰어넘을 것이다. 그렇다면 인간은 모든 일을 뺏기고 마는 것일까? 저자 김재인은 결국 우리는 인공지능이 뺏을 수 없는 일, 인공지능이 할 수 없는 일을 해야만 할 것이라고 주장하며 그 길을 ‘창작활동’에서 찾는다. 모두가 예술가가 되라는 말이 아니다. 창작이 학습의 핵심 활동으로 여겨지고, 각 개인이 창작자가 되어보고 메이커가 되어보는 경험이 최대한 많아야 한다는 주장이다. 추상적이고 막연하게 보일 수도 있겠지만, 당장 교육 과정에서 그런 과제를 던져주지 않으면 머지않아 우리 아이들이 인공지능과의 경쟁 끝에 할 일을 빼앗기고, ‘무엇을 할 수 있을지’ 고민하는 삶을 반복하게 될 것이기 때문이다.