개인적으로 인공지능에 대한 현실적 관심은 2016년 이세돌9단과 알파고 대국이라기 보단,

아이가 음성인식 기술인 시리(SRI)와 대화하는 모습을 보면서부터이다. 그 모습을 이야기 해보자면, 자신이 원하는 의미를 전달하며 인공지능과 재미나게 대화하는 모습은 문제될게 없어보였다. 하지만 자신의 의미가 제대로 전달되지 않아 쉽게 짜증을 내거나, 어른이 되면 칩으로 지식을 심으면 된다는 확신 섞인 말을 들으니 ‘이대로 괜찮은가?'라는 질문이 자연스럽게 다가왔다.

  인공지능이 보여주는 정보와 지식의 힘은 우리 스스로가의 존재가치를 쉽게 수동적으로 만든다. 스스로 계속해서 질문하고 탐구하는 힘보다는 편리함에 의존하게 만든다. 자신의 능력을 의심하지 않음을 포함한다. 여기서 능력이란 인공지능에 전혀 의기소침하지 않아도 될 스스로에 대한 능력이며, 의심이란 고도로 발달한 인공지능의 정신적 노예가 되지 않기 위함이다. 

 인류학자 루스 베네딕트는 ＜국화와 칼＞이라는 책에서 일본의 문화는 군사적 패배(의도치 않게 죽음을 피했더라도)보다 천황 앞에서 할복이라는 극단적 행동을 하는 다소 충격적 문화를 하나의 체계로 인정하게 만들었다. 그럼으로써 미국 점령군은 처음 계획과 다르게 일본에 천황 제국주의 폐지를 굳이 강요하지 않게 만들었다. 그녀가 일본이라는 사전 경험이 전혀 없는 문화에 다가가 그 문화의 구조를 파악해냈듯이 우리도 계산하는 기계에게 다가 가야한다. 

“기계가 X를 할 수 있다면, 생각할 수 있는 것이다.”

X에 무엇을 넣어야 기계가 생각한다고 말 할 수 있을까? 코플랜드가 말하는 3장의 결론을 빌려오자면 “미래의 인공물들은 생각할 수 있고 우리만큼이나 대규모 적응성을 지닐 수 있다”로 모을 수 있다. 동시에 우리는 ‘생각한다’의 정의를 바꾸거나 확장할 필요가 있음을 이야기한다.(3장) 

 생각한다는 고정관념에서 자유롭기 위해 저자가 던진 첫 번째 질문은 ‘생각에서 의식이 필수적인가?’이다. 저자는 의식적 행위는 사실 ‘생각한다’와 ‘자신이 생각한다는 것을 의식하고 있다’를 혼동하고 있을 뿐이라고 이야기한다. 그리고 이 말에 완고한 반대를 할 사람은 없다고 생각한다. 본문 외에 나의 예를 들어보자면, 지금도 나는 컴퓨터에 앉아 있으며 (의식하지 못했지만) 나의 손은 수 없이 내 얼굴의 어느 부분을 오고 갔다. 그리고 최근의 예로 평소 잠을 잘 때 이불을 덮고 자는 습관은 없으나 감기로 호흡기 문제가 있거나, 우풍이 있는 곳에 잠을 자게 되면 이불을 머리끝까지 덮으며 스스로를 보호하는 자신을 발견하고 한다.

두 번째 논의는 “튜링테스트”이다. 튜링은 결정론적일 뻔한 컴퓨터에 무작위 선택(똑같이 바람직한 선택지들 사이에서 취하는 선택) 장치를 추가한 아이디어를 논의한 최초의 사람일 뿐이며 무작위 선택이 자유로운 선택이 될 수 없음을 지적한다. 여기서 무작위 선택은 단지 평행을 깨는 역할을 할 뿐이며, (대체로 동등하게 만족스런 선택지들 중에서) 군계일학의 상황 (만족스런 선택지들 중에서 선택이 이루어진 상황)일 뿐이다.

“우리의 핵심 질문은 ‘기계가 정말로 생각한다고 말할 수 있는가’에 대한 튜링의 전략은 본질적으로 질문자에게 질문을 되돌려 주는 것이었다. 다음과 같은 형태로. “한번 생각해봐. 그들이 X를 할 수 있는 기계를 만들었다면, 당신은 기계가 생각할 수 있다는 말에 동의할 수 있을까?” 이 질문에 대한, 튜링 테스트와 같은 간접적인 접근법은 실패한다는 것을 이제 깨달을 수 있다. 왜냐하면 외적 행위 능력 만큼이나 내적 수행 능력을 고려하더라도, 튜링의 도발적인 문제제기에 대해 확실히 ‘예스’라고 대답할 수 있도록, X의 자리를 채울 방법이 전혀 없기 때문이다. (p.124)

이 X의 자리를 채우기 위해 저자는 자유와 의식에 관한 논의를 이어간다. 여기서 의식은

비-의식적 영역에서 일어나는 인지활동이나 상황판단이 얼마나 우리의 상식을 벗어나는 것과 관련되어 있다. 동시에 상식을 벗어난다는 것은 의심의 여지없이 복종 또는 예속에서 벗어나는 것이다. 예를 들어 개가 주인을 기쁘게 한다는 상식에서 벗어나야, 사람이나 개가 복종하기를 원하지 않는다는 진정한 상식에 닿을 수 있다. 단지 서로 다른 환경에서 형성되었기 때문에 서로 다른 필요에 따라 반응할 뿐임을 알 수 있다.

자유가 ‘필연적 세계와 양립가능하다는 주장’이나 ‘초월적 자유를 내세우는 주장’ 사이에서 어떤 자유를 취할 것인지에 따라 인공 지능의 자유를 다르게 논할 수 있다. 다시 말해 우리의 필요에 따라 인공지능은 방향을 설정하게 된다. 

저자가 주장하듯 실험과 증거수집으로만 비경험적 문제에 답할 때, 증거 수집은 아무런 의미 없다. 기존의 지식이 완전히 절단될 수 있겠구나라는 단순히 ‘~는 그럴거야’라는 한계를 반드시 뛰어넘어야 한다. 

"계산하는 기계는 생각하는 기계가 될 수 있을까?" 4차산업혁명과 관련된 모든 것이 이슈가 되고 있는 요즘, 책 제목이 확 눈에 들어왔다. 이제 4차산업혁명이라는 거대한 패러다임 속에서, 기계는 단순히 계산하는 도구가 아닌, '머신러닝' 또는 '딥러닝'을 통해서 스스로 배우고 '인공지능'을 탑재한, 어쩌면 진짜 '인간'과 같은 모습으로 나타날지도 모른다는 생각 때문이었다.

막상 받고 보니, 이 책의 원제는 "Artificial Intelligence: A Philosophical Introduction"이었다. 원제를 다시 읽어보니, AI와 관련된 수업 교재인가? 싶었다. 아니나다를까. 책의 첫 서문에 이 책은 심리철학과 인지과학 수업의 교재라는 것이다. 다시 대학생이 된 기분으로 책을 읽기 시작했다. 그리고 다시 책의 맨 앞장을 살펴보았다. (C) 1993. 27년에 인공지능에 대한 교재가 쓰였졌다니! 놀라지 않을 수 없었다. 기계, 인공지능, 철학, 단순히 이런 단어들을 들으면 영미권 또는 유럽지역의 선진국 어디 옥스포드대학이나 하버드 대학교 교수 정도 되는 사람이 쓴 책이거니 싶었는데, 이 또한 편견이었다. 잭 코플랜드라는 이름이야 철학과 과학사에 문외한인 나에게 생소한 이름이라 처음듣겠거니 했지만, 저자는 영국도 미국도 아닌 뉴질랜드에 위치한 캔터베리대학교의 철학/논리학 교수였다.

철학과 논리학 교수가 쓴 교재인 만큼, 이 책은 처음부터 끝까지 '기계가 생각하는 것이 가능한가?' 라는 명제에 대해 논증하는 책이다.

이 책이 비록 27년 전에 출판된 책이더라도, 인공지능에 대한 논의는 훨씬 더 이전인 컴퓨터가 출현하는 시점부터 시작된다. 인공지능 기원에서부터 출발하여, 저자는 기호체계와 계산주의와 관련된 다양한 시도와 철학적 논증들을 소개한다. 아마도 이 책에서 가장 핵심이 되는 인물은 '튜링'일지 모르겠지만, 튜링 외에도 다양한 철학자의 사고논증과 그동한 시도되었던 다양한 형태의 인공지능 프로그램의 구현에 대해 언급하였다. 조금 지루하기도 한 논증들을 훑고난 뒤, 저자는 인간과 기계를 구분짓는 자유의지와 인과관계 규명(7장)에 대해서도 언급하고 있다. 그렇다면 과연, 우리의 인지과정은 알고리즘으로 계산할 수 있는가? 10장에서 마침내 저자는 기호가설을 넘어서 네트워크를 이용한 인공지능의 구현에 대해 언급한다.

개인적으로 이 책 앞부분에 실린 감수의 말과, 저자가 쓴 '들어가며'는 이 책의 훌륭한 요약본이라고 생각한다. 만약, 이 책과 함께 '기계가 생각하는 것이 가능한가?'에 대한 끈질긴 논증과 추론을 해나가길 원한다면, 감수의 말과 '들어가며' 부분은 책을 다 읽고 난 맨 뒤에 읽어보는 것을 추천하고 싶다. 이 부분은 아주 훌륭한 요약본이기 때문에, 이 질문에 대한 아주 짧은 대답이기도 하기 때문이다.

추가로, 본문에서도 많은 철학자들과 다양한 학자들의 논증이 언급되어 있는데, 주석의 양도 상당해 이 책을 제대로 이해하려면 아주 많은 양의 지식이 필요한 듯 싶다. 개인적으로, 배경지식이 없다면 결코 쉽게 읽을 수 있는 책은 아닌것 같다.

잭 코플랜드의 책. 『계산하는 기계는 생각하는 기계가 될 수 있을까?』(에디토리얼, 2020)를 읽고.

계산하는 기계는 생각하는 기계가 될 수 있을까?

저자

잭 코플랜드

출판

에디토리얼

발매

2020.01.12.

이 책은 인공지능을 이야기하며 과연 인공지능이 사람과 같이 생각하는 기계가 될 수 있을지, 의식을 가지고 자유 의지로 행동할 수 있는 기계가 될 수 있을지 고찰해보는 철학적인 내용의 책이다. 컴퓨터가 생기고 IT기술이 발달하여 인공지능 AI와 사람과의 관계에 관한 물음은 오래전부터 지속되어 왔다. 영화 AI에서는 불치병에 걸린 아들을 대신해 데이빗이라는 로봇이 모니카 가정에 입양되는 것으로 나온다.  물론 데이빗은 초기에 모니카를 엄마라고 부르도록 입력어가 설정되어 있기는 했지만, 지능과 감정을 가진 로봇이었기에 가족에게 사랑받고 관심받기 위해 행동했고, 버림받게 되었을때는 눈물까지 흘린다. 데이빗의 이러한 행동들은 하나하나 프로그래밍되었다기보다 스스로 의식을 가지고 결정하고 행동한 것이라고 보는 것이 타당해 보인다. 만약 이렇게 자의식을 가지고 행동할 수 있는 로봇이 있다면 그때에는 인간과 로봇을 어떻게 구분하고 분류할 수 있을까? 사고 능력이 과연 인간만의 능력이라고 볼 수 있을까?

이 책은 10장의 내용을 말하기 위해 앞의 많은 이야기들을 하고 있는 것 같다. 우선 인공지능과 컴퓨터의 역사부터 시작한다. 책을 읽다보면 이미 이 정도의 개발 수준은 넘어섰는데라고 느끼는 부분이 있는데 실제 이 책이 쓰여진 시기는 1993년이고 우리나라에 번역된 것이 최근이라 인공지능 개발 현황에 대한 갭은 어느 정도 존재한다. 3장부터 기계는 생각할 수 있을지, 자유의지와 의식을 가질 수 있을지에 대해 여러가지 실험을 통해 생각해본다. 결론은 인공물이 의식을 가질 수 없다는 주장은 당연하지 않다는 것. 왜냐햐면 퀄리아(Qualia)에 관한 한 아무도 모른다는 것이다. 다시말해, 비물리적인 특성이 자연적인 뇌에서 생성된다면, 그것이 적합한 인공적인 뇌에서는 왜 안되겠으며, 반대로 의식이 물리적인 현상이라면 인공물인 로봇에서도 당연히 퀄리아를 경험할 수 있다는 것이다. 외계인의 생리학이 우리와 다르겠지만 퀄리아가 있는 존재일 수도 있는 것처럼 로봇도 생리학이 우리와 다르지만 그들만의 퀄리아가 있을 수 있다는 것. 즉, 여기서는 로봇의 의식 존재에 대한 가능성을 열어두고 있다. 마지막 10장에서 저자는 병렬분산처리 방식을 이야기한다. 이는 인간의 신경 체계가 네트워크처럼 기능하는 것에서 아이디어를 얻어 인공신경망을 연결하여 인공지능을 구현하는 방식이다. 인간의 뇌에 대한 연구를 통해 좀 더 인간의 뇌와 유사한 인공지능 개발을 진행해 나가고 있는 것이다. 인공지능의 개발이 어느 수준까지 도달할지는 알 수 없지만 인간의 지적 능력 수준을 따라가려는 인공지능 개발현황을 보여주면서 인간과 로봇의 경계가 점점 모호해 지는 것이 아닌지 의문을 제기하고 있는 것 같다. 그리고 이때 과연 인간만이 가지고 있다는 생각한다는 능력을 어디서부터로 정의해야하고, 과연 그 능력이 인공지능에게 갖춰줬을때 우리는 인공지능에게 편견을 가지지 않을 수 있을까라는 생각이 들게 한다.

데카르트가 했다는 생각하는 것이 우리의 본질, Cogito ergo sum이라는 말은 새로운 지지자들에 의해 현재 Cogito ergo sum macina, 나는 생각한다, 그러므로 나는 기계다라고 불리운다. 인간만이 생각할 수 있다는 것을 부정하고, 기계도 지능을 가질 수 있음을 주장하는 말이다. 다시 영화로 돌아가 만약 먼 미래 데이빗과 같은 기계 지성체가 등장했을때 인간과 기계는 편견없이 함께 공생할 수 있을지, 또한 기계와 인간을 구분짓는 정의를 생각하는 능력에서 다른 어떤 것으로 바꿀 수 있을지 생각해볼 문제이다. 이 책은 인공지능의 본질을 깊게 탐구하는 책으로, 기계와 인간은 다르다는 말이 개념적 오류를 가지고 있는지 철학적으로 풀이하고 있다. 중간중간 많은 역사적 기술과 생물학적, IT관련 해석들이 어려워 완벽히 이해하기 어렵지만 이 책이 심리철학과 인지과학 수업의 교재로 쓰이고 있는 만큼 비전공자 입장에서는 이해되지 않는다고 큰 부담을 가질 필요는 없는 것 같다. 읽어보며 인간의 본성에 대해 한번쯤 생각할 수 있는 기회를 가진 것에 만족한다.

#계산하는기계는생각하는기계가될수있을까? #잭코플랜드,

#박영대, #김재인, #에디토리얼, #인공지능, #원탁의서평단

도전장은 던져졌다 

손안의 비서 - 시리와 빅스비, 알렉사 - 와 이야기하고, 허공에 대고 혼자 중얼거리는 이들이 더는 기괴하게만 보이지 않는 요즘이다. 21세기의 세 번째 10년이 시작됐고 사회 전반에서 4차 산업혁명과 인공지능 시대에 돌입하고자 박차를 가한다. 한 대기업에서는 로봇업무자동화 시스템 8대가 249명의 몫을 해낸다. 이는 237명이 연간 총 3만9000시간을 투입해야 하는 업무다. '알 파트장'이라고 불리는 이 인공지능은 사내 네트워크에 정식으로 '동료'로 등록되어 다른 직원과 협업이 가능하다.

알파고가 바둑 명예 9단에 등극하면서 인공지능에서 장밋빛 미래를 보는 이들과 더불어 그 이면을 우려하는 사람도 많아졌다. 체스와 달리 바둑에서 기계가 인간을 넘어설 수 없다던 호언장담은 전설 속으로 사라져버렸다. 기계의 진화는 어디까지일까? 기계가 스스로 생각하고 자유의지를 가질 수 있을까? 더 나아가 의식이란 무엇일까? 이 책 ＜계산하는 기계는 생각하는 기계가 될 수 있을까?＞에 손이 가지 않을 수 없는 이유다.

저자인 잭 코플랜드는 심리철학, 언어철학, 논리학을 주제로 강의하고 글을 쓰는 학자이자 튜링 연구 전문가다. 그가 이 책을 쓴 건 1993년이다. 4반세기 전 인공지능의 현실은 어땠을까? 그리고 다가올 다음 세기를 맞이하며 어떤 전망을 그렸을까? 저자는 컴퓨터가 마침내 체스판에서 인간 정신을 이기는 때가 되면, 하나의 강력한 상징이 만들어질 것이라고 했다(69). 인공지능 딥 블루가 체스 세계 챔피언을 꺾은 지 20년이 흘러 '알 사범' 알파고는 68승 1패라는 화려한 전적을 남기며 2017년 은퇴했다. 듣도 보도 못한 알파고의 포석은 이제 많은 바둑 기사가 즐겨 쓰는 수법이 되었고 인간 기사들은 알파고의 후배들과 대국 훈련을 한다.

이 책의 원제는 ＜인공지능: 철학적 입문＞이다. 과학과 인문학의 첨병과도 같은 '인공지능'과 '철학'이 제목에 나란히 있는 것을 보라(입문이라는 말은 일단 제처두자). 코플랜드는 직관적으로 사유하는 방식이 적용되지 않는 사례들을 들어, 일반적인 사유 방식이 모든 사례에 적용할 수 있을만큼 보편적이지 않다는 것을 보여준다. 가만, 분명 저자는 평이한 문장으로 누구나 이해할 수 있게 썼다고 했는데?(데카르트 곱이 대체 뭐지...) 머리속이 혼란하다. 수수께끼를 풀기 위해 스핑크스를 마주하는 것처럼 긴장과 흥분으로 저자의 논지를 열심히 쫓아가다 보면 십중팔구 '슈뢰딩거의 고양이'와 만나게 된다. 그렇다, 독자는 사고실험을 해야 한다. 

모든 사고실험에 개념상의 오류는 없다. 그렇다고 근거도 없다. 저자의 말대로 '만약'이라는 거대한 함정이 곳곳에 도사리고 있을 뿐. 이 구덩이를 잘 헤쳐갈 수 있을까? 책장을 넘기며 독자는 생각의 지평을 사정없이 늘리고, 쥐어짜고, 거꾸러뜨릴 만반의 준비를 해야 한다. 도전장은 던져졌다.

생각하는 존재 컴퓨터? 컴퓨터! 

18세기 줄리앙 드 라 메트리가 "인간은 시계다”라고 했을 때 당신은 분노했다. 나를 시계 따위와 비교하다니! 근 2세기가 흘러 '당신은 컴퓨터 같네요'라는 말은 셈이 신속 정확하다는 뜻이며, 당신도 라 메트리 시대와 같은 분노로 치를 떨지는 않을 것이다. 

'당신, 알파고군요!' 2020년의 어느 날 이런 소리에 당신은 '아이고, 아니죠'라며 손사래를 칠 테지만 한편으로 뿌듯해할지 모른다. 나의 지능과 지식은 인간을 넘어선다! 심지어 어떤 이들 - 과학자나 미래학자를 포함하여 - 은 기계가 되기를 원한다.

기계가 생각하는 것이 개념적으로 불가능하지 않다는 논지는 이 책 곳곳에서 드러난다. 이는 다시 인간은 생각하는 컴퓨터인가?라고 되물을 수 있다. 4장 '기호체계 가설'에서 특히 잘 드러나는데, 기호 유형이 복합적으로 실현될 수 있다는 이론에서 인간의 뇌는 글자 그대로 컴퓨터라는 것이다. 더 나아가 컴퓨터를 제외한 인공물은 생각할 수 없다는 강한 기호체계 가설은 SF 영화만큼이나 흥미롭다. 이에 따르면 우리는 모두 컴퓨터다(180). 입력 장치와 지식 저장소에 따라 내부 처리와 출력 방식은 꽤 차이가 나겠지만. 

존 폰 노이만은 중앙처리장치에서 순차적 방식으로 과제를 수행하는 컴퓨터를 고안하면서 컴퓨터의 아버지가 되었다. 하지만 부모 세대는 저물고 자식 세대는 변하기 마련 아닌가. 이제 비(non)노이만형 컴퓨터는 병렬 및 분산 처리 방식으로 인간 신경망을 모사하면서 발전하고 있다. 코플랜드는 “100년 안에 컴퓨터라는 단어의 의미가 너무 많이 바뀌어서 뇌를 컴퓨터라 하더라도 반박에 부딪힐 염려를 하지 않아도 되리라” 확신한다(425). 하지만 우리가 언어 공동체로서 컴퓨터라는 '의미'를 끊임없이 다듬어야 하는 의무도 강조한다. 20세기 양자역학의 출현으로 인간 이해 능력과 판단 형식은 새로운 전환기를 맞았다. 물리학자 하이젠베르크는 "과학의 진보는 단순히 우리가 새로운 사실을 알고 그것을 이해하는 데 머무는 것이 아니라 ‘이해한다'는 말이 무엇을 뜻하느냐 하는 것을 항상 거듭 새롭게 배워나가면서 성취하는 것"이라고 했다. 테세우스의 배(125)를 통해 공동체에서 언어의 합의가 인공지능에 관해 어떤 관념과 개념을 '만들 수' 있는지 생각할 수 있는데 이는 의식의 영역까지 확장한다.

한편 일부 미디어가 인공지능을 다루는 데는 볼멘소리를 낸다. 정보는커녕 오해만 불러일으키는 떠버리에 불과하다는 것이다. '지능형' 운운하는 미디어의 과대광고 - 이젠 어느 정도 사실이 되어버린 문구 - 에 현혹되지 말 것을 당부한다. 이는 4차 사업혁명의 물결에 올라탄 우리 역시 명심해야 하는 바다. 이어지는 맥락에서 한스 모라벡의 주장 역시 과장과 속임수의 경계를 오간다고 꼬집는데 코플랜드는 과학자는 책임감을 느끼고 주요 기술혁신이 사회를 어디로 이끄는지 전망해야 한다고 강조한다(211). 어찌 됐든 모라벡의 예측은 현재 빠르게 현실이 되어 가는 듯하다. 2040년(특이점에 근접해 있다!) 모라벡의 예측이 과연 어느 과녁에 꽂힐지 두고 볼 일이다.

똑똑하지만 상식은 없는 친구 

모라벡의 비전에 "공상적인 과장"이라며 날을 세웠어도 코플랜드는 '생각하는 존재'에 대한 개념을 현상학적 구분과 생물학적 구분에서 찾는 것은 잘못이라고 짚는다. "대규모의 적응성"을 바탕으로 행동 지향성을 갖는, 즉 행위 하는 존재는 생각할 수 있다는 것이다. 이는 우리가 현재 서로에게, 그리고 생물학적으로 우리와 가까운 동물에게만 적용하는 용어와 카테고리를 인공물로 확장할지에 대한 결정이다(282).

"최고의 고양이 모형은 고양이다." 사이버네틱스 분야를 창시한 노버트 위너가 한 말이다. 그렇다면 인공지능은 적절한 인간 모형이 될 수 있을까? 앨런 튜링은 생각하는 기계를 만들려는 시도가 인간이 어떻게 생각하는지 밝히는 데 도움이 될 거라고 믿었다. 저자도 이에 적극적으로 동의한다. 미션은 확실해졌다. 인간을 잘 알고 싶다면 인간을 닮은 인공물, 인간형 인공지능을 만들어라.

인간의 의식 작용과 거의 일치하는 인공물에는 '생각하는 존재'라는 개념을 사용할 수 있다. 여기서 가장 까다로운 것이 바로 지식 문제이다. 세상을 살아가는 데 있어 아는 것이 곧 힘 아니던가. 더글러스 레넛이 주도한 CYC 프로젝트는 백과사전 Encyclopaedia에서 이름은 따왔다. 흥미롭게도 이 프로젝트는 존재론, 인식론, 논리라는 철학 영역에서 가장 큰 열매를 맺었는데 레넛은 CYC를 대규모 "존재론적 공학"이라고 한 바 있다(224). CYC는 심리치료사 일라이자와는 확실히 달랐다. 하지만  레넛이 CYC는 전자 백과사전이 아니라고 강조했음에도 미시세계에서 표식 붙이기를 하는 전문가 시스템의 한계도 벗어나지 못했다. 인간의 지식 모델은 색인된 목록이 아니다. 이 똑똑한 친구가 "더 넓고 덜 질서정연한" 세계에서 제대로 살아가려면 어떻게 해야 할까?

레넛은 지식에는 반드시 그만큼, 아니 그 이상의 상식이 필요하다는 것을 잘 알았다. 이 상식은 인간이 보기엔 어처구니없는 것이 대부분이다. CYC를 손수 코딩하는 사람은 마치 그 옛날 라 메트리가 인간을 시계에 비유했던 것처럼 모욕감을 느꼈을지도 모른다. 기호체계 가설에 기반한 CYC는 1994년 일종의 자가학습이 가능한 '교차점'을 지나, 2001년이 되면 인간 수준의 지식을 갖춘 시스템으로 완성되는 데 목표를 두었다. 2001년 목표는 실패했다. 평균적인 성인의 지식을 따라잡으려면 CYC는 적어도 2190년까지 학습해야 한다. 작고 작은 우리의 두뇌가 새삼 신비롭기만 하다.

상식과 더불어 '잊어버릴 줄' 안다는 것 역시 이 신비의 영역일 것이다. 똑똑한 컴퓨터는 인간과 다르게 망각하지 않는다. 강제로 코드를 뽑거나 고장 내지 않는 한. 모든 것을 기억하는 컴퓨터와 달리 인간은 기억의 조각들이 떠돌다 느닷없이, 한꺼번에 맞춰지기도 한다. 이 작은 뇌는 분주하게 움직이며 때때로 착각하고, 실수하고, 잊어버리기도 한다. 특히 '망각하기'는 더 넓고 덜 질서정연한 세계에서 빛을 발하는, 컴퓨터와는 다른 인간 특유의 적응성이다.

기억과 망각 사이

나의 기억력은 마치 쓰레기 하치장과도 같지요. 

호르헤 보르헤스, ＜기억의 천재 푸네스＞ 중  

보르헤스의 단편 소설에 등장하는 인물 이레네오 푸네스는 모든 것을 기억한다. 모든 것을 기억하는 순간까지도 모조리 기억하는 그는 마치 기호체계 가설의 현신인 양, 글자 그대로 두개골 속에 슈퍼컴퓨터가 들어 있다. 소설의 화자는 푸네스에 관한 기억을 떠올리며 '기억한다’라는 단어는 '신성한 동사'라고 한다. 그리고 이 말을 쓸 수 있는 사람은 지구상에 단 한사람 - 이미 죽었지만 - 오직 푸네스 뿐이라고 말한다.

칠판에 그려놓은 원, 직각삼각형, 마름모와 같은 것들이 우리가 완벽하게, 그리고 즉각적으로 인지할 수 있는 그런 형상들이다. 이레네오에게는 말의 곤두선 갈기들, 언덕 위의 가축떼들, 다른 모양으로 바뀌는 불길, 그리고 그것의 셀 수 없이 많은 재들, 긴 임종의 밤 동안 수없이 바뀌는 망자의 얼굴들을 가지고 그러한 일이 일어났다. 나는 그가 하늘에서 한꺼번에 얼마나 많은 수의 별을 보았는지 상상하기조차 힘들다. 

하지만 “시계 같은 푸네스”의 사고 능력에는 회의를  품는다. 푸네스의 기억에는 개념화가 결여되어 있기 때문이다. 푸네스는 정면에서 보는 개와 2/3 지점에서 보는 개가 왜 똑같은 이름을 가져야 하는지 이해하기 힘들었다. 화자는 이를 두고 푸네스가 플라톤적인 사고, 추론을 할 수 없었다고 회상한다.

사고를 한다는 것은 차이점을 잊는 것이며, 또한 일반화를 시키고 개념화를 시키는 것이다. 푸네스의 풍요로운 세계에는 단지 거의 즉각적으로 인지되는 세부적인 것들밖에 없었다. 

우리는 정면에서 보든, 측면에서 보든, 다양한 견종을 다른 날에 걸쳐 여러 번 보든 모두 '개'라고 인식한다. 소설의 화자는 독자에게 요청한다. 한 번 들었던 것은 정확하게 반복할 수 없고, 그래서 간접화법으로는 자신이 푸네스를 만나서 느낀 경외감을 제대로 전하긴 힘들겠지만, 부디 상상력을 발휘해달라고. 우리에겐 푸네스 같은 능력이 없다. 그래서 화자의 말을 통해 푸네스의 의식 세계를 상상해 볼 뿐이다. 어쩌면 이 말은 소설을 '읽는' 독자에게 하는 보르헤스의 당부가 아닐까? 

보르헤스는 책을 제외한 모든 매체가 인간 육체의 확장이라고 했다. 현미경은 시력을, 전화기는 목소리를 확장한 것이다. 하지만 책은 상상력의 확장이라고 했다. 시력을 잃은 그가 시각이 지배적인 매체인 책을 인간 지성과 상상력의 확장이라고 꼽은 것은 어떤 의미일까? 보르헤스는 자신이 눈이 보이지 않기 때문에 기억 속에 산다고 했다. 우리는 과거 속에 존재한다. 그렇지 않으면 우리가 누구인지, 이름이 무엇인지도 알지 못할 것이라고. 인간은 모든 것을 기억하거나, 모든 것을 잊어버리는 존재가 아니며 그 중간, 기억과 망각 사이에 존재한다고 했다. 그리고  바로 이 지점에서 상상력이 생긴다는 것이다. 

이제 인공지능 연구는 모 아니면 도인 아버지 세대를 지나 병렬분산처리(PDP) 방식으로 거듭 성과를 내고 있다. 20세기에는 민달팽이보다도 못한 취급을 받았지만, 산발적인 병렬 활동은 역치를 통해 ON과 OFF 사이를 무수히 오가며 놀라운 학습 능력을 보여준다. 하지만 PDP 역시 우리의 작은 뇌를 희미하게 비출 뿐이다. (개념적으로)생각하는 기계는 과연 상상하는 기계가 될 수 있을까?

우리 감각의 지향점

인공지능 연구의 첫 황금기인 1960년대. 미디어학자 마셜 맥루언은 미디어는 인간 육체의 확장뿐 아니라 정신의 확장이라고 했다. 차기 미디어가 무엇이 되건, 의식의 연장이라는 것이다. 맥루언은 ‘지구촌'의 개념을 이야기하면서 전자 기술은 인간 중추신경계의 연장이며 지구의 집단적인 신경 회로가 24시간 돌아가면서 준지각력이 있는 무형의 거대 메타 커뮤니티라고 정의했다. 또한 "너무 많은 정보를 접하게 되면 사람들은 곧바로 패턴을 찾아내서 이를 구조화하려 한다. 예술가의 일은 패턴을 찾는 것이다."라고 했다. 여기서 구조화를 '네트워크 하기'로 이해하면 이는 빅데이터의 정보 처리 방식과 다름없다. 맥루언의 비전은 초고속 인터넷의 등장으로 현실이 되었다. 그리고 초연결 시대에 접어들면서 우리의 생활 패턴은 사람이 아닌 빅데이터로 재구성되고 있다. 여기서 주목할 것은 맥루언의 신묘한 통찰이 아니라 그가 어떻게 이 같은 비전을 그렸냐는 것이다.

맥루언의 주장은 과학적 방법과는 거리가 먼 것이기에 충격을 넘어 광대, 사기꾼이라는 비웃음까지 샀다. 그는 시골 출신(캐나다는 당시엔 그야말로 깡촌이었다.) 영문학자고 열렬한 가톨릭 신자였으며 중세 종교 개혁의 문건, 르네상스 시대의 미술, 모더니즘의 수사학 등을 연구해서 다음 세기 미디어의 전망을 예측했다. 같은 맥락에서 코플랜드의 고찰을 눈여겨봐야 할 이유다. 독자는 책장을 넘기며 고대(그리고 외계의) 수수께끼와 여러 사고 실험으로 머리를 싸매게 된다. 저자는 책의 원제처럼 인공지능의 ‘개념’을 철학적으로 분석한다. 이 책의 독법은 인공지능 기술이 아닌 ‘인간’을 좀 더 잘, 제대로 이해하기 위한 사고 과정이다.

조지프 와이젠바움은 심리상담 프로그램 일라이자를 만들고 뜻하지 않은 효과에 의문을 품는다. 왜 인간을 모델로 하는 인공지능을 만들어야만 할까? 아이처럼 유년기가 있고 언어를 배우면서 자신의 기관으로 세계를 감각해서 궁극적으로 인간 사유의 전 영역을 고려하는 로봇을 왜 만들어야 하는지 말이다(52). 우리는 기술 진보를 향해 달려가는 것뿐 아니라 왜 그래야 하는지 끊임없이 상기해야 한다. 인간이 생물학적 표본으로 인간 존재를 더 잘 이해하고, 삶을 가치 있게 하고, 시대에 따른 개념 구조를 공동체의 합의로 끊임없이 다듬어가는 것이 인공지능 연구의 바탕이어야 한다.

4차 산업혁명에 따른 초연결, 빅데이터, VR/AR 등 미래 기술이 사방에서 화두인 요즘이다. 너도나도 5G 시대를 선도한다고 외쳐댄다. 사회가 기술 진보를 쫓아 숨 가쁘게 달려가는 한편 지능형, 스마트 운운하는 떠버리 미디어에 현혹되지 말라는 코플랜드의 경고는 여전히 유효하다. 최소한 알맹이와 쭉정이를 구분하기 위해 우리의 눈과 귀가 머물 곳은 어디일까? 맥루언은 ＜미디어는 마사지다＞에서 말한다. “우리는 백미러를 통해 현재를 본다. 우리는 미래를 향해 뒷걸음질한다." 포스트휴먼 시대에 인공물과 공생을 넘어, 상생의 시대를 맞고자 하는 인류가 되새겨 볼 만한 말이다. 

#원탁의 서평단

인공 지능은 얼마나 인간에게 가까이 접근할 수 있을까?.

본서 ‘계산하는 기계는 생각하는 기계가 될 수 있을까? (원제: Artificial Intelligence: Philosophical Introduction, 1993)’는 과연 인공지능은 인간에 얼마나 가까워 질 수 있는지에 대해 철학적으로 접근하고 있다.

도입부에 다양한 인공지능 프로그램에 대해 소개하고 있는데, 서적 출간 당시인 1993년에도 마치 사람처럼 대화하고, 문제를 해결하고, 게임을 하는 등 주목할 만한 결과를 내고 있었다.  저자는 과연 이러한 인지적 모사를 하는 인공지능 프로그램들이 그 자체로서 사람처럼 ‘이해’하고 ‘생각’하면서 결과를 내는 것인지 의구심을 가지고 있었다. 이러한 인공지능이 사고를 할 수 있는지를 구분하는데 전통적으로 많이 사용되는 ‘튜링 테스트’는, 격리된 채로 사람과 인공지능을 각각 인터뷰해서 이 둘과 대화한 사람이 어느 쪽이 컴퓨터이고 어느 쪽이 사람인지를 구분하지 못한다면, 그 때는 소위 생각하는 컴퓨터라고 인정한다는 것이다. 그러나 본서에서 반론으로 제기하는 것처럼 생각을 시뮬레이션한다고 해서 생각한다고 말하긴 어려울 것으로 보인다. 생각하는 존재의 개념 자체가 부정확하기 때문에 특정 테스트를 통과한다고 정말 사람의 생각이 기계의 하드웨어에서도 구현되고 있는지를 확인할 방법이 없다고 본다. 다만 인간이 그러하듯, 인공지능이 광범위한 적응성을 통해 인간의 독창적이고 합목적적인 행동과 언어를 수행해 나갈 때, 인공지능도 생각을 한다고 ‘결정’을 할 수는 있다는 것이다. 비록, 인간과 똑같은 생각을 하는지는 알 수 없지만 말이다. 이 부분은 사실 나 아닌 타인이 나와 같은 생각을 하는지를 결정하는 것과 크게 다르지 않은 영역이라고 본다. 타인이 나와 같이 생각을 하는지는 그의 언어와 행동을 통해 유추 할 수 있다. 하지만, 그의 뇌 안에서의 벌어지는 생각의 과정이 나의 그것과 같은지는 확인할 수 있는 영역이 아니라 관찰을 통해 ‘결정’할 수 밖에 없는 것이 아닌가 한다. 이러한 논의의 연장선상에서 의식적 존재가 갖는 미묘한 느낌을 ‘퀄리아(qualia)’로 표현했는데, 이를 뇌 안의 생물-물리적 현상이라고 보는 물리주의자와, 생물-물리적인 것을 초월한다는 이원론자로 나뉘며 두 관점 중 어느 것이 맞는지는 아무도 모른다고 하여 결국 나의 퀄리아가 다른 사람의 퀄리아와 일치하는지는 명확하지 않다는 근거를 제시한다.

이러한 인공지능의 구현이 어떻게 가능할지에 대해서는 ‘기호체계 가설’과 ‘병렬분산처리’로 제시하고 있다. 기호체계 가설은 인간의 마음은 보편적 기호체계이며 생각하는 보편적 기호체계를 구성하는 일이 원리상 가능하다는 추정이다. 병렬분산처리는 인간의 신경세포의 연결을 본 따서 만든 인공신경세포들의 층간 연결을 통해 학습과 훈련이 가능하다는 것이다. 이는 최근 인공지능 분야에서 각광받는 딥러닝의 기본 발상이다.

최근 인공지능은 연구의 영역을 넘어서 일반 생활 속에도 파고 들고 있으므로, 그것이 측정하고, 분석하고, 정의하며, 추진해 나아가는 큰 흐름에서 어떤 분야도 자유롭다고 하기 어려울 것 같다. 2020년 현재의 기술로도 인간의 종합적 사고를 모방하는 강(强)인공지능은 그 어떠한 실마리도 없으며, 특정 작업(바둑, 영상 및 음성 인식, 운전 등)을 대체하는 약(弱)인공지능에 초점이 맞추어져 있는데 1993년에 소위 생각하는 컴퓨터인 강인공지능에 대해 논의를 한 부분이 흥미롭다. 특정분야에서는 인간 이상의 수행력을 보이는 기술의 발전을 이룩한 인공지능의 철학적 토대를 탐색하며, 오히려 인공지능이 모방하는 인간의 지능은 과연 무엇인지에 대해 잠시나마 생각해 볼 수 있었다. 기술적으로 숨가쁘게 앞서 나가는 인공지능에 대한 철학적 접근은 마치 SF영화처럼 흥미로운 측면이 있지만 어떻게 보면 인간의 지능에 대해 답하기 어려운 문제(생각, 자유의지, 의식은 무엇인가? 타인이 나와 같은 형태의 생각이라는 것을 하고 있는가?)의 답을 구하는 과정을 통해 역설적으로 인간의 지능이 가지는 경이로움을 새삼 느낄 수 있었다.