일전에 알파고와 이세돌 9단의 바둑대결이 세간의 관심을 일으킨바 있다. 그때까지만 해도 단순히 기술의 발전에 따라 그럴 수도 있겠다는 생각이 들었었다. 그런데 그 후 중국의 커제 9단과 다시 한번 대결을 하면서 알파고가 자체학습을 통해 업그레이드 되었다는 소식을 듣고선 인공지능이란 것에 대해 알아보고 싶다는 생각이 들었다. 그렇지만 생각은 생각으로만 머무르며 차일피일하다가 이 책을 발견했다.

  이 책의 저자인 맥스 테그마크는 생명을 세 단계로 구분하고 있다. Life 1.0, 2.0, 3.0이 그것인데, 생물적 단계인 Life 1.0에서는 하드웨어와 소프트웨어 모두 진화의 방식을 통해서만 발전하는 단계라고 한다. 이 단계에서는 새로운 상황에 처했을 때 오로지 생존과 복제를 통해서만 스스로 대처할 수 있다는 것이다. 두 번째 단계인 Life 2.0은 문화적 단계로 하드웨어는 진화하지만 소프트웨어는 스스로 설계할 수 있는 생명형태라고 한다. 학습을 통해서 소프트웨어를 설계하고 발전시켜 문화가 등장하고 지식과 기술이 폭발적으로 발전하는 생명의 단계인 셈이다. 지금까지 우리 인간이 살아온 단계이기도 하다. 그에 반해 기술적 단계인 Life 3.0은 소프트웨어와 하드웨어 모두 설계 가능한 생명의 단계라고 한다. 지금도 신체의 일부를 기계로 대체하는 등 일정부분은 하드웨어를 설계할 수 있지만 딱 거기까지이다. 그런데 인공지능(AI)의 발달에 따라 다음세기 혹은 빠르면 우리가 사는 동안 Life 3.0시대가 올 것이라고 한다. 그렇게 될 때 생명체는 자신의 운명의 주인이 되어 진화의 족쇄에서 벗어나게 된다. 어찌 보면 공상과학 속에서나 나올법한 이야기이다. 하지만 저자는 만약 초인간 AI의 등장으로 Life 3.0시대에 이르렀을 때 과연 무슨 일이 벌어지고 또 이것이 우리에게 어떤 의미를 갖는지에 대해 알아보고자 이 책을 썼다고 한다.

  빅뱅 이후 138억년 동안 우주에서 가장 극적인 발전은 우둔하고 생명도 없는 물질이 지능을 갖게 되었다는 사실이라고 저자는 주장한다. 지능이 무엇인가는 지능연구자들 사이에서도 의견의 일치를 보지 못하지만 가장 넓은 의미로 정의할 때 복잡한 목표를 달성하는 능력이라고 한다. 기억, 연산, 학습 등이 바로 그 지능에 해당된다. 그리고 우리는 알파고가 스스로 학습이 가능하고, 직관, 창의, 전략적인 면에서도 인간보다 우수함을 보았다. 이는 다시 말해 AI 역시 스스로 진보가 가능함을 뜻한다. 이처럼 AI의 진보가 끊임없이 계속되어 인간수준의 범용인공지능(AGI)이 탄생한다면 어떠한 일이 벌어질까 

  저자는 머지않아 AI의 발달로 인해 우리 삶의 많은 부분이 바뀔 것이라고 말한다. 정치, 경제, 사회, 군사, 법률 등 모든 분야에서 AI가 인간을 대체하게 될 것이기 때문이다. 그렇게 될 때 인간 대부분은 일자리를 잃게 될까? 아니면 Life 2.0 단계에서 기술의 발전이 그래왔던 것처럼 새로운 일자리와 또 다른 생활양식이 등장하게 될까? 이 단계까지만 해도 인간과 AI는 공존할 수 있을 것이다. 어쩌면 공상영화나 소설이 그려내는 사회가 도래할지도 모르고, 어쩌면 인간의 AI통제 실수, 혹은 AI에게 맡겨둔 판단착오로 인류가 멸망하게 될지도 모르지만 말이다.

  헌데, AI가 인간수준 혹은 그 너머로 발달한다면 무슨 일이 일어날까? 저자는 ‘알지 못한다’라고 단언한다. 진보하던 AI의 지능폭발이 일어난다면, 그래서 초지능 AI가 탄생한다면 세상이 어떻게 될지는 우리가 알지 못한다는 것이다. 그럼에도 저자는 다양한 가능성의 스펙트럼 안에서 일어날 수 있는 여러 시나리오들을 제시한다. 인간과 기술이 평화롭게 공존한다는 시나리오부터 하나의 자애로운 초지능이 세계를 지배한다는 시나리오에 이르기까지의 이 책에 나오는 수많은 시나리오들이 그것이다. 그런데 과연 이런 AI가 등장하게 될까? 디지털 이상주의자들은 한 세기 안에 등장할 것이라 하고, 기술 회의론자들은 불가능하다고 말한다. 물리학자인 저자의 답은 ‘모른다’이지만 가능성을 무시할 수 없으면 가능성에 대비해야 한다고 역설한다. 아직 실현되지도 않은 기술을 걱정하는 것이라고 비난하는 사람들에 대해서는, 인간은 자신이 개발한 기술을 통제하지 못하는 경우가 많았다는 사실을 예로 든다. 핵에너지가 그랬고, 화석에너지의 활용 또한 그랬다. AI의 발전이 인간의 삶에 지대한 영향을 준다면 그것이 가져올 부작용 또한 결코 만만치 않을 것이기에 우리가 이런 논의를 한다는 것은 일종의 보험이라는 것이다.

  이처럼 저자는 이 책에서 지극히 가상적인 내용을 포함하여 인공지능의 진보에 따라 변하게 될 세상의 모습들을 우리에게 말해주고 있다. 자연은 목적지향적이며 이러한 행동은 물리법칙에 따라 하드웨어에 저장되어 있다고 한다. 만약 초지능 AI가 탄생한다면 물리법칙에 따라 자기목적을 달성하는데 엄청나게 뛰어날 것이다. 그 목적이 인간의 목적과 일치한다면 다행이지만, 일치하지 않는다면 인간은 크나큰 곤경에 처할 것이다. AI의 진짜 위험은 악의가 아니라 능력이라고 말하는 저자는 이러한 가능성을 염두에 두고 AI와 관련된 대화를 심화하고 계속하는 것이 중요하다고 강조한다.

  책을 읽는 내내 흥미로웠다. 초지능 AI가 세계의 권력을 장악해가는 과정을 그린 가상의 이야기로부터 시작하는 책은 인공지능에 대한 관심을 불러 일으키기에 충분하다. 현실적인 이야기들과 가상적인 이야기들이 섞이는 과정에서 AI에 대한 우리의 인식이 어떤지를 살펴보는 계기가 될 수도 있을 것 같다. 범람하는 인공지능에 관한 책들 중 인공지능과 인간의 삶에 대해 폭넓게 기술된 책이라는 생각이 든다.

비슷한 얘기를 여러번 하는 것 같은데, 어릴때 글쓰기 학습을 많이 잘 받은 사람들이어서 그런지, 참으로 다양한 분야의 사고들을 종합해서 이야기를 잘 만들어낸다는 감탄을 할 때가 많다. 상식적으로, 이게 비단 그 외국의 교육이 좋아서만은 아닐 것이라는 걸 알고, 그런 교육을 받은 사람들 모두가 이렇게 글을 잘 쓴다는 건 아니란 것도 알지만, 그리고 외국이라는게 단지 한국과 대응을 하는 규모가 아니기 때문에 이처럼 외국 학자들(그러니까 자연과학자가 사회전반에 걸친 어떤 인식들을 정리하는 것)의 훌륭한 저술이 많을 수 있다는 것도 이해한다. 또한 한국에도 훌륭한 비평을 하시는 분들이 많은 것도 동의한다. 하지만, 글 솜씨와 함께 관련된 인식, 지성들을 종합해서 인식수준의 돌파구를 만들어가는 과정을 글로 옮긴는 이런 저술들을 보면, 뭔가 역량에서의 열등감 같은 걸 느끼게도 된다.

단지 AI에 관심을 많이 가진 우주물리학자의 독특한 활동의 기록이라기에는 시사하는 바가 많은 내용들이다. 새로운 얘기는 아니지만, "과학이 정치가 될 때, 과학에 대한 무지는 정치적인 재앙을 낳는다..."라는 이야기... 뭐 누군들 못할 소리겠냐만, 그리고 이건 테그마크의 이야기가 아니라 유발 하라리의 이야기이긴 하지만, 어쨌건, AI에 대해서는 이런 이야기에 충분히 동의하게 된다. 심정적으로... 특히, 최근 한국에서 인공강우를 가지고 벌어진 해프닝 같은 경우에 대해선 더더욱. 어떤 맥락에서든 정치와 연결이 되어 버렸는데, 과학적인 숙의 없이, 그러니까 지식기반의 논쟁없이 관료적인 정무감각으로 활동계획이 오픈되어버리고 대중들에게 전달이 되는 일들이 벌어지는 것을 보고, 참으로 답답함을 많이 느꼈다. 개인적인 판단으론 이 사례는 운좋게 그냥 잊혀질 수 있을 해프닝일 수 있다고 보고, 제발 그렇게만 되라... 라고 생각한다. 그만큼 다른 뻘짓을 하지 않으면 파급력은 없을 사안이라 판단해서다. 

하지만, AI는 분명 다르다고 본다. 어릴적 아톰 만화를 보고 느꼈던 '로봇의 인격성'에 대한 사고의 단초에서부터, 유전공학이나 AI에 대한 SF적인 전망들(소설이든 논픽션이든)에서 얻게된 '스스로 기획하는 진화의 단계'라는 인식까지, 개인적으로 이 부분은 분명히 단순히 시장 혹은 현 수준의 정치에 맡길 문제는 아니라고 생각을 했었다. 그리고, 그렇담 무엇을 해야 하나? 라는 질문에 대해선 아무런 답이 없는 상황이었다. 이 책이 주는 전망이 다소 긍정적이긴 하지만, 그래도 여전한 회의가 드는 것도 사실이고. 하지만, 적어도 이 책은 인간 지성에 대한 희망적인 역할을 제시하고 있다는 사실만은 동의하고 싶다. 그것이 이 책의 가치이다. 물리학자가 쓴 이 책의 가치

다시금 살짝 내 분야와 관련된 이야기를 옮겨보자. "AI 대화는 긴급함과 충격 두 측면에서 모두 중요하다. 기후변화와 비교하면, 기후변화는 50~200년 이후 대파괴를 일으킬 수 있는 반면, 많은 전문가가 AI는 10년 이내에 더 큰 충격을 줄 수 있다고 예상한다 또 AI는 기후변화를 누그러뜨리는 기술을 제공할 수도 있다. ..." 장난스럽게 얘기하자면, 기후변화와 관련된 일을 하는 사람들 다수가 동의하지 않을 것 같은 진단이라 하겠다. 50~200년이란 이야기는 심하게는 5~20년이라는 식으로 오더를 하나 줄여야 맞다고 할 것이고, AI의 역할에 대해서도 적어도 현존하는 기술트렌드는 - 재생에너지, 재난관리, 질병치료 등등 모두 실생활과 현업, 임상에서 적용되는 AI의 가능성을 2-30년 이내에 긍정적으로 보는 것은 없는 것으로 안다. 적어도 현상태로는 말이다. 기술의 가능성은 그 자체에만 있는게 아니라, 그에 대한 자원의 투입과 지속적인 수정이 수반되는 사회적 피드백을 통해서 이루어질 수 밖에 없는데, 적어도 현재 상태에서 기후변화와 AI의 관계는 시장논리에 의해 지배되는 정도의 수준임이 명백하다. 그렇기에 50~200년이라는 전망이 월등한 능력의 AI가 내리는 것이 아닌 이상, 그리고 AI의 기여확대는 이 책에서 제시하는 미래비전으로서의 '바람직한 AI 개발활동'이 구현될 때에나 동반될 결론이라 생각한다. 기후변화가 더 중요하다 얘기하는게 아니라.... 그냥 예를 든 것이 부적절한 것이었다~ 뭐 이정도? 

어쨌건 저자는 새로운 생명, 지성의 진화를 이야기한다. 도입부의 SF적인 픽션에서 소개되듯이 '자기 진화가 가능한 AI의 출현'이라는 화두를 던지고, 이를 어떻게 관리하고 따라갈까? 하는 고민들을, 그리고 그에 대한 자신의 사고의 발전과정과 실제 활동상황을 적어내려가고 있다. 그러다 보니, '진화'라는 걸 생각하게 되고 특히 인식능력과 관련해서도 다음과 같은 일반적인 설명을 하고 있다. "한 개체에서 다윈적인 진화는 목적을 달성하기 위한 최적화를 의미하지만, 그 개체가 할 수 있는 최선을 근사치를 내는 알고리즘, 자신이 대개 놓이는 제한된 맥락에서 상당히 잘 돌아가는 알고리즘을 수행하는 것이다. 모든 상황에서 어느 행동이 개체의 성공적인 2세를 극대화할 것인가를 묻기 보다는 시행착오를 거쳐 스스로 발전하는 생동을 수행한다. 대게 잘 통하는 경험칙에 따르는 셈이다." 지극히 맞는 말이고, 진화는 정말 기획 없이 경험, 시행착오에 의해 미래에 대한 전망 없이 이루어진, 다만 그 ad hoc적인 활동이 수십억년 누적되었다는 힘이 있을 뿐이다. 문장에서 전달하는 논지를 머리로 인정하는 것과 심정적으로 동의하는 것의 괴리가 있다는 느낌이 들었다. 그리고, 여기서 느껴지는 냉정한 평가와 한계에 대한 지적... 그런데, AI는 그 한계를 극복할 수 있을 것이라는 판단이 불편함과 위기감, 그리고 동시에 가능성을 시사하는 것이다. 즉, AI는 2세를 극대화 하고자 하는 기획을 동반할 수 있고, 또한 단순 경험칙의 반복이 불가피하다 하더라도 수십억년의 시간을 수시간 이내로 줄일 수 있다는 것 말이다. 사실, 기획이 수반된 진화는 인간이 각종 제도를 만들어냄과 동시에 시작되었다고 본다. 교육을 비롯한 각종 사회구조는 분명 자연에 더 잘 적응하는 개체의 생존을 보장하는 법칙의 수준에서 벗어난게 사실이다. 그런 제도하에서 만들어진 AI, 특히 설계능력이 있는 AI는 분명 자기 이상의 성능을 내는 방법에 대해 고민할 수 있는 것이고, 그를 위한 인프라를 구축하려 할 것이다. 딥러닝을 비롯한 각종 경험식의 거의 무한반복시행의 알고리즘은 스피드와 효율을 의미하는 거고. 결국.... AI의 진화법칙은 자연진화 법칙과 다르지 않은 것이고, 그렇기에 좀 무섭다고나 할까? 준비 없이 기다리는 것에 대해 저자가 우려하는 이유가 아닐까 싶다. 

두려움, 걱정... 느낌. 이에 대한 이야기가 많고, 저자는 그런 용어를 사용하지 않았지만, 저자 그리고 동료들, 그리고 우리가 걱정하는 것은 진부하게 얘기해서 '인간성'이라는 것이 아닌가 싶다. 바로 느낌으로 대표되는 기질... "생명 조직은 단일 목적을 추구하지 않는 대신 경험칙에 따라 무엇을 추구하거나 피하는 제한된 합리성을 실행한다. 우리 인간의 마음은 이들 진화한 경험칙을 느낌이나 감정이라고 인식한다. 우리는 대게, 그리고 종종 인식하지 못한 채, 느낌이나 감정에 따라 의사결정을 내리면서 복제라는 최종 목적을 향해 나간다." 느낌과 감정은 경험칙의 누적인 것이다. 여기에 반감이 생기는 이유는 뭘까? 어쩌면 이 반감이 인간성이 비밀이 아닐까 싶기도 하고, 어쩌면 이런 반감이란 것도 단순 문화적인 결과물은 아닐까 싶기도 하다. 인본주의라는 사조의 잔재... 저자는 이를 부정적으로 기술하지 않는다. 나도 이런 딱딱한 해석에 동의한다고 해서 인간성을 부정하자는 얘기를 하고 싶은건 전혀 아니다. 저자는 이렇게 말한다. "이제 더 영리한 기계들이 우리의 지능을 속속 추월하는 상황에서, 우리 자신의 브랜드를 호모 센티언스로 새롭게 하자고 제안한다." 참 발칙한 제안이다. 그리고 나쁘지 않다고 본다. 인간은 감정의 동물이다. 생존의 문제는 해결이 되었다고 전제하고, 감정의 충만함이 결국 삶의 목적인 경우가 절대 다수라고 본다. 지적 욕구까지 말이다. 그리고, 이것이 지속될 수 있도록 미래를 대비해야 한다. AI가 지배하는 세상에 일부 인간을 동물원의 개체들처럼, 그러나 well-being 상태로 관리한다고 할때 만족할 수 없는게, 바로 호모 사피엔스이어서가 아니라 호모 센티언스이어서가 아니겠나? 무섭도록 냉정한 판단인데... 반감이 안든다. 그리고, 어쨌건 이런 감정에 기반해서 현재 저자가 동원할 수 있는 다양한 지성들(감정을 수반한)들 동원해서 호모 센티언스의 지속가능성, 그 존재가 느낌의 충만을 추구하고 유지할 수 있는 사회와 양립가능한 AI 발전방향을 고민하는 활동을 하고 있는 듯 하다. 인간이 그런 노력을 할 수 있다는게 경이롭고, 단순히 디스토피아를 그리지 않는 그런 노력과 그 과정에서 또 다른 느낌의 충만을 경험하는 것이 ... 솔직히 사랑스럽다. 

물리학자로서 저자의 입장을 대변하는 것 같은 인식을 단면적으로 소개한다. 저자가 생각하는 AI를 포함한 생명은, 특히 생명의 지능, 인식, 의식... 은 모두 '입자의 배열'이라 하겠다. 참으로 퍽퍽한 서술이다. "그러므로 물리학 관점을 취해보자. 어떤 입자 배열에 의식이 있을까? 이 질문은 다른 질문을 낳는다. 어떻게 의식 같은 복잡한 것이 입자 같은 간단한 것에서 만들어질 수 있나? 의식 현상은 그것을 구성하는 입자의 특성과는 상당히 다른 특성을 지니는데, 어떻게 이게 가능할까? 물리학에서는 그런 현상을 '창발(emaergent)'라고 부른다" 역시 고전은 힘이 있는 것인가? 아니면 아직까지 고전에 의존할 정도로 호모 사피엔스의 수준이 한계인 것인가? 일단 내 인식능력으로 이에 동의할 수 밖에 없다. 그리고 이를 과도하게 단순화 하면 결국은 관계인 것이다. 느낌도... 그러기에 AI와의 관계를 잘 정립하는 것이 호모 센티언스의 지속가능성을 보장하는 전략의 핵심이어야 한다. 말은 쉽지.... 

훌륭한 철학책이 아닌가 싶다. 

정말로 우리의 미래에 ‘로보판사는 가상이 아닌 현실이 될까? 우리가 인간판사 대신에 로보판사에게 기대하는 것은 법률적인 공정한 판결에 있을 것이다. 인간판사의 감정적인 오류나 편향적인 잣대는 정의로운 사회를 실현하는 데 있어 오히려 역행한다. 통계에 따르면 배고픈 상태에서 판사들은 훨씬 무겁게 사건을 처벌한다고 한다. 하지만 로보판사는 인간적인 약점을 걱정하지 않아도 된다. 로보판사는 빅데이터(Big Data)를 활용하여 정의로운 판결을 내리기 때문이다.

AI가 전 지구적인 관심이 되면서 인간이 호모사피엔스라는 말은 과거의 이야기가 되어 버렸다. 이세돌과 알파고의 대결에서 보듯 지능 즉, 복잡한 목표를 이룰 수 있는 능력에 있어 인간보다 AI가 훨씬 강력하다는 것을 깨달았다. 문제는 지능은 계속해서 폭발한다는 것이다. 다가올 미래에 AI는 인간 수준이나 이를 넘어서는 범용인공지능(AGI. artificial general intelligence)으로 업그레이드 될 것이다.

그러면 우리는 어떻게 AI 시대를 준비해야 할까? 이러한 시대적인 질문에 '생명의 미래 연구소'의 공동설립자인 맥스 테크마크의 지능은 놀랍도록 논쟁적이다.『맥스 테그마크의 라이프 3.0』에서 저자는 생명을 3단계로 분류한다. 바로 라이프 1.0(생물적 진화), 라이프 2.0(문화적 진화), 라이프 3.0(기술적 진화)다. 여기서 진화라는 개념은 생물들이 환경에 적응하는 다윈적인 진화와는 다른 차원이다. 다른 차원의 관심사는 바로 정보에 있다.

우리는 보통 만져질 수 있는 물질적인 것에 정보가 있다고 할 수 있다. 그런데 어떻게 해서 만져지지 않는 비물질적인 것이 정보가 될 수 있는지를, 또한 비물질적인 정보가 추상적인 지능을 갖게 되는지를 살펴봐야 한다. 이 질문에 대한 대답으로 정보는 ‘물리적 기질(결합조직의 기본 물질)로부터 독립된 자신의 생명을 지니는 것’이다. 그리고 정보는 기억과 연산을 통해 지능을 갖게 되는데 이 과정에서 하드웨어는 물질이고 소프트웨어는 양상이라는 것이다.

저자에 따르면, 라이프 1.0은 하드웨어와 소프트웨어 모두 진화할 뿐 설계되지는 않는다. 박테리아가 여기에 해당한다. 라이프 2.0은 하드웨어는 진화하지만 소프트웨어는 설계 된다. 인간이 여기에 해당한다. 마지막으로 라이프 3.0은 소프트웨어와 하드웨어 모두 설계할 수 있다. 앞서 말한 미래의 AI에 등장할 로보판사는 여기에 해당한다.

이 책을 통해 AI 시대 생명의 미래에 대한 다양한 이야기를 흥미롭게 듣게 된다. 우주 138억 년 역사를 일주일로 압축해보면 AI 시대는 ‘0.5’초에 지나지 않는다. 결과적으로 모든 역사는 ‘한 순간’이며 반복된다. 한 순간의 패턴에서 벗어나면 현재뿐만 아니라 미래를 제대로 인식할 수 없다. 우리는 지금 AI에 대한 낙관론이거나 비관론으로 논쟁을 벌이며 한 순간을 보내고 있다. AI 시대에 무슨 일이 일어날지 모르기 때문이다.

그래서 저자는 AI와 한 순간 논쟁하면서 가장 까다롭고 민감한 문제를 제기한다. 바로 AI에 ‘목적’을 부여해야 한다는 것이다. 왜냐하면 AI의 진짜 위험은 악의가 아니라 능력이기 때문이다. 목적 달성에 있어 인간보다 AI가 우세하다. 그러나 중요한 것은 목적의 우위가 아니라 우리의 목적을 AI와 공유해야 한다는 것이다. 이 과정에서 AI는 우리가 무엇을 하는지가 아니라 우리가 왜 그 일을 하는지를 이해해야 한다. 만약에 우리와 AI의 목적이 일치하지 않는다면 우리의 미래는 영원하지 않을 수도 있다.

라이프 2.0의 시대에 우리 인간은 ‘호모 사피엔스(Homo Sapience)’였다. 하지만 지능이 폭발하는 라이프3.0의 시대에 우리 인간은 더 이상 호모 사피엔스가 아니다. 그러면 우리의 목적은 무엇일까? 바로 ‘의식 있는 존재’다. 저자의 주장대로 감각을 주관적으로 경험하는 ‘호모 센티언스(Homo Sentience)’로 자신의 브랜드를 새롭게 정하는 존재다. 이로써 우리는 니체의 말을 빌리자면 “인간적인, 너무나 인간적인” 존재가 될 것이다.

계속 화두가 되고 있는 내용ㅇ지요. 인공지능.....

우리에게 자신도 모르게 바로 옆에ㅐ 잇는 것이기도 하고 아직은 멀게만 어렵겜만 느껴지는 인공지능이기도 합니다. 좀 쉽고 편하게 다가올수 잇는 책이 잇으묜 좋겠어요. 앞으로 우리가 더불어 살아가야할 대상이기조 하지요. 어렵지도 쉽지도 않은 대상을 알기 위해 많은 노력이 필요할 거에요. 그래도 이렇게 계속

노력하다보면 우리으, 적이 아니라 친구로 옆에 잇을거에요