나는 인공지능에 관해 좋은 일이든 나쁜 일이든 가감 없이 시간의 흐름에 따라 이야기하려 한다. 인공지능 이야기는 제2차 세계대전이 끝나고 첫 번째 컴퓨터가 개발된 이후부터 시작된다. 끝없이 낙관적인 생각 속에 한동안 다양한 영역에서 빠르게 발전하는 듯이 보였던 ‘인공지능의 황금시대’에서 시작해 세상의 모든 지식을 컴퓨터에 주입하고자 했던 ‘지식의 시대’를 이야기할 것이다.
--- p.12

튜링은 튜링머신이 다른 튜링머신에 대한 질문에 답할 수 있도록 프로그래밍될 수 있는지 고민했다. 그리고 “튜링머신과 입력이 주어졌을 때, 튜링머신이 정답을 구하고 멈출지 혹은 정답을 구하지 못한 채 영원히 작동할지 알 수 있을까?”와 같은 결정문제를 떠올렸다. 그는 먼저 이 문제에 답할 수 있는 튜링머신이 존재한다고 가정했으며, 곧이어 이 가정이 모순으로 이어진다고 생각했다. 결과적으로 그는 튜링머신이 멈출지를 확인할 방법이 존재할 수 없으므로 “튜링머신은 멈출까?”라는 문제는 비결정문제라고 생각했다. 그는 단순히 방법을 따르는 것만으로 풀 수 없는 결정문제가 존재한다는 결론에 다다랐다. 결국 “수학이 특정 방법을 따르는 단순한 일이 될 수 있을까?”라는 힐베르트의 결정문제에 ‘아니요’라고 답할 수 있었다. 튜링의 연구 결과는 20세기 수학 분야의 가장 위대한 업적 가운데 하나였다. 그 업적 한 가지만으로도 그는 수학의 역사에 자신의 이름을 영원히 남겼을 것이다. 그러나 그는 힐베르트의 결정문제를 해결하면서 일종의 연구 부산물로 일반 문제 해결 기계인 유니버설 튜링머신을 만들었다. 처음에는 머릿속에서만 떠올릴 뿐 실제로 만들 생각까지는 없었으나, 그를 포함해 여러 사람들이 곧 이런 기계를 실제로 만들기에 이르렀다.
--- p.25~26

매커시는 1955년 록펠러 연구재단에 후원금 신청을 하며 ‘인공지능’이라는 용어를 사용했다. 그는 주의 깊게 선정된 뛰어난 과학자들이 함께 모여 여름 동안 인공지능에 대한 공동 연구를 진행하면 커다란 연구 성과를 달성할 수 있으리라 생각했다. 그는 이 행사에 비현실적일 만큼 높은 기대감을 갖고 있었다. 그런데 여름학교가 끝날 때까지 ‘인공지능’이라는 이름이 자리잡고 새로운 학문 분야가 생긴 것 이외에는 실질적인 연구 성과가 없었다. 게다가 이후 많은 사람이 인공지능이라는 이름에 대해 아쉬움을 토로했다. 첫째, ‘인공’이라는 용어가 ‘가짜’라는 느낌을 줬기 때문이다. 어느 누가 가짜 지능을 바라겠는가? 둘째, ‘지능’이라는 용어가 너무 도드라져 보이기 때문이다. 그런데 1956년 이후 인공지능 연구자들이 열심히 연구해온 일들 대부분이 사실상 지능이 필요 없는 일들이었다.
--- p.64

최적 의사결정 이론은 인공지능 연구 전반에서 매우 중요하다. 이 이론의 유래를 찾아 시간을 거슬러 올라가면 1940년대 존 폰 노이만의 연구에까지 다다른다. 1장에서 다루었던 폰 노이만은 초창기 컴퓨터 설계에서 매우 중요한 공헌을 했다. 그는 동료인 오스카 모르겐슈테른과 합리적인 의사결정에 관한 수학 이론을 개발했다. 또한 이 이론을 통해 합리적인 의사결정 문제가 수학 계산 문제로 기술될 수 있다는 사실을 보여줬다. 에이전트 기반 인공지능 연구자들은 두 사람의 이론을 사용하면 최적의 의사결정을 내릴 수 있는 에이전트를 만들 수 있다고 생각했다. 이론의 출발점은 다름 아닌 사용자 선호도다. 에이전트가 사용자를 대신하려 한다면 에이전트는 우선 사용자가 원하는 것을 알아야 한다. 사용자는 에이전트가 최대한 자신이 원하는 대로 결정하기를 원한다. 그렇다면 에이전트에게 사용자 선호도 정보를 어떻게 알려줄 수 있을까? 에이전트가 사과, 오렌지, 배 가운데 하나를 골라야 한다고 가정해보자. 에이전트가 자신의 사용자를 위해 최선을 다하려면 사용자가 무엇을 좋아하는지 알아야 한다.
--- p.171

딥마인드는 알파고를 세상에 공개하기 전 유럽 바둑 챔피언인 판 후이를 채용해 테스트 경기를 가졌다. 그 결과, 5:0으로 알파고가 승리했다. 바둑 프로그램이 실제 바둑 시합에서 바둑 고수를 꺾은 것은 역사상 처음 있는 일이었다. 얼마 후, 딥마인드는 2016년 3월 서울에서 알파고가 세계 바둑 챔피언인 이세돌과 5판 3선승제로 바둑 시합을 가질 것이라 발표했다. 알파고의 인공지능 과학은 환상적이다. 나를 포함해 많은 인공지능 연구자들은 시합 결과에 촉각을 곤두세웠다. 사실 나는 기록상 알파고가 한두 시합 정도는 이길지 몰라도 전체적으로는 이세돌이 승리할 것이라 예상했다. 이 시합에 대한 홍보는 전례 없던 수준이었다. 나를 포함해 많은 사람이 전혀 생각하지 못했던 일이다. 딥마인드는 이 시합에 관한 이야기로 전 세계 언론의 머리기사를 장식했다. 대결이 끝난 후에는 영화까지 제작됐다. 이제는 다들 알다시피 알파고가 이세돌 기사에게 4:1로 승리했다. 이세돌 기사는 네 번째 시합에서 승리했으나 나머지 시합에서는 모두 패했다. 알파고에 쉽게 승리할 것이라 생각했던 이세돌 기사는 첫 번째 시합에서 패하고 꽤나 큰 충격을 받았다고 한다. 당시 몇몇 사람들은 알파고가 이세돌 기사를 배려해 네 번째 시합에서 져준 것 아니냐고 농담처럼 이야기하기도 했다. 시합 도중 해설자들은 알파고의 수가 낯설게 느껴진다고 이야기했다. 해설자의 이야기처럼 알파고의 수는 사람의 수와는 달랐다. 사실 알파고의 시합 방식을 분석할 때, 우리는 사람을 기준으로 분석하려 하고 그 과정에서 일단 동기와 전략을 찾는다. 일종의 인격화다. 그러나 알파고를 분석할 때, 이런 노력은 완전 헛수고다. 알파고는 오직 바둑에 최적화된 프로그램이기 때문이다.
--- p.220~221

무어의 법칙에 따르면 같은 크기의 칩에 집적될 수 있는 트랜지스터의 개수는 18개월마다 두 배씩 증가한다. 이는 컴퓨터 프로세서의 정보 처리 능력이 18개월마다 대략 두 배씩 증가한다는 뜻이다. 또한 컴퓨터 프로세서의 가격과 크기가 같은 속도로 각각 떨어지고 줄어든다는 뜻이다. 2010년 전후로 프로세서 설계 기술들이 하나둘씩 물리적 한계에 다다르기 시작했으나 지난 50년간 무어의 법칙은 프로세서 발전 추이와 잘 맞아떨어졌다. 커즈와일은 특이점이 올 수밖에 없는 이유를 컴퓨터 성능의 발전에서 찾는다. 그러나 이런 논리는 어딘가 의심스러운 부분이 있다. 다음과 같이 생각해보자. 당신의 두뇌를 컴퓨터로 다운로드 받는다. 물론 상상이다. 이때 두뇌를 다운로드한 컴퓨터는 역사상 가장 높은 성능의 컴퓨터였다고 가정한다. 당신의 두뇌와 고성능 컴퓨터를 결합해 컴퓨팅 성능을 마음대로 사용할 수 있게 됐다고 해서 당신이 슈퍼 지능을 갖게 된 것일까? 물론 훨씬 빠르게 생각할 수는 있겠지만 그것이 더 똑똑해졌다는 뜻일까?
--- p.267

인공지능이 일의 성격을 바꾸는 데 중요한 요소이기는 하지만 결코 유일한 요소는 아니다. 어쩌면 가장 중요한 요소가 아닐 수도 있다. 우선 강력한 세계화의 물결이 여전히 진행 중이며 이는 우리가 상상도 못 할 방식으로 이 세상을 뒤흔들고 변화시킬 것이다. 또한 인공지능과 상관없이 컴퓨터 자체가 점점 값싸지고 작아지며 서로 더욱 많이 연결됨에 따라 세상과 세상 속에서 생활하며 일하는 방식이 계속 변할 것이다. 그리고 세상에 잘 드러나지는 않지만 세계가 서로 더욱 연결되는 가운데 화석 연료 고갈, 기후 변화, 포퓰리즘 정치의 부상 등과 같은 사회, 경제, 정치적인 변화가 끊임없이 일어난다. 이 모든 요인들이 고용과 사회에 영향을 끼칠 것이며, 우리는 인공지능만큼은 아니어도 그 못지않게 그 영향을 느끼고 경험할 것이다.

<b>A에서 I의 영역에 도전하는 인류,<br/>GPT-4의 등장은 서막에 불과하다!<br/><br/> 인공지능이 불러일으킨 뜨거운 논쟁</b><br/><br/>지난 9월 21일 미국의 대표 과학상으로 손꼽히는 래스커상 2023년 수상자로 구글 딥마인드 CEO인 데미스 허사비스와 존 점퍼 박사가 선정되었다는 소식이 알려지며 세간의 주목을 받았다. 굴지의 IT 기업 수장이 이뤄낸 놀라운 업적에 대한 공로를 인정받은 결과가 아니다. 사실상 인공지능이 수행한 머신러닝의 결과물을 개발자가 대리 수상한 것으로, 딥마인드가 개발한 알파폴드(Alphaford)는 무려 2억 개의 인체 단백질 구조를 밝혀내는 데 이어 36만여 개의 스리디(3D) 구조를 구현해냈다. 덕분에 의학계는 난치성 질환의 실마리가 곧 풀릴 수 있을 거라 낙관하고 있다. <br/><br/> 이제 인간의 업적에 따라 학문의 기여도를 평가하던 학계의 정석에서 완전히 벗어나, 컴퓨팅 시스템도 그 공로를 인정받을 수 있다는 초유의 사태가 우리 목전에 와 있다. 이처럼 각종 매체를 통해 인공지능이 산출해 낸 놀라운 성과를 매일 접하며 인류는 희망과 불안감을 동시에 느끼고 있다. 일각에선 지금도 인공지능의 실체와 그 유효성은 여전히 불투명한데, 인공지능 관련 종사자들은 인간의 의식 분야에 침투해 도달하겠다는 야심 찬 계획을 잇달아 발표하고 있다. 그렇다면 곧 공상과학(SF) 영화에서 기계가 인간처럼 생각하고 의지를 드러내며 의사소통하는 장면이 현실에서도 이뤄질 날이 올까? 미 의회 및 실리콘밸리의 CEO들은 이와 관련된 윤리적, 기술적 문제를 놓고 첨예한 갈등을 겪고 있어 아주 허무맹랑한 예측이 아님을 방증한다. <br/><br/><b> 컴퓨터공학적 관점으로 인공지능을 집약한 안내서</b><br/><br/>옥스퍼드에서 25년간 컴퓨터 관련 연구를 이끌어온 마이클 울드리지 교수 역시 생각하는 기계(의식기계)를 만드는 것 자체는 불가능한 이야기가 아니라고 한다. 다만 기계가 갖는 자의식의 수준이 인간의 미세한 수준에까진 미치지 못하므로 그 한계가 분명하고, 이러한 위협적 예측은 그저 시기마다 부상하는 학계의 이념에 따라 기술 개발의 방향성이 달라지면서 파생된 가설에 불가하다는 것이 그의 주장이다. 이를 뒷받침하기 위해 앨런 튜링의 발견에서부터 컴퓨터공학적 관점으로 인공지능의 발전사를 살펴보면서 로봇의 현재 그리고 신경망 이론, 마음 이론 등 다양한 학문적 근거를 제시한다. 책은 인공지능 기술이 어디까지 왔는지 그 범위와 한계를 드러내고 인공지능 연구의 현주소를 재확인하며 포문을 연다. 이어 2장에서는 인공지능 발전 초기에 만들어진 시스템, 특히 탐색 기법의 초석이 된 계산복잡도가 인공지능을 설명하는데 어떻게 쓰였는지 밝히고 있다. 3장에서는 인공지능 연구자들이 전문가 시스템을 구축하기 위해 수학적 논리를 활용한 예시가 등장한다. 4장에서는 에이전트 기반 인공지능을 통해 인공지능의 성숙기가 도래했음을 이야기한다. 특히 머신러닝, 신경망 아이디어, 오차역전파 알고리즘 등 최근까지 들어봤을 법한 기법들이 등장하며 마침내 21세기 최고의 화젯거리였던 딥러닝에 관한 일화들도 상세히 언급된다. 책의 메시지는 6장에 들어와 한층 명확해진다. 인공지능이 건강관리나 자율주행 관련 기술과 접목되었을 때 이점과 유의할 점, 나아가 인공지능이 인류의 일과 삶에 미칠 영향에 이르기까지 두려워할 점과 두려워하지 않아도 될 점을 9장에 걸쳐 각종 지표와 연구 결과를 토대로 낱낱이 밝혀나간다. <br/><br/> 이 책을 통해 컴퓨팅 기술에 대한 인식을 재정립할 수 있다. 나아가 그동안 인간이 자의식을 가진 기계를 만들기 위해 얼마나 빈번히 고군분투해왔고 때로는 전 세계적으로 외면받았으며, 이러한 실패의 기록이 모여 인간의 지능적 행동을 모방하는 데 궁극적으로 어떠한 영향을 끼쳤는지 상세히 파악할 수 있다.