다행히도 철학은 원리의 문제를 주로 다루기 때문에 그런 속도에 얽매일 필요가 없습니다. 실제 사례를 몰라도 된다는 뜻이 아니고, 거시적인 조망을 할 수 있다는 말입니다. 예를 들어볼게요. 인공지능(artificial intelligence)이란 기계로 지능을 구현하는 걸 말합니다. 인공지능 연구는 당연히 인간지능(human intelligence) 연구와 밀접하게 관련됩니다. 그런데 우리는 정작 인간지능이 무엇인지 아직 잘 몰라요. 잘 모르는 것을 구현할 수가 있을까요? 공학자들은 이런 질문에는 관심이 별로 없어요. 인간지능이 인공지능과 본성상 같다는 걸 전제로 깔고 작업하니까요. 그래서 연구가 성공할지 말지 알 수 없습니다. 그렇지만 우리는 철학적으로 이런 물음들을 던질 수 있고, 이런 작업은 결코 무의미하지 않습니다.
--- p.7
연구자들이 자율주행 자동차 교통망의 가장 큰 골칫거리로 지적하는 게 바로 인간 운전자입니다. 인간은 그 어떤 돌발 행동도 할 수 있기 때문입니다. 음주운전이나 졸음운전만 문제가 되는 게 아니에요. 보복운전이나 경쟁운전처럼 인간은 의도적으로 돌출 행동을 하곤 하니까요. 자율주행 시스템은 이런 돌출 행동에 취약합니다. 따라서 시스템이 완성되려면 결국 인간 운전자를 도로망에서 완전히 제거해야 합니다. 얼마간 유예기간을 두겠지만, 결국 법적으로 도로에서의 인간 운전을 완전히 금지하게 될 겁니다. 인간이 자동차 운전에 원천적으로 개입할 수 없어야 합니다. 하지만 법적으로 금지한다고 해서 인간 운전자가 없어질까요? 나는 이 점에 대해 무척 회의적입니다. 현실적으로 막을 방도가 없습니다. 사실 지금의 기술로도 자동차를 만드는 건 무척 쉽습니다. 간단한 제어장치와 몇 가지 부품과 모터와 배터리만 있으면 되거든요. 3D 프린터를 통해 부품들을 만들고 모터와 배터리를 결합해 조립하면 자동차가 만들어집니다. 누군가는 설계도부터 부품 조달 방법과 조립 과정까지 인터넷에 올려놓겠죠. 도심의 창고에서 만들어진 자동차가 어떤 운전자의 손에 이끌려 자율운전 시스템 안으로 들어가는 건 그다지 어렵지 않습니다. 이 자동차는 시스템의 제어 범위 바깥에 있습니다. 사전에 사고를 막기는 어렵고 제어는 사후에만 겨우 가능할 겁니다.
--- p.85-86
1971년에 샌프란시스코 동물원에서 태어난 암컷 고릴라 코코의 사례를 볼까요. 당시 스탠퍼드대학교 심리학 박사과정 중에 있던 페니 패터슨은 동물원의 동의를 받아 이듬해부터 코코를 연구하기 시작했어요. 지금까지 코코는 1,000개 이상의 수화를 배웠고 거의 2,000개의 영어를 구어로 이해하는 것처럼 보인다고 해요. 코코는 기쁨, 슬픔, 사랑, 고민, 어색함 등 자신의 감정을 표현하는 것은 물론, 이가 아프다는 걸 수화로 전달해 치료를 받기도 했어요. 다른 유인원인 보노보, 침팬지, 오랑우탄은 물론이고 회색앵무새, 회색돌고래, 프레리도그, 코끼리, 박쥐 등의 소통 연구도 활발히 진행되고 있습니다. 개체 차원에서 마음을 갖고 있다고 보기 어려워도 집단 차원에서 마음을 갖고 있는 듯 보이는 꿀벌이나 개미와 같은 경우도 흥미롭습니다(이걸 ‘떼 지능’이라고 해요). 모든 동물이 마음을 갖고 있다고 주장하려는 건 아니에요. 하지만 인간 말고 몇몇 동물들이 마음을 갖고 있다는 게 사실이라면(진화론적으로 충분히 가능하기도 하고요), 어떤 동물 종까지 마음을 갖고 있는 걸까요? 마음이 무엇인지 알아가는 과정에서 함께 탐구해야 할 내용입니다.
--- p.146-147
물리학자 스티븐 호킹, 마이크로소프트 창업자 빌 게이츠, 테슬라 최고경영자 엘론 머스크, 옥스퍼드대학의 철학자 닉 보스트롬, 『파이널 인벤션』의 저자 제임스 배럿 등 많은 명사들이 말하는 묵시록적 전망은 과장된 것입니다. 이들의 공통점은 인공지능 구현을 위해 노력하는 현장의 전문가가 아니라는 점입니다. 그리고 나는 이 책을 통해 초인공지능의 불가능성을 보였다고 생각합니다. 앞에서 역공학의 문제를 소개했습니다. 역공학 방식으로 인공지능이 만들어진다면, 즉 인간의 뇌를 일부라도 그대로 프로그램으로 옮기는 일이 생긴다면 그게 오히려 더 우려할 만한 상황일 수 있다는 거였죠. 그런데 나는 이 문제도 심각하지 않다고 판단합니다. 뇌 과학을 통해 마음을 알 수 있다는 데 회의적이거든요. 뇌는 그나마 객관적 탐구가 가능한 반면, 마음은 객관적 접근이 불가능하니까요. 따라서 마음의 몇몇 기능을 구현하는 뇌의 부분들 또는 커넥톰을 프로그램에 복사해 넣는 것은 상상에서나 있는 일이라고 봅니다.
--- p.359