“세계를 구원하기 위해 돈을 번다”
선한 의도는 어떻게 금융 사기의 면죄부가 되었을까

이 책의 출발점은 ‘효율적 이타주의(Effective Altruism)’라는 철학 운동이다. 피터 싱어의 ‘가장 효율적인 방법으로 세계의 고통을 줄이자’는 제안에서 출발한 이 운동은, 윌리엄 매캐스킬의 손을 거치면서 ‘장기론(longtermism)’, 즉 미래에 존재할 수조 명의 잠재적 인류가 현재의 80억보다 도덕적으로 더 중요하다는 사고로 변질된다. 이 변질을 단적으로 보여주는 매캐스킬의 주장이 있다. “지구 온도가 7~10℃ 올라 가난한 농경국가들이 타격을 입게 되더라도, 곧바로 인류 문명의 붕괴로 이어지는 것은 아니다.” 저자는 이 철학적 전환이 어떻게 일어났는지를 추적하면서, 장기론의 ‘기대값 계산’이 실현 확률이 극히 낮은 시나리오에도 천문학적 수치를 부여해 현재의 빈곤, 기후 위기, 전쟁보다 아직 일어나지 않은 AI 대재앙이나 우주 식민지 건설이 더 시급한 문제라는 결론에 이르고 마는 과정을 꼼꼼히 따라간다.
이 논리의 귀결점에 샘 뱅크먼프리드(SBF)의 FTX 사건이 있다. 매캐스킬은 SBF를 효율적 이타주의의 가장 성공적인 실천 사례로 내세웠고, SBF 자신도 ‘주기 위해 벌기(Earn to Give)’ 운동의 모범이라 자처했다. 베커는 ‘인류의 장기적 미래를 위해 가능한 한 많이 벌어야 한다’는 논리가 어떻게 80억 달러 규모의 금융 사기를 도덕적 사명으로 포장하는 면죄부가 되었는지, 그리고 이 논리 구조가 SBF 개인의 일탈이 아니라 장기론이라는 철학 자체에 내재된 위험이었음을 논증한다.

“AGI가 올 때까지 0에서 2개 사이의 비약적 발전만 있으면 된다”
특이점 신앙과 AI 종말론의 실체

레이 커즈와일은 기술 발전이 지수적으로 가속화되어 2045년경 인간을 초월하는 기계 지능, ‘특이점(Singularity)’이 탄생할 것이라 예언했다. 이 이론은 실리콘밸리의 복음이 되었고, 커즈와일 자신은 구글의 엔지니어링 디렉터로 초빙되었다. 베커는 커즈와일이 이 이론의 근거로 내세우는 ‘수확 가속의 법칙’이 무어의 법칙을 진화사 전체로 무리하게 확장한 것이며, 기술사에서 실제로 관찰되는 것은 가속이 아니라 ‘수확 체감’, 즉 혁신의 속도가 점차 둔화되는 현상이라는 점을 과학적으로 입증한다. 커즈와일이 세상을 떠난 아버지를 AI로 부활시키겠다는 개인적 열망을 특이점 이론에 투사했다는 지적은 이 ‘과학’의 종교적 본질을 드러낸다.
한편 엘리에저 유드코스키와 기계지능연구소(MIRI)를 중심으로 한 AI 종말론은 인간보다 뛰어난 AGI가 통제를 벗어나 인류를 소멸시킬 수 있다는 공포를 유포한다. 유드코스키는 저자와의 인터뷰에서 AGI의 등장이 “50년보다는 5년 내”라고 단언하며, AGI가 인류를 소멸시키지 못하도록 핵무기로 위협해서라도 강제로 AGI 연구를 중단시켜야 한다고 주장한다.
유드코스키의 경고는 일견 기술 낙관론자들의 대극에 서 있는 것처럼 보인다. 그러나 이 책이 추적하는 핵심은 바로 이 대립이 허구라는 점이다. AGI의 등장은 임박했고, 기술 발전은 필연이며 인류의 유일한 선택지라는 전제에서 양측은 차이가 없다. 다만 그 필연적 미래의 결론-구원이냐 재앙이냐-만 다를 뿐이다. 그리고 어느 쪽이든 바라는 바는 같다. 그 미래의 방향을 설정할 권한이 자신들에게 주어져야 한다는 것, 기술 발전과 인류 미래의 흐름을 만들기 위한 자원과 권력이 자신들에게 집중되어야 한다는 것이다.
베커는 유드코스키가 경고하는 묵시록적 서사가 ‘현재’ AI가 만들어내는 편향, 감시, 노동 대체, 에너지 소비 등의 실질적인 문제들로부터 시선을 돌리고, 기술업계에 규제를 피할 명분과 더 많은 자원을 끌어모을 구실을 동시에 제공하는 기능을 수행한다고 분석한다. 또한 이 운동의 뿌리가 온라인 커뮤니티 〈덜틀리기(LessWrong)〉에서 시작된 ‘이성론(rationalism)’ 운동에 있으며, 이것이 효율적 이타주의와 결합하면서 하나의 자기강화적 사상 생태계를 형성했음을 보여준다.

“우주 식민지화가 1초 늦어지면 100조 명이 죽는다”
학계의 비호와 정치적 침투

옥스퍼드대학교의 ‘인류의 미래 연구소(FHI)’는 장기론의 학문적 요새였다. 닉 보스트롬은 우주 식민지화가 1초 늦어질 때마다 100조 명의 잠재적 인명 손실이 발생한다는 극단적 계산을 내놓았고, 안데르스 산드베리는 인간 정신을 컴퓨터에 이식하는 ‘마인드 업로딩’의 가능성을 주장했다. 베커는 이러한 학술적 계산들의 전제가 얼마나 임의적인지를 하나하나 따져본다. 자기복제 탐사선, 다이슨 구, 영원히 팽창하는 우주 문명-이 모든 것이 실현 가능하다는 전제 위에서만 그 숫자가 성립하며, 그 전제 자체가 과학적으로 뒷받침되지 않는다.
특히 저자는 이 사상이 이미 현실 정치에 깊이 침투해 있음을 경고한다. 효율적 이타주의 운동의 최대 후원자인 오픈자선(Open Philanthropy)은 조지타운대학교에 안보·신기술센터(CSET)를 설립하여 미국 정부의 AI 정책에 직접적 영향력을 행사하고 있다. 매캐스킬은 일론 머스크를 SBF에게 소개하는 역할을 했고, 오픈AI 대표 샘 올트먼은 미 상원 청문회에서 증언하고 바이든 대통령을 만나면서 AI의 미래를 주도하겠다는 야심을 드러냈다.
한편, 넷스케이프 창업자이자 벤처자본가 마크 앤드리슨은 ‘기술 낙관주의자 선언(The Techno-Optimist Manifesto)’을 통해 AI 발전의 지연은 곧 살인과 다름없다고 주장했다. 베커는 앤드리슨이 아무리 이성론자·효율적 이타주의자와 다르다고 증명하려 해도 정작 사고방식에서 차이가 나지 않는다고 지적한다. 결론만 다를 뿐, 거의 같은 기본 전제, 기술 발전은 필연적이고, 항구적 성장은 가능하며, 인류의 운명은 우주를 향해 있다는 것에서 출발하기 때문이다. 기술 가속주의든 AI 종말론이든 효율적 이타주의든, 귀결점은 동일하다. 기술 억만장자들의 부의 축적과 권력 강화를 도덕적 사명으로 포장하는 것이다.

그 미래는 오지 않는다.
그러나 그 꿈은 이미 우리를 지배하고 있다

이 책이 분석하는 사상이 현실을 주도하는 광경을 우리는 이미 목도하고 있다. 일론 머스크는 미국 연방정부의 예산 삭감을 주도했고, 오픈AI는 비영리법인에서 영리 기업으로의 전환을 마쳤으며, 빅테크 기업들의 시가총액은 웬만한 국가의 GDP를 초월한다. 이 책이 해부하는 ‘기술 권력’이 단순한 망상이나 비방이 아니라 이미 현실의 정치·경제 질서를 재편하는 동력이 되고 있다는 증거이다.
AI 패권 경쟁, 반도체 공급망 재편, 빅테크의 정치적 영향력 확대. 이 같은 현상은 한국 사회에도 직접적으로 영향을 미치고 있다. 삼성과 SK 같은 반도체 기업이 글로벌 공급망의 핵심 축을 이루고, AI 기술 도입이 산업 전반에서 가속화되는 상황에서 실리콘밸리 억만장자들의 비전이 어떤 사상적 토대 위에 서 있는지 이해하는 것은 단순한 교양이 아니라 전략적 필수 과제이다. 또한 이 책이 분석하는 ‘효율적 이타주의’와 ‘기술 가속주의’ 같은 사조는 한국의 스타트업 생태계와 기술 정책 담론에도 이미 번역·수입되고 있어, 그 사상적 맥락과 위험을 이해하는 것이 더할 나위 없이 중요하다.
이 책은 기술 비판서로 시작하지만, 결국 인간에 대한 책으로 끝난다. 마지막 장 〈전대미답의 장소〉에서 저자는 자신의 이야기를 꺼낸다. 칼 세이건의 『코스모스』에 매혹되고 『스타트렉』을 보며 우주를 꿈꾸던 소년이었다는 것. 과학이 인류를 더 나은 곳으로 이끌어줄 것이라는 믿음은 이 책의 비판 대상만의 것이 아니라 저자 자신의 것이기도 했다. 그러나 베커는 묻는다. 그 꿈이 소수의 독점물이 되어 나머지 인류의 현재를 짓밟는 도구가 될 때, 우리는 무엇을 선택해야 하는가.
지구 온난화, 불평등, 핵전쟁의 위험은 에너지를 더 쓰고 기술을 더 개발한다고 해결되지 않는다. 설득, 정의, 공정이 필요한 정치적 문제들이기 때문이다. 만병통치약도 유토피아도 없다는 것을 받아들이는 것이 인류의 미래를 위한 길이다. 우리를 구원하러 오는 존재는 없다. 기술에 세상의 치유를 맡길 수 없다. 우리가 직접 해야 한다.
80년도 전에 전 미국 연방대법관 루이스 브랜다이스가 “민주주의를 가질 수도 있고, 소수에게 부가 집중될 수도 있지만, 동시에는 할 수 없다”라고 역설한 것처럼, 지난 10년 동안 부의 집중으로 인해 민주주의는 약화되고 있으며, 억만장자의 존재 자체가 민주주의를 위협하는 것처럼 보이기까지 한다. 저자는 어슐러 K. 르 귄의 말을 빌어 책을 마무리한다. 자본주의의 종말보다 세계의 종말이 더 상상하기 쉬운 시대이지만, 인간의 저항을 통해 바꾸지 못할 인간의 권력이란 없다고. 억만장자들이 불가능한 미래를 필연적 운명이라 포장하는 이유는, 우리로 하여금 당연한 미래, 정해진 미래 같은 것은 없다는 사실을 잊게 만들기 위해서이다. 이 책은 바로 그 사실을 상기시킨다. 책의 마지막에서 저자가 역설하듯이, “미래는 열려 있다.”

[미디어 추천평]

인공지능의 힘에 대한 무한한 신뢰를 옹호하고, 또 그로부터 이익을 거둬 온 미래주의자 집단이 내세우는 아이디어에 대한 설득력 있는 탐사. 이런 기술 주도 비전에 맞서는 일이 필수적인 이유는, 그것이 이미 사회의 통치 방식에 영향을 미치기 시작했기 때문이다.
_『네이처(Nature)』

불온하다……. 『기술이 인류를 구원한다는 착각』은 독자의 뒤통수를 치면서도 도저히 손을 뗄 수 없게 만드는 중요한 책이다.
_『뉴사이언티스트(New Scientist)』

서슬 퍼런 대중 과학서…… 이 억만장자들의 주장이 얼마나 허황되고, 어리석고, 혹은 기만적인지를 여실히 드러내며, 과대 선전에 대한 강력한 해독제가 되어 주는 책.
_『뉴요커(The New Yorker)』 'Goings On' 뉴스레터

영리하고, 놀라울 만큼 잘 읽힌다…… 베커가 다루는 테크 인물들에 대한 날카로운 비판 속에는 연민을 향한 단호한 호소가 담겨 있다. 저 먼 은하에 매달리지 말고, 우리 발밑의 연약한 행성과 그 위에 사는 연약한 인간들에게 더 많은 관심을 기울이라는 것이다.
_『뉴욕타임스(The New York Times)』

중독성 있고 빼어난 저작. 이 주제가 마땅히 받아야 할 신랄한 경멸을 유감없이 쏟아붓는다. 흡사 〈라스베가스의 공포와 혐오〉의 실리콘밸리 판이다.
_『뉴질랜드 헤럴드(New Zealand Herald)』

또렷한 눈으로 인간을 바라보자는 호소……. 억만장자들의 우주 경쟁과 AI 과대 선전이 헤드라인을 지배하는 시대에, 『기술이 인류를 구원한다는 착각』은 절실히 필요한 현실 점검으로서 독자들에게 와닿는다.
_『애틀랜틱(The Atlantic)』

훌륭하고 활기차다……. AI 기술이 실제로 어떻게 작동하는지를 다루는 책은 많지만, 그것이 ‘신화로서’ 어떻게 작동하는지를 설명하는 책은 거의 없다. 수많은 AI 지도자들이 왜 자신의 기술이 죽음의 상처를 치유하고, 거의 무한한 풍요를 가져다주며, 우리를 은하계로 이끌어줄 것이라 믿는지 이해하고 싶다면, 바로 이 책을 읽어야 한다.
_『로페어(Lawfare)』

베커는 실리콘밸리의 이데올로기에 꼭 필요한 비판적 검토를 가하며, 수많은 기술 억만장자들이 복음처럼 떠받드는 허무맹랑한 아이디어에 구멍을 뚫고, 나아가 통쾌하게 조롱한다. 그는 현실을 옹호하는 동시에, 기술 억만장자들이 결코 도래할 수 없는 미래를 향해 우리를 밀어붙이고 있다는 위험을 백일하에 드러낸다.
_『롤링 스톤(Rolling Stone)』

기술 억만장자들은 잘못 해석된 공상과학, 잘못 이해된 인지심리학, 죽음에 대한 공포, 그리고 천문학적인 돈을 벌면서도 도덕적 정당성을 확보하고 싶은 욕구를 토대로 일종의 종교를 만들어냈다. 베커는 이러한 목표 이면의 부정확한 과학적·수학적·도덕적 신념을 해부하는 데 탁월하다.
_『리액터 매거진(Reactor Magazine)』

오늘날의 예언자들에 대한 냉철한 평가.
_『보스턴 글로브(The Boston Globe)』

세계를 좌우하는 기술 억만장자들의 권력을 줄이라는 긴급한 호소. 베커는 시의적절하고 사실에 기반한 경종을 울린다. 그의 거침없는 비판은 그들의 권력을 허무는 데 근본적으로 기여한다.
_『사이언스(Science)』
깊이 있는 취재와 몰입감 넘치는 서사.
『사이언스 뉴스(Science News)』

매혹적이면서도 분노를 자아낸다. 이 책은 세계에서 가장 강력한 권력자들이 어떤 식으로 사고하는지를 드러내는 동시에, 거기에 어떻게 맞서 싸울 수 있는지도 보여준다.
_『사이언티픽 아메리칸(Scientific American)』

훌륭하다. 온갖 환상적 미래주의 학파의 꿈과 악몽을 안내하는, 매혹적이고 소름 끼치며 때로는 유쾌하기까지 한 여정…. 경탄할 만한 책이다.
_『시드니 모닝 헤럴드(The Sydney Morning Herald)』

베커의 냉철한 책은 우리 세계를 맹렬한 속도로 바꾸고 있는 기술에 대해, 특히 그 기술을 쥐고 있는 사람들에 대해 반가운 대안적 시각을 제공한다. 이 책은 우리가 정말로 원하는 미래가 어떤 것인지 좀 더 깊이 생각하게 만든다.
_『언다크(Undark)』

『기술이 인류를 구원한다는 착각』에서 애덤 베커는 기술 엘리트의 원대한 야심, 그러니까 AI에 대한 메시아적 신앙, 우주를 향한 제국주의적 열망, 아직 태어나지 않은 인류 수조 명을 위한다는 도덕적 허울 따위를 토끼가 절대 나타나지 않는 큰 판돈의 마술 쇼를 지켜보는 듯한 눈으로 조감한다. 이 책의 핵심에 깔린 조용한 파괴력은 바로 이것이다. 이 거창한 테크노 유토피아적 비전이 미래를 민주화하기는커녕 미래에 대한 통제를 공고히 한다는 깨달음.
_『워스 매거진(Worth Magazine)』

시의적절하고 사려 깊다……. 천체물리학자이자 과학 저널리스트인 베커는 온갖 추측성 기술을 과감하게 탐험하며 실제 과학의 잣대로 그 실현 가능성을 따진다… 실리콘밸리의 가장 대담한 주장에 대한 중요하고 냉철한 탐사. [2025년 커커스 올해의 책 선정]
_『커커스 리뷰(Kirkus Reviews)』

베커의 날카로운 비평은 테크 억만장자들의 끝없는 부의 축적을 떠받치는 자기합리화의 서사를 폭로한다. 실리콘밸리 세력에 대한 통렬한 비판서.
_『퍼블리셔스 위클리(Publishers Weekly)』