*본 포스팅은 출판사로부터 도서를 제공받아 주관적으로 작성한 리뷰입니다.

인공지능(Al)에 대한 담론은 오늘날 우리 사회 곳곳에 넘쳐난다. 이번에 읽은 ＜AI 버블이 온다＞에서 아르빈드 나라야난 (Arvind Narayanan)과 사야시카푸르(Sayash Kapoor)가 지적하듯이, AI에 대해 쓰여진 것은 많지만 실제로 '말해진' 것은 얼마나 될까? 숨 가쁜 뉴스 기사들, 제품 출시 행사들, 그리고 그에 대한 격렬한 비판들은 AI 시스템이 실제로 어떻게 작동하는지, 진정한 과학적 진보가 이루어졌는지, 혹은 과대광고가 사라진 후 이러한 시스템들의 실제 활용 모습이 어떠한 지에 대해 거의 말해주지 않는다. 저자는 " 광고된 대로 작동하지 않고 작동할 수도 없는 AI"를 ' Al snake oil 로 정의하며, 특히 예측형 Al(predictive Al) 분야에서 이러한 헛된 약속들이 가장 집중되어 있고 가장 위험하다고 지적한다. AI가 만능이라고 오해를 불식시킬 수 있는 좋은 기회였다.

저자들이 다루는 세 번째 AI 영역은 소셜 미디어의 콘텐츠 조정(content moderation)이다. 저자들은 콘텐츠 조정의 자동화가 " 두더지 잡기(whack-a-mole)" 같은 성격을 띠는 어리석은 시도라고 주장한다. 더 많은 사용자들이 불가피하게 너무 둔한 알고리즘 도구를 회피하고 이용하는 방법을 배우기 때문이다. 이러한 상황은 소셜 미디어 기업들 내에서 정치, 표현의 자유, 글로벌 시장의 문화적 차이와 연결된 문제들에 대한 더 큰 빈곤을 나타낸다. 이들 기업의 직원들은 콘텐츠 규제를 위한 정교한 원칙을 개발하는 데 있어 훈련받지도, 보상받지도 못한다. 이 경우, AI 도구의 명백한 한계는 그것을 사용하는 기업과 기관들의 한계를 조명한다. 중요한 통찰이다. AI의 실패는 종종 기술 자체의 한계가 아니라, 그것을 배치하는 조직의 가치관, 우선순위, 그리고 역량의 부족을 드러낸다. 소셜 미디어 기업들이 콘텐츠 조정을 자동화하려는 것은 복잡한 사회적, 문화적, 정치적 판단을 기술적 문제로 환원하려는 시도이다. 그러나 저자들이 보여주듯이, 이러한 환 원주의는 필연적으로 실패할 수밖에 없다.

"기술에 대한 두려움은 자본주의에 대한 두려움이다." 저자들은 노조와 노동자 집단이 직장에서 AI의 미래를 형성하는 데 강력한 역할을 해야 한다고 주장한다. 특히 이러한 기술들이 다양한 종류의 직업과 관련된 업무의 균형을 급격하게 변화시키기 때문이다. 책의 가장 중요한 메시지 중 하나이다. AI 기술 자체는 중립적이지 않지만, 그것이 사회에 미치는 영향은 더욱 그것이 배치되는 경제적, 정치적 맥락에 의해 결정된다. AI가 노동자들의 임금을 낮추고, 고용 안정성을 감소시키며, 일자리를 줄이는 데 사용된다면, 그것이 아무리 생산성을 향상시킨다 하더라도 사회 전체에는 아무 의미가 없다. 역으로, AI가 어떻게든 다양한 조직들이 비용 절감보다 돌봄을 우선시하도록 돕는 데 역할을 한다면, 그것은 변혁적일 뿐만 아니라 기적적일 것이다. 저자들은 생성형 AI가 우리 세계에 유익한 효과를 가질 수 있다고 믿지만, 그것은 오직 제도적, 행정적 권력을 가진 사람들이 무엇보다도 이윤이나 비용 절감을 우선시하는 것을 멈출 때만 가능하다고 본다. AI 도구들은 난제적인 사회 문제들에 대한 빠른 해결책이 아니다. 고장난 제도를 고치고 공정한 노동 관행에 재헌신할 수 있는 것은 오직 사람들뿐이다.

#윌북 #AI버블이온다 

『AI 버블이 온다』라는 제목을 처음 접했을 때에는, 거대한쓰나미와도 같은 AI 열풍이 몰려와 하루가 다르게 발전하는 AI의기술적 진보를 다룬 책일 것이라고 생각하였습니다. 그러나 이 책에서 말하는 ‘버블’이란단순한 호황이 아니라, 거품(Hype)과 그로 인한 부작용을 의미한다는 점을 알게 되었습니다. 특히원어 제목이 『AI SnakeOil』로, 가짜약이나 허위 상품을 뜻하는 표현이라는 사실은 이 책의 문제의식을 더욱 분명히 보여줍니다. 본 도서는 AI에대한 과도한 낙관과 기대가 어떤 오류와 이상 현상을 낳았는지를 구체적인 사례를 통해 조목조목 밝혀 나갑니다.

항상 어떤 사건에서든지 정–반–합의 구조가 존재하듯, 충격에 가까운 AI 열풍이면에는 필연적으로 부작용이 발생합니다. 이 책은 그러한 부작용 중 무엇이 과장되고, 또 그 과장이 어떻게 누적되어 ‘버블’을 형성하는지를 논리적으로 설명하고 있습니다. 단순히 AI 기술의문제를 지적하는 데 그치지 않고, 사회와 시장이 어떻게 기대를 증폭시키는지를 비판적으로 분석한다는 점이인상적이었습니다.

이책이 특히 의미 있게 다가온 이유는 AI의 기술적 발전 자체보다도, AI를 둘러싸고 이를 남용하는 사람들과 그러한 사회적 현상에 주목하고 있다는 점입니다.저자는 AI 붐에 편승하여 분위기에 올라타고, ‘AI’라는 이름만으로 프리미엄을 얻으려는 시장의 욕망이 분명히 존재한다고 지적합니다. 이러한 구조는 닷컴 버블이나 암호화폐 열풍과 마찬가지로, 실체보다 기대에 기반한 과도한 버블을 형성하게 되며, 우리는 이를 반드시 경계해야 한다고 말합니다.

"AI의 부정적인 측면 대부분은 기술 자체보다는 그 기술을 사용하는 기관의 동기같은 외적 요소에서 비롯한다는 점을 인정해야 한다." (P364)

위 문장은 AI 논쟁의 핵심을 정확히 짚고 있다고 생각합니다. 오늘날 AI를둘러싼 다양한 문제들은 알고리즘의 성능이나 기술적 한계라기보다는, AI를 만능 해결책으로 간주하며 손쉬운 방법을 추구하는 사용 기관의 잘못된 동기에서 비롯되는 경우가 많습니다. 이러한 태도는 결국 이른바 ‘뱀기름 AI’에 대한 수요를 만들어내는 원인이 됩니다.

많은 조직은 복잡한 문제를 근본적으로 해결하기보다는, 비용과 책임을 줄여 줄 것처럼 보이는 AI에 의존하려는 경향을 보입니다. 그 결과 실제로는 정상적이고 합리적인 해결방법이 존재함에도 불구하고, 이를 외면한 채 더 빠르고 간편해 보이는편법으로서의 ‘뱀기름 AI’를 선택하게 됩니다. 이 과정에서 AI는 문제 해결을 위한 도구가 아니라, 문제를 회피하거나덮어두기 위한 명분으로전락하게 됩니다.

책에서 언급된 채용 사례는 이러한 문제를 잘 보여줍니다. 채용 시장이 완전히 붕괴된 것은 아니며, 지원자와 직무를 비교·검토할 수 있는 타당한 방법 또한 존재합니다. 그럼에도 불구하고 단 한 개의 채용 자리에 수백, 수천 명의 지원서를 검토해야 하는 채용 담당자는극심한 업무 부담 속에서 부적절한 선택을 하게 됩니다. 예를 들어, 지원자의역량이나 경험이 아니라 ‘책상을 깨끗하게유지하는지 여부’와 같은 의미 없는 기준으로 지원자를 걸러내는 AI를 도입하는 경우가 그렇습니다. 이는 기술의 문제라기보다, 기관이 책임 있는판단을 회피한 결과라고보는 것이 타당할 것입니다.

결국 AI의 위험성은 기술 그 자체에서 비롯되기보다는, 그것을 사용하는 인간과 조직의 태도에 의해 증폭됩니다. 이 문장은 AI 시대에 우리가 경계해야 할 대상이 더 강력한 알고리즘이 아니라, 편리한 결정을 추구하려는 인간의 유혹임을 분명히 보여줍니다.

특히 기업과 조직의 관점에서 본서의 문제의식은 더욱 분명해집니다. 명확한 용도나 문제 정의 없이 ‘AI 도입’ 그자체를 목표로 삼는 기업들이 적지 않으며, 그 결과 비용 증가와 조직 피로도가 누적되고 있습니다. 저자는 “AI를알지 못하면 도태된다”는 공포 마케팅에 휘둘리기보다는, AI를사용하는 행위 자체보다 **‘어디에,왜 사용해야 하는가’**라는질문이 훨씬 더 중요하다고 강조합니다.

결국『AI 버블이 온다』는 AI에 대한 성급한 회의론이나 단순한 비관론을 담은 책이라기보다, 정과반을 넘어 ‘합’으로 나아가기 위해 필요한 균형 감각을 제시하는 안내서에 가깝다고 느껴졌습니다.

 AI를 다루는 실무자나 기획자라면 이 책을 통해 AI가 지닌 기회와 위험을 동시에 살펴보고, 보다 현실적이고 책임 있는 시각을 갖는 데 큰 도움을 얻을 수 있을 것이라고 생각합니다.

최근 인공지능(AI)은 기술을 넘어 하나의 거대한 '신앙'이자 가장 뜨거운 주식 트렌드로 소비되고 있습니다. 챗GPT로 대표되는 생성형 AI가 등장한 이후, 시장은 마치 AI가 모든 것을 해결할 수 있을 것처럼 환호하며 천문학적인 자금을 쏟아붓고 있습니다. 하지만 인공지능 분야의 세계적 권위자인 저자는 《AI 버블이 온다》를 통해 우리에게 차가운 얼음물을 끼얹습니다. 이 책은 AI를 무조건 찬양하거나 비관하는 대신, 현재의 과열된 기대 속에 숨겨진 '거품의 실체'를 날카롭게 파고듭니다.

저자가 가장 먼저 지적하는 핵심은 '예측'과 '이해'의 차이입니다. 우리가 놀라워하는 생성형 AI의 결과물은 사실 고도의 지능이나 이해에서 나온 것이 아니라, 확률과 통계에 기반한 '다음 단어 맞히기'의 결과물이라는 점을 명확히 합니다. 저자는 이를 통해 화려한 마케팅 언어와 실제 기술의 한계를 구분해야 한다고 경고합니다. AI가 만능 해결책처럼 여겨지는 현 상황이 왜 위험한지, 그리고 왜 이런 맹목적인 기대가 반복적으로 만들어지는지를 구조적으로 보여줍니다.

특히 이 책은 기술적 비판을 넘어 채용, 의료, 범죄 예방 등 삶의 중대한 영역에서 쓰이는 예측형 AI를 '현대판 뱀기름(사기 약)'이라고 강하게 비판합니다. 수백억 원을 들였지만 실효성이 없었던 시카고의 총기 탐지 시스템이나, 실제 정확도가 64%수준으로 동전 던지기만큼이나 부정확했던 패혈증 예측 모델 등의 사례는 꽤 충격적입니다. 특히 이러한 기업들이 AI의 뒤에 숨어 어느 정보를 어떻게 학습했는지를 숨기고 이를 공개할 의무가 없다는 점을 꼬집으며 인간의 사회적 미래는 본질적으로 예측이 불가능하며, 단순히 데이터를 늘린다고 해서 이 한계가 극복되지 않는다고 지적합니다.

저자는 이러한 상황 속에서 '빅테크에 대한 경고'와 '규제의 필요성'을 강조합니다. 위의 사례와 같이 게리 마커스는 소수의 거대 IT 기업들이 AI 권력을 독점하며 이윤을 위해 안전과 윤리를 뒷전으로 미루는 사례를 들며 이를 방지하기 위한 대책이 필요하다고 말합니다. 또한 지금의 AI 열풍이 닷컴 버블처럼 꺼질 수 있음을 경고하면서도 이를 막기 위해 우리가 어떤 사회적 합의와 제도적 장치를 마련해야 하는지에 대한 대안을 제시합니다.

《AI 버블이 온다》는 인공지능이라는 거대한 안개 속에서 길을 잃지 않게 도와주는 든든한 등대 같은 책입니다. AI를 막연한 공포나 유행으로 소비하기보다, 현실적인 기준 위에서 냉철하게 이해하고 싶은 분들에게 이 책은 훌륭한 나침반이 될 것입니다. 현재 AI는 어느 방향으로 가고 있고 어떤 가능성과 위험성을 가지고 있는지 이해하고 싶은 분들께 이 책을 추천드립니다. 

『AI 버블이 온다』

‘AI는 만능 열쇠일까, 아니면 현대판 뱀의 기름일까?’

아르빈드 나라야난과 사야시 카푸르의 공저 『AI 버블이 온다』는 요즘 어딜 가나 들리는 AI라는 단어 뒤에 숨겨진 서늘한 진실을 파헤친 책이에요.

챗GPT가 세상을 바꾸고, AI가 주식 시장을 주도하는 지금, 왜 이 시점에 ‘버블’을 말하는 책을 읽어야 할까요?

‘뱀의 기름(Snake Oil)’에 속고 있는 것은 아닐까?

고거 미국 서부 시대에는 모든 병을 고친다며 가짜 약인 ‘뱀의 기름’을 팔던 사기꾼들이 있었어요.

저자들은 오늘날의 AI 마케팅 중 상당수가 이와 비슷하다고 경고하죠.

이 책은 AI를 세 가지로 명확히 구분해요.

얼굴 인식, 외국어 번역 등은 이미 입증이 된 ‘성공적인 AI’죠.

생성형 AI는 유용하지만 ‘환각’ 증세가 있어 ‘절반 성공인 AI’고요.

마지막으로 재범 가능성, 채용 성과 예측 등 미래 예측 AI는 ‘가짜 AI’로 뱀의 기름에 해당하죠.

우리가 가장 주의해야 할 ‘예측형 AI’

가장 인상 깊었던 대목은 ‘AI는 미래를 점칠 수 없다’는 점을 과학적으로 증명하는 부분이에요.

많은 기업이 AI를 이용해 ‘이 지원자가 입사 후 일을 잘할 것인가?’를 판단하려 하죠.

하지만 저자들은 이것이 ‘주사위 던지기’와 다를 바 없다고 말해요.

인간의 삶은 너무나 복잡해서 과거 데이터 몇 조각으로 공식화할 수 없기 때문이죠.

그럼에도 불구하고 우리는 ‘AI의 판단’이라는 이유만으로 그 결과를 맹신하는 경향이 있어요.

‘말 잘하는 것’과 ‘진실을 아는 것’의 차이

최근 핫한 챗GPT 같은 생성형 AI에 대해서도 저자들은 냉정해요.

AI가 문장을 유창하게 구사한다고 해서 그 내용을 이해하고 있는 것은 아니라는 점을 강조하죠.

우리는 AI의 언변에 속아 그 안에 담긴 오류와 편향성을 간과하곤 해요.

저자들은 이를 바로잡기 위해 AI의 한계를 명확히 인지하고 활용하는 ‘지적인 태도’가 필요하다고 역설해요.

이 책은 AI 열풍 속에서 막연한 불안감이나 근거 없는 낙관론에 빠진 분들에게 ‘찬물’ 같은 명쾌함을 줘요.

기술을 무조건 수용하기보다, 어떤 AI가 진짜 가치가 있는지 선별하는 안목을 길러주고요.

AI가 내린 잘못된 결정이 한 사람의 인생을 어떻게 망칠 수 있는지, 그리고 우리는 어떤 규제를 고민해야 하는지 화두를 던지고 있어요.

『AI 버블이 온다』는 AI 기술 자체를 부정하는 책이 아니에요.

오히려 진짜 혁신적인 기술을 지키기 위해, 가짜 기술(버블)을 걷어내자는 아주 생산적인 비판서죠.

AI 시대를 살아가는 직장인, 학생, 투자자라면 한 번쯤은 꼭 읽어보며 ‘기술의 민낯’을 마주해 보시길 권해요.

😍 윌북 출판사로부터 도서를 제공받아 주관적으로 작성하였습니다 😍

북유럽과 출판사로부터 책을 제공받아 읽고 개인적으로 작성한 내용입니다.

'AI버블이 온다'를 읽기 전까지 나는 AI 관련 뉴스나 미래 AI 전망을 상상에서만 일어나는 일들이 현실에서 일어나고 있는 듯이 받아들이고 있었다. 어디서나 AI 이야기가 나오고, AI와 접목된 새로운 신기술들이 마구 생산되면서 뒤처지면 안 될 것 같은 불안이 자연스럽게 쌓이기도 했다. 이 책은 그런 상태의 나에게 속도를 조금 늦추라고 말해주는 듯한 느낌을 주었다.

이 책을 읽으며 가장 크게 느낀 개인적인 감정은 안도감이었다. 모두가 같은 방향으로 달려갈 때 느끼는 불안과 조급함을, 이 책은 꽤 논리적으로 풀어주고, 다시 객관적인 시선으로 평정심을 가지게 도와준다. 과거에도 비슷한 기술 열풍이 있었고, 그때마다 거품과 실제 가치가 구분되지 않았다는 이야기를 따라가다 보니, 지금의 AI 열풍도 조금은 객관적으로 보이기 시작했다.

특히 인상 깊었던 부분은 “AI를 이해하지 못하면 도태된다”는 식의 공포 마케팅에 대한 비판이다. 책은 그런 말들이 왜 반복되는지, 누가 이득을 보는지를 차분히 설명한다. 그 덕분에 AI를 당장 완벽히 이해하지 못해도 괜찮다는 생각이 들었다. 중요한 것은 속도가 아니라 방향이라는 메시지가 마음에 남는다.

'AI버블이 온다'는 AI를 부정하지 않으면서도, 맹목적인 신뢰를 경계하게 만든다. 이 균형이 이 책의 가장 큰 장점이라고 생각한다. 읽고 나면 AI가 더 명확해졌다기보다는, 내가 무엇을 모르는지를 알게 된다. 그리고 그 사실이 오히려 불안을 줄여준다.

이 책을 덮고 나서 AI 뉴스를 보는 시선이 달라졌다. 자극적인 전망보다는 근거를 보게 되고, 그래서 이 기술이 실제로 어디에 쓰이고 있는가를 먼저 되묻게 된다. 'AI버블이 온다'는 미래를 예측해주는 책이 아니라, 과열된 현재를 차분히 바라보게 해주는 책이다. AI 시대를 살아가는 독자라면 한 번쯤 읽으며 균형을 잡아볼 만한 책이라고 느꼈다.

#북유럽 #AI버블이온다 #아르빈드나라야난 #사야시카푸르 #월북 #BOOKULOVE