출판사로부터 책을 제공받아 주관적으로 작성한 글입니다

"인공지능" 요즘 가장 뜨거운 분야가 아닌가 싶다. 뉴스를 봐도, 유튜브를 봐도, 업무 현장을 봐도 온통 인공지능 이야기뿐이다. 관련 분야에서 일을 했던 경험 때문인지 정말 특이점이 오고 있는 것인지, 아니면 또 장사속에 빠져서 주식이든 투기든 돈벌려는 하나의 과장인지 가끔은 헷갈릴 때가 있다. 분명 인공지능의 한계는 보이는데 세상은 마치 모든 것이 해결될 것처럼 이야기하니 내가 모르는 무언가가 일어나고 있겠거니 하며 이해하려 애를 써보게 된다.

인공지능 하면 역시 할루시네이션이 가장 큰 문제라고 생각했었다. 없는 사실을 만들어내고 그럴듯하게 거짓말 살살 해대면서 포장하는 능력만큼은 인간 못지않기 때문이다. 그런데 최근에는 또 다른 문제가 크게 이슈화 되고 있다. "편향성" 사실 생각해 보면 당연한 이야기다. 사람이 만든 데이터를 사람이 가르쳤는데 편향이 없을 리가 없다. 서구권 자료를 중심으로 학습한 인공지능이 동양 문화나 지역적 특수성을 완벽하게 이해하지 못하는 것도 같은 이유다. 어떤 문화에서는 무례한 행동이 다른 문화에서는 자연스러운 행동으로 받아들여지기도 한다. 결국 인공지능의 편향은 인간의 편향을 비추는 거울에 가깝다고 생각한다.

이런 저런 편향을 가지고 책을 읽었다. 제목이 "AI조차 편향에서 벗어나지 못한다"였으니 당연히 인공지능 윤리나 머신러닝의 문제점을 다루는 책일 것이라 예상했었다. 그런데 전혀~ 이 책은 AI에 관한 책이 아니라 인간에 관한 책이다. 더 정확하게 말하면 인간이 얼마나 자주 착각하고 얼마나 쉽게 오류에 빠지는지를 설명하는 인지 편향, 편견?에 관한 입문서였다.

개인적으로 구성이 참 마음에 들었다. 보통 심리학 책들은 한 가지 이론을 설명하기 위해 몇십 페이지를 사용하기도 한다. 그런데 이 책은 짧고 강한 사례를 연속적으로 보여준다. 마치 유튜브 쇼츠를 넘기듯 한 편향성에 관한 이야기가 나오고 바로 또 다음 편향이 등장하고, 또 다른 사례가 이어진다. 짧은 호흡으로 읽히면서도 머릿속에는 꽤 오래 남았다. 아마 작가도 요즘 독자들이 긴 설명보다 핵심을 빠르게 받아들이는 방식을 선호한다는 점을 잘 알고 있었던 것 같다.

책은 인지 편향을 단순히 나열만 하지는 않았다. 사고 습관, 감정, 주변 사람들, 정보와 환경이라는 네 가지 큰 틀로 묶어 설명한다. 덕분에 개별 개념들이 서로 연결되어 보인다. 더닝-크루거 효과, 손실 회피, 확증 편향, 가용성 휴리스틱, 후광 효과 같은 익숙한 개념들도 왜 발생하는지 맥락 속에서 이해하게 된다.

읽으면서 가장 많이 뜨끔했던 부분은 역시 자기 자신을 객관적으로 평가하지 못하는 인간의 모습이었다. 능력이 부족할수록 스스로를 과대평가하는 더닝-크루거 효과, 잘된 일은 내 덕이고 실패는 환경 탓으로 돌리는 귀인 오류, 그리고 결과를 알고 나면 원래부터 그렇게 될 줄 알았다고 믿는 사후 확신 편향까지. 책을 읽다 보면 "이건 내 이야기인데?" 싶은 장면이 계속 나온다.

흥미로운 점은 똑똑한 사람이 편향에서 자유로운 것도 아니라는 사실이다. 오히려 지식이 많을수록 자신의 판단을 더 강하게 믿는 경우도 많다고 한다. 그래서 편향의 문제는 지능의 문제가 아니라 인간이라는 존재 자체의 문제처럼 느껴졌다. 인간의 판단이 생각보다 감정에 크게 좌우된다는 설명이 참 마음에 와 닿았다. 우울하면 더 우울한 정보에 끌리고, 좋아하는 사람의 말은 더 쉽게 믿으며, 손해를 보는 상황은 과도하게 두려워한다. 우리는 늘 논리적으로 판단한다고 생각하지만 실제로는 감정이 방향을 정하고 논리가 뒤따라오는 경우가 훨씬 많다는 사실을 새삼 깨닫게 된다.

책의 제목에 AI가 들어가 있지만 결국 이 책의 주인공은 인간이다. AI가 편향적인 이유도 결국 인간이 편향적이기 때문이다. 인공지능을 이해하려면 먼저 인간을 이해해야 하고, 인간을 이해하려면 인지 편향을 알아야 한다는 점을 자연스럽게 보여준다.

그래도 이 책을 읽고 나서 갑자기 편향에서 자유로워질 수는 없을 것 같다. 아마도 그것은 불가능에 가깝다. 다만 적어도 "내 생각이 틀릴 수도 있다"는 사실을 한 번 더 떠올리게 된다. 그리고 그 순간부터 판단의 질은 조금씩 달라질 수 있다. 뭔가 심리학 입문서이면서 동시에 자기 성찰의 책인것 같다. 인공지능에 관심 있는 사람은 물론이고, 자신의 판단이 얼마나 객관적인지 궁금한 사람이라면 흥미롭게 읽을 수 있을 것이다. 무엇보다 읽는 내내 인간이라는 존재가 생각보다 훨씬 비합리적이라는 사실에 웃음이 나오면서도, 이상하게 공감하게 되는 책이었다.

#구리야마나오코 #웨일북 #AI조차편향에서벗어나지못한다 #행동심리학 #인공지능이야기아님 #편견 #편향성 #리앤프리

* 출판사에서 도서 협찬을 받았습니다. 하지만 개인의 주관적인 견해로 작성하였습니다.

AI가 일상의 검색과 판단을 대신하는 시대가 되었다. 궁금한 것이 생기면 검색창을 오래 뒤질 필요 없이 질문 하나로 답을 얻는다. 그러나 그 답이 늘 객관적이라고 믿는 순간, 우리는 또 다른 생각의 함정에 들어선다. “AI조차 편향에서 벗어나지 못한다”는 인공지능과 알고리즘이 익숙해진 시대에 인간의 판단이 얼마나 쉽게 기울어지는지를 인지심리학의 관점에서 살펴본다.

저자는 인지 편향을 인간의 결함으로만 보지 않는다. 사람은 모든 정보를 끝까지 검토하며 살 수 없기에 경험과 직관에 기대어 빠르게 판단한다. 이 과정은 때로 삶을 효율적으로 만들지만, 동시에 확증 편향, 프레이밍 효과, 매몰 비용의 오류, 군중 심리 같은 판단의 왜곡을 낳는다. 복권, 주식, 쇼핑, 인간관계처럼 익숙한 사례를 따라가다 보면 내가 합리적이라고 믿었던 선택 역시 이미 어떤 방향으로 기울어져 있었음을 알게 된다.

흥미로운 지점은 AI 역시 이러한 편향에서 자유롭지 않다는 사실이다. 인공지능은 인간이 남긴 데이터를 학습하고, 그 데이터에는 인간 사회의 선입견과 누락된 관점이 함께 들어 있다. 검색 결과 상단에 보이는 정보나 AI가 제시하는 매끄러운 문장을 곧바로 사실로 받아들이는 태도는 위험하다. 기술이 정교해질수록 오히려 질문하는 힘과 검증하는 습관이 더 중요해진다.

“AI조차 편향에서 벗어나지 못한다”는 인공지능 시대의 자기계발서이자 인지심리학 입문서로 읽힌다. 완벽하게 객관적인 사람이 되라는 요구가 아니라, 나 역시 편향을 가진 존재임을 인정하라는 조용한 제안에 가깝다. 편향을 없애려 애쓰기보다 그것이 언제, 어떻게 작동하는지 알아차릴 때 판단은 조금 더 신중해진다. 정보가 많아질수록 필요한 것은 더 빠른 소비가 아니라, 잠시 멈추어 내 생각의 방향을 점검하는 태도다.

#AI조차편향에서벗어나지못한다 #구리야마나오코 #인지편향 #AI편향 #인공지능편향 #알고리즘편향 #확증편향 #프레이밍효과 #매몰비용오류 #군중심리 #필터버블 #가짜뉴스판별 #정보검증방법 #AI답변검증 #인지심리학책 #행동경제학입문 #비판적사고훈련 #판단력기르기 #생각의오류 #편향에서벗어나는법 #AI시대사고법 #알고리즘시대판단력 #인공지능시대필독서 #디지털리터러시 #정보과잉시대 #SNS정보편향 #휴리스틱이해 #생존편향 #심리학도서추천 #기술맹신경계

출판사로부터 도서를 제공받아 작성한 서평입니다.

우리는 인공지능이 발전하면 사람보다 더 정확하고 객관적인 판단을 할 수 있을 거라고 생각하는 경우가 많습니다. 실제로 검색 결과나 추천 시스템, 생성형 AI가 알려주는 내용을 자연스럽게 믿고 받아들이는 일도 많아졌습니다. 하지만 AI는 정보를 제공해 줄 뿐 결국 선택하는 것은 인간입니다. 정보는 인간의 선택에 의해 선택되고 AI는 그 선택을 보고 클릭을 유도할 수 있는 정보를 분석합니다. 결국 인간의 편향에 의해 AI도 객관적인 정보를 제공해 주지 못하는 경우가 왕왕 발생하게 됩니다.

《AI조차 편향에서 벗어나지 못한다》는 인간의 인지 편향과 AI 시대의 정보 환경을 연결해서 설명하는 책입니다. 저자는 AI로 인한 편향 문제를 단순히 기술적인 오류로만 보지 않고, AI가 결국 인간이 만든 데이터를 학습하기 때문에 인간이 가진 편향도 함께 따라갈 수밖에 없다고 이야기합니다. 책에서는 확증 편향이나 프레이밍 효과처럼 익숙한 심리 개념들을 일상적인 사례와 함께 설명하고 있습니다. 또한 이런 편향들이 뉴스나 SNS, 광고, 투자 같은 여러 분야에서 어떤 영향을 주는지도 쉽게 풀어주고 있어서 어렵다는 느낌 없이 읽을 수 있었습니다.

읽으면서 가장 인상적이었던 부분은 문제의 원인을 AI에서만 찾지 않는다는 점이었습니다. 처음에는 AI의 한계를 이야기하는 책이라고 생각했는데, 읽다 보니 오히려 인간이 얼마나 쉽게 편향된 판단을 하는지를 더 많이 보여주는 느낌이었습니다. 평소에는 내가 객관적으로 생각한다고 믿고 있었는데 실제로는 자신에게 유리한 정보만 받아들이거나 익숙한 생각을 더 쉽게 믿고 있다는 점도 돌아보게 됐습니다. 무엇보다 AI가 답을 대신 내려주는 시대일수록 그 답을 그대로 믿는 게 아니라 한 번쯤 의심하고 질문하는 태도가 필요하다는 메시지가 기억에 남았습니다.

《AI조차 편향에서 벗어나지 못한다》는 AI 시대에 인간의 생각과 판단이 어떤 방식으로 영향을 받는지를 쉽게 설명해 주는 책입니다. AI에 관심이 있는 사람뿐 아니라 넘쳐나는 정보 속에서 스스로 생각하는 힘을 키우고 싶은 분들에게 이 책을 추천드립니다.

이 글은 출판사로부터 도서를 제공받아 주관적으로 작성하였습니다.

AI, 사용하고 계신가요?

예전에는 검색을 통해 정보를 찾았지만, 지금은 질문만 하면 원하는 정보를 단숨에 찾을 수 있습니다.

그런데, 이 AI도 편향이 있다는 걸 알고 계신가요?

같은 맥락의 질문이라도 어떻게 하느냐에 따라 답이 완전히 달라집니다.

할루시네이션이라고 하는데, 이것도 일종이 편향이죠.

이 책은 편향, 특히 인지편향에 대해 설명하고 있습니다.

AI와 알고리즘이 일상이 된 시대에, 이 책은 우리가 얼마나 쉽게 ‘생각하기를 포기하고 있는지’를 보여주고 있습니다. 

내가 원하는 정보, 지식이 아니라 알고리즘이 제공하는 콘텐츠를 보면서 자신이 그것을 좋아한다고 생각합니다.\

이 책을 읽으며 그 자체가 이미 하나의 편향에 넘어간 상태였다는 알게 되었네요.

그럼, 이런 편향은 무조건 나쁜 것일까요?

저자는 반드시 나쁜 것은 아나라고 말하고 있습니다.

인지 편향을 단순히 ‘나쁜 것’이 아니라, 우리가 세상을 이해하는 방식일 뿐입니다.

사람이라면 누구나 더 편하게 생각하고 싶어 하고, 복잡한 선택 앞에서는 남들과 같은 선택을 하는 것이 마음이 편해집니다.

이 책은 왜 이런 선택을 하였는지, 그리고 그 과정에서 어떤 실수를 하는지 보여주고 있습니다.

이 책을 읽으면서 -늦었지만-내가 그때 왜 그런 선택을 하였는지를 이해하게 되었습니다.

복권, 주식,쇼핑, 인간관계까지 일상에서 우리가 만날 수 있는 다양한 예를 보여주고 있습니다.

그래서 ‘이 상황이 바로 그 편향이구나’ 하고 쉽게 이해할 수 있습니다.

특히 한 번 빠지면 벗어나기 어려운 매몰 비용의 함정, 남들의 반응만 보고 결정을 따라가는 군중 심리, 보고 싶은 것만 골라서 보는 확증 편향 같은 내용은 꼭 기억하고 싶습니다.

과거의 나의 잘못된 선택, 결정 같아서 마음이 아프네요.

앞서 말했던 AI의 잘못된 답변에 대한 내용도 흥미로웠습니다.

AI 역시 인간의 데이터를 학습했기 때문에 편향에서 완전히 자유로울 수 없다고 말하고 있습니다.

우리는 검색 결과 상단에 노출된 정보, AI가 제시하는 답변들을 자연스럽게 ‘객관적인 사실’로 받아들입니다.

하지만 그 뒤에는 이미 누군가의 선택, 과거 데이터, 특정 방향으로 치우친 정보가 겹겹이 쌓여 있다는 설명을 보면서, 기술에 대한 맹목적인 믿음도 위험하다고 생각됩니다.

이 책을 읽고 나서, AI에 대한 답에 대해 한번 더 검증해야겠다는 생각이 들었습니다.

인지 편향에 대해 깊게 생각해 본 적이 없었는데 이 책을 보니 더 많은 관심이 가네요.

누구나 이 기본적인 심리 법칙을 알고 있으면 살아가면서 더 올바른 선택과 결정을 할 수 있을 것입니다.

로봇이 아닌 이상-로봇이라도?- ‘완벽하게 객관적인 사람’이 될 수 없습니다.

편향에서 완전히 벗어나려 하기보다 나도 편향에서 자유롭지 않다는 사실을 인정해야 합니다.

그리고 누군가의 주장에 쉽게 휘둘리기보다, 내 선택에 대해 한 번 더 점검하고, 순간순간 더 나은 선택을 할 수 있도록 해야합니다.

#웨일북 #AI조차편향에서벗어나지못한다 #구리야마나오코 #인지편향

[ 출판사로부터 도서를 제공받고 작성한 리뷰입니다. ]

"글쎄, OO가 그런 파렴치한 일을 저질렀대."

"정말?"

"녹취랑 카카오톡 사진도 나왔대."

발 없는 말이 천 리를 간다고, 자극적인 뉴스일수록 온라인 커뮤니티와 소셜미디어를 통해 빠르게 확산되네요.

진위 여부를 확인하기도 전에 이미 수많은 사람들에게 알려지면 기정사실이 되어 비난 여론이 조성되네요. 최근 금전적 이익을 위해 특정인에 대한 악의적인 가짜뉴스를 유포하면서 AI 기술로 음성과 사진까지 날조한 유튜버가 구속기소되어 재판을 받고 있네요. 온라인 공간에서 대중의 흥미를 끄는 내용들이 너무나 쉽게 소비되면서 사이버 렉카들이 조회수와 후원금을 노리고 검증되지 않은 의혹과 조작된 가짜뉴스를 무분별하게 유포하며 개인의 삶을 파괴하는 범죄가 늘어나고 있네요. 가장 소름 돋는 부분은, 나 역시 무심결에 '누가 그랬대?'라며 동조했다는 거예요. 직접적으로 동조하거나 공유하는 행동은 한 적이 없지만 의심 없이 수용한 부분이 무섭더라고요. 무비판적으로 정보에 휘둘려 통제권을 잃을 수도 있겠구나라는 위기감이 들었네요. 

《AI조차 편향에서 벗어나지 못한다》는 인지심리학자이자 교육심리학, 교육공학 전문가인 구리야마 나오코 박사의 책이네요.

이 책은 인지 편향이 일상생활 곳곳에 조용히 숨어 있다는 사실을 다양한 사례를 통해 인지 편향의 주요 이론으로 체계적으로 정리하여 소개하고 있어요. 인간의 뇌는 태생적으로 사실보다 편향(편견)에 이끌리도록 작동하기 때문에 인지 편향과 전혀 무관한 사람은 존재하지 않네요. 저자는 펜실베니아와 스탠퍼드 대학교 등 세계적인 엘리트들이 왜 인지 편향을 필수 교양으로 공부하는지 그 핵심을 짚어주네요. 인지 편향에 대해 공부하지 않으면 인지 편향의 함정을 알아차리지 못하고 생명이나 재산을 잃을 위험에 처하거나 인간 관계가 망가질 만큼 큰 타격을 입기 때문이에요. 한마디로 인지 편향에 대한 무지는 대단한 위험하다는 거예요. 이러한 위험에서 벗어나기 위한 방법이 바로 인지 편향을 학습하는 거예요. 저자는 조각조각 분리된 이론들을 연결하여 우리 모두가 이해하기 쉽게 체계적으로 정리하여 설명해주네요. 인지 편향이란 무엇인가, 그 본질에 대해 내부 요인(사고 습관, 감정)과 외부 요인(사람, 정보와 사물)으로 나누어 자세히 다루고 있네요.

인지 편향에 대해 새롭게 알게 된 사실은 '인지 편향이 모두 해로운 것은 아니다'라는 거예요. 인지 편향이 작용하는 것은 우리가 논리적이고 이성적인 판단을 하지 못해서가 아니라 경험을 바탕으로 직관적 사고를 하기 때문이에요. 합리적 사고도 좋지만 모든 선택지를 하나하나 일일이 헤아리며 실행하다간 일생생활에 지장이 생긴다는 거죠. 부정적인 의미로만 쓰였던 편향이라는 개념에 대해 저자는 현실 세계의 불규칙함을 예측하고 통제해 적응하는 긍정적인 평가도 있다는 점을 밝히고 있네요. 결국 인지 편향의 본질을 이해한다면 편향을 단순히 피해야 할 덫이 아니라 세상을 읽어내는 도구로 전환하여 건강하게 공존할 수 있네요. 세상을 바르게 읽어내는 도구로 활용하여 구체적인 사고법을 익힐 수 있는 똑똑한 생각 지침서였네요.

"인지 편향을 지배하는 자가 세상을 지배하는 시대다.

대통령 선거에 열광하는 군중, SNS에서 기꺼이 마녀사냥에 가담하는 누리꾼, 상품과 서비스의 유행에 망설임 없이 올라타는 소비자들,

정보에 이리저리 휘둘리며 날뛰는 사람들, 이들을 움직이게 하는 것은 과연 무엇일까?

바로 '인지 편향'이다.

사람은 사실에 근거해 행동하지 않는다. 편향, 즉 '편견'이 부추기는 대로 움직인다. 이 세상은 '편향'에 따라 행동하는 인류로 이루어져 있다. 그렇기에 편견과 선입견에 놀아나지 않도록, 편견에 휘둘리는 사람들을 이해할 수 있도록 인지 편향에 대해 반드시 알아두어야 한다."

   (6-7p)



#AI조차편향에서벗어나지못한다#구리야마나오코#웨일북#세상의프레임에휘둘리지않고나를지키는판단력을기르는법#

디지털화가 급격하게 진행되고 인공지능이 하루가 다르게 빠른 속도로 성장하는 시대를 살아가고 있습니다. 이제는 궁금한 것이 생기거나 잘 모르는 부분이 있을 때 인터넷에 검색만 하면 손쉽게, 그리고 아주 간편하게 원하는 정보를 얻을 수 있게 되었습니다. 손가락 몇 번 움직이는 것만으로 방대한 지식에 접근할 수 있는 세상은 분명 편리합니다. 이런 편리함의 이면에는 우리가 쉽게 간과하기 어려운 문제들이 숨어 있지요. 인터넷 공간에는 출처가 불분명하고 증명되지 않은 정보가 넘쳐나고, 의도적으로 왜곡된 허위 사실들도 생각보다 많이 섞여 있기 때문입니다.

더 큰 문제는 쏟아지는 정보의 양에 비해 그것을 대하는 우리의 태도에 있습니다. 많은 사람이 넘쳐나는 정보에 대해 스스로 고민하고 깊이 있게 사고하기보다는, 화면에 뜨는 내용을 있는 그대로 받아들이는 경우가 부쩍 많아졌습니다. 스스로 생각하는 힘을 잃어버린 채 정보가 이끄는 대로 끌려다니는 듯한 기분이 들기도 합니다. 

인공지능이 골라주는 정답에 지나치게 의존하다 보니, 정작 나만의 기준을 가지고 현상과 정보를 판단하는 능력이 흐려지는 것은 아닐까 하는 불안감이 생겼습니다. 무분별한 정보의 홍수 속에서 휩쓸리지 않고 중심을 잡을 수 있는 구체적인 방법을 찾고 싶어서 이번 도서를 펼치게 되었습니다. 책을 읽으면서 인공지능과 알고리즘이 가진 이면을 깊이 들여다볼 수 있었습니다. 흔히 AI는 인간과 달라서 감정에 치우치지 않고 언제나 객관적이며 중립적인 결과를 도출할 것이라고 믿기 쉽습니다. 저자는 이러한 맹신이 얼마나 위험한지를 말합니다. 인공지능이 학습하는 데이터 자체가 결국 인간이 축적해 온 과거의 기록이기 때문에, 그 안에는 인간 사회의 편견과 차별, 편향성이 고스란히 녹아들어 있을 수밖에 없다는 점을 상세히 다루었어요. 시스템이 도출한 매끄러운 결과물에 가려진 왜곡된 시선을 발견할 줄 아는 안목이 그 어느 때보다 필요한 시점인 듯합니다.

확증 편향을 심화시키는 알고리즘의 원리가 언급되었는데, 플랫폼들은 이용자가 좋아하는 취향과 보고 싶어 하는 정보만을 지속적으로 제공하는 필터 버블을 만들어냅니다. 나도 모르는 사이에 내가 믿고 싶은 현실만을 보여주는 좁은 울타리에 갇히게 되는 셈입니다. 이러한 환경에서는 아무리 똑똑한 기술을 활용하더라도 시야가 좁아질 수밖에 없고, 결국 특정 정보만을 정답으로 확신하는 오류에 빠지기 쉽습니다. 저자가 들려주는 디지털 사회의 이면을 따라가다 보면, 그동안 편리하다는 이유로 검증 없이 수용했던 수많은 정보가 떠올라 스스로를 돌아보게 만듭니다.

우리가 디지털 생태계에서 주도권을 잃지 않기 위해서는 기술이 주는 편리함을 누리되, 의도적인 의심을 품는 습관을 지녀야 합니다. 화면에 제시되는 가공된 정보를 당연한 사실로 수용하기 전에, 이 데이터가 어떤 맥락에서 수집되었고 혹시 누락된 관점은 없는지 질문을 던지는 태도가 요구됩니다. 책에서는 정보의 출처를 다각도로 검증하고, 상반된 의견을 가진 자료들을 고르게 살펴보는 균형 감각의 중요성을 거듭 강조합니다. 기술의 발전 속도에 맞춰 우리의 비판적 사고 역량도 함께 진화해야만 기계의 편향성에 휘둘리지 않을 수 있습니다.

이번 독서는 인공지능 시대를 살아가는 한 개인으로서 어떤 마음가짐을 가져야 하는지를 고민해 보는 계기가 되었습니다. 완벽해 보이는 기술 뒤에 숨은 인간의 그림자를 확인하면서, 도리어 인간 고유의 사유 능력이 지닌 가치를 귀하게 깨닫게 돼요. 가짜 정보와 편향된 데이터가 가득한 세상이지만, 매 순간 질문을 멈추지 않고 스스로 사유하는 과정을 거친다면 나만의 단단한 판단 기준을 확립할 수 있다는 확신이 듭니다. 디지털 세상 속에서 중심을 잃지 않고 나만의 주체적인 시선을 길러나가고자 다짐합니다.

#AI조차편향에서벗어나지못한다

[출판사를 통해 도서를 제공받아 작성한 후기입니다.]

'인공지능(AI)은 인간보다 똑똑하고 완벽하니까 항상 중립적이고 정답만 말하겠지?' 챗GPT나 AI 이미지 생성기를 처음 접했을 때 했던 생각이다. 기술이 발전할수록 인간의 주관이나 편견이 끼어들 자리는 줄어들 거라고 생각했다. 인지심리학자 구리야마 나오코는 저의 이런 환상을 시원하게 날려버렸다. AI는 인간이 만든 데이터를 학습하며 인간의 편견과 인지 오류를 고스란히 답습하는 경향을 보인다. 나의 선입견이 깨진거다.

AI가 학습하는 데이터는 결국 우리 인간들이 인터넷에 남긴 글, 사진 등이다. 책은 바로 이 지점을 짚어준다. 인간이 가진 확증 편향(믿고 싶은 것만 믿는 버릇)이나 프레이밍 효과(말장난에 속는 현상) 같은 것들이 AI에게 고스란히 전달된다는 사실이다. AI가 편향된 이유는 기술이 부족하거나 나빠서가 아니라, 거울처럼 우리 인간의 모순을 그대로 비추고 있기 때문이라는 설명이다. 당연한 사실인데 새롭다.

'휴리스틱', '생존 편향' 같은 단어를 들으면 머리부터 아파오는 초심자지만 저자의 이야기는 쉽게 이해된다. 마트에서 '지방 20% 포함' 대신 '살코기 80%'라는 문구에 지갑을 여는 우리의 모습, 뉴스에 자주 나오는 자극적인 사건을 보고 세상이 온통 위험하다고 믿어버리는 예를 들어 편향에 대해 이야기해준다. AI 알고리즘이 추천해 주는 유튜브 같은 SNS에 중독된 이유를 알게 되었다. 이미 형성된 지금의 알고리즘을 없애기 위해 내 관심분야를 확장하고 다른 알고리즘을 만들어 극복한다.

4가지 편향에 대해 설명해준다. 프레이밍 효과는 같은 사실도 표현 방식에 따라 다르게 받아들이는 현상이다. 마트의 예로 설명해준다. 확증 편향은 윤** 같은 분들이 극우 유튜브에 심취한 것 같이 자신의 기존 믿음이나 가치관과 일치하는 정보만 선택적으로 수집하고 받아들여 생기는 편향이다. 가용성 휴리스틱은 객관적인 확률보다 머릿속에 쉽게 떠오르는 자극적인 기억을 바탕으로 사건의 빈도를 판단하는 오류이다. 생존 편향은 실패한 사례는 배제하고 살아남은 상위 일부의 성공 신화만 보고 섣불리 판단을 내리는 실수로 우리가 자기 계발서를 맹신하는 편향이다.

정보가 넘쳐나는 세상에서 AI 알고리즘이 만들어 놓은 판(필터 버블)에 갇히지 않고, 인간으로서 어떻게 주도적인 생각을 지켜낼 수 있는지 방법을 알려줍니다. 내 생각과 반대되는 의견도 일부러 찾아보고, AI의 답변을 무조건 맹신하기 전에 '왜 이런 답이 나왔을까?' 한 번 더 의심해 보는 태도가 왜 중요한지 알려준다.

AI의 답변을 신의 계시처럼 받아들이지 않는다. ‘AI로 만든 보고서는 손볼 필요도 없다.’는 상사의 말에 현혹된 경험이 있다. 그때나 지금이나 AI초심자이기 때문에 잘 몰라 현학적이 표현에 넘어 갔던 것이다. '혹시 이 답변에도 인간의 편견이 섞여 있진 않을까?' 하고 관조적이고 객관적인 사선을 가지려고 노력한다.  AI가 세상의 중심이 되어가는 지금, 기술을 공부하기 전에 AI에 휘둘리지 않고 중심을 잡고 똑똑하게 접근하고 싶은 모든 분들께 권합니다.

이 리뷰는 리앤프리서평단 자격으로 출판사로부터 도서를 무상으로 제공받아 주관적으로 작성하였습니다.

좋은 책 감사합니다.

#AI조차편향에서벗어나지못한다#구리야마나오코_지소연#whalebooks#리앤프리책카페#리앤프리서평단

＜출판사로부터 무상으로 책을 제공받고 작성한 리뷰입니다＞

편향(편견)이 가미되지 않는 생각과 판단은 존재하지 않는다. 우리가 하는 말이나 행동, 사고는 늘 편향이 따라다닌다. 편향은 사방에서 들어오는 많은 정보들을 모두 처리하지 못하는 인간의 한계 때문에 발생한다. 명백한 한계탓에 인간은 인생을 통해 축적된 경험(휴리스틱)에 의지해 빠르게 판단하거나(시스템1), 시간이 주어지면 심사숙고(시스템2) 해서 결정을 내린다. 우리는 대부분의 경우에 있어서 시스템1에 의지해 결정을 내리면서 살아간다. 그래서 잘못된 편향을 가지고서 살기 쉽다. 이 책은 편향의 다양한 면들을 소개하고, 편향에서 벗어나 보다 현명하게 사는 방법에 대해서 이야기한다.

이 책이 좋았던 점은 편향에 모든 것이 소개되어 있다는 부분이었다. 시중의 여러 책에서도 간간히 편향에 대해 이야기하지만 이렇게 대놓고 편향만을 모아놓은 책은 보지 못했다. 그런점에서 책 한권안에 여러 편향들을 살펴볼 수 있다는 점이 좋았다. 책은 여러 편향에 대해서 이야기한다. 가령 생존편향이 있다. 대다수가 실패하고 소수만 성공하지만, 성공하는 소수의 사례가 과대표집되기 때문에 나도 쉽게 소수안에 들어갈 수 있다는 착각이 생존편향이다. 예를들어 재수를 해서 지금 실력보다 휠씬 더 좋은 대학에 진학할 확률이 얼마나 될까? 온라인 커뮤니티나 미디어에서, 혹은 재수학원 광고에서는 극적인 재수성공사례가 부각된다. 이것만 보면 해 볼만한 게임처럼 보인다. 휠씬 더 많은 친구들이 재수에 실패해 고배를 마시지만, 우리 눈에 보이는 것은 성공사례뿐이다. 이러한 생존편향에다가 보고 싶은 것만 보는 확증편향이 추가되면 잘못된 판단을 할 가능성이 높아진다.

그렇다고 편향이 무조건 나쁜 것은 아니다. 자신을 긍정적이고 낙천적으로 생각하는 사람은, 객관화가 잘 되어 있는 사람보다 정신적인 면에서 더 건강하다고 한다.(너무 객관화가 잘 되어 있는 사람은 우울해지기 쉽다). 긍정적인 마음은 동기부여를 가져온다. 자신의 미래를 희망적으로 바라보아야 재수에 도전할 마음도 생길 것이다. 그런 점에서 편향은 우리에게 도움이 되기도 하고 어쩌면 인류가 존속할 수 있었던 이유도 자신에게 유리하게 바라보는 편향 덕분이었는지도 모른다. 결론은 우리는 모두 어느정도 편향을 가지고 살 수밖에 없고 이것이 도움을 주기도 하지만, 문제는 자신을 함정에 빠트리는 심각한 편향에 빠지는 것이다. 책을 통해 다양한 편향을 알아보고 나에게 적용해 보면 보다 합리적인 삶을 살아가는데 도움이 될 수 있을 것이다. 저자는 바로 결정하지 말고, 반대 의견을 생각해 보며, 적은 사례로 판단하지 않는등 사고의 오류에 빠지지 않는 방법에 대해서도 알려준다. 편향에 대해서 알아보고 합리적으로 살아가는데 도움이 되는 책이다.

- 본 서평은 출판사로부터 책을 제공받아 읽고, 주관적으로 작성한 서평입니다.

세상을 살다보면 가끔 상식적으로 잘 이해가 되지 않을때가 있다. 특히 어떤 자연 현상보다도 사람과 관계된 일에서 그런 생각이 들때가 있는데, 합리적이라 생각했던 사람이 비합리적인 결정이나 행동을 하는 걸 보며 그 이유에 대해 궁금해질때가 있다. 투자 공부를 하면서 행동경제학을 만나 그 이유에 대해 조금씩 알게 되었지만, 대체로 사례 중심으로 접하다 보니 한편으론 행동경제학을 좀 더 체계적으로 공부해보면 좋겠다는 생각이 들 때가 종종 있었다.

오늘 읽은 책은 'AI조차 편향에서 벗어나지 못한다'란 책이다. 이번 책의 저자는 일본의 인지심리학자이자 교육 전문가로, 인간의 추론과 문제해결, 유연한 사고를 오랫동안 연구해온 분이라고 한다. 책에서는 먼저 인지 편향이라는 개념이 어떤 학문적 흐름 속에서 발전해왔는지, 그리고 인간이 왜 ‘사실’보다 ‘편향’에 끌리도록 설계되어 있는지를 살펴보고, 그동안 여러 학문에 흩어져 있던 인지 편향 이론들을 사고습관, 감정, 사람, 정보와 사물이라는 네 가지 범주로 묶어 체계적으로 정리한다. 이와 함께 각 장에서 앵커링이나 손실회피, 확증편향, 프레이밍 효과처럼 비교적 널리 알려진 개념들을 구체적 사례와 함께 설명하고, 마지막에는 편향이 잘못된 것이 아니라 이를 받아들이고 살아가는 것에 대해 이야기하며 끝을 맺는다.

행동경제학에 관한 책이 많지만, 이번 책의 특징은 관련 이론을 소개하거나 설명한다기보다 네 가지 카테고리로 묶어 체계적으로 정리했다는 점인 것 같다. 단순한 분류 작업처럼 보일 수 있지만, 지금까지 이런 식으로 체계화를 시도한 책을 개인적으론 아직 만난 적이 없다는 점에서 신선했다. 또한 이렇게 구성하니 복잡한 관련 내용이 머릿속에 잘 정리되어 저자가 구성에 많은 고민을 했음을 새삼 느꼈다. 개인적으로는 요즘 고민하고 있던 부분이 많아서였는지 매몰비용의 오류를 다룬 콩코드 여객기 이야기와 나는 충분히 잘 할 수 있다고 나를 다독여 자기효능감을 높이는 부분, 사람의 마음을 움직이기 위한 6가지 설득의 원칙 중 제 1은 역시 호감이라는 부분 등이 눈길을 끌었다. 다소 무거울 것 같으면서도 쉽게 설명하고 있어 곁에 두고 참고하기에도 좋은 책이다. 적극 추천한다.

#AI조차편향에서벗어나지못한다 #구리야마나오코 #지소연 #웨일북 #인지편향 #행동경제학 #프레이밍효과 #확증편향 #손실회피 #앵커링효과 #인지심리학 #판단력 #생각의함정 #자기계발