최근 들어 부쩍 AI와 알고리즘이 우리 삶 구석구석에 강력하게 스며들면서 불안감을 느끼는 사람들이 많죠. '알고리즘 포비아'는 바로 그 불안에 대해 이야기 하는 책이에요. 기술 자체를 단순히 옳고 그름으로 평가하지 않고, 알고리즘이 어떻게 우리 내면과 사회구조를 재조정하는지 섬세하게 보여주는, 정말 많은 분들이 읽어보셨으면 좋을 내용이에요~읽으면서 가장 무거웠던 부분은
"AI, 알고리즘에 대한 균형잡힌 시각을 원한다면, 이 책 강추!!" 내용보기
|
최근 들어 부쩍 AI와 알고리즘이 우리 삶 구석구석에 강력하게 스며들면서 불안감을 느끼는 사람들이 많죠. '알고리즘 포비아'는 바로 그 불안에 대해 이야기 하는 책이에요. 기술 자체를 단순히 옳고 그름으로 평가하지 않고, 알고리즘이 어떻게 우리 내면과 사회구조를 재조정하는지 섬세하게 보여주는, 정말 많은 분들이 읽어보셨으면 좋을 내용이에요~ 읽으면서 가장 무거웠던 부분은 ‘자동화된 권력’이라는 개념인데, 우버 기사 알렉산드루의 사례처럼, 시스템의 오류나 불투명한 판단이 개인의 삶을 한순간에 바꿔버리는 현실은 더 이상 먼 미래의 이야기가 아닌 상황에서 법이나 인간의 판단이 무력해지는 순간을 가리키며, 알고리즘이 “책임을 지지 않는 감시 체계”로 작동할 때 인간은 스스로를 통제하고 죄책감을 내면화한다는 지적에서는 등골이 오싹해지더군요. 그 외에도 아마존 물류창고나 플랫폼 노동의 사례는 알고리즘이 어떻게 인간의 일상적 리듬과 감정을 ‘생산성 지표’로 환산하는지 잘 보여주는다. 휴식 시간조차 데이터로 관리되는 시대에 노동자의 피로와 불안이 데이터로 전환되는 과정은, 기술의 효율성이라는 미명 아래 인간이 얼마나 소비되는지를 적나라하게 드러내주는... 읽으면서 매우 씁쓸하더군요. 그리고 넷플릭스 추천 시스템을 통해 취향이 설계되는 이야기도 흥미로웠는데, 추천 알고리즘이 “당신이 좋아할 것”을 제안할 때 우리는 자유롭게 선택한다고 믿지만, 사실은 이미 설계된 경로를 따라가고 있다는 지적은 매일 OTT를 콘텐츠를 소비하는 입장에서 많은 생각을 하게 되더군요. 저자의 균형 잡힌 시선도 좋았는데, 기술을 단순히 악마화하지 않고, 오히려 AI를 현대 사회의 집단 무의식, 우리 욕망과 두려움이 반영되는 거울로 보며, 우리가 왜 이런 기술을 만들고 받아들이는지 그 심리를 파고드는.... ‘불안이 기술을 성장시키는 연료’라는 말은 책 전체의 주제를 관통하는 날카로운 통찰이 담긴 문장인 것 같아요. 기술이 주는 편리함 뒤에 숨겨진 불안과 의존, 그리고 그것이 개인과 사회에 미치는 장기적 영향까지.... 스스로 질문하게 되는.... AI 기술을 무작정 배척하거나 맹목적으로 환영하지 않고, 우리가 왜 이 기술을 기꺼이 받아들이는지, 그리고 그로 인해 어떤 것을 잃고 있는지 생각하면서, 우리의 일상을 그런 관점에서 다시 돌아보게 하는 책이었습니다. 많은 분들이 읽어보셨으면 좋겠어요. AI와 알고리즘이 인간의 삶에 미치는 영향을 주제로하는 책들이 많이 있지만, '알고리즘 포비아'는 또 다른 결로 굉장히 흥미롭고 유익한 책이거든요!!! *문장수집 [1] 첨단 자동화 사회에서는 예측 분석과 스마트 알고리즘이 시장의 ‘실제 요구’와 ‘가능한 욕구’를 설정하고 실현한다. 이 같은 흐름 속에서 나타날 수 있는 부작용이란 데이터 파워의 강압성, 알고리즘 편향의 위험성이나 미래 시장 예측을 위한 민간 데이터의 대량 판매 등에 그치지 않는다. 전 세계적으로 불안감이 확산되는 건 물론, 불길한 예감, 환멸과 의심이 제각각이면서도 서로 꼬리를 무는 형태로 피어나게 된다. . [2] 자동 추천은 심지어 소비자를 제약하고 제한할 수 있다. 대중문화에 대한 사람들의 관심은 다방면을 향해 있는 데다 개인의 정체성이란 본질적으로 다양하고 혼합적이며 모순적인 것임에도 말도 안 되게 통일된 시청 취향을 제시하기 때문이다. 
|
✧ 출판사로부터 도서를 제공받아 직접 읽은 후 작성한 서평입니다.근래 들어 읽은 책 중 ”생각“을 가장 많이 하게 한 책이다. 알고리즘, 생성형AI의 시대에 살아가고 있는 일원으로서 책이 이야기하는 불안에 공감하고 있기 때문이다. 이 책이 통찰하는 불안은 인공지능이 일자리를 대체하면 어찌해야 하나와 같은 막연함이 아니다. 저자는 동시대의 불안을 개인 정체성과 실존의 문제
"알고리즘 시대, 불안의 근원이 궁금한 이들에게" 내용보기
|
✧ 출판사로부터 도서를 제공받아 직접 읽은 후 작성한 서평입니다.  근래 들어 읽은 책 중 ”생각“을 가장 많이 하게 한 책이다. 알고리즘, 생성형AI의 시대에 살아가고 있는 일원으로서 책이 이야기하는 불안에 공감하고 있기 때문이다. 이 책이 통찰하는 불안은 인공지능이 일자리를 대체하면 어찌해야 하나와 같은 막연함이 아니다. 저자는 동시대의 불안을 개인 정체성과 실존의 문제로 읽어낸다. 우리를 둘러싸고 있는 인공지능이 어쩌면 우리의 정체성을 제거해 나가고 있을지도 모른다.이 책은 크게 7개의 장으로 구성되어 있으며, 각각의 단원에서 우리 생활에 깊이 관여하는 기업과 문화 콘텐츠를 다루고 있다. 한병철 철학자와 ＜오징어게임＞에 대한 언급이 있어 반가웠다. 저자는 다양한 철학자의 견해를 중심으로 자신의 의견을 논증하는데, 비판의 지점이 명확하여 이해가 어렵지 않다. 인상깊었던 키워드를 중심으로 각 장을 정리해 보았다. 1️⃣ 우버의 평가시스템: 개인의 정체성 위기 2️⃣ 아마존의 노동자 통제 알고리즘: 마음챙김의 도구화 3️⃣ 넷플릭스의 추천 알고리즘: 위임된 주체 4️⃣ ＜오징어게임＞: 알고리즘 자본주의에 대한 통찰 5️⃣ 메타버스: 강화되는 시장논리 6️⃣ 생성형 AI: 인공지능과 인간지능에 대한 새로운 관점의 요청 7️⃣ 인공지능 시대의 불안: 예측가능한 사회에 대한 의구심 인공지능이 일상의 통제를 강화할 수 있다는 점, 강력한 통제 속 개인은 정체성을 상실한 채로 기계적인 존재로 전락할 수 있다는 점이 두렵다. 가끔은 내가 다른 어플에서 검색했던 단어와 관련된 광고가 인스타그램에 노출되는 것을 보며 인공지능이 나를 너무 쉽게 규정지어 버리는 것이 아닌가 하는 불안을 느끼기도 한다. 그 불안의 감정을 해체하여 파악할 수 있어 유익했다. 일상의 모든 작업과 취미가 인공지능을 거치게 되면서 내가 스스로에 대해 깊이 생각하는 기회를 점점 빼앗기고 있는 것 같다. 기술은 분명 인간의 편의를 높여주는 측면이 있지만, 과연 그것이 진정한 삶의 질 향상으로 이어지는지는 계속해서 의문을 던지며 살아가야 할 것 같다. 능동적인 물음을 가진 인간만이 동기와 감정을 잃지 않고 살아갈 수 있겠다는 생각이다. 그런 의미에서 독서는 참 유익한 취미인 것 같다. 물론 내 독서활동 역시 추천 알고리즘의 영향에서 완전히 벗어난 것은 아니지만..ㅎㅎ |
앤서니 엘리엇의 알고리즘 포비아는 AI가 어떻게 인간을 지배하는가 라는 부제 그대로 지금 우리 시대의 문제가 될만한 주제를 알려주는 책이다. 우리가 당연하게 사용하는 기술들 예로 들면 우버 아마존 넷플릭스 챗GPT 같은 시스템 뒤에 숨어 있는 알고리즘의 권력을 마주하게 한다.우리는 AI 알고리즘의 시대에 살고 있지만 불안은 여전히 해소되지 않았다. 저자는 기술이 인간을 편리
"알고리즘 포비아" 내용보기
|
앤서니 엘리엇의 알고리즘 포비아는 AI가 어떻게 인간을 지배하는가 라는 부제 그대로 지금 우리 시대의 문제가 될만한 주제를 알려주는 책이다. 우리가 당연하게 사용하는 기술들 예로 들면 우버 아마존 넷플릭스 챗GPT 같은 시스템 뒤에 숨어 있는 알고리즘의 권력을 마주하게 한다. 우리는 AI 알고리즘의 시대에 살고 있지만 불안은 여전히 해소되지 않았다. 저자는 기술이 인간을 편리하게 만드는 동시에 우리의 선택과 자유를 어떻게 통제하는지를 구체적인 사례로 보여준다. 알고리즘 안에는 충격적인 현실의 사례들로 가득하다. 우버 기사가 시스템 오류로 해고되고 넷플릭스의 추천 알고리즘이 개인의 취향을 길들이며 아마존의 관리 시스템이 직원의 화장실 사용까지 감시한다는 장면들은 불편할 만큼 현실적이다. 이 모든 것이 먼 미래가 아닌 지금의 현실이다. AI 시대의 불안이라는 말이 실감났다. 노동 안전 일상 심지어 사생활까지 알고리즘의 그림자가 깊숙이 관여하고 있음을 깨달았다. 자동화된 시스템이 효율성을 내세우지만 그 과정에서 개인의 삶이 무너지는 아이러니를 본다. 단순히 기술 발전을 비판하는 것이 아니라 효율과 통제 사이에서 인간성은 어디로 가고 있는가라는 근본적인 질문을 던진다. 개개인의 자유가 과연 안전한가라는 근본적인 질문을 던지게 되었다. 내가 넷플릭스에서 보는 콘텐츠 내가 선택하는 경로조차 과연 나의 순수한 선택일까. 작가는 이러한 시대를 편리함 속의 종속이라 표현했다. 나는 그 문장이 기억에 남았다. 알고리즘 포비아는 철학서처럼 깊고 사회비평서처럼 현실적이다. 인공지능 시대를 살아가는 우리가 무엇을 놓치고 있는지 또 무엇을 지켜야 하는지를 묻는다. 이것은 단순히 AI가 무섭다는 경고가 아니라 인간이 기술을 통제하기 위해 무엇을 지켜야 하는가를 묻는 책이다. 편리함에 취해 잃어버린 인간의 역할을 되찾으라는 메시지를 전해준다. #알고리즘포비아 #한국경제신문출판사 #앤서니엘리엇 #서평단 @hankyung_bp |
SNS와 유튜브를 보다가 검색도 하지 않았는데 내가 대화를 하거나 혼잣말을 한 제품이 광고로 뜬 경험이 있으실겁니다. 그건 두가지 때문인데 이미 해당 서비스를 사용할때 가입자의 사진, 음성등이 ‘맞춤형 광고’에 사용될 수 있다는 약관을 무시했기 때문이고, 또 하나는 해당 앱의 백엔드단에 이미 사용자의 개인정보와 사용시간, 주요 검색 데이터를 통해 구매데이터와 매칭한 제품
"이미 알고리즘에 지배당하는 중" 내용보기
|
SNS와 유튜브를 보다가 검색도 하지 않았는데 내가 대화를 하거나 혼잣말을 한 제품이 광고로 뜬 경험이 있으실겁니다. 그건 두가지 때문인데 이미 해당 서비스를 사용할때 가입자의 사진, 음성등이 ‘맞춤형 광고’에 사용될 수 있다는 약관을 무시했기 때문이고, 또 하나는 해당 앱의 백엔드단에 이미 사용자의 개인정보와 사용시간, 주요 검색 데이터를 통해 구매데이터와 매칭한 제품들이 광고로 이어지기 때문이죠. 부인하고 싶을지라도 이미 전세계인의 대다수는 알고리즘에 지배당하고 있습니다. 그런데 이게 공포스럽게 느껴지는지, 아니면 그 반대로 활용할지는 결국 개인의 선택인데, ＜알고리즘 포비아＞는 다소 전자에 치우쳐있는 서적입니다. 본서는 현대문명의 가장 최첨단의 이기인 인공지능(AI)이 사람들의 삶을 획기적으로 바꿔줄것이라는 열광(?)뒤에 부작용을 중점적으로 바라봅니다.대표적인 부작용은 앞서 언급한 알고리즘이 파혜치는 사생활이나 정보의 오남용등이 있을 겁니다. 다른 한편으로는 ‘자동화’에 매몰된 많은 기업들의 노동자가 겪는 부작용일겁니다. 예를 들어 아마존의 한 물류센터에는 노동자들이 화장실을 얼마나 이용하는지에 대한 이용빈도와 이용시간을 ‘데이터’로 처리해서 이것을 고용영속성에 반영을 하는 지표로 사용한다고 합니다. 또한 일부 공장은 과로로 쓰러져 사망한 노동자가 있는 작업장을 다음날 바로 재가동을 한 적이 있습니다. 이것만 보면 인공지능이 활용되는 현장에는 ‘인간미’가 없고 노동자를 ‘부속품’처럼 생각하는 알고리즘에 종속된 기업들의 디스토피아가 떠오릴수 있습니다. 여기에 더 큰 불안이 있습니다. 우리가 편의성으로 사용하려는 알고리즘을 통해 자동화된 기계가 우리의 의사결정을 침해하는 것이죠. 이미 많은 디스토피아 영화에서 나온 ‘기계가 인간을 지배하는’ 공포와 불안을 ＜알고리즘 포비아＞는 인공지능에 대한 인간의 본연적인 공포로 묘사합니다. 이 부분은 부인하게 어렵습니다. 아마 합성데이터(Synthetic Data)를 통해 로봇을 포함한 자동화 장비가 스스로 데이터를 만드는데 그것이 인위적인 가상의 데이터로 환각, 혼동, 실수, 위험까지 빠뜨릴수 있을겁니다. 그럼에도 불구하고, 결국은 인간은 이런 질문에 빠질겁니다. ‘그래서 문명을 거부할 겁니까? 인간이여’ 인공지능은 사람의 삶을 더욱 편리하게 만들어줄겁니다. 그럼에도 더 위험한 내역들이 더 등장하겠죠.그런데 생각해보면 문명은 그렇게 성장과 부작용을 함께했습니다. 자동차와 항공기가 없었으면 더 빠른 이동도 충돌과 추락사고가 없을것이고 휴대폰과 인터넷이 없었다면 효율적인 커뮤니케이션과 콘텐츠 생산과 소비도, 온라인 피싱과 사기도 없었을 것입니다. 인공지능 역시 마찬가지죠. 다만 더욱 넓게 더욱 빠르게 긍정과 부정이 동시다발적으로 일어날 것입니다. 아직 인간이 막지 못한 자연재해를 제외하고는 이런 부작용은 더 현명한 판단과 상식적인 차원에서의 선택으로 해결이 가능했습니다. 저는 인공지능도 여기서 크게 벗어나지 않는다고 생각합니다. 그러니 우리가 알고리즘에 공포를 느낄것인지, 그것을 활용하면서 과도한 쏠림을 벗어날 것인지를 선택할 시점이 다가오고 있을 뿐입니다. 💡’지나친 공포나 과도한 자신감도 주의해야’ |