#Yes24 리뷰어클럽을 통해 출판사로부터 #도서협찬 을 받아 작성한 리뷰입니다

저자는 컴퓨터 공학과 심리학을 전공한 학자이면서 경영학과 교수로 재직하기도 한 독특한 이력의 전문가이다. 그녀는 기업에서 데이터를 마케팅에 활용하는 법에 대한 자문을 하기도 하며 관심 분야 자체가 개인, 기업, 정책 입안자들이 데이터를 더 효과적이고 윤리적으로 사용하도록 하는 데 있다고 한다.

본서는 ‘심리 타겟팅’이라는 독특한 개념이자 기법에 대한 소개와 그 대응에 대한 내용이 담긴 책이다. 비슷한 개념에 관한 책으로는 국내에도 번역 출간된 [다크 넛지]와 [다크패턴의 비밀]이란 책이 있다. 다만 이 책에서 말하는 심리 타겟팅이란 다크 넛지나 다크 패턴이라 불리는 기만적 유도만이 아니라 각 개인의 웹 서핑 과정 중 생성되는 데이터 정보를 기업이나 조직이 입수해 그를 개인 유형 파악에 적용함으로써 입수한 데이터를 기반으로 파악한 개인의 특성에 적용해 이차적으로 활용하는 것을 말한다. 기업 측면에서는 최적화된 소비를 유도하는 마케팅에 활용할 수 있으며 정부는 타겟에 맞는 정보나 타겟에 맞게 조작한 정보로 상대의 정치 성향이나 행동을 유도하는 데 활용될 수 있다.

저자에 의하면 미국에서는 이미 몇몇 의원들의 선거활동에 심리 타겟팅이 활용되거나 각 개인의 정치 성향 파악을 위해 수집된 데이터 입수를 기반으로 해 기업의 소비 마케팅에 활용되어 대서특필된 전적이 있다.

본서를 읽으며 느낀 것은 저자가 핵심적으로 주장하고 싶은 것은 심리 타겟팅이 있으니 알아두라는 정도라기보다는 더 나아가 그에 대응해야 한다는 것이었다. 본서 후반에서는 명확히 그 대응법들을 제시하기도 했는데 첫째로 데이터 동맹군과도 같을 조직을 결성해 개인이 아닌 집단으로서 대응해야 한다는 것이고, 둘째로 기업이나 공기관의 데이터 수집을 무비판적으로 내버려 두지 말고 데이터 수집에 비용을 부담케 함으로써 데이터 자금화하면 무단 데이터 수집이 저지될 거라는 것이며, 셋째로는 데이터를 모조리 수집하게 두지 말고 데이터별로만 수집할 수 있도록 일종의 데이터 특성화해 대응해야 한다는 것이었다.

이는 본서의 주장이 명백히 ‘데이터 주권’이라는 이 시대에 제기된 시대적 사안에 대한 것임을 말해준다. 본서에 ‘데이터 주권’이란 용어는 등장하지도 않고 그러한 개념으로 정의하고 있지는 않지만, 저자 주장의 골자를 한마디로 정의한다면 ‘데이터 주권’이라는 표현 외에는 달리 정의할 표현이 없을 것이다. 도로시 넬킨의 저작 [인체 시장]의 핵심 주장이 ‘인체 주권’이었던 것으로 볼 때 본서의 주장도 방향성에서 이와 크게 다르지 않다고 생각된다. 우리의 능력은 우리가 타고난 인체적 특성과 그를 기반으로 한 이차적인 정신적 특성에 근거한다. 우리는 우리의 능력을 우리 자신의 속성으로 판단하며 우리의 자원으로 본다. 그렇기에 우리의 특성을 정립하는 우리의 인체라는 자원은 우리를 말해주는 가장 일차적인 자원이자 정의인 것이고 그를 우리 것이라 정의할 때 우리의 유전자나 우리 인체의 생성 물질에 대한 주권은 다름 아닌 우리에게 있다. 이 시대에 우리는 온라인상에서 많은 활동과 창작 등 생성을 하고 있다. 우리는 우리의 일상과 우리의 업무 활동을 프라이버시와 경력으로 보며 이는 우리를 정의하는 그 자체이다. 이 시대에 우리의 활동과 창작 등에 업무는 데이터를 생성한다. 프라이버시와 경력을 우리의 것이나 우리라고 정의한다면 우리가 생성하는 데이터 역시 우리 것이다. 그렇다면 그에 대한 주권을 인식할 필요가 있으며 그 주권을 우리는 지켜야 할 일이다. 우리가 생성하는 데이터를 그저 프라이버시라고만 본다 해도 이건 존중받고 지켜줘야 할 필요가 있는 것이다. 이걸 지키려고 조직적으로 대응하는 것 또한 당연한 것이고 이건 제도 차원에서 시스템 차원에서 지킬 방안이 마련되어야 할 일이다. 저자는 바로 그 점을 지적하고 있는 것이다.

본서를 통해 프라이버시권 이상의 데이터 주권이라는 방향에서 처음 각성하게 되었다. 이런 시대적 각성을 하게 해주었다는 것만으로도 본서는 참 가치 있는 책이 아닌가 싶다.

#알고리즘생각을조종하다 #산드라마츠 #생각의힘 #데이터주권 #서평단 #리뷰어클럽리뷰

이 책은 데이터와 기술을 중심으로 이야기를 전개하지만 그 핵심은 인간 경험을 탐구하는 것이다. 우리가 드러내는 것과 숨기는 것을 동시에 원하고, 다른 사람을 우리 삶에 들어오게 할 때 얻는 것과 잃는 것이 있으며 심리 타깃팅 같은 새로운 기술이 사회계약의 재검토를 요구한다고 한다. 심리 타깃팅은 단순히 표면에 드러나는 것만이 아니라 드러나지 않는 것까지 기반으로 하는 완전히 차원이 다른 문을 열어준다.

소셜 미디어, 구글 검색, 신용카드 사용 등은 정보 제공에 대한 선택이나 사용자의 직접적인 협력을 요구하지 않고 사용자의 행동을 추적한다. 스마트폰에서는 사용자의 현재 위치를 수집, 신체 활동 포착, 사용자가 사회적 상호작용을 얼마나 많이 하는지도 측정하는 기능들이 많다.

어느 대학생이 슈퍼마켓에 지원했는데 채용되지 않았다. 채용되지 않은 이유는 성격검사를 한 회사가 그가 슈퍼마켓 지원할 때 밝힌 조울증으로 불안정성 점수가 높다는 이유였다. 여기에서 그쳤다면 별 문제가 없었겠지만, 이것이 다른 회사들과 공유되어 다른 회사 모두에서 채용이 거절된다. 이로 인해 삶에 대한 통제권을 잃어 아주 단순한 업무도 할 수 없다고 다른 사람들이 대신 판단했다. 모든 문이 닫힌 그는 스스로 목숨을 끊었다.

정부와 기업은 우리를 알아가는 데만 관심이 있는 것이 아니다. 우리에 대한 지식을 활용해서 우리의 생각, 감정, 행동에 영향을 미치는 데 관심이 있다. 수많은 사람의 심리적 욕구와 동기를 들여다보는 능력을 획득한 누군가가 개인의 행동만이 아니라 사회 전체의 진로에 영향력을 행사하여 선하게 사용된다면 더 나은 삶으로 갈 수도 있을 것이고, 악하게 사용된다면 폭정과 혼란을 불러일으킬 것이다.

사람들은 대부분 다른 사람의 입장이 되어보려다 실패한다. 우리는 우리 자신의 렌즈로 세상을 본다. 대부분의 사람은 자기중심적 편향이 강하다. 하지만 알고리즘에는 자기중심적 편향이 없다. 알고리즘은 자신의 관점에서 주장을 펼치든 상대방의 관점에서 주장을 펼치든 개의치 않는다. 그저 원하는 성과를 달성하는 데 가장 효과적인 방식을 취한다.

이 책에서 언급하듯이 우리는 오늘날의 데이터 중심 세계에서 타인과 삶을 공유한다는 것이 무엇인지 정의하는 새로운 사회계약인 필요하다. 현재의 데이터 환경을 재검토하는 것만으로는 충분하지 않고 데이터 환경을 재창조해야 하며, 우리 모두가 참여해야 한다.

우선 심리 타깃팅과 같은 새로운 예측 기술로 무엇을 할 수 있는지 알아야 하며, 그 기술을 어떻게 활용해야 사회의 번영에 도움이 되고 어떻게 하면 도움이 안 되는지 집단적으로 결정해야 한다. 다음으로 심리 타깃팅의 긍정적 측면을 배가해 심리 타깃팅이 우리에게 해를 끼치는 것이 아니라 우리에게 도움이 되는 시스템을 설계해야 한다.

유튜브를 실행시키면 전에 검색하던 것이나 재생하여 보던 것과 관련된 영상이 나온다. 다른 영상을 보려면 일부러 검색을 해야만 다른 영상이 뜬다. 어렴풋하게 이런 알고리즘의 영향을 받았을 것이라고 추정은 했으나 이 책을 읽고 나의 정보들이 저장된다는 오싹한 생각이 든다.

예스24 리뷰어 클럽 서평단 자격으로 도서를 제공받고 작성한 리뷰입니다.

매일 같이 쌓여가는 나의 디지털 기록들.

나는 이것들에 대해 얼마나 알고 있고,

어느 정도의 통제권을 갖고 있을까?

＜알고리즘, 생각을 조종하다＞를 만나기 전까지는

이런 것들에 대해 잘 알지 못했고, 

그것들에 대한 어떤 인식과 관점을 지니지 못했었다.

무심코 보는 나의 SNS가, 

궁금증을 해결하기 위한 나의 검색 기록이

나조차 인식하지 못했던 나에 대한 은밀한 정보를 내포하고 있었다니.

무엇보다 이러한 정보들이 누군가에게는 가치 있는 데이터로서 활용되고 있었다는 것도 말이다.

물론 알고리즘을 타고

나의 관심사가 노출되고

그것을 따라 나를 겨냥한 마케팅이 진행된다는 것 정도는 모르지 않았다.

하지만 이것이 소비 마케팅 분야에만 국한된 것이 아니며,

축적된 나의 디지털 기록들이

나의 생각과 결정, 행동을 조종하는데 쓰일 수 있는 현실 가능성을 직접 확인하고나니 

두려움이 더욱 크게 느껴졌다.

하지만 이 책의 목적은 이 상황을 두려워하라는 것이 아니다.

내가 남긴 디지털 발자국의 현실을 인지하고,

이것이 나의 생각과 행동, 데이터에 대한 통제권을 억압하지 않도록 하는데 협력하자는 것이다.

우리에게는 아직 그 모든 것을 지킬 기회가 남아 있다.

그리고 그 기회를 만들어갈 방법이 이 책에 담겨 있다.

#알고리즘생각을조종하다 #산드라마츠 #안진이 #생각의힘

#알고리즘 #심리타깃팅 #디지털발자국 #데이터

#리뷰어클럽리뷰

• 불필요한 개인정보 제공을 최소화하기 (개인 데이터 수집과 이용에 비용 부과하기),
• 집단으로 대응하기와 같은 실천적 제안을 통해 독자가 스스로 주도권을 가질 수 있도록 돕습니다.

챗 GPT가 세상에 모습을 드러내자 세상은 술렁거렸다. 그러나 그 술렁거림은 대부분 미래에 인공지능으로 인해 일자리가 사라질지 모른다는 불안감으로 모아지는 듯했다. 그러다보니 챗GPT가 원활히 기능하기 위해서는 방대한 데이터가 필요하다는 사실은 간과한다.

이 책은 인공지능으로 나타나는 현상 대신에 인공지능을 유능하게 만드는 알고리즘에 주목한다. 알고리즘이 결국은 인간의 생각을 조종할 것이라는 섬뜩한 경고다. 그런데 그렇게 하기 위해서 필요한 것이 바로 방대한 량의 데이터이다.

이세돌을 이긴 알파고는 방대한 기보를 무단으로 학습함으로써 가능했다. 챗 GPT는 방대한 데이터를 무단 사용함으로써 가능했다. 그 중에서도 방송, 신문 등 거대 언론들의 데이터 활용이 무차별적으로 이루어졌다.

바둑전문기사들과 달리 거대 언론들은 인공지능 활용 기업에 데이터 사용료를 요구했다. 그런데 우리는 누구나 페이스북이나 구글을 사용한다. 사용을 위해서는 가입 절차를 거치게 되는데 이때 개인정보를 요구한다. 말하자면 우리는 정보를 주는 대신 사용편익을 얻는 것이다.

그런데 사용편익은 제한적이지만 우리의 개인정보는 다양하게 활용되고 거래된다. 말하자면 수지측면에서 균형이 이루어지지 않는다. 그렇다면 우리는 개인정보 사용에 대한 정당한 대가를 요구할 권리가 있는 셈이다.

이 책은 바로 그런 점에서 우리에게 경각심을 일깨우고 있다. 기업이 데이터로 무엇을 어떻게 하는지, 심리 타깃팅이 무엇이며, 어떻게 활용될 수 있는지를 살핀다. 그리고 이를 통해 우리 가 데이터의 주인임을 명확히 하고 데이터가 우리를 위해 일하도록 해야 한다고 강조한다.

그러나 우리 개개인은 거대 언론사처럼 테크 기업에 대항할 힘이 없다. 말 그대로 ‘뭉치면 살고 흩어지면 죽는다’는 말 그대로다. 따라서 서로 힘을 뭉치도록 해야 하는데 저자는 그 하나의 방법으로 데이터 협동조합을 제안하고 있다.

저자는 깊이 있는 내용을 독자들에게 보다 명확히 이해시키기 위해 자신의 어린 시절 자랐던 시골에서의 삶을 혁신적인 심리 타깃팅 연구에 능숙하게 버무려 놓아 읽는 맛을 더하게 함으로써 이 분야가 조금은 생소한 사람들에 대해 배려하고 있다.

저자가 날카롭게 지적하는 기업의 빅데이터 활용이 우리의 삶 속에 얼마나 깊숙이 들어와 있는지 사례를 통해 보여준다. 아울러 데이터 활용에 대한 긍정과 부정의 양면성까지 놀랍도록 명쾌하게 드러내 보임으로써 개인정보에 대한 경각심까지 일깨우고 있다.

그런 점에서 점차 정교화 되고 있는 알고리즘의 활용은 조지 오웰의 ＜1984＞의 빅브라더를 생각하게 한다. 그 사례를 중국이 적나라하게 보여준다. 중국은 이미 모든 데이터를 정부와 기업이 관리하고 활용한다. 다음은 중국 국립경찰대 소속 과학자 리 웨이의 말이다.

“빅데이터를 활용해서 사람들을 파악하고 다양한 속성별로 표식을 붙인다. 표식이 한 가지 이상 부여된 사람에 대해서는 신원과 행동을 유추한 다음 선제적으로 맞춤형 보안 조치를 단행한다.”(192쪽)

섬뜩한 느낌을 받는다. 이런 일이 다른 나라에서는 일어나지 말라는 법도 없을 것이다. 예를 들어 히틀러 같은 인물이 지구상 어느 국가에서 다시 나타나지 말라는 보장도 없을 것이다. 더구나 트럼프 등장이후로 세계를 점차 제국주의로 회귀하고 있지 않은가.

지금까지 많은 인공지능 관련 책들이 미래의 인공지능 사회를 장밋빛으로 그리고 있지만 이 책처럼 인공지능 알고리즘의 기반이 되는 데이터의 중요성을 일깨우는 경우는 별로 없었다. 그것만으로도 이 책의 가치는 충분하다.

'YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다'

예스 24 리뷰어클럽 서평단 자격으로 도서를 제공받고 작성한 리뷰입니다.

“기술은 좋은 것도 나쁜 것도 아니며 중립적인 것도 아니다”

-맬빈 크란츠버그-

이 책은 AI 시대의 핵심기반인 데이터에 대해 심리학에 과학이 더해져 철학적 성찰이라는 마지막 도착지에 다다른 마치 “폭주기관차”같은 흥미진진한 이야기를 담고 있습니다.

AI 시대의 본질을 심리타겟팅이란 도구를 통해 불평등과 형평성이라는 인류가 해결해야 할 근본적인 가치를 돌아보는 담론談論의 장을 구축했다는 점은 이 책의 진정한 매력이라 할 수 있습니다.

개인적으로는 올해의 책입니다. AI 시대에 인간에 대한 흥미로운 접근방법인 디지털 심리학Digital Psychology과 심리 타겟팅Psychological targeting이라는 분야에 대해 처음 접해볼 수 있었던 좋은 기회가 되었기 때문입니다.

우선은 배경적인 용어에 대한 설명을 하자면, ‘디지털 심리학’이란 사람들이 디지털 환경 속에서 어떻게 생각하고 느끼며 행동하는지를 연구하는 심리학의 한 분야입니다. 스마트폰, SNS, 온라인 쇼핑, 게임, 메타버스 등 디지털 기술과 플랫폼이 우리의 사고 패턴, 감정, 선택, 인간관계에 미치는 심리적 영향을 분석합니다. 또한 심리 타겟팅은 디지털 심리학과 마케팅이 만나는 핵심 기술 중 하나입니다. 이는 개인의 성격, 가치관, 감정 상태 등 심리적 특성을 기반으로 메시지나 광고, 콘텐츠를 맞춤 제공하는 전략입니다. 단순히 연령·성별·지역같은 인구통계학적 정보가 아니라, 사람의 마음(심리)을 읽고 설득하는 맞춤형 타겟팅 방식이라 할수 있습니다.

AI 기반의 데이터를 통해 평범하고 무의미해 보이는 우리의 행동에 대한 정보를 해석해서 우리가 어떤 사람인지 속속들이 파악하고 최종적으로는 우리가 했으면 하는 행동을 처방할 수 있다는 심리적 특성에 대한 예측Prediction을 토대로 사람들의 생각, 감정, 행동Behavior에 영향을 미치는 과정인 심리타겟팅을 저자는 연구하고 실행한지 10년이 넘은 학문적 배경을 가지고 있습니다. 이런 저자의 배경은 이 책의 중심적인 전개의 토대가 되어 서사와 사실을 분리해 심리 타겟팅에 대한 과학적 설명을 제공하는 것이 이 책의 목적임을 밝히고 있습니다.

이 책은 데이터와 기술을 중심으로 전개하지만, 그 핵심은 알고리즘 의사결정의 이면에 있는 ‘인간의 경험’을 탐구하는 것이며 심리 타겟팅같은 새로운 기술이 사회계약의 재검토를 요구하는 주장을 담고 있습니다.

이를 자세히 설명하자면 저자는 오늘날의 데이터 게임은 소수의 개인과 조직이 우리 다수에 대해 굉장히 많은 것을 알고 있으며 그 정보로 막대한 이익을 누리며 그 거래에서 우리가 얻는 것도 있지만 우리를 그렇게 추적하는 개인과 조직에 대해 우리는 그들만큼 모른다는 문제의식을 가지고. 그 대안으로서 우리에게 해를 끼치는 것이 아니라 우리에게 도움이 되는 시스템을 재설계하자는 주장을 펴고 있습니다. 그리고 더 나아가 데이터 환경을 재고할 도덕적 의무로서 우리에게 오늘날의 데이터 중심세계에서 타인과의 삶을 공유한다는 것이 무엇인지를 정의하는 새로운 사회계약이 필요함을 이야기하고 있으며 우리의 역할로서 데이터 환경을 재창조하고 우리 모두가 참여해야 한다는 참여 공동체Participatory community의 지혜를 제안하고 있습니다.

기술과 인간을 이해하는 거시적인 관점에서, 데이터는 심리를 들여다 보는 창Window으로서 인간을 이해하는 언어임을 자각해준 책이란 생각이 듭니다. 그리고 “데이터 기반 인간 심리의 이해”는 미래에 마케팅, HR, 헬스케어, 교육등 다양한 분야에서 핵심 경쟁력으로 자리잡게 될것입니다. 그러나 AI의 기술적 진화는 데이터의 활용이 가지고 있는 긍정적 혹은 부정적 속성을 더욱 더 증폭시키는 희망과 절망을 동시에 가져다주는 양면성을 보여줄 것입니다.

정부나 기업은 국민 혹은 고객(소비자)의 디지털 행동 데이터(검색, 구매, SNS등)를 통해 심리 프로파일을 작성하여 적극적으로 활용하게 될것입니다. 그러나 여기에서 저자가 경고하고 있는 행동을 바꿀 수 있는 예측을 넘어 개입하려는 의도적인 시도가 윤리적인 문제(개인정보 활용, 자율성 침해, 조작 등)를 야기하게 될것이라는 위험성을 명확히 직시하게 만드는 책이었다는 생각을 해봅니다.

이 책이 기술과 인간을 이해하는 언어로서의 데이터에 대한 올바른 시각과 관점을 정립하고, 데이터 주도권에 대해 스스로를 보호하며 참여를 통한 담론 공동체의 가능성을 열어주는 좋은 책으로 오랫동안 독자들과 함께하길 바랍니다. 감사합니다^^*

#리뷰어클럽리뷰

이 책은 우리가 매일 무심코 남기는 디지털 흔적들이 어떻게 우리의 성격, 욕구, 심지어는 행동까지 읽고 조종하는 도구로 활용되는지를 보여준다.