알고리즘이 지배한다는 착각

이 책은 그간 우리가 인터넷상에 남긴 많은 활동의 흔적들이 데이터로 남아 오히려 그것이 우리를 옥죄이고 있다는 주장, 알고리즘이 우리를 지배한다는 그 말이 과연 사실인지 아닌지를 알아보고 싶어 읽었다.

알고리즘, 이제 그것에 매여 있다는 말들이 있어, 과연 그런가 하는 마음으로 읽었다.

알고리즘이 지배한다는 착각, 과연 그게 착각인지 아닌지 

우리에 관해서 가장 많이 아는 사이트는 페이스북이다. (38쪽)

그건 사실이다. 오늘도 페이스북에 접속해서, 나는 몇 건의 ‘좋아요’를 눌렀다.

그런 사용자들의 행태를 수집하여, 학자들은 이런 걸 연구한다.

스탠퍼드 경영대학원의 미할 코진스키는, 우리가 누르는 ‘좋아요’를 이용하여 우리가 누구인지 가늠할 수 있을까, 하는 것을 연구주제로 삼았다. (51쪽)

그결과 그는 이런 결론에 도달했다.

각각의 ‘좋아요’가 사용자에 관하여 약간의 정보를 제공하며 많은 ‘좋아요’를 수집하면 그가 개발한 알고리즘으로 신뢰할 만한 결론들을 도출할 수 있다는 사실이다. (52쪽)

그런 일단의 연구 결과에도 불구하고, 저자는 이렇게 주장한다.

“페이스북과 스포티파이부터 여행사와 스포츠 컨설팅 회사까지, 온갖 업체가 우리를 분류하고 우리의 행동을 설명하는 알고리즘을 제공한다고 주장하는 오늘날, 나는 그 알고리즘들의 정확도에 대해서 더 많이 알아볼 필요가 있다. 과연 그 알고리즘들은 우리를 얼마나 잘 알까? 혹시 그것들은 더 위험한 다른 오류들을 범하고 있지 않을까?” (86쪽)

알고리즘과 관련, 저자가 보내는 경고들

편향없음은 불가능하다.

판결 알고리즘과 관련해서, 저자는 이런 결론을 내린다.

제니퍼 스팀이라는 학자의 이런 발언을 인용하면서, 편향은 어쩔 수가 없다는 편에 선다.

판결 알고리즘이 흑인 피고인과 백인 피고인에 대해서 똑같이 조정되어 있으며, 따라서 편향이 없다는 결론을 내렸다. (103쪽)

 

그리고 그 편향에 관한 논의중 빠진 게 있는데, 바로 이것이라고 덧붙인다.

현존하는 제도와 알고리즘의 편향성을 비교하면 어떨까 

과연 어느 쪽이 더 편향인가 하는 물음이다. 그 말은 결국 알고리즘이 보여주는 편향성보다 현존하는 제도에서 실제 판사가 보여주는 편향성이 더 심하다는 말이다.

알고리즘이 문제가 아니라, 데이터를 수집 활용하는 사람이 문제다.(117쪽)

알고리즘이 영리한 게 아니다. 영리함은 데이터 연금술사들에게서 나온다. 그들은 데이터를 고객에 대한 자기네의 지식과 결합한다.  

페이스북과 그것이 우리의 삶에 미치는 영향을 두고 많은 사람들이 호들갑을 떤다. 그러나 내가 대규모 연구들을 꼼꼼히 재검토하고 관련 연구자들과 대화한 후에 느낀 바는 연구 결과들이 언론에서 거의 항상 왜곡되거나 과장된 형태로 보도된다는 것이다. (221쪽)

현재 구글, 페이스북, 트위터가 사용하는 알고리즘의 가장 큰 한계는 우리가 주고받는 정보의 의미를 제대로 이해하지 못한다는 점이다. (258쪽)

그런 결과에 대하여, 저자는 알고리즘의 가치를 이렇게 평한다.

“경험에 바탕을 두고 말하자면, 우리의 행동에 대한 알고리즘의 예측은 타인의 예측만큼 정확한 수준에 전혀 미치지 못한다. 알고리즘의 한계를 잘 아는 사람이 사용할 때, 알고리즘은 최고의 성능을 낸다.” (117쪽)

알고리즘이 무용한 것은 아니다. 비록 정확도는 인간과 대등하다 하더라도, 알고리즘은 속도의 측면에서 엄청나게 유용할 수 있다. (121쪽)

그러니 저자는 알고리즘의 유용성에 대하여 부정하는 게 아니라, 그 알고리즘이 잘 못 쓰여지는 데에 주의를 하자는 것이다.

이런 사건들 흥미있다.

저자는 알고리즘의 문제와 우리가 그 문제에 대처하는 방법을 제시하면서, 그 과정에서 현재의 인터넷, 인공지능의 발전상을 소개하고 있다. 그중에 흥미로운 것이 있는데, 저자와 챗봇 ‘미츠쿠’와의 대화 한 장면이다. 다소 길지만 다 적어둔다.

내가 미츠쿠에게 “당신은 모든 질문에 항상 똑같이 대답합니까?”라고 묻자, 미츠쿠는 이렇게 말했다. “항상 똑같지는 않아요. 나의 봇마스터는 내가 8 메가 바이트 이상의 대답들을 할 수 있도록 프로그래밍했습니다,”

그래서 나는 똑같은 질문을 다시 했는데, 미츠쿠는 똑같이 대답했다. 그러나 세 번째로 똑같은 질문을 던지자, 신경질을 냈다.

“당신은 모든 질문에 항상 똑같이 대답합니까? 난 그것보다 더 많은 단어들을 아는데 그저 로봇일 뿐이에요.”

“미안해요.” 내가 답했다.

“괜찮아요. 결국 당신은 그저 인간일 뿐이니까요.” (292쪽)

챗로봇과 인간의 대화, 흥미롭다.

챗로봇이 신경질을 내다니, 그정도 수준이 되었다는 것이다. 

그러나 이런 한계도 있다. 

미츠쿠는 한계가 있다. 현재 자신이 하고 있는 대화의 내용을 기억하지 못한다.

내가 미츠쿠의 농담에 크게 웃었을 때, 미츠쿠는 나에게 왜 웃느냐고 물었다.

그래서 나는 당신이 방금 한 말을 다시 해보라고 했는데, 엉뚱하게도 “물론 나는 말할 수 있죠”나 “좋아요, 말할게요” 같은 대답만 할 뿐, 내가 듣고자 하는 것은 방금 한 농담이라는 사실을 알아채지 못했다.

나는 그 농담을 it 이라는 대명사로 가리켰는데, 미츠쿠는 그“it”의 의미을 전혀 알지 못했다. (293쪽)

 

다시 이 책은 

바야흐로 인터넷 시대다.

아니, 이미, 벌써, 인터넷 시대의 복판에 깊숙이 들어와 살고 있어서인지, 우리가 사는 시대가 어떤 시대인지를 이제 잊고 사는 것은 아닌가 

그래서 우리의 처지가 어떤 것인가를 확실하게 알아야 하기에, 인터넷을 비롯한 발전하는 과학에 관심을 기울이고 있었다. 특히나 뉴미디어에 속하는 SNS나 스마트 폰이니 하는 데에서 벗어나지 못할 바에야 확실하게 알아두자는 마음이다.

“경험에 바탕을 두고 말하자면, 우리의 행동에 대한 알고리즘의 예측은 타인의 예측만큼 정확한 수준에 전혀 미치지 못한다. 알고리즘의 한계를 잘 아는 사람이 사용할 때, 알고리즘은 최고의 성능을 낸다.” (117쪽)

그래서 손자가 말하기를 ‘지피지기는 백전백승’이라 했으니, 알고리즘에 대해서도 우리가 관심을 가지고 살펴야만 알고리즘의 포로가 되는 것을 막을 수 있을 것이다. 이 책 그런 목적으로 아주 유용하게 사용할 수 있을 것이다.

트럼프가 대통령으로 재임 당시 미국에서는 ‘공포의 문화’라는 책이 20년 만에 역주행하는 일이 있었다. 그 책이 국내에서도 재번역 출간되어 읽은 적이 있는데, 그 책 속에서 권력자들이 공포를 조장하는 방식이 딱 이 책 소개에서 말하는 내용과 유사했다. 통계나 조사 등에 의해 나온 ‘수치’결과 만큼 사람을 설득시키기 좋은 도구는 없다. 거기에 그로 인해 득을 봤거나 피해를 입었다는 사람이 증거로 등장하면 설득력이 더 높아진다. 최근에 기사나 포스팅, 도서 등을 통해 가짜뉴스(예: 유튜브 등) 등에 조작된 알고리즘이 이용된다는 사실이 조금씩 밝혀지는 가운데, 작년 11월 미국에서는 ‘추천 알고리즘 거부권 보장법’을 만든다며 알고리즘 관련 문제를 법으로 제재하려는 시도가 있기도 했다. 그런 상황에서 이 책의 제목은 호기심을 불러일으키기에 충분했다. 책을 선택하기 전부터 수학적으로 풀어내 쉽지 않을거란 예상은 했지만, 솔직히 생각보다 훨씬 더 어려웠던 것 같다. 책에는 저자가 자신의 연구결과 근거를 대며 '신호와 소음'의 저자인 네이트 실버의 주장(네이트 실버는 2016년 미국 대선 당시 예측에 실패했고, 이후 신호와 소음 개정판에서 이 부분에 대한 언급을 하기도 했다.)을 반박하는 내용이 상당히 많이 등장하곤 하는데, 개인적으로는 신호와 소음쪽이 이해하기는 훨씬 더 수월했던 것 같다.

역시 알고리즘이 문제되는 기업하면 가장 먼저 떠올리게 되는 곳은 단연 '페이스북'이다. 유튜브의 경우도 예외는 아니지만, 지난 2016년 대선 당시 케임블리지 애널리티카(CA) 사건은 전례없는 대형사건이었기 때문이다. 당시 사건에 대한 브리태니 카이저의 내부 고발로 인해(책 '타겟티드' 외) CA와 페이스북 정보가 어떻게 쓰이고 있는지에 대해서는 이미 잘 알려졌다. 저자는 이슈화된 사건들과 특히 SNS 상에서 문제가 될만한 부분들을 자신만의 수학적 방식으로 하나하나 반박해간다. 뿐만 아니라 이슈화됐던 사건 속 당사자들(예: 페이스북, CA 관계자 등)에게 계속 접촉해서 그들의 방식을 확인하려고 하지만, 여느 유사 책 속에서 볼 수 있듯이 보안을 요하는 그 중요한 문제들을 쉽게 내어줄리 없다.

제목을 달리하지만 알고리즘이 SNS 등 온라인 상에 남겨진 수 많은 자신들의 발자국을 남용해 악용하고 있는 문제를 다룬 알고리즘 이슈 관련 책들을 여러권 읽어왔다. 결국엔 자신들만의 수학적, 통계학적 논리를 통해 증명하려 노력하지만 정답은 없고 그들도 분명하게 말할 수 있는 건 없었던 것 같다. 브리태니 카이저의 CA 내부고발과 같은 경우가 아닌한(이 경우도 알고리즘과 같은 정보가 완전히 오픈된 것은 아니지만) 여전히 추측만 할 뿐 근본적인 해결책을 제시했던 적은 없었던 것 같다. 이 책 역시 마찬가지이다. 개인적으로는 저자가 자신만의 논리로 무언가 증명하려 노력했다는 것 외에는 기존에 읽었던 책들과의 차별성을 느끼지 못한 채 오히려 그 동안 다른 책을 통해 알고 있던 지식들 마저 더 어렵게 느껴지게 했던 것 같아(물론 나의 수학적 무지함이 한 몫 했지만) 더 혼란스러웠던 것 같다. 분명 흥미로운 책이기는 하나, 나 처럼 수학적 지식에 어려움을 많이 느끼는 분이라면, 다른 책들 보기 전에 이 책을 먼저 읽는 것을 추천한다. 독자 수준에 따라 기존 유사한 책이 이 책을 읽는데 더 방해가 될지도 모르겠다. 그런면에서 조금은 아쉽다.

** 본 게시글은 YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다. **

- 빅데이터, 알고리즘, 인공지능이 미래를 지배할 것이라는 말에 휘둘리지 마라.

종종 어떤 사람들은 말한다.

알고리즘이 미래를 지배할 것이라고 말이다.

그런데 정말 알고리즘은 완벽의 산물일까?

알고리즘을 시작으로 빅데이터, 인공지능, SNS 등을 찬양하는 주장에 맞서는 책이 나왔다. 바로 ＜알고리즘이 지배한다는 착각＞이라는 책이다.

이 책은 응용수학자 데이비드 섬프터가 알고리즘이 어떻게 작용하는지 설명하고

사람들이 우려하는 만큼 실제로 완벽한 것인지 수학적으로 분석하고 통찰한 책이다.

페이스북, 구글 등의 알고리즘을 분석하며 결론으로 이끌어나가는데,

마치 소설처럼 마지막에 하이라이트를 내는 구성이 인상적이었다.

저자가 분석과 고찰 끝에 보여준 알고리즘의 실체는

그간에 알고리즘에 대해서 낙관적으로만 생각하고 있었던 나에게는 흥미롭게 느껴졌다.

간혹 얘기가 길어질 때면 조금 읽기 버겁기도 했는데

저자가 전하고자 하는 메세지는 명확해서 읽는데는 무리가 없었다.

수학을 실생활에 접목시킨 책이라 할 수 있지 않을까.

알고리즘을 맹신하고 있다면, 알고리즘 찬양론만 들어온 사람이라면 한번 읽어볼 만하다. 다른 알고리즘 책과 함께 읽으면 훨씬 재미있게 읽을 수 있을 것이다.

-출판사로부터 책을 제공받아 주관적으로 작성한 후기입니다.

이 책의 띠지에 이런 글이 있다.

"구독, 좋아요, 알림설정을 눌러본 모든 사람들이 읽어야 할 한 권의 책"이라고 말이다.

나 또한 눌러본 사람 중 한 명이기에 이 책을 읽어보아야겠다고 생각했다.

단순히 그러한 이유로 펼쳐들었는데, 그냥 당연한 듯 생각하던 것을 뒤흔들고 다시 원점에서 생각할 수 있도록 하는 참신함을 느꼈다. 그러는 데에는 칼럼니스트 박상현이 들려주는 추천의 말이 큰 영향을 주었다. 아마 이 글을 읽고 나면 이 책에 더욱 관심이 생길 것이다.

트럼프의 당선 원인에 관해 가짜뉴스와 허위정보, 러시아의 공작과 '천재적인 소셜미디어 담당자'와 같은 설명이 언론의 사랑을 받은 이유는 기자들이 이해하기 쉽고 독자들에게 글로 설명하기 쉬웠기 때문이다. 하지만 이해하기 쉬운 설명이 반드시 진실에 가까운 건 아니며, ＜네이처＞나 ＜사이언스＞에 발표된 논문이 언론에 소개되었다면 주의를 기울여야 할 실험 결과의 뉘앙스는 다 빠져 있다고 생각해도 과언이 아니다.

응용수학자 데이비드 섬프터가 『알고리즘이 지배한다는 착각』을 통해 전달하려는 게 바로 그 뉘앙스다. '페이스북의 알고리즘이 우리를 파악하고 있다'고 말하면 독자들의 주의를 끌 수 있고, 빅테크의 위험성을 고발하는 데 용이하다. 섬프터는 언론이 깔끔한 내러티브를 동원해 외치고 대중이 분노하는 사이에서 "잠깐만요, 그게 얼마나 사실인가요?"라고 묻는 사람이다. 그리고 네이트 실버가 정말로 실패한 통계학자인지, 필터버블이 진짜로 그렇게 무서운 건지 차근차근 따져본다. 페이스북의 알고리즘이 '파악했다'는 것이 무작위 추측을 간신히 벗어난 60%의 확률이라면 언론이 말하는 내러티브가 맞다고 할 수 있느냐는 합리적인 의심이다. (6~7쪽)

당연하다는 듯이 생각하며 걱정하고 분노하고 있는 사람들을 일단 멈춰세우고 "잠깐만요, 그게 얼마나 사실인가요?"라고 묻고 있으니, 일단 그 이야기부터 들어보는 것이 순서라는 생각이 들었다.

이 책은 수학으로 밝혀낸 빅데이터의 진실 『알고리즘이 지배한다는 착각』이다. '알고리즘이 지배한다는 착각'이라는 것은 알고리즘이 지배하는 것은 아니라는 뜻일 테다. 구체적으로 어떤 내용을 들려줄지 궁금해서 이 책 『알고리즘이 지배한다는 착각』을 읽어보게 되었다.

이 책의 저자는 데이비드 섬프터. 스웨덴 웁살라 대학교의 응용수학과 교수이다. 최고의 수학 논문 저자에게 주는 캐서린 리처즈상(2015)을 수상했다. 물고기 떼와 개미 집단의 거동 원리부터, 축구팀의 패스 네트워크 분석, 기계학습과 인공지능의 차별까지 다양한 주제를 수학적으로 연구했다. 국경을 넘나들며 정부, 금융, 인공지능, 스포츠 분야의 자문가로 활동했다. 축구 우승 결과를 예측하는 수학 모델 '사커봇'을 개발하여 유럽 축구팬들의 관심을 한몸에 받았다. (책날개 발췌)

이 책은 총 3부로 구성된다. 추천의 말 '60퍼센트의 진실_박상현(칼럼니스트)'를 시작으로, 1부 '우리를 분석하는 알고리즘', 2부 '우리에게 영향을 미치는 알고리즘', 3부 '우리처럼 되는 알고리즘'으로 이어지며, 주, 감사의 말, 옮긴이의 말, 찾아보기 등으로 마무리된다.

이 책의 제목은 알고리즘이 지배한다는 착각이다. 도대체 그 착각의 정체가 무엇인지를 알려주려고 굉장히 성심성의껏 다양하고 많은 이야기를 풀어나가고 있다. 적당히 유머도 섞어가면서 말이다. 그래서 때로는 수다가 너무 과하다는 느낌도 살짝 들었다.

하지만 그게 다 전체적으로 독자를 끌고 가기 위한 강약 조절에 필요한 것이 아니겠는가. 때로는 피카츄의 꼬리에 대한 이야기를 보면서 실제로 피카츄의 꼬리에 검은 점이 있을까 검색해 보기도 하고, 때로는 진지하게 알고리즘에 대해 생각해 보기도 하면서 이 책을 읽어나가게 되었다. 그렇게 하니 핵심적으로 전달하고자 하는 내용에도 진지하게 접근할 수 있었다.

인간은 앞으로도 오랫동안 유일한 인간형 지능의 소유자일 것이다. 진짜 관건은 이미 개발된 알고리즘들을 우리가 소수의 필요와 편익을 위해 사용할 것인가, 아니면 더 넓은 사회를 위해 사용할 것인가 하는 질문이다. 내가 이 두 가지 선택지 가운데 어느 것을 더 좋아하는지 나는 안다. (354쪽)

수학을 현실 세계에 적용하는 무척이나 탁월한 책. 온통 매혹적인 이야기로 가득하다. 진심 어리고 익살맞은 문체로, 수학자들이 마냥 연구에 파묻히는 것보다 더 많은 일을 해낼 수 있다는 점을 보여준다. 읽는 내내 눈을 떼지 못했다.

_키트 예이츠 『수학으로 생각하는 힘』 저자

이 책을 읽고 나면 키트 예이츠의 추천사 중 '진심 어리고 익살맞은 문체'라는 단어가 어떤 의미인지 어렴풋이 느껴질 것이다. 티만드라 하크니스의 추천사 중 '참신하고 정직'하다는 단어도 마찬가지로 비슷한 느낌으로 다가온다.

솔직히 어안이 벙벙하다. '알고리즘에 대해 이렇게 이야기한 건 네가 처음이야.' 느낌이랄까. 진지하지만은 않으며 익살맞은 문체에 진심이 느껴지고, 딱딱하게만 전달되지 않아서 참신하게 다가오는 책이다.

도서를 제공받아 작성한 리뷰입니다

트위터나 페이스북, 구글 등은 사용자 개개인에 맞춰 우리가 관심있고 끌릴만한 것들을 소개하여 광고효과가 매우매우 높다고 알려져있다. 그런 결과물들은 개개인에 맞춘 많은 데이터를 짧은 시간내에 분석하는 알고리즘을 통해 제시한다고 알려져있다. 특히, 우리는 유투브를 통해서도 그러한 생각을 할 수 있는데, 유저가 관심있는 프로그램을 시청하거나 클릭하면, 계속 관심있을만한 프로그램과 연결시켜주는 경우를 자주볼 수 있으며, 유투브에는 수많은 영샹이 있으므로, 어떻게 이렇게 신기하게 내가 관심있는 내용만 보여줄까라고 생각하면서 알고리즘이 무척 대단하다는 점을 새삼 느끼게 한다.

그럼에도 불구하고, 이 책은 테크가업에서 만드는 알고리즘이 그렇게 대단하다고 생각하는 일반적인 관념을 한번 뒤집어서 생각해 볼 수 있는 기회를 제공한다. 또한, 저자는 응용수학자임에도 불구하고 이 책에서는 수식없이 수학적 기법을 말과 그림으로 설명해주기 때문에, 수식만 보면 머리가 하얘지면서 책을 멀리하고 싶은 사람들에게는 적합한 책이라고 할 수 있다. 또한, 저자가 워낙 박학다식하고 사회현상에도 관심이 많은 듯 하여, 미국 문화나 사회현상에 관심이 많은 사람이라면 더더욱 저자와 동화되어 저자의 생각과 의도를 좀더 잘 이해할 수 있으리라 생각한다.

특히, 3~4장에서 페이스북의 알고리즘을 간단한 모형으로 파헤쳐 보기위해 저자의 주변인들을 실제로 가장 중요한 특징(주성분)만을 이용해서 분류하는 방법들이나 "좋아요"를 클릭함으로써 개개인별 특징을 추정할 수 있는 방법을 설명하는 내용은 이 책에서의 가장 큰 묘미임과 동시에 이 책이 읽어볼만한 책이라는 점을 느낄 수 있을 것이다. 13장에서는 만델라 효과를 언급하며, 저자의 주장에 대한 근거들을 제시하면서 구글, 페이스북, 트위터 등의 빅테크 기업들의 알고리즘이 완전하다고 믿었던 우리에게 정말 완전한 것일까 하는 의문을 가슴속 한 구석에 싹트게 만든다. 

빅테크기업은 수많은 천재들이 모여 다양한 기법을 사용한 알고리즘을 적용시켰겠지만, 한발 멀리떨어져서 그 알고리즘들을 단순화시켜 알아봐서 기존 상식을 그대로 수용하지 않고, 다른 모습을 보고싶은 분들에게 유용한 책이 될 것으로 생각한다.

* 이글은 출판사로부터 도서만을 제공받아 주관적으로 작성한 리뷰입니다. 

정보가 필요할 때 포털 사이트에 검색을 한다. 내가 원하는 답은 하나인데 클릭을 유도하는 건 하나가 아니다. 상품을 구매할 때, 뜻이나 해설을 원할 때도 마찬가지다. 온라인 서점에서는 나를 위한 추천 도서 리스트가 있다. 그들은 내가 그런 책들을 읽을 거라고 예상한다. 그들의 리스트는 내가 정말 읽고 싶은 책도 있지만 전혀 관심 없는 책도 있다. 서점에서 내가 검색한 정보가 남았기 때문일까. 요즘은 유튜브 동영상으로 클래식 연주를 듣는 일이 많아졌다. 링크를 찾아 틀어놓고 다른 일을 하다 보면 자동으로 내가 들었던 연주가 이어진다. 편리한 점도 많지만 기분이 묘할 때도 있다. 그 모든 것들은 광고 창으로 이어지기도 해서 한 번씩 쿠키를 삭제한다. 언제나 방송에서 광고가 등장하지 않는 방법으로 알려준 기억 때문이다. 그 방법이 정확한지는 모르겠지만 데이비드 섬프터의 『알고리즘이 지배한다는 착각』을 보자 처음 든 생각들이다.

저자 데이비드 섬프터는 대학에서 응용수학을 가르치는 교수이자 박사로 제목처럼 알고리즘이 우리를 지배하지는 건 아니라고 말한다. 직접 다양한 수학적 계산과 수집한 데이터로 우리의 일상에서 벌어지는 알고리즘에 대해 설명한다. 참고로 이 책에는 그림과 표, 통계가 자주 등장한다. 사실, 그런 이유로 나 같은 평범한 독자에게는 흥미로운 부분이 많았지만 대체적으로 어려운 책이었다. 그러나 반대로 수학을 공부하거나 마케팅을 하는 이들에게는 알고리즘이 어떻게 수익을 낼 수 있도록 도와주는지 알 수 있다. 알고리즘의 세계에 관심이 있다면 충분히 만족할 수 있는 책이다.

페이스북의 ‘좋아요’에 대한 설명을 들으면서 나는 솔직하게 페이스북과 인스타그램의 이용자가 아니라서 다행이구나 싶었다. 좋아요를 누르는 심리를 이용해 페이스북의 프로필에 기초하여 연애 중매를 하는 방법은 꽤나 괜찮은 방법처럼 보이고 그런 방법은 프로필을 통해 구인구직 시스템을 구성하는 기술로 이어졌다. 획기적이고 실용적인 일이라고 여겨질 수도 있다. 그러나 저자는 이런 조언에 더 귀를 기울이게 된다.

당신이 페이스북, 인스타그램, 스냅챗, 트위터, 기타 소셜미디어 사이트를 일상적으로 이용한다면, 당신은 숫자에 압도되어 있는 것이다. 당신은 당신의 성격이 수백 차원의 공간 안에 한 점으로 놓이는 상황을 허용하고 있는 것이며, 당신이 감정이 수치화되고 당신의 미래 행동이 모형화되고 예측되는 상황을 허용하고 있는 것이다. 그 모든 일은 효율적으로 이루어질 분 아니라 자동으로, 우리 대다수가 거의 이해할 수 없는 방식으로 이루어진다. (61쪽)

표적광고에 대한 부분에서는 글의 도입에서 느꼈던 놀라움이 이어졌다. 저자의 아들이 저녁을 먹을 시간에 유튜브는 아이가 좋아하지만 건강에 도움이 안 되는 빵의 광고로 도배한다거나 아내가 동네 상점에서 처음으로 산 특정 브랜드의 초콜릿의 광고가 아내의 페이스북 뉴스피드에 뜨기 시작하는 현상 같은 것. 물론 알고리즘이 영리한 건 아니다. 모든 건 데이터 연금술사들, 그러니까 데이터를 고객에 대한 자신들의 지식과 결합하고 결과를 산출하는 마케팅 종사들에 의한 것이다.

우리가 알고 있듯 모든 알고리즘이 악용되는 건 아니다. 알고리즘을 이용해 더 편리한 상품가 서비스가 개발될 것이고 그로 인해 가정과 일터에도 놀라운 변화가 이어질 것이다. 그러나 그 알고리즘은 우리가 해야 할 하찮은 일을 줄여줄 수 있지만 인간과 유사한 행동은 하지 못할 거라는 저자는 말한다.

현재 알고리즘의 배후에 놓인 진실은 ‘인공지능’이라는 용어가 암시하는 것보다 더 평범할뿐더러 훨씬 더 단순하다. 우리를 분류하려 하는 알고리즘을 살펴본 나는 알고리즘이 우리가 우리 자신에 대해서 이미 아는 것들의 통계학적 표현이라고 해도 과언이 아님을 발견했다. 우리에게 영향을 미치려 하는 알고리즘을 살펴보았을 때, 나는 알고리즘이 어떤 검색 정보와 광고를 우리에게 보여줄지 결정하기 위해 우리의 행동의 매우 단순한 몇몇 측면을 이용해먹고 있음을 발견했다. 신경망들은 몇몇 게임을 정복했지만, 아직 우리는 다음 봉우리로 오르는 길을 발견하지 못했다. (350~351쪽)

그럼에도 알고리즘은 더 좋은 쪽으로의 엄청난 가능성을 열어준다는 걸 기억해야 한다. 알고리즘의 도움을 받고 있음도 인정할 수밖에 없다. 지금은 알고리즘이 우리를 통제하는 게 아니라 우리가 알고리즘을 통제하고 있다는 사실도.

알고리즘은 우리의 문화유산이다. 우리는 알고리즘의 일부고, 알고리즘은 우리의 일부다. (362쪽)

수학으로 밝혀낸 빅데이터의 진실

알고리즘이 지배한다는 착각

빅테크에 관해 난무하는 억측과 오해

허구 시나리오를 넘어 세계적인 수학자가 던지는 빅데이터 시대의 가장 시급한 화두

"알고리즘을 합리적으로 평가하지 못할 때 가장 큰 위험이 들이닥친다!"

목차

1. 우리를 분석하는 알고리즘

2. 우리에게 영향을 미치는 알고리즘

3. 우리처럼 되는 알고리즘

세상이 변하고 있는 요즘 미래를 인공지능, 빅데이터가 제공해 주는 데이터들이 진실일까 

여기에도 오류가 있을 것이고, 내가 아는 것은 어딘가 편중되어 있을 것이다. 내가 보고 있는 게 전부가 아니고, 보고 있는 데이터도 편중되어 있을 수 있다는 것이다.

새로운 기술들은 심상치 않은 미래를 제안한다. 그 미래에서는 페이스북이 우리의 모든 감정을 추적하고, 소비 선택과 인간관계와 직업 경력과 관련하여 우리를 끊임없이 조작할 것이다.

당신이 페이스북, 인스타그램, 등 소셜미디어 사이트를 일상적으로 이용한다면, 당신은 숫자에 압도되어 있는 것이다. 수백 차원의 공간 안에 한 점으로 놓이는 상황을 허용하고 있는 것이며, 당신의 감정이 수치화되고 당신의 미래 행동이 모형화되고 예측되는 상황을 허용하고 있는 것이다. 모든 일은 효율적으로 이루어질 뿐 아니라 자동으로, 우리 대다수가 거의 이해할 수 없는 방식으로 이루어진다.

과거의 정치학자들은 유권자들의 정당 신호를 연구할 때 주로 사회경제적 배경을 중시했다. “각 개인의 조건화된 행동 패턴을 감안하여 미래 행동을 적절히 예측한다.”

다양한 표제로 요약하려 애쓴 과학적 연구 결과는 친구들과 가족의 답변보다 연구자들의 통계학적 모형이 페이스북 사용자의 성격 검사 결과와 더 높은 상관성을 나타냈다는 것이었다.

알고리즘의 발전은 인류의 미래에 막대한 영향을 미칠 것이 틀림없다. 그러나 나는 과거 라이프니츠 등의 합리주의에 맞서서 저 전제를 단호히 부정한다. 삶은 삶이며, 계산은 삶 속에 녹아들어야만 의미와 효용을 가진다. 아마도 몸을 아는 축구 애호가여서인지, 저자도 계산이 삶의 전부가 아님을 잘 아는 사람이다. 그는 알고리즘 만능주의자가 아니며, 그 만능주의를 주요 위험으로 지목한다.

우리가 사용하는 SNS가 주는 여파가 크다. 그 데이터가 알고리즘으로 연결이 되어 있어 감시받는 느낌을 받았다. 어떻게 보면 이득을 주기도 하고 양면성이 있다. 알고리즘은 우리의 일부가 되어가고 있다.

알고리즘들이 우리의 데이터를 보고 자율적으로 학습했을지라도, 내부에서 일어나는 일을 알아내고 생산하는 결과를 바꿀 수 있다는 사실이 밝혀졌다.

알고리즘을 확신하고 의지하지 않는다면 앞으로 생활을 풍요롭게 만드는 유용한 도구가 될 수 있다. 인공지능과 삶이 자연스레 녹아들 수밖에 없는 것, 우리가 허구 시나리오에 흔들리지 않고 합리적인 평가를 해야 할 때이다.

알고리즘을 배워야하는 이유는 미래를 더 잘 알기 위해서다.

출판사로부터 도서를 제공받아 작성한 리뷰입니다.

이 책은 빅데이터 알고리즘을 둘러싼 최근의 여러 논란을 구체적으로 다루고 있다.

응용수학과 교수인 저자는 알고리즘의 수학적 원리를 이해하기 쉽게 설명하면서

알고리즘 속에서 살아가는 현대인들이 가져야 할 중립적 시각을 알려준다.

뱅크시 찾기로 시작된 이야기는 수학이 미술을 파괴하고 있다고 주장하고

SNS가 대중화되면서 대부분의 사람들이 숫자에 압도되어 있다고 말한다.

가끔씩 좋아요 숫자에 감정이 요동치는 걸 보면 감정이 수치화되고 있다는 말이

어떤 의미인지 이해할 수 있을 것이다.

간혹 SNS에 내가 필요로 하는 상품의 광고가 보일 때가 있다.

찾던 제품이라 반가운 마음도 있지만 어떻게 그 순간에 해당 제품이 내게 보이는지 궁금하다.

SNS 활동이 이어질수록 내 삶에서도 알고리즘의 영향이 점점 커지고 있음을 느낀다.

저자는 페이스북이 현대인들을 조작하려 든다는 주장에 대해 과학적으로 반박하고

알고리즘의 위험은 과대평가되었으며 실제 우리 삶이 미치는 영향은 미미하다고 설명한다.

또한 인공지능 분야에서 다양한 알고리즘이 연구되고 있지만

인간 수준으로 활약하기까지는 아직도 많은 데이터가 필요하며

아직은 박테리아 수준에 불과하다고 주장한다.

간혹 누군가 내 삶을 감시하고 있는 건 아닐까?라는 다소 어리석은 생각을 하면서

빠르게 변화하는 디지털 변화 속도를 따라가는 것을 힘겨워하는 나에게

알고리즘은 두려움의 대상이었다.

필요할 때가 있지만 대부분은 과도한 디지털의 친절로만 느껴진다.

하지만 이제는 두려움보다는 하나의 데이터로 받아들어야 한다는 걸 이해하게 되었다.

수학자의 날카로운 비판은 알고리즘에 대한 잘못된 편견을 지우고

과대광고 속에서 합리적으로 평가할 수 있는 판단력을 키워야 하는 이유를

생각해 볼 수 있게 도와줄 것이다.