사용자의 행동수정을 유도하는
소셜미디어 대기업의 장치, ‘버머bummer’ 알고리즘

이 책은 소셜미디어 대기업을 ‘행동수정 제국’이라고 부른다. 행동수정은 행동심리학 실험이나 중독 치료에 사용되는 기법으로, 보상과 벌칙을 통해 인간(혹은 동물)의 행동을 특정한 방향으로 유도한다. 이 행동수정 기법은 소셜미디어가 돈을 버는 수단이자 사회에 해를 끼치는 핵심적 과정이다. 소셜미디어 서비스의 알고리즘은 사용자들에 관한 데이터를 매분 매초 기록하고 다른 데이터들과 비교하고 통계적으로 분석, 선호와 사용 특성에 따라 분류한다. 이 책은 소셜미디어만의 독특한 알고리즘을 ‘버머bummer’ 알고리즘이라고 칭한다.

버머 알고리즘의 가장 큰 특징은 ‘적응성’이 있어서 더 많은 클릭 수, 참여 수를 유도하기 위해 스스로 끊임없이 보정한다는 것이다. 알고리즘은 이 보정을 통해 어떤 설정이 가장 수익성이 높았는지를 분석한다. 그런 후 어떤 사용자에게 효과가 있었던 설정 값을 비슷한 범주로 분류된 사용자들에게 지속적으로 노출시킴으로써 모든 사용자를 깊이 관여시키려 한다.

인간은 긍정적이든 부정적이든 어떤 반응을 받으면 자신의 행동에서 그 원인을 찾는다. SNS를 사용할 때도 마찬가지로 왜 어떤 게시물은 유독 큰 반응을 얻고 다른 게시물은 그렇지 못한지 알고자 한다. 그러나 알고리즘이 특정 콘텐츠를 더 많이 노출시키고 유통하는 데에는 정확한 이유가 없다. 버머 알고리즘은 설정을 ‘임의적’으로 변화시킨 후 가장 결과가 좋았던 설정값을 선택하기 때문이다. 이 과정을 수행하는 알고리즘조차도 그 자신이 무엇을 하고 있는지 정확히 이해하고 있지 못한다. 알고리즘은 가치 판단 없이 그저 사람들을 더 많이 자극하고 참여시킬 수 있는 콘텐츠 생산을 유도하는 방식으로 작동한다.

소셜미디어가 이런 방식으로 작동하게 된 것은 인터넷 문화 형성 초기 컴퓨터 과학기술자들의 신념 때문이다. 인터넷이 세상에 첫선을 보이고 본격적인 서비스가 개시될 당시, 인터넷은 모두를 위한 민주적 공간이 되어야 한다는 믿음이 널리 퍼져 있었고 모든 소프트웨어를 무료로 제공하고자 하는 사이버히피들의 운동이 일었다. 그 결과 우리는 무료로 자료를 검색하고, 음악을 듣고, 뉴스를 볼 수 있게 되었지만, 광고주에게 데이터를 제공하고 조종당하는 위치에 처하게 되었다.

버머는 본래 일종의 물물교환으로 거래됐다. “우리가 당신을 감시할 수 있게 해주면 대신 당신은 무료로 서비스를 받을 수 있다”는 식이었다. 단기적으로는 합당한 방식일지 모르지만 장기적으로 보면 끔찍한 거래다.―본문에서(162쪽)

광고 수익 모델에서 벗어나기 위해 재런 러니어는 광고주를 통해서가 아니라 소셜미디어 서비스가 직접 수익을 내는 구조를 제안한다. 넷플릭스나 HBO와 같은 구독형 플랫폼과 같이 매달 약간의 사용료를 지불하게 하는 대신 유용한 콘텐츠를 올린 사용자들에게 수익을 나누어주는 방식이 현재의 방식을 대체할 수 있다.

화면 너머에 타인이 있다
더 나은 인터넷 문화를 만들기 위한 선택

저자에 따르면 SNS 사용 중단은 부정적인 감정에 휘둘리지 않는 자유로운 사고를 가능하게 할 뿐 아니라, 좀더 나은 인터넷 문화를 만들어나갈 수 있게 한다. 책에 제시되는 10가지의 논점은 개인적 차원을 비롯해 사회·경제적 차원에서 SNS가 해로운 영향을 미치는 원인과 그 예시를 기술한다.

「논점 1」은 소셜미디어가 우리의 자유의지를 잃어가게 한다고 말한다. 지속적인 행동수정 실험과 이에 따른 결과로 제시되는 맞춤형 광고 때문에 우리가 무엇을 볼지 선택할 수 없다.

「논점 2」는 소셜미디어 사용 중단이 이 시대의 광증을 물리칠 수 있다고 말한다. 버머의 통계적 영향력은 ‘꼴통’과 ‘관심 종자’를 생산해낸다. 봇, 가짜 리뷰어, 가짜 친구, 가짜 팔로워 등과 같은 가짜 군중들은 특정한 콘텐츠에 폭발적인 초기 반응을 일으켜 그 게시물에 주목하도록 하는데, 선택되는 게시물은 즉각적인 반응을 유도할 수 있는 일차적이고 충동적인 것들이다. 소셜미디어의 이러한 문제점은 세부 규정을 수정하는 것으로 보완이 불가능하며 기업들이 사업 모델을 바꾸지 않는 이상 혁신이 불가능하다.

「논점 3」은 소셜미디어가 사람을 소통이 불가능한 ‘꼴통’으로 만드는 점을 짚는다. SNS는 우리를 단독자의 위치가 아니라 무리 중 하나의 위치에 놓는다. 무리 속에 있을 때 우리는 창의적이고 자율적으로 판단하기보다는 인간들 사이의 관계와 그 안에서의 상호작용, 경쟁에 주목한다. 이는 우리를 독자적 의견이 없는 인간으로 만든다.
「논점 4」는 SNS가 진실이 유통되는 것을 불가능하게 만드는 것을 논한다. 봇, 다량으로 만들어진 가짜 계정들은 특정 기업의 목적에 따라 편파적으로 특정 분위기를 조장한다. 이런 분위기는 사람들을 피해망상에 빠지게 하고 두려움을 자극한다. 예방접종을 거부하는 이들 역시 인터넷의 가짜 계정들이 무차별적으로 퍼뜨린 허위 정보에 큰 영향을 받았다는 주장이 제시된다.

「논점 5」는 SNS에서 우리의 말이 문맥 없이 유통되는 것에 대해 말한다. 소셜미디어 플랫폼은 콘텐츠를 뒤섞어 의미를 만들고, 우리가 하는 말의 의미는 쉽게 짜깁기되어 원래 말하고자 했던 것과 다른 의미로 이용된다.

맥락이 플랫폼에 굴복할 때, 사람들 간의 소통과 문화는 하찮고 피상적이며 빤한 것이 된다. 예측 불가능한 맥락에서 짧게라도 살아남는 무엇인가를 말하려면 정신 나갈 정도로 극단적이지 않고서는 불가능하다. 그리고 그럴 수 있는 건 오로지 꼴통 같은 의사소통밖에 없다.―본문에서(109쪽)

「논점 6」은 SNS가 공감 능력을 없앤다고 주장한다. 버머 알고리즘에 의해 구성되는 피드는 사용자마다 다른 콘텐츠를 보여준다. 사용자들은 정보 편식을 하게 되고 점점 자신만의 ‘필터 버블’에 갇힌다. 우리는 다른 의견을 가진 사람을 미친 사람으로 본다. 사회는 점점 불투명해지고, 이 시대의 불투명성이 어느 정도인지 가늠조차 할 수 없게 되는 것이다.

「논점 7」은 소셜미디어가 우리의 부정적인 감정을 자극하는 것에 대해 논한다. 소셜미디어의 통계 기능은 우리의 친구 수, 좋아요 수를 계량하고 순위를 매긴다. 사용자들은 끊임없이 타인을 의식하게 된다.

「논점 8」은 소셜미디어의 사업 모델이 경제 전반을 지속 불가능하게 만드는 점을 말한다. 광고를 통해 수익을 얻는 사업 방식에서는 사용자 간의 소통이 광고주라는 중개자를 거쳐야만 가능하다. 필요에 따라 임시로 계약을 맺고 일을 맡기는 형식의 긱 경제geek economy가 횡행하게 된 것이다. 광고주를 통한 수익 창출이 기업과 사용자 모두에게 지속 불가능한 방식임을 지적한다.

「논점 9」는 소셜미디어가 정치를 무력화한다고 말한다. SNS는 민주적인 형태로 시민들의 결속을 가능하게 하는 것처럼 보인다. 2010년 아랍에서 있었던 반정부 시위는 SNS를 활용하여 시민들이 독재 정권과 맞선 대표적 예시다. 그러나 SNS는 환상을 창조하는 역할을 했을 뿐 아랍 시민들에게 실질적인 도움을 제공하지는 못했고, 독재 정권은 다시 세를 잡았으나 이는 SNS에서 이전만큼 화제가 되지 못했다.

「논점 10」은 소셜미디어가 우리의 영혼을 세속화하는 점을 말한다. 버머는 이제 종교적 영성을 대치하는 하나의 원리가 되었고, 우리는 소통이 불가능한 꼴통이 되어가고 있다. 상대방에게도 숨겨진 경험의 중심, 영혼이 있음을 기억하기를 이 책은 당부한다.

SNS는 긍정적인 역동성이 있지만 나는 경계하는 편이다. 사용자들은 때로 타인에게 상처 주는 말을 문자로 또렷하게 전달한다. 이 책은 결국 ‘사람이란 무엇인가’라는 질문으로 향한다. 화면 너머에는 영혼이 있는 타인이 있다. 나는 ‘사람’과 대화하는가. 이를 고민하는 사람들에게 권하고 싶다.―이라영(『진짜 페미니스트는 없다』 저자)

쉽게 길들지 않는 고양이처럼
알고리즘 속에서 자주성을 지키기

이 책은 SNS 속에서 우리가 어떻게 생각하고 행동하는가를 의식하게 만든다. 소셜미디어가 너무나 일상적인 것이 되어 더 이상 그 영향을 고찰하는 것이 힘들어진 현재, 러니어가 새삼스레 SNS 중단을 강력하게 권하는 것도 그 때문이다. 우리는 현재 우리가 사용하는 소셜미디어에 명백한 단점이 있는 것을 인정하면서도, 이 방식과 모델을 유지하는 것은 어쩔 수 없는 일이라고 생각한다. 하지만 러니어는 ‘더 나아질 수 있는 가능성’을 꿈꾼다.
우리는 끝없이 연결되고 우리를 분석하는 알고리즘에서 잠시나마 떨어져 있어볼 필요가 있다. SNS를 현명하게 사용하고 자주적인 인터넷 문화를 만들어나가기 위해서다.

나는 우리가 충격적일 정도로 불평등한 사회에서 살고 있으며, 모든 사람에게 동일한 선택권이 제공되는 것은 아니라는 사실을 실감한다. 각자 처한 상황은 다르겠지만, 특히 나이가 아직 젊은 사람들은 스스로의 삶을 탐색할 선택 기회를 누리기를 간절히 바란다. (…) 하지만 자기 탐색을 어떤 식으로 해보든 간에 최소한 이것 한 가지는 꼭 해봤으면 좋겠다. 바로 행동수정 왕국에서 잠시 동안, 말하자면 한 6개월 정도 떨어져 있어보는 것이다.―본문에서(223쪽)