이전

리뷰 (34)

한줄평
평점 분포
  • 리뷰 총점10 47%
  • 리뷰 총점8 50%
  • 리뷰 총점6 3%
  • 리뷰 총점4 0%
  • 리뷰 총점2 0%
연령대별 평균 점수
  • 10대 0.0
  • 20대 0.0
  • 30대 9.0
  • 40대 8.0
  • 50대 9.0

포토/동영상 (4)

리뷰 총점 종이책
나는 누구를 위해 생각하는가..?
"나는 누구를 위해 생각하는가..?" 내용보기
정확하지 않은 내 기억에서 '버블 필터(Bubble Filter)'는 열대어 등을 어항에서 기를 때 어항의 물속 더러운 부유물을 걸러내고 물 속 산소공급을 위해 공기방울, 또는 산소방울을 발생시키는 장치의 명칭이다. 그렇다면 '필터 버블(Filter Bubble)'은..? 앞뒤가 바뀌어 다소 생소하게 들리긴 했지만, 그래도 뭐 마치 '논리(論理)'나 '이론(理論)'처럼 순서를 바꾸어써도 비슷한 말이 아
"나는 누구를 위해 생각하는가..?" 내용보기
정확하지 않은 내 기억에서 '버블 필터(Bubble Filter)'는 열대어 등을 어항에서 기를 때 어항의 물속 더러운 부유물을 걸러내고 물 속 산소공급을 위해 공기방울, 또는 산소방울을 발생시키는 장치의 명칭이다. 그렇다면 '필터 버블(Filter Bubble)'은..? 앞뒤가 바뀌어 다소 생소하게 들리긴 했지만, 그래도 뭐 마치 '논리(論理)''이론(理論)'처럼 순서를 바꾸어써도 비슷한 말이 아닐까 싶었다. 이 책 「생각조종자들」 의 원제 「The Filter Bubble」 의 의미를 이 책에서는 '개인의 성향 및 선호를 사전적으로 파악해놓은 데이터를 근거로 유추하여 개인에게 더 흥미로울 수 있는 맞춤형 정보를 제공하는 방식'이라고 정의한다. 다시말해, 사전에 검색한 단어와 클릭을 통해 접속한 사이트 링크, 해당 페이지에 머무른 시간 등을 데이터로 취합하여 해당 인터넷 사용자의 정치적 성향, 취미, 관심사, 성격 등을 추론하여 그가 원하는, 그에게 필요할 것으로 보이는 정보를 선별적으로 우선순위를 정해 보여준다는 의미다.

이 경우 같은 단어의 검색결과가 검색한 이에 대한 정보의 차이로 인해 서로 상이하게 나타날 수 있다. 예를 들면, 같은 영국의 정유회사 BP(British Petroleum)를 검색하더라고  시사나 환경 사이트를 자주 방문하며 다양한 사회적 이슈와 환경운동에 관심이 많은 이에게는 '원유유출 사고' 중심의 포스트가 검색되고, 평소 투자 사이트를 자주 방문하는 성향의 이에게는 '주가정보 및 기업 공시정보' 위주의 포스트가 검색되는 식이다. 결국 검색자가 원하는 정보를 알아서 선별해 우선순위로 서비스해 주는 한단계 진화한 검색방식이 '필터 버블'이다. 가만히 생각해보면 원하지 않은 정보(어항 속의 더러운 부유물)를 알아서 차단하고, 원하는 정보(공기 또는 산소)만을 추려 공급해 준다는 의미에서 '버블 필터'와 다를 바가 없어보이기도 한다.

가끔 인터넷 검색을 하다보면, 검색의 의도와는 전혀 무관하게 단순히 입력한 검색어의 개별 단어에 근거 엉뚱한 검색결과를 보여주는 경우를 종종 맞는다. 처음부터 끝까지 전혀 원하지 않는 결과를 보여주는 경우도 있으며, 검색엔진의 성능차이 때문인지 보유한 검색 데이터 인덱스의 양적 차이 때문인지 어떤 포털의 검색엔진을 사용했느냐에 따라 결과의 만족도도 상당히 상이하다. 이런 두 검색기능의 품질차이가 지속적으로 유사한 패턴을 보이게되면 누구라도 검색능력이 뛰어난 포털을 메인으로 사용하게 마련이다. 페이지뷰가 상대적으로 적은 포털의 경우 광고수입 등 수익구조 역시 취약해질 수 밖에 없기에 R&D 등의 투자비용을 유보하지 못해 점점 도태가 되어버리게 마련이다. 그러니, 메인에서 보여지는 다양한 정보의 질과 뛰어난 검색기능이야말로 인터넷 검색서비스 중심의 포털의 핵심 경쟁력이다. 

그러니, 포털의 운영자들은 보다 나은 검색서비스와 수요자가 원하는 정보를 메인에 붙이기 위한 노력에 최우선순위를 둘 수 밖에 없다. 그런데, 수요자 개개인의 기호와 관심사, 검색어를 입력하는 방식 등은 모두 다르다. 그런 이유로 보다 많은 수요자의 만족도를 증가시키기 위해서 포털은 수요자 개개인에 성향에 부응하는 맞춤식 Customization 방법을 떠올렸고, 이런 과정을 통해 큰 성공을 거둔 업체들이 현재 글로벌 웹(Web) 시장을 장악하고 있는 '구글(Google)''페이스북(Facebook)'이다. 그런데 얼핏 들어선 편리하기 짝이 없는, 수요자 개개의 검색 만족도를 무조건 증가시키는, (개개의 수요자가 원하는 정보를 방대한 데이터를 근거로 미리 예측하여) 맞춤식 검색서비스를 제공하는 행위가 왜 문제일까..?

이 책의 저자 엘리 프레이저(Eli Pariser)는  다양한 이유를 들어 분명히 그것은 '문제'라고 말한다. 그 첫번째 이유는 검색자가 의도하지 않은 정보접근의 제한적 성격이다. 서비스제공자가 사전에 파악해 놓은 개인 데이터에 기초해 원할 듯한 정보를 추려 제공할 경우 검색결과에 대한 만족도는 증가하나, 자신이 원하는 것, 자신이 보고 싶은 것 이외의 정보는 그것이 아무리 중요하더라도 검색자에게 불필요한 것으로 간주되어 사전에 차단된다는 것이다. 결국 검색자는 자신이 알고자하는 정보만 지속적으로 접할 뿐, 실제 세상사를 설명하는 균형잡인 다양한 정보를 맛보지 못함으로써 점차 세상에 대한 편향적인 시각을 갖게 된다. 

두번째 이유는 이런 '필터 버블'특정 정치세력이나 광고주의 개입에 의해 의도적으로 왜곡될 경우 이런 왜곡된 정보를 지속적으로 접하는 수요자의 사고방식 자체를 그들이 원하는 방향으로 세뇌시킬 수 있다는데 있다. 저자는 다양한 심리 실험과 사례를 들어 이런 위험성을 심각하게 경고한다. 수요자는 자신도 모르는 새 그들의 입맛대로 자신의 생각과 의견을 조종당할 수 있다는 것. 이것이  「생각조종자들」 이라는 이 책의 우리나라 제목의 네이밍된 뒷배경이다. 심심할때마다 세간을 흔들어대는 음모론(陰謀論, Conspiracy Theory)가 연상되는, 다소 침소봉대(針小棒大)가 된 듯한 느낌도 드는 주장.

세번째는 개인정보 보호와 사생활 침해의 문제다. 검색자 스스로도 인지못하는 사이 아무런 동의 없이 자신에 대한 정보가 꾸준하게 쌓여 개인의 사생활은 물론, 성격이나, 최근의 근황까지를 모두 유추, 추측할 수 있다는 사실은 검색서비스 제공자에게 스스로도 자각하지 못한 사이 엄청난 권력이 주어졌음을 뜻한다. 그러나 정보를 제공하는 이는 자신에 대한 정보가 누군가에 의해 수집되고 있음을 전혀 알지 못하고, 정보수집자 역시 그러한 정보가 가진 위력을 전혀 인지하지 못하고 있는 형편이다. 사회적 이슈화와 제공자의 동의 및 수정권한, 법적 제도적 통제장치의 마련, 데이터 수집주체의 자각 등 다양한 방면의 인식 및 대응이 필요하다.

대부분의 사용자들이 '필터 버블'의 존재조차 인지하고 있지 못한 현재의 상황은 분명 문제이고, 인식의 저변확대를 통해 개선이 필요한 상황이긴 하지만, 300 페이지에 달하는 한권의 책으로 담아내기엔 이슈의 종류나 문제의 복잡성 측면에서 다소 단순한 문제가 아니었나 싶다. 필터 버블의 문제는 디지털과 네트워크로 둘러싸인 새로운 세상에서 살아가는 현대인의 문제점을 전반으로 다룬 책의 한 챕터 수준이 오히려 적당할 듯 싶다. 비슷한 문제의식을 책 안에서 반복적으로 변주해 풀어내다보니, 오히려 문제의 핵심을 짚어내기가 어렵고 다소 산만하게 느껴졌다. 더 나아가 저자가 미래에 다가올 수 있는 위험, 즉 자신의 생각이 타인이나 특정 집단, 기업에 의해 지배당할 수 있다는 이야기는 합리적인 수준을 다소 지나친 과장된 주장으로 마치 공상과학영화의 이야기처럼 느껴졌다. 옛부터 기술과 컴퓨터 등의 발달을 놓고 수 많은 디스토피아의 모습이 예견되었으나, 늘 인류는 적당선에서 해결방안을 내 놓음으로서 그런 불행을 미연에 방지해왔다. 이 문제 역시 흥미로운 이야기이긴 하지만, 저자의 주장만큼 위협스럽고 음모스런 주제는 개인적으로 아니지 싶다.  


  


읽으며 보다 충격적으로 다가온 사실은 페이스북의 공동창업자 겸 CEO인 마크 주커버그(Mark Zuckerberg)가 어느 인터뷰에서 한 상기의 발언이다. '아프리카에서 죽어가는 누군가보다 당신의 집 앞에서 죽어가는 다람쥐 한 마리가 당장엔 당신에게 흥미로운 주제일 수 있다'는 요지의 발언에서는 불편한 것은 그것이 아무리 중요한 문제이더라도 외면하고 싶은, 재미있는 것, 즐거운 것, 감각적인 것만을 추구하려드는 인간 본성에 대한 날카로운 지적이 담겨있다. 검색엔진이나 뉴스의 제공자가 처한 경쟁환경을 이해하면, 당장에 그들의 밥줄을 졸라맬지도 모를 소명의식만을 단순하게 요구하는 것도 문제해결의 근본적 방법과는 거리가 멀지 싶다. 그것보다 더 중요한 것은 개개인 수요자 스스로가 먼저, 균형잡힌 중요한 정보의 공급이야말로 공급자들에게 효과적인 수익창출 수단이 될 수 있음을 인지시키고 증명하는 일 아닐까.

 



리뷰 총점 종이책
꼼딱마! 나는 네가 한일을 알고 있다..
"꼼딱마! 나는 네가 한일을 알고 있다.." 내용보기
#1. 구글에서 책이라는 낱말로 검색을 하였다. 로그인을 하지 않은 상태에서 내 컴퓨터와 다른 사람의 컴퓨터에서 검색한 결과는 미세하지만 차이를 보이고 있다. 책이라는 것이 아주 일반적인 내용임에도 불구하고, 검색결과가 이렇게 차이를 보이는 것은 컴퓨터를 이용하는 사람의 기호가 반영되어 있기 때문이라고 한다.        #2. 아침에 출근할 때, 회사에 오기까지 두 개의 카메
"꼼딱마! 나는 네가 한일을 알고 있다.." 내용보기

#1. 구글에서 책이라는 낱말로 검색을 하였다. 로그인을 하지 않은 상태에서 내 컴퓨터와 다른 사람의 컴퓨터에서 검색한 결과는 미세하지만 차이를 보이고 있다. 책이라는 것이 아주 일반적인 내용임에도 불구하고, 검색결과가 이렇게 차이를 보이는 것은 컴퓨터를 이용하는 사람의 기호가 반영되어 있기 때문이라고 한다.
      

#2. 아침에 출근할 때, 회사에 오기까지 두 개의 카메라를 마주한다. 매일 아침 불과 2키로 정도의 거리를 오면서 교통정보시스템 카메라에 내 모습은 꼬박꼬박 저장되고 있다. 또한 휴대폰은 내가 지금 어디에 있는지, 누구와 통화를 했는지, 그리고 어느 서버에 접속하여 이메일을 보내고 확인했는지, 나에 대한 모든 것을 정보화하여 차곡차곡 쌓아놓고 있다.

처음 인터넷이 세상에 모습을 드러냈을 때, 그리고 거의 최근에 이르기 까지도 인터넷은 철저한 익명의 세계이었다. 그러나 지금의 인터넷은 나도 모르는 나의 정보를 은밀히 모아 분석하는 도구라고 이 책의 저자 엘리 프레이저는 말한다. 구글, 페이스북, 애플, MS와 같은 인터넷 거함들이 생각하는 공식은 간단하다고 한다. 정보가 사용자와 더욱 밀접한 관련이 있을수록 그 사람에게 더 많은 광고를 팔 수가 있기 때문에, 계속해서 나에 대한 정보를 모으고, 또 나에 대해 예측하고 추론하고 있다고 한다. 여기에 자극 받은 크고 작은 무수한 웹사이트들도 사용자 개개인에 대한 개별화를 바로 그들의 핵심전략으로 삼고 있다고 한다.

구글에서 검색할 때, 모든 사람이 동일한 결과를 얻는 것은 아니다. 컴퓨터 화면은 점점 더 우리를 비추는 거울이 되어가고 있다. 검색엔진은 우리가 무엇을 클릭하는지 살피면서, 우리가 원하는 것을 보여준다. 더군다나 로그인을 하고 접속할 때, 우리들이 클릭하는 것은 전부 나에 대한 정보의 일부가 되어 그들의 데이터베이스에 쌓여만 간다. 그리고 그렇게 쌓여있는 것만으로 그치는 것이 아니라, 정보화된 내용은 내가 어떤 사이트에 접속할 때, 나의 관심을 유발할 수 있는 광고들을 줄줄이 띄우는데 사용된다.

2009년 구글이 처음으로 미국내 사용자의 검색결과를 개인에게 맞춤화하기 시작한 이후, 모든 인터넷 거함들은 우리들 한 사람, 한 사람의 정치적 취향, 관심사, 취미, 성격 등에 관한 개인정보를 필사적으로 추적하고 분석하였다. 그리고 그것들을 개인들의 흥미를 끌만한 맞춤정보로서 제공하고 있다. 그 결과 우리들은 점점 더 자신만의 편협한 정보세계의 울타리에 갇혀버리게 되었고, 이러한 현상을 필터버블Filter Bubble 이라고 한다. 또한 필터버블은 이 책의 원제이기도 하다.

그렇다면 구글이나 페이스북과 같은 웹사이트들은 왜 이렇게 개인정보들을 모으고 있을까? 그것은 그 회사들의 수익이 광고에 달려있기 때문이다. 개인들의 정보를 통하여, 그 개인의 정체성을 이해하면 그 사람의 행동에 대해 좀 더 영향을 미칠 수 있고, 또한 개인들의 소비성향에 맞는 맞춤광고가 가능해진다. 각 개인들에 대한 이러한 정보는 많은 사람들이 필요로 하고 있다. 돈을 주고 사려는 광고주들은 그들이 정치집단이든, 아니면 상품을 판매하는 기업이든 세상에 널려 있기 때문이다.

이러한 필터버블은 우리에게 지대한 영향을 끼치고 있다. 필터버블의 세상에서 우리는 친근한 정보와 듣기 좋은 뉴스만을 편식한다. 우리는 자기가 보는 대로 세상을 믿으려는 경향이 있다고 한다. , 보이는 것과 믿는 것을 동일시 하려는 경향이 있는 것이다. 자신이 사실이 대해서 완전히 통제하고 있다고 생각하고, 비록 그것이 왜곡된 것이라 할지라도 거기서 보는 것이 사실이라고 믿는 것이 보통의 우리들 인 것이다. 필터버블은 우리가 본 것과 보지 않은 것 모두를 통제하고 있다. 따라서 실제세상을 보려면 필터들이 우리의 시각을 어떻게 비틀고 있는지를 파악해야 하지만, 문제는 이 필터가 보이지 않는다는 점이다. 우리의 데이터가 수집되지만 우리는 그 사실을 모르고 있다. 나도 모르게 누군가가 나를 세밀하게 분석한 후, 내게 무엇이 필요할지 판단하여 알려주는 세상이지만, 그들이 어떤 기준으로 우리를 분석하는지, 또 그들이 제공하는 정보가 사실인지 알 수 있는 방법이 없다.

그러나 문제는 이러한 것들이 단지 광고에만 국한되는 것이 아니라는데 있다. 또한 데이터를 수집하고, 우리들을 분석한 회사는 자기들만이 사용해야 할 법적인 의무가 없다. 특정한 정치세력이나 광고주가 개입할 때, 우리는 그들의 입맛대로 조종당할 가능성에 노출되어 있는 것이다. 민주정치의 새로운 장을 마련했다고 평가 받는 인터넷이 오히려 보다 교묘한 방법으로 진실을 왜곡하고 여론을 조작할 수 있다는 것이다.

민주주의의 핵심은 대화라고 말하는 저자는 인터넷은 지금 권력분산의 길이 아니라 집중의 길로 가고 있다고 말한다. 개인정보를 통한 개별화는 사람들로 하여금 공공의 문제를 외면하게 만들고 있다. 구글 뉴스에서는 대중에게 흥미 있는 가십성의 기사가 이라크나 아프가니스탄의 불편한 진실을 외면하게 만든다. 편협한 자기 이해관계를 넘어서 생각할 때 민주주의의 작동이 가능한데, 필터버블은 우리에게 편협한 이해관계만이 모든 것이라는 인상을 주고 있다고 한다.

저자는 오바마가 대통령에 당선되는데 결정적인 역할을 한 무브온 운동에 참여하면서 인터넷이 여론형성에 얼마나 강한 위력을 가지고 있는지를 체험하였다고 한다. 인터넷이 얼마나 쉽게 대중을 조종할 수 있으며, 대중의 생각까지 마음대로 조작할 수 있다는 진실을 알게 되면서 저자는 이 책을 쓰게 되었다고 한다. 우리 또한 2002년 대선을 거치면서, 그리고 2008년 촛불을 보면서 그 위력을 충분히 경험하지 않았나 하는 생각이다.

그러면서 저자는 이러한 필터버블의 세상에서 온전히 내 생각을 지키기 위해서는 어떻게 해야 되는지에 대해 방안을 제시한다. 인터넷은 인터넷거함이라는 소수의 사람 손에 집중되어 통제되고 있다. 인터넷은 우리가 누구인지 알지만, 우리는 인터넷이 우리의 정보를 어떻게 사용하는지, 또 우리를 어떻게 생각하는지 알지를 못한다. 따라서 개인과 기업 그리고 정부가 힘을 모아 새로운 방향을 찾아야 할 것 이라고 주문하고 있지만, 기업들은 이윤추구의 집단이기 때문에 그들 손에 맡길 수는 없다고 말한다. 그러기에 정부가 정책적으로 개입할 여지가 있으며, 그것과는 별도로 개인들은 필터버블에 갇히지 않기 위하여 노력해야 한다고 주장한다.

그러기 위해서 저자는 우리에게 먼저 관심사를 넓히라고 말한다. 한가지 관심사에만 몰두하는 사람은 프로파일링 당하기 쉽지만, 다방면에 관심을 갖는 것은 필터버블을 무력화 시키는 방법이라고 말한다. 또한 인터넷을 사용하면서 규칙적으로 쿠키를 삭제하고, 개인정보가 어떻게 사용되는지를 투명하게 공개하는 사이트를 이용하라고 말한다. 그렇지만 그것보다도 더 중요한 것은 필터버블의 존재를 명확하게 인식하는 것 이라고 한다. 주어진 정보만을 신뢰하기 보다는 나의 선택을 한번 더 의심하고 비틀어서 생각하는 것, 이것이 생각조종자들에게 맞서는 중요한 방법이라고 강조한다.

책을 읽고서 그 동안 막연하게 생각해왔던 불안들이 좀더 현실적으로 다가온다. 또한 이렇게 필터버블이라는 것을 알게 된것이 그나마 다행이란 생각도 든다. 내가 책을 구매하거나 읽을 때, 잡식성이라는 사실이 조금은 안심이 되지만, 앞으로는 더 예측할수 없는 잡식성이 되어야 하지 않을까 싶다.

 

 

 

 

k*****1 2011.09.07. 신고 공감 10 댓글 22
리뷰 총점 종이책
당신의 생각은 조종당하고 있습니다!
"당신의 생각은 조종당하고 있습니다!" 내용보기
필터 버블의 세상!문 앞에 죽어 있는 쥐 한마리가 아프리카에서 죽어가는 사람보다 당신에게 더 신경 쓰이는 법이다. 우리도 모르는 사이에 우리는 온라인 공간에서 아프리카에서 죽어가는 사람보다는 문 앞에 죽어 있는 쥐 한마리에 대한 이야기를 자주 접하는 세상에 살고 있다. 이는  구글, 애플, 마이크로소프트 등 인터넷 거인들은 우리들 한 사람, 한 사람의 정치적 취향, 관심사,
"당신의 생각은 조종당하고 있습니다!" 내용보기

필터 버블의 세상!
문 앞에 죽어 있는 쥐 한마리가 아프리카에서 죽어가는 사람보다 당신에게 더 신경 쓰이는 법이다. 우리도 모르는 사이에 우리는 온라인 공간에서 아프리카에서 죽어가는 사람보다는 문 앞에 죽어 있는 쥐 한마리에 대한 이야기를 자주 접하는 세상에 살고 있다. 이는  구글, 애플, 마이크로소프트 등 인터넷 거인들은 우리들 한 사람, 한 사람의 정치적 취향, 관심사, 취미, 성격 등에 관한 개인정보를 필사적으로 추적하고 분석하여 개인의 흥미를 끌만한 맞춤 정보를 제공하고 있기 때문이다. 최근 구글이 개인 위치정보를 불법으로 취득하여 물의를 빚은 것이 결코 우연이 아님을 알 수 있다.

이 책 <생각 조종자들>은 이러한 정보 필터링 현상을 다루고 있다. 저자가 '필터 버블(filter bubble)' 이라고 명명한 이러한 현상은 개인 맞춤형의 정보제공 서비스 문제와 관련된 현상이다. 과히 정보의 바다라고 할 만한 인터넷 공간에서 우리는 자칫하면 길을 잃어버리게 된다. 그래서 개인들은 자신에게 꼭 맞는 양질의 정보를 쉽게 선별하길 원했고, 구글과 마이크로소프트와 같은 인터넷 거인들은 맞춤형 정보제공이야말로 미래 돈벌이의 핵심요소가 된다고 생각하게 되었다.

무서운 세상, 무서운 사람들
사실 2009.12월부터 구글은 사용자들의 동일한 검색요청에 대해 맞춤화된 정보를 제공하기 시작했다. 같은 단어를 검색하더라도 개인의 관심분야를 감안해 각자에게 적합한 것만으로 구성된 다른 내용들을 알려준다는 이야기이다. 참 멋진 세상이란 생각도 든다. 그러나 좀 더 생각해 보면 그리 간단한 문제는 아닌 것 같다. 도대체 개인 맞춤형 정보라는 것은 누가 어떻게 정한다는 말인가? 그리고 이러한 '필터 버블' 현상이 바람직하기만 한 것일까?

인터넷에 등록된 개인정보와 클릭활동을 추적해 만든 개인맞춤형 정보는 세상에서 나에게 친근한 정보와 듣기 좋은 뉴스만을 편식하게 만든다. 피츠제럴드의 <위대한 개츠비>를 읽은 사람에게는 비슷한 동시대 소설 <배빗>을 읽어보라고 권한다. 이젠 어떤 온라인 사이트에 접속하든 같은 광고가 따라붙기 시작한다. SNS 사이트에서는 어떻게 알았는지 내가 관심 있는 사람들, 좋아하는 사람들의 소식이 톱뉴스로 정렬되어 있다. 이렇게 해서 우린 편협한 정보세계의 울타리에 갇히게 되는 측면이 존재한다.

저자는 이런 현상에 몇가지 심각한 문제가 있음을 지적한다. 첫째, 개인의 관심분야를 불필요하게 제한한다는 점이다. 일상의 지루함을 탈피하기 위해 낯설은 환경에 자신을 노출시키는 여행이 가끔 필요하듯이 낯선 분야를 접하는 것이야말로 시야를 넓히고 창의성을 가져오는 첩경이다. 그러나 '필터 버블'이 이런 행동을 제약하는 역할을 담당하는 것은 두말할 필요가 없다.

둘째, 개인에 대한 프로파일링 방식의 문제이다. 도대체 나란 사람의 정체를 누가 어떻게 아이덴티파이 한다는 것인가? 인터넷 필터는 내가 인터넷 공간에서 하는 행동(클릭내용)을 통해 무엇을 좋아하는지 무엇을 하려고 하는 지에 대한 이론을 만들어내고 다듬어간다. 그래서 내가 열심히 공부하는 똑똑한 사람으로 분류되면 거기에 관한 정보들을 집중 제공하고, 여성의 뒤꽁무니나 쫒는 호색한으로 분류된다면 거기에 적합한 정보를 제공하는 식이다. 나도 모르게 누군가가 나를 세세히 분석한 후 내게 무엇이 필요할지 판단하여 알려주는 세상, 벌써 우리 생활의 상당부분을 잠식하고 있다.

셋째, 수집된 정보의 악용가능성이다. 개인 정보에 관한 수많은 정보들이 선거운동이나 상업적 목적으로 악용될 가능성은 쉽게 상상해 볼 수 있겠다. 저자는 이런 일들을 할 수 있는 기술적 준비는 이미 충분하게 준비되어 있다고 밝히고 있다. 내 관심사마저 그게 내 관심사라고 믿게 만드는 필터 버블이 작동하고 있다는 사실을 생각하면 모골이 송연해지기도 한다. 

결국 세상에 대한 관심의 확대가 필요
그럼 현재의 '필터 버블' 세상에서 온전히 내 생각을 지켜가기 위해 어떻게 해야 할까? 가장 중요한 방법은 새로운 방향으로 관심사를 넓히는 것이다. 오페라도 즐기고 만화도 보고, 해외 정치 기사도 클릭했다가 톰 크루즈의 다음 영화를 찾아보다면 당신을 한가지 인물로 프로파일링하기 어려워 질 뿐만 아니라 실제로 다양한 분야에서의 새로운 정보와 아이디어를 얻는 좋은 기회를 가질 수 있기 때문이다. 또한 필터가 어떻게 작동하고 개인 정보가 어떻게 사용되는지를 투명하게 공개하는 사이트를 선택하는 것도 좋은 방안이 되겠다. 

이 책을 통해 필터 버블의 존재를 인식하게 된 것은 큰 수확이라고 생각된다. 내가 온라인 공간을 통해 접하는 정보들의 이러한 특징과 한계점을 인식할 수 있다면 상당부문 문제해결의 실마리를 찾은 것이나 다름이 없다는 생각이 든다. 무조건적 선택보다는 나의 선택을 한 번 더 의심하고 생각의 각도를 조금 바꾸어 문제를 새롭게 바라보는 것. 이것이 바로 생각 조종자들에 맞서 내 생각을 지키는 가장 중요한 방법이 될 것이기 때문이다. 



c******4 2011.09.04. 신고 공감 5 댓글 14
리뷰 총점 종이책
매트릭스가 현실이 되는 세상
"매트릭스가 현실이 되는 세상" 내용보기
“우리는 도구를 만든다. 그리고 도구가 우리를 만든다.”는 마셜 매클루언의 말은 우리가 만든 도구를 사용하다보면 우리가 진화한다는 의미로 해석됩니다. 하지만 인간이 만들어낸 도구가 인공지능을 가지게 되면서 도구 스스로가 진화하는 단계에 이르게 되었다는 것을 우리가 미처 깨닫지 못하고 있다는 것을 알게 되었습니다. <생각조종자들>의 저자 엘리 프레이저는 인간이
"매트릭스가 현실이 되는 세상" 내용보기

“우리는 도구를 만든다. 그리고 도구가 우리를 만든다.”는 마셜 매클루언의 말은 우리가 만든 도구를 사용하다보면 우리가 진화한다는 의미로 해석됩니다. 하지만 인간이 만들어낸 도구가 인공지능을 가지게 되면서 도구 스스로가 진화하는 단계에 이르게 되었다는 것을 우리가 미처 깨닫지 못하고 있다는 것을 알게 되었습니다.


<생각조종자들>의 저자 엘리 프레이저는 인간이 창조한 인터넷세상이 통제불가능한 단계에 접어들었음을 경고하고 있습니다. 그 예로 인터넷에 넘치는 정보를 모두 살펴보기 어려운 현실을 감안하여 인터넷정보를 개별화하는 방법이 개발된 것입니다. 구굴의 CEO 에릭 슈미트가 “내가 늘 만들고자 했던 것은 내가 뭘 보고 싶어 하는지 예측하는 프로그램”이라는 예언이 현실화되었다는 것인데, 이처럼 정보를 개별화하는 방식은 당신이 실제로 무슨 일을 했는지, 당신과 같은 사람이 무엇을 좋아하는지 살펴보고 추론하는 예측엔진은 끊임없이 당신이 누구인지, 이제 무엇을 하려고 하고 또 할 것인지에 대한 이론을 만들어내고 다듬고 있다고 합니다. 이처럼 우리가 온라인에서 정보와 아이디어를 맞닥뜨리는 방법 자체를 근본적으로 변화시키는 현상을 저자는 “필터 버블”이라고 이름을 붙였습니다.


혹시 비누방울 풍선을 아십니까? 어렸을 적에 비눗물을 찍어 숨을 불어넣어 무지개 빛이 영롱한 방울을 만들어내던 기억이 있으실 것입니다. 그런데 요즘은 비눗방울 풍선도 사람이 들어갈 정도로 커다랗게 만들어내기에 이르렀습니다. 저자는 필터 버블이 가져오는 사회적 현상 세 가지를 소개하고 있습니다. 첫째, ‘외톨이 현상’입니다. 비눗방울 풍성에 갇힌 것처럼 정보를 공유하던 시대에는 작은 커뮤니티 안에서 다른 사람을 만나게 되던 것이 개별화된 정보만 추구하는 순간 필터 버블 안에 스스로를 밀어넣게 된다는 것입니다. 둘째는 ‘오리무중 헤매기’라고 합니다. 개별화된 정보가 추출되는 과정은 누구도 모르게 이루어다보니 자신이 원하는 정보를 찾아내는 일이 어려운 상황에 돌입하게 될 수 있다는 점을 우려하고 있습니다. 셋째는 ‘떠밀리기’인데 오프라인에서는 모든 일을 스스로 선택하게 되는데 반하여 필터버블에서는 스스로 선택할 수 있는 것이 별로 없다는 것입니다.


“반대의 증거가 있는데도 우리는 자기가 보는 대로 세상을 믿으려는 경향이 있다.(109쪽)”
고 정보분석가 리처드 호이어의 지적이 틀림이 없다는 것을 우리는 2008년 제2차 광우병파동을 통하여 절절하게 느낄 수 있었습니다. 이처럼 우리가 보고 싶은 것을 보기 위해 기존의 견해를 강화한 것을 믿는 경향을 심리학에서는 ‘확증편향’이라고 합니다. 인간의 이런 특성 때문에 필터 버블로 인하여 야기될 상황은 분명 우려할 만하기에 적절한 대책마련이 시급하다는 경고의 메시지를 이 책에 담아내려한 것으로 보입니다.

구굴의 검색 시스템이 정교해지고 지능화되면서 시스템코드를 만들어낸 프로그래머조차도 결과물을 제대로 설명하지 못하는 수준에 이르게 되었다고 합니다. “시스템 자체는 코드로 만들어졌기 때문에 생명을 가졌다고는 할 수 없음에도 불구하고 검색엔진이 어떻게 움직이는지, 왜 그런지 알지 못하고 결과만을 볼 뿐이라는 것(279쪽)”입니다. 이러한 상황에 이르게 된 것은 프로그래머의 정신세계가 독특하다는 점을 알아야 할 것 같습니다. “프로그래머란 자신이 규칙을 만드는 한편 그것이 어떤 간섭도 없이 운영되기를 바란다. 운영하는 데 관리인이 필요하다면 그건 좋은 프로그램이 아니다. 프로그램은 그대로 두어도 그냥 돌아가야 한다.(227쪽)”는 더글러스 러시코프의 주장을 들으면 프로그램을 짜는 사람들이 때로는 신이 되고 싶은 충동에 빠지는데 프로그램을 통하여 사회를 혁신하려는 야심을 가지는 경우가 많기 때문이라고 합니다.


요즘 들어 개인정보의 보안이 중요한 이슈가 되고 있습니다만, 우리도 모르는 사이에 우리의 삶에 대한 구체적인 정보가 도처에서 노출되고 있는 것도 현실입니다. 드물지 않게 인터넷을 통하여 개인의 신상털기가 사회적 이슈가 되기도 합니다만, 나도 모르는 내 사진이 인터넷에 떠돌아다닐 수 있다는 것은 소름끼치는 일이 아닐 수 없습니다. 저자는 독재정권은 물론 민주적 정부조차도 국민의 온라인 행동양태를 감시하고 있다고 경고하고 있습니다.

저자는 개별화, 즉 필터 버블로 온라인 세상은 소수의 사람에 의하여 통제되고 있다고 경고하면서 개인과 기업 그리고 정부가 힘을 모아 새로운 방향을 찾아야 할 것이라고 주문하고 있습니다. 즉 우리가 하고 있는 일을 그대로 비추기보다는 우리가 원하는 것들을 선택할 수 있는 인터넷 환경이 지켜져야 할 것입니다. 저자는 개인이 필터 버블에 갇히지 않으려면 새로운 방향으로 관심사를 넓혀야 한다고 조언하고 있습니다.

이 대목에서 ‘걸어 다니는 시계’라는 별명을 들은 철학자 임마누엘 칸트를 인용해야 하겠습니다. 그는 매일 같은 시각, 같은 길을, 같은 속도로 산책을 하는 습관이 있어 마을사람들은 칸트를 보면 시간을 알 수 있었다고 합니다. 그런데 인터넷 세상을 칸트처럼 살게 되면 필터 버블에서 헤어날 수 없게 된다는 것입니다. 습관을 깨뜨리는 것이 쉽지는 않겠지만, 평소와 다른 길을 걷게 되면 새로운 것들에 눈을 뜨게 되는 것처럼 온라인에서도 새로운 길에 나서면 새로운 사람들을 만날 수 있게 되고 새로운 아이디어를 얻을 수 있게 된다는 것입니다.




y*****2 2011.09.05. 신고 공감 4 댓글 4
리뷰 총점 종이책
필터 버블의 밝음과 그림자
"필터 버블의 밝음과 그림자" 내용보기
아침에 출근하자마자 제일먼저 하는 일이 있다.  이메일에 들어가서 밤사이 도착한 편지들을 체크하는 일이다.  광고와 스팸메일은 일일이 삭제를 해주고, 필요한 메일과 그렇지 않은 메일을 분리한다. 1시간은 족히 걸린다.  연휴나 명절 등으로 길게 자리를 비운 사이라면 정리시간은 더 길어진다.   사람이 좀 더 편하고 편리하게 하기 위해 시간이 갈수록 기술은 발전하고 진화한다
"필터 버블의 밝음과 그림자" 내용보기

아침에 출근하자마자 제일먼저 하는 일이 있다.  이메일에 들어가서 밤사이 도착한 편지들을 체크하는 일이다.  광고와 스팸메일은 일일이 삭제를 해주고, 필요한 메일과 그렇지 않은 메일을 분리한다. 1시간은 족히 걸린다.  연휴나 명절 등으로 길게 자리를 비운 사이라면 정리시간은 더 길어진다.

 

사람이 좀 더 편하고 편리하게 하기 위해 시간이 갈수록 기술은 발전하고 진화한다.  가까운 미래에는 로봇이 사람이 하기 싫은 일들을 대신 처리해주는 날이 올 것이다.  개인의 삶에서 꼭 필요하지만 하기 싫은 설겆이, 청소, 빨래 등을 해결해주고, 기업에서는 꼭 해야 하나 하찮은, 단순한 일들을 로봇이 대체하는 시대가 올 것이다. 사람의 생각을 좀 더 빨리 읽고, 정확하게 읽어서 기계가 사람을 대신하는 시대. 꿈 같은 일이다. 인공지능 이라는 분야로 이런 것들이 개발되고 계속 발전 되어 지고 있다.

 

이런 변화가 좋은 점은 바쁜 현대인들에게 시간을 절약해 준다는 점이다. '정보의 바다'라는 표현이 작게 느껴질 만큼 우리는 정보의 홍수속에 살고 있다. 하루에도 정보의 양은 기하급수적으로 늘고 있는데, 이런 산처럼 쌓인 정보의 더미들 중에서 내가 필요로 하는 정보를 재빨리 찾을 수 있는 방법이 있다면 아주 똑똑하고 효율적인 시스템이 될것이다. 내 몸에, 입맞에 맞춤한 것처럼 알맞은 정보를 적시에 찾아주는 일, 미로에서 헤매지 않고 지름길로 유유히 빠져 나가는 일은 생각만 해도 신나는 일이다. 이런 기술이 IT 가 가야할 방향이고, 여러 기업들이 박차를 가해 연구개발하는 분야 이기도 하다.   

 

신문이나 인터넷 뉴스를 보면 내가 관심없는 주제들도 많다.  내가 보는 뉴스에는 정치적인 분야는 큰 이슈만 보여주고, 스포츠와 광고는 아예 빼버리면 좋겠다. 그 밖에 책이나 영화소식, 칼럼 등은 빼놓지 않고 들어 있어야 한다. 이런 일련의 작업들을 개인비서가 있어서 대신해 주면 좋겠다. 

 

놀라지 마시라!  개인에 맞춤한 정보를 보여주는 일! 현재도 일부에선 적용이 되고 있다.  일상에서 아주 친숙한 구글이나 페이스북, 아마존이 그들이다.  똑똑한 컴퓨터가 진화하기 시작했고, 앞으로 개인비서 역할을 톡톡히 해줄거다.  이런 개별화가 일반화 되면 내가 즐겨보는 사이트에는 광고나 홍보성 글들은 다 삭제되고, 내가 좋아하는 것들만 보여준다.  내가 관심없는 주제들은 뒤에 숨겨놓거나 아예 빼버린다. 시간낭비도 없을테고 즐거운 클릭질만 남는다.

 

우리가 누리는 모든 것들에는 편리한 혜택과 함께 그림자처럼 따라다니는 단점이 있다. 

 

개별화된 인터넷의 단점이라면, 편협된 자기만의 세상에 빠질 수 있다는 점이다. 또한 내 개인정보가 악용될 우려도 있다. 내가 좋아하는 것만 필터링된 인터넷은 내 관심사에서 점점 더 깊게만 들어가게 된다. 넓이를 키우진 못하고 자기가 파 놓은 점점 더 깊은 자기세상에 갇히게된다. 우린 때때로 다른 사람이 뭘 보는지, 어떤 뉴스를 보는지 알아야 할때가 있다. 그러나 당신이 만약 필터 버블에 빠졌다면(빠졌다는 사실도 모를테지만...) 당신의지가 아닌 기계가 결정하고 보여주는 것만 봐야한다.  필터버블은 당신이 앞으로 볼 뉴스를 결정하고, 당신이 좋아할 거라고 판단되는 것들만 보여준다.  필터버블에 빠져들면 들수록 기계에 대한 통제권은 상대적으로 약해지는 것이다. 사람이 기계를 조종하는게 아니라 기계가 사람을 끌고다니는 시대가 올 것이 우려된다.

 

세상에는 없어서는 불편을 초래할 것들이 많다.  자동차, 세탁기, 냉장고, 텔레비전, 핸드폰 등등 무수히 많은 아이디어 상품들이 사랑받고 있다.  하지만 그 이면에는 익히 알고있는 단점들이 눈에 띈다. 자동차는 이동시간을 단축하는 대신 대기를 오염시키고, 교통사고를 유발하며, 전자제품은 편리함을 주는 대신 유한한 에너지를 고갈 시키고, 전자파로 건강을 손상시키기도 한다.  하지만 우린 여전히 그 제품들을 사용한다. 

왜?

없으면 이제 불편해서 살아가는데 지장이 많기 때문이다.  물론 그 단점을 피해 극히 일부이지만 산골로 들어가 홀로 문명과 싸우며 사는 사람도 있다. 그러나 여전히 대부분의 사람들은 그 단점을 알지만 그냥 산다. 편리함을 버리지 못하기 때문이다.  인터넷도 마찬가지다. 많은 사람들이 인터넷의 정보를 이용하고 있고, 그 정보의 혜택을 직접, 간접적으로 누리고 있다.  인터넷이 없는 세상은 상상하기 힘들정도로 우리 생활 구석 구석을 지배하고 있다.  여기 이 책에 그 단점을 지적해 놓았지만, 충분히 알고 이해해도 쉽게 인터넷을 버리진 못할거다.

 

우리가 누리는 편리한 도구들이 가진 단점을 알고 조심히 다루는 것 하고, 그런 사전 이해가 없이 전혀 모르는 상태로 생활하는 것에는 큰 차이가 있을거라 생각한다. 칼이나 망치, 불이 인간에게 주는 편리함과 여러 수고스러움을 덜어주는 것에 반해 잘못 사용하면 사람의 목숨을 위협하는 무기가 될수 있다. 우리는 그 점을 익히 알고 있고, 대신에 조심스럽게 다룬다.  필터버블도 단점을 생각하며 조금더 세심하게 사용할 필요가 있다.

 

그 점에서 이슈를 제기하고 기꺼이 정보를 파헤쳐준 저자에게 고마운 마음이다. 이런 책이 아니었다면, 관련개발자가 아닌 일반대중들이 상상이나 할 수 있었을까?

 

이 책은 자신만의 편협된 '필터 버블' 속에서 허우적대는 사람에게, 필터버블이 지배하는 세상에서 똑똑하게 살아남으라고 주장한다.  필터버블의 위험성을 경고한다.  

 

s***r 2011.10.25. 신고 공감 3 댓글 6
리뷰 총점 종이책
생각 조종자들: 당신의 의사결정을 설계하는 위험한 집단
"생각 조종자들: 당신의 의사결정을 설계하는 위험한 집단" 내용보기
이 책을 읽는 동안 버벅거리는 포털 사이트, 쇼핑 사이트를 만날 때마다 이 사이트가 나를 필터링하고 있구나 싶어 무서워지고, 트위터 글을 볼 때마다 이제는 내 의견과 비슷한 트친들만 남아서 점점 편협해져가는 내 시야를 의식하게 되었다. 검색 추천 태그나 광고들을 보면서 '이 사이트가 나를 어떤 사람이라고 생각하기에 이런 것들을 보여주지??' 생각하며 돌아보게 되었다.
"생각 조종자들: 당신의 의사결정을 설계하는 위험한 집단" 내용보기

이 책을 읽는 동안 버벅거리는 포털 사이트, 쇼핑 사이트를 만날 때마다 이 사이트가 나를 필터링하고 있구나 싶어 무서워지고, 트위터 글을 볼 때마다 이제는 내 의견과 비슷한 트친들만 남아서 점점 편협해져가는 내 시야를 의식하게 되었다. 검색 추천 태그나 광고들을 보면서 '이 사이트가 나를 어떤 사람이라고 생각하기에 이런 것들을 보여주지??' 생각하며 돌아보게 되었다. 열심히 관리하는 미니홈피, 블로그, 트위터를 통해 불특정 다수가 나의 생활을 훔쳐보며 단편적인 인상들을 만들어가겠구나 싶어졌다. 영화 "김씨 표류기"에 나오는 여자 김씨의 이중 생활처럼. 지금까지는 '숨길 것이 뭐 있겠어, 이게 다 내 모습인데' 싶어서 거의 완전히 모든 자료를 전체공개 했었는데, 이 책을 읽으면서 미니홈피 폐쇄 내지는 일촌공개로의 전환을 심각하게 고려했다. 아무 생각 없이 즐기던 인터넷, 스마트폰 생활에 경고등이 들어왔다.

"세계 전역에서 정보 브로커들은 당신의 온라인 생활을 자신들에게 맡기면 더 좋아질 것이라는 생각을 강요하고 있다. 그들은 공짜 도구를 사용하는 대가로 소비자가 얻는 기회가 개인 데이터의 가치보다 크다고 주장한다. 그러나 소비자는 이 계산을 따져볼 방법이 전혀 없다. 얻는 통제는 보이지만, 잃는 통제는 보이지 않는다."p. 328

 

처음 싸이월드 미니홈피가 나왔을 때, 무료로 퍼주는 인터넷 공간에 대해 미심쩍어했다. 이렇게 적응하고 자료 쌓아두게 만든 다음에 언젠가 유료화 하겠지라고 추측했었다. 하지만 이 책에 의하면 그들은 처음부터 유료화보다 더 얍삽한 돈벌이를 준비하고 있었을지도 모르겠다. 미니홈피에 쌓여갈 엄청나게 많은 사람들의 개인정보와 함께 그들의 생활과 선호에 관련된 정보들을 상업적으로 이용할 수 있는 가능성이 그들에게 주어져 있기 때문이다. 이번 싸이월드 개인정보 유출 사태는 개인정보 해킹 자체에 대한 경각심도 일깨워주었지만, 우리가 더 무서워해야 할 것은 그러한 드러난 범죄가 아니라 우리도 모르게 당하고 있는 정보 수집이다. 필터링을 통해 나타난 개인의 선호는 그 자신도 알아채지 못하는 사이에 자본주의 사회에서 개별화된 광고에 활용될 가능성이 충분하다. 은행은 신용불량자인 친구가 있는 사람의 신용도도 평가 절하할지도 모른다. SF영화처럼 유전자 정보가 보험회사의 손에 들어가 보험료를 높게 책정할지도 모른다. 단편적인 정보로 인간을 평가하는 알고리즘 때문에 자기도 모르는 사이에 부당한 평가를 당하게 된다는 것이다.  

"이 서비스는 기업 고객들에게는 상당히 유용하다. 그러나 링크드인이 기업 고객에게 앞으로 해고할 사람들을 골라내기 위해 데이터를 제공하는 것을 상상해보라. 이러한 일은 당신이 전혀 알지 못하는 가운데 일어날 수 있기 때문에 항의하거나 그 예측이 잘못되었음을 입증할 기회조차 없다.

당신의 고교 동창이 빚을 갚지 않는다거나, 많은 채무 불이행자들이 좋아하는 것을 당신도 좋아한다는 이유로 은행에서 차별을 받는다면 이는 부당한 것이다. 문제는 알고리즘이 어떤 데이터를 이용해 예측하느냐이다."p. 178

 

실제로 저자는 요즘 유행하는 페이스북의 '좋아요'나 구글의 개별화 검색 시스템을 예로 들어 우리 인터넷 생활에 필터 버블이 만연해 있음을 보여준다. 책의 원제이기도 한 필터 버블("The Filter Bubble")은 인간의 시야를 좁게 만든다. 인간은 자신이 익숙하고 선호하는 것을 더욱 좋아하는 성향이 있기 때문이다. 인간의 뇌와 몸은 세상의 정보를 무한정 받아들일 수 없기 때문에 가장 중요하고 유용하게 여겨져 선호할 만한 것부터 선택적으로 받아들인다. 인간의 이러한 성향을 이용해 필터 버블은 우연성을 배제하고 관련성을 극대화시킨다. 인터넷에 만연한 개별화 필터는 구글 검색창에 평소에 내가 입력했던 것들을 토대로 나에게 최적화된 결과를 보여주려고 노력한다. 지금까지 모두가 똑같은 검색 결과를 본다고 알고 있었는데 충격적이었다. 페이스북의 '좋아요'를 비롯한 마음에 드는 글 추천 시스템 역시 단순히 나의 선호를 표현하는데 목적이 있는 것이 아니었다. 내가 '좋아요'를 한 번 클릭할 때마다 인터넷 창 구석 어딘가에 자리잡은 광고와 추천 동영상은 내가 추천한 글과 관련된 내용으로 변한다. 태그를 달도록 부추기는 이유도 이와 일맥상통할 것이다.

 

검색 사이트 첫 화면의 자극적인 제목을 단 뉴스와, 인기검색어들은 우리가 무엇을 클릭할지 결정한다. 이제는 인터넷에서 아무 것이나 마구 클릭할 수 없게 되었다. 개별화 필터의 성격 때문에 이 필터 버블에 걸려든 사람은 새로운 것을 배우거나 새로운 의견 접하기, 새로운 사람 만나기와 같은 다양한 경험을 할 기회를 놓치게 된다. 선호하는 것을 추천하거나 검색하고, 다시 선호하는 것에 대한 결과물을 보고, 또 그것을 추천한다. 결국 필터 버블의 이러한 메커니즘이 인간의 생각과 행동을 조종할 수 있다는 것이 이 책의 주제라고 할 수 있다.  

"필터를 거친 환경은 호기심에 영향을 줄 수 있다. 행동경제학자 조지 로웬스타인은 호기심은 우리가 기존에 가졌던 지식과 정보가 새로운 개념과 차이가 날 때, 즉 '정보 갭'이 있을 때 생긴다고 말한다. 정보 갭은 박탈의 감정이다. 선물 포장은 그 안에 무엇이 있는지 알아차릴 기회를 박탈한다. 그러면 우리는 안에 뭐가 있는지 호기심을 느낀다. 그러나 호기심을 느끼기 위해 우리는 무언가가 숨겨져 있다는 것을 의식해야 한다. 필터 버블은 우리가 의식하지 못하는 가운데 숨기기 때문에 우리는 알지 못하는 것을 배울 생각조차 들지 않게 된다."p. 121  

 

처음 인터넷이 나왔을 때 사람들은 모든 시민이 정부와 같은 권력이 제대로 작동하도록 감시하고 의견을 표출해서 영향력을 미칠 수 있는 좋은 도구가 될 수 있으리라고 기대했다. 그러나 이제는 필터 버블 때문에 우리가 우리도 모르는 사이에 정부나 기업의 감시를 당하고 있을지도 모른다는 경각심을 가져야할 판이다. 필터를 통해 생각을 조종당하는지도 모르고 조종당하는 것, 인터넷에서 네티즌들이 서로 연결되지 못하게 조장하고 공공담론을 형성하지 못하게 만드는 개별화 필터와 함께 위험한 또 한 가지는 인터넷에서 알고리즘을 만지고 시스템을 만드는 사람들의 영향력이 커졌을 때의 위험성이다. 그들이 바른 생각을 갖지 않으면 그들이 움직이는 시스템은 무서운 도구로 변할 수 있다. 마치 인간학의 오래된 논쟁인 '자유의지와 결정론'의 문제처럼, 시스템과 그것을 움직이는 사람들은 관련성과 우연성의 균형에 대해서 고민해야만 한다.

"시스템화는 기능적인 소프트웨어를 개발하는 데 아주 좋은 방법이다. 사회 조사에서 정량적이고 과학적인 접근 방법은 인간 현상에 대단한 통찰력을 제공하기도 한다... 그러나 이 방법을 너무 과신하면 상당한 위험에 빠질 수 있다. 가장 인간적인 행동은 가장 예상할 수 없는 행동이다. 시스템화는 대부분의 경우 효과가 있기 때문에 대충하면 시스템을 통제할 수 있다고 믿기 쉽다. 그렇게 되면 사람들을 스스로 창조한 우주의 주인으로서 혹은 호흡하고 사고하는 존재로서가 아니라, 목적을 달성하기 위하나 수단 또는 정신적인 스프레드시트에서 조작되는 변수로 보게 되기 쉽다. 인간의 삶에는 예측 불가능성, 특별한 정서, 놀랍고 기이한 일들이 존재하기 때문에 삶을 시스템화할 경우 삶의 충만함에 호소력을 갖기는 어려워진다... 규칙은 통제할 수 있는 힘을 주지만, 동시에 더 깊은 연계의 감각을 상실하게 된다. 엄격한 시스템화의 감성이 전적으로 사회 공간을 형성하면, 그 결과가 항상 멋지지는 않다."p. 235 


 

YES마니아 : 플래티넘 o****2 2011.09.09. 신고 공감 2 댓글 4
리뷰 총점 종이책
인터넷 거대 항공모함들이 당신의 생각조차 마비시킨다?
"인터넷 거대 항공모함들이 당신의 생각조차 마비시킨다?" 내용보기
인터넷이 사람의 생각조차도 바꿀 수 있을까? 라는 질문을 해본다. 인터넷의 거대 항공모함 구글,페이스북,애플,마이크로소프트 등이 당신의 정보를 상상을 초월할 정도로 캐내고 당신의 마음속 의사결정까지도 조종할 수 있다 생각해보라. 그것이 가능하다는 사실을 당신 머릿속을 강타한다. 디지털시대의 새로운 권력은 진화를 거듭하면서 목욕타에서의 당신을 비추어주는 거울보다도
"인터넷 거대 항공모함들이 당신의 생각조차 마비시킨다?" 내용보기

인터넷이 사람의 생각조차도 바꿀 수 있을까? 라는 질문을 해본다. 인터넷의 거대 항공모함 구글,페이스북,애플,마이크로소프트 등이 당신의 정보를 상상을 초월할 정도로 캐내고 당신의 마음속 의사결정까지도 조종할 수 있다 생각해보라. 그것이 가능하다는 사실을 당신 머릿속을 강타한다. 디지털시대의 새로운 권력은 진화를 거듭하면서 목욕타에서의 당신을 비추어주는 거울보다도 더 세게 컴퓨터화면은 당신과 우리를 구체적으로 비추어 줄것이다. 정보를 단순히 소비하는 것을 넘어 철저하게 개별화된 시대가 저 앞에 도래 하고 있음을 예의주시하고 있다.


인터넷 서핑을 통해 공짜 서비스를 이용하는 대가는 바로 당신에 대한 정보 제공이라는 사실을 아는가. 구글과 페이스북은 당신을 통해 바로 현금화 할 수 있는 능력을 보유하고 있고, 지금도 끊임없이 현금화 시킨다. 당신이 알고있는 구글은? 페이스북은? 그 단순한 편리함을 넘어 사고자체까지 읽어내는 무서운 도구임을 알아야하는 이유를 생각의 조종자들의 실체를 분석해준다.

컴퓨터의 알고리즘과 새로운 시대의 인터넷 필터는 당신이 무엇을 좋아하고 예측 엔진을 풀 가동하여 당신이 누구인지 무엇을 하려고 하고  할 것인지에 대한 유일한 정보의 바다를 만들어 온라인에서 정보와 아이디어를 맞닥뜨리는 방법 자체를 근본적으로 변화시키는 현상 즉 필터 버블(filter bubble)에 주목한다.

우리가 상상을 하기전에 필터버블은 '외톨이 현상' '오리무중 헤매기' '떠밀리기' 의 세가지 현상을 곧 경험하게 된다.인터넷 거대항공모함들은 필터 버블을 이용해 막대한 돈을 챙길 수 있음과 동시에 우리는 필터 버블을 피하기 힘들다는 사실과 함께 램프로 돌아가니 않는 요정처럼 개별화된 필터는 강력하게 당신의 유혹하는 유인 동력원이 될 것이다.


무엇이 사실이고, 중요하고 ,진실인지에 대해 필터 버블이 우리의 인식을 왜곡하고 있기 때문에 필터 버블의 실체를 드러나게 하는 일의 중차대함을 생각의 조종자들에게서 배우게 된다.


네그로 폰테의 의 논리를 들어 봤는가. " 디지털 수풀을 헤치고 금덩이를 찾아내는 방법을 알아낸 회사가 미래를 지배한다" 는 사실을, 정보가 무한대로 늘어나면서 주의력 붕괴의 시대가 도래함으로써 주의력이 부족한 세상에서 사람들을 잡아두는 가장 좋은 방법은 각자의 특이한 관심이나 욕구를 만족시키는 콘텐를 제공하는 것이라는 사실을,그것을 위해 실리콘 밸리는 '관련성(relevance)' 구호를 내걸고 인터넷 세상의 새로운 전쟁에 돌입해 있다.


당신이 마우스로 클릭하는 모든 것은 인터넷 거대항공모함에 저장되는 날이 머지 않았다는 사실을 또 한 번 더 자각하게 된다.아직까지 데이타에 관한한 먹성이 가장 좋은 검색엔진은 구글이다. 구글은 개별화 알고리즘에 대한 특허를 통해 사람들이 각각 소속된 그룹을 파악해서 그룹의 선호에 맞는 결과를 맞춤식으로 찾아내는 프로그램을 진화시키고 있다. 궁극적인 검색엔진을 만들기위해 현재 5%밖에 하지 못한 일을 더 앞선 경쟁력을 위해 시작일 뿐이라고 구글회장인 래리 페이지와 에릭 슈미트는 강조한다.


구글과 페이스북의 코 꿰기 전쟁은 정보간의 관계와 사람간의 관계에서 출발했지만  광고시장은 인간의 심리의 변곡점을 넘어서지 않도록, '고착화의 문제' 이자 고정관념의 문제에 집중화 시킨다. 사용자가 어떤 기술에 너무 깊이 시간과 정열을 투자하면 다른 회사가 아무리 더 나은 서비스를 제공하더라도 옮겨가지 않는 인간의 심리를 철저히 이용한다. 쉽게 말해 우리 대부분은 다음 아니면 네이버를 검색한다. 타 사이트를 방문하기가 여간 꺼리지 않을 수 밖에 없는 이유를 찾을 수 있을 것이다.

스마트 폰이든 검색엔진에 수 만가지 신문기사들은 우리를 의사결정자로 징집하려 든다. 그러나 리프먼이 지적했듯이 평균적 시민들이 아무리 고결하더라도, 또한 무엇을 알고 무엇을 믿든간에 신문이 전적으로 사적이고 검증되지 않는 기준에 의해 결정 내리는 한, 민주적 정부의 본질은 훼소 될 수 밖에 없고 안전하다고 말 할 수 없다. 보수니 진보니 중도니, 좌파니 우파니 떠들어대며 민주적 절차를 교모히 이요하는 표퓰리즘이나 감성에 호소하는 기사거리들이 가십으로 흐르는 현실의 매체의 역할을 통해서도 확인되는 바이다.

과거의 신문사들이 아버지 노릇을 했다면, 지금의 신생 미디어 기업들은 같이 놀아주고 안아달라고 떼쓰는 아이들 같다. 중요하지만 별로 인기가 없는 뉴스에 대해 네그로폰테의 대답은 곱씹을 할 만하다. 스펙트럼의 한 끝에는 당신은 너무 훌륭하고 대단하다. 나는 정확하게 당신이 듣고 싶어하는 것을 전해준다.는 아첨꾼 개별화가 있다. 다른 한 끝에는 당신이 듣고 싶든 말든 간에 이것을 알아야 하니까 당신에게 얘기해준다 는 권위적 접근이 있다. 지금 우리는 아첨꾼 쪽으로 가고 있는지 당신의 생각을 강타한다.

사람들은 대부분 시간에 반복해서 같은 일을 한다. 이런 반복의 고리를 끊는 것은 쉽지 않다. 습관을 깨뜨리기 힘들다. 그러나 당신이 평소와 다른 출근길로 출근해보면 새로운 것들을 발견하듯, 온라인에서도 새로운 길을 찾도록 노력하면 새로운 아이디어와 사람들을 만날 가능성이 극적으로 커진다.

개인에서 커다란 집단에 이르기까지 지식과 정보의 비대칭은 곧 권력의 비대칭이라고 <<인터넷의 미래>>에서 조너선 지트레인이 주장했듯이 클릭하는 당신과 공유하는 당신 사이에 당신의 새로운 자아를 찾아내야 한다. 쾌슬러의 주장대로 발견이란 언제나 그곳에 있었지만 습관이라는 눈가리개 때문에 보이지 않고 숨어 있던 무엇을 들춰내는 간단한 일이라고 했듯이 창조는 이미 존재하는 사실,아이디어,능력, 기술을 드러내고, 고르고,합치고,종합하는 행위일 뿐이다.

인터넷 거대함공모함들이 얼마나 정치적 역량이 큰지, 개인에서 기업에 이르기 까지 사회전반을 콘크롤하는 생각의 조종자들인지. 당신이 아닌 그 조종자들이 당신으 의사결정을 설계하는 위험한 거대집단이 준비를 넘어 서서히 당신에게로 파고 들고 있다면 섬뜩하지 않은가.

스마트한 세상, 필터버블이 지배하는 세상에서 한 번 쯤 이 거대한 인터넷 집단들의 생각을 읽어내는 일도 내 생각을 지켜내는 훌륭한 도구가 되어 줄것으로 사료 되네요



YES마니아 : 로얄 c*********o 2011.09.04. 신고 공감 2 댓글 0
리뷰 총점 종이책
누군가가 나를 조종하는 불편한 진실...
"누군가가 나를 조종하는 불편한 진실..." 내용보기
전도 유망한 정치인이 신비한 매력의 무용수와 우연히 만나 사랑에 빠지게 되지만 둘의 사랑이 깊어질수록 그의 정치 생명은 위태로워지고, 알 수 없는 힘이 둘을 갈라놓으려 한다는 사실을 직감하여 결국 그녀와의 만남은 물론, 그의 정치 생활, 그를 돕는 친구들까지도 모두 일명 ‘조정국’의 ‘미래 설계도’에 의한 것이라는 사실을 알게 된 주인공이 자신의 미래를 바꾸어 버린다는
"누군가가 나를 조종하는 불편한 진실..." 내용보기

전도 유망한 정치인이 신비한 매력의 무용수와 우연히 만나 사랑에 빠지게 되지만 둘의 사랑이 깊어질수록 그의 정치 생명은 위태로워지고, 알 수 없는 힘이 둘을 갈라놓으려 한다는 사실을 직감하여 결국 그녀와의 만남은 물론, 그의 정치 생활, 그를 돕는 친구들까지도 모두 일명 ‘조정국’의 ‘미래 설계도’에 의한 것이라는 사실을 알게 된 주인공이 자신의 미래를 바꾸어 버린다는 내용이 영화 “컨트롤러”입니다. 자신의 삶을 조정하는 설정에 적지않게 놀랐었는데, 2009년 12월 구글이 사용자들의 검색결과를 개인에게 맞춤화하기 시작했다는 발표는 우리시대의 조정국이라는 생각이 들었습니다. 똑같은 단어를 검색하더라도 누가 검색하느냐에 따라 서로 다른 결과가 나오게 되는 것이며 이는 바야흐로 우리가 조종자들의 세상에 들어섰음을 알리는 신호탄이었다고 저자는 선언합니다.

 

 저자는 새로운 세대의 인터넷 필터가 당신이 좋아하는 것을 살펴보며 당신이 실제로 무슨일을 했는지, 당신과 같은 사람이 무엇을 좋아하는지 살펴보고 추론해서 예측 엔진들은 끊임없이 당신이 누구인지, 이제 무엇을 하려고 하고 또 할 것인지에 대한 이론을 만들어내고 다듬는다며 이를 통해 우리 각각에 대한 유일한 정보의 바다를 만든다고 합니다. 이러한 온라인에서 정보와 아이디어를 맞닥뜨리는 방법 자체를 근본적으로 변화시키는 현상을 ‘필터 버블(filter bubble)'이라고 정의합니다.

 

 또한 대부분의 개별화 필터는 3단계 모델을 기초로 “사람들의 속성과 성향 이해→그 사람들에 가장 잘 맞는 콘텐츠와 서비스를 제공 → 콘텐츠와 서비스가 잘 맞도록 조정”하는 단계를 거친다면서 필터링 온라인 서비스들은 바로 우리을 변화시킴으로써 당신과 매체간을 좋은 궁합으로 만들어버린다고 합니다.

 

 하지만 문제는 인터넷 환경이 개별화로 변화하고 있다는 사실이 사용자들에게 보이지 않고, 그 결과를 통제할 수 없다는 점에 있다고 꼬집으면서 인터넷에서 점점 더 다른 이미지를 보게 된다는 것을 우리는 인식조차 하지 못하고 있다는데 우려의 목소리를 내고 있습니다. 인터넷은 우리가 누구인지 알지만, 인터넷이 우리를 어떻게 생각하는지 우리의 정보를 어떻게 사용하는지 우리는 알지 못한다면서 우리에게 더 많은 통제권을 주도록 고안된 기술이 오히려 우리 생활의 통제권을 점점 더 앗아가고 있는 현실을 폭로합니다.

 

 뿐만 아니라 필터 버블은 지도에 대한 우리의 생각을 바꿔버려 사실상 지도상의 빈 칸을 지워버림으로써 ‘아직 모름’이라고 알려진 곳을 ‘아예 모르는 곳’으로 바꿔버리는 개별화 필터 때문에 우리가 제대로 세상을 보지 못하는 폐해를 고발합니다.

 

 “배움이란 말 그대로 당신이 모르는 것, 생각하지 못했던 것, 상상하지 못했던 것, 이해하지 못했던 것, 가능하다고 받아들이지 못했던 것과의 맞닥뜨림이다. 즉, 배움은 다른 것과의 맞닥뜨림이다. … 구글이 인터넷 사용자와 검색 결과 사이에 끼워 넣는 필터링은 검색자의 이런 급진적인 맞닥뜨림을 막는다.(p. 121)“라고 말한 시바 바이디아나탄 교수의 언급이 아니더라도 이쯤되니 내가 보는 것만이 진실이 아니라는 생각이 들었습니다.

 

 끝으로 저자는 이러한 필터버블을 타파하기 위해 개인, 기업, 정부 각자의 역할이 중요하다고 했는데, 특히 개인으로서는 건강한 정보 다이어트를 위해서는 먹을 것을 제공하는 기업의 노력도 필요하지만, 소비자들이 다른 것을 달라고 외치지 않은 한 기업들이 행동을 바꿀리 없기 때문에 우리 스스로 습관을 바꾸지 않으면 안 된다며 행동 반경을 넓힐 것을 요구하고 있습니다. 특히 알아야 당하지 않는다며 알고리즘 문맹에서 벗어나라고 조언한 것은 주목할만 합니다.

 

 오래전 발표된 것이긴 하지만 저자가 인용을 한 닉슨 행정부의 공정한 정보 사용 규칙이 꼭 필요해 보였습니다.

누구나 자신의 개인 정보를 누가 가졌는지, 어떤 데이터를 가졌는지, 어떻게 사용되는지 알아야 한다.

누구나 어떤 목적을 위해 수집된 자신의 정보가 다른 목적으로 사용되는 것을 막을 수 있어야 한다.

누구나 자신에 대한 부정확한 정보를 수정할 수 있어야 한다.

모든 데이터는 안전해야 한다. (p. 327)

 

y********a 2012.06.04. 신고 공감 1 댓글 0
리뷰 총점 종이책
생각 조종자들
"생각 조종자들" 내용보기
최근에 < 큐레이션 >(명진출판사, 2011)이라는 책이 인기를 끌었다. 박물관의 큐레이터처럼 정보를 잘 걸러서 제공해주는 서비스로 생각할 수 있다. 포털사이트의 너무 편집된 정보보다 전문적인 큐레이션으로 정보 홍수에서 알짜 정보만 얻을 수 있다. 정보량이 증가할 수록 이런 기술과 서비스 범위는 더 늘어날 것으로 보인다. 현재도 인터넷 쇼핑몰의 추천 상품에서 유사 기능을 체
"생각 조종자들" 내용보기

최근에 < 큐레이션 >(명진출판사, 2011)이라는 책이 인기를 끌었다. 박물관의 큐레이터처럼 정보를 잘 걸러서 제공해주는 서비스로 생각할 수 있다. 포털사이트의 너무 편집된 정보보다 전문적인 큐레이션으로 정보 홍수에서 알짜 정보만 얻을 수 있다. 정보량이 증가할 수록 이런 기술과 서비스 범위는 더 늘어날 것으로 보인다. 현재도 인터넷 쇼핑몰의 추천 상품에서 유사 기능을 체험할 수 있어 보편화 될 것임을 알 수 있다. 그런데 < 생각 조종자들 >(알키, 2011)에서는 이에 대한 흥미로운 의견을 제시한다. 다양성에 반응하지 못하고 필터링된, 바운더리 안에 갇혀버린다는 뒷면을 조명하기 때문이다. 처음 도서 제목을 보고는 프레임을 만들어 그곳에 갇히도록 조작하는 것이라 생각했는데, 이와는 조금 다르다. 특정 영역에 관심을 갖고 해당 부분의 정보를 검색했다면, 추천으로 항상 그 부분만 제공하는 것이다. 그래서 다른 부분은 볼 수 없게 되어 사고가 좁아진다.
[체스 프로그래머들은 이 문제의 중요성을 절감했다. 초기 체스 프로그램은 가능한 모든 수를 다 계산하도록 만들어졌다. 그 결과 그 수가 폭발적으로 증가했고 결국 초고성능 컴퓨터로도 단지 한두 수 정도만 계산할 수밖에 없었다. 프로그램을 수정해서 필요 없는 수를 제외하도록 하고 난 다음에야 컴퓨터는 사람을 이길 수 있었다. 해답 범위를 좁히는 것이 핵심이었다.]
길이 많다는 것, 정보가 많다는 것은 계산, 사고해야할 것이 많다는 것이다. 그래서 차라리 선택의 폭을 줄여버리면 빠르고 효율적으로 바뀐다. 음식점에 가서도 메뉴가 많으면 고민을 하게 되는데, 단일 메뉴라면 고민 없이 주문할 수 있어 선택을 싫어하는 사람들은 매우 좋아한다. 문제는 한 끼를 때우는 것으로 끝나지 않아 발생한다. 항상 같은 것만 먹으면 영양을 골고루 섭취할 수 없듯이, 비슷한 정보로 같은 생각만 하면 발전하지 못하게 된다. 친척끼리 결혼하면 외부 사람들과의 결합보다 비교적으로 자손들이 모든면이 떨어진다는 통계가 있다. 이와 유사하게 좁아진 시야는 창의적 사고로 이어지지 못하게 한다.
[필터 버블에 의한 개별화는 세 가지 점에서 창의성과 혁신을 가로막는다. 첫째, 필터 버블은 문제에 대한 해답을 찾는 정신적 공간을 인위적으로 제한한다. 둘째, 필터 버블 내부의 정보 환경은 창의성에 도움이 되는 특성이 거의 없다.] 125p
필터 버블은 저자가 만들어낸 말로 온라인에서 정보와 아이디어를 맞닥뜨리는 방법 자체를 근본적으로 변화시키는 것을 지칭한다. 실시간검색어도 필터 버블로 볼 수 있다. 편집된 정보, 인공적으로 알고리즘에 의해 제공되는 정보도 필터 버블이다. 사람은 자신의 의지로 정보를 획득하도록 해야한다. 처음에는 교육을 통해 가르쳐야 하겠지만 그 후에는 취사 선택의 권리를 통해 올바르고 본인이 원하는 정보를 얻어야한다. 과거에도 왜곡된 역사를 전파한 외세도 문화를 없애려 했고, 창의성을 파괴하려 했다. 이젠 포털사이트와 검색엔진의 추천 알고리즘이 필터 버블 현상을 만들어내고 있다. 도서에서는 검색엔진이 없어지고 인공지능으로, 원할 것 같은 정보를 자동으로 제공하는 시대가 올 수 있다고 말한다. 어떤 관점에서 보면 굉장한 혁신으로 보이지만, TV를 보듯이 사람들은 수동적인 정보에 묻혀 바보가 될 것이다.
[그러나 이러한 사고방식을 인간의 행동에 적용하는 것은 위험하다. 인간에게 가장 좋은 시점은 종종 가장 예측할 수 없는 시점이다. 예측할 수 있는 삶은 대부분 살 만한 가치가 없다.] 181p
프로그래밍된 자동 경기는 사람들이 재미없어 한다. 프로그래밍에 의해 패턴이 드러나며 예측 가능하기 때문이다. 그래서 사람의 조정에 의해 시합하는 게임을 선호한다. 스포츠 경기도 통계에 의해 우세한 선수와 팀이 있지만 항상 그 팀이 이기지 않는다. 인간이라는 존재가 숫자처럼 항상 예측한 대로 되지 않아 변수가 발생하기 때문이다. 인생이 정해진 경로대로만 가면 쉬울 수 있지만, 허망함을 느끼게 되어 삶의 의미를 잃게 되고 노력을 하지 않게 될 것이다. 사람이 희망을 가질 수 있는 이유는 더 발전할 수 있으리라는 가능성과 변수가 존재하기 때문이다. 그런데 과거 신분제도처럼 상위로 진출하는게 불가능하다면 꿈이 없이 하루하루를 근근히 살아가게 된다. 현시대도 보이지 않는 계급으로 경제적으로나 권력면으로 변화하기가 점점 어려워지고 있어 청년들이 희망을 갖지 못하고 있다. 사회적 필터 버블도 심각하다고까지 생각이 이어지자 < 생각하지 않는 사람들 >(청림출판, 2011)이란 책도 떠오르며 다시 한번 생각의 중요성을 느꼈다.
요즘 스팸성 글 중에 글쓴이는 광고 키워드가 들어가고 내용은 본문 글에서 조합하거나 맨 끝 줄을 반복해서 댓글로 달리는 기술로 쓰여진 게 있다. 처음 발견했을 때 탄성이 나왔다. 일반 댓글로 위장하여 스팸을 남기는 천재적인 생각을 한 사람은 누굴까? 또한 자연스럽게 문장을 만드는 알고리즘을 구현한 프로그래머도 대단하다고 생각한 것이다. SNS 알바들이 트위터, 페이스북에서 활동하고, 댓글 알바들이 정보를 왜곡시키듯 이젠 필터 버블로 인한 혼란이 찾아올 것이다. 이에 대비하기 위해 누군가가, 또는 알고리즘이 만들어 놓은 함정에 빠지지 않도록 항상 깨어있는 상태로 생활해야 한다. 집중력을 강화시키는 약은 민감도를 감쇄시키는 작용을 한다. 다른 자극에 둔감하게 하여 특정 작업만 하도록 유도하는 것이다. 변화에 반응하지 못하면 죽어있는 것이다. 생각 조종자들에 의해 죽은 상태가 되는 끔찍한 일이 일어나지 않았으면 한다.


www.weceo.org

 

l******6 2012.12.25. 신고 공감 1 댓글 0