수학자, 금융공학자, 데이터 과학자라는 무시무시한 타이틀을 가진 캐시 오닐이 자본주의 부역자(?) 신세로 전락하고 있는 데이터 과학의 이면을 고발한 책. (데이터 과학자의 본격 데이터 과학 디스) '월가점거 운동의 하위 조직인 대안금융그룹을 이끌고 있다'는 저자 소개가 심상치 않다. 좌파의 냄새가 솔솔(..)

좋은 면이 있으면 안 좋은 면도 존재하는 게 세상 만사의 이치. 수십억 인구를 절대 빈곤에서 해방시킨 자본주의가 우수한 사회 체제임은 분명하다. 하지만 역시나 단점은 존재한다. 유발 하라리는 '사피엔스'에서 자본주의의 단점을 이렇게 얘기했다.

"노예무역이 아프리카인을 향한 증오의 결과가 아니었던 것처럼, 현대의 동물산업도 악의를 기반으로 출발한 것이 아니었다. 이번에도 그 연료는 무관심이다." (486 페이지)

이 책의 저자 캐시 오닐은 '대량살상 수학무기(Weapons of Math Destruction)'라는 용어까지 만들어 가며 자본주의의 단점을 다시 한번 지적한다.

"대리 데이터가 진실인 것처럼 행세하는 위험한 상황이 발생하는 이유는 대부분의 데이터과학자가 거래 대상이 되는 사람들을 생각하지 않기 때문" (32 페이지)

여기 젖소의 정신건강을 연구하려는 과학자가 있다. '젖소의 행복 추구'와 '우유 생산 증가' 중 어떤 설명이 연구비를 타내기 쉬울까?

"소의 향정신성 약물에 대한 전 세계 시장의 수요는 매년 2억 5천만 달러에 이른다." - 사피엔스 (388 페이지)

데이터 과학이 흥하는 이유는 인류 행복 증진에 도움이 돼서가 아니라, 돈이 되기 때문이다. 결국 자본주의의 선택을 받은 데이터 과학이 (자본주의의 속성인) 효율에 매달리면서 자본주의의 비인간화가 더 가속화되고 있다는 것이 저자의 주장.

"데이터 경제에서 인간은 외부자이고 구닥다리이다. 반면 시스템은 자동으로 작동하도록 만들어진다. 그것이 바로 효율성이고, 그래서 수익 창출원이 된 것" (256 페이지)

불공정한 시스템

그리고 근거로 제시하는, 인과 또는 상관관계를 확신하기 어려운 대리 데이터에 의존해서 학업 성취도나 신용도는 물론, 심지어 재판 결과에까지 영향을 주는 다양한 평가 시스템들.

"우편번호 등 직무 능력과 직접적 상관관계가 없는 대체 혹은 대리 데이터를 근거로 직무수행능력의 통계적 연관성을 도출" (39 페이지)

"'우리가 누구인가'가 아니라 '우리가 무슨 행동을 하는가'에 따라 법의 심판을 받아야 한다." (53 페이지)

"외국 학생들을 거부한 입학사정 시스템 같은 모형들은 사람들을 배척한다. 그런 모형에 포함된 '과학'이 검증되지 않은 '가정'에 불과한데도" (207 페이지)

데이터 과학은 4차 산업혁명의 핵심 동력으로까지 부상해 인기몰이 중이며, 데이터로 세상을 먹어치운다는 구글, 아마존 등이 제법 근사하게 동작하고 있음에도, 저자의 지적은 그리 억지스러워 보이지 않는다. '최소 비용, 최대 이익'도 좋지만 그 과정에서 인간을 소외시키지 말자는, 이제는 흔해진 자본주의 담론이기 때문. 데이터 과학이 저자의 바람처럼 공정성과 도덕성의 균형을 회복하려면 어떻게 해야 할까? 저자가 강조한 건 피드백.

"통계 시스템에서 (데이터)양만큼 필수적인 것이 있다. 바로 피드백이다. 피드백은 시스템이 정상 항로에서 벗어날 경우, 이를 알려주는 장치" (22 페이지)

"실수는 학습의 기회가 된다. 단, 시스템이 실수에 대한 피드백을 받아들일 때만 그렇다." (258 페이지)

저자는 시스템이 실수를 정정할 수 있는 피드백이 존재하지 않거나, 악화가 양화를 몰아내는 부정적 피드백에 의해 '예측이 예측 내용을 스스로 실현하는 자기충족적 예측'이 강화되고 있다고 얘기한다.

"부정적인 피드백 루프가 활성화되기 시작... 대학 순위가 자기 강화적 특징을 갖는다" (97 페이지)

"경범죄가 경찰의 범죄 예측 모형에서 점점 더 많은 점을 차지하고, 이는 다시 경찰이 그 지역을 순찰하게 만든다. 이는 바로 유해한 피드백 루프가 활성화되는 전형적인 과정" (152 페이지)

한마디로 버핏이 사면 이유가 있을 거라는, 오를 거라는 생각으로 투자자들이 버핏이 산 주식을 따라 사기 시작하면 주가가 왜곡되는 식으로 시스템이 왜곡된다는 것.

"영향력 있는 디자이너들이 갈색이 내년을 지배할 유행 색이라고 판단해 갈색 옷을 제작하기 시작... 대중은 이 추세를 따라갈 것이다. 대중은 갈색 옷의 마케팅에 반응할 뿐, 자신의 선호에 대해 표현하지는 않는다." - 신호와 소음 (326 페이지)

사람이 먼저

해결책은 단순하다. 사람이 먼저라는 것.

"미래를 창조하려면 도덕적 상상력이 필요하다. 그런 능력은 오직 인간만이 가지고 있다. 우리는 더 나은 가치를 알고리즘에 포함시키고, 윤리적 지표를 따르는 빅데이터 모형을 창조해야 한다. 그렇게 하려면 가끔은 이익보다 공정성을 우선시해야 한다." (337 페이지)

이상하게 컴퓨터 분야에서는 (컴퓨터를 만든) 사람이 자주 소외당하는 것 같다. 너무 잘 동작하는 컴퓨터를 만들어버린 건가? 정보보안 분야에서 밥벌이를 하는 입장에서도 별로 낯설지 않은 주장.

"정보보호 기술은 관리자의 판단을 도와주는 제한적 전문가 시스템(Expert System)만을 제공... 정보보호는 제품이 아닌 전문가와 잘 구성된 절차에 의해 수행된다" - 네트워크 보안 실무 (20 페이지)

그저 저자의 주장이 미국에서 흥하기를 바라지만, 과연 자본주의가 가끔이라도 이익과 효율을 희생하려고 할까? 우리는 과연 그런 상황을 허용할 수 있을까? 나만 봐도 어떻게 하면 더 효율적으로 일 하고, 더 효율적으로 돈 벌까만 궁리 중인데(..)

데이터 과학이 부상하기 전에도 자본과 결합한 과학 덕에 탄생한 (총이나 내연기관 등) 수많은 문명의 이기들이 인류 진보를 도왔다. 하지만 당연하게도 모두가 그 혜택을 누리지는 못한다.

누군가는 총에 맞아 죽고, 누군가는 자동차에 의해 목숨을 잃는다. 나름 잘 동작하는 것처럼 보이는 알고리즘에 의해 누군가는 억울한 피해자가 된다. 그리고 우리 모두는 언제라도 그 운 나쁜 누군가가 될 수 있다. 운 나쁜 누군가가 되기 싫다면 문명을 거부하고 원시시대로 돌아가야 하는데, 할 수 있을까?

못할 것 같다. 나는 그 운 나쁜 누군가에 포함되지 않을 거라 생각하며 사는 게 최선일 듯. 아니면 긍정적인 피드백을 주고 받으며 조금씩이라도 나아지는 세상을 만들어 가거나.

추석 연휴의 마지막

2일동안 나름 열심히 읽었다.

'퀀트'라는 단어때문에 구입한 책이었는데, 책이 사회학일반의 분류 안에 있다는 것을

못 봤고, 시간을 안타깝게 허비했다.

책을 통해 얻은 나름의 소득?

1. 수학자이며 퀀트였고 데이터 과학자인 저자가 강조하는 것을 볼때

내가 생각한 것 이상으로 삶의 절대적으로 많은 부분이 수학적 모델로 표현이 가능하다

2. 인간을 둘러싼 데이터가 디지털로 쉽게 변환이 가능한 여러 환경속에서

분류를 당하는지도 모르게 분류를 당한다

3. 가장 최악은 어떤 기준인지도 모른다는 것이고, 그것에 대한 투쟁은 혼자의 힘으론 어렵다

4. 사회적인 논의가 필요하다

이 정도의 말을 듣기 위해 난 359페이지를 읽었는데, 제한된 에피소드와 반복적인 주장은 이 책을 지루하게 만들었다.

그나마, 내용 전개나 문장의 구성 자체는 나쁘지 않았기에 다 읽을수 있었던 것 같다.

순수한 마음으로 글쓴이의 입장에서 본다면, 그렇게 반복해서 말할만큼 인간에 대한 디지털적 분류가 심한가보다. 암튼 이런 책이다. 위의 1~4번 이외의 다른 것을 기대한 사람이라면 이 책은 읽을 필요가 없다.

1~4가 궁금하다면 읽어보는것도......뭐......

대학교수에서, 해지펀드의 퀀트(quant)로, 그러다 2008년 대침체 이후 금융에 수학이 저지르는 만행(?)에 대한 환멸을 갖게 된 후 월가점령그룹의 하위조직을 이끌게 된 수학자이자 데이터과학자, 캐시 오닐. 그녀는 수학이 학살의 무기로 이용되는 것을 대량학살무기(Weapons of Mass Destruction)에 빗대어 대량학살수학무기(Weapons of Math Destruction)이라는 용어를 만들고, 책에서는 WMD라고 지칭하고 있다(이 두 용어는 발음도 거의 비슷하다. 미국인들이 구분할 지 모르지만 한국인들은 거의 구분 정도로.

그럼 이 책이 무슨 얘기를 전하고자 하는 지 예상할 수 있다. 이른바 빅데이터에 기반한 수학적 모델이 후기자본주의 사회를 농단하는 상황에 대한 고발이다. 교사의 능력에 대해 대리 데이터를 이용해서 평가하고, 약탈적 금융자본에 논리와 약탈의 방법을 가르쳐주고, 대학을 평가라는 미명하에 줄 세우고, 알고리즘을 이용해 약탈적 광고를 통해 약자들을 노리고, 사람에 대한 평가가 아니라 그 사람이 속한 집단을 자의적으로 판단해서 예비 범죄자, 예비 신용불량자, 직장 부적격자로 판단하고, 직원들을 회사의 진정한 부속품으로 만들고… WMD는 이런 일들을 한다는 것이다.

사실 요즘 대학의 수학과가 각광을 받는다. 신입생 학력을 비교해 보았을 때 의대 다음이라는 얘기도 들리고, 국내의 연구비도 수학 관련 분야에 점점 많이 편성되고 있다. 바로 빅데이터 때문이다. 그게 바로 WMD에 기여할 수 있기 때문이라는 것은 그 이유의 부분집합이 된다. 수학자가 만들어내는 모형을 통해, 그리고 수집되는 데이터를 취사선택하는 과정을 통해, 아니면 취사선택해야만 하는데도 불구하고 무차별적으로 적용하는 바람에 수많은 사람들이 피해를 입는다. 더 큰 문제는 피해를 입은 사람이 자신이 무엇 때문에 그런 피해를 입었는지, 나아가 정작 피해를 입었는지도 알 수 없다는 것이다. WMD의 은밀한 속성이 그런 것이다.

“대다수 WMD는 모형에 현실을 반영해 수정하기보다는 원하는 현실을 창조한다. 관리자드은 모형이 계산한 점수가 이익을 증대시키기 위해 기꺼이 이용할 수 있을 만큼 충분한 근거를 갖추어서 인간이라면 망설일 결정을 쉽게 내일 수 있도록 도와준다고 생각한다. 비용을 절감하기 위해 직원들을 해고하면서 그 같은 결정에 대한 책임을 객관적인 숫자에 떠넘기는 것이다. 그들에게 숫자가 진실을 담고 있는가는 그다지 중요하지 않다.” (225쪽)

저자가 수학이 모형을 만드는 것, 빅테이터에 기반하여 마케팅을 하거나 정치활동을 하는 것에 대해 전면적으로 반대를 하는 것은 아니다(그녀도 수학자이고, 그것에 기반한 활동을 하고 있다). 수학이 WMD에 기여하는 것을 막아야 한다는 것이다. 플랫폼을 공개하고, 공정성을 위해서 효율성을 조금은 양보하고, 기업과 단체들의 빅데이터에 기반한 활동에 대해 감사를 실시해야 한다고 주장한다. 과연 그런 일이 쉽게 가능해질지 모를 일이지만, 은밀하지만 무차별적 학살이 될 수 있는 무기에 대한 통제가 반드시 필요한 것만은 사실이라 생각한다.

그러나 책을 펼치기 전에 기대는 좀더 정교한 논리를 기대했다. 주장을 떠받히는 정교한 논리가 있어야 선동이 아니라(이 책이 선동이라는 것은 아니다), 깨달음과 행동으로 나아가기에 더 큰 역할을 할 수 있다고 본다. 그러기에는 아직 WMD의 속살에 대한 파헤침이 부족한 것이 아닌가 하는 생각을 하게 된다. 물론 추측이다.

작년 인공지능의 활약으로 그 분야에 대해 많은 관심이 쏟아지면서 동시에 빅데이터에 대한 말들도 참으로 많아졌다.

물론 빅데이터는 전부터 있었지만 작년과 올해 유독 더 많은 관심을 받았던 것 같다.

내가 이 책을 선택하고 읽게된 계기는 나 역시 빅데이터에 대한 관심이 쏟아질때 빅데이터에 대한 부정적 인식이 어느정도 드는 동시에 위험성에 대해서도 진지하게 고민해본적이 종종 있었기 때문에 전문가의 경고가 더욱 흥미롭고 꼭 한 번 읽어봐야할 책으로 다가왔다.

생각보다 그렇게 자세하지는 않지만 그래도 어느정도는 내용이 볼만하며 예상이 가더라도 끝까지 읽어본다면 빅데이터에 대해 어느정도 지식이 쌓임과 동시에 다시 한 번 생각해보는 계기를 가져볼 수가 있을 것이다.

가장 기억에 남았던 것은 미국 정치권에서 빅데이터 활용법에 대한 것이고, 빅데이터가 민주주의를 위협할 수도 있다는게 가장 흥미로웠다.

IT 강국인 우리나라에서 인공지능과 더불어 빅데이터 역시 많은 관심을 가지고 강조를 하기에 앞으로 우리나라에서는 어떻게 쓰이고 어떻게 작용할지 참으로 기대가 된다.

 ‘WMD(Weapons of Math Destruction, 대량살상 수학무기)들이 득세하게 된다. 일터에서 우리를 기계 부품처럼 취급하고, 가난한 사람들에게서 취업 기회를 빼앗아가고, 건강에 이상이 있는 직원들을 배척하며, 온갖 불평등한 만행을 저지르는 치명적인 수학모형이 모든 것을 지배하게 될지도 모른다. WMD들을 규제하고 길들이며 무장해제시키기 위해 우리 모두는 힘을 합쳐야 한다. (359p)’

 ＜대량살상 수학무기＞의 저자 캐시 오닐이 던지는 절실한 메시지이다. 저자는 하버드 대학 수학 박사 출신으로 헤지 펀드의 퀀트와 실리콘벨리의 데이터 과학자로 일하다 지금은 빅데이터 경제가 초래할 비극을 막기 위해 분투하는 시민운동가로 활동하고 있다. 핵심을 꿰뚫는 통찰과 가공할 만한 필력으로 무장한 이 책은 그녀 삶의 이력이 이룬 결실이다.

 WMD 는 빅데이터 기술의 산물이다. ‘빅데이터 기술의 궁극적인 목표는 우리 인간의 눈에는 보이지 않는 패턴을 찾는 것이다.(355p)’ 그리고 이 기술은 사람과 사물을 특정 범주로 일반화 해 효율적으로 조종-지배하는 WMD로 오-남용될 수 있다.

 수학 모형은 ‘본질적으로 과거와 기존 패턴들이 반복될 것이라는 가정에 기반을 두고(73p)’ 만들어진다. 그리고 WMD는 세상과 사람들을 과거의 패턴에 틀 지어 억압하는 ‘나쁜’ 수학 모형이다. WMD에 기초한 사회 시스템에서 한번 빈곤층으로 낙인 찍힌 사람은 평생 빈곤에 허덕인다. 마찬가지로 WMD가 한번 잠재 범죄자로 지목한 사람은 늘 사회에서 감시와 제재 대상이 된다. WMD는 유죄 판결을 받은 범죄자의 헌법 상의 권리인 항소권을 이해하지 못한다. WMD에게 한 번 범죄자로 분류-처리한 사람에게 항소권을 주는 것은 ‘비효율적’이다. WMD는 헌법의 공정성’이라는 사회적 가치를 받아들이지 못한다. ‘오직 인간만이 시스템에 공정성을 주입할 수 있다.(259p)’

 사람들에게 도움을 주는 ‘착한’ 수학 모형들도 있다. 골다공증이나 뇌졸중 위험을 측정하는 모형, 미적분에 취약한 학생들을 도와주는 모형, 삶을 바꿔놓을 대실패를 경험할 가능성이 큰 사람들을 예측하는 모형 등. 관건은 빅데이터 기술을 사용하는 인간의 마음이다. 

흔히 말하는 "빅데이터"의 대단한 점이라던가 만능 해결사와도 같이 추앙받는 부분을 볼 때마다 어렴풋이 느껴지던 불안이라거나 그 안에 숨겨질 수도 있는 오류, 그리고 거기에 휩쓸리고 마는 "개인"으로서의 우리의 정보들에 대해 걱정을 갖고 있었다. 그러던 찰나에 이런 책을 접하게 되니 가려운 곳을 긁어주는 것처럼 시원하고 한편으로는 걱정이 더 심화되기도 한다. 사실 상당히 강렬한 제목에 비해서 조금은 추상적인 내용이기도 하고 약간은 임팩트가 없는 부분도 있겠지만 개인의 데이터, 자아 등이 보호받지 못하는 사회는 결코 건강할 수 없다고 생각하며, 이에 대한 문제제기는 꾸준히 있어야 한다고 생각하기에, 꾸준히 고민해 보면서 단지 데이터 추세만을 가지고 모든 걸 판단해서는 안 되며 개인의 권리에 대해서도 방법을 찾아봐야 한다고 느꼈다. 

개인적으로 2017년의 단어로 '해로운 문돌이'를 꼽고 싶다. 우리 사회를 관통하는 핵심을 잘 짚어낸 표현이 아닐까 한다. 형식 논리에의 집착, 다양한 스펙트럼을 포괄하지 못하는 인위적인 진영논리, 무엇보다도 현실생활에 구체적으로 어떤 영향을 얼마만큼 미칠지에 대한 고민이 쏙 빠진 탁상행정 논의를 꼬집는 말일테다. 그렇다면 우리의 미래는 문돌이의 반대인 공돌이의 손에 맡겨야할 것인가?

이 책은 공돌이래봤자 별 뾰족한 수가 없으며 오히려 무식한 공돌이는 문돌이보다 더 해롭다는 것을 여지없이 보여준다. 계량화하고 숫자로 표현하면 뭘하나? 최첨단 컴퓨터가 복잡한 계산을 한다한들, 결국 수식을 만들고 데이타를 입력하는 건 인간이다. 그 과정에서 인간의 선입견과 오류가 없다고 단정할 수 없을 뿐더러 오히려 오류가 없이 완벽하다는 그릇한 확신이 더해져서 더 해를 끼칠 수도 있다는게 저자의 주장이다. 이걸 대량살상무기에 빗대어 Weapons of Math Destruction(WMD) 라고 이름지었다.

우리는 인공지능, 머신러닝, 알고리즘 만능 시대에 살고 있는것 같다. 알파고 이후 너무 짧은 시간에 인공지능능이라는 단어를 사용하지 않으면 무언가  시대에 뒤덜어지는 느낌 마져 주는 세[상이 되었다. 

하지만 검증할수 없는 알고리즘의 결과물 만을 놓고 그것에 대한 합리적인 의심없이 맹목적으로 추종하는 것이 얼마나 위험한지 알아야한다. 눈에 보이는 것만 믿ㅈ지는 말아야한다.