새로운 기술의 정면에 던지는
날카로운 질문과 생존을 위한 전략

사람들은 넷플릭스가 취향별로 추천하는 영화를 자연스레 선택하고, 핸드폰에서 검색한 키워드는 원하든 원치 않든 웹사이트의 배너 광고로 마주하게 된다. 이런 기술의 뒷면을 보면 언제나 알고리즘이 숨어 있다. 기계 시대를 움직이는 보이지 않는 부품인 알고리즘은 오늘날 소셜 미디어부터 검색엔진, 의료, 법원, 마케팅 등의 분야에서 막대한 영향력을 미치고 있다.

런던대학교에서 도시 수학을 가르치는 해나 프라이는 『안녕, 인간』에서 다양한 알고리즘과 인공지능이 사회를 어떻게 통제하는지와 인간으로서 살아남는 방법을 이야기한다. 저자는 오만하고 독재적인 알고리즘은 깨부수고, 기계를 객관적인 만능 해결사로 우러러보지 않는 미래를 만들어야 한다고 말한다. 그러기 위해 “기계의 오류와 결함은 물론, 인간의 결점과 약점까지 이해”해야 한다며, 우리가 알고리즘을 어떻게 잘못 이해하고 있는지와 어떤 관점에서 미래를 바라볼 것인지에 대해 다양한 사례를 통해 접근해간다.

‘공짜 옵션’에 장님인 사람들 덕분에,
이 시대 최고의 황금이 된 ‘개인 데이터’

이 책에서 저자는 알고리즘으로 인해 개인 데이터의 유출이 얼마나 심각한 문제인지 역설한다. 우리가 SNS에 올린 글과 ‘좋아요’를 누른 게시물, 은밀한 검색 기록뿐만 아니라 정치 성향, 복용하는 약, 임신 중절 여부까지도 무심코 ‘동의’하는 순간 모두 데이터 브로커에 팔린다. 데이터 브로커는 이 데이터를 이용해 우리의 호불호에 따라 최대한 관심사와 맞는 광고를 띄운다. 여기까지는 그럭저럭 괜찮다고 생각하는가? 그러나 이러한 데이터는 인간을 조종하는 데까지 널리 쓰인다. 대선 동안 조작된 가짜 뉴스를 퍼뜨려 유권자를 조종하고, 중국 정부는 각종 은밀하고도 사적인 데이터들을 점수로 집약한 즈마신용점수를 통해 개인의 신용도를 평가한다. 저자는 데이터가 이 시대의 새로운 황금이라면, 우리는 현재 거친 미국 서부 개척 시대를 사는 셈이라며 무료 알고리즘에 의문을 품을 것을 경고한다.

개인의 이익과 공공의 이익이 충돌할 때
어떤 선택을 할 것인가

알고리즘이 적용되는 대부분의 산업에서는 개인의 이익과 공공의 이익이 충돌하는 팽팽한 갈등 상황이 자주 발생한다. 결론 내리기 쉽지 않은 이 논쟁이야말로 알고리즘이 믿을 만한지 파악하는 데 그치지 않고 인간의 한계와 가치를 결정할 것이다.

저자는 의료 파트에서 개인정보 보호와 공익 사이의 갈등을 다룬다. 개인뿐만 아니라 인류 전체의 건강 증진을 위해서는 수많은 사람의 데이터가 필요하다. 예컨대 암을 치료하는 데 쓰이는 의료 기계를 만들 때 개인과 인류 중 누구를 위해 작동해야 할지 ‘선택’해야 하는 상황이 오게 마련이다.

“인류 전체의 이익을 위해 작동하는 기계는 누가 장기이식을 받아야 할지 결정할 때 핵심 목표에 맞추어 ‘되도록 많은 생명을 살리는’ 데 우선순위를 둘 것이다. 당연히 치료법도 오로지 환자 개개인의 이익만을 염두에 두는 기계와는 다르게 제시할 것이다. NHS나 보험사의 목적에 맞추어 작동하는 기계는 되도록 비용을 적게 들이려고 할 테고, 제약회사에 도움이 되도록 설계한 기계는 특정 약품을 다른 약품보다 많이 쓰도록 촉진하는 데 초점을 맞출 것이다.” 따라서 당신의 선택이 누군가의 이익을 가져올 것인지 경계해야 한다고 힘주어 이야기한다.

이어서 자율주행 차량을 설계할 때 충돌 시 어느 쪽의 목숨을 우선해야 하는지 선택하기 어려운 딜레마도 다룬다. 저자는 충돌을 피할 수 없는 상황에서 콘크리트 벽을 들이받아 보행자들을 살릴 것인지, 계속 달려 탑승자만은 살릴 것인지와 같은 선택을 피할 수 없는 상황을 가정하며 자율주행에 책임 소재와 윤리적 문제가 자리한다고 지적한다. 이는 “무인자동차에서 무엇이 중요한지 인식하게 하고, 나와 남의 목숨이 지닌 가치를 저울질하는 알고리즘을 우리가 어떻게 느끼는지 시험”하는 중요한 질문이기도 하다.

이처럼 서로의 목표와 동기가 충돌할 때 알고리즘의 위험은 은폐되고 이익은 부풀려진다. 신기술의 중심에는 힘과 기대치, 통제, 책임의 위임과 관련한 난제들이 자리하기 때문이다. 저자는 개인정보가 악용될 위험과 책임 문제 등을 무릅쓰고 알고리즘을 신뢰할 수 있을지 현실을 짚으며 최선의 해법을 제안한다.

기존의 가치를 뒤집는 탁월한 통찰력을 위해

이 책은 알고리즘이 나쁘다고 주장하는 것이 아니다. 다만 알고리즘으로 얻는 이익이 해로움보다 큰지 질문을 던져야 한다고 말한다. 그리하여 “자신의 판단보다 기계를 더 신뢰해야 할 때가 언제인지, 기계에 통제권을 맡기고 싶은 유혹을 떨쳐야 할 때가 언제인지를 알아본다.” 또한 우리가 얻을 이익과 해악을 구분하여 어떤 미래를 만들지 전망과 과제를 냉철하게 파헤친다.

기계와 인간의 완벽한 공생을 통한 미래의 가능성을 제시하는 이 책은 각종 위기와 쏟아지는 정보에 휘둘리지 않고 헤쳐나갈 수 있도록 중요한 이정표가 되어줄 것이다.