그 기묘한 데이터 판매 이야기가 처음 귀에 들어온 것은 2019년 4월 초였다.

“그러고 보니 얼마 전에 리쿠나비에서 좀 희한한 걸 팔겠다고 하더군요.” 데이터를 인사에 활용한다는 주제로 취재차 찾아간 도쿄의 한 상장기업 본사 건물. 한 차례 취재를 마치고 잡담을 나누던 중 인사 담당자가 문득 입을 열었다. “취업 준비생에 관한 데이터인데 채용에 도움이 될 거라고 했습니다. 하지만 저희는 거절했습니다. 설령 합법적이라 해도 세간의 비판을 받을지도 모르니까요.”

합법? 비판? 이 사람이 지금 도대체 무슨 이야기를 하는 거지? 아무렇지도 않게 이야기를 계속하는 담당자의 편안한 표정과는 달리 이야기를 듣는 이쪽의 머릿속에는 의문만 떠올랐다. 굳이 ‘합법적’이라고 못을 박아야 하는 데이터라니 아무래도 수상쩍다. 사기만 해도 ‘세간의 비판을 받을지도 모른다’라고 걱정해야 하는 데이터라는 것도 심상치 않다. 게다가 이것은 일본 유수의 대기업끼리 나눈 거래 협상에서 나온 이야기이다.

리쿠나비는 일본에서도 첫손에 꼽히는 대규모 취업 정보 사이트이다. 매년 80만 명 이상의 취업 준비생이 이용하는 곳으로, 리쿠르트홀딩스 산하의 리쿠르트커리어가 운영하고 있다. 리쿠르트그룹은 일본 기업 중에서도 데이터 활용 사업을 가장 잘하는 곳으로 알려져 있다. 2012년에는 ‘인재 업계의 구글’이라 불리는 미국 기업 인디드도 인수했다. 데이터의 달인인 그들이 수상쩍은 사업에 발을 담갔으리라고는 선뜻 믿기 어려웠다.
--- p.21-22

도쿄의 국립대 4학년에 재학 중인 여학생은 8월 말, 리쿠나비가 보낸 사죄 메일을 열어보고 눈을 의심했다. 거기에 적힌 “당신은 리쿠나비 DMP 플로 서비스 대상에 포함되어 있습니다”라는 문장과 사죄의 말을 보자 갑자기 분노가 치밀었다.

그때껏 그의 취업 활동은 좀처럼 생각대로 진행되지 않았다. 3학년 여름에 리쿠나비를 포함해 몇 군데 취업 정보 사이트에 등록했다. 해외에서 일할 수 있을 것 같은 업체를 중심으로 지원했지만 면접에조차 불리지 못할 때도 있었다. 자신감을 잃고 대학 취업센터에 상담도 받아보았지만, 센터 직원은 “성적도 나쁘지 않고 유학 경험도 있다. 해외 진출을 노리는 기업으로서는 만나고 싶은 인재일 것”이라며 고개를 갸웃할 뿐이었다. 5월에는 취업과 함께 준비하던 국가 공무원 시험에 떨어졌다. 지망 업계를 넓혀 간신히 8월에 정보기술 기업에서 채용하겠다는 연락을 받았지만 ‘애초에 하고 싶었던 일과 달라서’ 입사할지 말지 마음의 결정을 내리지 못했다.

자신의 내정사퇴율이 판매되었다는 사실을 알고 나서 차츰 의심이 깊어지기 시작했다. 리쿠나비에는 ‘국가 공무원이 제1지망’이라는 프로필로 등록했다. 이 정보를 근거로 사퇴율 예측이 높게 산출되어 일반 기업 입사 전형에서 불리하게 작용했을지도 모른다. 그러고 보니 리쿠르트가 실시하는 적성 검사를 사용하는 기업은 아예 면접까지 가지도 못했다.
--- p.41-42

실험 목적은 ‘에코 체임버(echo chamber, 공명실) 현상’을 확인하는 것이었다. 애초에 에코 체임버 현상이란 무엇인가. 소셜미디어에서 자기와 의견이 비슷한 사람과 연결된다. 그러면 잇따라 같은 의견이 메아리 울리듯 되돌아오고 다른 의견은 눈에 들어오지 않게 된다. 그리하여 점점 그 생각을 고집하게 되는 현상을 가리키는 말이다. 이 현상이 무서운 이유는 사회에 뿌리내린 편견을 증폭시킬 수 있기 때문이다. 최근에도 인도의 유괴범을 둘러싼 폭동, 미얀마에서 벌어진 이슬람계 소수민족 박해 같은 사건이 잇따르고 있다. 어느 것이나 소셜미디어가 그 시작점이다.

이런 현상을 과연 막을 수 있을까? 우선 트위터상에서 나와 생각이 비슷한 미국 민주당 의원과 관련 단체 300개 계정을 한꺼번에 팔로우했다. 그러고 나서 하루에 15개에서 20개씩 친트럼프 성향의 공화당계로 갈아치워 나갔다. 흐름이 바뀐 것은 4일째였다. “민주당은 언제나 비판을 늘어놓지만 그들은 아무것도 이루지 못했다!” 스마트폰으로 트위터를 열면 가장 먼저 트럼프의 발언이 어김없이 눈에 들어온다. 저속하지만 속이 시원하다. 수로는 민주당원이 아직 압도적이다. 그런데도 트럼프가 쓴 글이 유난히 눈에 두드러졌다. 트위터의 인공지능이 리트윗이나 하트 수가 많은 글을 분석해 표시 순서를 바꾸었기 때문이다.

실험을 시작한 지 일주일. 결과가 나왔다. 처음 팔로우한 300명 가운데 고작 30명을 바꾸었을 뿐인데 받아들이는 정보의 다양성은 단숨에 높아졌다. 이를테면 트럼프가 여러모로 관계가 깊다고 어필하는 미 육군. 2019년 6월 14일에 창설 244주년을 맞았는데, 타임라인에 등장하는 ‘244’라는 단어의 수가 3.4배로 늘었다.
--- p.66-67

국가나 기업이 수집한 개인정보는 다양한 형태로 통합된다. 복수의 서비스에 걸쳐 이용자 아이디를 하나로 묶는 ‘아이디 제휴’의 움직임도 두드러진다. 중국은 국가 규모로 데이터 통합을 지향하고, 미국에서는 거대 정보기술 기업의 존재감이 높아지고 있다. 한편 일본에서는 기업이 업종을 뛰어넘어 서로 손을 잡고 데이터 활용에 보조를 맞추는 움직임이 나타나기 시작했다.

중국에서 아이디 제휴의 기둥은 ‘위챗페이’ 같은 결제 애플리케이션이다. 국가 발행의 신분 증명이나 은행 계좌, 소셜미디어 정보 등 온갖 개인정보를 하나로 묶어 쇼핑이나 이동에 사용한다. 생활의 거의 모든 영역이 스마트폰 하나로 해결되는 엄청난 인프라가 구축되었다. 서로 신원이 확실하므로 위조화폐가 많은 인민폐보다 믿을 수 있는 결제 수단으로 중국인들은 여긴다. 하지만 공안 당국도 상시 접속하여 중국 전역에 깔린 2억 대의 감시 카메라를 통해 감시의 눈을 빛낸다. 소셜미디어에서 정부에 비판적인 발언을 반복하면 앱이 일시 정지되고 생활에 지장이 생기는 일도 있다고 한다.
--- p.99-100

“벨기에 국민이여, 위선을 버리고 파리협정(파리기후변화협약)에서 탈퇴하라.”

2018년 5월, 벨기에의 사회주의정당 다른사회당이 트럼프 대통령의 연설 동영상을 인터넷에 올렸다. 동영상에서 트럼프 대통령은 단정적인 어조로 지구온난화 방지를 위해 맺은 국제적인 약속을 파기하라고 주장했다. 선정적인 스타일은 여느 때나 다름없었다. 그런데 동영상을 자세히 들여다보니 입가가 뿌옇고 흐릿했다. “트럼프야말로 위선자이다!” 소셜미디어에서는 금세 반대 댓글이 넘쳐났다. 여기에 당황한 것은 다른사회당이다. “아니, 이건 가짜 동영상입니다. 농담이라고요.” 그들은 서둘러 부정 성명을 발표했다.

공개된 인공지능 모델에 동영상과 음성 데이터를 학습시키기만 하면 자연스럽게 가짜 동영상이 만들어진다. 포르노에서 처음 쓰기 시작한 기술이지만 정치에도 악용될 우려가 크다는 말이 나오고 있다. 자동 생성된 가짜 뉴스나 가짜 입소문도 널리 퍼진다. 미국의 싱크탱크 민주주의와정보통신센터(CDT)의 조사에 따르면 최첨단 자동분석 기술을 사용해도 증오 표현 등 문제가 있는 게시물은 전체의 80퍼센트밖에 배제하지 못한다. 진짜인지 가짜인지는 여전히 사람의 눈으로 가려낼 수밖에 없다.
--- p.117-118

“열네 살 딸이 볼지도 모릅니다. 지워주세요.”

2018년 여름, 구글에 이런 요청이 왔다. 메일을 보낸 사람은 에이미 스미스(가명)의 대리인이다. 과거에 연예계에 있었던 스미스. 30년 전에 찍은 화보 사진이 아직도 인터넷에 남아 있다. 인터넷 공개는 허락하지 않았다며 사진 링크 15건을 검색 결과에서 삭제해달라고 구글에 호소했다. 스미스가 믿고 있는 것은 ‘잊힐 권리’이다. 개인이 가진 권리의 하나로서 인터넷에 있는 개인정보의 삭제를 요구할 수 있다. 유럽사법재판소가 2014년에 그 권리를 인정하고 2018년 5월 시행된 유럽일반개인정보보호법에 규정되었다.

1789년 프랑스에서 채택된 인권선언은 개인의 자유와 평등을 보장하여 시민사회의 초석이 되었다. 그로부터 200년 남짓, 인권의 발상지 유럽에서 또다시 인터넷 시대의 인권 규정을 둘러싸고 격렬한 논의가 오가고 있다. 그 답은 여전히 혼돈 속에 있다. 지금까지 구글에 330만 건의 링크 삭제 요청이 있었지만 실제로 지워진 것은 절반 이하인 약 130만 건에 그친다. 삭제도 EU 권역 내로 제한되어 미국이나 일본에서는 그대로 남아 있다. 아무도 나를 지켜주지 않는다면 스스로 지킬 수밖에 없다.

“내 구직 활동 상황을 회사가 알고 있다”

인터넷 검색 이력과 자동차 주행 정보가 새로운 서비스를 낳고 경제와 정치 관련 통계가 돈을 움직이게 한다. 세계 각지에서 수시로 이루어지는 개인과 기업의 활동은 매일 엄청난 양의 데이터를 생산한다. 이 데이터를 분석하면 성장의 원동력이 되는 새로운 자원이 되지만, 한편으로 수많은 차별과 편견을 낳고 갖가지 오류를 일으킬 위험도 크다. 미국에선 구글 알고리즘이 포토 애플리케이션에서 흑인의 사진 데이터에 ‘사람(human)’이 아닌 ‘유인원(apes)’, ‘동물(animal)’과 같은 단어를 자동 태그한 사실이 알려지면서 사회적 파장을 일으켰다. 아마존이 개발한 인공지능 채용 시스템은 입사 전형에서 여성 지원자의 데이터를 완전히 배제하는 결과를 도출하면서 결국 폐기되었다. 이런 일들의 연장선상에서 세계적으로 데이터의 편향과 오류에 관한 관심이 촉발되기 시작했다. 기업들은 무너진 신뢰 회복을 위해 자체 윤리 규범이나 지침을 만드는 한편 정부에도 관련 기술 규제를 촉구하고 나섰다.

저자들은 이런 이슈가 미국에 국한되지 않음을 기자 특유의 기민한 취재 감각을 통해 생생하게 보여준다. 일례로 지난해 8월, 일본 리쿠르트그룹 산하 취업 정보 사이트 ‘리쿠나비’는 그들이 보유한 취업 준비생의 데이터를 정보 주체의 동의 없이 기업에 판매한 사실이 드러나 세간의 질타를 받았다. 그런데 이들이 판매한 데이터는 단순 개인정보가 아니라 데이터 알고리즘이 지원자의 최종 입사 여부를 수치로 도출하여 예측한 데이터였다. 리쿠나비는 구직자가 어떤 회사의 채용 정보를 열람했는지 등의 정보를 분석해 해당 지원자의 최종 입사 여부를 수치로 도출한 이른바 ‘내정사퇴율’을 기업에 제공해왔다. 기업 역시 입사 지원자의 개인정보를 무단으로 리쿠나비에 넘겨주며 내정사퇴율 분석을 의뢰했다. 뒤늦게 일본 정부가 사태 수습에 나서서 직업안정법과 개인정보보호법령 등에 근거해 행정지도 결정을 내렸다. 하지만 이 사건은 데이터를 활용하는 방식과 범위에 대한 위험성을 경고한 사례로 기록되었다.

10시간 만에 본인 특정, 6개월 치 행적까지 알아냈다

인터넷상의 데이터를 모아 특정 인물의 행동 패턴부터 취미와 기호, 속마음까지 추정하는 기술을 ‘프로파일링’이라 한다. 흥미를 느낄 만한 대상을 선별하여 광고를 띄우는 맞춤형 광고 등에 자주 쓰이는 기술이다. 인터넷 광고회사는 “광고 전송에는 개인이 누구인지까지 알 필요는 없고, 실제로 특정하지도 않는다”라고 강조한다. 하지만 작정하고 자료를 모은다면 자신의 이름과 상세한 행적을 알아내는 것도 충분히 가능하다고 저자들은 말한다. 개인정보보호법에 따르면 익명의 위치 정보는 법률로 보호해야 하는 개인정보에 해당하지 않는다. 따라서 이름, 주소, 얼굴 데이터 등과 같은 종래의 개인정보만큼 취급을 규제하지 않고, 본인의 동의를 얻지 않더라도 기업끼리 공유할 수 있다. 바꿔 말하면 사생활이 침범당할 위험에 노출되어 있다는 이야기다.

정보기술 서비스의 발달에 힘입어 인터넷상에는 스마트폰 위치를 비롯해 온갖 데이터가 넘쳐난다. 저자들은 그중 손쉽게 얻을 수 있는 공개 정보를 활용해 어디까지 개인에게 접근할 수 있는지 직접 시험해보았다. 그 결과 안전한 익명 정보에서 출발해 10시간 만에 개인을 특정하고 그 사람의 6개월 치 행적까지 상세하게 알아낼 수 있었다. 정작 본인은 데이터를 넘긴 기억이 없더라도 기업끼리 제멋대로 공유하고 사용할 수 있다. 이렇게 알아낸 개인정보는 자신도 모르는 사이 확산되어 사기나 스토킹 같은 범죄에 악용될 소지도 적지 않다. 데이터를 다루는 기업뿐 아니라 이용자도 인식을 강화해야 하는 이유가 여기에 있다.

데이터 알고리즘이 사회적 차별과 편견을 낳는다

데이터 경제가 일상생활 전반에 침투하면서 온갖 가치를 수치화하고 있다. 인공지능이 학력, 직업, 주거지 등 개인정보를 분석해 신용도를 산출하는 스코어링 기술은 대출이나 채용 분야에서 널리 활용되고 있다. 대표적으로 중국 최대 전자상거래 회사 알리바바가 운영하는 대출 서비스 ‘즈마신용’을 들 수 있다. 이 시스템은 이용자의 신용도를 350점부터 시작해 950점 만점으로 평가한다. 점수가 높으면 낮은 금리로 돈을 빌려주고 렌터카를 빌리거나 할 때 보증금을 면제해준다. 반면에 점수가 낮으면 신용카드 발행이나 대출 심사에서 불리한 조건을 부여한다. 구체적인 채점 기준은 공표되지 않았지만, 알리바바의 스마트폰 결제 서비스 알리페이로 자주 쇼핑하거나 신용도가 높은 친구와 소셜미디어로 친밀하게 교류하면 점수가 오른다고 알려져 있다.

이런 인공지능으로 개인의 신용도를 평가하는 시스템은 편리함을 가져오지만, 한편으로 ‘버추얼 슬럼(virtual slum)’이라는 새로운 빈곤층을 낳을 수 있다는 우려도 제기된다. 알고리즘에 의한 데이터 분석으로 낮은 점수를 받으면 취업, 대출, 주택 임대, 결혼 서비스 등 사회의 주요 영역에서 배제된다. 취업에 실패해 낮은 임금을 받고 이런저런 일자리를 전전하다 보면 더욱 점수가 낮아지는 악순환에 빠지게 된다. 사실상 인생의 모든 상황에서 불리한 처지에 놓이고 재도전할 기회조차 잃을 수 있다. 이런 상황에 부닥친 계층을 버추얼 슬럼이라 한다. 딜로이트토마츠컨설팅에 따르면 2030년까지 세계 주요 20개국에서 최대 5억 4천 명의 버추얼 슬럼이 생겨날 것으로 추산된다. 15세에서 64세의 생산연령인구 계층에서 여섯 명 중 한 명이 빈곤층으로 전락할 수 있다는 예측이다. 점수가 심각한 빈곤 문제를 일으키지 않도록 활용법에 대한 지혜를 짜내야 한다.

저자들은 점수가 당연해지는 사회가 이미 가까이 와 있다고 진단한다. 채점자가 ‘GAFA’라고 불리는 구글, 애플, 페이스북, 아마존만 있는 건 아니며, 끊임없이 새로운 기술이 탄생하므로 제자리에 머물러 있어서는 조언한다. 중요한 것은 토대가 되는 사상이다. 긍정적인 면과 부정적인 면을 동시에 갖춘 점수를 어떻게 잘 다루어 삶을 얼마나 풍요롭게 할 것인지를 놓고 고민해야 한다.

세계는 움직이고 있다. 우리도 늦어서는 안 된다

인공지능이 인간을 선별하고 평가하는 세상이 현실로 다가오고 있다. 만일 그 판단에 차별이나 편견이 담겨 있다면 어떻게 될까. 폐해를 막을 규칙을 마련하려는 움직임이 세계 곳곳에서 나타나고 있다. 개인정보 보호 분야에서 가장 앞서가는 것은 유럽연합(EU)이다. 개인정보 보호 의무를 강화하고 이를 위반하면 거액을 물리는 ‘유럽 일반개인정보보호법(GDPR)’이 2018년 5월부터 시행되고 있다. 실제로 2019년 1월, 프랑스는 구글이 수집한 데이터의 이용 목적과 설명 방법이 이해하기 어렵다고 지적하며 유럽 일반개인정보보호법 위반으로 5천만 유로의 과징금을 부과했다.

미국은 GAFA의 터전인 캘리포니아주에서 ‘캘리포니아 소비자 프라이버시법(CCPA)’이 2020년 1월부터 시행되고 있다. 기업에서 악질적인 개인정보 유출이 일어나면 소비자가 일정 금액의 배상을 청구할 수 있도록 규정하여 유럽에서 도입하지 않은 데이터의 가치를 인정했다. 다만 캘리포니아주 이외의 주에서는 사고방식에 온도차가 있다. 일본도 2020년으로 예정된 개인정보보호법 개정을 앞두고 개인이 기업에 자신의 정보 이용 정지를 요구할 수 있는 ‘사용하지 못하게 할 권리’의 도입을 검토하고 있다. 중국은 국가 주도의 정보 수집으로 독자적인 데이터 경제를 구축해간다.

세계는 움직이고 있다. 우리도 늦어서는 안 된다. 일각에선 코로나19의 대응과 관련해 개인의 휴대전화 위치 정보와 카드 사용 내역 등을 전수 조사하는 방식을 놓고 우리 사회가 개인정보에 대해 다소 권위주의적, 전체주의적 관점에서 해결책을 찾은 건 아닌지 우려하는 목소리도 나온다. 질병 확산을 최소화하려는 의도에서 불가피하게 시행된 조치이긴 하지만, 개인정보 취급을 둘러싸고 최근 급속도로 엄격해진 세계적 여론 동향과 규칙 정비의 흐름을 따라가지 못한 면도 있다는 의견이다. 데이터 기술의 혁신으로 인한 성장을 지향하지만 그렇다고 개인의 안전과 존엄이 뒷전으로 밀려서는 안 된다. 스마트폰이나 소셜미디어를 사용할 때 이용약관에서 묻는다. “개인정보와 교환하여 무료로 편리한 서비스를 사용하시겠습니까?” 우리는 사생활 정보를 제공하고 정당한 대가를 받고 있는지 개개인이 새로운 관점에서 진지하게 고민해야 할 때다.

영국이 자동차 대국의 자리를 놓친 이유

테크놀로지의 발달이 일으키는 문제를 간과하고 혜택만을 탐한다면 훗날 큰 보복을 당할 수 있다. 그렇다고 새로운 테크놀로지의 힘을 두려워한다면 비약할 기회를 놓치고 만다. 저자들은 대표적 사례로 19세기의 영국을 소개한다. 영국은 증기자동차 시대를 맞아 자동차산업의 주도권을 거머쥘 뻔했다가 결국 독일과 미국에 자동차 대국의 자리를 내주었다. 저자들은 영국이 실패한 요인 중 하나로 이른바 ‘붉은 깃발법(Red Flag Act)’을 꼽는다. 이 법은 1865년 제정되어 1896년까지 약 30년간 시행된 세계 최초의 도로교통법이자 시대착오적 규제의 대표적 사례라 할 수 있다. 영국은 마차 사업의 이익을 보호하기 위해 자동차의 최고 속도를 시내에서 시속 3.2킬로미터로 제한하고, 마차가 붉은 깃발이나 붉은 등을 달고 달리면 자동차는 그 뒤를 따라가도록 했다. 차체가 큰 자동차의 접근을 통행인에게 알리기 위함이었다고 하지만 너무나 균형을 잃은 규칙이었다. 산업혁명의 발원지 영국은 이때 테크놀로지에 의한 변혁 앞에서 아무런 시도도 하지 않았고, 결과적으로 미래로 나아가는 성장의 싹을 스스로 잘라버리고 말았다.

세계 각국에서 국가를 뛰어넘는 영향력을 발휘하는 GAFA를 규제하는 움직임이 나타나고 있다. 저자들은 이런 움직임이 데이터 경제에 강한 역풍이 될 수 있다고 우려한다. 낡은 상식과 관습을 절대시한 나머지 새로운 테크놀로지를 개발하는 진보주의를 죽여서는 안 된다고 설파한다. 테크놀로지를 제어할 수 있는 것은 우리 인류뿐이다. 테크놀로지의 진화와 더불어 데이터 경제가 가속화될수록 개인정보 유출과 사생활 침해 현상은 심화할 수 있다. 데이터의 세기를 맞아 우리 삶은 더욱 편리하고 풍요로워지겠지만, 그 장밋빛 미래를 위해 개인이 희생된다면 본말전도이다. 데이터 만능의 폐해는 줄이고 혜택은 고루 누릴 수 있도록 개인과 기업, 사회와 국가가 데이터의 올바른 활용에 합의를 이루어야 비로소 데이터의 세기가 도래한 의미가 있을 것이다.

인공지능 기술의 고도화로 자칫 간과되기 쉬운 정보 주체의 권리 보호와 데이터 윤리에 관해 성찰하게 만드는 책! 빅데이터와 인공지능 기술은 분명 우리 사회가 직면한 많은 문제와 과제를 해결할 잠재력을 지녔다. 그러나 그 잠재력이 제대로 발휘되어 이용자에게 지속 가능한 편익을 제공할 수 있으려면 보안, 프라이버시, 투명성, 책임성, 포용성 등 윤리적·법제도적 문제에 관한 충분한 성찰이 뒷받침돼야 한다. 이용자가 신뢰하지 못하는 기술은 결국 외면당할 수밖에 없기 때문이다. 최근 글로벌 테크 기업이 앞다투어 자체 규범을 마련하거나 정부에 관련 규제를 요구하는 것도 결국은 같은 맥락이라 하겠다. 이 책은 이런 윤리적 인공지능, 지속 가능한 인공지능에 관한 논의의 토대를 쌓는 과정에서 유용한 기초 자료가 될 것이다.
－손승현(IT 전문 변호사, 법무법인 101)