기술은 중립적이지 않다
알고리즘의 문턱을 넘어, 다른 세계를 설계하는 법

우리는 매일 수많은 알고리즘을 통과한다. 무엇을 볼지 추천받고, 어떤 광고를 만날지 결정되며, 금융과 행정 서비스의 대상이 되고, 때로는 복지와 지원의 자격을 판정받는다. 이러한 과정은 빠르고 효율적이며 객관적인 것으로 설명되지만, 알고리즘의 판단은 결코 아무런 배경 없이 만들어지지 않는다. 그 안에는 특정한 역사와 제도, 데이터와 노동, 자본의 이해관계가 얽혀 있다.

『AI 나라의 홍콩할머니』는 인공지능과 알고리즘을 단순한 기술의 문제가 아니라 ‘사회적 선별과 배제의 문제’로 바라본다. 알고리즘은 코드만으로 구성된 것이 아니다. 그것을 개발하고 운영하는 기업, 데이터를 생산하고 가공하는 노동, 막대한 전력을 소비하는 인프라, 자동화의 이름 아래 가려진 사람들의 손이 합쳐져 움직인다. 따라서 AI를 이해한다는 것은 기술의 성능만 살피는 일이 아니라, 그 기술이 어떤 사회적 조건 속에서 만들어지고 누구의 삶을 기준으로 운영하는지 묻는 일이다.

책의 1부 ‘거대한 나라의 문턱에서’는 AI 생태계의 거시적 구조를 살핀다. 알고리즘 뒤에 숨은 산업과 인프라를 추적하고, 숫자와 데이터가 어디에서 왔는지, 과거의 차별과 불평등이 어떻게 데이터의 형태로 남아 있는지를 들여다본다. 객관적 사실처럼 보이는 숫자 역시 특정한 방식으로 세계를 분류한 결과일 수 있으며, 기계는 과거의 편견을 제거하기보다 오히려 더 정교하게 재생산할 수 있다. 또한 자동화 뒤에 가려진 보이지 않는 노동과 클라우드 산업의 환경 비용을 통해, 편리함이 결코 공짜로 주어지지 않는다는 사실을 보여준다.

2부 ‘기묘한 나라의 선별자들’에서는 알고리즘이 국가와 제도의 문턱에서 어떤 역할을 하는지 살핀다. AI 규제와 감시의 주체는 누구인지, 복지 창구가 알고리즘으로 대체될 때 시민은 누구에게 설명을 요구할 수 있는지, 도움을 요청하는 행위가 어떻게 위험 신호로 변환되는지를 묻는다. 노동자는 자신의 일상을 기록하는 순간 데이터가 되고, 그 데이터는 다시 노동자를 평가하고 통제하는 기준이 된다. 국가가 사람을 이해하기 위해 만든 범주 역시 때로는 범주에 들어맞지 않는 삶을 지워버린다. 제도의 언어로 설명되지 않는 사람들은 도움을 받지 못하는 데서 그치지 않고, 존재 자체가 읽히지 않는 사람이 될 수 있다.

3부 ‘아주 작은 나라의 비밀번호’는 거대한 시스템이 개인의 삶에 닿는 구체적인 장면으로 내려온다. 클라이언트의 데이터는 어디로 이동하는가. 왜 어떤 설계는 처음부터 특정한 사람들을 고려하지 않는가. 시스템에 협조하지 않거나 데이터 제공을 거부할 권리는 보장되는가. 이러한 질문은 추상적인 기술 윤리의 문제가 아니라, 우리의 안전과 존엄, 사생활과 자기결정권에 관한 현실적인 문제다.

그러나 『AI 나라의 홍콩할머니』는 감시와 배제의 현실을 고발하는 데서 멈추지 않는다. 책은 보이지 않던 현실을 새롭게 기록하는 대항 데이터, 기존의 분류 체계에 이의를 제기하는 사람들, 당사자의 요구에서 출발해 기술과 제도를 다시 상상하는 실천을 함께 살핀다. 이를 통해 기술은 이미 주어진 운명이 아니라, 사회적 선택에 따라 다시 설계할 수 있는 것임을 강조한다. 이 책이 던지는 가장 중요한 질문은 ‘AI가 인간을 대신할 수 있는가’가 아니라,

우리는 어떤 사람을 정상으로 설정하고,
누구의 삶을 예외로 만들며,
어떤 기준을 미래의 시스템에 입력할 것인가!

『AI 나라의 홍콩할머니』는 AI를 둘러싼 논의를 전문가와 기업의 영역에서 시민의 삶으로 가져온다. 알고리즘이 누구를 분류하고, 어떤 사람을 문 안으로 들이며, 누구를 문밖에 남겨두는지 구체적으로 보여준다. 동시에 기술을 무조건 믿거나 두려워하는 대신, 기술이 만든 문턱을 발견하고 그 문을 다시 설계할 수 있는 가능성에 대해 이야기 한다.

알고리즘의 문턱 앞에서 우리에게 필요한 것은 순응이 아니라 질문이다. 그리고 질문을 넘어, 더 많은 사람이 들어갈 수 있는 문을 함께 만드는 일이다. 문은 이미 우리 앞에 있다. 이제 그 문을 어떻게 열 것인지는 우리의 선택에 달려 있다.