우리는 일기를 쓴다고 인식하지 않은 채, 수많은 조각 일기를 매일 인터넷에 올리고 있습니다. 페이스북과 인스타그램, 트위터, 카카오톡, 유튜브 모두 일기장입니다. 심지어 이들 대부분은 세상 모두가 볼 수 있는 공개 일기장이죠. 사람들은 일기장은 자물쇠를 채워 책상 서랍 깊은 곳에 꼭꼭 숨겨 두지만, 정작 세상 누구나 볼 수 있는 인터넷 공간에는 스스로를 거리낌 없이 노출하고 있습니다.
--- 「2장. 소셜 미디어는 나의 공개 일기장」 중에서

국제 인권 단체 등의 조사에 따르면, 2017년 이후 100만 명 이상의 위구르인과 이슬람교도들이 감옥, 수용소 등에 갇힌 것으로 알려졌습니다. 인구밀도를 낮추고 종교와 문화 전통을 없애기 위한 작업도 진행했다고 합니다.
이런 활동에 AI 기반 감시 기술들이 쓰인다는 의혹이 거셉니다. 중국의 대형 IT 기업 화웨이가 민족이나 나이 등을 식별할 수 있는 얼굴 인식 AI를 개발했다는 주장도 나왔고, 중국 기업들이 사람들의 감정 상태를 파악할 수 있는 AI를 개발했으며 이를 경찰서에 설치해 위구르인들을 대상으로 실험했다는 증언이 나오기도 했습니다.
또 위구르인들은 스마트폰 연락처 목록과 문자 메시지 등 데이터를 수집하는 정부 앱을 휴대폰에 깔아야 하며, 지역 관청에 DNA 샘플을 제공해야 합니다. 이러한 각종 추적 수단을 통해 사람들이 현관이 아니라 뒷문으로 집을 나섰는지, 다른 사람의 차에 기름을 넣었는지와 같은 세세한 행동 데이터까지 수집이 가능하다고 합니다. 지극히 일상적인 행동까지 감 시를 받고, 범죄의 증거로 간주될 수도 있다는 이야기입니다.
--- 「4장. CCTV는 나를 주시하는 눈」 중에서

학교 모임이나 수련회 행사 등에서 친구들과 ‘10문 10답’ 같은 놀이를 해 본 친구들도 많이 있을 것이라 생각합니다. 페이스북과 인스타그램의 소셜 그래프는 각 사용자에 대해 ‘10문 10답’을 아주 많은 문항으로, 아주 자세히 한 것이라 할 수 있습니다. 우리가 페이스북이나 인스타그램을 열심히 할수록, 더 많은 사진과 게시물에 ‘좋아요’를 누르고 재미있는 영상을 더 많이 공유할수록 내가 답한 ‘질문’의 수는 기하급수적으로 늘어나는 것이죠. 심지어 내가 대답한 적 없다고 생각하는 것들까지 파악해서 나의 프로필을 더 충실하게 만들 수 있습니다. 그리고 그러한 프로필의 수, 즉 페이스북 사용자 수는 무려 30억에 가깝습니다.
메타의 인공지능 알고리즘은 이렇게 만든 각 사용자의 소셜 그래프를 바탕으로 각자의 입맛에 맞을 법한 콘텐츠를 찾아서 보여 줍니다. 우리가 페이스북이나 인스타그램 앱을 한번 열면 좀처럼 빠져나오지 못하는 것도 어찌 보면 당연하다 하겠습니다.
--- 「6장. 내 입맛에 딱 맞게 추천!」 중에서

재미있고 좋은 영상들이 많이 올라와 사람들이 유튜브를 많이 본다면 유튜브와 사용자, 그리고 영상을 만들어 올리는 크리에이터 모두 만족할 것입니다. 하지만 이런 균형 상태는 오래가기 어렵습니다. 유튜브를 운영할 때 회사의 이익과 사용자의 이익이 충돌하는 경우가 생기면, 회사는 사용자가 아니라 자신에게 이익이 되는 방향으로 결정을 할 가능성이 크죠.
정교한 알고리즘과 방대한 사용자 데이터를 가진 유튜브 같은 플랫폼이 운영 방식을 조금만 바꿔도 사용자는 알지 못하는 사이에 큰 영향을 받을 수 있습니다. 밤새 유튜브를 보게 되는 식으로요. 사람들은 그러한 자극적 콘텐츠에 끌리는 경향이 있고 알고리즘은 자주 보는 종류의 영상을 더 많이 추천하도록 짜여 있으니, 사용자는 자연스럽게 더 자극적인 영상을 더 많이 접하게 되는 것입니다. 사실 유튜브 스스로도 자극적이고 품질 낮은 영상들이 넘쳐 나는 것을 원하지는 않을 것입니다. 이렇게 되면 장기적으로는 결국 사용자가 떨어져 나가게 됩니다. 하지만 회사로서는 당장의 성장이나 수익을 생각하지 않을 수 없습니다.
--- 「9장. 유튜브 보다 보니 어느새 새벽」 중에서

애초에 악인과 접촉할 기회 자체를 만들지 않는 것이 가장 좋은 방법입니다. 하지만 세상을 살다 보면 좋지 않은 의도를 가진 사람을 만나는 일을 완전히 피할 수는 없습니다. 경찰 통계에 따르면, 디지털 성범죄의 피해자는 대부분 인터넷을 통해 가해자와 알게 됩니다. 디지털 기술을 이용해 음란물을 주고받거나 성착취물을 만드는 범죄의 피해자 10명 중 8~9명은 인터넷 채팅에서 만난 사람에게 그런 일을 당했습니다. 이는 대부분 주변의 아는 사람에 의해 자행되는 오프라인 성범죄와 다른 점입니다. 여성가족부의 발표에 따르면 2021년 아동·청소년 대상 성범죄의 총 피해자 수는 전년에 비해 3.1퍼센트 증가했는데, 그중 특히 디지털 성범죄 피해자 수는 무려 101.2퍼센트 늘어서 두 배 이상이 되었습니다. 채팅 앱과 소셜 미디어가 범죄의 주요 경로가 된 거죠.
--- 「11장. DM의 치명적 유혹」 중에서

캐나다 위니펙대학과 미국 스탠퍼드대학 등 연구진이 지난 2009~2019년 미국 상하원 의원들의 트윗 130만 개를 인공지능으로 분석한 결과, 무례한 내용의 트윗이 이 기간 중 23퍼센트 증가한 것으로 드러났습니다. 무례한 트윗이 ‘좋아요’와 ‘리트윗’을 더 많이 받기 때문입니다. 공격적 성향을 보이면 지지자들에게 좋은 피드백을 받기 때문에 정치인들의 언사가 더 거칠어졌다는 것입니다.
미국 예일대학 심리학과 연구진 역시 그와 유사하게, ‘도덕적 분노’를 드러내는 트윗이 더 많은 반응을 끌어내고, 이런 보상을 맛본 사용자는 자극적 발언을 더 많이 하게 된다는 사실을 밝혔습니다. 특히 소셜 미디어에서 주로 정치적 중도파와 친구 관계를 맺고 있는 사람들이 ‘좋아요’ 같은 피드백에 가장 민감하게 반응해 발언 강도를 높여 나간 것으로 나타났습니다. 소셜 미디어가 보상을 통해 중도적 그룹을 극단적 성향으로 바꾼다는 것이죠. 영국 케임브리지대학 연구진도 상대편 정파에 대한 반감을 드러냄으로써 자신의 정체성을 확인하는 게시물이 가장 큰 반응을 끌어낸다는 사실을 밝혔습니다. 아마 모두들 인터넷에 올라오는 글과 사람들의 반응을 보며 이미 체감하고 있었던 내용일 것입니다.
--- 「14장. 세상을 어지럽히는 가짜 뉴스」 중에서

챗GPT와 같은 생성형 AI가 등장하며 이는 더더욱 중요한 이야기가 되었습니다. AI가 이제는 아예 일상의 언어로 질문과 대답을 주고받는 방식으로 작동하기 때문입니다. 이 같은 생성형 AI를 잘 활용하려면 무엇보다도 구체적이고 적절한 질문을 제시할 수 있어야 합니다.
어떤 명령을 어떻게 내리는지에 따라 결과물은 크게 달라집니다. 원하는 결과를 바로 얻지 못하더라도, 표현을 조금씩 바꿔 가며 계속 질문하면 훨씬 유용한 답을 제시하는 경우가 많습니다. 예를 들어, “페이스북을 잘 쓰는 방법은 무엇이 있을까?”라는 질문보다는 “네가 고향에서 멀리 떨어진 곳으로 이사 갔다고 생각하고, 예전 친구들과 계속 관계를 이어 가기 위해 페이스북을 활용하는 방법에 대해 알려 줘.”라는 질문이 보다 적절한 답을 끌어낼 것입니다.

<B>스마트폰과 함께 나고 자란 모바일 네이티브라도<br/>화면의 뒤편에서 벌어지는 일들을 모두 알 수는 없는 법!</B><br/><br/>‘모바일 네이티브’인 오늘날의 청소년 세대는 식당의 무인 단말기 앞에서 멈칫하는 윗세대와 다르게 어떤 전자 기기든 능숙하게 사용할 뿐 아니라, 아침에 눈을 떠서부터 늦은 밤 잠드는 순간까지 스마트폰과 한 몸처럼 생활하며 세세한 기능을 자유자재로 활용하고 다양한 온라인 콘텐츠를 끊임없이 흡수한다. 하지만 그러한 청소년들이라고 해도 온라인 세계의 면면을 모두 파악하고 있는 것은 아니다. 우리가 얼굴의 근육을 의식하지 않고도 표정을 짓듯이 오히려 제 몸처럼 익숙하기에 더더욱 그 구성과 작동 원리에 대해 모르기 쉽다. 실제로 온라인 도박을 일종의 게임으로 인식한 청소년이 중독 상태에 이르는 사례가 매년 급증하는 것으로 보고되고 있고, 중학생 중 40퍼센트가 그럴싸한 사진이 첨부된 가짜 뉴스를 그대로 믿었다는 연구 결과도 있다.<br/><br/><B>영상 추천 알고리즘부터 리타게팅 광고까지<br/>유용한 듯 선 넘는 듯, 내 삶에 스며들고 있는 것들</B><br/><br/>이전까지 상상도 못 했던 편리함과 즐거움을 선사하는 인터넷은 이용자를 노리는 갖가지 술수의 온상이기도 하다. 콘텐츠 추천 알고리즘과 광고는 점점 더 빠르고 정확하게 날아와 피드에 꽂히고, 실제 사진과 구분이 불가능한 수준의 AI 생성 이미지가 유포되기 시작한다. 하루가 다르게 교묘해져 가는 피싱 수법에 물질적·정신적 피해를 입었다는 사람들의 소식도 끊임없이 들려 온다. 크고 작은 악의에서 비롯된 이러한 위험은 연령대를 가리지 않는다. 하지만 집중적인 관심과 돌봄의 대상이 되는 아동이나 노년층과 달리 어느 정도 독립적인 생활을 영위하면서도 정서적으로 가장 섬세한 청소년층은 그러한 위험에 대처하기가 특히 어렵다. 청소년을 대상으로 한 인터넷상 사기와 폭력, 성범죄가 증가하고 있는 오늘날, 프라이버시와 자아를 스스로 지켜 낼 최소한의 방어술, 『디지털 호신술』이 필수인 이유가 바로 여기에 있다.<br/><br/>저자 한세희는 《전자신문》, 《동아사이언스》, 《지디넷코리아》에서 일해온 과학 전문 기자이자 중고등학생 자녀의 미래를 걱정하는 부모로서, 어려서부터 인터넷과 스마트폰을 당연하게 접해 경계심도 비판적 관점도 갖기 어려운 청소년에게 꼭 들려주고 싶은 이야기들을 모아 이 책을 썼다. 오늘날의 청소년이 자라 온 과정을 업계에서, 그리고 가정에서 지켜봤기에 그들이 경험하는 것, 당연하게 여기고 때로는 무신경하게 지나치는 것, 중요하게 생각하고 몰입하고 열광하는 것들을 누구보다 정확히 포착해 낼 수 있었다. 이러한 이해를 바탕으로 유효한 설명과 조언을 일목요연하게 제시하면서도 어른들과 다른 청소년만의 세계, 그들의 주체성과 잠재력을 존중하고 조심성을 잃지 않는다.<br/><br/><B>나를 들여다보고 움직이고 지배하려 드는 것들에 맞서<br/>‘나’ 자신으로 살아가기 위하여</B><br/><br/>1부 「나는 파놉티콘 안에 있어」에서는 마치 교도소처럼 휴대폰, 소셜 미디어, 검색 포털, 그리고 각종 블랙박스의 감시로 촘촘하게 뒤덮인 오늘의 세상을 둘러보며 각종 최신 기술, 갖가지 경로와 방식을 통하여 개개인의 공적인 활동부터 사적인 취향까지 다양한 정보가 수집되고 있음을 짚고, 2부 「나보다 나를 더 잘 아는 너」에서 기업과 국가 등 주체가 그렇게 수집한 정보를 자신의 이익에 맞게 활용하는 사례들을 보여 준다. 3부 「디지털 세상 속 흔들리는 내 마음 지키기」에서는 소셜 미디어의 화려한 이미지들 사이에서 우울해지고, 필터 카메라 속 모습과 다른 나 자신을 미워하게 되고, 쏟아지는 콘텐츠에 파묻혀서 잠도 못 자는 등, 극도로 정교하게 설계된 자극들에 청소년을 비롯한 현대인이 일상의 주도권을 완전히 빼앗긴 채 휘둘리고 있음을 경고한다. 나아가 4부 「악인은 어디에나 있어」에서는 보다 노골적인 의도로 악행을 서슴지 않는 사이버 범죄자들과 그에 맞선 최소한의 대비책을 설명한다. 화면 너머의 악인들은 사기 메시지, 게임상의 거짓 유혹 등으로 아동과 청소년을 속이고 경제적·성적·정서적 착취를 자행하며, 가짜 뉴스로 여론을 뒤흔들고 사회를 어지럽히기도 한다. 마지막 5부 「온라인 세계의 주인공이 되기 위해」에서는 새로운 세계를 살아갈 청소년에게 조언과 격려를 전한다. 기하급수적인 기술 발전 속도를 제도와 문화가 따라가기는 역부족이다. 하지만 변화와 혼란의 틈에서 기회를 포착해 내고, 기술에 휘둘리는 게 아니라 기술을 내 편으로 만들며, 무게중심을 잡고 중요한 질문을 던지는 주인공이 되어야 함을 강조한다.