중국이 개발한 인공지능 감시기술은 세계 각국으로 수출되고 있다. 조만간 세계 인구 대다수가 중국산 감시 시스템 아래에 놓일 것이라는 예상도 가능하다. 이 시스템은 모든 시민을 하루 24시간, 일주일 내내 관찰하고 모든 행동을 모니터링할 것이다. 인공지능 감시 시스템의 알고리즘은 조지 오웰이 상상했던 빅브라더보다 훨씬 뛰어나다. 문제는 이처럼 훌륭한 기술이 개인의 자유를 보호하는 방향이 아니라 자유를 포기하도록 이용될 가능성이 더 크다는 점이다. 과학기술은 어떻게 사용하고 누가 통제하느냐에 따라 민주주의를 개선하거나 약화할 수 있다. 현재 과학기술은 소수에 의해 통제되고 있다. 소수는 자신이 가지고 있는 통제 권력을 나누려고 하지 않는다. 많은 권력이 소수의 손에 집중될 때 그 결과는 민주주의에도, 다수에게도 좋지 않다는 것을 역사가 증명하고 있다.
--- p.35

인공지능을 누가 작동하고 운영하느냐, 즉 그 알고리즘을 누가 만들고 관리하느냐에 따라 인공지능은 크고 작은 정치적 또는 사회적·문화적 편향성을 가질 수밖에 없다. 다시 말해, 인공지능의 알고리즘을 설계하고 관리하는 사람 또는 집단의 성향, 선호, 가치 등의 요소가 처음부터 그 알고리즘에 반영될 가능성이 상당히 크다. 대표적인 사례로 아마존은 몇 년 전 직원 채용 과정에 처음으로 인공지능을 도입했다. 채용 담당자의 개인적 의견이 개입되지 않는 투명한 채용이 목적이었다. 하지만 나중에 결과를 보니 인공지능이 남성 지원자를 선호하는 경향이 확인되어서 결국 인공지능에 의한 채용을 중단했다. 인공지능의 알고리즘을 설계할 때 그 설계자의 성향과 가치판단이 처음부터 포함되었기 때문에 생긴 일이다.
--- pp.56~57

트럼프가 빅테크들과 전면전을 위해 소송을 제기했다면, 바이든 행정부는 대통령과 정부의 권력을 총동원해 빅테크들을 최대한 압박하고 있다. 바이든 대통령은 2021년 7월 9일 미국 경제의 경쟁 촉진에 대한 행정명령에 서명하며, 기업 간 경쟁을 확대하고 독과점 관행을 단속하라고 행정부에 지시했다. 여기에는 빅테크 등이 잠재적 경쟁자를 인수해 해당 업체의 혁신 상품 개발을 중단시켜 경쟁을 사전 차단하는, 이른바 ‘킬러 인수(killer acquisition)’를 제한하는 규칙을 만들도록 하는 내용이 들어 있다. 빅테크의 중요한 사업 관행을 정면으로 막겠다는 것이다.
--- pp.83~84

2021년 1월 6일 조 바이든 대통령이 당선된 대선 결과에 불복해 도널드 트럼프 전 미국 대통령 지지자들이 미 국회의사당에 난입해 폭력 시위를 벌였다. 이 사건은 미국 민주주의 역사상 가장 수치스러운 사건의 하나로 꼽힌다. 트럼프 전 대통령 지지자들의 의사당 폭력 시위 과정에서 시위대 4명과 경찰 5명이 숨지고 140여 명이 다쳤다. 미국 민주주의에 씻을 수 없는 오점으로 남은 이 사건의 중심에는 정치적 양극화를 극도로 부추긴 가짜 뉴스 또는 가짜 뉴스에 의한 정치적 양극화의 극단화 현상이 있다고 할 수 있다.
--- p.108

인터넷 이용자는 급진주의자가 세력을 키우기 위한 선전이나 조작적 콘텐츠에 자신도 모르게 관여하고 있다는 사실을 인식하지 못할 수 있다. 일부 웹사이트는 극단적이고 혐오적인 발언을 공공연히 드러내기도 한다. 이러한 활동은 다양한 목소리가 표출되는 온라인 플랫폼에서는 더욱 미묘한 표현 방식으로 눈속임을 하는 경우가 많다. 실제로 몇몇 극단주의자는 자신의 정치적 목적을 감추고 이용자의 신뢰를 얻기 위해 의도적으로 웹사이트의 소유권이나 디지털 콘텐츠의 저작권을 숨기려 한다. 미디어 학자인 애덤 클라인이 지적한 바와 같이, 검색 엔진과 소셜네트워크가 사용자에게 악성 정보를 제공하는 방식에 따라 이 문제는 더욱 복잡해진다. 교육, 정치, 과학, 심지어 영적인 것으로 보이도록 설계된 위험하고 오해의 소지가 있는 정보 그리고 검색 엔진, URL 공유 기능 및 주류와 극단주의 웹사이트를 연결하는 기타 인터넷 기반 도구의 정보 고속도로 덕분에 극단주의적 정보는 몇 번의 클릭만으로도 쉽게 접근할 수 있다.
--- p.130

이용할 데이터가 많을수록 인공지능 등 시스템 능력의 발전에 가속도가 붙는다. 당연히 기술 발전이 더욱 빨라지면서 중국은 미국의 턱밑까지 추격했다. 이것이 바로 미국의 딜레마이다. 전문가들의 일반적인 분석은 이런 상황을 종합했을 때 중국이 데이터를 기반으로 하는 인공지능 기술 능력에서 미국을 넘어서려면 5년에서 10년은 더 필요하다고 한다. 여기에서 문제는 데이터의 양이다. 데이터가 많아질수록 가속도가 붙은 기술 능력이 그 기간을 더욱 단축할 것이다. 이와 같은 상황에 미국의 정책적 고민이 있다. 개인정보 보호와 정부 개입의 최소화가 원칙이지만, 그러다가 중국에 따라잡힐 수 있다는 위기감이 고조되고 있다. 마치 ‘성장이 먼저냐 분배가 먼저냐’ 하는 문제와도 비슷하다.
--- pp.165~166

미국과 유럽연합은 인공지능 분야의 리더십을 보장하기 위해 시장·기술·인재를 활용하고, 인공지능으로 인한 경제적 이익을 실현하고 이후 적절하게 배분되도록 협력해야 하며, 폭넓은 인공지능 거버넌스 목표 달성을 필수적인 요소로 설정해야 한다는 데 공감했다. 미국과 유럽연합의 인공지능 대서양 협력에는 기초연구 개발, 기술 개발, 인공지능 투자 등이 포함되며, 정부와 민간 부문의 혁신 역량이 성패를 판가름할 전망이다. 지속적인 인공지능 개발을 위해서는 공통된 규제와 표준의 개발이 필요하다. 이는 기능적이고 상호 운용적이면서 불필요한 장벽을 방지하고 혁신을 지원하는 기본 가치로서 의미가 있다.
--- p.182

온라인 투표, 특히 새로운 기술인 블록체인 방식을 활용한 온라인 투표를 제대로 실시하려면 무엇보다 그 선거가 완전하게 투명하고 신뢰할 수 있다는 것부터 증명해야 한다. 온라인 투표를 통한 투표율의 증대, 관리 비용의 절감 등 장점을 보여주는 것은 그다음의 문제이다. 표 하나하나가 중복되지 않은 실제 유권자가 행사하고 정확히 집계된다는 사실에 대한 신뢰가 가장 중요하다. 그러나 현재로서는 이러한 신뢰에 이르기까지 갈 길이 한참 멀다. 퍼블릭 블록체인과 프라이빗 블록체인 중 어떤 방식을 이용할 것인가에 대해 합의하는 것부터 간단한 문제가 아니다. 이처럼 기본적인 논의조차 이루어지지 못한 상황에서 블록체인이 기존 투표와 선거의 문제, 즉 관리, 비용, 투명성, 신뢰성 등을 완벽하게 해결하기를 기대하는 것은 무리이다.

<b>과학기술이 우리에게 얼마나 많은 영향을 미치는지, <br/>민주주의 정치과정에 어떤 영향을 미치는지에 주목하다!</b><br/><br/>지난 2019년 말에 시작되어 3년 동안 코로나-19에 따른 사회적 거리두기로 온라인 교육을 비롯해 정보통신망을 활용한 재택근무, 온라인 쇼핑몰에서 생필품 구입 등 우리의 일상생활에 많은 변화가 일어났다. 이 시기에 우리는 정보통신 기술이 경제와 사회 전반에 융합된 혁신적인 변화를 체험했으며, 정보기술 등 과학기술에 의한 사회적 변화가 한국뿐만 아니라 전 세계에 제공한 혜택은 엄청났다.<br/><br/>하지만 부작용도 만만치 않았다. 인공지능을 이용한 특정 인물을 특정 영상에 합성한 딥페이크(deep fake) 동영상과 같이 현실을 왜곡하면서 대중의 관심을 끄는 콘텐츠들이 등장했으며, 이에 따라 소셜미디어에서 생산된 코로나-19 음모론과 2020년 미국 대통령 선거의 부정선거 음모론 등에 따른 논란으로 정치적 양극화와 극단화 경향이 더욱 노골화되었다. 부정선거, 코로나-19 백신 음모론 등을 주장하는 이들은 터무니없는 정보를 비판하는 이들에게 “내 표현의 자유를 억압하지 말라”고 외친다. 그럼에도 페이스북, 유튜브, 트위터 등은 수익 추구를 위해 이러한 콘텐츠를 계속 허용하는 실정이다.<br/><br/>현재 미국 워싱턴 DC에 거주하면서 한국과 미국의 정부 기관 정책 분석 프로젝트를 수행하고 자유 기고가로 활동하는 정치학 박사 박재형은 정보통신 기술이 사회경제에 미친 영향력에서 한 걸음 더 나아가 24시간 이용하고 있는 개인과 관련 정책을 결정하는 정부 모두 현재의 과학기술이 우리에게 얼마나 많은 영향을 미치는지, 또 민주주의 정치과정에 어떤 영향을 미치는지에 주목하여 『AI는 중립적인가? _과학기술과 정치』라는 제목으로 책을 펴냈다. 그는 이 책을 쓰게 된 이유를 다음과 밝힌다.<br/><br/>대다수의 사람들은, 과학기술의 급속한 발달과 함께 모든 것이 진보하고 있지만 정치만큼은 오히려 퇴보하고 있다고 우려한다. 여기서 우려하는 정치적 퇴보의 핵심은 소수 극단주의자에 의해 정치적 양극화가 계속 심해지고 있다는 사실이다. 이러한 정치적 양극화·극단화 경향은 사회 구성원 사이를 더욱 갈라지게 하고 골을 깊게 만들어 결국 사회 전반을 병들게 한다. 모든 분야의 발달과 달리 정치의 퇴보 또는 퇴행, 정치적 양극화와 극단화가 갈수록 심해지는 이유는 무엇일까? 좀 더 범위를 좁혀, 분명히 소수·비주류였던 극단주의적 강성 집단의 목소리와 영향력이 언제부터인가 주류로 자리 잡은 배경은 무엇일까? 이러한 문제의 원인을 찾고 해결할 방법은 무엇일까? 이 책은 바로 이러한 문제들의 답을 찾으려는 과정에서 출발했다. 그리고 이 문제들의 핵심에는 인터넷, 소셜미디어, 인공지능, 데이터, 생명과학 등과 같은 과학기술이 있다는 점에 주목했다.<br/><br/>이 책은 현재 우리 생활을 지배하고 있는 인공지능의 여러 갈래를 정치적인 시각으로 살펴보면서 모든 이가 궁금해하는 사안들을 헤아려 차분하게 풀어준다는 점에서 상당히 매력적이다. 또한 저자의 친절한 안내로 매스컴에 오르내리는 수많은 용어를 어떤 맥락으로 읽어야 하는지도 알 수 있다. 이제 우리의 일상생활은 과학기술과 떼려야 뗄 수 없는 관계에 놓여 있다. 좀 더 슬기롭게 세상을 바라보고 살아가기 위해 곁에 두고 읽어야 할 책이다.<br/><br/><b>민주주의 체제에 전례 없는 도전이 된<br/>소셜미디어라는 새로운 소통 도구와 방식을 점검하다!</b><br/><br/>과학기술은 세계사의 발전을 이끌어왔다. 인류의 소소한 일상생활을 지배하던 기술에 자연과학, 응용과학, 공학이라는 과학이 접목되어 탄생한 것이 과학기술이다. 과학과 기술은 불가분의 관계로 과학은 기술의 진보를 촉진하고, 또한 기술에서 제기되는 문제는 과학의 발전을 자극하는 상승효과로 과학기술은 끊임없이 발전하여 과학기술 문명이라는 거대한 틀을 이루었다. 이와 같은 과학기술이 사회적 소통과 발전에 기여한 점은 의심의 여지가 없다. 사람들은 불과 몇십 년 전만 해도 상상할 수 없었던 정보에 접근하고 자신의 생각을 몇 초 만에 전 세계적으로 알릴 수 있다는 사실을 즐기고 이용한다. 스마트폰 등 새로운 형태의 소통 도구와 방식은 정치, 사회적 이슈와 논의 가능성을 폭발적으로 증가시켰을 뿐만 아니라 페이스북, 트위터 등 소셜미디어는 정부, 기업, 시민사회 모두에게 기본적인 의사소통 도구로 자리 잡았다. 그러나 이 상황은 민주주의 체제에 대해 전례 없는 도전이 되고 있다.<br/><br/>저자는『AI는 중립적인가? _과학기술과 정치』에서 “과학기술은 민주주의뿐 아니라 권위주의 독재 체제에서 모두 이용된다. 이와 함께 정부의 권리와 관리 책임에 따른 의무가 크게 늘어나고, 정부는 과학기술을 권력 유지와 강화의 도구로 이용할 수 있다. 이는 일반 대중도 마찬가지다. 과거에는 생각도 못 하던 수준의 정보 이용과 교환은 정보의 오류, 왜곡, 선동을 강화해 포퓰리즘과 사회적 양극화를 더욱 심하게 이끈다”고 경고한다.<br/><br/>또 “사람들은 ‘과학기술은 정치적으로 중립적이다. 과학기술의 정치화, 정치 권력에 의한 과학기술 이용, 정치의 과학기술 영역 침범은 안 된다’는 주장에 대부분 동의한다. 그러나 현실은 그 반대 방향으로 빠르게 진행 중이다. 앞서 말했듯이, 과학기술은 민주주의뿐만 아니라 권위주의 독재 체제에서 모두 이용되지만, 과학기술이 정부, 기업, 대중과 어떤 관계를 만들어가야 할지는 구성원 모두의 손에 달렸다”고 주장한다.<br/><br/>개인정보라는 빅데이터를 움켜쥐고 또 다른 권력 기구로 급상승하는 빅테크의 영향력이 그 어느 때보다 높아진 요즈음, 이 책은 인공지능 등 과학기술의 혜택을 공유하는 방법, 부(富)와 권력에 따른 과학기술 이용 기회의 차이가 민주주의 체제를 불안하게 만들지 않게 하는 방법을 찾고 함께 논의하는 기준틀로서 대단히 의미가 크다. 과학기술이 우리의 일상과 사회경제 그리고 정치에 어떤 역할을 하고 있는지 진지하게 살펴보는 기회가 될 것이다. 우리의 일상생활에서 부딪치는 크고 작은 화젯거리를 다룬 〈이슈로 세상 읽기!〉 시리즈의 첫 책으로 선택한 이유이기도 하다. 이 주제에 관심이 많은 일반인은 물론, 시사적인 주제에 관심이 많은 청소년에게 시야를 넓힐 수 있는 읽을거리로 손색이 없다.<br/><br/><b>이 책의 구성</b><br/><br/>모두 9장으로 이루어진 이 책은 1장 ‘과학기술과 정치 문제’로 문을 연다. 데이터 경제 환경에서 다양한 서비스를 이용하는 사이 개인정보 보호, 데이터 소유권, 정치적 및 경제적 목적에 의한 데이터 조작 등의 문제와 민주주의 체제의 위기를 다룬다. 2장 ‘인공지능은 중립적인가’에서는 과학기술은 과연 순수하고 공정할까에 대한 문제 제기에서 출발하여 인공지능의 알고리즘을 설계하고 관리하는 사람 또는 집단의 성향, 선호, 가치 등의 요소에 왜 좌우될 수밖에 없는지를 살펴본다. 3장 ‘빅테크와 민주주의’에서는 미국의 전 대통령 트럼프가 트위터, 페이스북 등 빅테크(대형 정보기술 기업)를 상대로 벌이는 힘겨루기에 빗대어 정치권 및 정부와 빅테크의 대결 구도를 여러 각도에서 다룬다. 4장 ‘가짜 뉴스와 정치적 양극화’에서는 2020년 대선 이후로 더욱 깊어진 미국의 정치적 균열과 양극화를 부추긴 가짜 뉴스의 실태를 비롯해 세계 여러 나라에서 가짜 뉴스에 대한 대응을 조목조목 다룬다. 5장 ‘인터넷과 음모론 정치’에서는 많은 사람이 온라인에서 진실, 거짓 그리고 오해를 불러일으키는 내용을 구별하기가 어렵고, 따라서 의도하지 않게 선동적 또는 선전적인 자료를 공유하는 데 따른 위기를 다양한 각도에서 살펴본다. <br/><br/>6장 ‘미?중 경쟁의 핵심: 데이터’에서는 미국과 중국이 벌이는 데이터 경쟁 국면에서 파생되는 양극 체제의 문제를 심도 있게 다룬다. 7장 ‘미국의 인공지능 정책’에서는 인공지능 기술에 대한 대중 신뢰와 미 연방정부의 인공지능 기술 수용에 대한 지침들을 소개한 뒤, 인공지능 규제와 혁신을 위한 대서양 협력 관계 구축에 대해 살펴본다. 8장 ‘블록체인과 정치 개혁’에서는 블록체인 투표에 대한 관심과 함께 암호화폐를 이용한 정치 후원금 등의 문제점을 살펴보면서 블록체인 민주주의의 실현 가능성을 다룬다. 9장 ‘기후변화의 정치’에서는 지구온난화에 따른 미국의 대응 전략과 함께 기후변화 문제에 어떻게 대응하는지를 살펴본다.