디지털 시대의 본질은 새로운 변화가 끝없이 몰아치는 세상이라는 겁니다. 첨단 기술과 도구, 그로 인한 경제와 산업의 변화, 문화 현상 등을 따라잡지 않으면 이내 세상을 이해하지도, 주도적으로 삶을 설계하지도 못하게 됩니다.……디지털 기술이 산업과 사회의 구조와 질서를 바꾸는 것을 이해하기 위해서는 관련 기술의 구체적 개념과 적용 사례를 아는 게 첫걸음입니다. 바로 그것이 이 책에서 다루는 열쇳말들의 목록입니다.
---「서문-디지털 세상을 여는 열쇳말 100」중에서

로봇이 ‘신속 정확’하게 기사를 작성하고 투자 자문을 하는 것을 바라보는 두 관점이 교차한다. 하나는 사람의 영역으로 여겨져 온 일을 로봇이 빼앗는다는 불안감이고 다른 하나는 로봇에 맡길 수 있는 일은 로봇에 맡기고 사람은 로봇이 할 수 없는 일을 하면 된다는 관점이다. 이는 전자계산기나 엑셀 같은 수식 관리 프로그램을 바라볼 때와 유사하다. 암산과 계산 능력에서 기계와 경쟁하려 하면 승산이 없지만, 전자계산기와 엑셀을 활용해 기존 업무를 개선하려고 나서면 그 도구는 일자리를 위협하는 칼이 아니라 자신이 활용할 수 있는 유용한 칼이 된다. 일을 과거의 관점으로 보는 대신 강력한 도구를 활용해서 어떻게 새롭게 할 수 있을까 고민해야 하는 상황이다.
---「005 로보어드바이저」중에서

컴퓨터가 할 수 없고 사람만 할 수 있는 기능은 ‘질문하기’다. 사람은 다른 어떠한 생명체도 갖지 못한 호기심과 인지적 불만족을 지닌 존재다. 사람들이 알베르트 아인슈타인에게 천재성의 비밀을 물어볼 때마다 아인슈타인은 “나는 별다른 재능이 없다. 다만 호기심이 왕성할 따름이다”라고 답했다.
다행히 스마트폰 환경에서는 “왜 그런데? 왜 그래야 하는데”라고 묻는 것으로도 실마리를 풀 수 있다. 즉시 답변해주는 기계를 거느리고 사는 환경에서는 ‘똑똑하게 질문하는 법’을 가르치는 게 교육과 인간 개발의 새로운 목표가 되고 있다.
---「011 검색엔진」중에서

최근 각광받는 인공지능 딥러닝은 ‘은닉층Hidden Layer’에서 작동하는 게 특징이다. 기술의 구조가 눈에 보이지도, 이해되지도 않지만 결과는 비할 수 없이 효율적이다. 그러나 기술만 숨어버린 게 아니다. 기술 발달은 사람의 존재도 보이지 않게 만들고 있다. 인공지능 또는 자동화 기술의 편리함에는 많은 경우 사람의 노동이 가려져 있다. 이런 ‘그림자 노동’을 인공지능 환경에선 아예 드러나지 않는다고 해서 ‘유령노동’이라고 부른다.……《어린 왕자》에서 사막여우는 “중요한 것은 눈에 보이지 않아”라고 우리를 일깨워준다. 인공지능 서비스와 플랫폼 경제의 편리함과 광휘에 가려져 있는 사람의 역할을 보이게 만드는 것이 앞으로의 과제다.
---「025 유령노동」중에서

인공지능에 데이터를 입력하고 결과를 출력하지만 딥러닝 방식은 인공지능이 어떤 과정을 거쳐서 결과를 출력한 것인지 설명할 수 없다. 하지만 결과는 알파고처럼 효율적이고 완벽해 사람들이 기꺼이 채택할 수밖에 없는 것이다. 강력하지만 작동구조가 보이지 않고 그 원리를 알 수 없는 힘, 우리는 그것을 마법이라고 부른다.……존재를 숨긴 기술은 사용자에게 편리해 보이지만, 기술의 막강한 속성을 이해하지 못하거나 존재를 의식하지 않고 사용하는 사람을 위험에 빠뜨린다. 정보 비대칭을 이용해 설계자들과 권력자들은 우리의 일상을 지배하도록 기술을 설계하고 운용하기 때문이다
.---「048 인터넷의 종말」중에서

미국의 저명한 웹디자인 컨설턴트인 에릭 마이어는 2014년 6월, 딸 레베카의 여섯 번째 생일에 그녀를 뇌암으로 잃었다. 페이스북은 마이어에게 딸의 생전 사진을 보여주며 ‘행복한 한 해였습니다. 함께 해주셔서 감사합니다’라는 기본 설정된 메시지를 계속 보내며 아픈 상처를 자극했다.
마이어는 그해 12월 24일 자신의 블로그http://meyerweb.com에 〈부주의한 알고리즘의 잔인함Inadvertent Algorithmic Cruelty〉이라는 글을 올려, 페이스북의 의도하지 않은 잔인함을 고발했다. 마이어는 “알고리즘은 본질적으로 생각이 없다. 알고리즘은 특정한 결정 흐름을 모방하지만, 일단 작동시키면 사유 과정이 없다”라고 지적했다. 그는 생각 없는 알고리즘에 우리의 삶이 내맡겨져 있다며, 개발자와 디자이너는 ‘최악의 경우’를 상정하면서 설계해야 한다고 말했다.
---「060 좋아요」중에서

인터넷에는 ‘무료’인 서비스가 많지만, 대부분 광고를 통한 수익모델로 돈을 번다. 서비스 기업들은 항상 사용자 편의와 만족을 강조하지만 실제로는 업체의 이윤 추구가 우선이다. 인터넷의 다양한 서비스는 거대한 플랫폼을 형성하고 사회적 영향력이 큰 경우도 많아 ‘내가 안 쓰면 그만’이라고 가볍게 지나칠 일도 아니다.……《통제하거나 통제되거나Program or Be Programmed》의 저자인 미디어학자 더글러스 러시코프는 “돈을 내지 않고 사용한다면 당신이 상품이다”라고 말한다. 인터넷의 공짜 서비스에서 이용자는 고객이 아니라 상품이라는 말이다.
---「075 무료 서비스」중에서

우리는 이세돌 9단과 알파고의 대결을 보며 인공지능의 빠른 연산, 무한한 정보 저장 및 검색 능력, 논리적 추론력에 압도당하며 공포심을 가졌지만 사람 두뇌는 인공지능과 다른 장점을 갖고 있다. 학습과 경험에 따라 변형되는 가소성과 유연성이다. 성인의 뇌도 끊임없이 새로운 뉴런 연결을 만들어낸다는 게 여러 연구를 통해 밝혀져 있다.
뇌 연구자들은 인공지능에 사람 뇌와 유사한 가소성을 가르치는 게 무엇보다 어렵다고 말한다. 아이러니다. 포스트휴머니즘은 인 간 뇌를 컴퓨터와 연결시키는 공상과학적 상상을 하게 한다. 하지만 인공지능이 사람 뇌의 가소성과 유연성을 따라잡는 것은 매우 어려운 과제다. 포스트휴먼 사회에서 우리는 점점 더 전자적 두뇌와 도구에 의존하게 되겠지만, 그럴수록 사람만의 유연성과 가소성이 인간의 핵심이 된다.
---「078 뇌 임플란트」중에서

국제로봇연맹에 따르면, 2019년 한국의 노동자 1만 명당 산업로봇은 싱가포르에 이어 세계 2위다. 배달, 서비스, 운전 등 플랫폼 노동의 업무 배정에도 인공지능 활용 알고리즘이 광범하게 채택되고 있다.
그런데 택배 노동자들을 잇단 사망으로 내몬 플랫폼 노동의 배경에 ‘인공지능 사장님’이 있다는 사실이 드러나 충격을 주고 있다. 배달 플랫폼의 ‘인공지능 추천 배차’는 라이더들에게 25분 거리를 ‘15분에 가라’라는 식으로 지시하고 있지만, 그 지시를 내리는 ‘인공지능 사장’은 보이지 않는다. 인간인 작업 관리자에겐 항의나 불평이라도 쏟아낼 수 있지만 보이지 않는 알고리즘에겐 대항할 방법이 없다. 인공지능 알고리즘이 가쁜 호흡을 몰아쉬며 계단을 오르내리는 플랫폼 노동자들의 절박한 사정을 공감할 리 없다.
---「097 인공지능 사장님」중에서

보스턴대학교의 법학자 다니엘레 시트론은 “알고리즘을 객관적이라 생각해 신뢰하는 경향이 있지만, 그 알고리즘을 만드는 것은 사람이므로 다양한 편견과 관점이 알고리즘에 스며들 수 있다”라고 말한다. 사람의 판단에 비해 공정성과 효율성을 높일 것이라고 기대받은 소프트웨어 알고리즘이 오히려 성별, 인종, 소득에 따른 차별을 강화하는 사례가 보고되며 이에 대한 비판도 높아지고 있다. 또한 컴퓨터 스스로 데이터를 통해 학습하는 머신러닝은 주어진 데이터의 한계를 벗어날 수 없다. 기존 데이터의 규모와 특성 그리고 그 데이터를 만드는 사람들의 속성이 반영되는 구조이기 때문이다.
국제적 정보감시단체 ‘알고리즘 워치’는 ‘알고리즘 의사결정 선언ADM 매니페스토’을 발표한 바 있다. 제1항은 “알고리즘은 결코 중립적이지 않다”, 제2항은 “알고리즘 의사결정을 만든 사람은 그 결과에 책임을 져야 한다”이다.

디지털의 혼돈에 대처하려면<br/>본질에 충실해야<br/><br/>“우리가 지식을 쌓을수록 세상은 더 빨리 변하고, 그 변화로 인해 우리는 세상에 대해서 점점 더 모르는 상태가 된다.……혼돈의 상태, 무지의 상태, 변화의 상태에 어떻게 대처할 것인지 가르치는 것이 최선이 될 것”_유발 하라리, 《사피엔스》 저자<br/><br/>저자가 〈한겨레〉의 ‘유레카’ ‘스마트 돋보기’ 등에 쓴 칼럼 중 디지털 시대의 현재와 미래를 가장 잘 보여주는 글들을 선정해 대폭 보완하고, 일부는 새롭게 써서 묶은 이 책은 총 4장으로 구성돼 있다.<br/><br/>1장 〈로봇을 이기는 스마트한 인재의 자질: 디지털 시대의 인재론〉은 로봇에 밀려나지 않고 살아남기 위해 필요한 자질에 대한 이야기다.<br/>사람들은 디지털 시대에 적응하려면 끊임없이 변하는 기술을 발 빠르게 익혀야 한다고 생각한다. 초등학교·중학교에서 코딩을 의무교육으로 가르치고, 심지어는 유치원에서까지 코딩을 조기 교육하는 게 대표적이다. 하지만 저자는 “교사가 가르쳐야 할 것과 가장 거리가 먼 것이 더 많은 정보”라는 유발 하라리의 말을 인용하면서 “응용 기술이 빨리 변할수록 교육은 핵심과 본질에 충실해야 한다”고 강조한다. 하루가 다르게 새로운 지식과 기술이 생겨나는 세상에서는 지금 등장한 지식과 기술도 금세 낡아버리기 때문에 오히려 인간의 본질적인 능력에 집중해야 한다는 말이다.<br/>실제로 구글이 직원들의 입사·퇴사·승진 데이터를 분석한 ‘옥시전 프로젝트’에서는 구글에서 성공하기 위한 여덟 가지 자질 중에서 과학·기술·공학·수학 분야의 전문성이 꼴찌인 여덟 번째로 나타났고, 좋은 코치되기·소통과 청취를 잘하기·관점과 가치가 다른 사람들에 대한 통찰 등이 1~3위를 차지했다. 디지털 기술이 급변할수록 오히려 로봇과 인공지능이 따라 할 수 없는 인문적·사회적 능력이 중요하다는 것이다.<br/><br/>2장 〈기술의 빛과 그림자: 알고리즘의 윤리론〉은 디지털 기술이 우리 일상생활에 가져올 변화와 그에 따라 새롭게 제기되는 윤리적 쟁점을 다룬다.<br/>디지털 기술의 특징 가운데 하나는 작동 원리를 알기 어렵다는 것이다. 인공지능 딥러닝은 ‘은닉층’에서 작동한다는 특징을 갖고 있어 기술의 구조가 눈에 보이지도, 이해되지도 않는다. “알파고 개발자도, 알파고를 대리해 돌을 놓은 프로기사 아자 황도, 바둑 중계를 해설한 프로기사들도 알파고가 왜 그 돌을 놓았는지 설명할 수 없었다.”<br/>독일의 자동차 회사 폭스바겐이 디젤엔진 차량의 배출가스를 감소시키는 소프트웨어 알고리즘을 조작해오다 발각된 ‘디젤 게이트’가 가능했던 것도 이 때문이다. 폭스바겐은 알고리즘 특성상 설계자 외에는 그 특성과 작동 방식을 알 수 없다는 사실을 이용해 장기간에 걸쳐 1,100만 대의 차량 소프트웨어를 조작하는 대규모 기만극을 자행할 수 있었다.<br/>이 책은 이런 사례를 통해 “숨어버린 기술의 지배를 받지 않으려면 기술의 구조와 성향을 의식하고 사용자인 우리가 좀 더 적극적으로 기술과 서비스에 인간적 욕구를 요청해야 할 것”이라고 조언한다.<br/><br/>아무리 기술이 발전해도<br/>진짜 중요한 결정은 사람의 몫<br/><br/>“우리는 말하는 기계를 만들어놓고 인간적이지 않은 물체에 인간의 속성을 불어넣으며 그것과 대화하려 애쓴다.”_셰리 터클, 《대화를 잃어버린 사람들》 저자 <br/><br/>3장 〈과잉연결 속에서 잃어버린 것들: 스마트폰과 SNS의 관계론〉은 스마트폰과 SNS가 바꾼 인간의 관계와 소통 방식을 설명한다.<br/>스마트폰과 SNS는 사람들이 24시간 상시 소통할 수 있도록 연결해줬고, 네트워크를 통해 언제든 새로운 정보를 접할 수 있도록 해줬다. 하지만 이런 ‘과잉연결’에는 부작용도 있다. 퇴근 후 업무 연락처럼 원치 않는 연결도 피할 수 없다는 점, 상대방과 서로 눈빛을 주고받는 대면 대화 대신 스마트폰만 들여다보는 비대면 대화를 하면서 타인에 대한 공감 능력이 갈수록 떨어진다는 점, 디지털 환경 속에서 계속해서 즉각적인 자극에 노출됨에 따라 집중력과 깊은 사고력을 잃어버리고 있다는 점 등이다. <br/>저자는 1년에 두 번 오두막에 머무는 ‘생각 주간’을 갖는 빌 게이츠, 1년에 한두 달은 외부와의 모든 연결을 끊고 명상에만 몰입하는 유발 하라리 등의 사례를 통해 휴식과 여유가 통찰력과 성취의 원동력임을 밝히고, “디지털 환경에서 삶이 숨 가쁘게 돌아갈수록 타인이나 기계에 방해받지 않는 자신만의 피난처이자 휴식 공간”이 절실해진다고 강조한다.<br/><br/>4장 〈로봇, 인공지능, 인간의 경계에서: 포스트휴먼의 존재론〉은 로봇과 인공지능의 발달이 가져올 인간 존재의 미래를 보여준다.<br/>디지털 기술의 발전은 로봇·인공지능·인간이 융합된 포스트휴먼을 탄생시키며, 인간이란 존재의 본질에 대한 의문을 던지고 있다. 전 세계에서 14만 명 이상이 뇌에 전극을 넣는 실험에 참여하고 있고, 로봇에 ‘전자인간’ 지위를 도입해 ‘로봇세’를 물려야 한다는 논의도 진행 중이다. 미국 캘리포니아주는 2019년 7월부터 ‘로봇 실명제’를 시행했다. 사람만의 본능이라고 생각했던 호기심을 모방하는 인공지능까지 등장하면서 우리는 ‘인간의 고유성이 무엇인가’라는 새로운 질문에 대답해야 하는 처지에 놓여 있다.<br/>하지만 이 책은 인간의 지위를 위협할 정도로 발달한 기술이라고 해도, 이런 기술을 만들고 운용하는 것은 결국 사람의 일이라고 말한다. 아무리 인공지능과 로봇이 고도로 발달해도 ‘자율주행차가 교통사고를 내면 누구 책임인가?’ 같은 질문에 답해야 하는 것은 인간이라며 “자동화 시대에도 여전히 진짜 중요한 결정은 사람의 몫”이라고 목소리를 높인다.<br/><br/>시간이 지나면 사라질 트렌드 대신<br/>오랜 뒤에도 유효한 ‘본질’을 말하는 안내서<br/><br/>“알고리즘을 객관적이라 생각해 신뢰하는 경향이 있지만, 그 알고리즘을 만드는 것은 사람이므로 다양한 편견과 관점이 알고리즘에 스며들 수 있다.”_다니엘레 시트론, 보스턴대학교 법학 교수 <br/><br/>이 책은 최첨단의 디지털 기술과 기기를 키워드로 삼지만, 기술과 기기에 대한 과학적·공학적 설명이나 이들이 시장과 산업을 어떻게 바꿀지에 대한 트렌드 분석을 중심에 두지 않는다. 그보다는 ‘그러한 강력하고 편리한 도구로 인해 나의 삶과 사회적 관계는 어떠한 변화에 직면하게 될까’라는, 디지털 시대를 살아가는 우리 모두가 함께 사유해야 할 인문학적 고민에 초점을 둔다. 빠르게 등장했다가 사라져버릴 트렌드에 집중하는 대신 트렌드의 저변에 놓인 거대한 흐름을 읽고 이해하는 방법을 알려주고, 기술이 변해도 인간을 인간답게 만드는 인간 본연의 능력과 특징에 주목한다. 그래서 이 책은 시간이 지나고 디지털 기술이 아무리 발전해도 여전히 유효할, ‘인공지능 세계를 유랑하는 이주민을 위한 안내서’다.