오늘날 우리는 이와 비슷한 역설적 상황에 놓여 있다. 수십 년 전, 세상에 가치를 더할 것이라고 여겨 선택한 마법과 같은 기술들이 오히려 우리를 복잡한 문제와 알 수 없는 위험, 나아가 어떤 결과를 낳을지도 모르는 결단으로 이끌고 있다. 특히 인공지능과 로봇공학은 업계, 노동계 지도자, 정책 당국, 학계에 경종을 울리는 일련의 사악한 문제의 중심에 서 있다. 자율주행차의 등장은 운전으로 생계를 꾸려나가는 사람들에게 어떤 영향을 미칠까? 이제 인공지능은 비행기를 조종하기도 하고, 의사에게 가장 좋은 치료법을 조언하기도 한다. 또 스포츠 기사와 경제 기사를 작성하기도 하고, 실시간으로 가장 빠른 출근길을 알려주기도 한다. 기업의 인력 수요를 실시간으로 파악해 직원들에게 권장 출퇴근 시간을 공지하기도 한다. 기존의 컴퓨터가 사람을 위해 일했다면 이제는 갈수록 인간이 컴퓨터를 위해 일하고 있다. 알고리즘이 새 상급자가 된 것이다.
기술이 활성화된 네트워크와 시장에서 사람들이 일하는 시간과 일의 양을 선택할 수 있다면 미래의 비즈니스는 어떻게 될까? 주문형 학습으로 최신 지식과 기술을 습득하는 것이 기존 대학 교육보다 앞선다면 교육의 미래는 어떻게 될까? 알고리즘이 자신을 만든 소유주의 이익을 위해 우리가 무엇을 보고 읽을지 결정한다면 미래의 미디어와 대중매체는 어떻게 될까?
‘머리말’ 중에서 _ 29P
지식은 쓰는 능력이 출현하기 전부터 사람과 사람의 지성을 통해 퍼져나갔다. 하지만 인쇄된 단어 덕분에 아이디어와 뉴스가 먼 거리에 있는 사람들에게도 걷는 속도로, 말의 속도로, 증기선과 철도의 속도로 갈수록 빨리 전달될 수 있었다. 전화와 전신을 통한 최초 전자 전송은 수주에서 수개월이 걸리던 것을 단 몇 분으로 단축했다. 라디오와 텔레비전의 경우 전송은 거의 실시간으로 이루어졌다. 다만 당시 미디어는 전파 채널이 매우 제한적이었으며, 전파될 내용의 제작과 검토도 방송사 사무실에서 여전히 느리게 진행되었다. 하지만 그 후 인터넷, 특히 인터넷과 스마트폰의 결합은 이 모든 상황을 바꿔놓았다. 누구든 원하는 콘텐츠를 언제든 공유할 수 있었고, 또 이 정보를 골라 전보다 빨리 전파할 수 있었다.
네트워크를 통해 퍼져나가는 것은 비단 아이디어와 최신 뉴스만은 아니다. 우리는 정보에 대해 ‘입소문이 퍼진다’라고 말하지만 실은 우리의 의지와 상관없이 스스로 복제와 확산을 일삼는 악성 프로그램도 이와 똑같은 일을 하도록 설계되었다. 하지만 악성 바이러스라는 부작용보다 중요한 것은 네트워크에서 익명의 사람들이 서로 기꺼이 협력한다는 점이다.
2장 - '글로벌 브레인의 탄생과 진화' 중에서 _ 97P
통찰력의 실패로 이어지는 많은 사례가 바로 이처럼 정신이 통찰력을 일시적으로 발휘하지 못하는 상태다. 한번은 전성기에 14만 명의 직원을 거느렸던 코닥과, 2012년 페이스북에 10억 달러에 팔릴 당시 직원이 13명뿐이던 인스타그램을 비교한 적이 있다. 우리는 코닥의 눈에 씌었던 잔상(코닥의 통찰력 실패)을 대수롭지 않게 덮어버리고, 그저 많은 일자리가 사라져 버렸다고 말할 수도 있다. 하지만 파산한 코닥을 뒤로하고 디지털 사진의 새 얼굴이 된 인스타그램이 존재하고 번영하기 위해서는 적잖은 할 일이 있었다. 즉 모든 휴대전화에 디지털 카메라가 포함되어 통신 네트워크에 연결되어야 했고, 네트워크가 보급되어야 했으며, 작은 신생기업이라도 수천만 명의 사용자를 지원할 수 있도록 데이터센터에서 해당 호스팅 서비스를 해야 했다(페이스북에 팔릴 당시 인스타그램의 사용자 수는 약 4,000만 명이었고 현재는 5억 명이다). 인스타그램에 이런 기술을 제공하는 애플과 삼성, 시스코와 화웨이, 버라이존과 AT&T, (인스타그램이 원래 호스팅 된) 아마존웹서비스, 페이스북의 자체 데이터센터 등의 직원들을 모두 더해보자. 그러면 마치 산맥과 같이 큰 규모의 직원이 보일 것이다. 거기서 인스타그램이 차지하는 직원 수는 하나의 작은 바위에 불과하다.
5장 - ‘네트워크와 기업 조직의 본질’ 중에서_ 170p
알파고가 세계 바둑 최고수인 이세돌을 이겨 세간의 이목을 집중시킨 사건은 인공지능의 이정표가 되었다. 그도 그럴 것이 게임의 난이도나 가능한 모든 수에 무차별 대입해 분석하는 것은 사실상 불가능했기 때문이다. 하지만 딥마인드의 공동설립자 데미스 하사비스DemisHassabis는 “진정한 인공지능의 특징인, 인간이 할 수 있는 모든 지적 작업을 유연하게 실행하는 방법을 배울 수 있는 기계는 아직 먼 훗날의 일”이라고 말한 바 있다. 얀 르쿤은 또한 알파고가 거둔 승리의 중요성을 과소평가한 사람들을 비난하면서 이렇게 썼다.
“대부분 인간과 동물의 학습은 자율학습이다. 지성이 우리가 먹는 케이크라면, 자율학습이 그 케이크이고, 지도 학습은 케이크를 생크림 등으로 발라 매끄럽게 하는 아이싱icing이며, 강화학습은 케이크의 체리일 것이다. 우리는 아이싱과 체리를 만드는 법은 알지만, 케이크를 만드는 방법은 잘 모른다. 진정한 인공지능을 만들 생각 21을 하기 전에 먼저 자율학습 문제를 해결해야 한다.”
이때 인간은 모델 설계뿐 아니라 모델을 훈련시키기 위해 입력하는 데이터에도 항상 연관된다. 그런데 여기서 의도치 않은 편향이 생길 수 있다. 인공지능에 대한 가장 중요한 문제는 새로운 알고리즘의 설계가 아니라, 알고리즘을 훈련시키기 위한 데이터 세트가 본질에서 편향되지 않았음을 어떻게 확신할 것이냐이다.
8장 - ‘디지털 노동자와 인공 지능‘ 중에서 _ 265~266p
시리나 구글 어시스턴트, 코타나, 아마존의 알렉사와 같은 개인 비서는 우리가 말하는 것을 듣고 인간 목소리로 대답하면서 그야말로 ‘인공지능’으로서 우리를 깜짝 놀라게 했다. 그렇다고는 해도 그들이 실제로 똑똑한 것은 아니다. 즉 이들은 현명하게 프로그램밍이 된 시스템이고, 그 마법의 상당수가 가능한 까닭은 어떤 인간보다 빨리 처리할 수 있는 엄청난 양의 데이터에 접근할 수 있기 때문이다.
그러나 아무리 복잡한 시스템이라도 전통적 프로그래밍과, 인공지능의 최전선에 있는 딥 러닝 기술을 비롯한 관련 기술 사이에는 중요한 차이점이 있다. 그것은 바로 모든 절차를 나열하기보다 이미지 인식기 또는 분류기 같은 기본 프로그램을 구축한 다음, 자체적으로 데이터 패턴을 인식할 때까지 인간이 분류한 많은 양의 데이터를 입력해서 훈련하는 데 있다. 우리가 프로그램에 성공한 예시를 가르치면, 프로그램은 우리를 모방해 배운다는 말이다. 이는 프로그램이 갈수록 독립적인 존재로 바뀔 것이라는 두려움을 심어줄 것이다.
11장 ‘하이브리드 지능의 보이지 않는 손’ 중에서 _ 354P
현재 금융시장이 기대는 실패한 철학은 실물경제를 빈껍데기로 만들고 불평등을 늘리기 일쑤다. 플랫폼 회사가 이런 실수에서 벗어날 생각이라면, 반드시 동종업계 생태계가 건전성과 지속가능성을 유지하도록 온 힘을 다해야 한다. 이는 이상이 달린 문제가 아니다. 자기 이익이 달린 문제다. 플랫폼 회사가 자신의 가치를 지나치게 떠받들 때 길을 잃기 마련이다.
유튜브 같은 동영상 호스팅 사이트는 통신망 플랫폼이 어떻게 기존 사업체도 플랫폼에 참여시키고 성장하게 하여 새로운 고용 형태를 만들어낼 수 있는지를 이해하기 좋은 본보기다. 유튜브가 나오기 전에 세상과 동영상을 공유하는 비용이 얼마일지 상상이나 할 수 있었는가? 누구나 동영상 수십억 편을 볼 수 있다고 생각해본 적이 있는가? 그것도 공짜로? 유튜브가 세상에 나온 지 10년이 지났고 매출이 90억 달러를 넘겼다고 추정되지만, 알려진 바에 따르면 아직 수익은 나지 않는다. 동영상 콘텐츠를 빠른 속도로 배포하는 호스팅에 드는 비용 구조는 어마어마하게 크다. 유튜브의 동영상 대다수에는 광고가 붙지 않지만, 동영상으로 돈을 벌 때는 그 돈을 동영상 창작자와 나눈다. 동영상을 올린 사람에게 55퍼센트를 주므로, 플랫폼 회사는 45퍼센트를 가져간다.
13장 '슈퍼 머니와 기업의 참된 가치' 중에서 _ 432P
문명화에서 맨 처음 나타난 진보에도 이런 사이보그 특성이 있었다. 인간이 기술과 결합한 덕분에 만물의 주인이 되었고, 어떤 짐승의 발톱보다 단단하고 날카로운 무기와 연장을 얻었다. 그리고 곡물을 개량해 야생종보다 훨씬 많은 식량을 생산하고, 동물을 길들여 더 강하고 빨라진 것은 말할 것도 없고, 우리의 강인함을 갈수록 멀리 떨쳐 가장 사나운 짐승마저 사냥하여 쓰러뜨렸다. 언젠가 시베리아와 알래스카를 잇는 베링 육교 횡단을 설명한 내용을 읽은 적이 있다. 그 글에서는 희한한 근거를 바탕으로 횡단이 가능했을 연대를 분석했다. 작가는 ‘바느질을 발명하고 나서야’ 베링 육교를 횡단할 수 있었다고 적었다. 옷이 몸에 꼭 맞도록 바느질로 조각을 이어 붙여야 추운 지역에서도 살 수 있기 때문이다. 바느질이라니! 뼈바늘로 가죽이나 천을 잇는 바느질도 한때는 미래에 펼쳐질 기술이었다. 그리고 이전에는 생각하지 못했을 일을 가능하게 했다. 똑같은 양의 노동과 에너지, 원자재를 투입해도 성과는 더 많이 얻는 생산성 향상은 모두 인간과 기계를 하나로 묶는 데서 나왔다. 현대 세계의 부는 그런 생산성을 가속하고 결합함으로써 탄생했다. 예를 들어 1820년의 농업 생산성은 100년 뒤인 1920년이 되어서야 두 배로 늘어났지만, 그로부터 다시 두 배가 되기까지는 30년, 다음에는 15년, 그다음에는 10년밖에 걸리지 않았다.
15장 '사람에게 투자하라' 중에서 _ 479~480P
---본문 중에서