“찰리 채플린의 영화 〈모던 타임즈〉는 인간의 육체가 기계의 부품이 되어 가는 소외를 그렸지만, 이제 그 기계의 역할을 알고리즘과 인공지능이 넘겨받았다. 우리의 뉴런은 점점 알고리즘과 플랫폼, 인공지능이 자아내는 기계 신경망의 일부가 되어 간다. 어떤 사물을 머리에 떠올리는 것만으로도 광고가 송출되고, 느낌을 상상하기만 해도 비슷한 모양새의 콘텐츠들이 나를 둘러싼다. 비슷한 견해, 취향을 가진 사람들과 수없이 연결되지만 언제나 외롭다고 느낀다. 이 수많은 영상과 광고, 그리고 커뮤니케이션은 어디에서 비롯된 것일까? 누가 그것들을 만들고, 누가 통제하는가? 마음과 정보 기계들의 네트워크 사이에 보이지 않는 톱니바퀴들이 있고, 우리는 이 기계들이 생산하는 생각의 상품들 속에서 노예화되고 있는 것은 아닐까?”
--- p.10
“임금을 주지 않으면서도 노동을 하도록 할 수 있는 새로운 체스판, ‘플랫폼’이 도입되기 시작한 것이다. 이 체스판은 겉보기엔 이전과 다를 바가 없다. 그러나 그 안쪽에는 교묘히 열과 행마를 바꾸는 기계 장치들이 설치되어 있다. 알고리즘이 바로 그것이다. 알고리즘이 작동하면, 노동 진영의 수는 매번 자충수가 돼버리고 만다. 이를 눈치챌 길이 만무한 사람들은 몰래 룰을 바꿔 버린 자본가들에게 항의하는 것이 아니라 체스 공부를 덜 한 자신, 결정적인 순간에 잘못된 선택을 한 자신을 자책한다. 체스는 이제 자본이 노동을 수탈하는 일방적인 게임이 되어 가고, 룰은 이해하기 어려워질 정도로 복잡해졌다.”
--- p.19
“퍼스널 컴퓨터와 인터넷이 삶에서 보편화하면서, 컴퓨터의 작동 방식에 따라 상징과 정보가 가치화되고 처리되는 ‘비물질 노동(immaterial labour)’이 도래한다. 대규모 자동차 공장과 노동조합의 시대가 저물고 인간 지력이 직접 컴퓨터·정보 기계와 피드백을 주고받는 시대가 왔다.”
--- p.21~22
“우리가 메신저와 채팅방, 영상 채널, 소셜 미디어 피드에서 주고받는 모든 신호는 일종의 수학적 영향력으로 환산되는데, 알고리즘은 이를 정량 평가하여 위계화하는 역할을 한다. 1만 유튜버, 10만 유튜버, 100만 팔로워, 조회 수 10만 회의 글, 댓글 3000건이 달린 포스팅 등. 빅테크가 체스판 밑에 깔아둔 알고리즘은 이처럼 인간 커뮤니케이션을 수평적·민주적 참여로 이끄는 것이 아닌 ‘기여(contribution)’의 정도에 따라 더 많은 정보와 가치가 주어지는 방향으로 행마를 유도한다.”
--- p.23
“알고리즘은 문화 창조보다 더 기저의 인간 인지 활동들, 예컨대 보고, 듣고, 느끼고, 표현하고, 감각하는 등의 행위에 개입한다. 근대의 방직기와 증기 기관이 산업 기계라면, 알고리즘은 인지 기계다. 산업 기계는 물리적 층위에서 작동하지만, 인지 기계는 물리적 세계(physical)와 디지털digital이 결합된 합성계, ‘피지털physital’8의 층위에서 움직인다.”
--- p.26
“그러나 알고리즘 자본주의 국면에서 빅테크 기업들은 노동자들을 고용하지 않는다. 그들은 플랫폼을 만들어놓은 다음, 마치 지주들이 소작농에게서 공물을 받아내는 것처럼 수수료 수익으로 부를 쌓는다. 핵심은 임금과 노동 착취가 아닌, 외부화된 노동과 지대다.”
--- p.29
“오늘날의 인터넷에는 이용자를 이윤의 사슬로 옭아매는 알고리즘으로 가득하다. 이 인지 기계들은 읽고 쓰고 해석하는 행위를 통해 세계를 분석해 온(그리고 변화시켜 온) 근대적 주체를 연산주의로 억누른다. 검색 엔진의 키워드 자동 완성, 구글의 페이지랭크 알고리즘, 소셜 미디어의 피드 알고리즘과 추천, 홍보 알고리즘, 인공지능과 거대 언어 모델 등이 그 중심에 있다.”
--- p.35
“요컨대 구글이 우리에게 1페이지 가장 윗줄부터 보여 주는 웹페이지들은 가장 많이 링크가 걸려 있고 가장 많이 본 페이지들이지 ‘가장 중요한 정보’가 아니다. 구글 검색에 ‘마르크스’라는 키워드를 검색해 보자. 제일 윗줄의 웹페이지는 위키피디아다. 그 다음은 나무위키다. 그다음으로는 언론사들의 웹페이지가 나열된다(영어로 검색하면 나무위키 대신 브리태니커 백과와 엔사이클로피디아가 그 자리를 차지한다). 위키피디아와 나무위키는 집단 지성이 만들어 내는 웹페이지로 가장 링크가 많이 걸리며, 하이퍼텍스트에서 항상 최상위를 차지한다.”
--- p.75~76
“유튜브의 총 재생 시간의 70퍼센트는 이용자가 직접 영상을 찾아 플레이한 것이 아니라 키워드 연관성에 입거한 추천 알고리즘이 자동으로 재생한 것이었다. 유튜브는 2007년 이후 그간 축적한 이용자 데이터를 바탕으로 해서, 검색과 추천 알고리즘을 강화했는데 이는 이용자들의 개인적 취향을 분석해 반영한 결과이기도 하지만 거꾸로 이용자들이 자신의 개인적 취향을 알고리즘 추천에 맞춰 바꾸기도 하는 결과를 야기했다.'”
--- p.82
“요컨대 알고리즘과 인공지능 혁신 이후 일자리는 줄어드는 것이 아니라 늘어난다. 그러나 이는 좋은 일자리들이 점차 사라지고 그 빈자리에 더 많은 나쁜 일자리들이 들어선다는 것을 의미한다. 플랫폼과 알고리즘이 파이 조각을 빵 부스러기로 뭉갠 다음 테이블 아래에 뿌리면, 줄 선 사람들이 차례로 허겁지겁 핥아먹는다고 생각하면 된다.”
--- p.154
“정규 고용 부문은 이렇게 변한다. ‘생성 인공지능이 있으니 그깟 디자인이야 30분이면 할 수 있잖아? 남들은 다 구독료 내고 쓰던 걸.’ 비정규 고용·비임금 노동 부문은 이렇게 된다. ‘생성 인공지능이 있는데 뭐가 걱정이에요? 다른 분들은 다 이 단가에 서너 건씩 동시에 작업하고 계세요. 이 보상이 불만이시면 계약하지 마시든가요. 더 싸게 할 분들이 많으니까요.’ 상사가 시켜서, 회사 방침이 바뀌어서, 법이 바뀌어서가 아니라 인공지능이라는 마법 같은 단어에 담긴 비인간 노동 행위성이 우리를 굴종시킨다.”
--- p.173~174