그런데 우리가 인스타그램이나 왓츠앱 같은 앱을 쓸 때 따로 돈을 내는 건 아니다. 이들 소셜 미디어는 그저 회원 가입만 해도 별 대가 없이 나와 친구의 소통을 이어 준다. 그럼 메타는 무엇으로 돈을 벌까?
메타의 기반은 매출의 98퍼센트를 차지하는 광고 매출이다. 회사가 벌어들이는 돈의 대부분을 광고로 벌어들인다는 뜻이다.
---p.18

그래도 다크 패턴은 갈수록 교묘해지고 있어 규제하기 애매한 경우가 많다. 빅 테크 플랫폼은 수많은 사람이 이용하기 때문에 슬그머니 한 사람당 1000원만 더 쓰게 만들어도 기업이 거둬들이는 이익은 막대해진다. 온라인 구독이나 정기 결제 회원 모집, 광고 클릭 유도 등을 포기할 수 없는 이유다. 이용자가 착각을 해서라도 일단 유료 회원 가입만 해 준다면! 혹은 실수로 광고를 클릭해 준다면!
---p.59

이 소식을 들은 우피 골드버그는 “다른 배우 5000명의 요소를 짜깁기해 만든 것에 우리 배우들이 맞서야 한다.”라고 말했다. 누구의 얼굴을 섞어 만든 것인지 모를 얼굴을 하고, 누구의 몸짓을 따라 하는 것인지 모를 행동을 하는 인공 지능 배우에, 고유한 얼굴과 몸짓을 지닌 인간 배우들이 맞서야 한다는 외침이었다.
---p.64

기술에 기술로 맞서는 시도도 있다. 벤 자오 미국 시카고대학교 교수는 카를라와 같은 예술가들을 만난 뒤 생성형 인공 지능의 ‘데이터 도둑질’을 막는 도구를 개발했다. 2024년 1월 19일 자오 교수 연구 팀이 정식으로 발표한 ‘나이트셰이드 1.0’은 한마디로 ‘생성형 인공 지능을 파괴하는 독극물’이다. 특별한 홍보가 없었는데도 출시 닷새 만에 25만 명이 내려받은 이 소프트웨어의 규칙은 ‘이것을 사용한다는 사실을 세상에 알리지 말라.’이다
---p.82

끼워팔기는 누가 할 수 있을까? 살 수밖에 없는 물건, 모두가 욕망하는 상품이나 서비스를 가진 회사만이 다른 걸 끼워 팔 수 있다. 그럼 온라인 세계에서 끼워팔기를 할 수 있는 이는 누구일까? 바로 유튜브처럼 강력한 서비스로 많은 이용자를 확보하고 있는 빅 테크들이다. 당신이 매우 원하는 이 서비스를 이용하려면 다른 상품도 같이 구입해야 한다는 권유 같은 협박. 끼워팔기는 승자 독식을 확대하는 대표적인 방법이라 할 수 있다.
---p.103

‘이용자 정보를 지켜 준다’는 철학이 해피엔드로만 끝났으면 좋았을 텐데, 늘 그렇듯 ‘익명성’이 보장되는 뒷골목에는 어둠의 그림자가 몰려들었다. 텔레그램은 전 세계에서 각종 사이버 폭력뿐만 아니라 현실 세계의 폭력으로 이어지는 범죄들의 강력한 기반이 되었다. 가짜 정보가 확산되는 데에도 악용됐다.
---p.131

이 결과가 더욱 충격적인 이유는 생성형 인공 지능 열풍이 분 지 2년여가 지나 서비스가 더 발전하여 흔히 ‘환각’이라 부르는 ‘헛소리 현상’이 많이 개선됐다고 알려졌기 때문이다. 특히 이번 BBC처럼 학습 데이터를 한정하거나 인용 출처를 밝히게 하는 방식은 ‘헛소리 현상’을 막는 대표적인 해결책으로 제시되어 왔다. 그런데 이 믿음이 배신당한 셈이다.
---pp.156-157

보고서에서는 전 세계적으로 데이터 센터와 인공 지능 서버의 전력 소비량이 2022년에서 2026년 사이에 두 배 이상 증가할 것으로 예상했다. 2024년 기준으로 챗지피티는 매일 50만 킬로와트 이상의 전력을 사용했는데 이는 미국 가정 18만 가구의 하루 전력 사용량에 해당한다. 메타가 소유한 데이터 센터 한 곳이 하루에 소비하는 전력량은 700만 대의 노트북이 하루 8시간씩 가동될 때와 맞먹는다.
---p.175