예술 현장에서는 두 목소리가 충돌합니다. “AI가 내 상상의 한계를 부쉈다.”라는 찬사와 “AI 생성물은 인간의 고통과 실패가 제거된 가짜 예술이다.”라는 비난이. 교육 현장에서도 두 목소리가 충돌합니다. “AI 덕분에 더 많이 알게 되고 더 깊이 생각하게 됐다.”라는 감동과 “AI 때문에 생각이라는 걸 전혀 안 하게 됐다.”라는 걱정이. 이 모든 혼란은 결국 하나의 질문을 가리킵니다. 인공 지능은 인간의 가능성과 잠재력을 우리가 지금껏 경험해 보지 못한 방식으로 끌어올려 줄까요? 아니면 인간이 창조적이고 비판적으로 생각하는 과정을 가로채 우리를 게으르고 멍청한 존재로 만들어 버릴까요?
--- p.13

결국 AI 시대에 일과 노동이란 숙련된 기술로 지시를 처리하는 게 아니라, 세상에 무엇이 필요하고 사람들이 무엇에 움직이는지를 알아내, 인공 지능과 함께 문제를 해결하는 과정입니다. 역사학자 유발 하라리는 일은 고정된 기술이 아니라 유연성이며, 노동은 끊임없는 재발명이라고 말합니다. 세계적인 경영 컨설턴트 세스 고딘도 이제 노동은 지시받은 대로 하는 일이 아니라 타인과 연결되어 정해진 답이 없는 문제를 해결하려 애쓰는 창의적 저항이라고 말해요. 그래서 우리가 먼저 질문해야 할 것은 ‘인공 지능이 내 일자리를 빼앗으면 어떡하지?’ ‘어떻게 기본 소득을 받을 수 있을까?’라는 물음이 아니에요. 우리에게 지금 필요한 질문은 ‘일과 노동은 나에게 어떤 의미일까?’ ‘내가 진짜 하고 싶은 건 무엇일까?’라는 물음이죠.
--- p.89

어떻게 인공 지능을 사용하는 게 지구에 도움이 되는, 꼭 필요한 사용일까요? 기후 재난을 예측하는 인공 지능은 필요하고, 음악을 창작하는 인공 지능은 불필요하다고 누가 결정할 수 있을까요? 1990년대 인터넷이 확산하던 초기에도 인터넷을 꼭 필요한 정보 공유에만 써야 한다는 목소리가 있었지만, 기술은 결코 필요의 영역에만 머물지 않았습니다. 인공 지능도 마찬가지입니다. 인공 지능을 쓰는 목적은 하나가 아니라 수백만 가지이고, 그 경계는 기술이 발전할수록 끊임없이 변할 테니까요. 또한 인공 지능 사용을 특정 용도로 제한하는 순간, 그 규제를 집행할 수 있는 주체가 필요해집니다. 누가 허용하고, 누가 금지해야 할까요? 이 결정 권한을 정부가 갖는다면 자칫 검열과 통제로 이어질 수 있고, 기업에 맡기면 회사에 유리한 방향으로 기준을 정하게 될 거예요. 인공 지능 사용 제한이 오히려 기술 독점을 강화하고 정보 격차를 더 키울 수 있습니다.
--- p.127

이미 방향을 바꾸려는 움직임이 있습니다. 일부 플랫폼에서는 체류 시간 대신 ‘의미 있는 상호작용’을 성공 지표로 쓰는 실험이 시작됐어요. 물론 기술적으로 설계를 바꾸는 일은 단순히 코드 몇 줄을 고치는 작업과는 하늘과 땅 차이로, 기업의 수익 모델과 기술적 근간을 동시에 흔드는 일이에요. 상당한 노력과 엄청난 비용이 발생하죠. ‘사용자를 중독시키지 않으면서도 유익한 정보를 줘라.’라는 모호한 가치를 수치화해서 인공 지능에게 학습시키는 것은 자칫 성능을 떨어뜨릴 수도 있고요. 하지만 이용자의 기분을 맞추고 아첨하는 대신, 객관적 사실과 윤리적 가이드를 우선하도록 학습시키는 가치 정렬 기술은 기업들이 마음만 먹으면 적용할 수 있습니다. 앞에서 이야기했던 RLHF를 떠올려 봅시다. 인간이 ‘이 답변이 더 좋다.’라고 평가하면 인공 지능이 그걸 학습해 다음엔 더 만족스러운 답을 하도록 훈련하는 방식이기도 해요. 슬퍼하는 사람에게 적절한 위로를 건네는 것도 바로 이 기술 덕분이에요. 이 기술의 방향을 바꾸면 다른 인공 지능이 됩니다. 지금은 이용자가 더 오래 머물고 더 많이 의존하는 게 ‘만족스러운’ 방향으로 되어 있지만 같은 기술로 정반대의 방향, 즉 사실을 정확하게 말하고 아첨하지 않는 인공 지능으로 바꾸는 것도 가능합니다. 어떤 방향으로 학습시키느냐는 기업의 선택입니다. 그리고 시민들이 기업의 선택을 바꾸게 할 수 있어요.
--- p.166

인류 공동의 문제를 고민하는 자리에 기후 위기와 불평등 이야기 대신 극소수의 슈퍼 엘리트들의 ‘기술적 유토피아’ ‘노동으로부터의 해방’ 이야기만 가득했어요. 영국 언론 가디언은 이런 다보스의 풍경에 ‘세계 지배의 서사’라는 헤드라인을 붙였습니다. 세계에서 가장 많은 돈과 가장 앞선 기술을 가진 극소수 사람들이 인류의 미래가 어떻게 펼쳐질지를 자기들 마음대로 결정하고 있었으니까요. 그러나 우리는 그들에게 우리 미래를 맡긴 적이 없습니다. 메 타의 마크 저커버그도, 엔비디아의 젠슨 황도, 오픈AI의 샘 올트먼도, 그 누구도 선거로 뽑힌 사람이 아닙니다. 그런데 이 사람들이 소유하거나 만든 AI 알고리즘이 지금 이 순간 우리 모두의 일상을 지배하고 있어요.