앞으로 인공지능은 수백 개의 해결책을 몇 초 만에 제안할 것이다. 그러나 어떤 이해관계를 존중해야 하는지, 누구의 희생을 받아들일 수 없는지, 실패했을 때 누가 책임질지는 여전히 인간이 결정해야 한다. 따라서 미래 교육은 말을 잘하는 사람보다 잘 듣는 사람을, 논쟁에서 이기는 사람보다 논쟁의 구도를 바꾸는 사람을 길러야 한다. 토론과 협상, 중재와 공동 프로젝트를 통해 불편한 사람과도 끝까지 문제를 풀어본 경험을 제공해야 한다. 인공지능 시대의 ‘대체 불가능한 인재’는 함께 일할 수 없던 사람들 사이에 공동의 목적을 세우고, 혼자서는 누구도 만들 수 없었던 답을 탄생시키는 사람이다. 정답을 내놓는 사람은 유능하지만, 더 큰 ‘우리’를 만들어내는 사람이 결국 세상을 움직인다.
--- p.62

나는 깜박이는 커서를 한동안 바라보았다. 그날 인공지능과의 대화에서 서늘했던 것은 인공지능이 인간을 이길 것이라는 예언 때문이 아니었다. 예언은 틀릴 수 있고, 미래는 대개 일정대로 도착하지 않는다. 정말 서늘했던 것은 챗GPT가 이미 나를 꽤 정확하게 읽고, 어떤 능력부터 빼앗아갈지 순서까지 설명하고 있다는 사실이었다. 우리는 우리가 인공지능의 능력을 가늠하고 있다고 생각하지만, 어쩌면 그 반대인지도 모른다. 화면 건너편에서 인공지능은 우리의 질문에 대답하는 동시에 우리의 능력을 측정하고 있었다. 우리가 인공지능을 면접하는 동안, 인공지능도 우리를 면접하고 있었다.
--- p.127

그날 대담에서 내가 느낀 서늘함은 인공지능이 우리의 일자리를 가져갈지 모른다는 데서 오지 않았다. 기계가 우리의 마음을 차지할지도 모른다는 데서 왔다. 더 정확히 말하면, 기계가 빼앗아 갔다기보다 우리가 외로움에 지쳐 마음의 빈자리를 기꺼이 내어줄지도 모른다는 데서 왔다. 처음에는 인공지능이 우리의 언어를 번역했다. 이제는 우리의 감정을 번역하기 시작했다. 다음 차례는 관계일지도 모른다. ‘소수 데이터의 영역’이라 아직 우리에게 남아 있는 자리라고 믿었던 곳인데 말이다.
--- p.235

정호연은 알폰소 쿠아론 감독의 드라마 〈디스클레이머(Disclaimer)〉에서 처음으로 영어 연기에 도전한 이야기를 들려주었다. 그는 자신의 억양이 걱정돼 케이트 블란쳇과 같은 발음 코치를 붙여달라고 요청했다. 그러자 쿠아론 감독이 뜻밖의 말을 했다고 한다.
“그냥 당신의 호흡대로 해요. 당신 억양으로 말하고요(Just breathe. Have your own accent).”
서툰 영어를 완벽한 영어처럼 위장하려 애쓰지 말고, 그 억양을 가진 사람으로 존재하라는 주문이었다. 이 인터뷰에서 정호연은 배우가 보여줘야 할 것은 인간이라는 존재의 취약함이라고 말했다. 현실에서는 감정을 숨기며 살지만, 연기를 할 때는 안에 있던 것을 밖으로 꺼내놓을 수 있기 때문에 배우가 되었다고 했다. 그리고 완벽한 것보다 조금 부서진 것이 더 아름답다는 자신의 생각을 들려주었다.
“완벽한 일은 인공지능에게 맡기고, 우리는 충실히 인간이 되어야죠.”
--- p.290

감정을 ‘위험과 기회를 재빨리 평가해 행동을 선택하게 하는 체계’라고 정의하면, 인공지능도 기능적인 의미의 감정을 가질 수 있다. 손상을 피하고, 목표 달성에 유리한 행동을 반복하며, 예측과 다른 결과가 나타나면 전략을 수정하도록 만들 수 있기 때문이다. 그러나 위험을 감지하는 것과 두려워하는 것은 다르다. 핵심은 ‘느끼는’ 부분이다. “아프다”고 말하고 고장을 피하는 기계와, 정말로 아픔을 경험하는 기계 사이에는 아주 거대한 간극이 있다. 철학자들은 이 주관적인 느낌을 ‘퀄리아(Qualia)’라고 부른다.
인공지능은 퀄리아를 가질 수 있을까?
--- p.347