어딜 가나 사방에 AI가 있는 것처럼 보인다면, 이것은 ‘인공지능’이라는 단어가 가리키는 의미가 너무 많은 탓도 있다. 지금 SF 소설을 읽는 중인지, 새로 나온 애플리케이션을 판매 중인지, 대학에서 연구를 진행하는 중인지에 따라 AI의 뜻은 그때그때 달라진다. 누가 AI 챗봇이 있다고 하면, 그게 과연 C-3PO처럼 감정을 느끼고 의견을 가진다는 뜻일까? 아니면 그냥 주어진 문장에 대해서, 인간이 보일 것 같은 반응을 추측하는 알고리즘이라는 뜻일까? 그도 아니면 미리 정해진 답변 리스트와 질문 속 단어를 서로 맞춰보는 스프레드시트라는 뜻일까? 혹시 저 어디 시골에서 열악한 시급을 받으며 답변을 일일이 타이핑하고 있는 어느 인간을 가리키는 것은 아닐까? 심지어, 인간이 써놓은 완성된 대본을 인간과 AI가 마치 연극 속 캐릭터처럼 그냥 죽 읽고 있다는 뜻은 아닐까? 때에 따라 이 모든 게 AI라고 불리기 때문에 우리는 혼란스럽다.
--- p.17~18

‘AI가 초래할 재난’이라고 하면, 사람들은 AI가 명령을 거부하거나, 모든 인간을 죽여야겠다고 결정하는 모습, 또는 영화 〈터미네이터〉 속 로봇의 모습을 떠올린다. 하지만 이런 재난 시나리오는 어느 수준 이상의 비판적 사고와 인간과 비슷한 수준의 세상에 대한 이해를 전제하고 있다. 가까운 미래에 AI가 그런 능력을 보유할 수는 없을 것이다. 세계 최고의 기계학습 연구자인 앤드루 응의 말마따나, AI가 세상을 접수할 걱정을 하는 것은 화성에 인구가 너무 많아질까 걱정하는 것과 비슷하다.
--- p.40

2016년에 사망 사고가 있었다. 운전자는 도시의 길에서 테슬라의 오토파일럿 기능을 이용하고 있었는데, 원래 오토파일럿은 고속도로에서 사용하도록 만들어진 기능이었다. 자동차 앞을 트럭이 가로질렀는데, 오토파일럿의 AI는 브레이크를 밟지 못했다. 트럭을 피해야 할 장애물로 인식하지 못한 것이다. 충돌 방지 시스템을 설계한 모바일아이의 분석에 따르면, 그들의 시스템은 고속도로 주행용으로 설계되었기 때문에 추돌 사고만 피하도록 훈련되었다고 한다. 즉 해당 AI는 트럭을 뒤에서 인식하는 것만 훈련받고, 옆에서 인식하는 것은 훈련받지 못했던 것이다. 테슬라는 트럭을 감지한 AI가 트럭을 머리 위의 표지판으로 인식해 브레이크를 밟을 필요가 없는 것으로 판단했다고 보고했다.
--- p.85

내 목표는 로봇 팔을 훈련시켜서 팬케이크를 만드는 것이다. 첫 번째 테스트로 나는 로봇 팔이 팬케이크를 접시에 던져놓게 만들었다…. 첫 번째 보상 시스템은 간단했다. 사이클이 유지되면 매 프레임마다 작은 보상을 주는데, 만약 팬케이크가 땅바닥에 닿으면 사이클이 끝나버리게 만들었다. 이렇게 하면 알고리즘이 최대한 오랫동안 팬케이크를 팬에 둘 줄 알았다. 그러나 실제로 로봇 팔이 한 것은 팬케이크를 최대한 멀리 던져버리는 것이었다. 팬케이크가 공중에 머무는 시간이 최대화되도록 말이다…. 팬케이크 봇과 나의 점수: 1 대 0.
--- p.198

쓰러지는 법을 알아낸 것은 비단 AI만이 아니다. 대초원의 몇몇 풀들은 세대가 바뀔 때마다 자리를 이동하기 위해 수명이 다하면 몸을 쓰러뜨린다. 자신이 서 있던 곳보다 자신의 줄기 길이만큼 먼 곳에 씨앗을 떨어뜨리는 것이다. 워킹 팜이라는 야자나무도 유사한 전략을 이용한다고 한다. 쓰러진 다음, 꼭대기 부분에서 다시 싹을 틔우는 것이다. --- p.212

미래에는 음악과 영화, 소설을 AI가 만들게 될까? 부분적으로는 아마 그럴 것이다.
AI가 만든 예술은 충격적이고, 괴상하고, 마음을 불안하게 만들 수 있다. 끝없이 변하는 튤립 영상, 얼굴이 반쯤 녹아내린 인간, 강아지 환영으로 가득한 하늘처럼 말이다. 티라노사우루스가 꽃이나 과일로 변할지도 모른다. 모나리자가 얼빠진 미소를 지을 수도 있다. 피아노 선율이 일렉트릭 기타의 솔로 연주로 바뀌고, AI가 생성한 텍스트는 초현실주의 행위 예술로 보일지도 모른다.
AI가 문제를 풀 때와 마찬가지로, ‘AI의’ 창의성도 아마 ‘AI의 도움을 받은’ 창의성이라고 표현하는 것이 적절할 것이다.