사람처럼 생각하는 지능을 가진 기계를 만들기 위한 노력의 역사가 빛을 발하는 지금이다. 하지만 동시에 인공지능이 가진 한계도 분명히 드러나고 있다. 최근 논란이 된 인공지능 윤리의 문제는 우리 사회가 인공지능을 받아들이려면 기술의 개발부터 추론 과정에 이르기까지 데이터관리, 모델 해석 등에 대한 전문적인 평가가 필요한 시점임을 알려준다.
---「들어가며」중에서

이때 판단하는 것, 사리를 분별하는 것은 논리를 구조화하는 것이므로 규칙에 따라 체계적으로 정리해 기계화하는 것이 가능해 보인다. 그리고 지금의 컴퓨터가 하는 일 가운데 어떤 것은 여기에 속한다. 하지만 어떤 일을 하고 싶은 마음, 상상하는 것, 정성을 기울이는 것은 지금까지 우리가 사용하는 기계 또는 컴퓨터와는 거리가 멀게만 느껴진다.

인공지능이라면 어떨까? 지금의 인공지능이 더 똑똑해져서 인간과 같이 생각하는 수준이 된다면, 혹은 초인공지능이라고 불리는, 인간의 지성을 뛰어넘는 인공지능이 출현한다면 우리가 하는 모든 생각을 기계가 할 수 있게 된다는 것은 허무맹랑한 일이 아니다. 그렇다면 우리는 생각하는 기계가 얼마나 사람의 생각하는 방식을 닮기를 바랄까?
--- p.19

팀 쇼는 매우 유망한 풋볼선수였지만 루게릭병 진단으로 운동을 그만둘 수밖에 없었다. 병이 진행되고 나서는 ‘아빠’라는 발음이 어려워져, 음성으로 부모님께 전화를 걸려면 아빠를 대신하는 단어를 찾을 수밖에 없었다. 그의 휴대전화 음성 인식 기능은 그의 발음을 이해하지 못했기 때문이다. 이런 어려움은 그와 같은 병을 앓는 사람들의 현실적인 고통이다. 이를 해결하기 위해 차별 없이 음성을 인식하는 인공지능을 만든다는 것은 많은 사람에게 기쁜 소식일 것이다.
--- p.41

사람의 자율적인 행동이 다른 사람에게 피해를 주면 우리는 그 피해에 따른 책임을 지기 위해 법의 기준을 적용받는다. 기계도 우리 사회 안에 있으므로 기계의 자율적인 행동으로 인해 피해가 발생하는 경우 법적인 문제로 이어진다. 하지만 사람의 법적인 책임을 기계에도 그대로 적용하는 것은 타당하지 않다. 기계에 손해를 배상하게 할 수 없고, 기계에 형량을 선고할 수도 없기 때문이다. 이런 이유로 현재의 법은 기계에 자율성을 부여한 대상에게 책임을 물으려는 방향으로 가고 있다. 맹점은 그 자율성을 누가 부여했는가에 있다. 자율성의 책임을 기계가 자율성을 갖도록 학습한 사람인지 학습된 기계를 자율적으로 사용하려 한 사람인지 합의해야 할 시점이다.
--- pp.47-48

학습이 완료되었다고 판단되는 시점에서 인공지능이 실수를 전혀 하지 않는 것이 아니다. 인공지능이 실수하는 양이 더는 줄지 않을 때 우리는 학습이 완료되었다고 판단한다. 비록 실수를 전혀 하지 않는 것은 아니지만, 인공지능이 오류를 스스로 줄였기 때문에 우리는 인공지능의 학습이 완료되었다고 생각한다. 그래서 오류가 가장 작은 인공지능에 현재 가장 똑똑한 인공지능이라는 타이틀을 주고, 이전보다 덜 실수하는 새로운 인공지능은 이전 인공지능을 대체한다. 따라서 완벽한 인공지능이 나오기 전까지 인공지능의 실수는 예견된 것일지도 모른다.