인공지능 시대에 대해 보다 정확한 판단을 하고 정확한 정책을 세우기 위해는 실제 인공지능이나 로봇 때문에 생길 수 있는 문제와 엘리자 효과 때문에 생기는 착각을 구분해야 한다. 엘리자 효과로 로봇에게 친근함을 느낄 수 있는 만큼이나, 실제에 비해 과한 공포감, 저항감을 불러올 수도 있을 것이라고 생각한다. 여러 사람들이 같이 뜻을 모아 중요한 결정을 해야 하는 민주주의 사회에서는 이런 착각이 감정으로 사람들 사이에 퍼져 나가는 것을 특히 조심해야 한다는 생각도 든다. --- 「1장」

‘용산 온라인 매장 효과’ 때문에 로봇과 인공지능은 개인의 감정이나 내밀한 사생활의 영역에서 적극적으로 장점을 발휘하는 분야를 찾을 수 있지 않을까 나는 상상하고 있다. 내가 보기에는, 노인 요양 분야에서 로봇이나 인공지능의 수요는 비슷한 방향으로 발전하고 있는 것으로 보인다. 거동이 불편한 사람, 노인이 사람의 도움을 받아 일상생활을 하게 되면 아무래도 남에게 의지하고 있다는 느낌이라든가 도움을 주는 사람과 예의와 눈치를 따지는 일에 감정적인 피로감을 느끼게 될 수 있다.
그러나 인공지능 기계가 사람의 거동을 도와 준다면 어디까지나 내 가전제품을 내가 이용하는 느낌으로 기계를 쓸 수 있다. 눈치를 볼 이유도 전혀 없다. --- 「1장」

그런데 정부 기관에는 흔히 “정부에서 하는 연구에는 실패가 없다.”라는 농담이 있지 않은가? 사업의 실패를 인정하게 되면, 투자를 결정한 담당자 공무원과 그 상사와 그 상사인 고위 공무원들까지 책임을 지게 되니 어떻게든 성과를 포장해서 성공으로 표현하라는 압력이 생긴다는 뜻이다. 그게 아니라면, 애초에 사업 계획을 세울 때 뻔히 성공할 만한 의미 없는 수준으로 목표를 잡거나 다른 빠져나갈 구멍을 만들어 놓는 방법을 쓸지도 모른다.
일본의 제5세대 컴퓨터 시스템 사업은 1992년 끝났다. 그리고 이 망한 사업이 끝날 때, 놀랍게도 공식적으로 사업의 결과는 초기에 세웠던 목표를 달성했다는 것으로 발표되었다. 어떤 기괴한 초현실주의 풍경화 같은 멋이 있지 않은가? --- 「2장」

제4차 산업혁명에서 가장 크게 바뀌어야 하는 것은 경영자와 정부 의사 결정권자들의 위치와 역할이다. 이것은 모라벡의 역설과도 잘 들어맞는다. 인공지능은 경영자들의 심오한 일 같아 보이는 판단은 더 쉽게 대체할 수 있지만, 너 아니면 일할 사람이 없냐 싶은 말단 직원의 일을 대체해 내는 것은 더 어렵다. 손놀림이 능숙한 직공은 새로운 기계의 조작법을 익히고 새로운 제품에 도전하면서 일자리를 지키는 방법을 찾을 수 있겠지만, 인공지능이 분석해 준 통계 지표를 이해하지 못하는 사람은 아무리 회장 아들이라고 해도 자리에서 물러나지 않으면 회사를 유지할 수 없을 것이다. --- 「2장」

“일정한 기간 동안 인공지능에 의해서 빠른 사회 발전이 나타날 것이다.” 정도만을 예상하는 관점이 더 옳고 더 가능성도 더 높다고 본다. 특이점이라는 발전의 기간은 어떤 순간이 아니라, 몇 년이나 몇 십 년의 기간으로 길게 볼 수 있을 것이고, 특이점 이후의 기술 발전도 상상도 할 수 없는 경지가 아니라 적당히 놀라운 정도의 경지로 조정해 예상할 수 있을 것이다. 특이점(singularity)에 대조하여 이런 관점에 이름을 붙이자면 단조 증가(monotonic increasing) 구간 정도가 될 거라고 생각한다. --- 「3장」

인공지능이 사람의 말을 자연스럽게 이해하기 위해서는 사람들이 보통 ‘상식’이라고 생각하고 있는 생각이 컴퓨터에도 학습되어 있어야 한다. 그래야 사람이 인공지능에게 “접시를 갖고 오라.”고 했을 때, 그 정확한 색상이나 크기의 반지름을 알려주지 않더라도 인공지능이 ‘상식적으로’ 접시라고 볼 수 있는 것을 가져오게 할 수 있을 것이다. 마찬가지로 “운전을 하라.”는 말 속에는 “차로 사람을 치지 말고 교통법규를 지키면서 운전하라.”는 의미가 상식적으로 이미 포함되어 있다고 파악하도록 학습되어 있어야 쓸 만한 인공지능이다. “즐겁게 해 달라.”는 말에는 마약은 제외하고, “클립을 만들라.”고 했을 때 범죄는 제외하도록 학습되어 있어야 한다. 그런데 이런 학습 과정에서 인간이 갖고 있는 도덕과 가치관이 완벽히 다 전달되지 못하는 틈이 생길 수가 있고, 이 때문에 인공지능이 오해해서 큰 사고를 저지를 가능성은 남아 있다는 것이다. _3장 중에서

한편으로는 인공지능이 이끌고 오는 사회 변화가 급박하게 일어나기보다는 훨씬 더 꾸준하게 서서히 나타날 거라고 짐작하게 되었다. 이를테면, 당장 로봇이 내 일자리를 대체하기보다는 인공지능으로 성공한 회사들이 일으키는 경제 변화의 간접적인 영향으로 이자율, 환율, 주가 때문에 고생하는 일이 먼저 생길 것이다. 혹은 당신을 대신할 기계를 도입했으니 내일부터 회사에 출근하지 말라는 통보를 받는 일보다는, 인공지능 기술을 도입해서 경쟁에 앞서 나간 외국의 다른 회사 때문에 언젠가 내가 다니는 회사가 망해서 실직하는 일이 먼저 벌어질 가능성이 더 크다. --- 「4장」