알파고는 더 진화하고 있으며, 앞으로 알파고를 이길 수 있는 인간은 없을 것입니다. 아마도 이세돌이 알파고를 단 한번이라도 이긴 유일한 인간으로 기록될 것입니다.
--- p.7

인공지능이 생각하는 방법, 추론하는 방법, 수를 읽는 방법, 학습하는 방법 등은 사실상 기본적으로 동일합니다. 기계학습의 종류가 다양하다고 할지라도 설정하는 조건들이 다를 뿐, 인공지능이 작동하는 기본 원리는 같다고 볼 수 있죠. (.…) 인공지능의 원리를 토대로, 기계가 사고하고 사물을 인지하는 방법, 주어진 과제에 접근하고 해결하는 방법, 스스로 학습하는 방법을 이해한다면 미래에 인공지능이 할 수 있는 지적인 과제들을 올바로 예견할 수 있을 것입니다.
--- p.8

기능주의 관점에서 보면 인간의 사고 과정이나 인공지능의 사고 과정은 동등합니다.
--- p.26

우리는 이 지점에서 인공지능의 의식에 관한 중간 결론을 얻을 수 있습니다. 그리고 이 중간 결론이 제시하는 두 가지 방향에서 인공지능의 미래를 탐색해볼 수 있습니다. 첫째, 감정을 최대한 기능화할수록 인공지능은 감정을 더 잘 구현하고 점차 인간의 의식에 가까워진다는 것입니다. 그리하여 인공지능 기술이 발전하면 의식을 갖는 기계가 나올 수도 있다는 것이지요. 인공지능이 진화하여, 두뇌 신경망을 모의한 연결기계 및 두뇌 신경망의 인과력을 복제한 인공지능 기계가 나온다면, 인공지능도 반성적 성찰과 의식을 가질 수 있을 것이라고 기대하는 것입니다.

둘째, 기능화되지 않는 의식의 잔여물(감각질)이 있을지라도 그것은 아무런 인과적 역할이 없다는 점에서 있으나 마나 한 잉여물입니다. 어쩌면 인간이 느끼는 의식은 환상에 불과할지도 모른다는 의견을 표명하는 학자들이 있습니다. 기능적 마음 이외에 인간의 감각질과 의식은 일종의 환각이라는 의식의 제거주의 입장입니다. 즉 의식은 실재하지 않으며 기계가 의식이 없듯이 인간도 의식이 없다는 것이지요.
--- p.80~81

부조리한 고통의 문제는 상담에서 직면하는 가장 심오한 문제 중 하나일 것입니다. 예컨대, 부조리한 고통을 상징하는 욥기의 주인공, ‘고통받는 의인’으로서 욥의 항변을 인공지능은 이해할 수 있을까요? 즉 감정의 기능적 정의를 토대로, 인공지능은 ‘저 사람은 신실하고 정직하게 살았 는데 불운과 고난을 겪는다는 것’을 이해하고 이를 공감할 수 있을까요? 부조리와 연루된 감정과 개념들을 기능화할 수 있다면 인공지능도 그런 고통을 호소하는 내담자를 어느 정도 공감하고 위로할 수 있을지 모르겠습니다. 인공지능 상담의 깊이가 어느 정도에 이를 수 있을지는 열어두는 것이 낫겠지요. 사실 그 가능성 못지않게 인공지능은 ‘삶의 부조리’처럼 답이 없는 물음을 가지고 씨름하는 내담자와 어떻게 대화하고 상담할 수 있을지가 더 흥미롭습니다. 사람은 답이 없는 문제에도 매달리지만 인공지능도 그럴 수 있을까요? 답이 없는 질문이나 출력 값이 없는 과제 수행이 어쩌면 인공지능에게는 부조리한 상황일지도 모르겠습니다.
--- p.91~92

인공지능을 설계할 때 데이터를 취사선택하고 평가하는 설계자의 사고방식과 가치관이 반영될 수도 있습니다. 입력 데이터만이 아니라 알고리즘을 설계하는 과정에서도 편향성이 개입될 수 있습니다. 특히 무엇을 학습 목표로 하고 어떤 가치를 우선순위에 둘 것인가에 따라서 과제를 해결하는 방식이나 절차가 달라질 수밖에 없습니다.
--- p.178

한국 사회에서 포털 뉴스의 공정성에 대한 논란이 있는데, 여기에도 인공지능이 관련되어 있습니다. 포털에서 어떤 뉴스를 전면에 배치할 것인지, 기사의 노출 시간과 방식을 어떻게 할 것인지 등을 관리하는 인공지능 알고리즘이 불공정하다는 의문이 제기되고 있는 것이죠. 인공지능이 알아서 자동적으로 결정하는 사안이니 우리는 책임이 없다는 기업의 답변은 사실상 알고리즘에는 불공정성의 문제가 없다는 주장에 불과합니다. 하지만 우리는 더 이상 기계 자체의 공정성을 믿기 어렵다는 것을 알고 있습니다. 포털 뉴스를 관리하는 인공지능이 공정한지는 그것이 의사결정을 하는 방식인 알고리즘이 공정한지를 밝히는 문제가 핵심이 되겠지요. 알고리즘을 짤 때 무엇을 목표로 할 것인지, 즉 최대한 많은 사람이 읽게 할 것인지, 정치적으로 편향되지 않게 배분할 것인지, 광고주가 선호하는 뉴스를 우선순위에 둘 것인지 등 목표 설정 자체가 공정성의 문제와 직결됩니다.