알파고는 더 진화하고 있으며, 앞으로 알파고를 이길 수 있는 인간은 없을 것입니다. 아마도 이세돌이 알파고를 단 한번이라도 이긴 유일한 인간으로 기록될 것입니다.
--- p.7

인공지능이 생각하는 방법, 추론하는 방법, 수를 읽는 방법, 학습하는 방법 등은 사실상 기본적으로 동일합니다. 기계학습의 종류가 다양하다고 할지라도 설정하는 조건들이 다를 뿐, 인공지능이 작동하는 기본 원리는 같다고 볼 수 있죠. (.…) 인공지능의 원리를 토대로, 기계가 사고하고 사물을 인지하는 방법, 주어진 과제에 접근하고 해결하는 방법, 스스로 학습하는 방법을 이해한다면 미래에 인공지능이 할 수 있는 지적인 과제들을 올바로 예견할 수 있을 것입니다.
--- p.8

기능주의 관점에서 보면 인간의 사고 과정이나 인공지능의 사고 과정은 동등합니다.
--- p.26

우리는 이 지점에서 인공지능의 의식에 관한 중간 결론을 얻을 수 있습니다. 그리고 이 중간 결론이 제시하는 두 가지 방향에서 인공지능의 미래를 탐색해볼 수 있습니다. 첫째, 감정을 최대한 기능화할수록 인공지능은 감정을 더 잘 구현하고 점차 인간의 의식에 가까워진다는 것입니다. 그리하여 인공지능 기술이 발전하면 의식을 갖는 기계가 나올 수도 있다는 것이지요. 인공지능이 진화하여, 두뇌 신경망을 모의한 연결기계 및 두뇌 신경망의 인과력을 복제한 인공지능 기계가 나온다면, 인공지능도 반성적 성찰과 의식을 가질 수 있을 것이라고 기대하는 것입니다.

둘째, 기능화되지 않는 의식의 잔여물(감각질)이 있을지라도 그것은 아무런 인과적 역할이 없다는 점에서 있으나 마나 한 잉여물입니다. 어쩌면 인간이 느끼는 의식은 환상에 불과할지도 모른다는 의견을 표명하는 학자들이 있습니다. 기능적 마음 이외에 인간의 감각질과 의식은 일종의 환각이라는 의식의 제거주의 입장입니다. 즉 의식은 실재하지 않으며 기계가 의식이 없듯이 인간도 의식이 없다는 것이지요.
--- p.80~81

부조리한 고통의 문제는 상담에서 직면하는 가장 심오한 문제 중 하나일 것입니다. 예컨대, 부조리한 고통을 상징하는 욥기의 주인공, ‘고통받는 의인’으로서 욥의 항변을 인공지능은 이해할 수 있을까요? 즉 감정의 기능적 정의를 토대로, 인공지능은 ‘저 사람은 신실하고 정직하게 살았 는데 불운과 고난을 겪는다는 것’을 이해하고 이를 공감할 수 있을까요? 부조리와 연루된 감정과 개념들을 기능화할 수 있다면 인공지능도 그런 고통을 호소하는 내담자를 어느 정도 공감하고 위로할 수 있을지 모르겠습니다. 인공지능 상담의 깊이가 어느 정도에 이를 수 있을지는 열어두는 것이 낫겠지요. 사실 그 가능성 못지않게 인공지능은 ‘삶의 부조리’처럼 답이 없는 물음을 가지고 씨름하는 내담자와 어떻게 대화하고 상담할 수 있을지가 더 흥미롭습니다. 사람은 답이 없는 문제에도 매달리지만 인공지능도 그럴 수 있을까요? 답이 없는 질문이나 출력 값이 없는 과제 수행이 어쩌면 인공지능에게는 부조리한 상황일지도 모르겠습니다.
--- p.91~92

인공지능을 설계할 때 데이터를 취사선택하고 평가하는 설계자의 사고방식과 가치관이 반영될 수도 있습니다. 입력 데이터만이 아니라 알고리즘을 설계하는 과정에서도 편향성이 개입될 수 있습니다. 특히 무엇을 학습 목표로 하고 어떤 가치를 우선순위에 둘 것인가에 따라서 과제를 해결하는 방식이나 절차가 달라질 수밖에 없습니다.
--- p.178

한국 사회에서 포털 뉴스의 공정성에 대한 논란이 있는데, 여기에도 인공지능이 관련되어 있습니다. 포털에서 어떤 뉴스를 전면에 배치할 것인지, 기사의 노출 시간과 방식을 어떻게 할 것인지 등을 관리하는 인공지능 알고리즘이 불공정하다는 의문이 제기되고 있는 것이죠. 인공지능이 알아서 자동적으로 결정하는 사안이니 우리는 책임이 없다는 기업의 답변은 사실상 알고리즘에는 불공정성의 문제가 없다는 주장에 불과합니다. 하지만 우리는 더 이상 기계 자체의 공정성을 믿기 어렵다는 것을 알고 있습니다. 포털 뉴스를 관리하는 인공지능이 공정한지는 그것이 의사결정을 하는 방식인 알고리즘이 공정한지를 밝히는 문제가 핵심이 되겠지요. 알고리즘을 짤 때 무엇을 목표로 할 것인지, 즉 최대한 많은 사람이 읽게 할 것인지, 정치적으로 편향되지 않게 배분할 것인지, 광고주가 선호하는 뉴스를 우선순위에 둘 것인지 등 목표 설정 자체가 공정성의 문제와 직결됩니다.

<b>신뢰에서 사랑까지, <br/>마음을 탐색하는 7가지 철학 수업 </b><br/><br/>철학자는 인공지능에 대해 우리에게 무엇을 가르쳐줄 수 있을까? 이 책은 철학자가 생각하는 법과, 우리가 철학에서 무엇을 배울 수 있는지를 잘 보여준다. ‘인공지능은 생각할 수 있는가?’라는 물음은 ‘생각’과 ‘마음’이 무엇인지에 대한 물음으로 이어진다. 저자는 생각이라는 개념을 직관, 감정, 공감, 의식 등으로 상세하게 나누고, 이 지적 활동 각각이 무엇인지 차근차근 따져본다. 직관과 감정, 공감, 의식이 무엇인지 알아야만 기계가 감정을 느낄 수 있는지, 인간에게 공감할 수 있는지, 인간을 사랑할 수 있는지 우리가 대답할 수 있기 때문이다. <br/><br/>모두 7장으로 이루어진 이 책의 1장에서 저자는 ‘마음’에 대한 한 가지 이론을 소개한다. 그것은 바로 ‘기능주의’다. 이 이론은 오늘날 인공지능의 학습과 행동을 설명하는 틀이다. 인공지능의 원리를 발명해냈다고 평가받는 수학자 앨런 튜링이 제시한 이론이기도 하다. 2장에서는 기능주의를 바탕으로 삼아 의식과 직관을 따져본다. 3장에서는 감정의 문제를 다루고, 4장과 5장, 6장에서는 개성, 예술 감상, 사랑의 문제를 다룬다. <br/><br/>저자는 7장과 맺음말에서 ‘신뢰’라는 주제를 제기한다. 우리는 인공지능을 신뢰할 수 있을까? 여기서 신뢰는 인공지능의 지적 능력이 어떻게 만들어지는지, 즉 인공지능이 무엇을 어떻게 배우는지의 문제로 연결된다. 구글 번역기가 터키어를 영어로 번역하는 과정에서 보여준 결과가 이에 대해 결정적인 점을 시사한다. 이 일은 2017년 미국 시카고 대학교 학생인 알렉스 샴스(Alex Shams)가 트위터에 공개하면서 알려졌다.<br/><br/><b>우리는 인공지능을 신뢰할 수 있을까</b><br/><br/>터키어는 3인칭 대명사(그, 그녀, 그들)에서 성별이 구분되지 않는 언어이다. 예컨대 남녀 구별 없이 ‘그 사람은 의사다, 그 사람은 베이비시터다’라고 표기한다. 그런데 구글 번역기는 이 문장을 영어로 ‘그 남자는 의사다, 그 여자는 베이비시터다’라고 번역했다. 터키어가 성별이 표시되지 않는 언어인데도, 의사의 성을 남성 베이비시터의 성은 여성이라고 역할에 따라 다르게 성별을 부여한 것이다. 이 일은 인공지능이 간호사나 돌보미의 역할은 여성성으로, 의사나 법조인 등 전문직이나 권위적 지위의 역할은 남성성으로 규정하는 낡은 젠더 규범을 그대로 반영하고 있음을 보여준다. <br/><br/>이 책 《인공지능, 마음을 묻다》는 코딩과 알고리즘을 익히기 전에 먼저 알아야 할 인공지능의 기본 원리를 안내한다. 원리를 이해하면 문제를 해결할 실마리가 보인다. 앞으로 인류가 직면할 인공지능의 문제를 예견하는 데, 이 책만 한 입문서가 없을 것이다.