데이터과학자들은 일부 인풋에 대한 해답이 어떤 것이어야 하는지, 그리고 결과로 나온 해답이 이런 실측자료에 가까운지 측정하는 방법을 규정한 뒤, 실측자료에 가장 근접하는 알고리즘을 선택한다.
추천 알고리즘 작업은 내게 무엇보다 한 가지를 보여주었다.
어떤 것이 옳은 대답인지 정해주는 실측자료가 없고, 알고리즘의 결과가 '어느 정도' 이성적으로 보이는 한, 우리 인간들은 그 결과를 설명하는 이야기를 지어낼 수 있다는 것이다.

지금 우리는 데이터의 시대에 살고 있습니다.
어디서 무엇을 하는지, 먹는지...개인의 거의 모든 정보를 파악할 수 있습니다.
이는 개인의 프라이버시 침해와 편의, 양날의 검과 같습니다.

이런 데이터를 통해 추측한 결과는 모두 옳을까요?
그렇지 않습니다.
진정으로 데이터 속에 숨겨져 있는 고객의 니즈를 찾아내는 방법도 있지만, 반대로 '이럴 것이다'라고 가정한 후 데이터를 찾는 경우도 왕왕 있습니다.
이럴 경우, 데이터는 단지 추측에 대한 합리적인 근거에 불과할 뿐입니다.

지금 보고 있는 것들이 진실인지, 그렇지 않은지 다시 한번 확인할 필요가 있습니다.
많은 설문조사에 대한 결과를 보면서 문득 든 생각이였습니다.

얼마전 AI 챗봇 이루다 사건은 많은 논란이 되었습니다. AI 를 만들기 위해서는 많은 데이터를 학습해야 하는데 그 과정에서 개인정보나 비속어 등이 제대로 걸러지지 않아 이루다와의 대화에서 그대로 나오기도 했네요. 또, AI 가 지속적으로 학습이 된다는 점에 착안하여 유저들은 이루다와 나쁜 쪽으로 대화를 이끌어 나가면서 이에 대한 상세 방법들을 공유하기도 했습니다. AI 기술이 발달하면서 이미 많은 서비스에 적용이 되고 있는데 이루다 사건은 AI 의 기술 뿐만 아니라 윤리적인 측면에서도 고려할 요소들이 있음을 보여주었습니다.

'무자비한 알고리즘' 에서는 AI 에 있어서 데이터나 알고리즘으로 인한 문제점과 이를 해결하기 위한 방안들에 대해 설명하고 있습니다.

'인공지능' 이라는 단어를 들으면 SF 소설이나 영화에 나오는 것처럼 인간과 똑같이 생각하고 판단을 내리는 기계가 떠오릅니다. 하지만 특정 분야에 적합한 인공지능을 만들기 위해서는 실생활에서 사용된 수많은 사례들을 수집해서 이러이러한 경우에는 이러이러한 값을 내도록 수학적으로 계산하는 것이네요. 그래서 데이터가 많으면 많을수록 다양한 사례들이 있는 만큼 결과가 정확한 것처럼 보이고, 오류 데이터가 섞여 있다면 잘못된 결과를 낼 가능성도 높아집니다.

책에서 언급하고 있는 사례들을 보면 의학에 사용되는 AI 의 경우 의학 및 IT 기술이 갖춰져 있고 정확한 데이터를 확보할 수 있는 나라는 대부분 미국이나 유럽 등이기 때문에 백인 데이터가 많을 수밖에 없어서 아시안이나 흑인에 대해서는 인식률이 떨어진다고 합니다. 성별만 남녀를 다르게 하고 동일한 웹사이트들을 차례대로 방문하도록 했는데 남자와 여자에게는 각각 다른 광고를 보여주며, 그 광고에는 성 역할에 대한 고정관념이 들어가 있네요.

아마존에서는 AI 를 이용해 수많은 입사지원서를 분석해 1차로 걸러내었는데 아마존에 근무하고 있는 사람들의 개인 프로필과 성과를 학습한만큼 아마존에 적합한 인재를 찾을 수 있어 합리적으로 보입니다. 하지만 기존 직원들 구성에는 이미 특정 인종과 성별에 편항되어 있는 만큼 AI 도 동일한 기준으로 필터링해 논란이 되었고 결국 철회를 하였다고 합니다. 컴퓨터는 대규모의 데이터를 빠르게 처리할 수 있는 만큼 많은 데이터를 다루는 AI 를 업무에 활용하는 경우가 늘어나고 있는데 이제는 AI 로 인해 나타나는 윤리적인 문제에 대한 논의도 필요한것 같아요.

산업혁명은 인간의 삶을 크게 바꾸어 놓았는데 AI 가 발전할수록 변화의 속도와 범위는 훨씬 커질 것입니다. 많은 기업들이 완전 자율 주행이 가능한 자동차를 개발하는 과정에서 사고가 일어날 가능성이 있을때 자율 주행 자동차가 어떤 결정을 내리도록 할 것인지는 사람들에게 AI 에 대한 경각심을 일깨우는 좋은 사례 같아요. AI 의 긍정적인 면 외에 부정적인 측면에서 어떤 문제점들이 있는지 읽어볼 수 있어서 도움이 되었습니다.

  알파고가 바둑의 최강자를 꺽을 때 많은 사람들의 관심이 쏠렸는데 대체로 그 시점부터 인공지능에 대해 걱정을 많아지기 시작하였다. 영화 속에서만 보던 장면들이 이제 현실로 다가오는 것은 아닌가 우려의 목소리가 나오게 되었고 IT 업종에 일하고 있기에 주변 사람들로부터 질문을 많이 받았다. 하지만 나 역시 전문가가 아니었기에 더군다나 미래를 예측한다는 것은 불가능에 가까운 일이기에 적절한 대답을 할 수 없었다. 하지만 인공지능을 만드는 주체도 인간이기에 인간에게 해를 끼치지 않도록 설계를 하면 되지 않을까라고 생각을 하였다. 그렇지만 머신 러닝이나 딥러닝 통해서 인공지능이 스스로 학습을 하다 보면 인간이 원하지 않은 방향으로 인공지능이 발전할 수도 있다. 사람은 학교에서 윤리를 배우고 이성으로 행동하지만 인공지능은 그렇지 못할 것이다. 빅데이터를 기반으로 정해진 알고리즘으로 의사 결정을 하게 될 것이다. 빅데이터를 배울 때 많이 활용되는 타이타닉 생존자의 예를 들면 상식적으로 생각해보면 생존 비율에 대해 쉽게 이해를 할 수 있다. 책에서 말하는 대로 기계적으로 데이터만으로 활용해본다면 살아남을 확률이 높은 사람들을 동일한 상황이 발생했을 때 구조해 주려고 할지 모른다. 아니면 확률적으로 계산해서 생존 확률이 임계치 이하이므로 구조할 필요가 없다고 판단하고 구조를 포기할지도 모른다. 하지만 인생사에는 기적이라는 게 있는데 인공지능이 그런 것에 대해 고려를 할 수는 없을 것이다.

  조금 생각을 돌려보면 우리가 맛 집이라고 생각하는 식당들도 빈익빈 부익부 현상이 생긴다. 맛 집으로 한번 뜨기 시작하면 계속 많은 손님들이 찾을 것이고 그렇다 보면 한번 맛 집은 계속 맛 집이 될 것이다. 인공지능은 철저히 데이터에 의해서만 판단하게 될 것인데 인간의 이성이 전혀 개입되지 않기에 돌발변수가 고려되지 않는다면 뻔한 결과가 나올 것이다. 빅데이터를 이용하여 범죄 예방이나 교통흐름을 파악하고 신호체계를 개선하는 분야에 많이 활용할 수 있을 것이다. 범죄 예방에 활용하기 위해서 우범 지역을 조사하고 인종별, 나이별, 소득 순 등을 분류하여 범죄 집단을 분류할 수 있을 것이다. 대부분의 책에서 그렇게 말하듯이 소득수준이 낮거나 흑인일수록 범죄율이 높게 나타난다고 할 것이다. 데이터만 가지고 판단하다 보니 이런 오류를 범할 것인데 인공지능에 윤리를 가르칠 수 없기에 알고리즘을 개발하는 사람이 그런 부분까지 잘 고려해야 할 것이다.

  책으로 돌아와서 알고리즘에 대해 말하자만 일반인들은 알고리즘이라는 용어가 다소 생소할 수도 있는데 좀 더 이해하기 쉽게 표현했더라면 어떨까 하는 아쉬움이 남는다. 책들 읽는 독자들이 알고리즘을 개발하는 전문가가 아니라면 인공지능 알고리즘이 어떤 문제가 생길 수 있다거나 혹은 어떤 윤리에 대해 고려를 해야 하는지에 대해 언급을 하면 좋지 않았을까 싶다. 굳이 어려운 용어를 써가며 이해하기 어렵게 만들 필요가 없었을 것 같다는 아쉬움이 남는다.

올해 초에 '알고리즘'에 대하여 특집기사를 읽었었다. 평소 사용하는 소셜미디어에서 좋아할만한 컨텐츠가 추천되도록 짜여진 알고리즘으로 인해 사고와 포용의 틀이 얼마나 협소해질 수 있는지를 알게 해준 기사였다. 조금은 섬찟한 기사였다. 내가 좋아해서 선택한 컨텐츠라고 생각했는데 어느 순간 알고리즘에 의해 선택된 컨텐츠만을 보고 비슷한 컨텐츠만 찾아 보게된다니 말이다. 누군가 만들어 놓은 틀에 갇힌 느낌이었다. 이러한 알고리즘에 대해 좀더 알고 싶어 '무자비한 알고리즘'을 읽게 되었다.

 

인공지능이 화두가 되면서 윤리학도 도마에 올랐다. 인공지능이 발달하기 전까지는 생각하지 못했던 문제들이 사회 곳곳에서 튀어나오기 때문이다. 극단적인 예를 들자면, 만약 인공지능이 테러리스트를 감별하였는데 정확도가 98%라면, 바로 그를 사살하라고 할 수 있을까? 2%의 무고한 가능성을 놔두고? 혹은 인공지능으로 취업 대상자를 선별하는데 여성이나 흑인이 퇴사율이 높다는 이유만으로 그런 사람의 선별 가능성을 의도적으로 낮춰도 괜찮을까? 『무자비한 알고리즘』은 인공지능 시대에 필요한 윤리학의 기준을 제시한다. 

책에서 말하는 '좋은 알고리즘' 즉 윤리적인 알고리즘의 기준으로 사용할 수 있는 도구는 총 4가지다. 

1. 알고스코프

  윤리적으로 중요한 알고리즘 기반 의사결정 시스템에 초점을 맞추려는 노력. 우리가 조심해서 다뤄야 할 인공지능 소프트웨어의 기준을 제시한다. 

2. OMA( Operationalization, Model of the problem, Algortithm)의 조화

- 운영화: 알고리즘이 구현한 모델이 정말 좋은 모델인지 판단할 수 있도록 관찰 및 측정 가능하도록 만드는 과정.

- 문제 모델: 컴퓨터가 해결해야 할 문제 모델

3. 책임성의 긴 사슬

  각각의 결정의 책임이 많은 이들에게 분산되어 있어 한 사람에게 책임을 묻기가 힘들며, 기술적 지식을 요하는 부분은 소수이다. 

4. 리스크 매트릭스

  인간에 대한 판단을 내리는 의사결정 시스템에 대한 기술적 감독 수준을 결정하는 척도

왜 인공지능의 윤리학이 중요한가? 현재 인공지능은 정확하다는 고정관념이 있지만, 사실 인공지능도 사람이 설계하는 것이기 때문에 얼마든지 왜곡되거나 오염될 수 있기 때문이다. 이를테면 책임성의 긴 사슬에서는 다음과 같은 문제가 제기될 수 있다. 편향적이고 불완전하고 오류가 있는 데이터를 신뢰할 만한가? 인공지능의 결정으로 나온 문제해결방법은 정당하거나 납득할 만한가?(환경문제를 해결하기 위해 인간을 모두 죽이라는 방법은 받아들일 만한가?) 인간의 품질 척도는 정확하게 계량할 수 있는가? 통계를 토대로 나온 결정(70%의 범죄 가능성, 80%의 낙태 가능성)은 신뢰할 만한가? 

따라서 인공지능을 잘 활용하기 위해서는 책의 결론대로 '인공지능을 사용했을 때 윤리적으로 문제거나 없는 상황'이거나 '윤리적으로 문제를 결정할 수 있는 경우'에만 사용하는 것이 옳다. 인간과 달리 인공지능의 결정은 완벽한 해석을 해주는 경우가 적기 때문에, 우리가 이해할 수 있고 과정이 투명한 경우에만 인공지능을 사용하는 것이 합리적이라는 뜻이다. 

조금 어려운 책이긴 했지만, ＜인공지능의 윤리학＞이라는 개념은 무척이나 신선하게 다가왔다. 당연한 말이지만, 강한 인공지능이 발명되기 전까지는, 아니 강한 인공지능이 발명되는 그 순간까지도 인공지능 자체에 윤리적으로 문제가 있다기보다는 그것을 설계하는 인간에게 윤리적으로 문제가 있을 수 있다. 

최근에 있었던 챗봇 '이루다'의 사례나 오래 전부터 사용되어왔던 '심심이' 등의 사례는 결함 많은 인간에 의해 인공지능이 탄생하는 만큼 그 인공지능 또한 충분한 결함을 지닐 수 있음을 보여주었다. 윤리적으로 대강 넘어가기에는 인공지능의 힘과 능력이 너무 강력하다. 

게다가 인공지능의 윤리를 그저 '기술자들'(컴퓨터공학 전공자, 머신러닝 전공자)에게 맡겨놓기에는 그것에 의해 혜택/피해를 받는 사람들이 많고, 『무자비한 알고리즘』에 의하면 책임 지는 사람들도 많다. 인공지능 소프트웨어를 의뢰한 사람, 설계한 사람, 그것을 사용하는 사람, 피드백하는 사람, 감독하는 사람... 따라서 인공지능 윤리학은 어쩌면 모든 시민이 이해하고 토론해야 할 주제일 지도 모른다.

특히 인공지능은 다른 기술과 마찬가지로 일단 기차 위에 오르면 제어하거나 멈추는 게 불가능해진다. '콜린그리지 딜레마새로운 기술을 활용할 때 나타나는 원치 않는 부작용은 종종 그 기술이 널리 퍼져서 기술을 회수하려면 너무나 많은 경제적 비용이 들 떼에 비로소 알게 된다'이다. 

저자는 말한다. "우리 인간들은 처음에 확정한, 단 하나의 최적화 기능으로 복잡한 시스템을 조절하는 데 능하지 못하다."고. 인간은 원래부터 복잡한 것에 익숙하지 못하다. 그래서 인공지능을 발명한 것이고. 따라서 복잡한 일을 인공지능에게 시킨다면, 우선 그 일의 윤리성을 따지는 게 선행되어야 한다. '윤리적인 고민은 나중에' 하려고 한다면, 그때는 너무 늦을 지도 모른다. 인공지능 윤리학을 구축하려는 저자의 노력에 경의를 표한다. 

※ YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다.

알고리즘이라고 하면 이게 뭔 말이야 싶은 사람들이 많을 것이다. 쉽게 말하자면 컴퓨터가 우리보다 계산을 쉽게 한다거나 AI라는 명목하에 인간이 할 일을 좀 덜어주는 로봇들을 말하는 것이다. 저자는 정보학 분야를 연구하는 사람으로 처음부터 정보학에 대한 관심이 있었던 것은 아니었다. 저자는 세포에 대한 연구를 진행하고 있었고 자살세포에 대한 시험을 마지막으로 정보학 계로 발길을 돌리게 되었다. 그 이유는 데이터를 축적하는 것보다 분석하는 것에 더 매력을 느꼈기 때문이라고 하는데, 두 가지 다 정보학에 있어서는 중요한 역할을 한다. 저자는 이 책을 통해 알고리즘에 대한 설명을 아주 쉽고 자세하게 하고 있다. 드문드문 등장하는 로봇들에게서도 약간의 귀여움과 코믹함을 찾아볼 수 있고, 내용도 알고리즘에 대해 모르는 사람이 읽기에도 수월한 편이다. 

알고리즘은 여러 차례의 실행과 반복, 검토를 거쳐서 문제를 해결하는 것이 아니다. 이런 과정은 알고리즘이 아닌 휴리스틱이라고 불린다고 한다. 우리가 가끔씩 접하는 수학 논리문제를 상상하면 그것은 휴리스틱이다. 여러 차례에 걸쳐 여기 넣고 저기 넣어보고 답을 구하는 방식을 말한다. 알고리즘은 이와는 달리 실행과 반복의 과정이 없다. 모델링한 그대로 실행이 되기 때문에 정확성 여부 역시 확신할 수는 없다고 한다. 저자는 가장 단시간이 걸리는 길찾기라든지, 넷플릭스의 개인 맞춤 추천에 대한 이야기를 이어나간다. 더불어 알고리즘에 대한 책임 소재를 말하는데, 결국 알고리즘을 개발한 사람의 책임이 가장 크다고 볼 수 있다고 한다. 넷플릭스에 대한 이야기가 조금 인상깊었는데 넷플릭스가 사용하는 알고리즘이 정확성 면에서 조금 부족했었다고 한다. 그런데 대회를 열어 알고리즘의 오차 범위를 좁히는 것에 성공하는 과정을 보니, 이런 알고리즘에 대해 잘 알고 있는 사람이 많다는 사실에 놀라웠다. (참가자가 만 단위가 넘어섰다고 한다.)

인공지능에는 약한 인공지능과 강한 인공지능이 있는데, 사실 여기서 윤리적인 문제가 발생하는 것이다. 약한 인공지능은 사람과 비슷하지 않지만 강한 인공지능은 사람과 아주 유사하기 때문이다. 게다가 종종 거론되는 차별에 대한 이야기도 저자는 소개하고 있다. 알고리즘이 할 수 있는 영역이 저자가 말했던 것처럼 생각보다 확실하거나 세세하기 보다는 어느 정도의 오차가 있다는 것에 조금은 아쉬운 마음이 들기도 했지만, 그로 인해 아직은 인간의 영역이 더 발전할 수 있는 기회가 되지 않을까란 생각 또한 들었다. 알고리짐, 정보학 이 쪽 방면에 관심있는 사람이라면 이 책을 통해 흥미롭고 재미있는 시간을 보낼 수 있을 것이다.

“무자비한 알고리즘 (카타리나 츠바이크 著, 유영미 譯, 니케북스, 원제 : Ein Algorithmus hat kein Taktgefuhl)”를 읽었습니다.

책의 질문은 단순합니다. 

‘인공지능에 왜 윤리가 필요할까?’ 

최근 AI 챗봇인 ‘이루다’의 경우에서 인공지능은 결코 중립적이지도 공정하지도 않으며 학습 데이터에 따라 인간보다 더 편향적이고 차별적일 수 있다는 것과 인공지능에도 윤리가 반드시 필요하다는 사실을 많은 사람들이 깨달았을 것 같습니다.
사실 우리나라에서는 이번에 문제가 되었지만 기술쪽 뉴스에 밝은 분들은 기시감이 들었을 것 같습니다. 바로 MS 챗봇 ‘테이’가 서비스 시작한 지 몇 시간만에 차별 발언으로 중단했던 적이 있고 애플의 시리나 아마존 알렉사 역시 이러한 문제에서 자유롭지 않습니다. 

이러한 AI의 윤리 문제 중 가장 유명한 것은 바로 트롤리 딜레마 (Trolley Problem)가 있습니다. 한 때는 윤리학적 사고실험에 불과했던 이 딜레마는 최근 자율 주행이 발달하면서 중요한 문제로 떠오르게 되기도 합니다. 

하지만 이러한 인공지능의 문제에도 불구하고 여전히 많은 사람들은 인공지능이, 기계가 가장 그만의 비법으로 객관적이며 중립적이 공정하며 비차별적 판단을 해줄 것이라 믿고 있습니다. 이러한 인간의 믿음은 과연 사실일까요? 
책에 따르면 미국에서는 ‘재범 가능성 예측 알고리즘’이 운영되고 있다고 합니다. 말그대로 범법행위를 한 사람의 재범 가능성을 평가하는 알고리즘입니다. 하지만 이 알고리즘의 오판율은 무려 최대 75%에 달한다고 합니다. 무작위로 결과치를 뽑아내더라도 (전문 용어로 찍어도) 50%입니다. 그런데 그 이상의 수치가 나온다는 것은 분명 알고리즘에 어떤 문제가 있다는 것이지요. 

이 책에서는 인공지능 시스템에 대한 기본 이해부터 시작하여 인공지능에 윤리가 필요한 이유, 인공지능에 의사결정을 위임하는 경우에라도 그것을 어떻게 감시해야 하는지에 대한 이야기까지 담아서 들려주고 있습니다.

최근 ‘이루다’ 문제에 숨은 담론에 대한 이해를 제고하고 싶은 분들에게 추천드리고 싶은 책입니다.

#무자비한알고리즘, #카타리나츠바이크, #유영미, #니케북스, #책과콩나무

※ 출판사로부터 도서를 제공받아 직접 읽고 주관에 따라 서평을 작성하였습니다.

인상깊은 구절

모든 그룹을 모든 면에서 공평하게 대우하는 해법은 없다. 이것은 디지털상에서 이루어지는 결정의 특수성이 아니다. 

각각의 집단이 어떤 행동을 서로 다른 비율로 할 때 모든 결정이 그러하며, 인간이 내리는 결정도 언제나 마찬가지이다. (pg 238)

인공지능, 머신러닝, 빅데이터, 알고리즘...

아마 요새 가장 핫한 키워드들이 아닐까 싶다.

미래 직업으로 각광받는 분야이기도 하니 미래를 준비하는 청소년, 자녀를 키우는 부모들에게도 관심있는 주제일 수밖에 없다. 

개인적으로도 관심은 있지만 그런 개념들이 구체적으로 무엇을 뜻하는지는 잘 몰랐었는데 

한 권으로 관련 키워드들을 공부할만한 책인 것 같아 접하게 되었다.  

생물학 전공의 자연과학자였다가 데이터가 주는 통계적 의사결정에 매료되어 데이터 과학자가 된 독특한 이력을 가진 저자가

알고리즘의 개념부터 차근차근 설명해주면서 현재 인공지능이 어느 정도 수준에 와 있고, 이 인공지능에서 활용되는 알고리즘을

우리는 어떻게 활용해야 하는지 구체적인 판단 기준까지 상세히 서술하고 있는 책이다. 

'왜 인공지능에도 윤리가 필요한가?'라는 부제가 달려 있다. 

총 330여 페이지로 살짝 두꺼운 감이 느껴지는 책인데 앞의 약 200페이지 정도까지는 핵심개념을 설명해주고 있다. 

사실 인공지능 관련 핵심 용어들의 개념을 잘 모른다 할 지라도 인공지능에 윤리가 필요하다는 주장에 대강은 동의할 수 있을 것이다. 

하지만 핵심개념들을 이해한다면 저자가 주장하는 바를 더 정확히 이해할 수 있기 때문에 앞 부분을 잘 읽는 것이 중요하다. 

저자가 전문가 입장에서 일반 독자들을 위해 최대한 쉽게 설명하려 노력한 흔적이 많이 보이고 번역도 매끄러운 편이지만

태생이 문돌이인 내 입장에서는 그런 저자와 번역가의 노력에도 불구하고 핵심 개념들을 온전히 이해했는지 여전히 의문이긴 하다. 

내가 이해한 바를 최선을 다해 정리하면, 고전적인 알고리즘은 수학공식으로 명확하게 기술할 수 있다. 

'이런 인풋을 이렇게 가공하여 이런 아웃풋을 도출하라.'라고 하는 매우 명확한 프로세스를 고전적인 의미에서의 알고리즘이라고 한다. 

하지만 머신러닝을 통해 빅데이터라는, 말 그래도 어마어마한 양의 데이터 속에서 인간이 쉽게 찾을 수 없는 연관성을 찾아내는 것도

알고리즘이라고 부르고 있는데, 이는 고전적인 의미에서의 알고리즘과는 매우 다른 것이다.

이런 형태의 알고리즘은 '이런 엄청난 인풋이 있는데 여기에서 보이는 경향성을 분석하여 이번에는 무엇이 좋을지 추천해보라' 정도의 

문장으로 정의할 수 있는 알고리즘인 것이다. 

고전적인 의미에서의 알고리즘은 설계자가 의도한 바를 100% 구현하는 것이므로 결과값을 다르게 해석할 여지가 거의 없으며

알고리즘 설계가 옳다면 항상 최적의 결과값을 도출하게 된다. 

예를 들어 네비게이션에 현존하는 모든 도로의 데이터가 들어 있고, 현재 위치와 목적지 간의 최단거리 길을 찾도록 알고리즘이 짜여 

있다면 새로운 도로가 나지 않는 이상 이견의 여지가 없는 값이 도출된다.

하지만 머신러닝을 통해 얻어지는 결과값은 이런 형태의 결과값이 아니다. 

저자가 설명해준 바에 의하면 빅데이터를 활용한 머신러닝 방식은 고전적인 알고리즘 방식이 아니라 일종의 휴리스틱이기 때문이다. 

예를 들어 한 인터넷 사이트에 수 많은 사람들이 수 많은 상품을 구매한 데이터가 입력된 알고리즘이 있다고 한다면, 

내가 그 사이트에 로그인 할 경우 30대 남자에게는 이런 구두가 잘 팔리므로 잘 팔리는 구두 순서대로 추천을 한 뒤 

구두와 매칭할만한 옷들을 추천해 주는 방식으로 작동할 것이다. 

그 목록들 중 내가 어떤 것을 사거나 혹은 사지 않는다면 그 데이터가 또 다른 사람의 의사결정에 활용되는 데이터가 되고 

이것이 축적되면서 더욱 정교한 추천 목록을 작성하는 알고리즘으로 성장하게 된다. 

즉 이런 형태의 알고리즘이 도출하는 결과값이 '반드시 이걸 사게 될 껄!'이 아니라 '이걸 좋아할 확률이 높은거 같은데?' 정도의 

결과값이라는 것이 중요하다. 

결국 기대하는 결과값의 형태가 일단 다르고, 

고전적인 알고리즘에 비해 결과값의 도출 과정에 설계자가 예상할 수 없는 변수가 많으며 

결과값 역시 인간의 해석을 필요로 한다는 것이 둘 사이의 가장 큰 차이로 보인다. 

문제는 이런 점에도 불구하고 해당 알고리즘을 의사결정 전반에 확대해 활용하고자 하는 움직임들이 있다는 것이다. 

빅데이터를 통해 도출된 '경향성' 자체가 주는 신비로움 때문이다. 

가령 마트에서 기저귀를 구매하는 사람들이 맥주도 함께 구매하는 비율이 높다는 결과가 나왔다면 

마트 입장에서는 마케팅 포인트로 매출을 높일 좋은 기회가 된다. 

왜 기저귀와 맥주가 그런 상관관계를 보여주는지는 관심 대상이 아니다. 

물론 어떤 검색어를 입력할 때 AI가 자동으로 연관 상품을 올려주는 것 정도는 우리 삶에 큰 부작용을 가져다 주지도 않을 뿐더러

때로는 편할 때도 있을 것이다. 

실제로 기저귀를 사는 사람들의 대부분이 맥주도 산다면 기저귀 옆에 맥주가 있으면 쇼핑이 더 편리할 것이다. 

(물론 그 AI가 활용하는 데이터들이 그 데이터를 생산한 자들의 동의를 얻었는지는 별개의 문제이다.)

하지만 채용 과정에 AI를 도입한다거나 법정에서의 형량결정 등 인간의 삶에 상당한 영향을 주는 결정도 

이런 인공지능에게 맡기고자 하는 시도들이 늘어나고 있는데,

저자는 이런 부분에 많은 사람들의 적극적인 개입이 필요하다고 보고 있다. 

고전적인 알고리즘처럼 '이 사람은 범죄자다'라는 결과값을 주는 것이 아니라 

'이 사람과 비슷한 사람들 중 70%가 범죄자가 된다' 정도의 결과값을 주는 알고리즘을 믿고

이 사람을 잠재적인 범죄자로 취급하는 의사결정을 내리게 된다는 것이다. 

어쩌다 많은 사람들이 기계가 인간에 대해 인간보다 더 나은 판단을 할 수 있다고 여기게 된 것일까?

그것은 우선 컴퓨터가 인간은 도저히 분석할 수 없는 양의 데이터를 처리할 수 있기 때문이다. 

하지만 내게 그보다 더 중요해 보이는 것은 현재 우리 스스로 인간의 판단력을 별로 신뢰하지 못한다는 점이다. (pg 8)

그러나 분명한 것은 학습하는 요소를 가진 인공지능은 늘 플랜B일 따름이라는 것이다. 

알고리즘이 학습하는 결정규칙은 늘 구체적인 트레이닝 데이터와 선택된 많은 변수들에 좌우되고, 

머신러닝의 대부분의 방법에서 늘 인간이 이해할 수 없는 결과가 나온다. (pg 203)

분명 기계가 인간보다 나은 결정을 할 수 있는 분야가 있다.

머신러닝 알고리즘이 인간을 능가하는 면은 다음과 같다. 

1) 임의의 데이터에서 상관관계를 찾을 수 있다는 점

2) 다양한 상관관계를 찾을 수 있다는 점

3) 약한 상관관계도 통계 모델에 집어넣어 유익을 이끌어낼 수 있다는 점 (pg 206)

위에 해당하지 않는 사례라면 머신러닝 알고리즘을 의사결정에 활용하는 것은 단순한 '참고자료' 수준에 그쳐야 한다는 것이

저자의 핵심 주장이다. 

특히 특정 국가에서 이미 시행하고 있는 것처럼 채용과정, 형량 결정, 복지 수혜자 선별 등 개별 인간이 크게 영향을 받는 

결정이라면 머신러닝 알고리즘은 큰 사회적 문제를 일으킬 수 있다는 점을 지적한다. 

최근 한국에서도 한 챗봇이 혐오성 발언을 쏟아내다 운영이 중지되는 사례가 있었는데, 

여기서도 확인할 수 있듯이 어찌되었든 머신러닝 알고리즘은 '입력된 데이터' 안에서만 판단할 수 있다. 

즉 그 데이터 자체에 문제가 있다면 알고리즘을 통한 해결책도 고스란히 같은 문제를 담고 있을 수밖에 없다는 것이다. 

게다가 데이터의 수집에서부터 다양한 윤리적, 사회적 문제에 봉착한다. 

이런 편향에서 어려운 것은 해석이다. 

부적합 평가를 받은 지원자들도 해당 업무를 잘 해낼 수 있었던 건 아닐까?

이것이 부당한 차별일까? 

이 예에서는 기계가 데이터 안에서 차별을 발견했고, 차별을 계속 이어갔다는 것만 확인할 수 있을 뿐이다. 

그러므로 한마디로 정리하자면, 이전에(정당하건 부당하건) 차별이 있었다면, 

기계는 이 차별을 학습할 거라는 사실이다. (pg 224)

그러므로 데이터 확보가 이미 편향된 사회를 그대로 반영하고 있다면 인공지능을 통한 해결책 역시 편향성을 가질 수밖에 없다. 

그리고 그 편향성을 인지하여 이를 수정할지 말지를 판단하는 주체 역시 인간일 수밖에 없다. 

모든 그룹을 모든 면에서 공평하게 대우하는 해법은 없다. 

이것은 디지털상에서 이루어지는 결정의 특수성이 아니다. 

각각의 집단이 어떤 행동을 서로 다른 비율로 할 때 모든 결정이 그러하며, 

인간이 내리는 결정도 언제나 마찬가지이다. (pg 238)

인공지능 전문가들 사이에서는 현재 인류가 개발한 인공지능의 수준이 '극도로 약한 인공지능'에서 '매우 약한 인공지능' 정도로

개선되었을 뿐이라고 말한다. 

선진국들의 경쟁적인 투자로 더 강한 인공지능으로의 개발이 지속될 것으로 보이는데

저자는 의외로 이 부분에 대해서 부정적인 견해를 보이고 있었다. 

인간에 대한 알고리즘 기반 의사결정 시스템에서 대부분의 결정은 현재와 미래의 행동에 관계된다.

이 사람이 근무에 적합한 자질이 있을까? 대출금 상환을 할까? 테러리스트일까?

여기서는 100퍼센트 옳은 결정규칙은 거의 존재하지 않는다.

그러므로 기계의 결정은 늘 통계적 특성을 띨 수밖에 없다. -중략-

인간은 범행을 저지르거나 저지르지 않거나 둘 중 하나다. 

70퍼센트의 절도나 폭행은 없다. 

그런 결과는 통계적 표현이다.  (pg 241)

하지만 내가 이해할 수 없는 것은 어째서 인간들이 이 세상의 실험실에서는 비학문적으로 여기는 것을 기계에게는 허용하는가이다.

관찰을 통해 가설을 세우고는 이 가설을 테스트해보지도 않고, 

곧바로 다른 상황을 판단하는 데 활용하도록 허락하고 있지 않은가. (pg 277)

강한 인공지능의 유용성이 리스크보다 더 높을 수 있을까?

인류가 삶의 문제들에 대해 올바른 질문을 찾아내지 못할 만큼 미련하지 않기에, 

강한 인공지능을 개발할 이유는 없다고 본다. (pg 296)

정리하자면 인공지능에도 윤리가 필요하므로 해당 부분에서 활약할 수 있는 인재들의 양성은 물론이고, 

인공지능 활용에 관련 전문가들의 적극적인 개입도 분명 필요하다. 

(관련 인재들은 최근 한국 고등교육에서 열광적으로 요구되는 '융복합적인 인재'의 전형이 될 것이다.)

하지만 저자는 현재 이상으로 강한 인공지능이 인류에게 꼭 필요한 것인가도 자문하고 있다. 

그 유용성에 비해 사회적으로 미치는 부작용이 너무 클 것이라 우려하고 있는 것이다. 

데이터 과학자로서 밝힌 주장이기에 읽는 입장에서는 매우 의외라고 느껴지는 부분이었다. 

솔직히 쉽게 읽히는 책은 아니었다.

하지만 천천히 읽으면서 관련 개념들을 이해하다 보니 그 전에 가지고 있었던 인공지능에 대한 환상이나 

막연한 기대감이 많이 사라지는 느낌이었다. 

인공지능이 인류의 모든 문제를 해결할 수 있게 되거나, 혹은 반대로 인류를 지배하거나 하는 미래가 생각보다도

아직 많이 멀었다는 점도 잘 알 수 있었다. 

그리고 그런 '강한' 인공지능에 대한 저자의 생각에도 조금씩 동의가 되는 책이었다.