2023.08.28. 해나 프라이의 '안녕, 인간(와이즈베리)'을 읽고

1. 알고리즘과 나의 힘겨루기

 알고리즘 혐오란(47쪽 설명) 알고리즘이 실수할 수도 있다는 사실을 아는 순간, 과잉 반응을 일으켜 알고리즘을 깡그리 무시한 채 알고리즘 대신 인간의 결점투성이 판단으로 되돌아가는 것을 말한다. 나는 이 정의에 온전하게 부합하지 않지만, 알고리즘 혐오를 하는 사람들의 성향과 비슷하다. 즉 원인은 저자의 설명과 다르지만 결과는 같다. 나는 알고리즘의 실수를 본 적이 없다. 나에 대해 너무나 잘 아는 알고리즘이 무섭다. 게다가 키스 E.스타노비치의 '우리 편 편향'을 읽고 난 후 알고리즘에 의해 한 쪽으로만 더 기울어질 나의 사고가 두려웠다. 그래서 나는 유튜브와 같은 온라인 동영상 플랫폼을 피해 왔다. 이제는 더 이상 피할 수 있는 시대가 아니라는 것을 잘 알고 있다.

나에 대해 많은 것을, 그것도 잘 알고 있는 알고리즘이 존재하는 이유는 오늘날, 인터넷 곳곳에서 우리를 추적하는 알고리즘, 개인적인 정보를 수집하는 알고리즘이 분명히 있기 때문이라고 이 책은 진단하고 있다. 나아가 알고리즘이 이러한 부적절한 힘과 결합했을 때, 혼란을 겪게 될 우리 사회를 우려한다. 그렇다면, 이 알고리즘 어떻게 다뤄야 할까 

2. 알고리즘이 인간을 재판한다면 

재판을 받아야 하는 상황이라면 인간과 기계 중, 누구의 판결을 받고 싶은지 묻고 싶다. 나는 이 질문에 대해 항상 인간에게 받고 싶다고 말했다. 오늘날, 우리나라의 상황으로만 한정해 보면, 이해가 되지 않는 판결이 많다. 하지만 기사 그대로를 믿지는 않는다. 기사에 나오지 못하는 숱한 상황들이 있을 것이라고 생각한다. 집단 지성으로 일구어진, 다시 말해 판사가 결정을 내리기 전의 의사결정 나무(decision tree)에 해당하는 조건들, 그리고 이에 따른 판사들의 결정을 믿어보는 것이었다.

이 책에서는 인간과 기계의 판결을 비교하여 설명해 주었다. 인간과 기계의 판결에 있어서 기계는 긍정 오류와 부정 오류를 일으켰다. 긍정 오류는 착한 사람(책에서는 '루크 스카이워커:스타워즈의 주인공'에 비유한다, 102쪽)을 고위험군으로 인식하여 수감하는 것을 의미하고, 부정 오류는 나쁜 사람(책에서는 '다스베이더'로 비유함)을 다시 위법 행위를 저지르지 않을 것이라고 인식하여 풀어주는 것을 의미한다. 여러 가지 축적된 데이터 안에서 기계는 이런 실수를 범했다.

반면 인간의 경우 판결에 영향을 주는 요소가 무척 많았다. 정의의 여신이 눈을 가리고 있는 것처럼 법으로만 따지는 판사는 인종과 성별, 계층에 영향을 받지 않아야 한다. 하지만 미국의 경우 흑인 피고는 대체로 수감 기간이 길고 보석 신청 승인율이 낮은 데다가, 사형 선고를 받을 확률도 높았다.(115쪽) 이 밖에도 같은 범죄를 저질러도 여성보다 남성이 가혹한 처벌을 받았으며 피고의 소득과 교육 수준이 낮을수록 형량이 길어졌다. 무언가를 결정할 때 사회적, 문화적 편향이 자연스럽게 결론으로 이루어지는 결과라 할 수 있다. 그뿐만 아니라 판사의 가족 관계, 판사가 앞서 내린 판결의 결과, 지역 연고팀 경기의 승패 여부, 판결 시간이 점심시간 이전 여부, 마시고 있는 음료의 온도 여부에 따라서도 판결은 달라질 수 있었다.

저자는 인간의 결함이 위와 같이 명확하다면, 알고리즘을 세심하게 설계하고 적절히 규제한다면 적어도 사법 제도가 일으키는 편향과 무작위 오류를 제거하는 데 도움이 된다고 보았다.(123쪽) 하지만 아직까지는 알고리즘이 완벽하지 않고, 인간의 문제를 보완하기 위해 기계와 인간의 판결을 적절하게 조합하는 여러 나라의 사례를 제시하며 발생하는 문제점을 확인 시키며 숙고가 필요한 논쟁으로 남겼다.

책에서 제시한 통계치만으로 내린 결론이지만, 나는 판단을 흐리는 요인이 기계보다 인간이 많다고 느껴졌다. 인간과 기계의 대결에서 인간은 기계를 이기기 어렵다는 것은 쉽게 알 수 있다. 이런 결과 앞에서 이런 생각이 자꾸 들었다.

왜 우리 인간은 기계와 우리의 능력을 비교하는 것일까. 꼭 대결해야만 하는 것일까.

3. 공익을 위해 나의 데이터를 공유할 것인가 

디지털 의료 진단 사례는 흥미로웠다. 인류 전체의 이익을 위해 작동하는 기계는 환자의 생명을 살리는 데에 우선순위를 둘 것이다. 이렇게 고마운 진단을 위해 우리의 병, 신체 관련 데이터를 공유해야 한다. 이런 상황이라면 나의 신체적, 병적 정보를 알고리즘을 만드는 기업이나 국가에 공유하겠는가? 어려운 질문이다.

알고리즘이 삶의 어떤 양상을 마주하든즉 개인정보 보호와 공익 사이에 놓이든, 개인과 인류 사이에 놓이든, 여러 난관과 우선 사항에 놓이든, 그 길의 끝자락에 인류 전체의 건강 증진이라는 뚜렷한 미래가 기다리더라도 균형점을 찾기는 어려울 것이다.

4. 인공지능, 알고리즘을 뛰어넘기 위한 우리의 역할

미래 사회에서 인공지능은 우리와 함께 가야 한다. 이것이야말로 변하지 않는 진실이다. 이러한 미래 사회에서 우리 인간에게 필요한 것들을 알려준다. 알고리즘의 이로움을 부풀려지고, 위험은 알려지지 않을 때, 알고리즘이 나에게 믿으라고 말하는 것은 무엇인지, 내가 그렇게 믿었을 때 누가 이익을 얻는지 스스로 물어야 한다.

저자는 기계를 객관적인 만능 해결사로 인정하지 말라고 했다. 즉 보이지 않는 기술을 숭배하지 말라는 것이다. 알고리즘이 내린 결정에 깔린 동기를 꼼꼼하게 살펴야 하며, 특히 이러한 결정이 내려진 후에 그 이익이 보이지 않는 권력의 손으로 가는 것이 아닌지를 따져보아야 한다고 저자는 충고한다.

머지않아 닥칠 냉철하고 객관적인 기술의 권위에 우리가 어떻게 대응할 수 있을지를 고민해야 할 때다.

‘현실을 모른 채 안주하기를 거부해야 한다.- 해나 프라이, '안녕, 인간' 302쪽’

#해나프라이 #안녕인간 #와이즈베리

#부와권력을지배하는

#인공지능의_보이지_않는_공포

#착취당할것인가

#지배할것인가 #공생할것인가 #새로운질문

#책리뷰 #서평쓰기