인공지능 시대 어떻게 맞이할 것인가?

인공지능에 대해서는 극단적으로 시각이 엇갈린다. 인간의 편의를 극대화할 유토피아와 인간이 인공지능에게 지배 혹은 전멸당한다는 디스토피아적 시각이다. 상상력에 바탕을 둔 양쪽의 주장은 타당한 면이 있지만 미래가 어떻게 될지 누구도 장담할 수 없다.

반면 인공지능은 속속 인간 사회에 파고들어 어떤 기술은 인간에 도움을 주는 반면 어떤 기술은 인간의 자유를 억압하는 데 활용되고 있기도 하다. 앞으로 수십 년간 인류는 '이런 세상은 처음'이라는 상황을 겪어야 한다. 그리고 그 '처음'은 인간 사회가 재구성되어야 할 만큼 중대한 문제가 될 것이다. 이 책은 현재의 인공지능 기술로부터 미래에 실현될 인공지능이 가져올 사회 문제를 예측하고, 이에 어떻게 접근해야 할지 제안한다.

기술로 널리 이롭게 하라

이제 곧 현실로 다가온 자율주행 자동차. 이 기술의 윤리적 딜레마인 트롤리 문제를 보자. 다수의 보행자를 살릴 것인지 혹은 운전자를 살릴 것인지는 철학적 논의가 오가는, 정답을 정하기 곤란한 문제다. 인공지능 기술을 도입하려 할 때마다 이런 철학적 문제가 나오고 어쩌면 기업에 CPO(Chief Philosophical Officer)라는 직책이 생길지도 모른다. 그러나 저자들은 이 딜레마는 잘못된 질문이며, 딜레마 해소를 위해 관점의 전환을 제안한다. 자율주행 자동차의 도입으로 감소할 인간 운전자의 부주의로 인한 피해와 자율주행 자동차의 편의성, 교통약자에게 주는 복지가 트롤리 딜레마보다 크다면 공공의 이익에 부합하지 않을까?

현재 인공지능을 이용해 기후변화를 모델링하고, 식물성 플랑크톤의 분포와 활동을 추적하거나 삼림과 각종 생물종들의 변화를 파악하는 등의 활약이 펼쳐지고 있다. 인공지능의 기술이 더 발전하면 인간이 해결하기 어려운 지구온난화와 환경보호에도 도움이 될 수 있다. 인공지능이란 도구는 누군가 막는다고 막아질 문제가 아니다. 도구를 어떻게 쓰느냐가 더 중요한 문제이다.

기술을 감시하라

많은 사람들은 인공지능 판사를 바란다. 기계가 감정에 치우치지 않고, 논리적으로 공정하게 판단할 것이라는 믿음 때문이다. 하지만 기대와 달리 기계는 상당히 편향적인 판단을 한다. 구글 이미지 검색은 CEO를 검색하면 백인 남자를 편중해서 보여주고, 흑인에 대해서는 고릴라를 노출시키기까지 한다. 인공지능을 움직이는 핵심기술은 기계학습 알고리즘과 빅데이터이다. 이 방식은 인간을 능가할 정도로 뛰어난 결과물을 산출하지만 기존 데이터를 기반으로 판단하기에 인간 사회가 나아가고자 하는 방향과 맞지 않는 경우가 많다.

또한 알고리즘은 때로는 확증편향을 강화시키는 방향으로 작동하기도 한다. 오늘날 시민들은 전통적인 언론보다도 각자의 레시피로 선별한 칵테일 뉴스를 선호한다. 사용자가 알고리즘을 자기 입맛에 맞게 ‘교육’시키는 셈이다. 알고리즘이 ‘알아서 거른’ 편향된 정보에 갇히는 필터버블이 만약 가짜 뉴스라면 그릇된 생각에서 헤어나오기 어렵게 된다. 만약 알고리즘을 지배하는 빅브라더나 알고리즘을 간파한 세력이 악용하면 손쉽게 여론조작을 할 수 있는 환경이 조성되는 것이다.

저자들은 국가 감시 체제와 법률 제정도 필요하지만, 보다 효과적인 방법으로 시민들의 자발적 활동으로 알고리즘을 살펴볼 것을 제안한다. 소비자가 유해성분으로 인식하면 기업이 스스로 제품 생산에서 그 성분을 제외시키듯, 알고리즘의 설계자인 기업도 사용자들의 눈치를 보기 때문이다. 알고리즘을 밝히지 않더라도 입력을 조절해가며 출력을 확인하는 역공학 방법으로 알고리즘 작동 패턴과 규칙은 알아낼 수 있다. 크리스토프 드뢰서는 이렇게 말했다. “사회에 알고리즘 전문가algorithmist가 많을수록 여론도 우리의 삶을 규정하는 알고리즘들의 배후를 더 많이 캐물을 것이다.”

노동의 신성함을 버려라

인공지능의 디스토피아를 상상하는 이유 중 하나는 자동화가 인간의 노동력을 완전히 대체할 수 있다는 믿음 때문이다. 인공지능이 산업혁명과 달리 인간의 일에 더 위협적인 것은 사실이다. 산업혁명이 물리력이 필요한 노동을 대거 대체했다면 인공지능 혁명은 사고력이 필요한 노동력을 대체할 것이다. 많은 인공지능 전문가들은 저비용의 노동자보다 고연봉의 의사, 회계사, 변호사 등의 자리가 더 위태롭다고 예상한다. 자본주의 사회는 고효율성을 추구하기 때문이다. 더군다나 기계는 창의력이 없다는 믿음은 인공지능이 그림을 그리고 작곡함으로써 깨졌다. 사고력과 창의력이 뛰어난 인간의 직업들도 대체될 수 있는 마당인데 나머지 인간들은 무엇을 해야 할지 걱정하는 것은 너무나도 당연하다.

저자들은 기본소득에 대해 더 전향적으로 바라볼 것을 주문하면서 “일하지 않는 자 먹지도 말라”라는 수천 년간 내려온 규범을 버릴 것은 주장한다. 과거 생산력이 노동력인 시절에는 이 규범이 통용되었지만, 기계의 높은 생산성 덕분에 모두가 하는 일 없이 빈둥대더라도 얼마든지 먹고살 수 있을 만큼 풍족한 삶을 누릴 수 있는 시대에는 낡았다는 것이다. 그리고 먹고살기 위해 일을 하는 시대가 종말을 고하고, 기본소득으로 인간으로서의 삶이 보장되어 자기가 하고 싶은 일을 하면 인간이 더 행복해질 수 있는 시대를 만들 수 있다고 주장한다.

기계와 공존할 준비를 하라

초인공지능이 먼 이야기일지 몰라도 인간과 감정을 교류하는 로봇은 이미 현실로 다가왔다. 2006년 심리학자 로버트 엡스타인은 온라인에서 젊은 여성을 가장한 챗봇에게 속아넘어간 경험을 『사이언티픽 아메리칸』에 “로봇과의 데이트”라는 제목으로 썼다. 봇이라는 것을 알고 있음에도 위안을 얻기 위해 심리상담봇을 애용하는 사람들도 있다. 반려동물처럼 자신과 감정을 교류한 로봇을 가족처럼 소중히 여기는 시대가 온다면 로봇을 어떻게 대해야 할까?

저자들은 인간 중심의 사고방식에서 벗어나 인공지능에 대한 권리를 존중해야 한다고 말한다. 사람이 지구 생태계의 동물들과 공존을 모색하듯, 생태계의 구성원인 기계와 공존을 모색해야 한다는 것이다. 이 주장은 동물권도 아직 보편적으로 인정이 안 되는 현 시점에서는 시기상조처럼 보이기도 한다. 그러나 이는 기계가 아니라 인간을 위해서 필요한 논의다. 상대의 욕구나 감정을 전혀 고려하거나 배려할 필요 없는 일방적 관계는 특히 어린이들의 경우 인간과의 상호 관계에서도 상대의 감정을 읽는 능력을 저하시키고 도덕성을 마비시키는 부정적 결과를 초래할 수가 있다. 실제로 아마존 알렉사를 장시간 상대한 아이들의 버릇이 나빠졌다는 연구 결과가 있고, 왜곡된 성 관념을 심어줄 수 있다는 섹스 로봇 반대론자들의 경고는 경청할 만하다.

따라서 기계가 아니라 스스로 인간성을 파괴하는 일이 없도록 지능형 인공물에 대한 윤리적 대우를 강제하는 법이 필요하다고 저자들은 말한다. 만약 향후 인공지능이 더 발달해서 의식을 가지게 된다면 이에 대한 답은 우리가 이미 알고 있다. 그래서 디스토피아를 걱정하는 것 아닐까?