사이보그를 치료하는 사람은 의사인가 공학자인가?

빅데이터, 의료, 교육, 스마트팩토리, 스마트 건축 등 인공지능 윤리 전문가 11명이 만든 교양서
AI 기술 발달에 따른 새로운 AI 윤리 문제 연구 … ‘인공지능 윤리 헌장’ 눈길

AI(인공지능) 시대가 열리고 있다. 보이지 않는 바둑천재 알파고는 옛말이 되었다. 김주하, 이지애를 본 딴 AI 아나운서가 뉴스를 진행하고 AI 스피커는 ‘돌봄 서비스’까지 해준다. 미국 위스콘신 주에서는 세계 최초의 인공지능 판사 ‘컴퍼스’가 법원 판결에 의견을 제출했다. 호주의 세인트피터스 유치원에서는 인공지능 교사 ‘아이다’가 아이들에게 알파벳, 숫자 교육은 물론 노래, 그림, 요가, 체조 같은 예술 교육과 체육 교육까지 하고 있다. 인공지능 의사, 인공지능 반려동물이 우리의 건강과 정서를 챙기고 있으며 머지않아 인공지능 아이돌(Idol)이 세계의 문화를 바꿀지도 모른다.

인공지능 기술의 발전으로 미래에는 모든 가정에 1인 1로봇 시대가 열릴 것이다. 인간이나 생명체와 매우 유사한 외모를 갖고 행동을 하는 로봇들이 인간을 도와주고 위로해주며 인간과 함께 살게 될 것이다. 그러나 인공지능 기술이 인간에게 늘 긍정적인 영향을 주는 것은 아니다. AI의 편향과 차별의 문제, AI의 오류로 사람이 위협받는 문제, AI를 악용한 범죄 발생, AI의 학습과정에서 개인의 프라이버시권을 침해하는 문제, 킬러로봇 개발 문제 등 인공지능이 일으킬 수 있는 부정적 영향이 사회적으로 더 큰 문제를 일으킬 수 있다.

자율주행 자동차의 사고가 발생했을 때 책임 문제를 따지는 것은 어느새 인공지능 윤리의 낡은 주제가 되었다. 이제는 디지털 인간이 사회의 리더가 되어 인간의 삶을 좌우하는 문제부터 킬러 로봇으로부터 인간의 생명을 지키는 문제까지 보다 심각한 문제들에 대해 고민해야 하는 상황을 맞고 있다. 나아가 AI로부터 인간이 피해를 입는 문제만이 아니라 인간이 AI에게 가하는 폭력과 학대 행위까지 걱정해야 하는 상황이다.

인간이 휴머노이드 로봇에 가하는 폭력은 어떻게 보아야 할까? 휴머노이드 로봇을 단순한 기계나 전자제품처럼 간주해 별 문제가 아닌 것으로 보아야 할까? 안드로이드, 휴머노이드 로봇에게도 보호받을 권리를 인정해야 할까? 인공지능 기술이 적용된 로봇 팔이 신체 일부에 속한다고 할 수 있을까? 누군가가 로봇 팔에 해를 가한다면 상해죄일까, 절도죄일까? 반대로 로봇 팔이 오작동해 다른 사람을 다치게 했을 때, 그 책임은 누구에게 있을까?

인간의 몸이 사이보그가 된다면, 그 몸을 치료하는 사람은 의사인가 공학자인가? 과연 그 의료행위를 치료라고 할 수 있을까? 수리나 정비라고 규정해야 하는 것 아닌가? 사이보그의 몸을 의사가 치료할 수 있을까? 미래사회에서 의사의 자격은 의공학자에게까지 확대되어야 하지 않을까?

인공지능은 인간의 행복과 편익을 위한 수단일 뿐이며 유일한 목적은 인간이어야 한다. 하지만 산업 발전과 시장 경제의 논리 속에서 인공지능의 기술만이 우선시되며 강조되고 있는 상황이다. 우리는 인공지능 기술 개발에만 몰두할 것이 아니라, 더 늦기 전에 인공지능이 인간에게 미치는 영향들을 생각해보고, 인공지능을 어떻게 하면 윤리적으로 개발하고 사용할 수 있을 지에 대해 함께 고민해 보아야 한다. AI기술이 앞서 나가려 하면 인공지능의 위험성과 부작용 문제가 커지게 된다. 그렇다고 AI윤리가 앞서 나가려 하면 인공지능에 대한 두려움이 커져 좋은 AI기술들의 개발이 늦어지게 된다. 따라서 AI기술과 AI윤리는 반드시 함께 나아가야 하며 서로 조화롭게 발전해야 한다.

인공지능 윤리는 인공지능 영역에서 사람이 지켜야할 윤리를 의미한다. AI의 편향과 차별 문제 등 인공지능이 일으킬 수 있는 여러 문제점들을 미리 파악하고 대비하여, 인공지능에게 안전장치를 넣는 것이 바로 인공지능 윤리다. 따라서 인공지능 윤리의 영역에는, 인공지능이 일으킬 수 있는 부작용, 위험성 문제를 파악하고, 그에 따른 해결 방안을 모색하고, 차후에 이러한 문제들이 일어나지 않게 예방하는 활동까지가 모두 포함된다.

AI기업과 개발자뿐만 아니라 청소년과 대학생을 포함한 일반 시민들까지 모든 주체가 인공지능 기술과 반드시 함께 가야하는 인공지능 윤리의 중요성과 당위성을 알아야 한다. 또한 인공지능 기술의 안전장치인 인공지능 윤리가 무엇이고, 왜 필요하고, 어떤 문제들이 있으며, 해결하려면 어떤 노력들을 해야 하는지를 알아야 한다. 이러한 인식 속에서 우리는 인공지능 윤리 문제의 해결 방안을 찾게 되고 실천해 나갈 수 있게 된다.

이 책은 이러한 목적으로 한국인공지능윤리협회 전문가 11인이 모여 만든 교양서다. 인공지능 윤리의 기본 개념과 핵심 내용, 빅데이터 윤리와 의료 인공지능 윤리, 인공지능 교육과 윤리, 스마트팩토리와 윤리, 스마트 건축의 윤리적 문제 등 AI 기술의 발달 과정에서 발생하는 새로운 AI 윤리 문제에 대해 관심 있는 사람들에게 훌륭한 교재가 될 것이다. 인공지능 개발자와 소비자의 윤리 등 서문과 40개조로 제정한 ‘인공지능 윤리 헌장’도 눈여겨 볼만하다.