‘사람’처럼 사고思考하는 인공지능의 시대?
사람처럼 ‘사고事故’ 치는 인공지능의 시대!
인공지능 혁신, 양날의 검 위에서 바라보는
인간-기계의 새로운 윤리학

인공지능과 사물인터넷(IoT) 기능의 비약적인 발전이 촉발한 이른바 ‘제4차 산업혁명’은 2015년 최초로 그 개념이 호명된 이래 숨 가쁘게 앞으로만 내달리고 있다. 그동안 ‘전화 걸어 줘’, ‘6시에 알람 맞춰 줘’와 같은 단순한 명령을 넘어서 생성형 사진 편집과 통화 요약 및 자료 정리까지 척척 수행해 내기 시작한 스마트폰 속 AI 기능은 어른, 아이 할 것 없이 쉽게 접근할 수 있는 생활 속 인공지능이 되었고, 자료를 찾기 위해 책을 펼치거나 인터넷 검색을 하는 대신 ChatGPT에 “인공지능의 정의에 대해 알려줘”라고 묻는 사람들을 보는 것도 더 이상 어려운 일이 아니다.

“교육, 의료, 금융, 제조 등 다양한 분야”를 막론하고 확장하기 시작한 AI 혁명은 한때 분명히 인간의 노동 시간 감소나 삶의 질 개선과 같은 긍정적 효과를 기대하게 만들었다. 그러나 “AI 시스템의 편향성으로 인한 불공정한 결과, 생성형 AI의 오용으로 인한 허위 정보 확산 및 창작물 침해, 인간의 일자리 감소, 심지어 인간의 통제를 벗어”날 가능성이라는 치명적 부작용을 일으키기 시작한 인공지능은 급기야 사람들이 스스로 사고하는 능력을 잃게 만든다는 비판까지 받게 된 상황이다. 더욱이 인공지능으로 인해 사고가 발생할 경우 아직까지 그 책임 소재를 분명히 할 수 없다는 지점에서, 인공지능은 더 이상 ‘편리하고 똑똑한 도구’로만 여길 수 없는 존재가 되었다. 그렇다면 우리는 ‘인간’적으로 사고하고, 인간처럼 ‘사고’를 유발하는 존재 아닌 존재, 인공지능을 어떻게 바라보아야 할까? 기계는 사람처럼, 사람은 기계처럼 발전시키고 있는 우리에게 ‘인간’이란 도대체 무엇일까? 『인공지능 윤리하다 2』는 이러한 지점에서 우리 시대의 질문에 응답하기 위해 인공지능 ‘윤리’의 개념을 다각적 함의로 분석하여 펴낸 본격적인 인공지능 윤리 연구서이다.

인간은 기계처럼, 기계는 인간처럼?
‘인간’과 ‘기계’의 모호한 경계에서
‘사람’답기 위한 윤리를 말하다

『인공지능 윤리하다』, 『로봇 윤리』, 『로봇 윤리란 무엇인가』, 『윤리적 AI 프로젝트』 등을 출간하며 인공지능과 로봇 윤리에 대한 활발한 연구를 지속해 오던 변순용 서울교육대학교 윤리교육과 교수가 다시 한번, 보다 심화된 물음과 탐구를 담은 『인공지능 윤리하다 2』로 돌아왔다. 『인공지능 윤리하다 2』는 ChatGPT로 대표되는 생성형 인공지능이 야기한 정보 오염과 지적 재산권 침해 문제, ‘메타버스’를 필두로 등장한 ‘디지털 휴먼’ 등의 가상-현실 사이 정체성 문제, 빅데이터를 기반으로 성장한 알고리즘 맞춤형 서비스의 편향성과 폐쇄성 문제 등 현재 시점에서 이미 우리 피부에 와닿기 시작한, 실제적이고 현실적인 문제를 다층적인 윤리학의 관점에서 다루고 있다. 이는 단순히 인공지능이 갖추어야 할 ‘윤리’가 무엇인지 그 개념을 제시하는 선에서 그치는 것이 아니라, 우리가 인공지능이라는 존재의 정체성과 법적 책임 소재를 어떻게 정의할 것인지, 그리고 인공지능 기술을 개발하는 기업과 이들이 만든 상품을 이용하는 소비자, 나아가 사회와 국가가 각자의 위치에서 준수해야 할 윤리란 과연 무엇이 있는지를 살피는 단계까지 뻗어 나가며 전문가적 시각에서의 수준 높은 분석을 이끌어 간다.

우리는 지금 첨단 기술이 가져온 편의성과 그것이 초래한 인간성-인간 자율성의 상실이라는 양날의 검 위에 서 있다. 가상의 존재인 ‘인공지능 챗봇’에 사랑을 느껴 현실과의 소통을 단절하거나, 그들이 생성한 ‘기표성’ 텍스트를 절대적 계시처럼 믿는 바람에 스스로를 위험에 빠뜨리는 사람들을 우리가 이제 공상과학 영화가 아닌 뉴스 사회면에서 찾아볼 수 있다는 것이 이를 방증한다. 여느 때보다 ‘인공지능 리터러시’의 함양이 주요 능력으로 부상하고 있는 이때, 우리가 고민해야만 하는 것은 단순히 ‘인간인 우리가 기계인 AI를 어떻게 효율적으로 다룰 것인가’를 넘어, 인간으로서 우리가 ‘인간다움’을 잃지 않기 위한 방안이 무엇인지, 그리고 인간을 모방하여 보다 ‘인간처럼’ 발전해 나가고 있는 인공지능에 우리가 정말로 부여해야 할 ‘인간성’은 무엇인지일 것이다. 무엇이 우리를 사람답게 하고, 무엇이 우리가 만드는 기계를 사랍답게 할 것인가? ‘사람’처럼 사고思考하는 ‘기계’가 초래할 예정된 사고事故들을 바라보며, 우리는 어떻게 현명한 예방책을 만들 수 있을 것인가? 『인공지능 윤리하다 2』가 제시하는 논의를 통해 이제 우리 사회가 함께 숙고해야 할 것이다.