양심없는 AI와 함께 살기 위한 AI윤리

어릴 때 재미있게 보았던 영화가 있다. 커다란 총을 한 손에 들고 등장하는 터미네이터, 그 터미네이터를 상대로 한 인류의 싸움. 그 시리즈가 이제 3편을 넘어 속편까지 계속 나오는 시절이 지났지만, 그때 받은 인상은 굉장히 강렬했으며 그 영화의 음악은 아직도 귀에 생생하다. 

아직은 그 터미네이터처럼 기계를 스스로 움직이고 인간을 위협하는 AI는 나오지 않았다. 하지만 그 오랜 세월 동안 과학기술은 나날이 발전하여, 챗 GTP, 카카오 스피커와 같은 인공지능이 우리 주변 곳곳에 널려 있고, 자율주행차가 실제 운행되기도 한다. 얼마 전에는 경우의 수가 많아 인간을 능가하기 어려우리라 여겼던 바둑에서 알파고와 이세돌 기사가 맞붙어 인공지능 알파고가 이기는 모습을 보기도 했다. 

 이세돌 기사가 한 판을 이기긴 했지만 결국 AI 알파고를 상대로 힘겨운 싸움을 해야 했으며 인간의 지능이 이제는 AI에게 밀릴 수도 있다는 경각심을 갖게 해주었다. 여기에 대해서 오래전부터 AI의 윤리에 대해서 이야기한 우리나라 과학자가 있었고 그 분이 쓴 책이 세상에 나온 지 오래되어서 읽어보았다. 이 책이 나온 이후, 그 짧은 기간에도 AI는 계속 발전하고 있으며 그 사이 AI의 발전으로 인한 부작용이 사회 전반에 걸쳐 경각심을 불러일으키고 이로 인해 AI의 윤리를 정립할 필요성이 점점 증가하고 있는 추세다. 

[AI는 양심이 없다]책은 이런 AI(인공지능)의 성장 모습과 AI가 가져올 수 있는 부작용, 그리고 이런 부작용을 막기 위해서 AI의 윤리를 정립해야한다는 주장을 담고 있다. 뿐만아니라 일부 인공지능 전문가가 아닌 일반 대중이 AI의 윤리에 대해서 관심을 가져야한다고 말한다. AI(인공지능)이라는 어려운 분야를 담고 있어서 자칫 이해하기 어려운 책으로 여길 수도 있지만 책을 읽다보면 우리 사회에 어느 새 널리 퍼진 인공지능과 이에 대한 드라마, 영화에 대한 소개를 곁들여서 그리 어렵지 않게 다가오고 그 예를 통해 인공지능의 발달을 이해하면서 우리가 왜 인공지능 윤리에 관심을 기울여야하는지 알게 해준다.  

2020년 2월 우라나라 MBC 에서 가상 현실을 근간으로 인공지능 기술을 추가하여 ＜너를 만났다＞를 제작했다. 혈액암으로 세상을 떠난 딸을 어머니가 다시 만나도록 해준 것이다. 이어서 사별했던 아내를 다시 만나게 하는 2편이 제작되기도 했다. 영국 드라마 ＜블랙미러, 돌아올게＞에서는 남편이 죽은 후 이를 그리워하는 아내가 인공지능을 통해 이루어진 남편을 만나고 다시 헤어지는 모습을 그린다. 이런 예들은 "죽음을 흔드는 손"으로서의 인공지능이 사람들의 사별과 그 애도의 과정에서 어떤 영향을 줄 수 있는지 알려주고 있다. 고인이 살아있을 때 남겨두었던 디지털 유산을 찾아 "디지털 페르소나(Digital Persona)"를 현실 속에서 구현함으로써 고인의 사후에 충격이 큰 남은 이들에게 일종의 노출치료 효과를 줄 수도 있다. 

하지만 세상에는 항상 긍정적인 면만 존재하지 않는 법이다. 고인의 사후, 남은자들의 슬픔을 달래주는 것은 좋지만 고인에게는 어떠한 영향을 미칠까? 사후 디지털 부활을 통한 고인의 활동 재개는 고인의 이미지와 명예를 왜곡할 가능성을 안고 있다. 살아생전 깨끗한 이미지로 지냈던 배우를 인공지능으로 디지털 부활 시킨 후, 이와 다른 악역을 맡겼다고 한다면 어떨까. 문제는 이런 경우 현재 법은 대부분 살아있는 사람을 대상을 적용하고 있고 죽은 자에 대한 명예훼손은 상대적으로 덜 엄격하여, 시간이 지남에 따라 대중의 기억에서 잊혀지면서 고인의 디지털 유산을 이용한 기업만 돈을 벌고 정작 고인의 명예만 훼손된 채 남아있을 가능성이 높다. 이에 대비해 영화 ＜죽은 시인의 사회＞에서 주연을 맡았던 로빈 윌리엄스는 자신이 죽고 나서 25년 동안 내 이미지를 상업용으로 사용하지 말라는 유언을 남기기도 했다. 

오늘날 사회를 살아가는 우리들은, 페이스북과 인스타그램을 비롯한 다양한 SNS를 활용하고 때로는 블로그에 글을 남기기도 한다. 그 디지털 유산은 우리 사후에도 그대로 남아 누군가 이를 활용할 수도 있고 악의를 가진 사람이 사용하여 생전 나의 의도와 다른 모습으로 디지털 속에 남아 가상공간을 떠돌 수도 있다. 이미 페이스북을 사용하던 많은 사람들이 사망하였으며 그들의 흔적은 디지털 가상공간에 여전히 남아있다. 이를 어떻게 처리할 것인가도 큰 문제이지만 정작 우리나라에서는 크게 논의되고 있는 것 같지 않아보여서 걱정스럽다.  

글쓴이가 인용한 레이 커즈 와일의 ＜특이점이 온다＞는 책에서는 유전학 혁명, 나노기술혁명, 로봇공학 혁명의 첫 글자를 모은 GNR기술 혁명이 바로 인류에게 특이점을 가져올 세가지 핵심 혁명임을 알려준다. 이처럼 인공지능은 인류 역사에서 "특이점"을 가져올 수 있는 기술의 발전이다. 글쓴이는 "트랜스 휴머니즘에 이은 포스트 휴머니즘 시대의 도래는 범용 인공지능의 출현에 이은 초인공지능 시대의 도래와 유사하게 대비된다"는 점을 말해주고 있으며, 이것은 죽음을 초월한 인간의 출현을 예고하는 것이기도 하다. 죽음을 초월한 인류의 발전이란 멋진 미래이기도 하지만 한편으로는 이 과정에서 다가올 수 있는 부작용을 생각하지 않을 수 없다.

현재의 인공지능은 1단계 "좁은 지능"에 해당하여, 인간의 삶에 약간의 도움을 주는 정도이며 인간의 지능이나 활동에서 일부를 대체하는 수준이지만 이것이 발달하게 되면 어느 순간 2단계 인간과 대등한 지능에서 3단계 초지능의 출현으로 인간을 뛰어넘을 수 있음을 경고하고 있다. 인공지능이라는 기술은 기존의 다른 기술들과는 다르게 인간의 개입 없이도 초지능으로의 자발적인 발전 본능을 가지고 있으며 이런 점이 만일 나쁜 방향으로 진행된다고 하면 어릴 적 보았던 "터미네이터"가 그리는 인류의 멸망이 다가올 수도 있다. 이미 휠체어를 타고 다니는 과학자로 유명한 스티븐 호킹은 인공지능으로 인류가 멸망할 수 있음을 경고하기도 하였다. 

글쓴이는 "책임지지 않는 인공지능"이라는 제목으로 자율주행차를 예로 들며 인공지능의 책임에 대해서 논한다. 앞서 말한 디지털 유산으로 인한 고인의 명예를 보호할 방법도 제대로 마련되지 않은 현실에서, 인공지능이 개입된 기술을 바탕으로 자율주행차가 사고를 일으켰을 경우 과연 인공지능에게 책임을 물을 수 있을지 의문스럽다. 앞서 간 공상과학 소설가인 아시모프는 이러한 인공지능이 인간에게 해를 끼치기 전에 인공지능 윤리를 새기는 것을 소설속에서 제시하기도 했다. 

우리가 모르는 사이에 AI(인공지능) 또는 이를 바탕으로 한 과학의 발전은 이미 시작되었으며 우리 생활속에 자리잡고 있다. 이것은 우리 삶을 편하게 해주지만 어느 순간 초지능이 되어 우리 삶을 위협할 수도 있다. 터미네이터 영화가 현실이 될 수 있는 위험 속에서 우리는 양심없는 AI에게 윤리를 부여할 필요가 있다. 이미 유럽을 비롯한 국가들 사이에서 AI 윤리에 대해서 논하고 있으나 인공지능의 기술 발전에 비해서 윤리를 말하는 움직임은 부족한 면이 있다. 인공지능을 최초 만들고 제어하는 사람의 윤리가 올바르지 못할 경우, 혹은 진화한 AI가 인류를 적으로 생각할 경우, 이로 인해서 생성된 인공지능이 인류에 대한 편견을 갖고 인간을 공격할 수 있는 것은 비단 영화 속 이야기만이 아닌 우리의 미래가 될 수 있다. 

"인공지능이 인류의 마지막 기술일 수 있다."는 경고만큼 강렬한 표현은 없으리라. 인공지능이 주는 매력과 장점은 거부하기 힘들고, 이미 우리 일상에 들어온 만큼 이를 포기하기도 어렵다. 그렇다면 인공지능이 우리의 마지막 기술이 되기 전에 AI윤리 체계를 세우고 이를 위해서 우리 모두가 양심없는 인공지능과 인공지능 윤리에 대해서 관심을 갖는 것이 필요하다. "자, 이제 인공지능의 위험을 알려주었으니 우리가 해야할 일은 무엇인가요?" 하는 것에 대한 답을 찾고자 하는 것이 이 책의 존재이유이다. 적어도 인공지능에 대한 공론의 장이 필요하며 다 같이 공감하고 깨달은 내용을 윤리적인 자산으로 남겨두어야 할 것이다. 이런 거창한 활동을 위해서 우리는 적어도 우리 사회에 양심없는 AI가 있다는 점과 이에 대한 윤리가 필요하다는 점을 확실하게 알아야 하며, 이를 바탕으로 터미네이터 세상이 오는 것을 막고 보다 바람직한 AI와 인류의 공존 사회를 그려나갈 수 있을 것이다.  

"미래의 AI 시대를 맞아 필요한 AI 윤리"

김명주의＜ AI는 양심이 없다 ＞를 읽고 
 

"인공지능에게 배신 당하지 않고 함께 살아가기 위해서는 어떻게 해야 할까?"

-김명주 교수가 전하는 미래 AI 시대의 기회와 위기-

4차 산업혁명에 따른 과학기술의 발달로 인해 이제는 인공지능(AI), 가상현실(VR), 증강현실(AR) 용어가 낯설지 않고 너무나 익숙하다. 더이상 AI는 우리와 아무 상관이 없는 존재가 아니다. 이미 우리 생활 속 깊숙이 AI는 침투해왔고, SF 영화나 소설에서 보듯이, AI에 의해 지배당하는 미래 사회도 도래할 지 모른다. 이미 인공지능 AI 가 인간의 자리를 대신하고 있다. 이제는 식당에서 인공지능이 서빙을 하는 모습을 자주 목격하게 된다. 이세돌 구단과 알파고와의 대결에서 보듯이, 어쩌면 AI 가 우리의 능력을 능가하여 우리를 지배할지도 모른다.

요즘 한창 핫한 이슈인 챗 GPT의 등장이 더이상 인간만이 생각하는 동물이 아님을 말해준다. 얼마든지 인공지능도 인간처럼 사고하고 말할 수 있고, 인간과 대화를 하고 토론을 하는 것이 가능하다. Chat GPT는 사용자와 주고받는 대화에서 인공지능에 따라서 질문에 답하도록 설계딘 언어 모델이다. Chat GPT는 대화 형식으로 추가적인 질문에 답하고, 실수를 인정하며, 정확하지 않은 전제에 대해서는 이의를 제기하고, 부적절한 요청을 거부할 수 있다고도 한다. 

이런 사회적 변화 속에서 우리는 앞으로 인공지능과 어떻게 살아가야 하는가. 정말 영화나 소설 속 이야기가 현실이 되지 않게 하려면 우리는 AI에 대해 바로 알고 올바르게 사용해야 할 것이다. 

이 책 『AI는 양심이 없다』에서 저자인 김명수 교수는 인간의 죽음, 존재, 신뢰를 흔드는 인공지능에 대해 바로 알게 하기 위해  다양하고 재미있는 사례들을 들려준다. 

"인공지능이 인류의 마지막 기술일 수 있다."라고 말한 세계적인 석학 스티븐 호킹 박사의 말처럼, 빌 게이츠, 애플의 스티브 위즈니악, 테슬라의 일론 머스크 등 세계적인 빅테크 기업 수장들이 인공지능의 위험성에 대해 경고의 목소리를 내고 있다. 2016년 구글의 인공지능 알파고가 바둑 천재인 이세돌 구단을 4승 1패로 이겨 세상을 깜짝 놀라게 했다. 이 사건을 통해 인공지능이 인간보다 얼마나 똑똑하고 뛰어난 능력을 발휘할 수 있는지 깨닫게 하면서 큰 충격을 주었다. 또한 2021년 인공지능 챗봇 이루다 사건을 통해 인공지능이 잘못 사용될 경우, 얼마나 위험하며, 올바른 윤리와 규범이 없는 AI 서비스는 차별과 사회적 갈등을 유발할 수 있는지 알게 되었다. 우리는 과연 인공지능에게 배신당하지 않고 함께 살아가려면 어떻게 해야 하는 것일까.

이에 대해 저자는 우선 우리 생활 속에서 얼마나 인공지능이 침투해서 우리에게 영향을 미치고 있는지에 대해 다양한 사례들을 통해 설명해준다. 저자는 죽음, 존재, 신뢰 측면에서 AI 바로보기를 시도한다.

1장 ＜'죽음'을 흔드는 AI＞에서는 고인이 남긴 디지털 흔적과 디지털 유산을 통한 디지털 부활의 문제에 대해 생각해보게 한다. 인공지능이 디지털로 부활시킨 가수 터틀맨 임성훈의 사례를 시작으로 해서 사자의 퍼블리시티권과 명예훼손, 사망자 계정과 사후 프라이버시 등 죽음과 관련된 AI 문제를 다룬다. 특히 다양하고 재미있는 사례들이 함께 제시되어서, 죽음과 관련된 AI 문제를 더 깊이 이해할 수 있었다. 이제는 인간의 죽음조차 AI에 의해 그 존엄성과 가치가 흔드리고 있는 것이다.

2장 ＜'존재'를 흔드는 AI＞에서는 가상 인플루언서, 가상 아나운서, 가상 가수, 아바타, 메타버스 등 실제 존재하지 않지만 AI로 인해 존재하게 된 가상 인간의 출현과 이로 인해 발생하게 되는 존재의 신뢰성 문제와 디지털 윤리에 대해 다루고 있다. 우리는 가상 인간을 어떻게 받아들여야 하는가. 영화 ＜아바타＞처럼 이러한 가상 인간들의 출현과 인간과의 공존이 가능한 시대가 올 것이다. 이런 가상 인간의 존재는 인간의 본성과 가치를 해치는 악인가 아니면 인간을 도와주는 존재인 것인가.

3장 ＜'신뢰'를 흔드는 AI＞에서는 챗봇 이루다 사건과 알파고와 이세돌 대결로부터 시작하여 왓슨, 콤파스, 비추얼휴먼, 휴머노이드, 자율주행차 등 인공지능이 가져온 과학기술의 혁신에 대해 다양한 사례를 통해 알려준다. 이렇게 인공지능으로 인한 생활의 편리 속에서 숨겨져있는 차별, 편견, 의인화, 적대적인 공격과 불신 등의 윤리적 문제에 대한 불안과 우려를 드러낸다. 

죽음, 존재, 신뢰를 흔드는 AI 사례들을 통해 우리는 "인공지능은 이미 우리의 삶을 흔들고 있고, 앞으로도 흔들어댈 것이다.' 라고 예상할 수 있다. 인공지능을 어떻게 사용하느냐에 따라 인공지능은 인간을 지배하는 악이 될 수도 있고, 인간을 도와주는 고마운 존재가 될 수도 있다. 

그래서 저자는 마지막 4장에서 '인공지능 윤리'에 대해 당위성을 설명하고 구체적이고 현실적인 대안이 필요함을 주장한다. 'AI는 양심이 없다.'라는 제목을 통해 알 수 있듯이, 인공지능은 사람을 차별하고, 사고를 책임지지도 않으며, 우리를 착각하게 만든다. 자율주행차의 사고 사례에서 알 수 있듯이 안전하지도 않다. 이처럼 인공지능은 올바른 윤리와 규범이 없다면, 인간을 위협하는 존재가 될 것이다. 인공지능 윤리를 통해 인공지능을 올바르게 사용하면서 AI를 '인간을 위한 AI'로 만들어야할 것이다.

많은 사람들은 아직 AI 의 위험성을 제대로 깨닫지 못하고, 그저 AI가 보여주는 뛰어난 능력에 놀라고 신기해한다. 하지만 챗봇 이루다 사건에서 볼 수 있듯이, 인공지능에게는 윤리가 필요하다. 저자는 인공지능 윤리의 원칙과 각 분야에서 적용해야 할 윤리 기준들이 무엇인지 설명해주고 있다. 

더이상 우리는 인공지능을 강하게 거부할 수 없다. 이미 우리 일상 속 많은 부분들이 인공지능에 대체되고 있다. 인공지능이 주는 매력과 장점을 너무나 크기 때문에 우리는 인공지능을 포기할 수도 없다. 우리 인간이 앞으로 인공지능과 함께 살아가는 것이 피할 수 없는 운명이라면 차라리 정면으로 맞서는 것이 필요하다. 인공지능이 무엇인지 바로 알고, 인공지능을 올바르게 사용하기 위한 원칙 제정과 인공지능 윤리 같은 준비가 필요할 것이다. 

이 책 『AI는 양심이 없다』을 통해 인공지능에 대해 바로 알고 인공지능에 대한 불안과 두려움에서 벗어나서 인공지능을 마주 보도록 하자. 앞으로 우리가 인공지능과 함께 살아가려면 어떻게 해야할지에 대한 해결책을 얻는 데 이 책이 도움이 되길 바래본다.

그리고 아무리 인공지능이 뛰어나 인간을 대체한다 하더라도 여전히 인간은 존재하며 인공지능에 지배당하지 않을 것이라고 믿고 싶다. 

‘죽음, 존재, 신뢰’는 말할 것도 없고 인간이 지금까지 조심스럽게 대했던 근간을 인공지능이 하나씩 하나씩 흔들어댈 시간이 점점 다가온다. 그래서 예상되는 흔들림을 정확하게 바로 보면서 이 흔들림을 넘어설 구체적인 준비를 해야 한다. 인공지능이 아직은 본격화되지 않은 기술이기에 우리에게 준비할 시간이 조금 남아 있다.

-p. 300, 「에필로그」중에서

인공지능이 인류에게 어떠한 영향을 끼칠것인가?  인공지능의 발달에만 관심을 가지는 시대에 다른시각과 부작용에대한 내용이 좋았던거 같다. 인간에게 어려운것이 인공지능에게는 쉽고 인공지능이 할 수 없는 것이 인간을 할 수 있다. 분명 이렇게 구분되어 질까 아니면 인공지능과 인간이 서로 같은 생각과 행동을 할 수 있는 시대가 올까 수천년의 인류가 살아오면서 만들어 놓은 많은 것들 중에 인공지능을 지닌 모든 기계들이 윤리적 행동은 기대하기 어려울 것 같다. 

4차 산업혁명 시대의 핵심 기술인 인공지능은 '정보화 사회'에서 '지능정보사회'로의 전환을 주도하고 있고

글로벌 리더들은 인공지능을 '인류의 마지막 기술'로 지칭하며 그 중요성을 강조하고 있음을 시작으로 흥미롭게 독서를 하던 중에 구독하는 일간지의 유럽 특파원의 리포트 내용을 접하게 됐다.

[中 '로봇군단'이 압록강 넘는다면]을 보면서

 p.196의 '불쾌한 골짜기'에서 알게 된 내용을 경험하게 됐다.

TV 등 매체를 통해 알게 된 휴머노이드의 가사나 돌봄, 재주 넘기, 댄스, 다리를 꼬아 공을 차는 축구기술 '라보나 킥'을 선보이는 장면들을 보면서 감탄과 탄성을 내던 순간이 '놀라움의 언덕'이었고, 리포트 내용에서 접한 압록강을 넘어오는 휴머노이드 '로롯군단'을 상상하자 이내 감정은 언짢음 불편함의 '불쾌한 골짜기'로 떨어짐을 확인하게 됐다.

하루가 다르게 발전하고 있는 휴모노이드의 소식을  접하면서 '불쾌한 골짜기'를 그나마 덜 만나기 위한 일련의 노력들이 계속되어 '인간을 위한 인공지능'이기를 바래본다.