신뢰할 수 있는 인공지능

이 책은 

이 책 『신뢰할 수 있는 인공지능』은 ＜인공지능을 사회에서 받아들이기 위한 조건＞이란 부제가 붙어 있다.

저자는 한상기, ＜서울대학교 컴퓨터공학과를 졸업했고 카이스트와 세종대학교 교수를 거쳐 2011년부터 테크프론티어 대표를 맡고 있다. 현재 기업을 위한 기술 전략컨설팅과 정부 정책 자문과 연구를 하고 있으며 기술과 사회에 관한 강연을 하고 있다. 인공지능 윤리를 위한 기술 프레임워크, 신뢰 가능한 인공지능 등에 관한 연구 과제를 수행했다.＞

이 책의 내용은 

왜 신뢰성이 문제가 되는가 

인공지능 기술이 일상생활, 기업활동, 사회 시스템에 활용되면서 과거에는 없던 일들이 발생하기 시작했다. 인공지능의 신뢰성 문제가 대두되기 시작한 것이다.

예를 들면 얼굴 인식이 인종과 성별의 차이로 문제가 생긴다거나 긍융, 복지, 채용에서 프로그램에 의한 판정이 자신에게 부당하게 처리됐다고 여겨도 그 과정을 제대로 설명듣지 못한다는 한계를 노출하기 시작한 것이다.

이러한 문제점을 저자는 공정성, 윤리성, 투명성과 설명 가능성, 견고성과 안정성으로 규정하고 문제점이 무엇인지, 그런 것들을 극복하기 위한 노력이 어떻게 이루어지고 있는가를 살펴보고 있다.

인공지능의 공정성

공정성 문제는 기업이 가장 예민하게 대응하는 이슈다. 알고리듬이나 데이터 편향으로 유발된 오류가 기업에 대한 이미지와 평판의 훼손 소송과 같은 법적 위기만이 아니라 정부에 의해 제재를 받을 수 있는 위험이 크기 때문이다. (107쪽)

언어 처리에서의 불공정성 :

2016년 3월 23일 마이크로소프트는 트위터에 ‘테이Tay’19라는 인공지능 챗봇을 소개했다. 그런데 테이가 사람들과 트윗을 주고받는 과정에서 갑자기 인종차별적이고 성차별적이며 폭력적인 트윗을 내놓았다. 마이크로소프트는 테이를 소개한 지 16시간 만에 서비스 중단을 선언했다. 마이크로소프트의 인공지능 챗봇 테이가 어떠한 배경지식이나 판단 기준을 갖지 않은 상태로 시작했다가 바로 서비스를 중단한 것은 준비되지 않은 인공지능 알고리듬이나 서비스가 얼마나 쉽게 편견과 차별을 만들어낼 수 있는가를 잘 보여준 사례다. 마이크로소프트가 테이의 부적절한 행위에 대해 어떤 처리나 방어를 하도록 디자인하지 않았기 때문이다. (75~76쪽) 

우리나라에서도 역시 같은 문제가 발생했다. 챗봇 이루다의 경우, 성희롱, 성소수자에 대한 차별, 혐오 발언등이 나오면서 인공지능의 윤리성 문제와 함께 혐오 가능성에 대한 사회적 이슈가 되었다. (76쪽)

데이터의 문제 :

인공지능 시스템의 대부분은 입력된 데이터에 의지하고 있는데 그 데이터가 애초부터 오류에 기인할 경우 문제가 되는 것이다. 데이터가 부정확하거나, 편향적이며 불법적인 요소로 만들어졌거나 영향을 받았을 경우, 문제가 된다. (84쪽)

 

데이터 수집이나 입력시에 자신도 모르는 사이에 특정 그룹의 가치관이나 사회적 판단을 인공지능 모델이나 알고리듬에 심을 수 있는 것이다.

인공지능 모델의 편향성은 크게 알고리듬 자체의 편견, 데이터세트에서 온 부정적 유산, 데이터 부족에 의한 과소평가에서 비롯된다. (94쪽)

이 공정성과 관련하여 감시사회가 문제가 된다. :

얼굴 인식 시스템이나 딥러닝, 빅데이터 등의 기술로 새로운 감시사회를 만드는 경향이 있다고 지적되고 있다. (89쪽)

대표적인 나라가 중국인데, 중국에서 얼굴 인식 시스템의 도입과 그것의 정치적 이용이 문제가 되고 있는 것이다.

직원감시, 대중교통에서의 수배 인물 확인, 거리에서의 교통질서 위반자 판별이 문제가 되고 더 나아가 인종차별적 방식으로 사용한다는 사례로 등장하고 있다.

영화에서나 볼 수 있을 정도의 일들이 지금 현재 벌어지고 있는 것이다.

참고로, 화웨이는 위구르 사람을 인식해서 경찰에 알리는 얼굴인식 소프트웨어를 테스트했다는 것이 내부 문서로 알려졌다. (89쪽)

인공지능의 윤리성에 대하여

철학에서 윤리에 대한 접근 방식은 대체로 다음과 같은 세 가지 방식이 있다.

칸트의 의무론적 접근,

벤담과 흄의 공리주의적 접근,

아리스토텔레스의 덕 윤리적 접근. 

이중 덕윤리학이라고 부르는 아리스토텔레스의 윤리관은 규칙이나 행위의 귀결을 강조하는 것이 아니라, 얼마나 좋은 인간이 돼야 하는가에 초점을 맞추면서 지속적 실천이나 행위자의 품성을 중시한다. 그래서 인공지능 시스템에서 채택하기 어려운 점이 많다. 

이런 이유로 대부분의 인공지능 윤리모델은 의무론이나 공리주의에 기반을 두고 하나의 모델로 접근하거나 이 둘을 결합한다. (119쪽)

인공지능의 윤리성에 관한 문제는, 윤리학에서 고전적인 문제, 트롤리 딜레마를 비롯하여 만흔 논의가 이루어지고 있는데, 특히 자율주행차의 도입에 있어 초미의 관심사가 되고 있다.

과연 자율주행차가 인간이 가지고 있는만큼의 윤리성에 입각하여 판단할 수 있을지? 그래서 위에 언급된 트롤리 딜레마와 같은 상황에 봉착하는 경우, 어떻게 할지 

인공지능의 투명성애 대하여

인공지능이 투명하지 않은 이유는 다음에서 비롯된다. (165쪽)

설명할 수 없는 알고리듬

학습 데이터 세트의 가시성 부족

데이터 선택 방법의 가시성 부족

학습 데이터세트 안에 존재하는 편향에 대해 제대로 파악하지 못하는 경우

모델 버전의 가시성 부족.

견고성과 안정성

저자는 이 장을 영화 ＜2001:스페이스 오딧세이＞의 한 장면을 인용하면서 시작한다.

데이브와 할의 대화다.

데이브는 우주선에 탑승하여 미션을 수행중인 인간 우주인이고, 할은 인공지능 시스템이다.

데이브 : 포드 베이 문을 열어, 할!

할 : 미안합니다. 데이브, 유감이지만 그렇게 할 수 없습니다. (197쪽)

인공지능이 독자적인 판단하에 인간의 말을 거역하고 자기 마음대로 행동하기 시작하는 순간이다.

인공지능의 견고성은 외부의 악의적인 공격이나 위험에 얼마나 인공지능기술과 시스템이 제대로 대처할 수 있는가의 문제다. 위의 사례에서 보는 바와 같이 인공지능 할이 인간의 명령에 불복하는 경우, 아주 커다란 문제가 발생한다.

또한 이 문제는 현재 시행 가능성에 가장 근접한 자율주행차 운행에도 적용할 수 있다.

이 경우 인공지능의 윤리성과도 맞물려, 심각한 문제를 초래하고 있는 것이다.

다시, 이 책은 

공정성, 윤리성, 투명성과 설명 가능성, 견고성과 안정성

이런 문제점들이 산재해 있는 인공지능, 과연 어떻게 대처해야 하는지 

저자는 그런 문제점에 대하여 대처하고 있는 실제 상황을 외국과 국내 기업들의 사례를 제시하면서 구체적으로 그 문제점과 해결을 위한 노력을 항목별로 보여주고 있다.

이런 당부와 함께.

인공지능과 사회문제를 연구하는 다양한 학자들이 다루는 주제나 문제점 해결방안이 기술적으로 얼마나 어려운 과제인지, 문제해결을 위해 어떤 기술이 필요한지를 이해할 수 있기를 바란다. (11쪽)

과문한 탓이겠지만, 인공지능과 관련하여 그 신뢰성을 다룬 책은 그간 접해보지 못했다.

이 책에서 인공지능의 신뢰성을 본격적으로 다루고 있는 것을 알게 된 것이다. 

언뜻 생각하면 인공지능이 실제 사회에서 많은 기여를 하고 있는 것처럼 보이나 실상 그 안에 들어가 보면, 여러 문제점이 있다는 것을 이 책을 통해서 비로소 알게 된다.

인공지능 예측에 대한 신뢰 문제는 학습 데이터의 부족이나 왜곡, 불완전한 기술 등 다양한 원인이 있다. (19쪽)

 

지금 여러 나라에서, 그리고 여러 기업에서 인공지능을 위한 다양한 가이드라인을 제정하고 있지만, 가이드라인은 그냥 가이드라인일뿐이다. 이를 구체적으로 구현해 준수하고 그 내용과 준수 여부를 확인하기 위한 노력과 기술이 필요하다. (61쪽)

인공지능이라는 말이 표면적으로 차갑게 들릴 수 있지만 이미 우리 사회에 인공지능(=AI)가 깊숙이 들어와있다는 것은 그 어느 누구도 부정하지 못할 것입니다.

특히 구글 사의 알파고와 이세돌 9단의 바둑 대결은 인공지능이 어떤 것이고 어느 수준까지 발전해있는지 일반인들에게 충격을 안겨주며 인공지능에 대해 관심을 갖게 만들었다고 생각합니다.

지금까지는 저장된 정보들을 기반으로 정해진 상황에서 작업을 수행하는 수준이었다면, 앞으로의 인공지능은 문제 상황을 스스로 인식하고 그에 따른 해결책을 찾아 제시하며, 인공지능의 의견까지 표현할 수 있을 것으로 예상하기도 합니다. 그런 인공지능을 우리는 얼마나 믿을 수 있을까요 

얼마 전 친구의 SNS 피드를 구경하다가 친구 자신의 얼굴을 합성한 딥페이크 영상을 본 적이 있습니다. 처음에는 너무 자연스럽게 합성이 되어서 웃기기도 했고 신기하기도 하더라구요.

알파고를 만든 것이 딥러닝(Deep learning, 컴퓨터 스스로 빅데이터를 반복 분석하여 학습하는 인공지능 기술) 이었다면, 딥 러닝에 가짜를 뜻하는 Fake(페이크)가 합쳐져서 딥페이크라는 말이 나왔다고 하네요. 쉽게 말해 고도의 인공지능 기술을 활용한 가짜 제작물이라는 것이죠. 하나의 유행처럼 번지고 놀이처럼 인식되어 많은 이들이 이 어플을 이용하지만, 알고보면 개인정보 유출이 우려될 수도 있다는 것 알아두셨으면 좋겠습니다.

저자는 카이스트에서 인공지능 분야 중 지식 표현에 관한 연구로 박사학위를 받았으며, 인공지능 전문가로 활발한 활동을 하고 있습니다. 저는 위에서도 언급했지만 딥페이크라던지, 자율주행 중 사고가 나면 윤리적 문제는 누가 어떻게 정의할 것인가 등을 생각해보며 인공지능에 대해 부정적인 시선이 강했던 사람입니다. 책을 통해 제가 생각해왔던 문제들 외에 또 다른 어떤 문제들이 있는지 알아보길 원했고, 어떻게 해야 인공지능이 미래 사회에서 인간과 공존할 수 있을지 궁금하여 이 책을 읽어봤습니다.

P.58 챗봇 이루다 이슈로 인공지능 윤리 문제가 사회적 관심을 받으면서 전 직원을 대상으로 인공지능 알고리듬 윤리 교육을 온라인 사내 교육을 통해서 실행하기로 했다.

놀라웠던 점은 이미 많은 기업에서 인공지능의 악용을 막고 올바른 사용을 하기 위한 원칙을 마련하고 실천하고 있었다는 것입니다. 구글, 마이크로소프트, IBM, 페이스북, 카카오, 네이버, LG전자 등 인공지능과 밀접한 주요 테크기업에서 이런 움직임을 보인다는 것은 인공지능 신뢰성을 확보하기 위한 노력이라 이해되었습니다.

P.107 공정성 평가 연구에는 공정성 문제 전문가, 사용자를 대상으로 하는 연구자, 프라이버시 전문가, 법률가, 사회과학자 등 여러 분야의 전문가가 협력해야 한다.

새로운 기술에 대한 지표를 마련할때는 사회 각계각층의 이야기를 들어서 공정성을 기반으로 두어야 한다고 생각하며, 데이터가 어느 한 쪽으로 치우치지 않도록 조심해야 할 것이다. 책을 읽으면 읽을수록 인공지능이 사회에 들어오기 위해 해야 할 연구와 관련 법규제정이 부지런히 이뤄져야 겠다는 생각이 들었습니다.

책은 인공지능이라는 기술을 말하고 있지만 실생활에서 본격적으로 사용하기 위해 해결해야 할 이슈와 연구개발 주제를 함께 이야기하고 있어서 인공지능에 대해 관심있어 하는 분이라면 꼭 한번 읽어보시길 권하고 싶습니다. 매우 유익한 시간이었습니다.

[이 글은 출판사로부터 도서를 협찬받아 주관적인 견해에 의해 작성했습니다.]

인공지능 몇년전까지만해도 주위에서 별로 들리지 않던 단어였고 그래서 일반인인 나는 별 관심이 없었지만

이세돌과 알파고의 바둑대결로 인해서 사람들도 그렇고 나또한 인공지능에 대해 관심을 갖게 되었던것같다.

요즘은 티비나 매체를 통해서 끈임없이 들려오는 이야기들도 인공지능에 대해서 더 관심을 갖게하는 요소가 

된것같다. 아이가 입시를 준비중인데 요즘 가장 인기있고 취업이 잘되는 학과라고 하면 컴퓨터관련학과나

인공지능,빅데이터에 관련된 학과들인데 내가 지금 사는 세상도 그렇지만 아이들이 살아갈 머지않은 미래에서는

더더욱 인공지능과 뗄수없는 환경에 놓여지게 될것같다.

그때문에 인공지능에 관해서 그리고 신뢰할 수 있는 인공지능에 관해서 알고싶어서 이 책을 읽게 되었다.

내가 본 영화에서는 나쁜 마음을 가진 인간들에 의해 인공지능 로봇이 우리에게 도움을 주는 방향이 아닌

스스로 생각하기 시작한 인공지능 로봇들로 인해 인간과 더불어 사는 세상이 아니라 지배당하는 그런 종류의

영화도 많아서 신뢰할 수 있는 인공지능에 대해서는 기업 그리고 모든 나라들이 원칙과 기준을 가지고

인공지능을 개발해야하지 않을까 싶고 특히 기업들은 책임감 있는 정책들을 가지고 기업의 더 많은 이익보다는

인류를 위한 윤리적인 부분이나 신뢰할 수 있는 인공지능 기술을 개발해야할것같다.

인공지능 기술은 내가 알기전 오래전부터 개발되어 왔을텐데 지금은 관련된 종사자가 아니더라도

우리 생활에 스며들어와서 자리잡고 있는 기술이 되어버린것같다.

내가 가장 쉽게 접하는 인공지능 기술은 유튜브 알고리즘인것같다. 내가 검색하는 부분들이나 자주 보는 영상들의

데이타를 활용해서 추천영상을 보여준다거나 하는 것이다. 그리고 자율주행 자동차들에도 인공지능 기술들이

사용되었을텐데 위험한 상황에서 도로위에서 운전자의 판단이 아닌 인공지능의 판단으로 운행되었을때

그 결과에 대해서도 어떤결정이 윤리적으로 올바르고 사회적으로 용납될수 있는것인가에 대한 딜레마에 빠질수도 있다.

인공지능 기술은 앞으로 우리 생활에 더 밀접해지고 없어서는 안될 기술이 되겠지만

그로인한 윤리적인 원칙들 그리고 신뢰할 수 있는 인공지능 기술에 대해서 부족함이 없이 앞으로도

논의되고 신뢰를 줄수 있는 인공지능이 되어갔으면 하는 바램을 가져본다.

＜신뢰할 수 있는 인공지능＞ 한상기, 클라우드나인


인공지능 기술이 많이 관심을 받으며 인공지능이 가지는 새로운 지능의 대체에 대해 많은 연구와 우려들이 혼재해있다.

과연 현재의 인공지능 기술을 지능이라고 말할 수 있는지는 아직 미지수지만 인공지능이 가지는 지향점과 현재 연구된 기술에 대해 인간 사회 속에서 사용되어질 때 우리가 인식해야 할 내용이 무엇인지 어떠한 기술로 발전해야 신뢰 가능한 기술이 될 것인지에 대한 고민들을 모아 정리한 책이다.

왜 인공지능의 신뢰성이 중요한지부터 설명하면서 현재 인공지능 기술의 신뢰성에 대한 이슈를 공정성, 윤리성, 투명성과 설명가능성, 견고성과 안전성의 네가지 이슈로 정리해서 각각의 이슈들이 가지는 문제점이 무엇이고 실제로 어떤 사례를 만들었는지 알려주고 그것을 해결하기 위한 학계나 산업계의 노력은 무엇이고 어떤 효과를 내고 있는지 현재 시점에서 알려주고 있다.

이 책에서 알려주는 사례들은 사실 좀 섬짓하다. 자율주행 차량의 교통사고 정도는 익히 들어 알고 있었지만 요즘 공항이나 사람이 많은 공간에서 안내용 로봇이 많이 돌아다니는데 작은 아이를 인식하는 것을 실패하여 아이를 덮친 사례에선 이 기술의 문제점을 잘안다고 생각했던 나도 방심했던 영역이었구나 싶은 생각이 들었다.

사실 로봇이나 자율주행차에 대한 문제는 생명과 직결되긴하지만 현재 발생하는 수많은 교통사고처럼 기술에 의한 사고의 한 유형이라 말할 수 있지만 현재 인공지능 기술을 이용해 딥페이크와 같은 가짜 동영상을 만들어 유포하거나 취업이나 인간에 대한 분석에서 편견을 고착화하는 문제들은 사회적인 심각성이 깊이 내포된 문제라서 인공지능 기술의 윤리성을 어떻게 가져가야 할 것인지 인문학적 고민이 필요한 영역이다.

현재의 인공지능 기술은 통계적인 기법을 기반으로 하여 데이터의 편향성을 파악하는 것이다. 그것이 크게 분류와 인식이라는 측면으로 나뉘지만 결국 데이터의 편향성이 어떻게 나뉘는지 파악하는 것이 인공지능 기술이다보니 잘못이해하고 사용하게 되면 기존의 성차별이나 인종차별과 같은 문제를 고착화하는 패턴을 만들어낼 수 밖에 없다.

인간은 스스로 인식의 차이나 한계를 극복할 힘을 가진 지능화된 동물이다. 인공지능에서 지능이라는 단어가 가지는 함정은 바로 이부분일 것 같다. 인공지능은 아직 자기 스스로의 인식에 대한 한계를 극복할 힘을 가지지 못한다.

전반적으로 현재 인공지능 기술이 가지는 문제적 이슈를 잘 정리해서 보여주고 있으면서 견고성과 안전성의 문제에서도 보안적인 이슈가 새로운 부분에서 많이 대두되고 있다는 사실도 알 수 있었고 지금 진행하는 과제에서 풀어야 할 숙제를 해결할 힌트를 얻을 수 있어 더욱 만족스러운 책이었다.

신뢰할 수 있는 인공지능 인공지능을 사회에서 받아들이기 위한 조건

인공지능 시대가 어느 때보다 성큼 다고 오고 있다는 것을 느낀다. 자율주행차가 주행하다 갑자기 멈추면 자율주행차 주인의 잘못일까? 운전을 도맡았던 인공지능의 잘못일까 

인공지능은 우리 생활에 막대한 편리를 제공하겠지만, 이와 동시에 해결해야 할 조건도 다양하다. 인공지능 개발에 몰두할 것이 아니라 규제도 동시에 일어져야 신뢰할 수 있는 인공지능 시대를 맞이할 것이다.

인공지능이 처음 등장한 1950년대의 첫 물결을 시작으로 1980년대 지식 기반 시스템을 거쳐 2010년 이후로 머신러닝과 딥러닝이라는 새로운 패러다임을 통한 세 번째 물결을 맞이하고 있다.

지금 가장 관건이 되는 것은 강인공지능의 출현이 언제일까? 라는 질문이다.

호주의 뉴사우스웨일즈대학교 교수 토비 윌시교수는 약한 인공지능에서는 특정한 영역에서 인간과 비슷한 능력을 보여준다. 일반 인공지능은 모든 영역에서 인간과 비슷한 능력을 지닌다. 초지능이 되면 가장 뛰어난 인간보다 훨씬 똑똑해진다. 월시 교수는 인간의 힘으로 초지능 단계까지는 실현 가능하다고 예측했다. 그러나 강력한 인공지능 단계는 부정적으로 본다.

강인공지능의 출현을 알리는 뉴스가 등장하기까지 상당한 시간이 걸릴 거라 믿었음에도 특정 분야에서 강인공지능의 출현 소식이 들려오고 있다.

인류와 인공지능의 공존을 위해 사회가 받아들이기 위한 조건에는 무엇이 있을지 새삼 중요해지는 시점이다.

클라우드나인에서 출판한 ＜신뢰할 수 있는 인공지능＞은 가장 중요한 문제인 인공지능의 신뢰성을 필두로 공정성, 윤리성, 투명성, 견고성, 안정성에 관해 지금까지 연구개발이 어떤 방향으로 이루어지고 있으며, 얼마나 많은 기술 개발이 필요한지 소개하고 있다.

저자인 한상기 대표님은 서울대학교 컴퓨터공학과를 졸업했고 카이스트에서 인공지능 분야 중 지식 표현에 관한 연구로 박사학위를 받았다. 삼성전자 전략기획실과 미디어 서비스 사업팀에서 인터넷 사업을 담당한 후 2003년 다음커뮤니케이션 전략대표와 일본 법인장을 역임했다. 두 번의 창업을 했고 카이스트와 세종대학교 교수를 거쳐 2011년부터 테크프론티어 대표를 맡고 있다.

[ 신뢰할 수 있는 인공지능 책날개 중 ]

인공지능의 신뢰성에도 불구하고 기술의 발달이 가져올 역효과가 걱정스럽다. 테슬라의 자율주행차는 사고율을 줄이긴 하지만, 여전히 교통사고를 유발한다. 인공지능을 악용하는 사람의 의지와 인공지능의 만남은 그 자체로 다음 007 영화의 소재가 되기 충분하다.

중국의 알리바바는 위구르 사람의 얼굴을 인식하는 서비스를 제공했다. 미국에서는 얼굴 인식 기술을 금지하는 주가 늘어나지만, 경찰이나 법원은 이를 사용하는 사례가 늘고 있다.

유명인의 얼굴을 딥페이크 기술을 이용해 원본과 구별 지을 수 없게 하는 것도 점차 빈번하게 발생하고 있다.

이런 모든 걱정에도 우리는 인공지능과 공존할 수 있는 조치를 찾고 있다.

국내에서는 2019년 한국지능정보사회진흥원에서 경제협력개발기구 인공지능 권고안에서 말한 국가 정책 발굴 가이드라인에 따라 공공 분야에 미칠 인공지능 영향을 예측하고 국내 인공지능 정책 방향을 구체화하고 우리나라 수준에 맞는 세부 정책을 도출하고 있다.

주요 테크 기업은 ‘책임감 있는 인공지능’ 실천 방안을 마련하고 있다.

특히 구글에서는 2018년 인공지능 기술을 무기나 인권 침해에 사용하지 않겠다고 발표했다. 그리고 인공지능 응용의 7가지 목적과 인공지능 응용에서 추구하지 않을 4가지 기준을 제시했다.

구글에 이어 마이크로소프트, 페이스북, 아마존에서도 신뢰할 수 있는 인공지능을 위한 다양한 가이드라인을 만들고 있다.

앞으로 우리가 해야 할 일은 이를 구체적으로 준수하는지 확인하기 위한 기술적 노력이 필요하다.

인공지능의 발달은 앞으로 우리 생활에 커다란 변화를 예고하고 있다.

당장 인공지능의 한 두뇌게임에서 인간의 패배는 기정사실인가?

인공지능의 도움을 얻는 판사의 판결을 우리는 신뢰할 수 있을까?

너무도 다양한 분야에서 인공지능의 물결을 밀려오고 있다. 강인공지능이 본격적으로 등장하기 전에 인공지능을 규제하기 조건이 궁금하다면 ＜신뢰할 수 있는 인공지능＞을 참고하시기 바랍니다.

- 이 글은 출판사에서 도서를 지원받아 주관적으로 작성하였습니다.

#신뢰할수있는인공지능 #한상기 #클라우드나인 #인공지능 #과학 #트렌드 #미래예측 #컴퓨터공학 #책과콩나무

여기에는 7가지의 주요 요구사항이 들어있다. 앞에서 설명한 가이드라인의 개념을 반영한 것이다.

인간을 통한 감독
기술적 견고성과 안전성
프라이버시와 데이터 거버넌스
투명성
다양성과 비차별성 그리고 공정성
사회와 환경 복지
책무성 (-32-)


1원칙 : 로봇은 인간에게 해를 가하거나 혹은 행동을 하지 않음으로써 인간에게 해가 가도록 해서는 안 된다.
2원칙 : 로봇은 1원칙에 어긋나지 않는 한 인간의 명령에 복종해야 한다.
3원칙: 로봇은 1,2 원칙에 어긋나지 않는 한 자기 존재를 보호해야 한다. (-122-)


그래서 로봇과 인공지능에 적합한 도덕과 윤리 아키텍처는 다음과 같은 기능을 담고 있어야 한다고 주장한다.

빠르게 반응하는 패턴 매칭형 규칙
숙의 추론 프로세스
사회적 신호 프로세스
긴 시간을 통해 이루어지는 사회적 과정 (-132-)


각 기여는 어떤 기능이 특정 사례에 대한 예측에 얼마나 영향을 주는지를 보여준다. 따라서 전체 데이터세트에 대한 기여를 모아야 데이터세트에 대한 대력적인 모델 행위를 이해할 수 있다
기여는 전적으로 모델과 모델을 학습시키는데 사용한 데이터에 의존한다.
기여만으로는 모델이 공정하고 편향되지 않으며 건전한 품질을 가졌는지 설명할 수 없다. 학습 데이터세트, 과정, 평가 지표를 조심스럽게 평가해야 한다. (-183-)


앞으로 인공지능 개발자와 보안 분석가는 모든 머신러닝 애플리케이션이 적대적 공격 대상이 될 수 있음을 인지하고 취약한 코드를 쓰거나 배포하기 전에 적대적 위협을 평가해야 한다.또한 폭넓은 적대적 입력에 대해 인공지능 애플리케이션을 테스트해서 추론의 견고성을 확인하고,'적대적 머신러닝 위협 매트릭스'가 제공하는 것과 같은 적대적 방어 지식을 사용해 위조 입력 예시에 대한 인공지능의 탄력성을 개선해야 한다. (-205-)


인공지능 ,로봇이 우리 삶을 어떻게 바꿔 놓을 것인지는 단순히 상상속에 머물러 있었다. 영화, 드라마,애니메이션 속에 인공지능 로봇은 파괴적이면서, 감성적이거나, 지극히 객관적이면서 이성적인 형태를 띄는 경욱라 많았다. 그 대표적인 사례가 영화 테미네이터다. 인간처럼 보이는 기계와 파괴적인 본성을 가진 기계의 충돌, 기계에게 인간적인 면모를 표상한다는 것은 지금 현실에 맞지 않은 부분이 노골적으로 나타나고 있었다. 이후, 즐겨 봤던 국민 일본 만화 드래곤볼의 경우, 인공지능 로봇에 대한 인식을 보면, 여전히 인간적이면서, 파괴적인 특징이 나타나고 있으며, 인간의 지능에 가까운 로봇은 상당히 우려스러운 측면이 있었다. 기계적인 파괴 본성과  인간적인 매력이 동시에 나타난느 경우가 대부분이다. 그 과정에서 우리는 생각하게 되고, 상상하게 된다. 좀 더 나은 방향성, 로봇에 내장되어 있는 딥러닝은 어떤 프로그램이며, 그것이 어떻게 현실에 투영되는지 말이다. 인공지능이 안고 가는 문제들, 오류와 기계적인 결함, 반윤리적인 문제까지 짚어 나갈 수 있으며, 내 삶의 기준이 될 개연성을 충족시켜 주고 있었다. 신뢰할 수 있는 인공지능이 되려면, 실제 인공지능의 수준에 따라서 기본 가이드라인이 있어야 한다. 군사적으로 쓰여질 수 있는 개연성이 충분히 있으며, 학습과 배움이 필요하고, 그 안에서 여러가지 리스크를 고려해야 한다. 기계가 가질 수 있는 인간의 윤리적인 부분을 파괴할 수 있고, 그 내부에 유동성이 충족되어야 한다. 최근 자율주행 자동차의 내부 결함이 문제시 되고 있는 가운데, 신뢰할 수 있는 인공지능의 조건 뿐만 아니라 여러가지 절차들을 알고 간다면, 의심을 심뢰로, 위기를 기회로 극복할 수 있는 조건이 충족될 수 있다. 

어쩌면 인공지능이라는 말을 빼놓고 우리의 삶을 이야기하기 힘들 것 같다는 생각이 드는 요즈음입니다.

인공지능의 발달로 인간이 하던 일의 많은 부분을 기계가 하고 있어서 인간이 설 자리가 없다는 생각에

인공지능에 대한 거부감을 가지고 있는 사람들도 있을 것 입니다.

하지만 현대사회는 이미 많은 부분 인공지능을 사용하고 있고

인공지능은 거부할 대상이 아닌 우리와 함께 어떻게 공존할 수 있을까에 대해 생각해보아야 하는 문제라고 생각합니다.

이번에 만난 책이 바로 이 부분에 대해 잘 설명이 되어 있어서 많은 도움이 되었습니다.

인공지능의 어떤 부분을 보완하면 사회에서 잘 받아들일 수 있을까?

인공지능의 신뢰성, 공정성, 윤리성, 투명성과 설명 가능성, 견고성과 안전성에 대한 이야기가 나오는데

책을 읽는 내내 고개를 끄덕이면서 읽을 수 있었습니다.

무엇보다 기억에 남는 부분은 여러 기업의 인공지능 정책 부분이었습니다.

이득과 위험요소를 비교하고 안전이 보장되었을때만 개발을 한다던지

국제적으로 용인할 수 있는 수준을 벗어난 기술은 추구하지 않는다던지...

많은 기업들이 인공지능이 우리의 삶을 방해하지 않는 범위안에서 개발될 수 있도록 노력하고 있다는 것을 알게되었습니다.

또한 인공지능이 누구에게나 공정하게 사용되어져야 하기에

인종에 따라 얼굴을 인식하지 못하는 경우가 발생하지 않도록 노력을 기울이고 있다고 합니다.

혹시 트롤리 딜레마에 대해 들어본적이 있으신가요?

자율주행차가 위험에 쳐했을때 과연 인간처럼 판단하고 대처할 수 있을지에 대한 윤리적 문제도

인공지능이 우리와 함께하기 위해서 해결되어야 할 문제일 것입니다.

이처럼 인공지능은 인공지능이 가지고 있는 단점을 극복하고 신뢰할 수 있는 연구를 기반으로

인간과 공존하는 방향으로 인간과 함께해야 할 것입니다.

인공지능이 인간의 삶과 함께하기 위해 얼마나 많은 부분에 대해 연구가 이루어지고

고려되고 있는지 느낄 수 있는 시간이었습니다.

예전에는 TV 가 영상을 접할 수 있는 거의 유일한 수단이었지만 최근에는 TV 를 보는 시간보다 유튜브나 넷플릭스를 보는 시간이 더 많아졌습니다. TV 는 정해진 시간에 정형화된 콘텐츠만 제공하는 것과는 달리 동영상 사이트에 올라오는 콘텐츠는 주제나 배경 등이 다양해 골라서 보는 재미가 있네요. 특히 몇 편을 보고 나면 내가 좋아할만한 다른 콘텐츠도 추천해줘서 생각 없이 보게 되네요. 어떻게 나보다 나를 더 잘 아는지 알고리즘의 정확도에 놀라게 됩니다.

AI 기술은 이미 우리 삶의 많은 부분에 적용되어 있습니다. 아직까지는 사람의 조작이 일부 필요하지만 자율주행 자동차 기술은 이미 상당 수준에 올랐네요. 하지만 AI 기술로 인해 새롭게 대두되는 문제점도 있는데 '신뢰할 수 있는 인공지능' 에서는 AI 의 신뢰성에 대해 분석하고 있습니다.

얼마전 한 스타트업이 공개한 AI 챗봇 이루다는 사회적으로 큰 파장을 불러 일으켰습니다. 챗봇 학습을 위해서는 실제 사용자들의 채팅 데이터가 필요한데 서비스 이용자에게 제대로 고지하지 않고 데이터로 이용하였으며, 개인 정보 상당수가 걸러지지 않아 이루다의 대화에서도 그대로 드러났네요. 몇 년 전 MS 에서 테이라는 챗봇을 공개하였으나 불과 수시간만에 사람들의 악의적인 학습에 의해 인종차별적이고 폭력적인 말을 하면서 서비스를 중단하기도 했습니다.

이를 통해 알 수 있는 것처럼 AI 기술에는 데이터가 상당히 중요합니다. 보통 지금까지 여러 경로로 축적한 데이터를 학습에 맞게 가공하여 쓰는데 데이터가 편항적이라면 학습 결과도 자연스럽게 편향적이 되네요. 동일한 범죄라도 흑인의 처벌 수위가 높은 현재의 데이터를 이용한다면 AI 가 인종에 따라 다른 처벌을 내놓고, 백인은 비교적 안면 인식의 정확도가 높지만 다른 인종은 제대로 인식하지 못할 수 있습니다. 카테고리별로 데이터의 양이나 질을 유사하게 구축하지 못할 경우 AI 의 신뢰성은 매우 떨어지게 되네요.

AI 기술의 문제점은 AI 내부가 어떻게 동작하는지 완전히 블랙박스이기 때문에 우리가 알 수 없다는 점입니다. 어떤 조건에서는 반드시 어떤 결과를 내는 것이 아니라 수많은 케이스를 분석해 내부적으로 셀 수 없을 정도로 많은 파라미터를 만들기 때문에 AI 를 개발한 사람도 그 이유를 알지 못하네요. 이러한 문제를 극복하기 위해 최근에는 설명할 수 있는 AI 에 대한 관심도 높아지고 있습니다. AI 가 왜 그런 결과를 내었는지 설명할 수 있다면 AI 의 신뢰성은 지금보다 더 높아지지 않을까요.

지금까지는 AI 기술의 발전에 초점을 맞추어 왔다면 최근에는 AI 기술이 빠른 속도로 우리 삶에 적용되면서 이로 인해 발생하는 윤리나 신뢰, 공정에 대한 문제들이 제기되고 있습니다. 공상과학 영화에서 보던 장면들이 우리 앞에 나타날 때가 멀지 않았는데 이 책에서 주장하는 것처럼 AI 기술의 신뢰성이 담보되지 못한다면 어떤 결과가 일어날지 상상이 되지 않네요. AI 기술의 최근 현황과 문제점을 극복하기 위한 각국 정부 및 IT 기업, 종교계 등 사회 다방면에서의 노력에 대해 읽어볼 수 있어서 도움이 되었습니다.

인공지능, AI에 대한 평가는 지금까지 긍정적인 평가보다는 부정적인 평가에 촛점이 맞춰졌다고 해도 과언이 아니다.
어쩌면 우리는 인공지능을 활용할 수 있는 방법보다는 인공지능이 인간을 위협할 가공할 수준으로의 역할에만 메몰되어 인공지능에 대한 지식과 발전과정, 그리고 인간에게 유익한 인공지능이 될 수 있도록 하는 일을 간과하고 있었는지도 모를 일이다.
하지만 아직 늦지 않았다고 생각한다.
인공지능은 이제 시작이고 다양한 방면으로 발전 가능성이 존재한다는 사실을 생각하면 우리의 생각 넘어 있는 부정성에 대한 기우는 잠시 접어두어도 되지 않을까 하는 판단을 해보게 된다.

이 책 "신뢰할 수 있는 인공지능" 은  인간이 인공지능에 대해 신뢰할 수 없는 부분인 부정적 진실에 대한 공감을 역행하는, 신뢰로의 공정, 윤리, 투명성에 대한 설명이나 가능성과 견고함, 안전함 등에 대한 인간의 불안함을 충분히 느껴볼 수 있는 책이기도 하다.
그러나 인간이 만든, 만들고자 하는 미래 궁극의 인공지능은 인간을 살상하는 존재가 아닌 인간의 삶을 더욱 윤택하게 하는 존재로서의 인공지능임을 우리 모두가 새롭게 깨달아야 한다.
개인적 연구를 진행하는 사람들도 존재하지만 기업 측면에서의 인공지능 활용이 더욱 빛을 발하고 있다는 생각이 든다.
기업의 지속가능한 비전을 위한 인공지능과의 결합은 그에 따른 최적화된 방식을 제시할 것이고 이는 인공지능의 발전을 이끌어내 신뢰할 수 있는 인공지능 시대를 구축할 수 있는 발판으로의 가능성을 높여줄것 이라는 판단을 해 보게도 된다.

인간의 삶에 기여 혹은 영향을 미치는 인공지능의 역할론이 점점 더 크게 변화되는 현실을 우리는 살고 있다.
자신도 모르는 세상의 변화에 당황할 수 있음이고 보면 인공지능에 대한 지식을 갖추고 활용하거나 사용자로서의 이익을 챙기는것은 인간의 보편적 삶의 욕망을 충족하는 일이기도 한다.
인공지능에 대한 관심과 지식을 갖추는 길이야 말로 우리가 인공지능을 신뢰할 수 있는 기회로 활용할 수 있음을 깨닫고 미래 인공지능 사회에 대한 걱정을 조금이라도 덜어볼 수 있지 않을까 하는 기대감을 가져본다.

신뢰의 기반은 안전이다. 어떤 현장에 존재하고 있든 신뢰할 수 있음은 안전을 담보하게 된다.
안전한 삶의 기반을 위한 인공지능의 적용이 오롯이 우리를 미래사회의 주역으로 이끌어 낼 수 있다면 보다 좋은 신뢰할 수 있는 인공지능 사회를 추구함이 올바른 길이라 할 수 있을것 같다.

**네이버 카페 책과콩나무의 서평으로 제공받아 솔직하게 작성한 리뷰입니다**