확장메뉴
주요메뉴


소득공제 베스트셀러
미리보기 공유하기

AI는 양심이 없다

: 인간의 죽음, 존재, 신뢰를 흔드는 인공지능 바로 보기

리뷰 총점9.8 리뷰 14건 | 판매지수 3,009
베스트
사회학 48위 | 사회학 top100 15주
정가
18,800
판매가
16,920 (10% 할인)
YES포인트
eBook이 출간되면 알려드립니다. eBook 출간 알림 신청
가방 속 책 한 권이라면 - 굿리더 스트링백/간식 접시 머그/디즈니 미키 타포린 보냉백/타포린백
〈2022 한국 문학의 미래가 될 젊은 작가〉- 투표 참여 회원 전원 1천원 상품권 증정!
8월 얼리리더 주목신간 : 귀여운 방해꾼 배지 증정
『AI는 양심이 없다』 - 인공지능 윤리지침 증정
8월 전사
쇼핑혜택
1 2 3 4 5

품목정보

품목정보
출간일 2022년 05월 02일
쪽수, 무게, 크기 336쪽 | 488g | 148*210*30mm
ISBN13 9791188366330
ISBN10 1188366335

책소개 책소개 보이기/감추기

인공지능에게 배신당하지 않고 살아가려면 어떻게 해야 할까?

“인공지능이 인류의 마지막 기술일 수 있다!”는 글로벌 리더들의 경고가 끊이지 않는다. 저자는 우리를 상대로 인공지능이 이미 흔들어대거나 조만간 흔들 이슈를 사례별로 정리하면서 인공지능에 의한 부작용과 역기능, 위험성을 모두 법으로 포괄해내기에는 인공지능의 발전 속도와 영역 확산으로 인해 불가능하다고 말한다. 미래에 인공지능에게 배신당하지 않고 함께 살아가려면 지금 방어적 준비로써 ‘인공지능 윤리’에 대한 사회적 담론을 제안한다. 네이버, 카카오, KT 등 국내 최고 IT 기업의 인공지능연구 책임자들이 ‘AI 윤리의 교과서, 필독서’라며 강력하게 이 책을 추천하고 있다.

목차 목차 보이기/감추기

프롤로그

1장 ‘죽음’을 흔드는 AI

디지털 부활의 시작
다시 살아나다 | 사후 디지털 고용과 명예훼손 | 사자의 퍼블리시티권과 경제적 이득
새로운 애도 프로그램의 출현
다시 만나다 | 디지털 페르소나 | 디지털 부활을 구현할 특허
디지털 흔적과 디지털 유산
고인이 남긴 디지털 기록들 | 프로파일링과 잊힐 권리 | 사망자 계정과 사후 프라이버시 | 고인의 죽음을 흔드는 손
살아 있는 자의 디지털 영생
디지털 쌍둥이 | 모호해진 산 자와 죽은 자의 경계
살아 있는 자의 생물학적 영생
노화와 죽음을 치료하려는 시도 | 새로운 기술, 새로운 생각 | 포스트 휴머니즘과 인공지능 | 인간과 인공지능의 공존 관계

2장 ‘존재’를 흔드는 AI

존재하지 않는 존재, 가상 인간
버추얼 휴먼과 아바타 | 인플루언서에 대한 국내외 인식 | 가상 인플루언서의 등장
가상 인플루언서
휴먼 인플루언서를 능가하는 가상 인플루언서 | 가상 인플루언서의 장점과 문제점 | 가상 인플루언서의 신뢰성 문제 해결 방식
가상 아나운서
한·중·일의 가상 아나운서 | 가상 아나운서의 영향력과 전망
가상 가수
한국과 일본의 가상 가수 1세대 | 보컬로이드 가상 가수 | 인공지능 기술과 가상 가수
아바타와 메타버스
아바타의 등장 | 메타버스의 급습 | 메타버스 윤리: 디지털 윤리 vs 아날로그 윤리

3장 ‘신뢰’를 흔드는 AI

인공지능과 혁신
이루다와 알파고 | 의료계를 뒤흔든 인공지능 | 금융계의 판도를 바꾼 로보 어드바이저 | 리걸 테크의 꽃 인공지능 변호사 | 예술 영역에도 발을 디딘 인공지능
인공지능과 4차 산업혁명
4차 산업과 4차 산업혁명 | 4차 산업혁명의 핵심 신기술 | 불안과 걱정을 몰고 온 인공지능
인류의 마지막 기술일까?
초지능 슈퍼인텔리전스 | 인류에 대한 초지능의 위협 | 인공지능이라는 ‘존재적 위험’
책임지지 않는 인공지능
자율 주행차 사고와 책임 소재 | 탈인간 중심의 법체계는 가능할까?
사람을 차별하는 인공지능
흑인을 차별하는 인공지능 | 여성을 차별하는 인공지능 | 공립학교를 차별하는 인공지능 | 챗봇이 보여준 차별과 편견
착각하게 만드는 인공지능
인공지능의 의인화 | 불쾌한 골짜기 | 딥페이크와 딥누드 | 의료 영상의 완벽한 위조
안전하지 못한 인공지능
적대적 공격과 오픈 소스 | 취약한 인공지능 컨테이너 | 신뢰할 수 있는 인공지능을 향해

4장 흔들림 너머 AI 바로 보기

흔들리는 인간을 위한 윤리
인공지능에게 윤리가 필요한 이유 | ESG 경영과 인공지능 윤리 | 개발자 중심에서 이용자 중심으로 | ‘윤리’의 바다를 항해하는 ‘법’이라는 배
인터넷 윤리를 품은 인공지능 윤리
인터넷 윤리의 등장 | 인공지능 윤리의 등장 | 개인 정보와 프라이버시 정보 유출 | 일라이자 효과 vs 중독 현상 | 새로운 윤리의 기본 원칙
인공지능 윤리 원칙의 도출
5 Whys에 의한 특성 분석 | 차별적 특성과 보편적 특성 | 인공지능 윤리의 기본 원칙
공공성과 책무성 이해하기
공공성 관련 원칙들 | 책무성 관련 원칙들
통제성과 투명성 이해하기
통제성 관련 원칙들 | 투명성 관련 원칙들
인공지능 바로 보고 마주하기
국가 인공지능 윤리 기준 | 교육 분야에서 인공지능 윤리 | 대학에서 인공지능 윤리 | 공공 분야에서 인공지능 윤리 | 인공지능 생태계와 정부의 역할 | 전 국민을 위한 인공지능 윤리

에필로그
주석
찾아보기
참고 문헌

저자 소개 (1명)

책 속으로 책속으로 보이기/감추기

우리를 상대로 인공지능이 이미 흔들어대거나 조만간 흔들 이슈를 사례별로 정리했다. 우리가 흔들림 없이 인공지능을 이용하려면 어떻게 해야 할지, 미래에 인공지능에게 배신당하지 않고 함께 살아가려면 어떻게 해야 할지 지혜를 찾고자 했다. 이 지혜를 ‘윤리’라는 단어 안에 함축했다.
---「프롤로그」중에서

인공지능은 고인을 대상으로 하여 ‘죽음을 흔드는 손’으로 급부상하고 있다. 고인이 남긴 디지털 흔적과 디지털 유산을 활용해 인공지능이 고인을 디지털 세상에 다시 불러와서 이곳에서 활동을 재개하도록 해주는 ‘사후 디지털 부활’ 또는 ‘사후 디지털 고용’ 현상은 얼마 가지 않아 본격화될 것으로 보인다.
---「1장 ‘죽음’을 흔드는 AI”의 ‘디지털 흔적과 디지털 유산」중에서

시간이 흐르고 세상이 바뀌어 많은 사람이 인공지능과 친숙해지고 ‘반려견’, ‘반려묘’ 못지않게 ‘인공지능’을 대하는 상황이 벌어질 것이다. 특히 인공지능이 외모나 능력, 특성 등 사람을 닮아가는 의인화 현상이 심화되고 사람들이 이에 익숙해질 경우 인간과 인공지능의 공존 관계를 수평적으로 바꿔야 한다는 논의가 불가피해질 수 있다.
---「1장 ‘죽음’을 흔드는 AI”의 ‘살아 있는 자의 생물학적 영생」중에서

휴먼 인플루언서는 과거와 현재 그리고 미래의 사생활에서 있어서 예측 불가능한 위험성을 안고 있다. 그러나 가상 인플루언서에게는 음주 운전, 마약 복용, 과거 학교 폭력, 스캔들 등과 같은 개인적 위험성이 원천적으로 존재하지 않는다. 그래서 갈수록 많은 기업들이 자신의 브랜드 홍보에 가상 인플루언서의 도움을 받기 시작했다.
---「2장 ‘존재’를 흔드는 AI”의 ‘가상 인플루언서」중에서

메타버스 안에 존재하는 아바타는 현실 세계의 나를 대리하는 존재이기 때문에 실제 인간의 필요, 감정, 욕심을 그대로 투영하기 쉽다. 그렇기에 메타버스의 효용성과 유용성만을 강조할 수 없다. 현실 세계에 못지않은 문제점, 심지어 메타버스이기에 새롭게 생겨난 문제점들도 적지 않게 잠복해 있다.
---「2장 ‘존재’를 흔드는 AI”의 ‘아바타와 메타버스」중에서

2016년의 인공지능 알파고 사건은 인공지능이 우리의 생각보다 얼마나 더 똑똑할 수 있는지를 보여주었으며 인공지능의 엄청난 잠재력과 발전 가능성을 깨닫게 했다. 반면에 그로부터 5년 후인 2021년의 인공지능 이루다 사건은 우리가 인공지능을 자칫 잘못 다룰 경우 얼마나 불안하고 불편하며 심지어 위험하기까지 한 상황이 연출될 수 있는지를 보여줬다.
---「3장 ‘신뢰’를 흔드는 AI”의 ‘인공지능과 혁신」중에서

인공지능이 몰고 올 미래에 대해 인류 전체가 함께 ‘방어적 준비’를 해야만 한다. 그렇지 않으면 인공지능은 인류에게 특이점을 초래할 것이고 자연스레 발생할 초지능으로 인해 인류의 문명은 막을 내릴 것이라는 경고가 반복해 들려온다.
---「3장 ‘신뢰’를 흔드는 AI”의 ‘인류의 마지막 기술일까?」중에서

인공지능에 의한 부작용과 역기능, 위험성을 모두 법으로 포괄해내기에는 시간적으로 따라잡기 힘들 만큼 인공지능의 발전 속도는 빠르다. 아울러 인공지능이 미치는 사회 영역 역시 전문가들도 가늠할 수 없을 정도로 광활해 모두를 한곳에 집약해 소수가 관리하는 것 자체가 불가능하다.
---「4장 흔들림 너머 AI 바로 보기”의 ‘흔들리는 인간을 위한 윤리」중에서

‘정보 격차(Information Divide)’ 또는 ‘디지털 격차(Digital Divide)’에 대한 해소는 주로 국제적으로나 국가적 차원에서 다뤄온 인터넷 윤리의 핵심 주제다. 정보기술의 접근성 및 활용 수준에 따라 개인별로 새로운 생산수단 확보와 직업 종사 기회가 갈리게 되므로 빈익빈 부익부 현상이 갈수록 심화된다.
---「4장 흔들림 너머 AI 바로 보기”의 ‘인터넷 윤리를 품은 인공지능 윤리」중에서

‘죽음, 존재, 신뢰’는 말할 것도 없고 인간이 지금까지 조심스럽게 대했던 근간을 인공지능이 하나씩 하나씩 흔들어댈 시간이 점점 다가온다. 그래서 예상되는 흔들림을 정확하게 바로 보면서 이 흔들림을 넘어설 구체적인 준비를 해야 한다. 인공지능이 아직은 본격화되지 않은 기술이기에 우리에게 준비할 시간이 조금 남아 있다.
---「에필로그」중에서

출판사 리뷰 출판사 리뷰 보이기/감추기

인공지능에게 배신당하지 않고 함께 살아가려면 어떻게 해야 할까?
인공지능 윤리의 권위자 김명주 교수가 전하는 미래 AI 시대의 기회와 위기!

★ AI 윤리의 교과서이자 필독서. 미래 AI 시대를 준비하는 우리 사회가 함께 읽어야 할 책!
★ 네이버, 카카오, KT 등 국내 최고 IT 기업의 인공지능연구 책임자들의 강력 추천!


“인공지능이 인류의 마지막 기술일 수 있다!” 세계적인 석학 스티븐 호킹 박사는 아주 짧지만 명확한 경고의 메시지를 반복하여 전했다. MS의 빌 게이츠, 애플의 스티브 위즈니악, 테슬라의 일론 머스크 등 세계적인 빅테크 기업 수장들도 인공지능의 위험성에 대해 경고의 목소리를 똑같이 내고 있다. 닉 보스트롬, 스튜어드 러셀, 프랭크 윌첵, 맥스 태그마크 등 노벨상 수상자나 세계 유수의 대학교수들도 “인공지능이 인류 사상 최대의 성과인 동시에 최후의 성과이자 인류의 재앙이 될 수 있다!”고 주장했다.

정보화사회에서 미래의 지능정보사회로의 대전환을 이끄는 4차 산업혁명의 혁신 신기술 가운데 최고의 핵심 기술은 바로 인공지능이다. 70년이라는 짧지 않은 역사에도 불구하고 인공지능의 존재감과 위력을 전 세계인들이 대중적으로 인식하기 시작한 지는 겨우 10년 남짓 됐지만, 한편으로는 인공지능의 어두운 그늘에 대한 심각한 경고가 집중적으로 표출되고 있었다.

그때 우리는 2016년 구글의 인공지능 알파고가 바둑 천재 이세돌 9단을 4승 1패로 이긴 사건으로 인공지능이 우리의 생각보다 얼마나 더 똑똑할 수 있는지를 목격하며 큰 충격을 받았고 곧바로 인공지능의 엄청난 잠재력과 발전 가능성에 대한 기대감으로 투자 계획이 정부는 물론 기업과 대학 등 사회 전반에 걸쳐 이뤄졌다. 이후 5년이 지나서야 2021년 인공지능 챗봇 ‘이루다’ 사건으로 우리가 인공지능을 자칫 잘못 다룰 경우 얼마나 불안하고 불편하며 심지어 위험하기까지 한 상황이 연출될 수 있는지 깨닫게 됐다.

검찰과 경찰을 대상으로 컴퓨터범죄 수사 기법을 교육해오며 정보 보호와 디지털 윤리가 갈수록 중요함을 느낀 김명주 교수는 인터넷윤리실천운동을 전개하면서 인문학 및 사회과학 전문가들과 더불어 2년 넘게 연구하여 2018년 국내 최초로 인공지능 윤리 가이드라인 [Seoul PACT]를 만들었다.

인공지능에 의한 부작용과 역기능, 위험성을 모두 법으로 포괄해내기에는 시간적으로 따라잡기 힘들 만큼 인공지능의 발전 속도는 빠르다. 아울러 인공지능이 미치는 사회 영역 역시 전문가들도 가늠할 수 없을 정도로 광활해 모두를 한곳에 집약해 소수가 관리하는 것 자체가 불가능하다. 따라서 ‘처음 시작 단계부터’ 발전 방향을 올바르게 잡아야 하고 사회적 담론을 최대한 형성해야 하는데, 그 핵심이 ‘인공지능 윤리’이기 때문이다.

네이버, 카카오, KT 등 국내 최고 IT 기업의 인공지능연구 책임자들이 AI 관계자들의 교과서, AI 연구 개발자들의 필독서라며 강력하게 추천하는 이유가 이 책 《AI는 양심이 없다》가 담고 있는 ‘인공지능으로 인해 사회적 대전환이 시작되면 부작용과 역기능, 심지어 심각한 위험성이 드러난다고 해도 다시 원래로 되돌리는 것은 불가능하다’는 문제의식 때문이다. 그렇기 때문에 이 책은 AI 관계자나 전문가뿐만 아니라 우리 사회가 함께 읽어야 하며, ‘미래 AI 시대에 대한 방어적 준비’에 관해 이야기를 나누어야 한다.

저자는 인공지능이 열어줄 미래에 대한 올바른 방향 제시와 더불어 구체적인 준비도 따라야 함을 강조한다. 비가역적인 사회 대전환이 따라오기 때문에 발생 가능한 문제와 상황에 대해 소수의 전문가 중심에서 벗어나 사회 구성원 모두가 이해하며 공감할 수 있어야 한다는 논지다. 저자는 미래에 인공지능에게 배신당하지 않고 함께 살아가려면 어떻게 해야 할지, 지혜를 찾고자 했다. 이 지혜를 ‘윤리’라는 단어 안에 함축했다. 윤리는 가치 판단의 기준으로 사람에게 요구된다. 그리고 이 윤리는 사람만이 가지고 있는 ‘양심’으로 인하여 발현한다. 반면에 인공지능은 ‘양심’이 없다. 인공지능으로 인하여 등장하는 윤리적인 문제의 근원은 바로 이것이다. 책 제목도 이렇게 정해졌다.

‘인공지능은 이미 우리의 삶을 흔들고 있고, 앞으로도 흔들어댈 것이다’
미래 AI 시대의 사회 변화에 대한 이해력과 통찰력을 제공하는 책!


흔히 기술을 가치중립적이라고 한다. 이용하는 사람과 상황에 따라 기술은 유익할 수도 있지만 해로울 수도 있기 때문이다. 새로운 기술이 등장할 때마다 우리는 기술 자체에 흥분하고 기대감을 높이며 몰입하지만, 뒤따라 찾아온 부작용과 역기능은 우리를 배신하며 참 많이 힘들게 한다. ‘왜 시작 단계에서부터 우리는 기술의 숨겨진 그늘을 예상하지 못했을까?’ ‘단지 편리함과 이익에 눈이 멀어 어슴푸레 드러난 기술의 역습 기미를 우리는 왜 가볍게 여겼을까?’ 이 책 《AI는 양심이 없다》는 이 같은 질문을 던지면서 어김없이 우리를 여기저기에서 흔들어대기 시작한 ‘인공지능’에 대해 이야기한다. 더욱이 4차 산업혁명이라 할 만큼 비가역적인 사회 대전환을 이루는 혁신 신기술 ‘인공지능’에서 이 질문들이 얼마나 중요한지 강조하고 있다.
저자는 우리를 상대로 인공지능이 이미 흔들어대거나 조만간 흔들 이슈를 사례별로 정리하는 데 많은 부분을 할당했다.

책의 1장 “‘죽음’을 흔드는 AI”에서는 고인이 남긴 디지털 흔적과 디지털 유산을 통해 디지털 부활이 시작되었고 이로 인해 사후 디지털 고용과 명예훼손, 사자의 퍼블리시티권과 경제적 이득, 프로파일링과 잊힐 권리, 사망자 계정과 사후 프라이버시 등 고인의 죽음을 흔드는 손으로서의 AI 문제를 다룬다. 2장 “‘존재’를 흔드는 AI”에서는 가상 인플루언서, 가상 아나운서, 가상 가수, 아바타와 메타버스 등 존재하지 않는 존재인 가상 인간의 출현과 이로 인해 발생하는 신뢰성 문제와 디지털 윤리에 대해 논한다.

3장 “‘신뢰’를 흔드는 AI”에서는 이루다와 알파고부터 시작하여 왓슨, 콤파스, 버추얼휴먼, 휴머노이드, 자율주행차 등 4차 산업혁명의 핵심 신기술인 인공지능이 가져온 혁신의 이면에 드러난 차별과 편견, 의인화와 위조, 적대적 공격과 불신 등 윤리적 문제에 대한 불안과 걱정을 다룬다. 마지막 4장 “흔들림 너머 AI 바로 보기”에서는 인공지능에게 왜 윤리가 필요한지, 처음 시작 단계에서는 법보다 올바른 윤리가 먼저 형성되어야 하는지 당위성을 설명하며 구체적이고 현실적인 대안으로써 ‘인공지능 윤리’의 원칙과 각 분야에서 적용해야 할 윤리 기준들이 무엇인지 이해를 돕는다.

이러한 과정을 통해 인공지능으로 인해 발생하는 윤리적인 문제의 근원이 무엇인지, 우리 안에 자리 잡아온 인공지능 이용에 대한 막연한 불안과 우려에 대해 구체적인 실체가 무엇인지, 우리가 흔들림 없이 인공지능을 이용하려면 어떻게 해야 할지 파악하게 해준다. 저자는 ‘죽음, 존재, 신뢰’는 말할 것도 없고 인간이 지금까지 조심스럽게 대했던 근간을 인공지능이 하나씩 하나씩 흔들어댈 시간이 점점 다가온다며, 예상되는 흔들림을 정확하게 바로 보면서 이 흔들림을 넘어설 구체적인 준비를 해야 한다고 강조한다. 인공지능이 아직은 본격화되지 않은 기술이기에 우리에게 준비할 시간이 조금 남아 있다면서, 지금 우리에게는 무엇보다 윤리적 상상력과 함께 머리를 맞댈 공론의 장이 필요하다고 말한다.

신뢰할 수 있는 인공지능을 확보하라!
미래 AI 시대를 준비하는 최적의 솔루션 ‘인공지능 윤리’


3차 산업혁명과 정보화사회에서 발생해 성장한 ‘인터넷 윤리’는, 4차 산업혁명과 지능정보사회에서는 ‘인공지능 윤리’로 연장선에 있지만 보다 확대되고 심화된 내용을 포함한다. 예를 들어, 인공지능의 의인화 현상은 인터넷 윤리에서 이미 중요하게 다루고 있는 남용과 중독 문제, 개인 정보와 프라이버시 정보 유출 문제를 더 심화시키며 확대하고 있기 때문이다.

‘정보 격차’ 또는 ‘디지털 격차’에 대한 해소는 주로 국제적으로나 국가적 차원에서 다뤄온 인터넷 윤리의 핵심 주제였다. 정보기술의 접근성 및 활용 수준에 따라 개인별로 새로운 생산수단 확보와 직업 종사 기회가 갈리게 되므로 빈익빈 부익부 현상이 갈수록 심화되기 때문이다. 그런데 이제는 인공지능 신기술에 의해 기존의 정보격차보다 더 심화된 새로운 격차 발생이 예고되자 아예 ‘인공지능 격차’라고 부르며 문제의 심각성을 강조하며 구체적인 대안을 요구하고 있다. 이에 대해 후발적 조치의 성격이 강한 법보다 ‘인공지능 윤리’를 통해 선제적으로 대응하는 것이 시급하게 필요한 이유다.

그렇다면 인공지능 윤리의 기본 원칙에는 무엇이 있어야 할까? 저자가 여러 전문가들과 더불어 연구하여 2018년 국내 최초로 만든 인공지능 윤리 가이드라인 [Seoul PACT]의 경우를 들여다보자. 인공지능의 특성을 기반으로 도출된 네 가지 기본 원칙인 공공성(publicness), 책무성(accountability), 통제성(controllability), 투명성(transparency), 즉 영단어 첫 글자를 딴 ‘PACT’다. 이는 이듬해인 2019년에 OECD가 발표한 [인공지능 윤리 원칙]과 거의 일치한다. 2020년 말에 발표된 우리나라의 [국가 인공지능 윤리 기준]도 유사한 원칙을 제시하고 있다. 이러한 윤리 기준과 원칙을 출발점으로 하여 구체적인 실무 지침 그리고 나중에는 인공지능 법까지도 만들어진다.

전 국민 누구나 인공지능 제품 또는 인공지능 서비스의 이용자가 될 수 있다. 인공지능이 이끌 4차 산업혁명 시대와 지능정보사회의 시각에서 볼 때, 모든 구성원이 인공지능 이용에 있어서 갖춰야 할 시각과 자세를 미리 알아두는 것은 꼭 필요하다. 저자는 인공지능 윤리 가이드라인을 소개하며, 독자들에게 “인공지능 시대, 나는 어떻게 생각하고 준비하며 행동해야 할까?”라는 질문에 대한 밑그림도 각자 그려보기를 제안한다.

추천평 추천평 보이기/감추기

최근 인공지능 기술의 놀라운 발전은 기계·전기·컴퓨터 등과 마찬가지로 인류에게 기존 기술로 불가능했던 혁신적인 가치와 기회를 제공하기도 하지만, 뜻하지 않은 위험과 위기를 가져올 수도 있다. 이 책에서는 인공지능을 기회와 위기 양쪽의 의미로 기존 사회를 흔드는 손으로서 체계적으로 설명한다. 연구자로서 양날의 검인 인공지능에 대해 다시 한 번 고민하게 하고, 어떤 방향으로 인공지능 기술을 연구 개발해야 하는지 반성하게 하는 중요한 책이다. 인공지능 학계와 산업계 그리고 정책 입안자나 관계자 들이 교과서처럼 일독할 것을 권장한다.
- 하정우 (네이버 AI Lab 인공지능연구소장)

김명주 교수는 인공지능 윤리의 대표적인 권위자다. 특히 기술을 기반으로 인공지능 윤리를 바라보는 몇 안 되는 전문가다. 기술에 대한 이해 없이 선언적인 시각에서 바라보는 인공지능 윤리는 절반의 이야기만을 담고 있다. 그 자체가 편향성을 띄고 있기도 하다. 기술에 대한 충분한 이해가 토대가 된 이 책은 교조적이지 않다. 사례 중심에서 우리 사회가 함께 고민해야 할 주제를 차분히 정리하고 있다.
- 김대원 (카카오 CDR Lab 정책팀장(상무))

우리는 이미 AI 시대를 살고 있다. 얼굴 인식이나 글자 인식은 보편적으로 쓰이며, AI와 음성으로 대화하는 것도 일상이다. 그럼에도 AI에 대한 불안과 두려움이 만연해 있다. 사용자와 개발자 간 AI의 능력에 대한 인식 차이도 제법 크다. 이 책은 이런 ‘인공지능 격차’를 해소해줄 인문·사회과학서다. 인공지능 기술과 윤리에 대한 이해도를 높이고 싶은 독자나, 인류와 공존할 수 있고 신뢰할 수 있는 인공지능을 만드는 것에 관심이 있는 AI 연구 개발자들에게 필독서로 추천한다.
- 배순민 (KT AI2XL 인공지능연구소장)

회원리뷰 (14건) 리뷰 총점9.8

혜택 및 유의사항?
포토리뷰 AI는 라이언 일병을 구하러 가지 않는다 내용 평점5점   편집/디자인 평점5점 스타블로거 : 골드스타 서*촌 | 2022.05.23 | 추천0 | 댓글0 리뷰제목
      ◆ 소개 ▷ AI는 양심이 없다 ▷ 김명주 ▷ 헤이북스 ▷ 2022년 05월 02일 ▷ 336쪽 ∥ 488g ∥ 148*210*30mm ▷ 사회학     ◆ 후기  ▷내용《中》 편집《中》 추천《中》           후안 엔리케스의 저서 《무엇이 옳은가》에서 “늘 되풀이되는 일이긴 하지만, 한 사회가 가진 윤리적 규범은 언;
리뷰제목


 

 

 

소개

AI는 양심이 없다

김명주

헤이북스

20220502

336488g 148*210*30mm

사회학

 

 

후기 

내용편집추천

 

 

 

 

 

후안 엔리케스의 저서 무엇이 옳은가에서 늘 되풀이되는 일이긴 하지만, 한 사회가 가진 윤리적 규범은 언젠가 결국 바뀐다. 결혼 아닌 동거는 1960년대만 해도 죄 속에서 사는 것이었으며 법적 처벌까지 받는 일이었다. 중략1966년 교황청 출산조절위원회의 80%는 인공피임 허용에 동의했지만, 교황 바오로 6세는 인간생명회칙을 통해 보수적인 소수 의견을 손을 들어주며 피임을 금지했다. 중략피임은 여성에게 교육과 경력의 기회를 열어주는 핵심 열쇠가 되었다. 일하는 여성의 비율은 1962년에 37%였으나 200년엔 61%까지 증가했다. 중략이제는 체외수정으로 임신이 가능해졌다. 그리고 이를 통해 우리는 신체적 접촉과 임신을 분리시켰다.”

 

 

 

 

 

인공지능(artificial intelligence, AI)은 인간의 학습능력, 추론능력, 지각능력을 인공적으로 구현하는 컴퓨터과학의 한 분야에 해당한다. 에니악이라는 단순한 거대 계산기로 시작한 컴퓨터는, 이제 스스로 인간처럼 생각할 수 있는 지능을 가지게 된 것이다. 하지만, 늘 그러하듯이 인간은 새로운 기술에 대하여 두 축으로 나뉜다. 신기술이 새로운 세상을 창조하게 해줄 것이라는 긍정적인 측과 신기술이 인간을 뛰어넘어 종말을 맞게 할 것이라는 측이다. 이런 기조는 특히 소설이나 영화에서 흔하게 볼 수 있다. 대표적인 영화로 AI, 아이 로봇 같은 작품이 있다. 영화에서는 인간보다 더 윤리적인 로봇, 인간적인 더 감성적인 로봇이 등장한다. 특히 AI의 마지막 장면은 아직도 인상 깊다.

 

 

 

 

 

P.05 “교통법규를 지키는 사람이 운전하는 자동차는 시간의 단축이라는 편리함을 제공한다. 반면에 난폭한 운전자가 모는 자동차는 생명의 단축이라는 불행을 초래한다. 그래서 기술을 가치중립적이라고 한다. 이용하는 사람과 상황에 따라 기술은 유익할 수도 있지만 해로울 수도 있다.”

 

 

P.050 “모호해진 산 자와 죽은 자의 경계, 자신의 디지털 트윈을 만들고 싶어 하는 사람이 특정 분야의 전문가이거나 직업인이라면 디지털 트윈은 그 사람이 보유한 전문 지식과 경험을 많은 사람과 시공을 초월해 나눌 수 있는 좋은 매체가 될 수 있다. 중략전통적으로 책이나 논문 등을 통해 주변 사람과 후손들에게 전수되던 지식과 경험이 이제부터는 디지털 트윈이라는 실시간 대화형 디지털 휴먼을 통해서 이뤄진다.”

 

 

P.231 “인공지능 윤리의 등장, 예상보다 빠르게 4차 산업혁명이 시작됐다. 4차 산업혁명을 이끄는 핵심 기술인 인공지능과 관련해 인공지능 윤리라는 용어가 새롭게 등장했다. 4차 산업혁명으로 인해 기존의 정보화사회가 지능정보사회로 대전환되면서 등장했기 때문에, 인공지능 윤리를 지능정보사회 윤리또는 ‘4차 산업혁명 윤리라고도 부른다. 그런데 인공지능 윤리를 기존의 인터넷 윤리와 별개로 분리해 접근함으로써 지금까지 상당한 오해와 잘못을 낳아오고 있다.”

 

 

 

 

 

그리스·로마 신화에 등장하는 프로메테우스는 올림포스의 신보다 한 세대 위인 티탄족에 속하는 신이다. ‘먼저 생각하는 사람, 선지자라는 뜻으로 최초로 인간을 창조하고 인간에게 영원히 꺼지지 않는 불꽃을 준 신이다. 신에게 받은 불이든, 우연히 낙뢰로 얻은 불이든 인간은 철과 불의 역사라고 해도 무방할 정도로 인류사 그 자체다. 인간이 만든 도구 칼이 사람을 해칠 수 있다고 해서, 불로 인해 화재가 발생한다 해서 이것들을 모두 없앨 수 없다. 칼이나 불이 주는 유익이 불이익보다 수천수만 배 더 크기 때문이다. 체스나 장기를 이긴 인공지능은 존재했으나, 바둑만은 여전히 인간의 영역이었다. 하지만, 알파고에 의해 이세돌 9단은 패배하고 말았다. 바둑의 경우의 수는 10^171인데 무한에 가까운 수이다. 인공지능은 이를 해냈고 우리는 이제 선택을 해야 한다. 유익과 불이익 사이에서 선택해야 하고, AI에게 인간의 윤리를 허락받을 수 있는지 말이다. 현재까지 AI는 라이언 일병을 구하러 가지 않고 있기 때문이다.

 

 

 

 

 

 


 

댓글 0 이 리뷰가 도움이 되었나요? 공감 0
AI는 양심이 없다 - 김명주 내용 평점5점   편집/디자인 평점5점 스타블로거 : 블루스타 h*****1 | 2022.05.22 | 추천0 | 댓글0 리뷰제목
인공지능이라는 단어가 우리 생활 속에 스며들고 있다. 이미 많은 기술이 우리 실생활에 적용되고 있는 것이 현실이다. 저자는 서울여자대학 교수이며 서울지방검찰청 특수부에서 컴퓨터범죄 사건 수사 자문을 맡았다. 인굥지능윤리정책포럼 위원, 디지털포용포럼 위원으로 활동하고 있는 분이다. 세계적으로 AI 기술은 혁신을 계속해서 이루어나가며 발전하고 있다. 책에서는 AI;
리뷰제목

인공지능이라는 단어가 우리 생활 속에 스며들고 있다.

이미 많은 기술이 우리 실생활에 적용되고 있는 것이 현실이다.

저자는 서울여자대학 교수이며 서울지방검찰청 특수부에서 컴퓨터범죄 사건 수사 자문을 맡았다. 인굥지능윤리정책포럼 위원, 디지털포용포럼 위원으로 활동하고 있는 분이다.

세계적으로 AI 기술은 혁신을 계속해서 이루어나가며 발전하고 있다.

책에서는 AI 기술이 여러 분야에서 발전하며 나타나는 문제점과 그 실태를 여러 주제별로 나누어 서술하고 있다.

인간이 AI 에 적절하게 대처하고 있는지에 대해서도 고민하며 심각성을 생각해 보게 한다.

AI는 필요한 것이고 기술혁신을 통해 인간에게 편리함을 안겨준다.

점점 더 발전하는 AI 를 적절하게 잘 이용하는 것이 우리의 과제가 될 것이다.

인간은 이미 지식적인 면에서는 AI 를 능가하지 못한다.

그러면서도 인간만이 할 수 있는 것은 어떤 것이 있을까에 대해서도 고민하게 한다.

또한 AI 의 본 모습과 그것을 이해하는데 많은 도움을 주고 있다.

새로운 애도의 방법으로 디지털로 부활된 존재들을 바라보는 모습과 저작권 문제도 들 수 있다.

디지털로 남아있는 사망자 계정 문제는 사후 프라이버시를 어떻게 적용해야 하는지 고민하게 된다.

노화와 죽음에 대해서도 부의 격차에 따라 달라지는 문제를 어떻게 극복할 것인가 등 많은 생각을 하게하는 부분이다.

윤리적인 문제도 거듭 고민해야 한다.

가상인간의 존재는 꾸준히 나타나고 있다.

인플루언스와 아나운서, 가수 등 여러 분야에서 활동하고 있다.

그러나 한계점도 드러나고 있다.

사람들에게 먼저 신뢰성을 주어야 하는 과제가 주어진다.

현재 자율주행 기술이 점점 보편화되고 있다.

일반 차량에서도 옵션으로 선택하는 방법으로 경험할 수 있게 되었다.

자율화 단계가 높아질수록 사고가 발생했을 때 책임 소재가 불거진다.

책에서 언급한 테슬라 자동차의 자율주행이 인식 오류로 인해 사고를 낸 사건을 예로 들고 있다.

현재 법체계로는 해결하기 힘든 상황이다.

AI 문제는 차별이나 혐오 발언으로 문제가 되기도 한다.

이런 것을 사전에 알 수 없기에 많은 고려가 필요하다.

미국의 사법 판단에 이용되는 AI 콤파스는 인종 문제에 편견을 가지고 있어 반향을 일으키기도 했다.

AI가 우리 사회에 미친 영향과 그 문제점에 대해 알게 된 시간이다.

아직은 대중에게 많이 알려져 있지 않은 사실들도 많이 등장한다.

간간이 뉴스를 통해알게된 사실과 문제점은 아직 법률적으로 대안을 갖고 있지 않다.

사회가 발전할수록 많은 이해관계가 나타난다.

지식 발전시대에 적절하게 대응하지 못하는 실정이다.

법의 허점을 이용해 사익을 추구하고 정보를 악용하는 사례가 등장한다.

이런 사실을 보다 더 알리고 대응하는데 힘쓰는 사람들이 많아져야 기술을 적용하는데 도움이 될 것이다.

정보와 기술을 이용하는 앞서가는 사람들이 잘 모르는 사람을 이용해 이익을 추구하는 사례가 많이 있다.

충분히 대응하여 정보 격차도 줄이고 사람들을 위해 좋은 역할을 하는 순기능을 하기를 기대한다.

[이글은 출판사로부터 도서를 협찬받아 주관적인 견해에 의해 작성되었습니다]

#AI는양심이없다 #김명주 #헤이북스 #책좋사

댓글 0 이 리뷰가 도움이 되었나요? 공감 0
AI는 양심이 없다 내용 평점5점   편집/디자인 평점5점 스타블로거 : 블루스타 y****d | 2022.05.22 | 추천0 | 댓글0 리뷰제목
동물 중에서 유일하게 인간에게만 있는 양심. 물론 같은 인간이라도 양심이 없는 사람도 있긴 하다. 그럼 양심이란 도대체 무엇일까. 간단히 말해서 '자기 행위에 대하여 옳고 그름과 선과 악의 판단을 내리는 도덕적 의식'(출처 네이버)이라 할 수 있다. 이런 양심은 물질이 아닌 정신이기에 당연히 AI에게는 존재할 수가 없다. 그렇다면 저자는 뻔한 사실을 왜 제목으로 선택했을까. 4;
리뷰제목

동물 중에서 유일하게 인간에게만 있는 양심. 물론 같은 인간이라도 양심이 없는 사람도 있긴 하다. 그럼 양심이란 도대체 무엇일까. 간단히 말해서 '자기 행위에 대하여 옳고 그름과 선과 악의 판단을 내리는 도덕적 의식'(출처 네이버)이라 할 수 있다. 이런 양심은 물질이 아닌 정신이기에 당연히 AI에게는 존재할 수가 없다. 그렇다면 저자는 뻔한 사실을 왜 제목으로 선택했을까.

4차 산업혁명에서 가장 중요한 인공지능의 윤리를 다루는 이 책은 '인간의 죽음, 존재, 신뢰를 흔드는 인공지능 바로보기'에 대한 내용을 담고 있다.

인공지능을 뜻하는 AI는 이미 알게 모르게 인간의 삶 깊숙이 침투하였다. 일반인의 입장에선 그저 개발자가 만들어 출시한 제품을 통해 인공지능을 만날 뿐이다. 그럼에도 우리가 함께 인공지능의 윤리에 관심을 기울여야 하는 이유를 이 책을 통해 확인할 수 있었다.

'죽음'을 흔드는 AI, '존재'를 흔드는 AI, '신뢰'를 흔드는 AI를 통해 일상에서 접할 수 있는 AI의 존재를 만나보았다. 존재하지 않는 존재인 가상 인간으로는 인플루언서, 아나운서, 가수 등이 있다. 처음 가상 인간을 접했을 당시가 생각나는 데 신기하면서 묘한 느낌으로 솔직히 그리 실감 나진 않았다. 하지만 이 책 '인공지능과 혁신'편을 통해 생각보다 심각한 인공지능의 다양한 영역과 인간보다 뛰어남을 인식하면서 인간을 초월하는 스스로 진화하는 AI가 지닌 심각성에 다가갈 수 있었다.

... 그런데 이처럼 '신뢰할 수 있는' 인공지능을 확보하려면, 인공지능을 만들어내고 발전시키며 사회 전반에 이를 확산하는 주체인 '인간 자신'을 먼저 신뢰할 수 있어야 한다. 겉으로는 인공지능이 인간을 흔드는 것처럼 보이지만 결국 인간을 흔드는 것은 인간 자신이다. 인공지능은 인간으로부터 나오는 기술이기 때문이다.

-그래서 인공지능으로 인해 우리의 미래가 흔들리지 않으려면, 인공지능이 가져올 미래를 앞서서 바르게 준비하려면 '신뢰할 수 있는 인공지능' 확보라는 미션은 '신뢰할 수 있는 인간' 확보라는 미션으로 바뀌게 된다. 이는 곧 '인공지능과 관련해' 인간이 가지는 생각과 가치관, 의도와 행동을 먼저 신뢰할 수 있어야 함을 의미한다. 이를 이끌어가는 핵심이 바로 '인공지능 윤리'이다. p 214 ~ 5

인공지능의 윤리와 관련하여 강의나 토론 진행 시마다 청중으로부터 받아온 공통 질문을 소개한다. 그리고 그 질문 속에 담긴 오해를 풀며 인공지능의 윤리가 왜 중요한지 폭넓은 시각과 타당성으로 설명하며 이해시킨다. 그뿐만 아니라, 인터넷 윤리를 품은 인공지능 윤리와 인공지능 윤리 원칙의 도출, 공공성과 책무성 및 통제성과 투명성 이해하기를 통해 인공지능에게 윤리가 왜 중요하며 필요한지 납득할 수 있었다. 이를 통해 우리가 AI의 윤리에 대해 심각하게 고려해야 할 사항 등에 대해 접근하면서 왜 함께 관심을 기울여야 되는지 충분히 인식하게 되었다.

-이처럼 인류의 손을 거치지 않고 태어날 초지능은 매우 심각하게도 인류에게 우호적이지 않을 수 있다. P 161 ~ 2

-인공지능이 몰고 올 미래에 대해 인류 전체가 함께 '방어적 준비'를 해야만 한다. 그렇지 않으면 인공지능은 인류에게 특이점을 초래할 것이고 자연스레 발생할 초지능으로 인해 인류의 문명은 막을 내릴 것이라는 경고가 반복해 들려온다. P 169

일반인의 입장에서 AI와 관련된 정보를 수집하기가 쉽지 않은데 AI의 탄생 배경부터 성장까지 그 일련의 과정을 담고 있는 유익한 도서이다. 인류 마지막 기술이 될 수 있다는 인공지능, 그 양날의 검에 대해 알아가며 생각하는 시간이 흥미롭고 유익했다. 전공자, 비전공자 모두에게 필요한 도서이다, 강추!

댓글 0 이 리뷰가 도움이 되었나요? 공감 0

한줄평 (3건) 한줄평 총점 10.0

혜택 및 유의사항 ?
평점5점
디지털 부활과 영생, 인공지능에 대한 중독의 위험 등 시급하면서도 흥미로운 문제가 가득!
이 한줄평이 도움이 되었나요? 공감 0
꿈***관 | 2022.05.18
구매 평점5점
김명주 교수님이 직접 쓰신 책! 강추합니다
이 한줄평이 도움이 되었나요? 공감 0
YES마니아 : 로얄 c*********n | 2022.05.18
평점5점
AI관련 전문가인 교수님이 쓰신 책, 기대해봅니다!!
1명이 이 한줄평을 추천합니다. 공감 1
캡* | 2022.04.20
  •  쿠폰은 결제 시 적용해 주세요.
1   16,920
뒤로 앞으로 맨위로 aniAlarm