이전

리뷰 (10)

한줄평
평점 분포
  • 리뷰 총점10 80%
  • 리뷰 총점8 20%
  • 리뷰 총점6 0%
  • 리뷰 총점4 0%
  • 리뷰 총점2 0%
연령대별 평균 점수
  • 10대 0.0
  • 20대 10.0
  • 30대 9.0
  • 40대 10.0
  • 50대 8.0

포토/동영상 (2)

리뷰 총점 종이책
[서평] XAI, 설명 가능한 AI
"[서평] XAI, 설명 가능한 AI" 내용보기
우리의 삶 속에서 인공지능은 크고 작은 부분을 담당하고 있고 우리는 이미 인공지능 시대에 살고 있다. 인공지능(AI)는 여러 가지 방법으로 학습이 가능하다. 그중에서 가장 호평을 받는 방법론이 바로 '딥러닝'이다. 초창기 기계 학습 방법은  사람이 기계가 학습할 자료의 특징을 추출해 내고 그것을 토대로 러닝이 분류하는 방식이었기 때문에 사람의 로직이 기계 학습에 상
"[서평] XAI, 설명 가능한 AI" 내용보기

우리의 삶 속에서 인공지능은 크고 작은 부분을 담당하고 있고

우리는 이미 인공지능 시대에 살고 있다.

인공지능(AI)는 여러 가지 방법으로 학습이 가능하다.

그중에서 가장 호평을 받는 방법론이 바로 '딥러닝'이다.

초창기 기계 학습 방법은 

사람이 기계가 학습할 자료의 특징을 추출해 내고

그것을 토대로 러닝이 분류하는 방식이었기 때문에

사람의 로직이 기계 학습에 상당 부분 영향을 미치고 있었다.

하지만 딥러닝의 경우 특징 추출부터 판단까지

딥러닝이 자체적으로 학습하기 때문에 보다 더 기계학습론적인 방법이라고 볼 수 있다.

이러한 이유 때문에 딥러닝이 기계학습에서 호평을 받았지만

딥러닝의 방법으로 도출된 결과에 대해 사람의 입장에서는 기계가 왜 이런 결과를 도출해냈는지

이해가 어렵거나 설명할 수 없는 부분이 존재한다.

이것을 해결하기 위해 나타난 것이 바로 Explainable AI, XAI이다.

사실 지금 우리가 사용하고 있는 AI의 정확성은 100%가 아니다.

예를 들어 이미지를 보고 어떤 종인지 분류하는 과정에서

노이즈를 추가하거나 픽셀 하나의 변화로 인해 완전히 다른 종으로 분류될 수도 있다.

앞으로 우리 생활에는 점점 더 많은 부분에 AI에 도입될 것이다.

병원에서 AI를 이용해 진료를 본다고 가정했을 때 AI가 오류를 일으킨다면 치명적인 상황이 발생할 수도 있고,

은행에서 AI를 업무에 이용한다고 가정했을 때에 AI 오류 발생의 원인을 판별하지 못한다면

많은 고객에게 신뢰를 잃을 수도 있다.

더 나아가 AI에 의도적인 오류를 발생시켜 해킹으로 이어지는 사례까지 발생할 수도 있다.

이러한 것을 방지하기 위해서 AI가 왜 그런 결과를 도출했는지를 설명할 수 있어야 하는데,

그 과정이 상당히 복잡하고 어렵다.

이 책에서는 AI의 오류와 XAI의 출현 배경부터 XAI의 한계와 전망에 대해서도 다루고 있다.

특히 설명으로 끝나는 것이 아니라 파이썬으로 이용해서 직접 XAI를 실습해 보는 과정도 담아내고 있다.

 

머신러닝, AI 입문자가 보기에는 책의 레벨이 높은 편이나

기초적인 지식을 가지고 있거나 다루어 본 경험이 있는 기술자라면

상당 부분 도움 되는 지식을 얻어 갈 수 있는 책이다.

어려운 내용들을 설명하기 위해 시각적인 자료들을 많이 사용하였으며,

각 챕터 마지막에서 중요한 내용을 되짚어 정리를 해주어 이해에 도움을 준다.

주석을 통해 파이썬 코드에 대한 부연 설명을 하고 있으며

부록 페이지에서는 파이썬이 처음인 사람을 위한 주피터 노트북 환경 구축 방법을 수록하고 있다.

AI의 오류에 대한 이유를 설명하며 본질적인 오류에 대해 접근할 수 있는 XAI는

AI 기술이 발전할수록 점점 중요성이 두각될 것이다.

국내에서는 아직 생소한 개념인 XAI에 대한 기초를 다지고

XAI에 대해 입문하기에 좋은 도서이다.

《YES24 리뷰어클럽 서평단 자격으로 작성한 서평입니다.》

r********5 2022.12.15. 신고 공감 1 댓글 0
리뷰 총점 종이책
XAI, 설명 가능한 AI
"XAI, 설명 가능한 AI" 내용보기
딥러닝, 기계학습에 관심이 생겨 요즘들어 관련 도서들을 많이 찾아보고, 읽고 있습니다. 딥러닝 이론서들을 보면, 수학적인 내용이나 수식이 많아 이해하기가 쉽지 않았고, 프로그래밍에 중점을 둔 책들은 이론보다는 파이썬 라이브러리를 사용한 구현에 초점이 맞춰져 있다보니, 딥러닝의 원리에 대한 부분은 간단하게만 다루고 있습니다. 몇 권의 책을 보았지만, 딥러닝 알고리즘이
"XAI, 설명 가능한 AI" 내용보기

딥러닝, 기계학습에 관심이 생겨 요즘들어 관련 도서들을 많이 찾아보고, 읽고 있습니다.

딥러닝 이론서들을 보면, 수학적인 내용이나 수식이 많아 이해하기가 쉽지 않았고, 프로그래밍에 중점을 둔 책들은 이론보다는 파이썬 라이브러리를 사용한 구현에 초점이 맞춰져 있다보니, 딥러닝의 원리에 대한 부분은 간단하게만 다루고 있습니다.

몇 권의 책을 보았지만, 딥러닝 알고리즘이 답을 구해가는 과정이 잘 이해가 되질 않았습니다. 마치 블랙박스처럼 말이죠.

어떤 글에서 보니, 딥러닝 알고리즘은 학습을 통해 결과를 연산하는 알고리즘이기 때문에 답이 나오는 과정을 이해하기 어렵다고 하더군요.

이 책의 서두에도 이러한 딥러닝의 문제점으로 인하여, XAI가 필요하게 되었다는 설명이 나옵니다. 저에게는 내용이 너무 어렵게만 느껴졌지만, 딥러닝에 대해 많이 공부해보신 분들한테는 매우 유용한 책이 될거라고 생각합니다.

지금까지는 설명이 어려웠던 딥러닝 알고리즘의 문제 해결 과정을 XAI라는 새로운 분야를 통해, 앞으로 보다 이해하기 쉽고 더욱 발전된 형태의 AI가 나오지 않을까 기대해봅니다.

*** YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다 ***

y*****4 2022.12.21. 신고 공감 0 댓글 0
리뷰 총점 종이책
XAI를 잘 알고싶을 때 읽어야 할 해설서
"XAI를 잘 알고싶을 때 읽어야 할 해설서" 내용보기
AI가 우리 생활에 점차적으로 밀접하게 연관되어가고, 알지 못하는 사이에 AI를 사용하는 경우가 늘어가고 있다.   AI는 여러 가지 처리 방법이나 조건이 학습에 의해 습득된다. 학습데이터에 맞추어 여러 유연한 처리 방법을 학습할 수 있기 때문에 소프트웨어로는 구현이 힘든 사람의 의사결정에 연관된 업무를 AI에 대체시키는 경우가 늘고 있다.   AI가 요구되는 시점이 확대됨
"XAI를 잘 알고싶을 때 읽어야 할 해설서" 내용보기

  AI가 우리 생활에 점차적으로 밀접하게 연관되어가고, 알지 못하는 사이에 AI를 사용하는 경우가 늘어가고 있다.

  AI는 여러 가지 처리 방법이나 조건이 학습에 의해 습득된다. 학습데이터에 맞추어 여러 유연한 처리 방법을 학습할 수 있기 때문에 소프트웨어로는 구현이 힘든 사람의 의사결정에 연관된 업무를 AI에 대체시키는 경우가 늘고 있다.

  AI가 요구되는 시점이 확대됨에 따라 AI에 요구되는 가치는 늘어가고 있으며 공평성, 책임성, 투명성의 내용이 책이 정리되어 있다.

  과연 AI를 통해서 나온 결과를 수긍하지 못한 사람이 이 결과의 도출 과정을 묻는다면 과연 우리는 어떻게 대답 할 수 있을까? 라는 질문에 나는 뭐라 말할 수 없었다. 그러나 그 질문에 대한 설명을 정리해 준 것이 바로 설명 가능한 AI'eXplainable AI‘ 이다.

  이 책에서는 AI에 왜 설명이 필요한지에 대한 설명을 시작으로 설명가능한 XAI에 대한 기술을 설명하기 위한 기본적 특징 분류방법에 대해 설명하고 있다. 이를 통해 XAI에대해 전무한 사람에게도 간단한 기초 지식을 습득할 수 있도록 하였고, 3장 이후부터는 XAI 의 활용방법과 기술등을 설명하여 조금씩 난이도 있는 설명을 통해 XAI에 대해 체계적인 지식을 쌓게 해준다.

  중반이후부터 나오는 주요 라이브러리를 통한 연습으로 실무지식에 많은 도움이 되었다. 요새 많이 사용하는 언어인 파이썬을 통한 구현으로 접근성이 편해 쉽게 접근하고 연습도 할 수 있었다.

  앞으로의 XAI의 대한 전망을 봤을때 AI를 개발하고자 하는 개발자들에게 더 많이 필요한 해설서가 아닌가 싶다.

  "YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다."

 
 
r******4 2022.12.19. 신고 공감 0 댓글 0
리뷰 총점 종이책
XAI를 이해하고자 할 때 활용 가능한 기본서
"XAI를 이해하고자 할 때 활용 가능한 기본서" 내용보기
AI가 공평성, 책임성, 투명성이라는 3가지 요소를 충족했다면 공통적으로 필요한 기능이 있습니다. AI가 학습에 의해 '어떠한 처리 방법을 습득했는가', 그리고 완성된 AI 시스템에서는 각 입력에 '어떠한 근거를 기반으로 출력값을 결정했는가'를 설명하는 것입니다. 이 기능을 'AI의 설명 가능성'으로 정의하겠습니다.    AI의 구조는 복잡하므로 예측과정을 직접 파악하기 어렵습
"XAI를 이해하고자 할 때 활용 가능한 기본서" 내용보기

AI가 공평성, 책임성, 투명성이라는 3가지 요소를 충족했다면 공통적으로 필요한 기능이 있습니다. AI가 학습에 의해 '어떠한 처리 방법을 습득했는가', 그리고 완성된 AI 시스템에서는 각 입력에 '어떠한 근거를 기반으로 출력값을 결정했는가'를 설명하는 것입니다. 이 기능을 'AI의 설명 가능성'으로 정의하겠습니다.

 

 AI의 구조는 복잡하므로 예측과정을 직접 파악하기 어렵습니다. XAI의 목적은 AI에 대해서 '하나의 입력 데이터가 AI에 전달되어 최종적인 예측을 내릴 때 데이터 중에서 어떠한 부분이 더 중요시 되고 있는가?', '다양한 데이터를 입력받는 AI에서 예측을 분별하는 요소, 판단 기준이 되는 요소는 무엇인가?' 등과 같은 내용을 이해하는 것이라고 할 수 있습니다. 위와 같은 설명을 보고 설명가능한 AI에 대한 개념을 이해할 수 있었습니다. 

 

 

특히, 3장에서 설명 분류별 활용 방법을 국소 설명 활용 방법과 전역 설명 활용 방법으로 나누어서 설명하는데, 각각의 방법들을 예시와 함께 설명하고 있어서 공부하는데 도움이 되었습니다. 4장에서는 최근 연구되고 있는 다양한 XAI 기술들을 문헌들을 통해 이해하는 것을 목표로 하는데, 이미지나 텍스트를 포함한 다양한 데이터에 대해 임의의 판별 AI 모델의 예측을 선형 유사로 설명하는 LIME, 각종 데이터에 대응하는 AI 모델의 예측에 대해 특징량의 공헌도를 게임 이론적인 지표를 사용해 고르게 나누어 설명하는 SHAP, 특징량의 값을 정렬하고 모델 예측 오차의 증가를 추정해 특징량과 결과의 관계를 명확히 하는 Permutaion Importance,  CNN 계열 모델의 누적층의 경사를 사용해 이미지의 중요 요소를 강조한 지도를 생성하는 CAM / Grad-CAM 등과 같은 XAI 기술에 대해 해설되어 있어서 새로운 기술들의 개념을 잡을 수 있었습니다.

 

 


 

개념, 동작원리와 수식 표현, 실용성 측면에서 유용성과 주의사항, 그리고 모델이나 데이터에 대한 의존성 위주로 해설되어 있었고, 5장에서는 XAI 라이브러리를 평가하고 선정하는 방법에 대해 소개되어 있어서 실제 활용할 때 어떤 순서를 거쳐 평가해야 할지 생각해볼 수 있었습니다.

6~11장에 거쳐 LIME, Grad-CAM, Integrated Gradients 텍스트 분류, SHAP, ELI5. PDPbix, Skater을 활용한 모델의 학습과 평가에 대해서 실습하는데, 단순한 설명에서 끝나지 않고, 순서에 맞게 각 함수들이 적용되는 이유와 중요한 점에 대해서 확인할 수 있어서 이해가 쉬웠습니다. 예를 들어, SHAP 값에서 원래 모델의 확률 예측값을 복원하고 싶을 때 SHAP 값의 총계를 시그모이드 함수에 적용하면 되는데, 이를 정리하면 SHAP값의 총계는 예측값 평균의 차이와 일치하며, 분류 모델의 경우 SHAP 값은 0-1 범위의 확률값이 아닌 변환 전 대수 오즈의 의미로 산출된다는 것입니다.


 

이처럼 산출된 값의 의미를 잘 이해할 수 있게 설명해 놓았고, 더 나아가 SHAP 라이브러리를 사용하지 않고 LightBGM에서 값을 산출할 수 있도록 하는 연계기능에 대해서도 설명하고 있어서 간편한 기능들에 대해서 따로 학습할 수 있었습니다. 이후, 마지막 장에서는 실사용 관점에서 XAI에 대해 살펴보야할 점들과 XAI의 미래 전망에 대해 소개하고 있어 XAI가 지니는 가치에 대해 다시 생각해볼 수 있었습니다.  XAI에 대해 기본적인 개념을 학습하고 몇가지 기능들을 학습하고 싶은 분들에게 'XAI, 설명 가능한 AI'를 추천하고 싶습니다.

 

“YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다.”

YES마니아 : 로얄 o*****4 2022.12.18. 신고 공감 0 댓글 0
리뷰 총점 종이책
XAI, 설명 가능한 AI
"XAI, 설명 가능한 AI" 내용보기
AI는 들어봤는데, XAI는 무엇인지 궁금했습니다. X는 eXplainable의 약자로써 설명할 수 있는 AI를 뜻합니다. 이는 머신 러닝 알고리즘으로 작성된 결과와 출력을 인간인 사용자가 이해하고 이를 신뢰할 수 있도록 해주는 일련의 프로세스와 방법론입니다. 해당 방법을 통해 AI 모델, 이의 예상된 영향 및 잠재적 편향을 확인할 수 있습니다. 이 부분은 AI 기반 의사결정에서 모델 정
"XAI, 설명 가능한 AI" 내용보기


 

AI는 들어봤는데, XAI는 무엇인지 궁금했습니다. X는 eXplainable의 약자로써 설명할 수 있는 AI를 뜻합니다. 이는 머신 러닝 알고리즘으로 작성된 결과와 출력을 인간인 사용자가 이해하고 이를 신뢰할 수 있도록 해주는 일련의 프로세스와 방법론입니다. 해당 방법을 통해 AI 모델, 이의 예상된 영향 및 잠재적 편향을 확인할 수 있습니다. 이 부분은 AI 기반 의사결정에서 모델 정확성, 공정성, 투명성 및 최종 결과를 특성화하는 데 유용합니다. 따라서 XAI는 AI에 관한 업무를 수행하거나 관심이 있다면 반드시 알아두어야 할 분야입니다.

 


 

AI가 고도로 발전함에 따라, 사용자는 AI 알고리즘의 결과 도출 과정을 파악하고 이를 역추적해야 하는 난제에 봉착하게 되었습니다. 전체 계산 프로세스는 해석이 불가능한 소위 말하는 '블랙박스' 모델로 데이터로부터 직접 구축됩니다. 또한 알고리즘을 만드는 엔지니어나 데이터 사이언티스트조차도 내부에서 무슨 일이 발생하는지 혹은 AI 알고리즘이 특정 결과를 어떻게 도출하는지를 파악하거나 설명할 수가 없습니다. 따라서 AI 기반 시스템이 특정 결과를 도출하는 방법을 파악할 수 있으면 매우 유용합니다. 설명 가능성은 개발자가 시스템이 예상대로 작동 중인지를 보장하는 데 유용하며, 규제 방식의 표준을 따라야 할 수도 있습니다. 또한 이는 의사결정으로 침해를 당한 사람들이 해당 결과에 이의를 제기하거나 이를 바꿀 수 있도록 허용하는 데 있어서 중요할 수도 있습니다.


 

AI의 판단에 높은 신뢰성이 필요한 영역은 자동운전, 자동거래/융자 심사, 인프라 보수, 의료 진단으로 AI 활용의 확대에 따라 정확도 이외에도 공평성, 책임성, 투명성을 요구하고 있다고 합니다. 책에 나오는 XAI의 개요 및 개념 설명을 통해서 AI 책임성이 중요하다는 것을 이해할 수 있었고, 업무에 적용할 때 어떤 부분의 설명이 필요한지, 지금의 XAI로 무엇을 할 수 있는지 이해할 수 있도록 안내해줍니다. 샘플 데이터를 활용하여 주요 XAI 라이브러리를 파이썬으로 구현하며, 결과를 출력해 해석하는 방법을 학습해봤고, 이로 끝내지 않고 XAI의 장래전망, 한계 등을 소개하며 보다 발전적인 사용 방법 또한 알려줍니다. 실무에서 활용되는 주요 라이브러리를 실습해보면 실제 어디에 적용해볼 수 있을지를 검토해 볼 수 있고, 각종 XAI의 원리와 장단점을 통해서 이를 선정하고 검토하는 데 도움을 준다고 생각합니다.

 



실제로 책에서는 AI에 필요한 설명은 무엇이고 XAI를 통해 어떠한 점들이 가능한지를 설명합니다. 또한 XAI의 기본 이론 및 대표적인 XAI 기술을 소개하고, 소스 코드를 구현하면서 실무적인 XAI 지식도 습득할 수 있습니다. 또한 파이썬의 XAI 라이브러리인 LIME이나 SHAP 등의 사용 방법도 소개합니다. 중간에 라이브러리가 변경된 부분이 있어서 당시 커밋된 버전을 사용해야 문제없이 실습이 가능하기에 주의해야 합니다. 물론 해당 버전 그대로 설치해서 따라 하면 문제가 없습니다. 윈도우 환경에서는 curl 경로를 직접 입력하여 해당 파일을 다운로드 한 후 동일한 경로에 풀어주어야 합니다. 또한 절대경로 혹은 상대경로로 다시 지정해줘야 합니다. 이러한 부분이 어려운 경우 Colab 사용을 추천합니다. 텍스트 분석 쪽 문장이 일본어로 되어 있는데, 해당 문구에 대한 번역을 제공하고 있어 괜찮았습니다. 다만 한글 예제로 변경해서 제공했으면 더 좋았을 거 같습니다. 

 


 

이 책을 읽고 AI의 결과 도출에 대해 어느 정도 이해할 수 있게 되었다고 생각합니다. 이렇게 XAI를 이해하며 AI부분 기술을 향상하면서 특히 AI를 다뤄본 경험자나 AI나 머신러닝 실무 적용을 검토 중인 담당자 및 XAI를 다양한 예제를 통해 학습하고 활용하려는 개발자분들에게 도움이 될 것입니다. 따라서 XAI가 무엇인지 개념을 잡고 싶거나 직접 소스 코드를 확인해서 각 기술을 빠르게 실무에 적용해보려는 계획이 있으신 분들에게 적합하겠다고 생각합니다.

 



사실 서평단에 선정되고 처음 도착한 책의 제본이 잘못된 것 같아 동일 기간에 인쇄된 다른 책들과 관련하여 확인을 부탁드린다고 담당자분께 문의드렸습니다. 책 앞부분의 서문, 저자소개, 목차 일부분으로 미리보기를 통해 볼 수 있는 부분이었고 다행히 본문 내용에는 지장이 없어서, 잘 읽고 문제없이 서평을 남길 수 있는 상태라고는 말씀드렸는데 책도 다시 보내주셨습니다. 이러한 부분이 독자를 생각해주시는 거 같아 좋은 인상을 받았습니다.


"YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다."

l*********e 2022.12.18. 신고 공감 0 댓글 0
리뷰 총점 종이책
XAI, 설명 가능한 AI
"XAI, 설명 가능한 AI" 내용보기
#1 'XAI' 의 사전적 의미는 '설명가능한 인공지능' 이다. 풀어 보자면 인공지능의 판단에 대해 그 판단 이유를 설명하는 기술인데, 본서는 XAI에 대한 개요와 구현기술, 활용방안과 한계 및 전망에 대해 서술한 책이다. 예전에 AI를 주제로 한 유튜브 영상을 보다 AI의 판단근거를 연구하는 분야가 있다는 이야기를 잠깐 들은적이 있는데, XAI를 가리키는 내용이었던 것 같다. #2 인공
"XAI, 설명 가능한 AI" 내용보기


#1

'XAI' 의 사전적 의미는 '설명가능한 인공지능' 이다. 풀어 보자면 인공지능의 판단에 대해 그 판단 이유를 설명하는 기술인데, 본서는 XAI에 대한 개요와 구현기술, 활용방안과 한계 및 전망에 대해 서술한 책이다. 예전에 AI를 주제로 한 유튜브 영상을 보다 AI의 판단근거를 연구하는 분야가 있다는 이야기를 잠깐 들은적이 있는데, XAI를 가리키는 내용이었던 것 같다.

#2
인공지능은 데이터를 학습하여 입력 데이터에 대한 결과를 제공하지만 그 근거는 제공하지 않는다. 만약 인공지능을 중대한 의사결정, 이를테면 대규모의 투자결정이나 사람의 생명과 관련된 분야에서 사용될 때 예측 범위를 벗어난 판단을 인공지능이 내릴 경우 그 판단의 근거를 제공함으로써 오류의 발견 혹은 신뢰성의 확보를 도모할 수 있는 기술이다.

#3
XAI 구현에 필요한 기본적인 용어들과 XAI 기술에 대한 개념을 설명을 시작으로 기술 선정 방법의 기준들을 안내한다. XAI의 다양한 기술들의 실제 구현방법 및 코드를 소개하는데, 역시 교양수준으로 접근하려는 독자에게는 이해가 쉽지 않을 듯 하다.

#4
나 같은 교양수준의 독자가 의미있게 읽을 수 있는 부분은 첫 부분의 개요부분과 후반부 XAI 기술의 전망정도가 될 것 같다.

#5
현재 XAI의 기술은 모든 수준의 인공지능 결정에 대한 근거를 제공하진 못한다. 따라서 XAI가 설명할 수 있는 과제와 그렇지 않은 과제를 구분하는 것이 중요하다. 하나의 예로는 XAI가 도출하는 설명은 귀납적으로 얻어지는 것이므로 인간의 직감에 의한 사고, 연역적으로 얻는 결론과는 괴리가 있을 수 있다.

#6
AI는 기술자 뿐만 아니라 비즈니스 담당자나 고객 역시 사용자 일 수 있다. 일반 사용자가 활용할 수 있는 대표적인 분야가 앞서 언급한 의료분야이다.

#7
또한 저자는 앞으로 XAI는 보다 넓고 복합적인인 발전이 필요하며, AI의 보급이 확대됨에 따라 사회적으로 더욱 중대한 영역까지 적용되어 필요성이 더 높아질 것이러 전망한다.

 

YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다.

k********1 2022.12.13. 신고 공감 0 댓글 0
리뷰 총점 종이책
XAI, 설명 가능한 AI 서평
"XAI, 설명 가능한 AI 서평" 내용보기
YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다    요즘 AI기술을 이용한 사례들을 많이 살펴볼 수 있습니다. AI가 그림을 그려주기도 하고 코드 작성할때 도움을 주기도 합니다. AI기술이 발전하게 되면서 우리는 한 가지를 더 생각할 필요가 생겼습니다. AI가 어떤 근거를 바탕으로 해당 출력을 하게 되었는가를 설명할 수 있어야 합니다. 즉, 설명 가능한 AI인 XAI를 알아둘
"XAI, 설명 가능한 AI 서평" 내용보기

YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다

 

 요즘 AI기술을 이용한 사례들을 많이 살펴볼 수 있습니다. AI가 그림을 그려주기도 하고 코드 작성할때 도움을 주기도 합니다. AI기술이 발전하게 되면서 우리는 한 가지를 더 생각할 필요가 생겼습니다. AI가 어떤 근거를 바탕으로 해당 출력을 하게 되었는가를 설명할 수 있어야 합니다. 즉, 설명 가능한 AI인 XAI를 알아둘 필요가 있단 것이죠.

 해당 책은 논문과 비슷한 구성을 띄고 있어요. 기술의 등장 배경, 기술의 개요, 다양한 XAI 기술 설명, XAI 선정 방법 부터 실제 활용을 어떻게 하면 되는지, 마지막으로 기술의 한계점과 해결책까지 차례대로 소개해주고 있어요. 글의 짜임새부터 각종 사진이나 도표 활용법이 연구생 시절을 떠올리게 하네요.

 파이썬을 이용해서 같이 XAI 라이브러리를 가지고 AI 모델을 실제로 분석해보는 실습이 꽤나 많습니다.  AI에 대해서 어느 정도는 알고 있는 독자를 위해서 쓰인 내용들이지만 AI를 조금밖에 몰라도 따라갈 수 있어요. 다만 아쉬운 점이 저자분들이 모두 일본분이셔서 예제 데이터가 일본어로 된 데이터들이 종종 있었어요. 큰 문제는 없는게 일본어로 된 텍스트를 한국어로도 번역해서 보여주고 각 일본어 단어마다 뜻도 해설을 달아주셨어요. XAI에 대해서 알아가려다가 일본어도 덤으로 배우게 된 유익한 시간이었습니다.

k*****n 2022.12.13. 신고 공감 0 댓글 0
리뷰 총점 종이책
XAI, 설명 가능한 AI
"XAI, 설명 가능한 AI" 내용보기
딥러닝이 요즘들어 많은 관심을 모으고 있습니다. 이세돌 9단과 알파고의 대결로 화제를 모았고, 어느새 자율주행 자동차는 우리 생활에 깊숙이 들어와 있습니다. 딥러닝을 이용하면 컴퓨터를 이용해서 해결하기 어려운 문제들을 학습을 통해 해결할 수 있습니다. 수많은 표본 데이터를 이용하여 스스로 학습하여 원하는 답을 주는 딥러닝 알고리즘 보고 있으면 신기하다는 생각마저 듭
"XAI, 설명 가능한 AI" 내용보기

딥러닝이 요즘들어 많은 관심을 모으고 있습니다. 이세돌 9단과 알파고의 대결로 화제를 모았고, 어느새 자율주행 자동차는 우리 생활에 깊숙이 들어와 있습니다.

딥러닝을 이용하면 컴퓨터를 이용해서 해결하기 어려운 문제들을 학습을 통해 해결할 수 있습니다. 수많은 표본 데이터를 이용하여 스스로 학습하여 원하는 답을 주는 딥러닝 알고리즘 보고 있으면 신기하다는 생각마저 듭니다.

하지만, 이러한 딥러닝의 단점 중 하나가 어떻게 그러한 결과가 도출되었는지 설명이 어렵다는 점입니다. 결과가 도출되는 과정을 모르다보니, 잘못된 결과가 도출되었을 때 원인을 알 수가 없으며, 어떻게 해야 바로 잡을 수 있는지도 마찬가지로 어려워집니다.

그러다보니, 설명가능한 AI(eXplainbal AI)가 관심을 받고 있는 것 같습니다.

이 책은 내용이 쉽지는 않습니다. 책의 서두에서도 밝히듯이 딥러닝 관련 입문서를 2권 이상 읽어야 하고, 파이썬 프로그래밍에 대한 이해도 필요합니다. 또한 고차원의 수학은 아니지만, 벡터 연산, 집합연산, 함수 표현 등에도 어느 정도 익숙해야만 합니다.

그럼에도 불구하고, 이 책은 지금까지 설명 불가능했던 AI 알고리즘을 어떻게 해야 설명 가능하게 할 수 있는지, 사람이 이해할 수 있는지를 잘 설명해주고 있습니다.

딥러닝, 머신학습에 관심이 있고, XAI에 대해 더 배우고자 하는 개발자 분들이 읽으면 좋을 것 같습니다.

<YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다>

YES마니아 : 플래티넘 b******2 2022.12.21. 신고 공감 0 댓글 0
리뷰 총점 종이책
XAI, 설명이 가능 한 AI
"XAI, 설명이 가능 한 AI" 내용보기
XAI 설명이 가능한 AI   오오쓰보 나오키,나카에 도시히로,후카사와 유타,도요카 쇼,사카모토 뎃페이,사토 마코토,이가라시 겐타,이치하라 다이키,호리우치 신고 지음 / 김대희 옮김 / BJ퍼브릭   그 순간, 인공지능은 왜 그렇게 생각했을까? 설명 가능한 AI인 XAI로, AI의 마음속을 들여다본다! 어느덧 우리 주변에서 AI를 쉽게 접할 수 있는 시대가 되었다. 여러 다양한 기
"XAI, 설명이 가능 한 AI" 내용보기

XAI 설명이 가능한 AI

 

오오쓰보 나오키,나카에 도시히로,후카사와 유타,도요카 쇼,사카모토 뎃페이,사토 마코토,이가라시 겐타,이치하라 다이키,호리우치 신고 지음 / 김대희 옮김 / BJ퍼브릭

 

그 순간, 인공지능은 왜 그렇게 생각했을까?

설명 가능한 AI인 XAI로, AI의 마음속을 들여다본다!

어느덧 우리 주변에서 AI를 쉽게 접할 수 있는 시대가 되었다.

여러 다양한 기업에서도 AI를 통해 전략을 수립하거나 투자를 결정하고, 데이터 관련 법이 제정 및 공표되어 빅데이터를 수집하고 활용하는 근거가 마련되고 있다.

하지만 AI가 갑자기 일반적인 결과에서 벗어나 엉뚱한 결과를 도출한다면 어떻게 될까?

만약 생명과 관련된 AI에 이러한 문제가 발생한다면 큰 사고로도 이어질 수 있다. 하지만 ‘AI의 책임성’, 즉 AI가 도출하는 추론 결과에 명확한 근거를 제시하기 어려운 것이 현실인데,

이때 그 해결책으로써 'eXplainable AI', 즉 XAI가 주목 받고 있다.

XAI는 AI에 관한 업무를 수행하거나 관심이 있다면 반드시 알아두어야 할 분야이다.

이 책은 XAI의 배경부터 개별 기술까지 체계적으로 학습하고 몇 가지 주요 라이브러리를 시험 삼아 구동해 보면서 실무 지식을 얻을 수 있는 해설서이다.

특히 각 기술들을 최소한의 수학적 전개를 통해 설명하며,

파이썬으로 구현하기 때문에 XAI를 실무에서 빠르게 적용할 수 있도록 하며,

그 외에 XAI에 대한 주요 이슈 및 앞으로의 전망도 설명한다.

XAI가 무엇인지 개념을 잡고 싶거나 각 기술을 직접 소스 코드로 구현해 빠르게 확인해 보고 실무에 적용하려는 분들에게 꼭 필요한 책이 될 것이다.

소스 코드 다운로드 https://github.com/bjpublic/XAI

 

 

이 책을 통하여 XAI는 앞에서 언급된 것 같이. AI를 적용한 결과가 사용자들에게 어떻게 유의미 한지를 설명할 수 있다는 것을 알 수 있었다.

사용자 입장이나, 개발자 입장에서 AI가 적용되었으니 최적이다가 아니라 이제는 그 결과에 대해 상세하게 설명이 뒤따라야 한다는 점을 알게 해주고 있다는 점이다.

AI 개발자라면 누구나 읽고 개발 결과물을 사용자에게 어떻게 설명할 것인가에 대한 생각을 갖고 개발하여야 할 것이다.

 

책을 받아보니, 제본이 잘못된 부분이 있다.

출판 과정에서 실수를 한 것 같다. 이 점은 아쉬운 부분이다

 

"YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다."

 

 

#XAI #설명이 #가능한 #AI #오오쓰보_나오키 #나카에_도시히로 #후카사와_유타 #도요카_쇼 #사카모토_뎃페이 #사토_마코토 #이가라시_겐타, #이치하라_다이키 #호리우치_신고 #김대희 #BJ퍼브릭

y****1 2022.12.18. 신고 공감 0 댓글 2
리뷰 총점 종이책
실무자를 괴롭히는 지식을 설명하는 책
"실무자를 괴롭히는 지식을 설명하는 책" 내용보기
나름대로 색 리뷰를 하면서, 간간히 업무용 서덕이나 특수 목적에 관한 지점이 조금이라도 보이는 서적들은 좀 미묘할 때가 있는 것이 사실입니다. 그럴 수 밖에 없는게, 정말 원하는 분들이 적은 경우가 많아서 말이죠. 그래도 읽어 놓으면 좋은 책이 많다 보니 이야기를 하게 됩니다.    그럼 리뷰 시작합니다.              인공지능 이야기에 관해서는 정말 다양한 이야기
"실무자를 괴롭히는 지식을 설명하는 책" 내용보기

 나름대로 색 리뷰를 하면서, 간간히 업무용 서덕이나 특수 목적에 관한 지점이 조금이라도 보이는 서적들은 좀 미묘할 때가 있는 것이 사실입니다. 그럴 수 밖에 없는게, 정말 원하는 분들이 적은 경우가 많아서 말이죠. 그래도 읽어 놓으면 좋은 책이 많다 보니 이야기를 하게 됩니다.

 

 그럼 리뷰 시작합니다.

 

 


 

 

 

 

 인공지능 이야기에 관해서는 정말 다양한 이야기를 할 수 있게 되었습니다. 특히나 어떻게 발전 하게 되었는가에 관한 이야기 역시 재미있게 다가오는 지점들이 생겼고 말입니다. 소위 말 하는 머신 러닝이 AI에 영향을 주게 되었고, 데이터를 다루는 기술이 점점 더 중요하게 되었습니다. 많은 양의 데이터를 처리하는 기술 역시 이제는 사람들에게 정말 중요하게 작용하는 것들이 되기도 했고 말입니다. 어쨌거나, 이렇게 해서 발전한 기술은 이제 정말 회사들에서 이용하게 되었습니다. 문제는 이제 이 속에 들어간 기술에 관해서 잘 모르는 사람들이 나오기 시작했다는 겁니다.

 

 엄청나게 발달한 기숙을 마법과 다를 바 없다 라는 이야기를 많은 사람들이 하곤 합니다. 영화에서 유명해진 대사이긴 하지만, 지금 현재 많은 사람들에게 나오는 말이기도 합니다. 특히나 인공지능의 연구에서 일반 사람들에게 인공지능은 정말 지능으로서 다가오는 상황이 되어버렸죠. 마법같이 일이 벌어지고 있고, 이에 관해서 사람들이 정말 제대로 알지 못하는 경우가 슬슬 나오고 있기도 한 겁니다. 인간이 만들었음에도 말입니다. 고도의 기술이 들어가 있다는 점 때문에 벌어진 일이기도 하죠.

 

 여기에서 일반인과 전문가의 차이가 벌어지게 됩니다. 사실 일반인의 입장에서는 AI가 정말 어떻게 동작하는가가 중요하지 않긴 합니다. 기본 개념만 이해하고 있으면 사실상 사용에는 크게 문제가 없는 상황이니 말이죠. 당장에 그 시스템을 이해 해야만 사용할 수 있게끔 하는 지점들이 나오는 것도 아니라는 겁니다. 이런 지점들 덕분에 사실상 일반인은 굳이 작동 원리를 모두 이해할 필요가 없게 된 겁니다. 사실 일반인은 그 동작 마저도 제대로 느끼지 못하는 지점들이 있는 상황이기도 하고 말입니다. 이에 관해서는 말 그대로 그냥 이런 시스템이 있다 정도로 생각 하게 되는 것이죠.

 

 문제는 이 일반인이 인공지능 관련 직업을 가지게 될 경우입니다. 사실 이제는 전공 따라 직업이 결정 되는 상황이라 어느 정도 기본 지식은 있긴 합니다. 문제는, 전공으로 배운 지식이 기본이 되긴 하지만, 회사들에서 개발한 내역은 그 배운 내역을 기반으로 해서 엄청나게 많이 나가 있기도 하다는 겁니다. 심지어 일부 지점에서는 박사 학위를 받은 사람들이 만든 부분들이 있다 보니, 그냥 일반적으로 회사 다니는, 컴퓨터를 전공 했다고 하더라도 라는 분야에서 시간을 오래 보낸 사람들 마저도 설명이 불가능한 분야도 있다는 사실입니다. 결국에는 이에 관해서 어느 정도는 가이드북이 필요하다는 이야기가 되는 것이죠.

 

 지금 이 책에서 하는 이야기가 바로 문제가 되는 지점을을 짚고 가는 것들 입니다. 결국에는 단순하게 하나의 시스템을 그냥 넘기는 것이 아니라, 정말 AI가 어떻게 동작 하는가에 관해서 그 기본을 서렴ㅇ 하고, 동작의 결과강 어떻게 도출 되는지에 관해서 이야기 하는 책이라고 할 수 있습니다. 결국에는 이에 관해서 스스로 설명하는 동시에, 기반이 되는 기술을 어떻게 고치고, 동시에 이에 관해서 정말 실무와 연결을 하는지에 관해서 큰 가이드라인을 그려주는 책이라고 할 수 있는 겁니다.

 

 이쯤 되면 이 책에서 다루는 이야기가 우리가 흔히 보는 것들과는 거리가 있다고 할 수 있습니다.시스템의 기본 구성이 무엇ㅇ니지, 그리고 이에 관해서 어떤 구성을 기반으로 하는지에 관한 이야기를 책에서 해주고 있는 겁니다. 물론 이 지점으로 가는 것에 관해서 어느 정도 기본 구성을 가져가고 있는 동시에, 매우 다양한 지점들을 이야기 하고 있기도 합니다. 다만 책에서 가져가는 내용이 기본을 전혀 모르는 사람을 위한 내용이 아니라는 것은 미리 이야기 해야 할 듯 합니다. 어느 정도 배경 지식이 있는 상황에서 실무에 들어갈 때를 상정한 책이라고 하는 것이 더 맞겠네요.

 

 사실 실무에 관한 책을 이야기 하게 되면 쉽지 않을 수 밖에 없긴 합니다. 특히나 일반인이 해당 분야에 관해서 정말 아무것도 모를 때는 더더욱 그냥 해당 분야가 어렵구나 라는 식의 이해만 넘어가 버리는 상황이 되어버리기도 하죠. 하지만, 앞서 말 했듯이 단순히 시스템의 운영에 문제에 관한 지점릉 이야기 하는 것을 넘어, 슬슬 시스템의 기본 구조에 관해서 알아야 하는 시점이 다가오게 되면 사실 정말 더 어려운 내용들이 기다리고 있는 것도 사실ㅇㅂ니다. 이 책에서 가져가는 이야기가 바로 해당 지점에 관해서 이야기 하는 것들이죠. 결국 해당 지점에 관해서 얼마나 더 다양하고 실무적인 이야기를 하는가가 중요한 겁니다.

 

 이 책의 강점은 그 실무 라는 지점에 방점이 찍히게 됩니다. 보통 회사에서 현재 발전시키는 새로운 분야에 관해서 전공서를 뒤지거나, 아니면 관련 교육서를 보는 경우가 많습니다. 물론 요새는 그냥 구글에 검색 해서 적당히 맞는 것들 때려 넣는 것도 많은 편이긴 합니다만, 완전 후발 주자가 아닌 이상, 그리고 시스템에 관해서 정말 기본적인 부분을 만드는 경우에나 가능한 이야기라 할 수 있습니다. 해깃ㅁ 요소로 들어가게 되면 결국 어느 정도 이해를 해야 하며, 해당 분야에 관해서 결국에는 일 하는 사람이 이해를 해야 하는 경우가 발생한다는 것이죠.

 

 이 책에서 하는 이야기는 이런 것들에 관해서, 정말 일을 할 때 문제가 생기는 경우를 주로 다루고 있다고 할 수 있습니다. 굉장히 어려운 이야기들처럼 보이긴 합니다. 실제로 어려운 지점이기도 하고 말입니다. 하지만 AI가 뭔가 이상한 결과를 계속 내놓는다고 한다면 그 기반 어딘가가 잘못 되어 있다는 이야기가 되며, 이는 고쳐야 한다는 의미이기도 합니다. 그리고 그걸 고치는 것은 결국 사람이 할 일이죠. 해당 AI를 운영하는 사람 말입니다. 해당 지점에 관해서 중요하게 작용하는 지점들이 있다는 것을 생각 해보면 이 책의 존재 의의가 매우 확실하다고 할 수 있죠.

 

 AI 라는 것을 회사에서 사용할 때, 그 시스템이 무엇이 되었건 간에 일단 그 기반을 이해하는 데에 나름대로 역할을 하는 책이라고 할 수 있겠습니다. 이 속에서 파이썬 이라는 언어를 쓰고 있다는 점 덕분에 좀 더 다가가기 편하게 하려고 노력하는 지점들도 있다는 점 덕분에 그래도 어느 정도 상황 파악에 관해서 조금이라도 더 도움을 주려고 노력하는 책이라고도 할 수 있을 듯 합니다. 솔직히 AI에 이제야 관심을 가지신 분들에게는 그다지 도움이 되지 않을 수 있지만, 업무에 정말 필요한 상황이 된 분들에게는 기반부터 알려주는 책이라고 할 수 있겠습니다.

 

 

 

YES24 리뷰어클럽 서평단 자격으로 작성한 리뷰입니다

d********h 2022.12.07. 신고 공감 0 댓글 0