|
AI는 왜 나를 그렇게 평가했는가?
01 리스크 관리의 패러다임 전환 02 블랙박스 AI와 설명 책임의 위기 03 해석 가능한 인공지능의 비즈니스 가치 04 알고리즘적 구제 05 반사실적 설명과 가상 시나리오의 논리 06 건강 리스크 관리 실증 사례 07 맞춤형 상담 가이드의 자동화 구현 08 도메인 특화 LLM: 전문가 수준 상담의 조건 09 알고리즘적 구제의 제도적 조건 10 알고리즘적 구제의 미래와 비즈니스 확장성 |
|
AI가 내린 결정, 뒤집을 수 있는가 보험이 거절되고, 대출이 막히고, 채용에서 탈락한다. 이유는 단 한 줄, “종합 심사 결과 부적합”이다. 점점 더 많은 삶의 결정이 AI에 의해 내려지지만, 그 결과를 바꿀 방법은 좀처럼 주어지지 않는다. 이 막막함에서 출발해 AI가 왜 그런 판단을 내렸는가를 묻는 데서 멈추지 않고 어떻게 하면 그 결과를 바꿀 수 있는가를 묻는다. 이 책이 제시하는 핵심 개념은 ‘알고리즘적 구제’다. 이는 설명을 넘어 행동 가능한 대안을 제시하는 접근으로, 당사자가 스스로 다음 선택을 할 수 있게 돕는 기술이다. 반사실적 설명과 DiCE 알고리즘을 통해 “무엇을 바꾸면 결과가 달라지는가”를 구체적으로 제시하며, 보험·의료·소상공인 데이터에 적용된 실제 사례를 통해 그 가능성을 입증한다. 동시에 알고리즘적 구제가 만능 해법이 아님을 분명히 한다. 불완전한 인과 이해, 구조적 불평등의 문제를 함께 짚으며 기술과 사회의 경계를 성찰한다. AI의 판정 앞에서 우리는 여전히 선택할 수 있는가. 그리고 그 선택을 가능하게 하는 것은 무엇인가. |