AI를 믿는다는 말은 무엇을 숨기는가
인공지능을 둘러싼 ‘신뢰’라는 말을 철학적으로 다시 묻는다. 우리는 내비게이션, 번역기, 추천 알고리즘, 신용평가, 행정 예측 시스템에 이미 의존하고 있다. 그러나 AI가 잘 작동할 것이라는 기대를 인간 사이의 신뢰와 같은 말로 부를 수 있는가. 믿음, 신용, 신뢰를 구분하며 AI 윤리 담론의 핵심어가 된 ‘신뢰할 수 있는 AI’의 의미를 파고든다. 마크 라이언의 논의를 따라, 기계가 선의와 책임, 배신 가능성을 지닌 행위자인지 묻는 동시에 인간이 실제로 AI 앞에서 느끼는 안심, 의존, 실망, 불안을 외면하지 않는다.
아울러 신뢰를 이성적 신뢰, 정서적 신뢰, 규범적 신뢰의 세 층위로 나누어 분석한다. AI의 정확도가 높다는 사실만으로는 충분하지 않다. 오류가 났을 때 누가 책임지는지, 편향은 누구에게 불리하게 작동하는지, 사용자는 무엇을 근거로 판단을 맡기는지가 함께 물어져야 한다. AI 신뢰는 기계 자체의 속성만이 아니라 개발자, 기업, 제도, 규제, 사회적 위치가 얽힌 관계의 문제다. 핵심은 AI가 인간과 같은 내면을 가졌는지가 아니다. 우리가 어떤 제도와 권력, 위험 속에서 AI에게 판단을 맡기고 있는가다. AI를 무조건 믿거나 배척하지 않고, 신뢰가 성립하는 조건과 책임의 자리를 고민하게 하는 책이다.