AI 에이전트는 참여의 문턱을 낮춘다. 고객은 시간에 구애받지 않고 질문하고 여러 대안을 반복해 비교할 수 있다. 이런 서비스는 편의성·속도·개인화를 높이고 고객의 참여 범위를 넓힌다. 다만 참여가 늘었다고 권한이 커지는 것은 아니다. 입력과 확인을 지나치게 요구하면 기업의 일을 고객에게 넘긴 셀프서비스가 된다. 추천을 거절하거나 바꿀 수 없다면 고객은 편리함을 얻는 대신 판단권을 잃을 수도 있다. 따라서 AI가 고객의 참여를 늘렸다는 사실만으로 성과를 평가하기는 어렵다. 고객이 더 적은 노력으로 더 나은 판단을 하게 되었는지, 아니면 기업의 비용만 줄어들었는지 함께 물어야 한다.
--- 「01 서비스 과정에 들어온 AI 에이전트」 중에서

따라서 의인화를 설계할 때는 사람다운 요소를 얼마나 더 추가할지보다 어떤 서비스 과정에 필요한지 검토할 필요가 있다. 고객의 역할, AI의 권한과 능력, 실패했을 때의 책임 구조를 정한 뒤 필요한 사회적 단서를 선택해야 한다. 고객이 처음 접하는 서비스에서는 이름과 간단한 자기소개가 대화의 방법을 알려 줄 수 있다. 사용 경험이 있는 서비스에서는 이전 이력을 정확히 기억하고 고객이 수정할 수 있게 하는 것이 친근한 표현보다 중요해진다. 또한 결과가 불확실한 서비스에서는 처리 과정과 근거를 설명해야 하며, 관계 욕구가 큰 사용자를 대상으로 하는 서비스에서는 정서적 의존을 부추기지 않는 보호 장치가 필요하다.
--- 「03 의인화의 조건과 역설」 중에서

AI 에이전트에서는 의도 판단이 더 중요해질 수 있다. 고객은 AI가 실제 감정을 느끼지 않는다는 사실을 알면서도, 그 에이전트를 배치한 기업의 의도를 추론한다. 사람이 하던 일을 AI로 바꾼 이유가 더 나은 지원을 제공하기 위해서인지 비용을 줄이기 위해서인지 판단한다. AI의 정체를 숨기거나 사람에게 연결되는 길을 막으면 고객은 기업이 자신의 편의보다 비용을 앞세웠다고 해석할 수 있다. 따뜻함은 감정 표현의 양이 아니라 고객의 이익을 고려한다는 신호다. 선택권을 보장하고 오류를 인정하는 태도는 따뜻함을 높일 수 있다. 반대로 이모지와 친근한 말투를 많이 사용해도 불리한 정보를 감추거나 구매를 압박하면 우호적인 의도로 받아들여지기 어렵다.
--- 「06 따뜻함 우선성과 관계 확장 효과」 중에서

고객이 AI의 한계를 어느 정도 감안하더라도 해결되지 않은 주문이나 환불 지연이 사라지는 것은 아니다. 더구나 질문을 반복해서 오해하거나 해결할 수 없는 문제를 계속 붙잡고 있다면, 기술적 한계였던 문제는 다시 서비스 경험의 실패로 이어진다. 이러한 실패가 더 큰 불만으로 확대되지 않으려면, 고객이 다시 상황을 통제할 수 있다고 느끼도록 실질적인 해결 경로를 제시하는 회복이 뒤따라야 한다. 필요한 것은 기계적인 감정 연기가 아니라, 무엇이 잘못되었고 시스템이 어디까지 책임질 수 있는지를 투명하게 드러내는 단호한 결함 시인이다. 질문에 답하지 못하는 것은 기술적 실패이고, 한계나 다른 해결 경로를 늦게 알리는 것은 커뮤니케이션 실패다. 약속한 조치가 전산에 남지 않거나 상담원에게 맥락이 전달되지 않는 것은 구조적 실패에 해당한다. 응답과 안내가 나아져도 실제 처리와 이관이 연결되지 않으면 회복은 끝나지 않은 셈이다.
--- 「09 AI 서비스 실패와 신뢰 재건」 중에서