그러나 인사관리는 본질적으로 효율성만을 추구할 수 있는 영역이 아니다. 결국 사람에 관한 일이기 때문에 이에 관한 판단은 단지 수치적 계산으로 끝나지 않기 때문이다. 어떤 사람을 기회로 볼 것인지, 어떤 기준으로 성과를 인정할 것인지, 어떤 판단을 공정하다고 받아들일 것인지는 조직이 추구하는 가치와 깊이 연결되어 있다. 즉 사람으로 이루어진 조직은 기계처럼 측정 가능한 속도나 산출물에 기반한 생산성만을 목표로 움직이지 않는다는 것이다. 또한 조직의 존재의 이유를 생각해 보면 조직마다 존재 이유가 다르고, 그에 따라 인사관리의 목표와 정당화 방식도 달라진다. 그 조직이 지속적으로 존재하기 위해 경쟁과 확장을 앞세우는 것이 중요한 조직이 있는가 하면, 안정성과 신뢰를 더 무겁게 다루는 조직도 있다. 따라서 AI를 인사관리에 도입한다는 말은 언제나 같은 의미일 수도 없다. 같은 기술이라도 어떤 조직의 목표를 위해, 어떤 기준 아래, 어떤 방식으로 활용되느냐에 따라 그 의미는 달라진다. 이러한 다름의 역학이 확연히 나타나는 곳 중 하나가 공공 조직이다.
--- 「01 인사관리에서 AI는 특별하지 않다」 중에서

더구나 인공지능은 단순히 성능 좋은 계산 도구로만 받아들여지지 않는다. 그것은 종종 인간의 주관과 편차를 줄여 줄 수 있는 기술로 이해되기도 한다. (…) 이는 관료제에서 추구하는 공평성을 달성하는 것과도 관련 있다. 그래서 인공지능은 공공 인사관리에서 단지 효율을 높이는 도구가 아니라, 더 체계적이고 더 일관된 판단을 가능하게 하는 도구로도 보이게 된다. 이는 특히 채용, 평가, 이직 예측처럼 원래부터 인간의 판단 부담이 큰 영역일수록 더욱 강하게 작동한다. 그러나 바로 여기서 다음 질문이 생긴다. 공공 인사관리에서 중요한 것은 단지 더 잘 맞는 예측인가? 혹은 더 높은 정확도와 더 정교한 분류가 곧 더 나은 공공적 판단을 뜻하는가. 문제는 바로 이 지점에서 시작된다.
--- 「03 성능이 전부가 아니다」 중에서

SHAP는 이 문제를 해결하기 위해 협력적 게임 이론의 샤플리 값(shapley value)을 이용한다. 원래 샤플리 값은 여러 참여자가 공동으로 만들어 낸 성과를 각자의 공헌에 따라 배분하는 방법이다. 이를 머신러닝에 적용하면 업무 부담과 직무 만족도, 근속기간, 보수와 같은 이직에 영향을 미치는 변수들이 공동의 예측을 만든 참여자가 된다. 최종 예측값은 이 변수들이 함께 만들어 낸 성과이며, SHAP는 그 성과를 변수별 기여로 배분한다. 이를 위해 한 변수가 여러 변수의 조합에 추가될 때 예측값이 얼마나 달라지는지를 살펴본다. 업무 부담의 기여를 구한다면 업무 부담만 고려했을 때의 변화와 함께, 직무 만족도가 포함된 상태에서 업무 부담을 추가했을 때의 변화도 계산한다. 또한 근속기간과 보수가 이미 포함된 상태에서 업무 부담을 추가했을 때의 변화도 살펴본다. 즉 함께 고려되는 변수와 투입 순서가 달라질 때 나타나는 변화들을 종합하여 업무 부담의 최종 기여를 정하게 된다.
--- 「06 SHAP로 이해하는 설명 가능성」 중에서

이 때문에 데이터와 현실의 정합성을 다루는 일은 기술적 전문성은 물론, 인사관리에서 전문성이 요구되는 판단의 영역이다. 채용이나 직무 평가, 성과 평가와 같은 단계에서 다양한 지표를 고려하고 특정 집단에 체계적으로 불리하거나 유리하게 작동하지 않는지를 검증하는 일은 데이터 과학만으로는 해결되지 않는다. 여기에는 직무에 대한 이해, 인사 선발의 방법론, 그리고 조직이 추구하는 가치에 대한 판단이 함께 개입해야 한다. 공공 조직에서 이 요구는 한층 더 무겁다. 공공 인사관리는 더욱더 왜 그런 판단을 내렸는지 설명할 수 있어야 하고, 그 판단이 특정 집단에 치우치지 않았음을 보일 수 있어야 하기 때문이다. 또한 이 책임은 도구를 외부에서 조달했다고 해서 가벼워지지 않는다.
--- 「09 책임 있는 적용을 위한 원칙」 중에서