AI가 사람을 평가하는 시대, 공정은 누가 설계하는가

2026년 1월 시행된 인공지능기본법은 채용을 고영향 인공지능의 영역으로 꼽고, 사업자의 책무에 사람의 관리·감독을 넣었습니다. 한 국내 대기업은 수천 건의 지원서를 AI 채용 에이전트가 4시간 만에 분석한다고 발표했습니다. 반길 만한 효율입니다. 다만 이제는 그 이면도 함께 봐야 합니다. 점수가 어떻게 나왔는지, 결과가 틀렸을 때 누가 바로잡는지는 빠른 속도에 가려 쉽게 놓칩니다. 평가와 보상에 AI를 들이는 조직이라면 사람이 그 판단을 어떻게 감독할지부터 정해야 합니다.

『AI 시대 공정성을 설계하다』는 바로 이 지점을 다룹니다. AI를 적극 쓰자거나 경계하자는 양자택일을 넘어, AI와 함께 일해야 하는 조직이 공정성을 어떻게 다뤄야 하는지를 짚습니다. 책은 먼저 감독 방식을 둘로 나눕니다. AI가 추천하고 사람이 건마다 검토해 결정하는 휴먼 인 더 루프(HITL)와, AI가 정해진 범위에서 결정하고 사람은 규칙을 정해 지켜보다가 위험할 때 개입하는 휴먼 온 더 루프(HOTL)입니다. 저자들은 에이전트형 AI가 늘면서 조직이 HOTL 쪽으로 옮겨 가고 있다고 봅니다. AI가 초 단위로 수만 건을 판단하는 환경에서는 사람이 매 건을 결재하기 어렵기 때문입니다.

어느 방식이든 감독이 이름뿐일 수 있다는 점도 짚습니다. 1부의 김수진 과장은 주요 프로젝트 두 건을 성공시키고도 B등급을 받았습니다. 이유를 묻자 상사는 AI 점수가 낮게 나왔고 HR이 고치지 말라고 했다는 답만 내놓았습니다. 이 일은 AI로 평가하는 조직이라면 누구에게나 일어날 수 있습니다. 평가하는 사람과 평가받는 사람 사이에 AI가 들어서면서, 구성원은 무언가 공정하지 않다고 느끼면서도 그 이유를 짚어 내지 못합니다. 책은 그 이유를 자동화 편향으로 설명합니다. 사람이 이해하지 못한 AI 판단을 그대로 승인하는 현상입니다. 그래서 AI가 언제 판단을 멈추고 사람에게 넘길지, 누가 어떤 기준으로 개입할지를 도입 전에 정해 두라고 권하고, 이를 점검할 자가진단 체크리스트를 여러 장에 실었습니다.

1부부터 4부까지는 조직공정성 연구가 정리한 네 물음을 차례로 다룹니다.
· 분배 공정성: 결과가 공정하게 나뉘었는가
· 절차 공정성: 결정하는 방식이 공정했는가
· 대인 공정성: 그 과정에서 존중받았는가
· 정보 공정성: 이유를 충분히 설명받았는가

같은 ‘공정’이라는 말도 루프의 어느 자리에 서 있느냐에 따라 뜻이 달라집니다. 일터를 하나의 루프로 놓고 보면, 루프 안에서 일하는 사람은 자신이 정당하게 대우받는지를 묻고, 루프 위에서 시스템을 짜는 사람은 자신이 정당한 시스템을 만들었는지를 묻습니다. 책은 두 질문이 이어져 있다고 말합니다. “루프 위의 누군가가 두 번째 질문을 진지하게 묻지 않는 한, 루프 안의 누구도 첫 번째 질문에 그렇다고 답할 수 없다.” 저자들은 AI가 낸 평가 결과를 팀원에게 전하는 관리자도 그 순간 루프 위에 서 있다고 말합니다.

공정한 평가와 보상을 바라는 루프 안의 구성원에게도, 그 루프를 어떻게 공정하게 설계할지 고민하는 리더에게도 이 책은 각자의 자리에서 무엇을 물어야 하는지에 대한 인사이트를 건넵니다.