|
실행이 싸질수록 비싸지는 것
01 대체론과 과업 분해 02 지능의 색역과 역할 배분 03 취약성과 지휘권 04 확장된 마음과 인지 주권 05 AI 에이전트와 짚인간 06 설계와 판정과 책임 07 AI 네이티브 조직의 세 장치 08 인문학의 생산수단 09 만드는 교육과 페퍼트 역전 10 국민 개발자와 공공 하네스 |
이수화의 다른 상품
|
대체론을 벗어난다고 해서 일자리 변화가 사라지지는 않는다. 자동화는 업무의 가격과 조직의 인력 구성을 바꾼다. 어떤 역할은 줄고 새로운 역할이 생기며, 기존 직무의 진입 경로가 좁아질 수 있다. 특히 초급자가 맡던 조사, 요약, 기본 코드 작성이 빠르게 자동화되면 단기 효율은 높아져도 미래의 숙련자가 경험을 쌓을 계단이 사라질 수 있다. “인간에게 고차원 업무가 남는다”는 말만으로는 부족하며, 누가 어떤 과정을 거쳐 그 고차원 판단을 배우는지도 설계해야 한다. 현장에서 먼저 해야 할 일은 직무를 없앨지 결정하는 것이 아니라 과업을 네 종류로 나누는 것이다. 결과를 자동으로 검사할 수 있고 실패 비용이 낮은 일은 AI가 실행한다. 초안은 빨리 만들 수 있지만 맥락 판단이 필요한 일은 AI가 제안하고 사람이 승인한다. 개인정보, 안전, 법적 권리처럼 실패 비용이 큰 일은 사람의 사전 승인과 기록을 의무화한다. 목표 자체가 논쟁적인 일은 효율의 문제가 아니라 이해관계자 사이의 숙의가 먼저다.
--- 「01 대체론과 과업 분해」 중에서 지휘한다는 말을 구체적으로 풀면 세 가지 행위가 남는다. 무엇을 문제로 삼을지 정하는 일, 무엇을 좋은 결과로 볼지 적는 일, 결과가 틀렸을 때 그 값을 치르는 일이다. 셋 중 하나라도 빠지면 지휘가 아니다. 문제를 남이 정해 주고 기준도 남이 주는데 서명만 한다면 그것은 승인 대행이다. 기준을 쓰고 책임도 지지만 문제 자체를 의심하지 않는다면 성실한 실행자이지 지휘자가 아니다. 조직에서 이 셋이 서로 다른 사람에게 흩어져 있는 경우가 흔한데, 짚인간을 들이면 흩어진 상태가 더 빨리 드러난다. 실행이 빨라질수록 기준을 쓴 사람이 누구인지 묻는 일이 잦아지기 때문이다. --- 「03 취약성과 지휘권」 중에서 AI 시대의 핵심 능력은 실행 지시를 잘 쓰는 데만 있지 않다. 첫째는 설계다. 목표를 검증 가능한 작업으로 나누고 순서를 정하는 능력이다. 둘째는 판정이다. 결과를 품질 기준과 대조하고 예외를 알아보는 능력이다. 셋째는 책임이다. 불확실한 상황에서 무엇을 채택하고 언제 멈출지 결정한 뒤 그 결과를 떠맡는 능력이다. 세 능력은 서로 떨어져 있지 않다. 책임질 사람이 기준을 세워야 하고, 기준이 있어야 판정할 수 있으며, 판정 가능한 형태로 일이 설계되어야 한다. (…) 설계와 판정과 책임은 짚인간을 내보내는 사람에게 남는 세 능력이다. 홍길동이 분신에게 무엇을 시킬지 정하고, 돌아온 분신이 한 일을 읽고, 그 일의 결과를 자기 이름으로 감당하듯이 말이다. 좋은 자동화는 인간을 과정 밖으로 밀어내지 않고 인간이 어디에서 개입해야 하는지를 더 선명하게 만든다. 출력의 속도를 키우는 일과 판정자의 눈을 키우는 일을 동시에 설계할 때, AI는 책임을 흐리는 지름길 대신 책임 있는 판단을 더 자주 시험하고 개선하는 작업대가 된다. --- 「06 설계와 판정과 책임」 중에서 필자는 기계를 통해 생각을 만드는 방향이 뒤집힌 상태를 ‘페퍼트 역전’이라고 부른다. 기존 학술 용어가 아니라 AI 교육의 위험을 설명하기 위해 제안하는 표현이다. 학생이 기계에 자신의 생각을 명령하는 것이 아니라, 기계가 제시한 다음 문장과 다음 문제, 다음 관심사에 학생이 맞춰지는 상태다. 학습자는 선택하는 것처럼 느끼지만 선택지는 추천 시스템이 미리 배열한다. 홍길동의 비유로 말하면, 학생이 짚인간을 만드는 것이 아니라 누군가의 짚인간이 학생을 만드는 상태다. 맞춤형 학습은 이 역전을 일으킬 수도 있고 막을 수도 있다. 시스템이 정답률만 보고 쉬운 설명을 계속 제공하면 학생은 불편한 문제를 오래 붙잡을 기회를 잃는다. 반대로 어떤 지점에서 막혔는지 보여 주고 학생이 다음 실험을 고르게 하면 자기 조절을 도울 수 있다. 차이는 개인화의 정도가 아니라 누가 학습의 방향과 기준을 통제하는가에 있다. --- 「09 만드는 교육과 페퍼트 역전」 중에서 |
|
실행하는 사람에서 지휘하는 사람으로, 지식 노동의 중심이 이동한다
AI는 이제 질문에 답하는 수준을 넘어 파일을 수정하고, 코드를 실행하고, 고객에게 메시지를 보내며 주어진 과업을 스스로 수행한다. 한 사람이 여러 AI 에이전트에게 일을 맡기는 시대, 인간에게 남는 역할은 무엇인가? 이 질문을 ‘짚인간’이라는 독특한 개념으로 풀어낸다. 『홍길동전』에서 홍길동이 짚으로 만든 분신을 세상에 내보냈듯, AI 에이전트는 인간의 인지와 행위를 외부로 확장한 분신이다. 그러나 분신이 아무리 뛰어나도 무엇을 할지 결정하고 결과를 책임지는 주체는 인간이다. 이에 지식 노동을 대체와 존속의 이분법으로 보지 않고 과업 분해와 역할 배분, 설계와 판정, 책임의 문제로 재구성한다. 특히 인간이 지휘권을 가져야 하는 이유를 능력의 우월성이 아니라 취약성에서 찾는다. 인간은 잘못 판단하면 생계와 관계, 삶의 일부를 잃지만 AI는 그 손실을 자신의 삶으로 경험하지 않는다. 이러한 관점에서 AI 네이티브 조직의 설계 원칙과 개인의 인지 주권, 인문학자의 제작 능력, 새로운 교육과 시민 개발자의 가능성을 탐색한다. 글을 읽고 해석하던 인문학자가 웹앱을 만들고, 학생이 역사적 문제의식을 작동하는 소프트웨어로 구현하는 사례도 제시한다. AI가 실행의 비용을 낮출수록 무엇을 만들지 설계하고, 결과를 판정하며, 실패를 책임지는 인간의 능력은 더욱 귀해진다. 지식 노동의 미래는 사람이 일을 얼마나 직접 수행하느냐보다 자신의 판단을 얼마나 정확하게 시스템으로 구현하느냐에 달려 있다. |