한국인의 특성을 체화한 사람이라 질문을 하는 일이 어렵다. 나 역시 그렇다. 그저 혼자 생각하고 납득하는 게 편하다. 어느 정도 효율성을 담보하기도 한다. 질문 한다고 해서 반드시 정답을 얻는 것도 아니다. 오히려 외부의 정보가 들어오면 혼란스럽기까지 하다. 혼자 납득하고 정리하고 이해하고 넘어가고 다른 문제에 집중하는 게 효율적이다. 그렇게 수십 년을 살아왔다.

AI가 나에게 준 가장 큰 변화라면, 바로 질문해볼 대상이 생겼다는 거다. 나 혼자만의 생각이 아닌 다양한 시스템들이 만들어내는 생각. 내 생각과 다른 생각을 수시로 얻을 수 있게 되었다는 거다. AI가 없었다면, 영원히 나만의 세계에 갇혀 살았을 테다.

개인적으로 수동적인 성향이 강한 것도 한 이유다. 머릿속에서 이런저런 생각이 많은 편이고, 질문도 이것저것 던져보긴 하지만 어쨌든 혼자서 삭히는 게 대부분이다. 그래서 보통 누군가가 뭔가 하자고 하면 거절하지 않는다. 왜냐하면 스스로 하지 않을 것이기 때문에, 남이 하자고 하는 거라도 해보자는 마음으로 산다.

AI는 덕분에 나에게 행동의 묘미, 경험의 확장을 담보한다. 일반적인 남들보다 두 배로 경험의 확장을 하는 셈이랄까. 그런 것 치고는 나의 퍼포먼스가 아쉽지만

대체 불가능은 AI 시대 뿐만 아니라 모든 시대에 필요한 전략이다. 자연보다, 동물보다, 기계보다 대체 불가능해야 살아남을 수 있었다. 그건 단순히 오늘날의 문제만은 아니다. 결국 그게 생존 기계인 인간의 유일한 전략이다. 다만 AI가 그것을 그 어느 때보다 가속화하는 것은 사실일 수 있다.

특별해지고자 하는 인간의 욕망. 결국 본질을 찾고 지켜내야 하는 건 예나 지금이나 다를 바 없다. 다만 지금 이 시대에 더 두드러지는 걸지도 모른다. 미래를 예측하긴 어렵지만 점점 더 심해지겠지. 빠른 속도, 신속한 변화 앞에서 본질을 찾고 지켜내는 것. 그것이 바로 대체 불가능이 아닐는지.

이와 관련해서 교육의 새 화두로 ‘비인지 능력’이 부각되고 있다고 한다. (https://www.mk.co.kr/news/contributors/12037817) 인지 기능은 AI가 대체하고 협력, 소통, 자존감, 정서적 안정은 인간이 가진 고유한 요소이자 핵심 경쟁력이라는 것이다. 그래서 AI 시대에 4가지 공부를 강조한다. (1) 함께하기(타인의 마음 읽기), (2) 감각 체험 활동(예술, 체육 등), (3) 분별력(참과 거짓 구분), (4) 자기를 묻는 공부(방향 설정)이 중요하다고 한다.

대체 불가능은 이 4가지 요소 어딘가에 있을 것이고, 결국은 인간의 본질을 찾아가는 싸움이 아닐까. 대체 불가능은 결국 사람의 본질을 회복하는 길인지도 모른다. AI로 인해 역설적으로 가장 인간적이어야 하는 세상이 도래할지도 모르는 일이다.

일독 260410 / 작성 260714

-----------------------------------------------------------------------------

그는 지난 25년간 인간과 AI의 상호작용을 연구하며 한 가지 결론에 도달했습니다. 기술이 정점에 이를수록, 역설적이게도 ‘가장 인간다운 능력’이 더욱 중요해진다는 깨달음입니다. 다만 저자가 말하는 ‘대체불가능’하고 ‘인간다운’ 능력은, 우리가 흔히 인간과 기계의 차이라고 생각하는 부분과는 다소 다릅니다. p.9

AI는 목적지가 아니다. 더 인간적인 미래로 우리를 데려가는 수단이다. p.17

나는 AI를 ‘인간 지능을 기계로 시뮬레이션한 것’으로 정의하기를 좋아한다. 즉, 기계가 인간처럼 생각하고, 배우고, 말하고, 주변 환경과 상호작용하도록 설계된 것을 가리켜 AI라고 부른다. p.35

만약 언젠가 AI가 통제를 벗어난다면, 그것은 인간이 그러한 권한과 능력을 AI에게 부여했기 때문일 것이다. 따라서 모든 책임은 우리 인간에게 있다. p.39

기후 변화, 체르노빌 원전 사고, 코로나19 팬데믹 때도 그러했듯이, 인간은 문제가 터진 후에야 반응하는 경향이 있다. 안타깝게도 이러한 사후 약방문식 대응은 우리가 인정해야 할 인간의 본질 중 하나다. p.40

AI는 거의 모든 질문에 대답할 수 있지만, 이 질문만큼은 예외다. “네 인생의 목적은 무엇인가?” AI가 ‘대답’하는 데 뛰어나다면, 인간은 ‘올바른 질문’을 던지는 데 뛰어나야 한다. p.46

어떤 사람들은 기술이 다른 사람 위에 설 힘을 준다고 착각한다. 그런 태도에는 미래가 없다. 기계화가 그들의 능력뿐 아니라, 더 중요한 ‘사고방식’까지 오염시킨 것이다. 이런 식으로 로봇처럼 행동하는 사람들이야말로 결국 진짜 로봇으로 대체될 1순위다. / 그러므로 정해진 기계적 루틴을 벗어나 상황 변화에 적응하고 대처하지 못하는 사람들은, 그들이 의지하던 바로 그 기술에 의해 대체될 것이다. 반면, 자신의 인간성을 충분히 발휘하여 기술과 나란히 동등한 위치에서 일하고, 기계가 제공할 수 없는 가치를 더할 수 있는 사람들은 ‘대체불가능’한 존재가 될 것이다. / 이 메시지는 간단하지만 심오하다. 첨단 기술 중심의 미래를 성공적으로 헤쳐나가려면 오히려 우리를 인간답게 만드는 요소를 더 늘려 나가야 한다. 우리의 본질은 코드화되거나 자동화될 수 없다. 우리의 인간성은 결코 대체될 수 없다. / AI 시대에 성공하기 위해서는 인간성을 재발견하고, 그것을 전례 없는 수준으로 끌어올려야 한다. 그 어느 때보다 ‘인간다움’이라는 역량을 잘 갈고닦아야 한다. 인공지능 세상에서는 ‘진정성 authenticity’이 궁극의 경쟁력이다. p.51

‘대체불가능’해지는 것이야말로 대유행 전염병처럼 번지는 기술만능주의에 대항하는 백신이다. p.53

결국 AI 시대에서 ‘대체불가능’해진다는 것은 인간으로서의 고유한 속성, 즉 알고리즘으로 복제할 수 없는 속성을 발전시키고 가치를 부여한다는 뜻이다. 이를 통해 AI가 아무리 진화하더라도 그것이 인간 삶의 다채롭고 다면적인 본질을 ‘대체’하는 것이 아니라, ‘보완’하는 역할을 하도록 만들어야 한다. p.54

디지털 전환 DX을 예로 들어보자. 수많은 회사가 엄청난 효과를 기대하며 새로운 영업용 소프트웨어를 도입하거나, 재무 업무를 효율화하는 자동화 시스템을 구축하는 데 천문학적인 돈을 쏟아붓는다. 하지만 실제 연구에 따르면, 이러한 대형 테크 프로젝트의 최대 75%에서 심각한 문제가 발생한다. 컨설팅 회사 맥킨지 앤드 컴퍼니의 조사에 따르면, 최대 70%가 대실패로 끝난다고 한다. 돈 낭비도 이런 돈 낭비가 없다. 실패하는 디지털 전환 작업 때문에 매년 수조 달러가 허공으로 불타 없어지고 있는 셈이다. / 그렇다면 이렇게 엄청난 실패율이 나오는 이유는 무엇일까? 주된 원인은 ‘기술 변화의 속도’와 ‘사람들이 적응하는 속도’ 사이의 불일치다. 회사가 기술적 도구에만 주목하고 인간적인 요소를 뒷전으로 미루면, 프로젝트는 순식간에 불구덩이로 빠져든다. p.56

‘대체불가능’한 회사의 핵심에는 기술이 아무리 발전하더라도 결국 혁신을 이끄는 주체는 ‘사람’이라는 인식이 자리 잡고 있다. 따라서 AI와 함께 유연하게 진화할 수 있는 적응력 높은 기업 문화와 인력을 구축한다. 공감, 지혜, 윤리와 같은 인간만의 초능력으로 조직을 이끈다. / 그러므로 회사와 같은 조직도 ‘대체불가능’해져야 한다. 사람들을 이끌고 영감을 주어야 한다. AI가 할 수 있는 일은 연산뿐이지만, 인간은 창조하고, 돌보고, 연대한다. 기술에 ‘인간다움’의 마법을 입혀 그 가치를 증폭시켜라. p.57

AI가 우리를 인간답게 만드는 핵심 요소들을 대체하는 것이 아니라, 인간의 역량을 강화하는 용도로 사용되도록 ‘균형’을 유지하는 일이 중요하다는 사실이다. p.59

인간은 진정한 창의성으로 다른 어떤 종도 할 수 없는 방식으로 혁신하고, 꿈꾸며, 예술을 창조하고, 문제를 해결할 수 있다. 비판적 사고로 분석하고, 질문하며, 정보에 기반한 윤리적 결정을 내릴 수 있으며, 이는 인류 진보를 뒷받침하는 기반이 된다. 그리고 사회적 진정성으로 공동체를 형성하고 공감하고, 협력함으로써 사회를 지탱한다. / 이 세 가지 고유 능력은 ‘대체불가능’이라는 개념의 핵심이다. 이 책 전반에 걸쳐, 그리고 실제로 ‘대체불가능’해지기 위한 실천 과정에서 이 능력들을 자주 언급해야 하므로, 나는 이런 ‘고유한 인간의 능력’을 휴믹스Humics라는 용어로 부르자고 제안한다. p.67

오히려 위험은 우리 스스로가 이러한 능력의 중요성을 소흘히 여기고, AI가 만들어낸 빈약한 결과물에 만족하는 데서 발생한다. 내가 ‘AI 비만’이라고 이름 붙인 바로 그 현상이다. 우리가 스스로 해야 더 잘할 수 있는 일들까지 AI에 지나치게 의존한다면 우리의 휴믹스는 위축될 수 있다. 마치 운동하지 않으면 근육이 약화되는 것과 비슷하다. p.69

AI는 우리를 위해 많은 일을 해줄 수 있지만, 우리의 존재 이유를 줄 수는 없다. p.74~75

‘대체불가능’해지기 위해서는 3가지 미래 역량, 즉 AI 준비성 AI-Ready, 인간 친화성 Human-Ready, 변화 대응성 Change-Ready을 정복해야 한다. p.75

직업을 고정된 경로로 보지 말라. 대신 끝없는 학습, 의도적 망각(학습 해소), 재학습의 순환 과정이 반복되는 혁명의 과정으로 생각하라. 이 순환 주기 안에 중요하고, 유연하며, ‘대체불가능’한 상태를 유지할 수 있는 힘이 숨어 있다. p.86

유일하게 시간의 힘을 견디는 인간의 구성 요소는 결국 인간성이다. 인간성은 인간의 고유한 세 가지 능력인 휴믹스, 즉 진정한 창의성, 비판적 사고, 사회적 진정성을 말한다. p.100

결국 우리가 인간에 의해 발현되는 능력에 부여하는 가치는 인간적인 배경, 즉 인간의 고난, 성장, 감정과 공감을 느낄 수 있는 능력을 깊이 인식하는데서 나오는 것이다. p.105

기술이 급속도로 발전함에 따라 역량 자체의 진화 속도 또한 발라질 것이다. 따라서 역량 개발은 일시적인 이벤트가 아니라 ‘지속적인 과정’이 되어야 한다. ‘대체불가능’해진다는 것은, 휴믹스를 최대한 활용해 변화하는 세상에 적합한 새로운 역량을 계속해서 갤발해나가는 것을 의미한다. p.110

지금, 이 새로운 시대는 근본적인 변화를 요구한다. AI 사용 자체를 목표로 삼는 게 아니라, 목적 의식과 원칙을 이정표로 삼아 지속 가능한 성과를 얻어야 한다. p.144

AI 시대에 인간이 집중할 대상은 양에서 질로 전환되어야 한다. p.144

AI를 잘 활용하기 위해 모든 것을 전문가 수준으로 알 필요는 없다. 내가 ‘30% 규칙’이라고 부르는 원칙에 따르면, 특정 주제의 약 3분의 1만 알아도 충분히 실용적으로 쓸 수 있다. p.147

AI는 경험 많은 전문가가 사용할 때 비로소 초보자의 능력을 대체하는 도구가 아닌, 인간의 기존 역량을 개선하는 역할을 하게 된다. p.151

회복탄력성은 언제 도움을 요청해야 할지 아는 것 그리고 자신을 지지하는 네트워크에서 힘을 얻는 능력과 관련이 있다. p.163

“호흡은 플루트에 불어넣어 선율을 만들 듯, 내가 가진 가장 귀한 악기인 나 자신을 조율할 때도 중요한 역할을 한다.” p.165

투아레그족은 생각과 감정을 ‘사막에 부는 바람’에 비유하며, 거리를 두고 관찰해야 한다고 강조한다. 생각이나 감정이 나라는 존재의 본질을 정의하는 것이 아니라, 그저 스쳐 지나가는 순간의 경험임을 이해하기 위한 기법이다. p.166

변화해야 하는 상황이 오기 전에 먼저 변화하라. p.170

영어에서 ‘school(학교)’이라는 단어는 사실 ‘여가’나 ‘휴가’를 뜻하는 그리스어 ‘skhole(스콜레)’에서 유래했다. 이 단어의 원래 뜻은 사색, 토론, 그리고 “어떻게 해야 삶을 최대한 즐길 수 있을까?”라는 질문에 대한 잠정적인 답을 제공하는 일에 중점을 두고 있다. 즉, 교육의 본래 목표는 삶의 목적을 찾는 법을 안내하는 것이었다. p.192

인간은 학습한 내용을 바탕으로 휴믹스, 즉 진정한 창의성, 비판적 사고, 사회적 진정성을 키운다. 예를 들어 배우는 과정에서 인간은 다양한 아이디어, 문화, 학문과 만난다. 이러한 다채로운 경험은 언뜻 관련 없어 보이는 개념들을 독창적으로 연결하게 하여 창의적 사고를 촉진한다. 다른 문화, 역사, 사회적 역학을 배운다면 타인의 시각을 이해하고 공감하는 능력이 향상되어 이간관계가 깊어진다. p.195

리처드 라이언과 에드워드 디시는 심리학 연구에서 금자탑을 쌓아올린 거장들이다. 자기결정이론에 대한 그들의 연구는 인간의 동기를 이해하는 데 중요한 돌파구를 열었다. 그들은 1970년대부터 선구적인 통찰력으로 심리적 건강의 본질을 밝혀냈다. / 그들은 인간의 몸이 단백질, 탄수화물, 지방이라는 필수 영양소를 갈망하듯, 인간의 마음도 심리적 욕구를 채워줄 세 가지 요소를 갈망한다고 주장했다. 이 세 가지 요소는 자율성, 유능감, 관계성이다. 이 필수 심리 영양소 중 하나라도 부족해지면 내적 혼란이 발생하여 불안과 초조함으로 나타나며, 이는 영혼의 결핍을 채워달라는 조난 신호라고 한다. p.200

사용자의 집중력 방해는 AI로 인한 부작용이 아니라, 그것 자체로 비즈니스 모델인 것이다. p.207

다음은 어떤 앱이나 디지털 도구가 사용자 중독을 만들어내기 위해 수행하는 세 가지 단계다. / 1. 동기, 능력, 계기(MAT: motivation, ability, trigger)를 활용해 사용자를 유인한다. / 2. 사용자를 참여시키고 보상한다. / 3. 사용자를 유지한다. p.219

내가 쓰는 제품이 무료라면, 바로 내가 상품이 되어 팔리는 것이다! p.231

얼마나 데이터를 비공개할지, 그리고 어떤 데이터를 비공개할지 결정하기는 쉬운 일이 아니다. 완벽한 프라이버시란 다시 말해 AI의 혜택을 포기한다는 뜻이기 때문이다. 반대로 모든 데이터를 공개하면 악용될 가능성이 커진다. p.234

이 사례들은 AI 선순환을 시작하기 위한 기초적인 진실을 잘 보여준다. 바로 처음부터 복잡한 알고리즘이나 방대한 데이터가 필요한 것이 아니라, 고객의 신뢰를 얻는 단순한 일부터 시작해야 한다는 사실이다. 이 모든 상호작용의 중심에는 결국 ‘신뢰 관계 형성’이 있다. p.265

AI는 이제 세상의 운전대를 잡고 있다. 인간의 역할은 모든 것을 창조하고 답을 주던 역할에서 벗어나, 질문을 던지고 정보를 선별하는 역할로 바뀌고 있다. 우리의 자리는 ‘진보의 엔진’에서 ‘진보의 나침반’으로 옮겨가고 있다. 이제 AI가 새로운 엔진이 되었다. 이는 어떤 직업의 사회적 가치가 금전적 대가와 항상 일치하지 않는다는 사실을 상기시키며, 우리가 노동의 본질 자체를 완전히 다시 고민해야 함을 의미한다. p.310