I. 서론

  2023년, ChatGPT가 세상을 뒤흔든 지 얼마 되지 않아, 인공지능은 이미 우리 삶과 업무의 방식을 근본적으로 바꾸고 있다. 기업들은 너도나도 AI-퍼스트를 외치며 클라우드와  AI 분야에 막대한 돈을 쏟아붓기 시작했으며, 개인들 또한 AI의 힘을 빌려 지루한 일들을 AI에게 위탁하고, 업무 능률을 올리는 경험을 하며 AI에 대해 '구글 어시스턴트' 시대와는 확실히 다른 수준의 기대감을 가지게 되었다. 이렇게 AI에 대한 관심과 투자가 많아지다 보니, AI의 발전 속도도 전례 없는 수준으로 빨라졌다. 내가 군 입대하기 직전에 GPT-4o가 출시되었는데, 이제는 o4-mini와 Gemini 2.5 Pro와 같은 훨씬 강력한 추론형 모델들이 나왔으며, 수능 수학 킬러 문제도 척척 풀어내고, React를 통한 시각화 자료 생성 등 다양한 분야에서 정말 쓸만한 경지에 이르렀다. 하지만, 대다수의 사람들이 AI를 사용하면서도, AI에 대한 이해나 관련한 주의점 및 사용 시 가져야 할 태도 등에 대해서는 잘 모르는 경우가 많았다. 이 책 'Co-Intelligence'는 바로 그 부분을 해결하기 위해 나온 책이다. AI의 핵심이 되는 작동 방식 (Transformer Architecture)을 다루고, 그를 통해 AI를 더 객관적으로 바라보며, 현명하게 활용할 수 있는 방식을 제시한다.

II. 그래서 LLM이 뭔데?

  AI 업계에는 여러 번의 '겨울'과 '여름' 이 있었다. 가장 최근의 AI 붐은 2010년대에 일어난 머신러닝 기반 데이터 분석과 예측 열풍이다. 위 기술들은 아직도 다양한 업계에서 요긴하게 쓰이고 있다. 예를 들면, 아마존에서는 머신러닝 기술을 활용해 상품의 실시간 수요를 기반으로, 물류센터의 구성을 최적화한다. 하지만, 그 부류의 AI는 전문가들이 특정 분야에서만 활용할 수 있는 특수 목적 기술에 가까웠기 때문에, 현재와 같은 전 국민적 AI 열풍을 불러오기에는 부족했다. 이러한 상황에 극적인 변화를 가져온 것은 2017년에 발표된, 제목부터 흥미로운 "Attention Is All You Need"라는 논문이었다. 이 논문은 '어텐션 메커니즘(Attention Mechanism)'을 핵심으로 하는 '트랜스포머 아키텍처(Transformer Architecture)'를 제시했는데, 이것이 바로 오늘날 LLM 학습 및 생성 방식의 근간을 이루는 핵심 원리이다. LLM은 말하자면, 아주 고도화된 자동 완성 시스템이다. 우리가 입력한 내용과 AI가 생성한 내용들은 모두 '토큰' 단위로 분리가 되어 (단어라기보다는 형태소와 유사한 단위) 다음 토큰을 예측하는데 쓰인다. 핵심은, 새로운 토큰이 생성될 때마다 계산을 하기 위한 맥락 데이터에 포함이 되어 새롭게 계산을 수행한다는 것이다. AI는 무엇을 학습할까? 주로, 온라인에 공개된 무료 정보나 저작권이 만료된 책, 계약을 통해 확보한 언론사의 기사 등을 학습한다 (고 알려져 있지만 의도적이든 아니든  권리가 확보되지 않은 자료도 학습될 가능성이 높다.) 학습이라고 하면, 데이터가 원본 그대로 엄청나게 큰 저장소에 저장되는 것 같은 느낌이 들지만 방금 다루었던 어텐션을 구현하기 위해서 각 단어 간의 관계성을 담은 벡터 값이 학습되는 방식으로 구현된다. 즉, 문장이 통째로 저장되는 것이 아니라. '임베딩'이라는 과정을 거쳐 토큰 단위로 확률을 계산하기 위한 Q, K, V의 벡터 쌍으로 저장되며, 이것을 Weight라고 부른다. 그래서, 근본적으로 LLM은 무언가를 실제로 이해하고 생각하는 것이 아닌 '확률 계산'을 통해 내용을 생성하는 것이므로, 자신이 내뱉고 있는 것을 팩트 체크할 능력이 없어 문맥적으로는 말이 되지만, 사실과 다른 내용을 생성하는 경우가 있다. 또한, 학습 데이터는 원본이 아닌 맥락의 형태로 저장되기 때문에 무언가를 인용해달라고 했을 때, 실제로는 존재하지 않는 논문이나 링크 등을 인용할 수 있다. 이런 상황을, 환각 (hallucination)이라고 하며, 우리는 LLM은 그 원리상 근본적으로 환각이 존재할 수밖에 없음을 이해해야 한다. 한편, RAG(검색 증강 생성) 등의 기술과 파라미터 규모의 확장으로 환각률이 점점 줄어들고 있다는 사실은 굉장히 고무적이다.

III. 우리가 LLM을 이용할 때 가져야 할 4가지 태도

  글쓴이는 AI를 효과적으로 활용하여 '일 잘러'가 되기 위한 4가지 핵심 태도(또는 원칙)를 제시한다.  1. Always invite AI to the table. 2. Be the human in the loop 3. Treat AI like a person (butt tell it what kind of person it is) 4. Assume this the worst AI you'll ever use. 

  첫 번째, 언제나 AI를 테이블에 데려와라. 아직 우리는 AI가 무엇을 잘하고, 무엇에 약한지 정확하게 모른다. 하지만, 이 감각은 직접 써보면서 기를 수 있다. 의외로 사람이 쉽게 해내는 일을 AI가 잘 못 처리하는 경우도 있고, 사람에게는 정말 어려운 일을 AI는 척척해내는 경우도 많다. 나도 처음에는 AI를 어디에 이용해야 할지 감이 잘 안 왔는데 오래 쓰다 보니 이제는 어떻게 활용하면 될지 느낌이 바로 온다. 

  두 번째, 루프 안의 사람이 돼라. LLM은 근본적으로 환각 등의 문제가 있을 수밖에 없다. 우리는 AI의 말을 곧이곧대로 믿기보다는 비판적으로 검증할 수 있는 사람이 되어야 한다. 

  세 번째, AI를 사람같이 대하라 (무슨 사람인지 말하면서) 이것은 프롬프트를 잘 쓰는 꿀팁에 가깝다. LLM이 확률과 맥락을 기반으로 동작하는 시스템이다 보니, AI에게 Persona를 부여해 주었을 때, 그 분야에 특화된 더 전문적인 응답이 나온다고 한다. 예를 들어, 슬로건을 쓸 때는 '당신은 카피라이터이다.'와 같이 페르소나를 부여해 주는 것이 좋다. 이건 나도 애용하는 방법이다.  

  마지막으로, 이것이 당신이 쓸 최악의 AI라고 상상하라. AI의 발전 속도는 정말 빠르다. 현재 AI를 기반으로 AI의 한계에 대해 속단하지 말라는 내용이다.

IV. AI as Someone

  AI as A Creative. 창의력이라는 것은 무에서 유가 발생하는 것이 아니라, 우리가 알고 있었지만 연관성이 없다고 여겨졌던 요소들을 새롭게 연결하는 것에 가깝다. 놀랍게도, 이것은 AI가 잘하는 일이다. 엄청난 양의 토대로, 연관성이 없다고 생각했던 것들을 맥락에 맞게 연결하는 것. 새로운 아이디어를 브레인스토밍 할 때 사용하면 좋다.

  AI as A Coworker. 이 파트에서는 나만이 할 수 있는 일, 위탁할 수 있는 일, 완전히 자동화할 수 있는 일을 나누는 기준을 알려주고. '켄타우로스'와 '사이보그' 비유를 설명한다. 켄타우로스는 나와  AI의 구분이 명확해, AI에 완전히 맡길 일, 내가 완전히 할 일이 나누어져 있는 상황이다. 반면, 사이보그는 나의 능력을 AI를 통해 증강하는 형태이다. AI가 모든 부분에 완벽하지는 않으나 지루하고 재미없는 일을 어느 정도 대신해 줄 수 있고, 아이디어가 고갈되었을 때 도움을 줄 수 있으니 AI를 나의 일부로서 받아들이고 협력 지능으로 이용하는 방법이다. 

  AI as A Tutor. AI를 통해 변화할 교육의 미래를 그린다. 'Homework Apocalypse'라는 표현으로, 대부분의 학생들이 AI를 통해 과제를 뚝딱 해내며, 사실상 AI 생성물인지 아닌지 구분할 방법이 없음을 우려하는 한편, 가장 효과적인 학습 방법으로 알려진 '1:1 튜터링'의 학습 방식이 AI를 통해 실현화될 수 있다는 기대감을 나타낸다. 특히, Flipped Classrooms(거꾸로 수업)이 실현되기 어려웠던 이유인 양질의 학습 자료 찾기의 어려움을 AI가 해결해 줄 수 있을 것이라고 기대했다.

  AI as a Coach. 견습 목수, 의사 전 인턴 및 레지던트 등 견습생으로서 전문가가 되기 위해 배우는 기간도, 견습생보다 AI가 훨씬 싼값에 일을 잘 할 가능성이 높아지면서 그 형태가 많이 달라질 것이라고 예측했다. 특히 글쓴이는 '전문가'가 되기 위해서는 단순히 비슷한 작업을 많이 반복하기보다는 점점 도전적으로 변하는 일들을 해내며 역량을 키워 나가는 것이 중요하다고 보았는데, 이러한 커리큘럼 제시자와 코치로서의 역할을 AI가 해 줄 수 있을 것이라고 보았다.

V. 결론

  모두가 AI를 사용하는 시대지만, 모두가 잘 스는 시대는 아니다. 마치 모두가 바벨 로우를 하지만, 제대로 하고 있는 사람들은 거의 없는 상황과 비슷하다. 나도 여러 프로젝트를 하며 AI를 활용해 보았지만, 같은 프런티어 모델을 쓰더라도 사용자가 AI를 활용해 본 경험과 전략에 따라 산출되는 결과물의 퀄리티가 천차만별인 경우를 많이 보았다. 또한, AI를 사용할 때 완전히 AI에게 위탁해버리고 사실인지 검증조차 안 하는 사람도 많다는 것을 알게 되었다. 하지만, 이 책과 같이 LLM의 원리를 이해하게 된다면, 절대 그렇게 할 수 없다. AI는 자신이 내뱉고 있는 말이 사실인지 알 수 없으며, 어떤 내용을 이해하고서 결과를 생성하는 것이 아니다. 그럼에도 불구하고, 우리는 잘 사용하기만 한다면 정말 강력한 도구인 AI의 시대에 살고 있다. 이는 우리의 생산성을 전례 없는 수준으로 끌어올려 주고, 우리의 삶의 방식을 완전히 뒤봐꿔 놓을 잠재력이 있는 기술이다. 우리는 이 기술이 어떻게 구현되는지 이해하고, 어떻게 하면 그 부작용을 최소화하면서 최대의 효용을 이끌어 낼 수 있을지 연구해야 한다. 앞으로는 AI를 똑똑하게 활용할 수 있는 사람과 그렇지 않은 사람의 격차가 커질 것이다. AI 활용력과 리터러시를 기르기 위한 많은 노력이 필요한 시대이다.

#CoIntelligence #EthanMollick #인공지능 #AI #LLM #AI활용 #AI리터러시 #미래의일 #협업지능 #독후감 #듀얼브레인