|
자신이 만들었으나, 영원히 이해하지 못할 존재에 대하여 매일 대화하고, 함께 일하고, 때로는 정신적으로 의지한다. 그러면서도 실제로 그 안에서는 무슨 일이 일어나는 지는 모른다. 심지어 그것을 만들었고, 그것을 더 크고 강력한 존재로 만들기 위해 매일 연구하고 막대한 돈을 쏟아붓는 사람들조차도. 인류 역사에서 이것에 가장 가까운 존재는 신일까. 아니면, 프랑켄슈타인. 아니면 인간 자신일까. <스케일링 시대>는 이 존재를 가장 가까운 곳에서 목격한 사람들의 '공학적 간증기'다. 모델을 더 크게 만들자 무엇이 나타났고, 예상하지 못한 능력이 어떻게 출현했는지 자신들이 직접 보고 겪은 일을 증언한다. 하지만 왜?라고 묻는 순간, 그들의 대답은 자주 '모른다'를 출력한다. 다리오 아모데이에게 던진 '왜 스케일링이 통하는가?'라는 책의 첫 질문부터. 그리고 그 빈자리를 설명하기 위해 공학을 넘어 진화론과 신경과학, 인지 과학과 경제학, 지정학과 윤리학의 언어들이 총출동한다. 이것은 아마도 일반인이 접할 수 있는, 모델의 가장 깊은 심연일지도 모르겠다. 그 심연에 가장 가까이 갔고, 그 안에서 무언가 다가오고 있음을 감지한 그들의 대화는 대홍수의 도래를 예감한 여러 명의 노아가 저마다의 방주 설계도를 펼쳐놓고, 인류를 태울 방주를 어떻게 만들어야 할지 논의하는 대책 회의처럼 느껴지기도 한다. 지난 주말, <스케일링의 시대>를 읽었다. 책 속의 미래가 이미 도착한 듯한 열광 속에서. 2023년에 출간된 이 책 속에서 GPT7의 해석 가능성을 이야기하고 있을때. GPT6 Astra의 출시 소식이 들렸고, 칼 슐먼이 "훈련비가 10억 달러를 넘어서는 일은 반드시 일어난다"라는 말을 읽고 있을 때, 페북에서는 Astra가 텍사스 스타게이트에서 10만개의 GPU, 바로 그 10억달러를 썼다는 짤이 돌고 있었다. 책에서 열심히 논했던 데이터와 에너지, 연산량의 한계를 어마어마한 자본과 인프라가 뚫어낸 것이다. Astra의 온갖 데모와 인간의 평균 능력을 대체하는 듯한 에이전틱한 작업 사례들이 쏟아졌고, 그것은 GPU와 반도체 주가라는 현실로 나타났다. 젠슨 황은 'AGI의 시대가 왔다'고 선언하며 다음 GPU 40만 개를 말했고, 삼전닉스의 주가가 화답했다. 참으로 절묘한 타이밍. 하지만, 이 책은 AGI에 언제 도달하게 될까. 스케일링이 답일까에 대한 정답을 찾는 책이 아니다. 오히려 AGI가 왔다는 증언들이 쏟아지는 지금, 선문답 같은 질문과 답변 속에서 이 혼란함을 해석할 좌표를 찾고, 강스케일링에 벳팅한 자본의 논리 아래 눌려버린 여러 질문들을 끄집어 낸다. - 스케일링은 클 수록 좋은가. - LLM이 무엇을 할 수 있는지 우리는 어떻게 알 수 있나. - 높은 벤치마크 점수는 진정한 일반화를 의미하는가. - 모델 안에서는 어떤 일이 벌어지고, 그것을 우리는 어떻게 통제할 수 있나. - AGI를 만들기 위한 비용은 얼마고 그것은 누구의 소유이며 영향은 무엇일까? - 언제쯤 우리는 지능의 폭발을 얻게 될까. 그것이 인간의 삶을 어떻게 바꿀가. 젠슨 황이 GPU 40만 개를 말할 때, 그것이 진정한 일반화인지 묻는 것. 모델이 정말 세계를 이해하고 계획하는지, 새로운 알고리즘은 정말 필요 없어졌는지, 다음 아스트라는 아스트라 자신이 만들게 될지, 그렇게 만들어진 지능을 누가 소유하게 될지, 그리고 그것이 인류에게 정말 좋은 일인지를 묻는 것이다. AI가 우리에게 곁에 존재하는 한, 이런 질문들은 영원히 현재형으로 남을테니. |
|
최근 AI 업계를 관통하는 가장 뜨거운 화두는 단연 ‘스케일링(Scaling)’입니다. 모델의 매개변수, 학습 데이터, 연산량을 증가시킬수록 추론 능력과 범용성이 비약적으로 향상된다는 경험적 법칙은 현 시점의 AI 발전 축을 형성해 왔죠. 드와르케시 파텔이 엮은 《스케일링 시대》는 지루한 기술 매뉴얼이 아닙니다. 오픈AI, 앤스로픽, 딥마인드, 메타 등 AI를 직접 만들고 AGI라는 미래를 향해 달려가는 현장의 핵심 인사와 나눈 심층 인터뷰를 담고 있습니다. 책장을 펼칠 때마다 이론서가 아닌, 현재 진행형의 연구소와 이사회에서 벌어지는 치열한 논의장의 생생함이 펼쳐집니다 이 책의 가장 큰 매력은 ‘스케일링의 지속 가능성’을 놓고 전문가의 의견이 갈리는 지점을 있는 그대로 보여준다는 점입니다. 연산량이 두 배로 늘어나면 성능이 세제곱근 법칙으로 개선된다는 규칙은 지난 5년을 견인했지만, 그 한계는 코앞에 다가왔습니다. 이 책 속에서 스케일링 지지론자는 거대 병렬 컴퓨팅과 효율적인 아키텍처 혁신이 문제를 해결할 것이라고 확신하는 반면, 반대 측은 물리적·경제적 투자 대비 수명곡선 기울기가 완만해졌다고 지적합니다. 서로의 근거가 되는 데이터와 검증 기준이 다르기 때문에 단순한 찬반을 넘어, 각자의 로직이 얼마나 정교하게 설계되었는지 간접적으로 확인할 수 있는 대목입니다. ‘스케일링은 끝까지 통할 것인가’라는 질문은 이제 신념의 영역을 넘어 구체적인 실험 설계로 치열하게 전이되고 있습니다. AGI 도래 시기와 가능성에 대해서도 책은 찬반 관점을 모두 탄탄히 서술합니다. AGI를 긍정하는 측은 스케일링이 지각과 논리를 넘어 자기 수정 가능한 일반 지능을 낳을 것이라고 예측하고, 반대 측은 현재의 확률적 언어 모델링으로는 진정한 이해나 인지가 탄생할 수 없다고 단언합니다. 그러나 저자는 어느 한쪽의 결론을 강요하지 않습니다. 대신 “우리는 무엇을 통제할 수 있고, 무엇을 통제할 수 없는가?”라는 질문을 던지며 독자 스스로 논리를 따라가게 만듭니다. 읽다 보면 자연스럽게 ‘우리는 지금 무얼 준비해야 할까’, ‘AGI 시대에는 우리의 기술과 마인드셋이 어떻게 재편될 것인가’라는 현실적인 고민으로 이어집니다. 책은 미래에 대한 확증을 주지 않지만, 불확실한 시대에 필요한 비판적 사고와 대비의 방향성을 제시해 줍니다. 특이하게도 이 책의 뒷부분 상당 분량이 ‘AI 용어 해설’과 ‘참고 문헌·논문 목록’으로 채워져 있습니다. 이는 단순한 부록이 아니라, 방대한 리서치와 최신 연구 결과, 실제 연산 효율 분석 등을 바탕으로 인터뷰 내용을 구조화했다는 반증입니다. 초보자도 따라올 수 있도록 명쾌한 설명이 곁들여져 있고, 전문가에게는 최신 트렌드를 짚어주는 좋은 지침서 역할을 해주는 듯 합니다. 이 책은 저자 드와르케시 파텔(Dwarkesh Patel)의 철저한 리서치로 태어났습니다. 그는 AI 스케일링과 안전(AI Safety), 정렬(AI Alignment) 분야에 깊은 관심과 자원을 투자해 온 연구자이자 팟캐스터로 업계 핵심 인물들의 생생한 발언을 정확히 포착하는 능력으로 유명합니다. 방대한 문헌 검토와 질문의 깊이로 인터뷰이를 끌어낼 뿐만 아니라, 거시적인 담론을 독자가 공감할 수 있는 논리 구조로 재구성하고 있습니다. 《스케일링 시대》는 AI에 대한 막연한 기대나 공포를 넘어, 지금 벌어지는 변화를 차분히 이해하고 다음 단계를 준비하려는 모든 이에게 추천합니다. 절대 답을 주지는 않습니다. 다만, 우리를 가장 정확한 질문으로 계속 향하게 하는 책입니다. #AI #AGI #도서출판인사이트 #인사이트 |