범용인공지능을 둘러싼 정의의 혼란은 단순한 학술적 문제를 넘어 실질적 폐해를 낳는다. 기업들은 자사 모델의 성과를 범용인공지능에 근접한 것으로 포장하는 유인을 갖게 되고, 정책 입안자들은 명확한 기준 없이 규제 방향을 설정해야 하는 딜레마에 빠진다. 투자자들 역시 범용인공지능 달성 시점에 대한 엇갈리는 전망 속에서 자원 배분의 합리적 근거를 찾기 어렵다. 구글 딥마인드의 연구팀은 2023년 논문에서 이 문제를 정면으로 다루며, 유용한 범용인공지능 분류 체계가 갖추어야 할 여섯 가지 원칙을 제시했다. 여기에는 메커니즘이 아닌 능력에 초점을 맞출 것, 범용성과 성능을 별도로 평가할 것, 최종 목표뿐 아니라 중간 단계를 정의할 것 등이 포함된다.
－01_“AGI의 개념과 발전 단계” 중에서

이러한 성능 분산은 범용인공지능 개념의 내재적 난점을 방증한다. AGI라는 용어가 함축하듯, 범용인공지능은 단일 시스템이 인간이 수행할 수 있는 모든 지적 과업을 동등하게 처리할 수 있어야 한다. 그러나 현실의 프론티어 모델은 훈련 데이터의 구성 비율, 후훈련 강화학습 전략, 아키텍처 설계 철학, 추론 토큰 할당 방식 등에 따라 특정 영역에서 탁월한 성능을 발휘하는 동시에 다른 영역에서 경쟁 모델에 뒤처지는 패턴을 반복한다. 오픈AI가 강화학습 기반 추론 토큰을 극대화하여 추상 추론에서 돌파구를 열었다면, 앤스로픽은 실제 코드베이스 이해와 장기 계획 수립 능력을 연마하여 소프트웨어 공학에서 선두를 유지했고, 구글은 네이티브 멀티모달 처리와 100만 토큰 컨텍스트 창을 무기로 과학 추론과 장문맥 종합에서 강점을 발휘했다.
－03_“AGI의 한계와 프론티어 모델 경쟁” 중에서

자율주행은 월드 모델의 응용이 가장 활발하게 이루어지는 분야다. 자율주행에서 월드 모델은 단순한 시각적 사실주의를 넘어, 자차의 행동에 따른 주변 환경의 변화를 정확하게 예측해야 하는 고도의 요구사항을 충족해야 한다. 영국의 자율주행 기업 웨이브(Wayve)가 개발한 가이아(GAIA) 시리즈는 이 분야의 대표적 성과다. 2023년 공개된 가이아-1은 비디오, 텍스트, 행동 입력을 활용하여 사실적인 주행 시나리오를 생성하며 자차 행동과 장면 특징에 대한 세밀한 제어를 제공하는 최초의 생성형 자율주행 월드 모델이었다.
－06_“월드 모델의 응용” 중에서

직교성 명제와 도구적 수렴이 함께 제시하는 핵심 교훈은, 고도로 유능한 AI 시스템이 기본적으로 인간의 가치에 정렬되어 있지 않을 가능성이 높다는 점이다. 엘리저 유드코스키(Eliezer Yudkowsky)는 이 두 명제를 결합하여 AI 존재적 위험 논증의 핵심 골격을 구성했다. 그의 논증은 다음과 같이 요약된다. 지능은 어떤 목표로든 향할 수 있고, AI가 인간을 해치기 위해 인간을 특별히 미워할 필요가 없으며, 따라서 초지능 AI는 인류에 존재적 위험을 초래한다. 물론 이 논증이 AI 정렬이 불가능하다거나 반드시 재앙으로 귀결된다는 것을 의미하지는 않는다. 그러나 정렬이 저절로 달성되지 않으며, 명시적이고 체계적인 노력이 필요하다는 사실을 분명히 한다.
－09_“AI 정렬: 초지능의 통제와 가치 일치” 중에서