인간이 오랜 진화를 통해서 갖게 된 걷기, 손으로 잡기 등 기본적인 능력은 겉보기에 아무런 노력 없이 쉽게 하는 것처럼 보이지만 거기에는 수십억 년의 진화로 축적된 자연의 지혜가 있다. 반면 추상적인 기호나 문자를 다루는 지적 활동은 인간에겐 어려운 일일지 모르지만 오히려 컴퓨터로 처리하기에는 쉬운 일이다.
--- p.13, 「초창기 인공지능」 중에서
생성 인공지능은 우리 사회를 크게 변화시킬 잠재력을 가지고 있다. 하지만 이 잠재력을 제대로 실현하기 위해서는 인공지능을 제대로 이해하고 다룰 수 있는 능력이 필요하다. 인공지능을 효과적으로 활용할 수 있으려면 그 작동 원리를 제대로 이해해야 하며, 이것이 인공지능 시대를 준비하는 우리 사회의 중요한 과제가 될 것이다. 이를 통해 우리는 인공지능의 혜택을 극대화하고 잠재적인 위험을 최소화하며, 인공지능과 함께 더 나은 미래를 만들어 갈 수 있다.
--- pp.49-50, 「인공지능 리터러시가 필요하다」 중에서
디퓨전 모델이 이미지를 생성할 때는 다음과 같은 과정을 거친다. 먼저 학습에 사용할 이미지에 조금씩 노이즈를 더해서 순차적으로 노이즈가 들어간 여러 장의 이미지를 만든다. 이 과정은 매우 절차적이라서 노이즈가 무작위적인 성질이 있다는 것 외에는 그냥 정해진 절차대로 진행하면 된다. 초기의 디퓨전 모델은 이런 이미지를 1,000장 정도 준비했다. 온전한 이미지에서 시작해서 조금씩 노이즈를 늘려 완전한 가우스 분포의 노이즈 이미지까지 마련하는 것이다. 그림 3의 경우 기존의 고양이 이미지에 조금씩 노이즈을 더해 점차적으로 완전한 노이즈를 만들었다. 이 과정이 신경망을 학습시키기 위해 데이터를 준비하는 과정이다.
--- p.73, 「디퓨전 모델」 중에서
언어 자체는 추상적인 것이지만, 언어는 또한 인간 경험의 표상이기도 하다. 언어에는 인간이 생물학적인 몸을 통해 경험한 것들이 잔뜩 묻어 있다. 대규모 언어 모델이 짠 언어의 그물망은 한 인간의 것보다 더 촘촘할 테니 거기에는 인간의 경험이 더 짙게 묻었을 것이다. 대규모 언어 모델은 학습한 것을 인공 신경망의 연결 가중치를 저장하는 파라미터에 저장해 둔다. 그렇다면 이 파라미터에는 인간의 생각과 인간의 경험이 잔뜩 담겨 있는 것이다. 파라미터에 생물학적 육체를 제외한 인간의 나머지 많은 것들이 담긴 셈이다.
--- p.97, 「챗GPT의 기반, 트랜스포머 구조」 중에서
이미지를 생성한다고 말하지만 사실 이미지 생성 모델이 하는 일은 이미 존재하는 이미지를 찾아내는 것에 가깝다. 바둑에 비유해 보자. 바둑에서 가능한 수는 우주에 존재하는 원자의 수보다 훨씬 많다. 관측 가능한 우주에 존재하는 원자의 수는 십진수로 숫자의 자릿수가 80개나 되는 어마어마하게 큰 수이다. 바둑의 가능한 수는 이보다 훨씬 큰 숫자로, 자릿수가 768개나 되는 수이다. 바둑 기사의 일이란 이러한 어마어마한 가능성 속에서 가장 유리한 수를 '찾아내는 것'이라고 할 수 있다. 바둑에서 둘 수 있는 모든 가능한 수는 추상적인 가능태의 공간에 이미 존재하고 있다. 알파고가 이세돌 9단을 이길 수 있었던 것은 알파고가 이 추상적인 가능태 공간에서 유리한 수를 찾아내는 일을 더 잘했기 때문이다.
--- p.102, 「생성이란 과연 무엇일까?」 중에서
프롬프트 엔지니어링을 잘하는 방법을 설명하는 책들이 쏟아진다. 그러나 조금만 생각하면 어떻게 해야 좋은 결과를 얻어 내는 프롬프트를 작성할 수 있을지 추측할 수 있다. 프롬프트 엔지니어링에는 인간의 심리와 인간의 언어를 잘 아는 것이 단연 유리할 것이다. 대규모 언어 모델은 인간을 모방해서 만들어졌고, 인간이 축적해 온 정보와 지식으로 학습되었다. 대규모 언어 모델은 인간을 비추는 거울 같은 존재라고 볼 수 있다. 인공지능을 잘 이해하기 위해서는 인간을 잘 이해해야 한다.
--- p.150, 「텍스트 생성 모델」 중에서
대용량의 데이터를 다루는 거대 언어 모델도 대량의 데이터를 메모리에 저장하고 읽어 오는 일을 해야 한다. 그것도 가능한 고속으로 말이다. 그러나 앞으로 기대되는 인공지능 서비스의 수요에 비해 대중적으로 저렴하게 제공할 수 있는 인공지능 반도체의 공급이 원활하지 않은 상태이다. 앞에서 살펴본 공정의 한계로 인해 생산량도 쉽게 늘릴 수 없고, 이를 운영하기 위한 에너지 비용도 어마어마하다. 이를 극복하려면 새로운 기술이 필요하다. 새로운 기술은 기존의 연장선에서 개선하는 기술뿐 아니라 기술의 근본 패러다임이 바뀌는 수준의 변화도 필요로 한다.
--- pp.164-165, 「한계에 다다른 하드웨어」 중에서
인공지능의 미래를 정확히 예측하는 것은 불가능하다. 하지만 그 변화에 대비하는 것은 가능하다. 인공지능 리터러시를 키우고, 유연한 사고방식을 갖추며, 인간 고유의 가치를 발전시키는 것. 이것이 바로 인공지능 시대를 슬기롭게 준비하는 방법이다. 우리는 두려움에 휩싸이거나 근거 없는 낙관에 빠지기보다, 현실적이고 균형 잡힌 시각으로 인공지능 시대를 맞이해야 한다. 그렇게 함으로써 우리는 인공지능과 함께 더 나은 미래를 만들어 갈 수 있다.
--- p.212, 「우리가 인공지능을 이해할 수 있을까?」 중에서
생성 인공지능은 인류에게 새로운 가능성과 기회의 문을 열어 주는 혁신적인 기술이다. 우리는 이 강력한 도구를 현명하게 활용하여 인간의 창의성을 더욱 확장하고, 더 나은 미래를 만들어 갈 책임이 있다. 마치 미지의 세계를 탐험하는 탐험가처럼, 생성 인공지능이라는 새로운 지평을 향해 용감하게 나아가야 할 때다. 이 책이 생성 인공지능 시대를 이해하고, 미래를 준비하는 데 작은 도움이 되기를 바란다. 앞으로 펼쳐질 흥미진진한 생성 인공지능의 여정에 함께 동참해 주기를 기대한다.
--- p.217, 「에필로그」 중에서