GPT 모델처럼 생성형 인공지능 모델 구동에는 대단히 많은 컴퓨팅 자원이 필요하다. 개인용 컴퓨터에서는 이러한 작업을 처리하기 어렵기 때문에 OpenAI사는 필요할 때만 모델을 활용할 수 있도록 api를 제공하고 있다. 이 api를 통해 내가 사용하는 혹은 프로그래밍하는 소프트웨어와 GPT 모델을 연결할 수 있으며, 적정한 비용을 지급하고 GPT 모델을 사용할 수 있다.
--- p.21

챗GPT에서 가장 문제가 되는 부분에 대한 예시가 등장했다. 챗GPT가 학습한 내용은 학술 정보나 논문, 위키백과 등 사실과 지식에 관련된 것이 대부분이다. 삼행시처럼 학술적이지 않거나, 일부 국가나 지역에서만 사용되거나, 일부 사람에게만 알려진 정보는 챗GPT가 가지고 있지 않다. 챗GPT의 역할은 입력된 질문에 대한 답을 제공하는 것이기 때문에 자신이 가지고 있는 지식 중 질문과 가장 유사한 내용을 기반으로 답하게 된다. 하지만 일반적이지 않은 정보에 대한 질문의 답은 정확하지 않은 내용을 바탕으로 답변을 제공한다. 이런 현상을 할루시네이션(Hallucination, 환각)이라고 하는데, 챗GPT 같은 생성형 인공지능 서비스가 해결해야 하는 가장 중요한 문제이다. 자신이 정확한 답을 알고 있지 않지만 어쨌든 요청한 질문에 대한 답변을 생성해야 하기 때문에 ‘(나는 잘 모르지만) 가장 정답 같은 문장’을 제시하게 된다. 이런 문제는 인공지능 서비스를 개발하는 개발사에서 고민해야 할 문제이지만, 답변을 활용하는 사람들도 할루시네이션을 파악하고 정확하지 않은 정보를 걸러내야 할 책임이 있다.
--- p.95

챗GPT와 대화하면서 가장 중요한 것은 챗GPT의 답변을 ‘내가 판단하고 결정’하는 것이다. 챗GPT는 아주 좋은 서비스이지만 사실 지능을 가진 무엇이라고 말할 수는 없다. 아직까지 챗GPT는 내가 질문한 것에 대해 가장 근접한 답을 ‘훌륭한 글솜씨’로 보여주는 ‘글쓰기 도구’이다. 우리가 주변에서 듣는 말을 무조건적으로 믿지 않듯 챗GPT가 나에게 알려 주는 내용을 ‘비판적 사고력’을 가지고 확인하는 습관을 길러야 한다.
--- p.152

챗GPT의 도움을 많이 받을 수 있는 분야 중 하나가 프로그래밍이다. 프로그래밍 언어는 아주 엄격한 문법 구조를 가지고 있기 때문에 언어 모델이 학습하기 좋은 언어이다. 프로그래머들이 자신이 필요로 하는 알고리즘을 설명하면 챗GPT가 코드를 제공하고, 프로그래머는 그 코드가 적절한지를 파악하여 자신의 프로젝트에 활용할 수 있게 된다. 하지만 이러한 과정이 프로그래밍 언어나 논리적인 구조를 몰라도 프로그래밍을 할 수 있다는 말은 아니다. 최소한 내가 작성한 코드가 제대로 작동할 것인지 이해할 수 있을 정도의 능력은 갖추고 있어야 한다.