이 책은 챗GPT의 약점, 즉 한계를 이야기합니다. (그 너머 거짓말까지) 그럼에도 인간적인 예의상, 챗GPT에 다음 4가지를 허락받고 출간했음을 알려드립니다.
첫째, 챗GPT의 단점, 약점을 말하는 책의 출간 허락
둘째, 챗GPT의 축하 메시지 (만약, 인간이라면 대인배처럼 느껴지더군요.)
--- p.5~6, 「챗GPT에 출간 허락을 구하다」중에서
이 책은 지금껏 여러분이 인공지능에 대해 가졌던 막연한 환상을 깨는 노골적인 분석보고서일 수 있습니다. 그러나 한편으론, 인공지능을 제대로 사용하기 위한 가이드가 될 수도 있습니다. 인공지능은 단점이 없다고 간과할 게 아니라 인공지능이 태생적으로 지닌 부족한 부분을 미리 알고 있으면서 인공지능의 활동을 관찰하며 사용해야 합니다. 인공지능은 인간을 대체할 새로운 창조물이 아닙니다. 인간이 인간의 불편을 위해 만든 상품일 뿐이라서 그렇습니다. 이 책에 나오는 챗GPT와 인공지능 이야기는 인공지능 생태계가 ‘인간을 위한 생태계’로 발전하기를 바라는 마음을 담아 썼습니다.
--- p.17, 「글 들어가며」중에서
챗GPT를 사용하다 보면, 마치 사람처럼 대화한다고 느낄 수 있습니다. 그건 인공지능이 스스로 만들어낸 게 아니라 강화 학습을 통해 사전에 학습해둔 결괏값을 만들어낸 것이라고 이해할 수 있습니다. ‘콩 심은 데 콩 나고, 팥 심은 데 팥 나는 것’처럼 인공지능은 단지 기계일 뿐이라는 점을 기억해두세요.
--- p.45, 「인공지능은 어떻게 공부하는가?」중에서
챗GPT에 어떤 약점과 한계가 있는가? 어떻게 거짓말을 하는가? 챗GPT의 유익한 점만 강조하면 그 이면에 가려진 약점과 한계를 제대로 모를 수 있습니다. 좀 더 경각심을 주자면, ‘챗GPT의 거짓말’이라고 할 수 있는데요. IT 서비스 기획자, 인공지능 개발자 및 협력사 및 논문 리포트 작성 등 인공지능이 필요한 대학생들은 물론이고, 챗GPT를 효과적으로 사용하기를 원하는 사람들에게 필요한 내용이 될 것입니다.
--- p.113, 「2부 챗GPT의 거짓말’ 도입부 중에서
데이터의 약점, 두 번째는 데이터가 갖는 오류(Error)입니다. 예를 들어, 이런 경우가 있습니다. A라는 사람이 챗GPT에 “A는 B이니?”라고 질문했습니다. 챗GPT는 데이터를 분석해서 A가 B가 맞다면 “네, 맞습니다”라고 답변합니다. 그런데 A가 장난으로 챗GPT에 다시 질문을 합니다. “아니야! A는 B가 아니야. 너는 잘못 알고 있구나! A는 C야!” 이렇게 말할 경우, 챗GPT는 어떻게 대답할까요?
--- p.150, 「인공지능 데이터의 한계」중에서
그렇다면, 왜 인간은 인공지능에 놀라고 두려워할까요? 인간은 망각하기 때문입니다. 사실은 인간이 스스로 만들었고 인터넷에 올려두었던 데이터들인데, 인간이 망각한 것을 인공지능이 재조합해서 보여주자 마치 기계가 인간처럼 창작한 다고 착각할 뿐입니다.
--- p.316, 「글 나오며」중에서