챗GPT도 오타를 치는 경우가 있다. 그럴듯해 보이기는 하나 자세히 읽어보면 일반론을 단순히 나열해 놓는 수준인 경우가 많다. 따라서 챗GPT의 일반적인 아이디어를 구체화하기 위한 추가적인 토의가 반드시 필요하다. 챗GPT의 일반론적 한계를 확장시키는 것은 어디까지나 질문하는 사람의 몫이다.
--- p.45

챗GPT는 언어 빈도분석을 통한 ‘확률적’ 반응 모델을 기본으로 하고 있다. 예를 들어 한국 청소년이 선호하는 음식으로 치킨에 대한 언급이 많았다면, 챗GPT는 한국 청소년이 선호하는 음식으로 ‘치킨’을 꼽아서 답을 할 것이다. 챗GPT는 가까운 빈도로 함께 등장하는 단어를 학습한다. ‘중2’와 함께 ‘병’이 많이 등장하므로, ‘중2병’ 정도는 챗GPT가 학습을 통해 알고 있는 단어이다. 그러나 ‘중2’ 때 가는 첫 ‘수학여행’처럼 어느 정도의 빈도로 함께 묶여있는 단어도 있으므로 ‘중2’에 대해 반복적으로 물어볼 경우 챗GPT는 ‘병’뿐만 아니라 ‘수학여행’도 언급할 수 있다. 챗GPT는 어디까지나 확률로 반응하기 때문이다.
--- p.50

대답 내용은 충격적이었다. 종종 사람들은 챗GPT가 언어를 생성하는 도구이지 검색 도구가 아니라는 것을 잊는다. 챗GPT가 생성하는 내용은 꼭 사실인 것처럼 보이기 때문에, 생성된 내용을 여과 없이 그대로 교실 수업에 사용하면 매우 위험하다.
--- p.56

학생들은 아직 사실 판단과 가치 판단에 미숙하기 때문에 챗GPT가 만들어놓은 답변을 자칫 사실이라고 믿고, 그것을 그대로 습득하거나 이용할 가능성이 크다. 때문에 챗GPT를 이용한 수업에서 그 어떤 질문보다 중요한 것은 바로 챗GPT의 대답이 과연 옳은 것인지 판단하는 ‘심사와 평가 질문’을 던지는 것이다.
--- p.62

확산적 사고(Spreadable Thinking)는 챗GPT를 활용하고자 하는 인간에게 반드시 필요하다. 챗GPT는 빅데이터를 수없이 계산하여 학습한 ‘논리’로 구성되어 있다. 따라서 빠른 처리 속도와 지식의 깊이를 자랑한다. 그러나 프로그래밍 되어 있지 않은, 논리에서 벗어나는 문제 해결은 상상할 수 없다. 이러한 ‘비논리성’이야말로 인간의 영역이다.
--- p.70

인간이 인공지능에 지배당하는 것이 아니라, 인공지능을 도구로 이용하려면 인공지능을 능가하는 무엇인가가 반드시 필요하다. 인공지능의 ‘기계적 창의성’에 대응할 수 있는 무기는 ‘인간적 창의성’이다. 명령이나 알고리즘에 지배받지 않는 ‘주체적인 사고’, ‘직관’, ‘감정’과 같은 인간의 영역을 더욱 확장해가야 하는 것이다.
--- p.72

챗GPT 활용 수업의 평가는 문제 풀이 형태의 단순한 지식 습득의 여부를 묻는 것에서 벗어나야 한다. 대신 정확한 지식 습득, 비판적 지식 습득 태도, 습득한 지식을 토대로 한 창의적 행동, 그리고 챗GPT와 같은 도구를 얼마나 효과적으로 사용할 수 있는가에 대한 네 가지 차원의 평가가 필요하다. 그리고 이 과정에서 학생 간 상호작용으로 이루어진 의사소통 능력을 평가하는 ‘과정형 평가’가 이루어져야 한다.
--- p.103

메타인지는 기계적인 사고와 대비될 수 있는 인간의 고유한 영역이다. 챗GPT를 이용한 자기주도적 학습 과정에서 학습자는 끊임없이 ‘나 자신’에 대한 질문을 던져야 한다. 챗GPT를 이용한 학습이 자칫 수동적으로 흐를 수 있다는 비판이 많지만, 그럼에도 불구하고 의미를 갖는 영역은 챗GPT와 질문하는 과정에서 계속 자신을 비추어 보는 메타인지가 가능하다는 점이다. 계속되는 ‘질문하기’의 학습 과정을 통해 메타인지를 훈련할 수 있다.
--- p.149

챗GPT를 이용한 교실 수업에서 교사는 큐레이터와 매우 유사한 역할을 하게 된다. 챗GPT뿐만 아니라 각종 생성형 인공지능을 이용해 지식과 디지털 창조물이 쏟아지게 될 미래 교육에서 교사는 ‘큐레이터’와 같은 안목을 가지고 그것들을 선별하여 학생이 학습에 꼭 필요한 ‘경험’을 할 수 있도록 촉진하는 일을 해야 한다.