여기서 중요한 구별이 필요하다. 문장이 성립하는 문제와 그 문장이 발화되고 화행을 수행하는 문제는 같은 것이 아니다. AI는 문법적으로 완성된 문장을 얼마든지 만들어 낼 수 있다. 그러나 그러한 문장이 특정한 상황에서 실제로 이루어진 발화(utterance)인지, 그리고 그 발화를 통해 약속이나 사과와 같은 화행(speech act)이 성립하는지를 묻기 시작하면 전혀 다른 문제가 나타난다. 따라서 우리가 먼저 해야 할 일은 AI의 산출물을 곧바로 ‘문장’이나 ‘문자열’ 가운데 하나로 판정하는 것이 아니다. 그보다 앞서 문장의 조건과 발화·화행의 조건이 어디에서 갈라지는지를 살펴볼 필요가 있다.
--- 「01 문장의 정의」 중에서

결국 생성형 AI의 ‘생성’은 촘스키가 말한 규칙 기반의 생성과 다르다. 그것은 주어진 문맥에서 다음 토큰의 확률분포를 계산하고, 그중 하나를 선택하는 과정을 반복하는 확률적 산출이다. 트랜스포머와 대규모 사전 학습은 이 과정을 놀라울 정도로 정교하게 만들었고, 인간의 피드백을 이용한 정렬 과정은 그 산출물을 더욱 자연스럽고 협조적인 언어적 행동으로 만들었다. 그러나 인간의 선호를 학습했다는 것은 그 모델이 인간처럼 믿고 의도한다는 의미가 아니다. 강화학습(RLHF)은 모델이 선호되는 응답을 더 잘 산출하게 만들 수 있을 뿐, 자신의 믿음과 의도에 근거해 응답을 내놓는 주체를 새로 만들어 내는 과정이라고 하기는 어렵다. 그렇다면 우리가 AI의 문장을 읽으며 하나의 ‘말하는 주체’를 느끼는 현상은 어떻게 설명해야 할까? 문장에는 분명 화자의 흔적처럼 보이는 것이 나타나는데, 그 문장을 산출한 시스템 안에는 인간과 같은 의미의 화자가 존재하지 않는다면, 우리는 무엇을 화자라고 부르고 있는 것일까? 이 질문이 바로 생성형 AI 텍스트를 화행의 관점에서 다시 바라봐야 하는 이유다.
--- 「03 생성형 AI 텍스트의 산출 방식」 중에서

준화행이란, 생성형 AI의 언어적 산출물이 인간의 화행과 유사한 형식과 기능을 수행하면서도 화행을 성립시키는 관습적·제도적, 지향적·심리적, 형식적, 상호주관적 조건들이 인간의 전형적인 화행처럼 하나의 화자에게 결합되지 않고, AI·사용자·개발자·기업·제도 등 서로 다른 위치에 분리·분산되거나 전위되어 실현되는 언어적 성격을 말한다. 이 정의의 핵심은 무엇이 있고 없는지를 판별하는 데 있지 않다. 화행을 성립시키는 조건들이 어디에 놓이고 누구에게 귀속되며 어떻게 결합되는가에 있다.
--- 「06 준화행(Quasi-Speech Act)의 개념」 중에서

문장이 불러오는 오인은 단순히 “AI를 사람으로 착각하는 것”과는 조금 다르다. 그것은 몇몇 사람이 부주의해서 생기는 일도 아니다. 사람의 사회적 인지 체계는 원래 상대의 마음과 의도를 최소한의 단서만으로 빠르게 읽어내도록 작동한다. 표정 하나로 기분을 짐작하고, 말투 하나로 의도를 예상하는 능력은 인간의 사회적 생활을 가능하게 하는 중요한 능력이다. 문제는 생성형 AI가 사람의 마음은 갖고 있지 않으면서도 사람이 만들어 낸 언어적 단서를 매우 풍부하게 제공한다는 데 있다. 문장은 자연스럽고, 대답은 적절하며, 대화는 이어지고, 때로는 앞선 말을 기억해 그에 맞춰 반응한다. 하지만 이러한 풍부한 단서가 그 뒤에 인간과 같은 이해나 의도, 마음이 존재한다는 사실까지 보장하지는 않는다. 그럼에도 우리의 인지 체계는 그 빈자리를 그대로 두려 하지 않는다. 눈앞에 주어진 언어적 단서를 바탕으로 보이지 않는 부분까지 자연스럽게 채워 넣는다. 이것이 문장이 불러오는 오인의 구조다. 따라서 이런 오인은 무지의 문제가 아니라 부정합의 문제다.
--- 「09 문장이 불러오는 오인」 중에서