인간은 진화한 AI 시스템과 반복적으로 대화를 하며 인공지능의 언어에 담긴 의도와 성향, 감정적 태도와 같은 인간적 속성을 읽어내고, 그 결과 인공지능을 하나의 사회적 행위자로 대하게 된다. 이는 기계에 인간의 특성을 부여하는 의인화 현상이 더욱 심화된 형태이며, AI를 특정한 성격과 태도, 관계적 특성을 지닌 존재로 인식하는 ‘인격화(personification)’의 단계로 확장하였다고 볼 수 있다. 결국 대화형 AI의 발전은 인간과 기술의 관계를 기능적 사용의 차원을 넘어 사회적 관계의 영역으로 이동시키고 있으며, 이러한 변화는 앞으로 인간이 인공지능을 어떻게 이해하고 받아들이게 될 것인가를 고민하게 만든다. 이러한 의미에서 오늘날 대화형 AI의 발전은 단순한 기술 혁신이 아니라 인간과 기계의 관계가 ‘인격화’의 차원으로 재구성되는 과정이라고 할 수 있다.
－01_“대화형 AI와 인격화” 중에서

사실 AI는 필요 이상으로 장황한 응답을 생성하거나, 불확실한 상황에서도 어떻게든 답을 제시하려는 경향을 보인다. 또한 사용자의 의견에 무조건 동조하는 아첨 현상과 같은 격률 위반 사례가 적지 않다. 이는 인간이 의도적으로 격률을 위반하여 대화 함축을 만들어 내는 것과는 다른 문제로, AI의 격률 위반이 어떤 원리에서 비롯되는지, 그리고 기존의 4가지 격률이 이를 충분히 설명할 수 있는지에 대한 보다 체계적인 검토가 필요하다.
－03_“대화의 원리와 AI” 중에서

AI의 발화가 정확하지 않은 경우에도 왜 그러한 판단을 내렸는지 합리적인 근거를 제공하면, 사용자는 신뢰를 거두기보다 시스템의 한계를 이해하고 신뢰도를 구축하게 된다. 이러한 신뢰는 결과의 정확성에 의해 좌우되지 않고 인간이 AI의 판단 과정과 그 일관성을 어떻게 해석하느냐에 따라 점진적으로 형성된다. 즉 인간은 AI가 제공하는 설명을 통해 해당 시스템이 어떠한 기준과 논리에 따라 작동하는지를 파악하고, 이를 기반으로 향후 행동을 예측하게 된다. 이때 설명이 일관되고 이해가 가능할수록 사용자는 AI의 오류조차 예측 가능한 범위의 현상으로 받아들이고, 신뢰를 유지하거나 강화하게 된다. 반대로 설명이 결여되거나 결과와 불일치할 경우, 사용자는 AI의 판단을 임의적이고 불투명한 것으로 인식하여 신뢰를 쉽게 철회하게 된다. 결국 AI에 대한 신뢰는 정답의 축적이 아니라, 설명을 통해 형성된 예측 가능성과 그에 대한 사용자의 해석 경험이 누적되는 과정 속에서 구축된다고 할 수 있다.
－06_“AI 발화와 인간의 수용” 중에서

한편 AI도 그들만의 글쓰기 특징이 존재한다. 우선 대명사의 사용이 적고 비인칭 표현이 자주 사용된다. 문장 역시 글의 긴장감과 구조에 따라 독특한 리듬을 갖지 않으며, 길이도 중간 정도의 안전한 구조로 표준화된다. 특히 글의 사례나 예시가 구체적이지 않으며, 감정 표현에서도 ‘기쁘다’, ‘행복하다’, ‘즐겁다’와 같이 다양하게 표현되기보다는 ‘긍정적이다’라는 표현으로 수렴한다. 한마디로 AI 글은 ‘비개인화’라는 용어로 설명할 수 있다. 그런데 놀랍게도 인간의 글쓰기가 AI를 닮아가고 있다. (…) 이러한 현상은 단순히 개인의 선택이 아니라 구조적인 문제라고 볼 수 있다. 사람들이 아이디어 탐구, 글쓰기, 문제 해결 등에서 AI를 반복적으로 사용하면서 AI의 출력물이 사용자 자신의 표현 방식이나 사고 패턴으로 변하고 있는 것이다. 이렇게 변화된 인간의 언어가 다시 AI 학습 데이터가 되면서, 동질화가 재귀적으로 강화되는 ‘피드백 루프’가 형성되는 것이다. 도구가 사용자를 변화시키는 현상이 언어 영역에서 일어나고 있는 것이다.
－09_“AI가 바꾸는 인간의 언어” 중에서