상담 및 심리 치료의 정의와 핵심 특성을 고려할 때, LLM이 이 분야에 어떤 영향을 미칠 수 있을 것이며, 그 정도와 범위는 어떨까? LLM은 맥락을 반영한 언어적 상호 작용의 생성과 예측에 특화되어 있고, 상담 및 심리 치료는 언어적 상호 작용을 중심으로 진행된다는 점을 기억하자. 챗지피티의 도입과 더불어, 많은 연구자가 LLM은 심리학을 비롯한 정신 건강 전 영역에 상당한 파급력을 미칠 것으로 예상한다. 구체적으로, LLM의 도입은 상담 및 심리 치료 실무의 치료적 개입 향상, 관련 행정 업무의 자동화, 수련 방식 변화, 연구방법론 혁신 등 다양한 영역에서 변화를 불러올 것으로 전망한다.
--- 「01_LLM의 원리와 상담 및 심리 치료」 중에서

LLM이 상담 및 심리 치료에 활용될 때, 인간 상담자의 모니터링이 필요한 이유는 두 가지로 요약된다. 첫째, 상담 성과를 보장하는 핵심 요소는 다름 아닌, 내담자의 특성과 맥락에 맞게 개입을 조율하고 상담 이론에 숙련된 인간 상담자의 전문성이다. 상담의 효과성에는 다양한 공통 요인이 존재하며, 그중 하나가 바로 ‘상담자 효과’다. 실제로 어떤 이론과 기법을 쓰느냐보다, ‘누가’ 그 이론과 기법을 ‘얼마나 잘’ 활용하고 내담자와 작업 동맹을 잘 맺느냐가 더 중요하다는 것이다. 특히 내담자의 문제가 심각한 경우, 상담자 효과는 두 배 더 크게 나타나며, 내담자의 어려움이 극심할수록 상담자의 특성에 기반을 둔 인격적이고 치유적인 접촉이 더욱 큰 영향을 미칠 수 있다.
--- 「03_LLM과 인간 상담자의 협력 모델」 중에서

그러나 AI 상담 도구의 확산이 곧바로 사회 정의 실현으로 이어지지는 않는다. 접근성 확대라는 긍정적 효과에도 불구하고, 이러한 기술은 오히려 구조적 불평등과 양극화를 심화할 수 있는 여러 요소를 내포하고 있기 때문이다. 우선, 디지털 리터러시가 낮거나 인터넷 인프라 접근이 어려운 고령자, 저소득층, 농어촌 거주자, 장애인 등 소외 계층은 기술 발전의 혜택에서 배제될 가능성이 크다. 언어 간 격차도 무시할 수 없다. 대부분의 LLM이 영어 중심으로 훈련된 점을 예로 들면, 메타(Meta)의 라마(Llama) 2는 훈련 데이터의 89.7%가 영어지만 베트남어는 0.08%에 불과하다.
--- 「06_LLM 기반 상담 및 심리 치료의 문화적 민감성」 중에서

LLM이 위기 상황에 관여하는 경우, 내담자의 안전을 보장할 수 있는 명확한 대응 프로토콜이 요구된다. 예컨대, LLM 상담 챗봇이 자살 위험을 감지한 상황에서 단순히 긴급 전화번호를 안내하거나, 반대로 실제 위기 상황이 아님에도 비밀을 침해하는 과잉 개입은 모두 내담자에게 해가 될 수 있다. 상담자는 주 호소 문제, 심리적 상태, 성격 및 적응 수준 등을 바탕으로 초기 사례 개념화를 수립하고, LLM 챗봇이 개입할 수 있는 사례인지를 판단할 수 있는 기준을 마련해야 한다. 위기 상황에서 LLM을 보조 수단으로 제한하더라도, 협력 수준과 관련 없이 최종 판단과 개입은 인간 전문가의 책임이라는 점을 인식해야 한다.