언어 발달을 연구하는 책에서 발견한 생각해볼만한 연구.교토대학 영장류연구소 마츠자와 테츠로(1950~) 교수의 ‘아이’라고 이름 붙인 침팬지 실험 중 하나이다(＜공부하는 침팬지 아이와 아유무(2003) ＞란 국내 번역서로도 소개가 되고 있다.). 침팬지 ‘아이’는 훈련을 받고 다른 색 나뭇조각 각각에 대응하는 기호를 골라낼 수 있다. 노란색 나뭇조각은 △, 빨간색 나뭇조각은 ◇, 검은색 나뭇조각은 ○를 선택하는 식이다. ‘아이’는 이를 거의 완벽하게 해낼 수 있었다고 한다. 그러나 실험 후반의 전개는 충격적이다. ‘아이’에게 기호를 보고 색을 골라내라고 한다. 우리는 △을 보여주면 여러 나뭇조각 중에서 노란색, ◇을 보여주면 빨간색, ○은 검은색 나뭇조각을 고르는 일이 당연하다고 생각한다. 하지만 침팬지 ‘아이’는 역방향 대응은 전혀 수행하지 못했다. 만약 사람 부모가 자신의 아이가 저 당연한 일을 하지 못한다면 부모는 충격을 받을지도 모른다. 인간 어린아이의 언어 발달을 연구하는 한 교수는 이 사실에 경악을 하면서도 동시에 흥미가 솟구쳐 올랐다고 하는데 인간 어린아이의 언어 발달 분야에 관한 문헌을 유심히 찾아보는 연구자로서 이런 사실을 지적하는 논문을 본 적이 없었기 때문이다. 대체로 인간 어린아이가 어떻게 말의 의미를 추론하는지 연구하는 실험은 아무 의미없는 단어 ‘A’가 X’라는 걸 가르치고 그 때 ‘A’라는 단어를 이해했는지 “A는 어떤 것이지?”라고 묻는 방법이 표준적이었다. 이 실험방법은 ‘A는 X’라고 어린아이에게 가르칠 때 그 역방향도 학습하고 있으며 ‘X는 A’라고 배우는 것을 상정하고 있다. 그런데 곰곰히 생각해보면 이러한 일반화가 논리적으로는 옳지 않다. ‘A라면 X’는 ‘X라면 A’와 같지 않기 때문이다. 예를 들어:
‘A라면 X’는 ‘X라면 A’는 논리적으로 동치가 아니며 논리학에서 후건 긍정의 오류 또는 전건과 후건의 혼동이라고 부르는 오류이다. 비논리적 추론‘A라면 X’는 ‘X라면 A’로 과잉 일반화하는 일을 인간은 일상적으로 보여준다. 이건 우리가 특별히 ‘추론’이라는 감각조차 느끼지 않고 실행하는 추론이다. X(결과)의 원인은 A 말고도 여러 가지일 수 있기 때문에, X가 참이라고 해서 A가 반드시 참이라고 결론 내릴 수 없다. 똑같은 논리 형식을 가진 예는 매우 많다. 일상에서 나타나는 대표적인 사례 몇가지이다.
공통점은 모두 X(결과)에 이르는 경로가 A 하나가 아닌데도, X를 보고 A를 단정한다는 점이다. 그렇다면 전제와 결론을 뒤집는 추론—이것을 심리학에서는 대칭성 추론이라고 한다 —은 가설 형성 추론과 관련이 깊은 비논리적 추론이다. 그렇다면 동물은 가설 형성 추론을 할까 하는 의문이 든다. 동물은 하지 않는 대칭성 추론데이비드 프리맥(1925~2015)라는 미국 심리학자에 따르면 동물이 가설 형성 추론을 하는지에 대해서는 동물이 결과를 통해 원인을 추론한다고 생각할 증거는 이제까지 알려진 바가 없다고 결론 짓는다. 반면 인간은 자신과 직접 관련이 없는 자연현상 등에 대해 인과관계를 인식한다—아니 그렇다기 보다는 그럴 필요가 없는데도 원인을 추측한다. 인간과 동물의 차이는 인과 추론으로 대표되는 경험으로부터 비논리적 추론을 할 수 있는가 하는 문제로 이어진다. 2009년 어느 연구자가 ＜25년간의 대칭성 연구＞라는 논문을 통해 1980년대부터 사반세기에 걸친 동물종의 대칭성 연구를 총괄하는 검토를 발표했는데 어떤 방법을 사용했든, 동물이 대칭성 추론을 한다고 확인한 논문은 아직 나오지 않았다. 대칭성 추론의 미싱 링크앞서 살펴보았듯 언어의 학습에는 기호와 대상 사이의 쌍방향 관계성을 이해하고 어느 쪽 방향을 배우면 역방향으로 일반화할 수 있다고 상정할 필요가 있다. 인간의 아이가 말을 배운다는 사실은 그 시점에서 대칭성 추론을 하고 있다는 뜻이다. 사람 이외의 동물은 극히 소수(모호한) 예외를 제외하면 대칭성 추론을 하지 않는다. 이에 이렇게 관찰할 수 있는 사실을 통해 자연스럽게 다음과 같은 가설이 얻어진다. 대칭성 추론을 아주 자연스럽게 실행하는 편향이 인간에게는 있으나 동물에게는 없는데, 이것이 생물종으로서 언어가 있느냐 없느냐를 결정짓는다는 가설이다. 언어 진화의 이론에 깊이 파고든 이 가설에는 중대한 미해결 문제가 있는데 바로 대칭성 추론을 하는 편향이 인간의 아이에게 어떻게 생겨나는가의 문제다. 가설 1 인간 어린아이는 태어나면서부터 대칭성 추론을 한다. 가설 2 인간 어린아이는 언어 습득 경험을 통해 기호와 대상 사이에 쌍방향 관계가 있다는 것을 깨닫는다. 즉 대칭성 추론을 하는 편향은 언어 학습의 결과로 나타난다. 가설 2가 옳다고 생각하는 연구자가 많았으나 어느 쪽이 옳은지 결정해 주는 데이터는 존재하지 않았다. 가설 2가 그럴듯한 가설이라고 여겨지기는 하지만 한가지 결점이 있다. 언어의 의미를 학습하는 경험을 통해 말(기호)와 대상 사이에 쌍방향 관계가 있다고 깨닫는 일 자체가 가설 형성 추론에 의한 통찰이기 때문에 이 통찰은 어떻게 생겨나는지에 대한 설명이 필요해진다. 가설 1의 경우는 우리의 진화적 조상과 우리의 사고 방식 차이는 어떻게 생겨났는가에 대한 의문이 남는다. 가설 1과 가설 2가 어느 쪽이 옳은지 결론을 내기 위해 저자인 이마이 무쓰미 교수는 공동연구자들과 실험에 나섰다. 실험 대상은 생후 8개월 인간 아기 33명, 성체 침팬지 일곱 마리다. 생후 8개월 아기를 선택한 이유는 의미를 아는 단어가 매우 적고 의미 학습을 위한 단서도 아직 습득하지 않은 상태라고 생각해서다. 이 월령의 아기가 학습한 A→X라는 결합을 X→A로 일반화한다면, 그런 사고법은 말의 의미를 학습한 경험에서 도출된 것이 아니라는 말이 될 것이라는 것이다. 다시 말해 의미 학습을 시작하기 이전부터 아기가 대칭성 편향을 지니고 있었다고 생각할 수 있다. 몇가지로 설계된 대칭성 추론 실험을 했고 실험 결과를 요약하면 생후 8개월 인간 아기는 대칭성 추론을 한다. 두가지 요소의 연합을 가르쳐 준 방향과 반대로 제시해도 사물과 연합한 대상이 유지된다고 생각하고, 학습한 조합과 다른 조합을 보여주면 깜짝 놀란다. 침팬지는 여러 실험을 통해 알려진 바와 같이 대칭성 추론을 하지 않는다는 사실과 조금도 변하지 않았다. 인간의 조건진화적 관점에서 인간은 온 지구 위로 거주지를 확장하면서 매우 다양한 장소에서 서식해 왔다. 이를 위해 온갖 종류의 대상, 자연현상 등 불확실한 대상, 직접 관찰하거나 경험할 수 없는 대상에 대해 추론하고 예측할 필요가 있었다. 이 필요성을 생각하면 비록 오류가 있을 가능성이 존재하더라도 그 나름대로 잘 작동하는 규칙을 새롭게 만드는 일, 즉 가설 형성 추론을 하는 일이 생존을 위해 반드시 필요했다고 할 수 있다. 이 덕분에 인간이 언어라는 의사소통과 사고의 도구를 얻을 수 있었고 문명을 진화시킬 수 있었다고 할지 모른다. 왜 오직 인간만이 언어를 가지는가, 이 중대한 물음의 대답으로서 여러가지 설명이 이루어진다. 뇌의 크기, 특히 사고를 주관하는 전두엽의 발달. 또는 직립보행, 인간이라는 집단전 사회성에 의해 파생된 사회 형태 등. 그런데 이 연구는 언어 발달을 인간만의 가설 형성 추론이라는 독특한 사고 방식에 주목했다. 인간은 어떤 것을 알면 그 지식을 과잉 일반화 한다. 어떤 현상을 관찰하면 쉽게 예단한다. 모든 것을 아는 것처럼 어떤 일을 소급하여 인과를 설명하고자 한다. 이런 일은 모조리 가설 형성 추론이다. 인간에게 가설 형성 추론은 가장 자연스러운 사고이고 생존에 필수적인 무기였다. 인간은 어릴적부터 언어 의미 학습을 시작하기 훨씬 이전부터 비논리적 오류를 저지를 위험이 있는 추론, 즉 가설 형성 추론을 하고 있다. 성인이 되어서도 논리적 오류를 계속 저지른다. 그러나 이 불완전함이야 말로 인간을 인간으로 있게 해주고 문명의 가능성을 열었다. 앞서 살펴본 인지심리학 입장에서: 인지심리학에서 보면 이런 비약은 '결함'이라기보다 빠른 판단을 위한 휴리스틱의 부산물이다. 불완전한 정보로 신속히 결정해야 하는 환경에서는 "X가 보이면 A일 것"이라는 성급한 추론이 생존에 유리했을 것이다. 즉 오류 가능성은 인간 인지의 구조 자체에 새겨져 있다는 견해이다. 철학 전통의 입장에서: 유한성을 본질로 보는 견해가 있다. 인간은 신처럼 전지하지 않고 시간 속에 던져진 유한한 존재이므로, 모든 것을 알 수 없고 따라서 오류는 조건 그 자체이다. 하이데거의 유한성, 칸트가 그은 인식의 한계가 여기에 닿고 이 입장에서는 완전함은 인간의 몫이 아니다. 나가는 말: AI도 후건 긍정의 오류가 필요할까?만약 인간처럼 생각하는 강한 인공지능의 돌파구가 생긴다면 논리적인 오류를 일부러 무시하고 학습한 대상과 기호의 대응을 역방향을 일부러 일반화하여 대칭성 추론이 필요하지 않을까? 그것이 인간의 사고이다. 이것은 실제 AI 연구에서 "역전의 저주(Reversal Curse)"라는 이름으로 보고된 현상(‘A는 B’라고 학습했음에도 불구, ‘B는 A’라고 뒤집어서 답하지는 못하는 문제)이고 이 문제를 해결하는 인공지능 모델 기법들이 연구되었다. 메타에서는 LLM의 ‘역전 저주’를 해결하기 위해, 토큰을 두배로 쓰고 두번 학습하는 역방향 훈련을 제안했다. "LLM의 '역전 저주' 해결"...메타, 역방향 훈련 제안 2024.03.27 https://www.aitimes.com/news/articleView.html?idxno=158332 역전 저주는 인공지능(AI) 모델, 특히 LLM이 학습 구성 요소가 역전될 때 문장의 동등성을 이해하는 데 어려움을 겪는 인지 편향이다. 예를 들어 LLM은 ‘톰 크루즈의 어머니는 메리 리 파이퍼’라는 것을 정확하게 식별할 수 있지만, ‘메리 리 파이퍼의 아들은 톰 크루즈’라는 것을 인식하지 못할 수 있다. 메타의 테스트 역시 ‘A’가 X’라는 걸 가르치고 ‘X’가 ‘A’라는 사실을 묻는—인간이라면 자연스러운 사고를— LLM에게 묻는 실험이다. 언어모델의 학습은 본질적으로 "앞 토큰들이 주어졌을 때 다음 토큰"을 예측하는 방향성 있는 과정이다. "A 다음에 B가 온다"와 "B 다음에 A가 온다"는 가중치 수준에서 이 둘은 분리되어 있다. 메타의 양방향 훈련 제안 역시 학습 데이터 안에 양방향 표현을 둘 다 등장시켜서 벤치마크 점수를 높일 수는 있지만 본질적으로는 여전히 인간과 같은 가설 형성 추론을 하고 있는 것은 아니다. 한쪽을 배워 진짜로 일반화한 것이 아니다. AI가 인간의 사고를 하려면 논리적으로 한 방향만 사고를 하는 AI가 상관과 인과의 혼동을 일으키는 논리적인 오류를 저지르는 불완전한 존재로 돌아가야 한다. 그러나 학술 연구와 논증에서는 조건문의 방향을 뒤집는 후건 긍정(P(D|H)와 P(H|D)의 혼동)이 일상보다 정교하게 위장되어 있어 더 큰 주의가 필요하다. 이런 오류를 일으키는 AI를 인간은 더이상 쓸모 있는 존재로 바라볼 수 있을까? 그렇다고 AI가 대칭성 추론을 하지 않는다면 영원히 ‘A라면 X’는 ‘X라면 A’라는 것을 답을 할 수 없는 침팬지 ‘아이’로 남는 것이다. 아이러니 아닌가.＜끝.＞ |