1. 제약으로의 초대

이 연구의 목적은 최적성이론(Optimality Theory)의 원리를 이용하여 국어의 음운현상을 분석하고 제약과 그 등급을 설정하는 것이다. 최적성이론은 규칙 대신 표면의 적격성에 관한 제약들이 보편문법을 이루고, 개별 언어의 문법은 그 제약들의 등급으로 이루어지는 이론이다. 최적성이론 이전 음운이론들은 규칙을 내세워 그것을 절대로 위반하면 안 되었지만, 이 이론의 제약들은 위배될 수 있다.

이 점이 최적성이론의 가장 큰 장점이자 특징이다. 최적성이론은 최근 나온 이론 중 가장 발전된 것으로 많은 관심을 받고 있으며 Prince & Smolensky(1993)과 McCarthy & Prince(1993ㄱ)에서 처음 등장하였고, 그 이후의 언어 연구에 커다란 영향을 미치고 있다.

또한 다양한 방법으로 발전하여 그 영역을 음운론, 형태론을 넘어서서 음성학, 통사론, 의미론까지 넓히고 있다. 최근에는 역사언어학이나 언어습득 등에서도 폭넓은 적용이 시도되고 있다. 그 이유는 규칙 중심의 언어 이론으로는 설명이 안 되던 문제점들을 해결할 수 있기 때문이다. 그래서 본 연구에서도 국어의 음운현상을 분석하는데 최적성이론이 가장 적절한 방법이라는 것을 밝혀보려는 것이다.

최적성이론의 가장 주목할 만한 특징들 가운데 하나는 그것이 하나의 개별 언어의 기술과 보편적인 언어 유형론의 설명을 통합하는 방법에 있다. 개별 언어의 복잡하고 독특한 음운론이 명쾌하고 풍부한 유형론적 일반화와 함께 대비되는 데에 바로 그 특징이 있다고 하겠다. 그런데 최적성이론은 본질적으로 유형론이라고 할 수 있다.

한 언어의 문법은 모든 언어의 보편적 문법에 관한 것을 공유하기 때문이다. 최적성이론이 제약의 등급 조정을 통해 이루어내는 개체와 전체의 통합은 이 이론이 제공하는 가장 중요한 통찰일 것이다. 그것은 최적성이론의 핵심 전제로, 실제로 음운론을 비롯한 언어학과 관련된 분야에서의 경험적 결과들에 대한 근거로 되풀이하여 논의될 것이다.

여기에서는 먼저 음절구조를 통해서 국어의 최적성이론의 제약들과 그 등급을 설정할 수 있고, 그것을 기초로 여러 음운 현상을 설명할 수 있다고 판단하였다. 그래서 우선 음절 내부 구조에서의 제약부터 살펴본 다음에, 음절과 음절이 연결될 때의 제약을 논의할 것이다. 이러한 구분은 Prince & Smolensky(1993)과 McCarthy & Prince(1993ㄱ)에서도 일반 언어학적인 측면으로 제시하고 있다. 국어에 대한 개별 언어학적인 연구에서도 음절 자체의 경우와 음절과 음절이 만났을 경우를 구분하여 설명하고 있다.

이러한 논의들을 토대로 해서 음절을 통한 제약 설정의 기초를 찾을 수 있다. 따라서 먼저 음절구조 내에서의 문제로 제약과 그 등급을 설정할 수 있고, 그 다음에 음절과 음절이 연결될 때의 문제로 추가적인 제약을 설정할 수 있다고 본다. 그 등급은 여러 음운 현상의 상황에 따라 종합적으로 세울 수 있다고 판단된다.

음절을 통해서 최적성이론의 제약과 그 등급을 설정하고 나면, 그 다음에 그 제약 등급으로 전반적인 국어의 음운 현상에 대한 분석을 시도하고, 그 다음에 자음 관련 음운 현상을 구체적으로 분석한다. 그 다음에 모음 관련 음운 현상을 분석하고, 마지막으로 기타 음운 현상을 분석하게 된다. 그 음운 현상에 대한 적용은 하나의 원리에 의해서 접근할 수 있다고 생각한다. 우선 우리가 언어를 사용하는 궁극적인 목적은 의사소통을 하기 위한 것이다. 그것을 의사소통의 원리라고 할 수 있다. 그러나 그 의사소통을 되도록 쉽게 하려는 노력도 함께 기울이고 있다.

그것은 노력 절약의 원리라고 할 수 있다. 대표적으로 자음동화 현상들은 모두 이러한 노력 절약의 원리를 보여주는 현상들이라고 할 수 있다. 원래 음성의 실현에는 두 가지의 상반된 원리가 끊임없이 작용하고 있다. 하나는 앞에서 이야기 한 것처럼 발음을 분명하게 하여 뜻을 정확히 전달하려고 하는 의사소통의 원리이고, 다른 하나는 될 수 있으면 힘을 적게 들여 말을 하려고 하는 노력 절약의 원리이다. 그래서 언어의 수행은 이 상반되는 두 가지 원리의 조화 속에서 이루어지는 것이다.

이 두 가지 원리 중 노력 절약의 원리는 발음을 편하게 하려는 음운 현상인 자음동화 등에서 나타나는데 주로 음절말에 작용하게 된다. 따라서 이 연구에서는 음절말과 음절 연결시 발생하는 이 현상들이 하나의 일관된 논리로 설명이 가능하다고 판단되어 최적성이론을 통하여 논의하려는 것이다. 사실 최적성이론의 제약들은 이러한 상반된 원리에 입각하여 상호 작용한다고 볼 수 있다. 음운 변화를 위한 유표성 제약이 있는가 하면, 그 변화를 막으려는 충실성 제약도 있기 때문이다. 좀 더 세부적인 사항들은 각 장에서 음운 현상과 더불어서 함께 다루고자 한다.

제1장은 서론으로 이 책의 전반적인 사항을 살펴본다. 제2장에서는 최적성이론에 대해서 개관해 보겠다. 최적성이론이 나타나게 된 배경부터 살펴보고, 이 이론의 체계, 원리, 그리고 평가 방법 등을 제시해 보겠다. 제3장에서는 최적성이론이 출현한 이후 어떻게 변화를 겪었는지, 그와 관련한 이론의 점진적인 발전에 대해 살펴보겠다. 제4장에서는 최적성이론의 제약과 등급에 대해서 살펴보겠다. 우선 국어의 음절구조를 기초로 음절구조제약과 그 등급을 설정해 보겠다. 그리고 음절구조제약만으로 해결이 안 되는 음운 현상을 설명하기 위해서 음절연결제약을 설정하고 그 등급을 찾아보겠다.

제5장에서는 국어의 전반적인 음운 현상을 살펴보고 개별적으로 최적성이론의 적용 가능성을 확인해 보겠다. 제6장에서는 최적성이론으로 국어의 자음 관련 음운 현상을 구체적으로 설명하겠다. 제7장에서는 마찬가지로 국어의 모음 관련 음운 현상을 최적성이론으로 설명해 보겠다. 제8장에서는 국어의 기타 음운 현상을 최적성이론으로 설명하겠다. 마지막으로 제9장에서는 본 논의들을 요약하고 정리하고 향후 전망을 살펴보겠다.

2. 최적성이론 개관
2.1 최적성이론의 개념

생성음운론에서는 음운규칙이 중심을 이루어 이들 규칙간의 적용 순서 및 도출 과정이 중시되었다. 다시 말하면, 하나의 음운규칙이 적용될 때마다 한 단계씩 변화가 일어나고 마지막 음운규칙이 적용된 후에 최종적인 표면형이 도출된다고 보았다. 그러나 최근의 연구들에서 과연 인간의 두뇌에서 그러한 도출 과정이 이루어질까 하는 문제점이 지적됨에 따라 규칙이 없는 음운론이 대두되었다. 그 중에서 가장 대표적인 것이 바로 최적성이론이다.

최적성이론은 출력형에 관한 제약(constraint)들을 제시하면서 등장한 이론이다. 이 이론은 어떠한 도출 과정도 생각하지 않고, 무수히 많이 존재하는 후보들 가운데에서 주어진 제약들을 가장 잘 준수한 것을 선택하는 방법으로 표면형을 결정하는 것이다. 보편문법(universal grammar)은 규칙 대신 표면형의 적격성에 관한 제약들로 이루어지고, 개별 언어의 문법은 그 제약들의 등급(ranking)에 의해서 이루어진다.

곧, 제약들은 정해진 등급을 엄격하게 지키면서 적용되는 것이다. 종래의 제약들은 절대로 위배될 수 없었으나 최적성이론에서의 제약들은 위배될 수 있다. 또한 이 이론에서는 제약들의 상호 작용이 음운이론의 보조적인 역할을 하는 것이 아니라, 규칙의 도움 없이 완전히 언어학적인 설명을 할 수 있는 것이다.

2.1.1 제약의 보편성

최적성이론에서 모든 제약들은 원칙적으로 위배가 가능하다. 이것은 이 이론의 기본 구조에서 나온 당연한 결과로서, 제약은 개별 언어 특유의 등급 외에 달리 존재할 곳이 없고, 이것은 어느 제약이든 어떠한 언어에서든 그것이 위배되도록 강요하는 다른 제약의 하위 등급에 놓일 수 있음을 의미하는 것이다.

제약의 위배 가능성은 기존의 매개변인과는 다른 것이다. 매개변인은 확실히 강요되거나 완전히 무시되는 요건을 기술한다. 제약은 등급이 어디에 매겨지든지 간에 항상 그것이 선호하는 바를 내세운다. 그것이 분명히 선호하는 바를 주장하는 지는 개별 언어 특유의 등급과 평가를 받고 있는 후보의 세부 내용에 달려 있다.

보편적 제약과 개별 언어 특유의 등급은 Prince & Smolensky(1993)의 기본 개념인 계승 유형론을 발생시킨다. 출현할 수 있는 모든 제약들은 가능한 인간 언어로부터 예측되어야 하고, 관찰되는 모든 인간 언어의 문법은 그러한 제약들의 배열 중 하나이어야 한다. 그러나 일부 작은 제한 조건이 있다. 그것은 모든 제약의 배열이 식별할 수 있을 만큼 뚜렷한 인간 언어를 가져올 것이라는 보장이 없다는 점이다. 이때 고정된 제약 등급을 포함할 수 있는데, 그 등급은 순위 변화의 유형론적 결과를 제한하기도 한다. 그것들은 그 자신의 유형론적 고려에 의해 뒷받침되고 있다.

2.1.2 제약 유형론

최적성이론에서는 제약의 두 기본 유형이 존재한다. 충실성 제약과 유표성 제약이 그것이다. 충실성 제약은 입력형과 출력형 사이의 불균형의 기록을 이용하여 입력형과 평가를 받는 후보들 사이의 동일성을 요구한다. 유표성 제약은 어떤 구조상의 배치를 다른 것들보다 낫게 보며 출력 후보의 형태를 평가한다. 두 유형의 제약이 필요하다는 것은 당연한 것이다. 충실성 제약이 없다면, 입력형에 의해 주어지는 구별은 어떠한 가장 덜 유표적인 출력형이 되고 말 것이다. 그리고 유표성 제약이 없다면, 언어들이 그것들이 허용하는 구조에서 체계적으로 달라진다는 사실을 설명할 길이 없을 것이다. 그러므로 충실성 제약과 유표성 제약 사이의 상호작용은 최적성이론 분석의 기본 요소라고 할 수 있다.


2.2 형성 배경

생성음운론은 Chomsky & Halle(1968)을 그 출발점으로 볼 수 있다. 이 이론은 구조주의 음운론의 음운규칙 표기에서 왜 규칙이 발생하는 지를 설명하지 못했던 것을 변별적 자질과 표기규약을 도입하여 가능하게 했다. 음운규칙들은 기저형에서 표면형을 도출하는 과정에서 선형적으로 적용된다. 이처럼 생성음운론에서 가장 중요한 개념은 ‘규칙, 도출, 규칙순’이다. 그러나 생성음운론에서는 규칙 이외의 ‘제약’이라는 또 다른 분석 수단이 사용되었다. 이 제약은 어떠한 경우에도 위반될 수 없는 음운구조 배열제약 등에 해당하는 표면적형제약을 뜻한다. 만약 어떤 규칙이 적용되어 음운구조 배열제약을 위반할 경우 그럴 때에만 조건 규칙이 적용되어 그 제약을 지킬 수 있도록 한다.

그러나 Lakoff(1993)을 비롯한 많은 연구에서 학자들은 생성음운론의 기본 개념인 ‘도출’과 ‘선형적인 규칙 적용’에 대해 의문을 제기하였다. 그들은 화자들이 실제 발화시 규칙을 차례로 적용하여 말하지 않는다고 주장하고, 규칙의 적용 순서는 잘못된 것이라고 비판했다.

또한 동일한 기능을 하는 현상은 기능의 공모성(conspiracy)이라는 측면에서 본다면 당연히 하나의 규칙으로 처리되어야 하는데, 생성음운론에서는 환경이 다르면 별개의 것으로 처리하였다. 예를 들어 국어에서 두 모음이 연속하여 나오는 것을 피하기 위해서 다음과 같은 현상이 일어나는 경우가 있다.

(1) ㄱ. 탈락 /마음/ → [맘] (/ma?m/ → [ma:m])
ㄴ. 전이음화 /구어/ → [궈] (/ku-?/ → [kw?:])
ㄷ. 전이음 삽입 /순이-아/ → [수니야] (/suni-a/ → [sunija])
ㄹ. 축약 /사이/ → [새] (/sai/ → [s?])

위 예들은 기능상 모음회피라는 한 가지의 규칙으로 설명해야 하지만, 네 개의 규칙으로 처리되므로 간결성을 추구하는 생성음운론의 목표에서 벗어나고 있다. 음운론 연구자들은 생성음운론이 가진 이러한 문제점들을 보완하고 보다 설명력 있는 음운이론을 찾기 위해 노력해 왔다. 그러한 기대를 반영한 것이 최적성이론이다. 이 이론은 보편성에 기초하여 모든 언어에 공통적으로 존재하는 일련의 제약과 그 등급으로 문법을 구성한다. 따라서, 최적성이론에서 고려의 대상은 출력형이지 입력형이 아니다.

최적성이론에서 입력형은 생성음운론의 기저형과 유사하다. 그러나 최적성이론에서는 모든 제약들과 가능한 후보들 전부를 동시에 두고 중간단계 없이 최적의 후보를 고른다. 기저형이라는 용어는 생성음운론에서 규칙이 기저형에 선형적으로 적용하여 표면형을 도출하는 것을 전제하기 때문에, 최적성이론에서는 의도적으로 입력형이라는 용어를 사용한다. 이전에는 기저형에 형태소 구조규칙과 유표제약 등의 제한이 많이 가해졌지만, 최적성이론에서 이런 것들은 출력형에 작용하는 제약으로 한정한다.

한편 규칙을 중요시하던 때에는 명시가 중요했다. 왜냐하면 규칙의 수를 적게 하려면 당연히 기저형을 미명시해야 했기 때문이다. 그러나 최적성이론에서는 고려의 대상이 출력형이므로 입력형이 어떻게 명시되든지 상관없이 출력형에서 ‘최적형(optimal output)’만 선택하면 된다. 따라서 최적성이론은 입력형에 관한 미명시 등을 고려하지 않는다고 볼 수 있다.

2.3 최적성이론의 원리

여기에서는 최적성이론(Optimality Theory)의 기본 체계와 그 원리를 살펴보기로 하겠다. 이 부분은 최적성이론의 올바른 이해에 도움이 될 수 있는 것으로 가장 핵심적인 내용을 담고 있다고 할 수 있다. 그 동안의 논의를 정리하여 제시하였다.

2.3.1 기본 체계

최적성이론은 오직 표면형의 적격성 제약만을 가지고 올바른 출력형을 결정하는 비교적 단순한 체계를 가지고 있다. 입력형의 구조표현과 이에 관련된 일체의 후보들 가운데에서 가장 제약을 잘 준수한 것이 최적형으로 선택된다.

종래의 생성음운론에서는 기저구조와 규칙이 상호 작용을 하여 기저구조를 잘 설정하면 규칙이 단순해지고, 반면에 기저구조를 단순하게 하면 규칙이 복잡해지곤 하였다. 이것은 언어학의 연구 목적이 규칙을 설정하는 것인지 아니면 기저표현이 어떤 것인가를 밝히는 것인지 분명하지 않았다. 이에 따라 규칙에서 구조표현으로 관심이 서서히 변하였다. 그러한 변화를 반영한 것이 최적성이론이다. 이 최적성이론의 기본 체계는 다음과 같다.

(2) 최적성이론의 기본 체계
ㄱ. Gen(Ink) → {Out1, Out2, …}
ㄴ. Eval(Outi, 1 ≤ i ≤ ∞) → Outreal

(2)에서 보는 바와 같이 하나의 입력형이 주어지면 이것으로부터 생성자 ‘Gen’은 가능한 모든 분석이 이루어진 일련의 후보들을 만들어 낸다. 평가장치인 ‘Eval’은 Gen에 의해 생성된 여러 후보들 가운데 제약을 최소로 어긴 후보를 최적형으로 선택하게 된다. 이 제약들은 언어 보편적이지만 제약들의 등급은 언어 개별적으로 결정된다는 것이 특징이다.

그런데 입력형은 Gen이 변화를 가하는 대상이며 이는 각각의 단어 또는 문장에 따라서 다를 수 있다. 이러한 입력형의 모양을 바꾸는 부분이 Gen이다. Gen은 입력형에 다양한 조작을 해서 여러 후보들을 만들어 낸다. 개념적으로 설명하면 Gen은 음운론에서 환경이 없는 구조변화만을 의미하는 것이다. 최적성이론의 초기에는 이런 Gen의 생성능력이 다음과 같은 원칙을 준수하여야 한다고 보았다.
(3) Gen의 원칙

ㄱ. 분석의 자유(freedom of analysis) - 구조를 마음대로 설정할 수 있다.
ㄴ. 억제성(containment) - 입력형으로부터 어떤 요소도 문자적으로 제거할 수 없다. 따라서 모든 후보형에는 입력형이 포함되어야 한다.
ㄷ. 표현의 일체성(consistency of exponence) - 음운론적으로 명시된 형태소의 구현에 어떤 변화도 허용되지 않는다.

‘분석의 자유’ 원칙은 입력형에 대한 어떠한 형태의 변화도 허용된다는 것이다. 그러므로 Gen의 출력이라 할 수 있는 후보는 이론적으로 무한하다. 그러나 이러한 자유로운 변화도 (3ㄴ)의 ‘억제성’ 원칙을 준수하여야 한다. 곧 입력형의 모양이 그대로 출력형에 나타나 있어야 한다. 그래서 ‘abc’의 연쇄에서 ‘b’가 탈락되는 변화가 생긴다면 그 출력형은 ‘ac’가 아니라 ‘ac’이다. 출력형을 ‘ac’로 표시하면 이는 기저에 있는 요소 ‘b’를 제거한 것이므로 억제성 원칙에 위배된다.

따라서 억제성 원칙은 가능한 모든 후보들이 입력형의 모습을 그대로 지니게 함으로써 입력형에 어떠한 변화가 일어났는지를 알게 해준다. ‘표현의 일체성’ 원칙은 억제성 원칙보다 훨씬 더 강력한 제약으로 형태소의 음성 내용이 바뀌는 것을 금지한다. 억제성 원칙은 한 단위의 탈락을 방지하고, 표현의 일체성 원칙은 한 단위가 모습을 바꾸거나 새로운 단위를 도입하는 것을 금지한다. 이 두 원칙은 올바른 출력형을 얻기 위한 제약의 한 종류들로 생각할 수 있다.

그러나 이들을 Eval에 포함시키지 않는 이유는 위반이 가능한 다른 제약과 달리 이 원칙들이 모든 언어에서 준수되기 때문이다. 물론 이러한 원칙들이 지나치게 강하다는 지적도 있다. 모든 평가에 있어서 출력형만을 보게 되면 입력형의 존재가 무의미해지며 이러한 생각은 극단적으로 보면 입력형의 존재 자체가 제약 위반이라는 입장으로까지 확대될 수 있기 때문이다(Golston 1995 참조). 그러나 이러한 입장은 입력형과 출력형의 존재를 인정하는 (2)의 구조에서는 받아들이기가 어렵다. 더구나 동화현상, 이화현상, 그리고 모음조화현상 등을 살펴보면 음운은 그대로 존재하지만 음운의 자질이 바뀌는 현상은 얼마든지 존재하기 때문이다. 미명시이론에 따르면 언어마다 삽입되는 음운이 서로 다른데, 이것은 결국 음성 내용이 있는 소리를 입력형에 더하는 결과를 가져오므로 표현의 일체성 원칙에 위배된다.

그런데, 만약 억제성 원칙과 표현의 일체성 원칙도 위반이 가능하다면 이는 Gen의 원칙이 되지 못한다. McCarthy & Prince(1994, 1995)에서는 이러한 문제점을 극복하기 위하여 Gen에서는 일체의 자유로운 변화를 추구하도록 하되, Eval에서는 입력형과 출력형의 대응관계를 살펴보는 제약을 설정하였다. 이것을 최적성이론과 구별하여 ‘대응이론’이라 한다. 어쨌든 이제 Gen은 일체의 조작을 통해서 입력형을 마음대로 바꿀 수 있게 되었다. Gen의 역할을 제한하는 어떠한 제약도 존재하지 않는다. 따라서 이론적으로는 하나의 입력형에서 실로 무한한 출력형이 나올 수 있는데 이들을 ‘후보(candidate)’라고 한다.

이들 후보 가운데에서 최적형을 선택하는 과정은 Eval이 담당한다. Eval은 출력형의 적격성에 관련된 일체의 제약을 담고 있다. 이러한 제약들은 서로 요구 조건이 다르며, 그로 인해 유표성, 무표성에 대한 구별도 다르다. 그래서 이러한 모든 제약들이 모두 동등하게 취급되면 어떠한 출력형도 얻을 수가 없다. 그러므로 Eval은 제약들의 등급을 정하여 그 등급에 따라 최적형을 선택한다.

한편, Gen의 역할에 대해서 한 가지 문제가 제기될 수 있다. 그것은 Gen에 의해서 만들어지는 후보들이 무한하다는 것이다. 이렇게 생성된 모든 후보들을 일일이 나열하여 평가한다는 것은 현실적으로 불가능할 뿐만 아니라 비경제적이기 때문이다. 따라서 평가할 때 중요한 관련 후보들만 제시할 수 있는 방법이 필요하다고 할 수 있다. 그 방법은 위반해서는 안되는 상위의 제약들을 위반하는 후보들을 미리 제거하는 것이라고 볼 수 있다. 그러므로 이 연구에서는 그 방법에 의해서 후보들을 설정하고 평가하도록 하겠다.