1. 합리적선택이론의 의의
합리적선택이론은 공적 영역에서의 인간의 활동, 즉 종래 정치 현상이라 여겨져 왔던 것들의 연구에 경제학적 방법을 적용하는 것이다. 즉 합리적선택이론은 ‘시장’에서의 경제 주체들의 행동분석을 위해 경제학자들이 사용하는 원리나 분석도구들을, 시장과 대비되는 것으로 간주되어왔던 공적 영역에서의 정치 주체들의 행동을 분석하는 데에도 사용하고자 한다. 따라서 그 연구대상은 투표제도와 투표 행태, 정당정치, 정책과정, 그리고 관료제 등이 되는데, 넓게 보면 이들은 법학이나 정치학, 행정학의 관심대상이 되어왔던 것들이다. 한편, 경제학적 방법을 비시장 영역에 적용하는 경우를 지칭하는 용어로써 합리적선택이론만이 쓰이고 있는 것은 아니다. 그 외, 합리적 선택이론, 합리적 행위자 모델, 사회적 선택이론, 신정치경제학, 실증적 정치경제학, 실증정치이론 등이 있다. 이들은 비록 명칭상으로는 다르게 불리고 있다 하더라도, 공히 신고전파 경제학의 방법론에 따라 시장 영역 이외의 사회현상과 행동을 모형화(modelling) 하려 한다는 점에서는 같다.
전통적 경제학의 영역에서 보았을 때에도, 정치 주체나 정치과정에 대한 경제학적 분석은 새로운 분야라고 할 수 있다. 시장에서의 경제 주체들의 행위를 분석 대상으로 삼았던 경제학자들은 공사의 구분을 전제로 하였으므로 시장에서 각 개별 주체들은 자신의 이익을 추구하는 합리적 인간을 당연히 가정하면서도, 공적 영역에서의 정치 주체들에 대해서는 시장에서와 같은 이기적 인간을 가정하지는 않았다. 예컨대 정부역할을 경제학적으로 규명해왔던 전통적 후생경제학자들은 공공정책이란 정치인이나 정부 관료들이 정치 공동체의 ‘공익’을 위해 만들어낸 결과물인 것으로 선험적으로 간주하여왔다.
합리적선택이론은 전통 경제학자들의 이러한 인간상을 의문시하는 것으로부터 시작되었다. 공적 영역의 실제, 즉 법률이나 공공정책이 결정되고 집행되는 과정에서는 정치 주체들이 공익을 우선시한다는 관념에 배치되는 여러 현상들을 매우 쉽게 발견할 수 있기 때문이다. 따라서 합리적선택이론가들은 전통 경제학이 인간의 본질에 대해 일관성을 결여하고 있다고 비판한다. 민주주의 정치 체제에서 정치인이나 정부 관료들도 일반 시민들 중에서 선출된 사람들이고 또 일반 시민들과 함께 살아가는 사람들이므로, 합리적 자기 이익 추구에 익숙한 사람들이라는 점, 그래서 그들이 정치 영역에 들어왔다 해서 전혀 다른 종류의 인간으로 갑자기 변하는 것으로 볼 수 없다는 것이다.
이를 시발점으로 합리적선택이론가들은 시장과 공적 영역에서의 인간을 서로 달리 상정하고 전개되는 이론들이 얼마나 과학적인가 하는 점을 문제시한다. 즉, 정치인은 공익 추구의 동기에 따라 행동하고 정부는 ‘자비로운 독재자’로 사회후생의 극대화를 추구한다는 전제 하의 전통적 이론과, 정치인도 사익 추구의 동기에 따라 행동하며 정부 관료들도 부처이기주의에 따라 행동할 것이라는 합리적선택이론 중, 어느 것이 현실을 더 잘 설명?예측할 수 있는지를 따져 보자는 것이다. 그러므로 합리적선택이론은 지식획득의 방법 혹은 학문 방법론에도 독특한 입장이 있는 것인데, 이에 대한 것은 뒤에서 자세히 보기로 한다(제2장과 제 4편).
전통적 정치학이나 경제학 내부에서의 많은 비판에도 불구하고 20세기 후반부를 통하여 합리적선택이론의 지반은 급속하게 확산되어 왔다. 또 그 선구자 중의 한 사람인 뷰캐넌(J. M. Buchanan)이 1986년 노벨 경제학상을 수상함으로써 학문적 위상도 공고하게 되었다. 이로써 우리는 이미 ‘정치 시장’이란 말을 쉽게 접할 수 있고, 또 민주주의 자체를 공공정책에 대한 수요와 공급이 상호작용하는 시장과정으로 개념화는 경우도 흔히 본다. 결국 합리적선택이론은, 물건을 사고파는 시장의 수요 공급에 상응하여 공공정책은 거래 대상으로, 유권자와 이익집단ㆍ정당 등은 수요자로, 대통령이나 수상과 그 각료ㆍ선출직 관료와 입법부 의원 등은 공급자로 파악하고자 하는 이론이라 하겠다.
아래의 그림은 이상의 내용을 경제학 용어를 사용하여 표현한 것이다. 낯선 것은 아닌데, 공적 영역의 중심 주체라 할 정부가 시장에서의 재화나 서비스의 공급자로 다뤄질 수 있으므로 이 부문에 대한 경제학적 분석도 가능할 것이라는 점이 그 메시지이다.

2. 선구자들의 통찰
합리적선택이론이 일관성 있는 논리체계를 갖추는데 있어 선구자적인 위치에 있다고 평가되는 인물은 앤서니 다운스(A. Downs)이다. 그 이유는 시장이 아닌 비시장 영역에 대해 경제학의 분석도구를 적용한 최초의 시도였을 뿐만 아니라, 그가 『민주주의의 경제학 이론(An Economic Theory of Democracy, 1957[1997])』에서 전개한 정치적 행위자에 대한 기본가정, 즉 시장에서의 행위자들과 같은 이기적 행동동기를 가는다는 점이 이후 합리적선택이론의 전개에서도 그대로 받아들여지고 있기 때문이다. 그 기본 가정은 그가 분석하고자 한 민주주의의 대의정치과정에서 핵심인 정당정치와 관련한 행위자들에 대한 것이다. 그가 분명히 언급하고 있는 정치주체는 투표권자와 이들의 표를 얻어야 하는 의회 구성원(후보자)이다.
첫째, ‘정치적 의사결정에 참여하는 유권자는 그 정치과정으로부터 자신이 얻을 수 있는 효용을 극대화하고자 한다’
둘째, ‘입법자는 선거에서 득표수를 극대화하려 하고 그러므로 감표를 최소화하는 세입 정책을 수단으로 득표를 극대화하는 지출정책을 실행한다(1957[1997]: 83-84)’
셋째, ‘투표를 하거나 공공 정책에 관해 알려고 하는 것은 비용이 들고 또 개인이 투표를 통해 얻을 수 있는 이익이란 사실상 없기 때문에, 유권자로서는 공공 정책에 관하여는 무지의 상태로 남아있는 것이 합리적이다’
이상의 가정은 당시 공적 영역에 대한 분석에서는 새로운 것이었는데, 이는 그 이전에 발표된 애로우(K. Arrow)의 ‘일반 가능성 정리’로부터 영감을 얻은 것이다. 사제지간(師弟之間)이기도 한 이 두 학자의 저술의 요체는, 민주주의 정치 체제에서의 집합적 선택의 분석에서도 시장의 개별적 주체의 행동 분석기법을 그대로 적용하려 한다는 점에 있다.
합리적선택이론의 발전 과정 초기에 나타난 주요 저술로 또 지적할 수 있는 것은, 로널드 코스(R. Coase)에 의한 경제학상의 ‘외부효과’ 분석에 관한 것이다. 이전까지의 지배적이었던 피구(A. C. Pigou)류의 후생경제학 관점에서는, 어떤 경제활동에 외부성이 존재한다면 정부가 개입하여 처리한다는 것이었다. 이른바 시장실패가 존재하는 영역이기 때문이다. 그러나 코스에 의하면, 정부개입보다는 외부효과와 관련된 적절한 재산권의 설정과 그 거래를 위한 시장을 창설하는 것이 보다 능률적이다(1960). ‘코스 정리(Coase theorem)’라 불리는 이 논지는 경제학의 전통적 주제인 적절한 정부활동 범위에 관한 논의에서 시사하는 바가 대단히 크다. 사회경제적 문제를 해결하기 위한 정부의 활동이, 경우에 따라서는 의도되지 않는 비용으로 말미암아 문제 상황을 더욱 악화시킬 수도 있다는 점, 그러므로 정부 활동 범위의 축소를 함축하고 있기 때문이다. 또 종래의 시장과 정부에 대한 역할 논의가 가격이론을 축으로 하는 자원배분론, 특히 후생경제학에서 전개되어 온 반면, 코스의 외부효과와 관련 된 논의는 그 가격이론이 아니라 게임이론이었다는 점에서도 의미가 크다.
그러나 합리적선택이론의 진정한 바이블은 이상의 문헌들보다 조금 늦게 출간된, 뷰캐넌과 털럭의 『국민합의의 분석: 헌법적 민주주의의 논리적 기초(The Calcullus of Consent: Logical foundations of constitutional democracy, 1962[1999])』라 할 수 있다. 여기서 그들이 특히 강조한 것은, 경제학에서 다루는 시장행위자로서의 개인과 집합적 의사결정과정에 참여하는 정치적 행위자로서의 개인은 동일하다는 점이다(인간 가정의 대칭성). 이것을 이전의 이론가들은 전혀 고려하지 않았다는 점을 그들은 반복적으로 부각시키고 있고, 또 이를 현시점에서 합리적선택이론의 최고의 업적으로 자평 한다. 그러나 정치적 인간과 경제적 인간의 동일한 취급에도 불구하고, 그들이 사회적 선택 영역에서의 피지배자 등의 규범이, 개인적 선택에서의 것과 정확하게 같은 것이라 결론을 내릴 필요가 없다고 본 점은(Buchanan & Tullock, 1962[1999]: 제 4장)은 주목할 만하다. 공적 영역과 사적 영역의 차이를 인정하고 있기 때문이다.
위 표에서 보는 바와 같이, 젊은 뷰캐넌은 사회의 조직 원리로서 시장체제와 정치체제 간의 차이를 명백히 했던 적이 있었다. 그러나 이점은 이후의 합리적선택이론의 전개에서는 철저히 배제되었다.
이외에도 정치과정에서의 투표에 대한 접근을 정당 간의 연합(coalition)을 강조하면서 전개하고 있는 라이커(W. Riker)의 『The Theory of Political Coalition(1962)』, 공적 영역에서의 집합적 행동과 관련하여 소요되는 비용을 무임승차의 문제로 분석하고 있는 올슨(M. Olson)의 『집합행동의 논리: 공공재와 집단이론(The Logic of Collective Action: Public Goods and Group Theory, 1965[2003])』도 합리적선택이론의 전공자들에게는 필독서로 여겨지고 있다.

3. 이론의 분기
뷰캐넌은 합리적선택이론 혹은 공공선택이론의 진정한 선구자이면서 대표적 인물로 알려져 있고 또 이 공로를 인정받아 노벨 경제학상을 수상하였다. 따라서 합리적선택이론이라 불리는 영역에는 그의 사상이 많이 반영되었다고 할 수 있을 것이다. 그러나 그의 경제학 정의나 연구영역에 대한 입장을 자세히 들여다보면, 그의 주장이나 사고가 예외적인 것도 있고, 연구 중점이나 공공부문에 대한 처방도 다른 경우가 있다. 따라서 ‘비시장적 의사결정 행위를 경제학적으로 연구’ 혹은 ‘정치학에 경제학을 적용’하는 분야를 합리적선택이론이라 하고는 있지만, 합리적선택이론이 단일한 이론체계라거나 모든 합리적선택논자들이 동일한 경향을 갖고 있다 할 수는 없다. 합리적선택이론가들의 윤곽적인 차이는, 대표적 학자들이 소속된 대학의 명칭을 딴 학파별로 나타내는 것이 보통인데, 간단하게는 아래 표와 같이 정리할 수 있다. 이는 합리적선택이론의 특징적인 면모들이 1949년 ~ 1971년 기간 동안에 갖추어진 것으로 보는데 따른 것이다(Orchard and Stretton, 1997: 409).
합리적선택이론의 학파는 위 표와 같이 크게 네 학파로 분류하는 것이 일반적이고, 대표적 학자들은 시카고 학파를 제외하고 모두 공공선택학회(Public Choice Society)의 회장을 역임한 바 있다. 그러나 공공선택이론가 이면서 이와 같이 분류하지 않는 경우도 있는데 합리적선택이론의 개요 격인 글에서, Mitchell (1988)은 시카고 학파를, Rowley(2008)는 블루밍턴 학파를 언급하지 않는다. 이로부터 어쩌면, 이 두 학파 간에는 어느 정도 이질성이 존재하고 있다는 것을 추측할 수 있을 것이다. 만일 이것이 맞다면, 시카고 학파는 합리적선택이론으로 분류되지만 정통 경제학을 표방하면서 활동의 주 무대가 ‘Public Choice’ 지(誌)가 아닌 ‘Journal of Law and Economics’ 지라는 점에서, 블루밍턴 학파는 대표적 인물인 오스트롬 부부가 모두 공공선택 학회 회장을 역임한 바 있고 또 한때 방법론적 개인주의와 경제 인간 가정을 따랐지만, 이제는 인간의 경제적 이기심 외 다양한 동기를 인정하고, 공동체 ‘문화와 제도’ 등이 개인의 동기와 사회적 양태를 형성하기도 한다는 점을 인정하고 있다는 점을 지적할 수 있을 것이다.
보론: 선구자들이긴 하지만...
A. Downs(1930~ )
다운스의 위 공적 영역의 행위 주체에 관한 가정 중에는 공직자 일반에 대한 것은 없다. 자신의 박사학위 논문이기도 한 그 저술은 정당 정치에 초점을 둔 것이었기 때문이다. 그가 행정부를 구성하는 정부관료에 대한 행동동기를 다룬 것은 그로부터 10년이 지난 시점인 『Inside Bureaucracy(1967)』를 통해서였다. 그러나 이 저술을, 합리적선택이론을 집대성하고 있는 뮐러는 합리적선택이론의 문헌으로 간주하지 않는다.
왜 그럴까?