제도주의 그리고 혼란
1. 책 개요
엘리너 오스트롬(2005, Princeton University Press)은 30년간의 제도 연구를 "사람들이 함께 사는 규칙이 어떻게 작동하는지 이해하는 법"으로 종합한다.
| 부 | 장 | 내용 |
| 1부 | 1~4장 | IAD 프레임워크 소개, 행동 상황 분석, 실험 연구, 인간 모델 |
| 2부 | 5~7장 | 제도의 문법, 규칙의 분류 |
| 3부 | 8~9장 | 공유자원 관리에 적용, 다중심적 거버넌스 |
- 규칙들은 달라 보여도 뼈대는 비슷하다. "누가 참여하나, 무엇을 할 수 있나, 누가 무엇을 아나, 무엇을 얻나"는 어디에나 있다.
- 분석의 공통 틀(IAD)이 필요하다. 규칙 + 자원의 특성 + 공동체의 특성 → 사람들의 선택 → 결과. 규칙 자체도 더 깊은 층위에서 만들어진다.
- 규칙에는 문법이 있다. 규칙을 쪼개고 7가지 유형(지위, 경계, 선택, 집계, 정보, 보상, 범위)으로 나누면 "시장이냐 정부냐" 같은 구호를 넘어 구체적으로 고칠 수 있다.
- 사람은 생각보다 협력을 잘한다. 대화와 신뢰가 있으면 협력하고, 위에서의 통제는 오히려 자발적 협력심을 약하게 할 수 있다.
- 정답 제도는 없다. 현장 사람들이 직접 규칙을 만들고 고쳐가는 다중심적 자치와 적응적 실험이 답이다. 정부는 정답을 내리는 전문가가 아니라 조력자다.
나의 혼란은 이제 여기서부터.
사회과학자들이 "프레임워크, 이론, 모델"이라는 말을 거의 구분 없이 섞어 쓰기 때문에 상당한 혼란이 생긴다. 책에서 오스트롬도 지적하고 있음. 어떤 학자가 프레임워크라 부르는 것을 다른 학자는 이론이나 모델이라 부른다는 것. 그렇다면 왜 전부 "이론"이라고 부를까?
A. 행동 논리 × 연구 대상
| 행동 논리 \ 연구 대상 | 제도 일반 | 정치·정부 | 시장·기업 |
| 계산의 논리 (합리적 선택) | 합리적 선택 제도주의 | 공공선택론 (뷰커넌, 털럭) | 신제도주의 경제학 (노스, 윌리엄슨) |
| 경로의존 (역사) | 역사적 제도주의 | 비교역사 분석 (스코치폴) | 경제사의 경로의존 (데이비드, 아서) |
| 적절성의 논리 (문화·규범) | 사회학적 제도주의 | 정치문화론 | 경제사회학·조직 동형화 (그라노베터, 디마지오·파월) |
정치학에서 말하는 신제도주의는 "제도 일반" 열의 세 갈래(Hall & Taylor 1996의 구분)이고, 경제학에서 말하는 신제도주의는 오른쪽 위 칸이다. 경제학과 정치학의 경계가 흐린 것은 같은 행(행동 논리)이 여러 열(대상)에 걸쳐 있기 때문이다.
B. 세 제도주의의 분석적 비교와 오스트롬의 위치
| 비교 차원 | 합리적 선택 제도주의 | 역사적 제도주의 | 사회학적 제도주의 | 오스트롬 (2005) |
| 제도란 무엇인가 | 인센티브를 정하는 게임의 규칙 | 오래 굳어진 공식·비공식 절차 | 당연시되는 관행과 의미 체계 | 공유된 전략·규범·규칙의 묶음 (문법으로 구분) |
| 사람은 왜 제도를 따르나 | 따르는 편이 이득이라서 | 과거 선택이 선택지를 좁혀서 | 그게 적절하다고 여겨서 | 이득 계산 + 규범의 내재적 가치(δ) |
| 제도는 어떻게 생기고 바뀌나 | 행위자의 의도적 설계, 균형 | 결정적 국면 이후 경로의존 | 정당성을 얻으려는 모방·동형화 | 참여자가 상위 수준(집합적·헌법적 선택)에서 실험하며 고침 |
| 주로 받는 비판 | 선호를 고정된 것으로 보고 맥락을 소홀히 함 | 변화를 설명하기 어려움 | 행위자의 전략적 선택을 경시 | 변수가 많아 일반화·적용이 무겁다는 지적 |
오스트롬은 합리적 선택 제도주의의 방법론을 유지하면서 사회학적 제도주의의 핵심 변수(규범)를 계산 안으로 편입해, 두 행 사이를 잇는다.
C. 층위로 구분하기
모든 게 "이론"이라 불리는 건 용어가 느슨하게 쓰이기 때문이고, 오스트롬 본인도 1장에서 이 혼란을 지적한다.
헷갈리는 이유 세 가지:
- 학계 영어의 theory는 "체계적으로 정리된 생각의 묶음" 정도의 느슨한 뜻으로도 쓰인다.
- 이름은 처음 붙은 대로 굳어진다. 논리적 분류가 아니라 역사적 우연이다.
- 한국어 번역에서 "이론", "론", "주의"가 들쭉날쭉 붙는다 (예: public choice → 공공선택론).
오스트롬의 해결책은 이름 대신 층위로 보는 것이다.
| 층위 | 답하는 질문 | 일반성 | 타당성의 기준 | 이 책에서의 예 |
| 프레임워크 | 무엇을 봐야 하는가 | 가장 넓음, 여러 이론을 담는 메타 언어 | 이론들을 비교할 수 있게 해 주는가 | IAD 프레임워크 |
| 이론 | 어떤 요소가 중요하고 어떻게 작동하는가 | 중간, 프레임워크의 일부에 가정을 부여 | 경험 자료를 더 잘 설명하는가 (이론끼리 경합) | 합리적 선택, 게임 이론, 공공선택, 공유자원 이론 |
| 모델 | 특정 조건에서 정확히 무엇이 일어나는가 | 가장 좁음, 소수 변수에 정밀한 가정 | 논리적으로 일관되고 예측이 맞는가 | 관개 농민 게임 모델, 신뢰 게임 실험 |
하나의 프레임워크에는 여러 이론이, 하나의 이론에는 여러 모델이 양립한다. 새 용어를 만나면 이름 대신 이 세 층위 중 어디에 속하는지를 묻는다.
엄밀히는 게임 이론이 이론 층위와 모델 층위에 걸쳐 쓰인다. 게임 이론으로 모델을 만들어 분석하는 식이다.
D. 사회과학 계보에서의 위치
이 책은 합리적 선택론의 도구를 쓰되 그 비관적 결론을 뒤집고, 국가와 시장 사이에서 공동체 자치의 가능성을 이론화한 작업이다.
| 선행 흐름 | 이어받은 것 | 뒤집거나 고친 것 |
| 공공선택론·합리적 선택론 (뷰커넌, 털럭) | 개인의 선택에서 출발하는 방법론, 게임 이론 | 인간을 이기적 계산자로만 보는 가정 |
| 공유지의 비극·집단행동의 논리 (하딘 1968, 올슨 1965) | 사회적 딜레마라는 문제 설정 | "국가 통제 아니면 사유화"라는 처방 |
| 블루밍턴 학파·다중심성 (V. 오스트롬·티부·워런 1961, 토크빌) | 여러 층위의 자율적 결정 단위라는 통치관 | 대도시 행정 연구를 자원·공동체 일반으로 확장 |
| 신제도주의 (노스, 윌리엄슨) | "제도가 결과를 만든다"는 전제 | 거래비용·경제사 대신 규칙의 내부 구조를 해부 |
| 행동·실험경제학 (사이먼, 페르) | 제한된 합리성, 신뢰·호혜성의 실험 증거 | 실험 결과를 현장 제도 분석과 연결 |
앞뒤 맥락:
| 연도 | 작업 |
| 1990 | 『공유의 비극을 넘어(Governing the Commons)』: 현장 사례에서 설계 원칙 도출 |
| 2005 | 이 책: 그 사례들을 설명하는 일반 이론 틀 정리 |
| 2009 | 사회-생태 시스템(SES) 프레임워크, 여성 최초 노벨 경제학상 |
개념 지도로 보면, 오스트롬은 합리적 선택 제도주의에서 출발해 사회학적 제도주의의 관심사(규범)로 손을 뻗은 자리에 있다.
2. 합리적 선택에서 규범으로
오스트롬은 합리적 선택 이론을 버리지 않고 인간 모델을 넓혔다. 표준 모델(합리적 이기주의자)은 경쟁 시장에서는 잘 맞지만, 사회적 딜레마에서는 예측이 빗나간다는 것이 출발점이다.
| 쟁점 | 표준 모델의 예측 | 관찰된 사실 (3장 실험) | 오스트롬의 이론적 수정 | 정책적 함의 |
| 의사소통 | 강제력 없는 말(cheap talk)은 효과 없음 | 대면 대화 시 협력이 최대 수익 근처까지 상승 | 의사소통이 신뢰와 규범을 활성화하는 구조적 변수 | 이해당사자가 만나 협의할 수 있는 장을 보장 |
| 처벌 | 자기 비용을 들여 남을 벌하지 않음 | 비용을 감수하고 무임승차자를 처벌 | 처벌 의지자라는 행위자 유형 인정 | 상호 감시·제재를 공동체가 운영 |
| 신뢰 | 아무도 먼저 믿고 맡기지 않음 | 많은 사람이 신뢰하고 상당수가 보답 | 규범을 보상 함수의 δ 값으로 편입 (자부심·죄책감·평판) | 평판이 쌓이도록 행동이 보이는 구조 |
| 행위자의 동질성 | 모두 같은 이기적 계산자 | 행동이 사람마다 크게 다름 | 이기주의자·조건부 협력자·처벌 의지자의 혼합 | 조건부 협력자끼리 서로 찾을 수 있게 설계 |
| 외부 개입 | 벌금·보상은 협력을 늘림 | 통제적 제재가 호혜성을 둔화시킬 수 있음 | 구축 효과(crowding out): 통제로 느끼면 내재적 동기 감소 | 자율성을 존중하는 개입, 규칙 제정 권한 위임 |
또 하나의 장치는 5장의 "제도의 문법"이다. 규칙은 "어기면 이런 제재가 따른다"는 요소까지 갖춘 것이고, 규범은 그 요소 없이 내면의 가치나 주변의 시선으로 작동한다. 규범만으로는 큰 유혹을 버티기 어렵기 때문에, 공정하고 정당한 규칙과 공유된 규범은 서로를 보완한다(9장 결론).
0. 이번 주의 큰 질문
"사람들이 협력하려면 무엇이 필요하고, 규칙은 그것을 어떻게 돕는가?"
이번 주의 모든 개념(반복게임, 약속 장치, 규칙의 문법, 분석틀)은 이 질문에 답하기 위한 부품.
1. 출발점: 게임이론은 협력에 대해 뭐라고 하나
한 번만 만나는 경우(죄수의 딜레마). 물이 부족할 때 각 농가는 몰래 물을 더 대는 게 이득임. 남들이 지키면 나만 이득이고, 남들이 안 지키면 나만 손해 보기 싫은 것. 그래서 모두 물을 빼가고 수로는 망가지게 되는데, 이게 "공유지의 비극"의 논리임.
여러 번 만나는 경우(반복게임). 액설로드 같은 학자들은 같은 사람들이 계속 만나면 협력이 생길 수 있다고 보여주었음. "네가 협력하면 나도 협력하고, 네가 배신하면 다음에 나도 배신한다"는 전략(팃포탯)이 대표적. 내일도 만날 사이라면 오늘 배신하는 게 손해이기 때문인데, 이것을 "협력의 진화" 모형이라고 부름
그런데 여기엔 숨은 조건이 있습니다. 반복게임 속 협력은 다음이 갖춰져 있다고 가정해야 작동하는 것이다.
- 상대가 배신했는지 알 수 있어야 한다 (정보)
- 같은 사람들을 계속 만나야 한다 (안정된 구성원)
- 서로 말로 조율할 수 있으면 훨씬 쉽다 (의사소통)
- 배신하면 대가를 치르게 할 수 있어야 한다 (제재)
게임이론 모형에서는 이것들이 그냥 "주어져 있다"고 놓고 계산한다. 하지만 현실의 관개수로에서는 이 조건들이 저절로 있지 않음. 밤에 몰래 물을 빼가면 누가 그랬는지 모르고, 외지인이 들어와 물을 쓰기도 함.
2. 오스트롬의 핵심 움직임: 가정을 변수로 바꾸기
오스트롬은 여기서 질문을 바꾸게 됨. "이 조건들이 있다고 가정하지 말고, 현실에서 실제로 있는지, 얼마나 있는지 확인하자. 그리고 그 조건을 만들어 내는 게 바로 규칙이다."
이게 수업 목표 문장에 나온 "게임이론의 가정을 경험적으로 검증 가능한 변수로 전환한다"는 말의 뜻. 관개수로에 적용하면 이렇다.
| 협력에 필요한 조건 | 현실의 문제 | 이 조건을 만드는 규칙 (관개수로 예) |
| 상대 행동을 알 수 있다 | 밤에 몰래 물을 빼면 모른다 | 물지기를 두고, 순번표를 공개한다 |
| 같은 사람들이 계속 만난다 | 외지인이 드나든다 | 수로 사용 자격을 조합원으로 한정한다 |
| 서로 조율할 수 있다 | 각자 따로 판단한다 | 정기 총회에서 배분 방식을 함께 정한다 |
| 배신에 대가가 따른다 | 개인적 보복은 싸움으로 번진다 | 위반 시 경고, 벌금, 사용 정지로 단계적 제재 |
그래서 "규칙과 제도는 협력의 진화 모형을 대체하는 것이 아니라 촉진한다"는 것임. 반복게임 논리(내일도 만날 사이라 협력한다)는 여전히 맞지만, 그 논리가 작동할 수 있는 무대를 규칙이 깔아준다는 의미.
3. 제도는 "믿을 수 있는 약속 장치"다
협력의 가장 큰 걸림돌은 약속을 믿을 수 없다는 점. 총회에서 모두 "순번 지킬게요"라고 말해도, 말뿐이라면 가뭄이 오면 깨질 수도 있음! 이것을 약속의 문제(commitment problem)라고 한다.
제도가 이 문제를 푸는 방식은 두 단계임.
- 위반을 탐지할 수 있게 한다. 물지기와 공개 순번표 덕분에 누가 약속을 어겼는지 드러남.
- 위반을 제재할 수 있게 한다. 드러난 위반에는 정해진 벌칙이 따름.
이 두 가지가 있으면 "나도 지키고, 남도 지킬 것"이라고 믿을 수 있게 된다. 그러면 조건부 협력자들, 즉 남이 지키면 나도 지키는 사람들이 안심하고 협력을 이어갈 수 있게됨.
"일정한 조건 아래"라는 단서도 중요함. 감시 비용이 너무 크거나, 규칙이 불공정하다고 여겨지거나, 제재하는 사람이 편파적이면 이 장치는 작동하지 않게 됨.
4. 그런데 "규칙"이란 정확히 무엇인가
(1) 문서상 규칙 vs 실제 작동하는 규칙 (1992년 책 2장)
네팔 정부가 법으로 관개 규정을 만들어도, 실제 농민들은 전혀 다른 규칙으로 물을 나누는 경우가 많음. 오스트롬은 분석해야 할 것은 법전에 적힌 규칙(rules-in-form)이 아니라 사람들이 실제로 따르는 규칙(rules-in-use)이라고 강조하는데, 그래서 현장 연구가 필요한 것임.
(2) 제도의 문법 (1995년 논문, 2005년 책 5장)
앞 글자를 따서 ADICO라고 부름.
| ㅤ | 뜻 | 예시 문장의 해당 부분 |
| A (Attributes) | 누구에게 적용되나 | 조합원은 |
| D (Deontic) | 해야 한다 / 하면 안 된다 / 해도 된다 | ~해야 한다 |
| I (aIm) | 무슨 행동인가 | 배정된 날에만 물을 댄다 |
| C (Conditions) | 언제, 어디서 | 가뭄기에 |
| O (Or else) | 어기면 어떻게 되나 | 그렇지 않으면 벌금을 낸다 |
몇 개 있느냐에 따라 세 종류로 나눌 수 있음
| 종류 | 부품 | 예 | 무엇으로 유지되나 |
| 공유된 전략 | A, I, C | "가뭄기엔 대부분 배정된 날에 물을 댄다" | 그렇게 하는 게 편해서 |
| 규범 | A, D, I, C | "가뭄기엔 배정된 날에만 물을 대야 한다" | 양심, 체면, 주변 시선 |
| 규칙 | A, D, I, C, O | "...그렇지 않으면 벌금을 낸다" | 정해진 제재 |
약속 장치로서의 힘은 O(제재)에서 나온다! 규범도 사람들이 마음속 가치를 충분히 가지고 있으면 작동하지만, 유혹이 크면 흔들리게 된다. 그래서 규범과 규칙이 서로 보완해야 하는 것이다.
5. 분석틀
- 모형: 죄수의 딜레마, 반복게임 모형. 특정 가정 아래서 정확히 무슨 일이 일어나는지 “계산”한다.
- 이론: 게임이론, 공유자원 이론. 어떤 요소가 중요하고 어떻게 작동하는지에 대한 일반적 가정임.
- 분석틀: IAD. 어떤 상황이든 “무엇을 봐야 하는지” 알려주는 체크리스트. 누가 참여하나, 어떤 지위가 있나, 무슨 행동이 가능하나, 누가 무엇을 아나, 결과로 무엇을 얻나 등.
죄수의 딜레마 같은 게임 모형은 "대화 불가, 상대 행동 모름, 한 번만 만남, 배신해도 대가 없음"처럼 상황 설정을 미리 정해 놓고 계산하기 때문에, 모형 안에서만 보면 "사람들은 협력 못 한다"는 결론이 자연법칙처럼 보임. 반면 IAD 분석틀은 "대화할 수 있나, 상대 행동을 알 수 있나, 몇 번 만나나, 배신에 대가가 있나"처럼 어떤 상황이든 확인해야 할 항목을 빈칸으로 제시하는 점검표임. 이 점검표를 대고 보면 게임 모형은 빈칸을 특정 값으로 채운 한 가지 경우일 뿐이고, 배신이라는 결론도 그 값일 때의 결과에 불과하다는 것이 드러남.
칸의 값은 고정된 것이 아니라 규칙으로 바꿀 수 있으며(총회를 열면 대화 가능, 물지기를 두면 행동이 보임, 벌칙을 정하면 배신에 대가가 생김), 값이 바뀌면 결론도 협력 가능으로 바뀜. 즉 분석틀이 있어야 모형의 설정이 바꿀 수 있는 칸이라는 것이 보이고, 그래야 가정을 변수로 다룰 수 있음. 같은 이유로 분석틀은 "국가냐 시장이냐"처럼 통째로 고르는 논쟁 대신 "이 마을 문제는 정보 칸의 문제인가, 경계 칸의 문제인가"를 묻고 그 칸을 고칠 구체적 규칙을 논의하게 해 주며, 학자들이 같은 항목 이름을 쓰게 되어 서로 다른 사례와 이론을 같은 기준으로 비교할 수 있게 해 줌.
6. 설계로 연결: 제도 만들기 (1992년 책 3장)
오스트롬은 오래 살아남은 관개 조직들에서 공통점을 찾았다. 사용자 경계가 분명하고, 규칙이 현지 사정에 맞고, 사용자들이 규칙 제정에 참여하고, 감시가 이루어지고, 제재가 단계적이며, 갈등을 싸게 해결할 장치가 있고, 외부 정부가 자치권을 인정한다는 점 등임.
잘 보면 이것들이 2번 표의 조건들을 갖추는 방법이다. 경계는 "같은 사람들이 계속 만난다"를, 감시는 "상대 행동을 알 수 있다"를, 단계적 제재는 "배신에 대가가 따른다"를, 참여는 "서로 조율할 수 있다"를 만들어 준다.
결국!
게임이론은 사람들이 반복해서 만나면 협력할 수 있다고 말하지만, 그러려면 정보, 안정된 구성원, 의사소통, 제재라는 조건이 필요하다. 오스트롬은 이 조건들을 당연한 가정으로 두지 않고, 현실에서 달라지는 변수로 본다. 그리고 그 변수의 값을 바꾸는 것이 사람들이 실제로 따르는 규칙이다. 규칙은 위반을 드러내고 제재함으로써 약속을 믿을 수 있게 만들고, 그 덕분에 반복게임의 협력이 현실에서 작동한다. 이 모든 분석은 무엇을 봐야 하는지 알려주는 분석틀(IAD)이 있어야 가능하다.
IAD는 Institutional Analysis and Development의 약자로, 보통 "제도 분석과 발전(IAD) 분석틀"이라고 번역함. 오스트롬과 인디애나 대학 워크숍 동료들이 1980년대 초(Kiser & Ostrom 1982)부터 발전시킨 것으로, 어떤 제도적 상황이든 같은 순서와 항목으로 뜯어보게 해 주는 점검표임.
기본 흐름은 이렇게 생겼음. 먼저 외부 조건 세 가지가 있음. 자원의 물리적 특성(물이 얼마나 있고 어떻게 흐르나), 공동체의 특성(서로 얼마나 알고 신뢰하나), 그리고 사용 중인 규칙임. 이 세 가지가 행동 상황(사람들이 실제로 마주하는 선택의 장)을 만들고, 그 안에서 사람들이 상호작용한 결과가 성과로 나오며, 그 성과를 평가한 뒤 다시 규칙을 고치는 순환 구조임.
핵심인 행동 상황은 일곱 개 칸으로 이루어짐.
| 칸 | 확인하는 것 | 관개수로 예 |
| 참여자 | 누가 참여하나 | 조합원 농가들 |
| 지위 | 어떤 역할이 있나 | 조합원, 물지기, 조합장 |
| 행동 | 무엇을 할 수 있나 | 물 대기, 수로 보수 |
| 행동과 결과의 연결 | 행동하면 무슨 일이 생기나 | 물을 많이 빼면 아래쪽 논이 마름 |
| 통제 | 누가 결과를 얼마나 좌우하나 | 상류 농가가 더 유리함 |
| 정보 | 누가 무엇을 아나 | 누가 물을 뺐는지 아는가 |
| 비용과 편익 | 무엇을 얻고 잃나 | 수확량, 벌금, 노동 |
앞에서 말한 "빈칸 점검표"가 바로 이 일곱 칸임. 그리고 2005년 책 7장의 규칙 일곱 유형(지위·경계·선택·집계·정보·보상·범위 규칙)이 각각 이 칸들 중 하나를 바꾸는 규칙으로 짝지어져 있음.
또 IAD는 규칙이 여러 층위에서 만들어진다고 봄. 매일 물을 대는 일상의 층위(운영 수준), 그 일상 규칙을 정하는 총회 층위(집합적 선택 수준), 총회를 누가 어떻게 여는지를 정하는 더 깊은 층위(헌법적 선택 수준)로 나뉘어, 규칙을 바꾸는 규칙까지 분석할 수 있게 해 줌.
BlogPro로 만든 사이트