지난 10여 년간 국제관계이론에서 가장 큰 논쟁은 국제 제도가 실제로 국가의 행동에 영향을 미치는가라는 문제였다. 로버트 코헤인은 제도를 “행동을 규제하고 기대를 형성하는 규칙의 집합”으로, 존 미어샤이머는 “국가들이 협력하고 경쟁하는 방식을 규정하는 규칙 체계”로 정의하며, 제도가 세계질서에 중요한 역할을 한다고 주장했다. 그러나 미어샤이머는 1994/95년 논문에서 에서 신현실주의(Kenneth Waltz의 구조적 현실주의)에 입각해 제도는 국가 행동에 독립적인 영향력을 거의 행사하지 못한다고 주장했다. 그는 국가들이 무정부적 국제체제 속에서 상대적 이익(relative gains)과 안보 경쟁을 피할 수 없기 때문에, 협력은 제도가 아니라 힘의 균형과 국가이익에 의해 결정된다고 본다. 이에 대해 신자유제도주의자 로버트 코헤인과 리사 마틴은 제도가 거래비용을 줄이고, 장기적 상호신뢰를 형성하며, 정보 제공을 통해 협력을 촉진한다고 반박했다. 하지만 전통적 현실주의자들은 미어샤이머의 입장이 지나치게 단순하다고 비판하며, 제도는 단지 제약이 아니라 권력을 가진 국가들이 질서를 관리하고 영향력을 행사하는 수단으로 기능한다고 본다. 결국 이 논의는 전통 현실주의가 강조한 국가의 속성과 상호작용의 중요성이 신현실주의에서 간과되었다는 점을 지적하며, 두 접근의 통찰을 결합해야 국제 제도의 형성과 역할을 현실적으로 이해할 수 있다는 결론으로 이어진다.

슈웰러와 프리스는 미어샤이머의 신현실주의가 지나치게 협소하며, 전통 현실주의의 통찰을 무시하고 있다고 지적한다. 전통 현실주의(카, 모겐소, 길핀 등)는 제도를 단순한 협력의 틀이 아닌 권력 관계를 반영하고 정당화하는 도구로 본다. 이들은 세계질서를 ‘패권적·양극적·다극적’ 구조로 구분하며, 각각이 다른 형태의 제도를 낳는다고 설명했다 — 단극체제에서는 강대국이 주도하는 강요된 질서, 양극체제에서는 진영 내 협의적 질서, 다극체제에서는 협상과 동맹을 통한 복합적 질서가 형성된다. 또한 제도는 국가 간 ‘구속(binding)’ 전략, 즉 상대국의 행동을 통제하거나 약소국에 발언권을 부여해 체제의 정당성을 유지하는 수단으로 기능한다.

전통 현실주의와 신현실주의는 여섯 가지 주요 차이점도 지닌다. (1) 전통 현실주의는 역사·사회학 기반, 신현실주의는 경제학적 모델에 기반한다. (2) 전통 현실주의는 권력 그 자체의 확대를 목표로 보지만, 신현실주의는 안보 확보를 최우선으로 본다. (3) 전통 현실주의는 국가의 힘과 이익을 중심 변수로, 신현실주의는 구조(무정부·세력분포)를 핵심 요인으로 본다. (4) 전통 현실주의는 국가 간 관계와 외교정책에, 신현실주의는 전체 체제(예: 양극·다극)에 초점을 둔다. (5) 전통 현실주의는 능력을 국가 간 ‘관계적 개념’으로 보지만, 신현실주의는 단순한 ‘국가의 군사력 총합’으로 본다. (6) 마지막으로, 전통 현실주의는 제도·규범·상호작용을 포함해 ‘체제(system)’를 역동적으로 이해하는 반면, 신현실주의는 이를 단순히 구조로 환원한다.
결국 전통 및 수정 구조적 현실주의자들은 제도를 권력 구조와 국가 이익을 매개하는 변수로 보고, 제도가 협력의 산물이 아니라 권력의 반영이자 안정 유지의 메커니즘임을 강조하며 미어샤이머의 “제도는 무의미하다”는 결론을 반박한다.

전통 현실주의는 제도를 이해할 때 ‘권력(power)’만큼이나 국가의 이익(interests) 을 중시한다. 권력은 국가가 얼마나 영향력을 행사할 수 있는지를 보여주는 양적 개념이라면, 이익은 그 권력을 언제, 어떤 목적을 위해 사용할지를 결정하는 질적 요인이다. 두 요소는 분리될 수 없으며, 국가의 이익은 자국의 국제 체제 내 위치에 따라 형성된다. 예를 들어, 경제적 패권국은 자유무역 질서를 유지할 때 가장 큰 이익을 얻기 때문에 개방적 무역체제를 선호한다(Gilpin, 1987).

반면, 세력 분포가 급격히 변하면 부상국은 불만세력(revisionist)으로 변하며 기존 질서에 도전한다. 안정적인 양극체제에서는 초강대국들이 현상유지(status quo)적 태도를 취하며 일종의 ‘공동지배 체제(superpower condominium)’를 형성한다.

하지만 신현실주의는 이러한 국가 간 차이를 단순화해 “모든 국가는 안보 극대화를 추구한다”고 가정하며, 개별 국가의 이익 차이를 제거했다(Waltz, 1979). 이에 비해 전통 현실주의는 국가를 현상유지국(status quo states)과 수정주의국(revisionist states) 으로 구분하고, 양측의 충돌을 선악의 대립이 아닌 기존 질서를 지키려는 세력과 바꾸려는 세력 간의 힘의 경쟁으로 본다. 키신저(1957)는 정당성(legitimacy)을 “모든 주요 강대국이 현 질서를 대체로 수용하는 상태”라고 정의했으며, 이는 평화의 의미가 아니라 불만세력조차 체제 내부에서 변화를 추구할 정도로 질서가 안정적이라는 뜻이다. 즉, 전통 현실주의는 국제 제도를 강대국의 이해관계와 권력 분포를 제도화한 질서로 간주한다.

전통 현실주의자들은 국제 제도와 국제법이 패권전쟁의 승자들이 만든 ‘게임의 규칙’, 즉 권력 관계의 제도적 표현이라고 본다(Carr, 1946; Morgenthau, 1985). 국제법은 정의를 구현하기보다는 기존 권력 질서를 고정하는 “정태적(static)” 구조이며, 세력균형(balance of power) 역시 단순한 구조적 귀결이 아니라 강대국들 간의 합의와 상호 억제 규범으로 작동하는 제도적 장치이다. 모겐소는 “세력균형이 작동하기 위해서는 먼저 국가들이 그 시스템을 스스로 수용해야 한다”고 보았고, 이러한 공동의 가치·도덕·이익에 대한 합의(consensus)가 약화될 때 전쟁이 발생한다고 주장했다. 제도는 본질적으로 현상유지적이며 강자의 이익을 반영하지만, 동시에 기존 질서를 유지하는 한도 내에서 제한적 조정과 변화의 통로가 되기도 한다. 영국이 국제연맹을 불만세력과 만족세력 간 협의의 장으로 설계한 것이 그 예다. 그러나 전통 현실주의의 핵심은 제도가 정의나 공공선이 아니라 힘의 불균형 속에서 질서를 유지하기 위한 도구라는 점이다. 제도의 권위는 도덕이 아니라 패권국의 압도적 힘과, 피지배국이 그 질서에서 얻는 실질적 이익 혹은 엘리트의 가치 동화에서 나온다(Ikenberry & Kupchan, 1990). 시간이 지나면 부상국은 자신의 힘에 맞는 발언권과 ‘자리(place at the table)’를 요구하며 체제 개편을 시도한다. 이런 과정에서 전쟁과 제도 변화가 반복되며, 결국 국제 제도는 권력의 산물이자, 권력을 재배분하기 위한 투쟁의 장으로 기능한다.

이 글은 전통 현실주의의 국가 중심 분석과 신현실주의의 구조적 분석을 결합해 국제정치를 더 입체적으로 설명하는 모델을 제시한다. 기존의 월츠식 신현실주의는 국제체제의 구조(예: 단극, 양극, 다극)가 국가 행동을 결정한다고 보았지만, 현실에서는 국가의 성격과 상호작용의 양상이 체제 결과에 큰 영향을 미친다. 이에 따라 부잔(Buzan)과 스나이더(Snyder)는 구조와 단위 사이에 ‘상호작용(interaction)’ 또는 ‘관계(relationship)’ 수준을 추가해야 한다고 주장한다. 전통 현실주의의 관점에서 이 모델은 세 단계로 구성된다. (1) 국가 수준(unit level)에서는 현상유지국과 수정주의국의 구분, 그리고 국가의 제도 수용 여부, 안보·이익 추구 동기 등을 살핀다. (2) 상호작용 수준(interaction level)에서는 국가 간 관계 패턴을 협력적 또는 대립적으로 구분하며, 군비경쟁·무역정책·동맹행동·위기관리 등 다양한 전략적 행태를 포함한다. (3) 구조 수준(structural level) 에서는 국제체제의 극성(polarity)뿐 아니라 강대국 간 역량 격차(capability disparities)와 성장률의 정태·동태성(static/dynamic growth)을 함께 고려한다. 이 세 수준은 상호 작용하며, 국가의 속성이 상호작용을, 상호작용이 다시 구조를 형성하고 제약한다. 이를 통해 단순한 구조 분석보다 더 정밀한 설명과 예측이 가능해진다.
이 모델은 국제정치의 결과를 ‘누가 어떻게 지배하는가’라는 관점에서 본다. 통치(governance)는 세 가지 과정으로 구분된다. 첫째, 권력 행사의 방식은 ‘나체의 힘(naked power, 강제력)’, ‘영향력(influence, 정당성과 권위)’, ‘관리(management, 제도적·행정적 통치)’로 나뉜다. 둘째, 형성되는 질서의 형태는 협상된 질서(negotiated order), 강제된 질서(imposed order), 자생적 질서(spontaneous order)로 구분된다. 셋째, 제도화의 수준은 낮음·중간·높음으로 나뉘며, 제도가 높을수록 규칙이 명문화되고 조직의 조정 능력이 커진다. 일반적으로 강압적 힘은 낮은 제도화와 결합해 제국적 지배를 낳고, 영향력은 중간 수준의 제도화에서 협상·균형정치를 가능하게 하며, 관리적 통치는 고도의 제도화를 특징으로 한다.

단극체제에서는 패권국이 이 세 형태를 조합해 질서를 만든다. 자유주의적 패권국은 협상을 통해 국제제도를 구축하고, 공공재를 제공하며 정당성을 확보하지만, 비자유주의적 패권은 강압과 복종으로 제도를 강요해 비효율적 질서를 만든다. 시간이 지나 패권의 힘이 약해질수록 오히려 그 나라는 자신이 만든 제도에 의존하게 되며, 제도는 패권의 쇠퇴기를 지탱하는 장치가 된다. 결국 현실주의적 관점에서 이상적인 패권은 무력으로 지배하기보다 외교·설득·정당성을 바탕으로 안정적 질서를 유지하는 ‘신중하고 합의 중심적인 지도자(prudent, benevolent hegemon)’ 이다.

두 초강대국이 존재하는 양극체제에서는 국가의 이해관계에 따라 다양한 형태의 제도적 패턴이 나타난다. 전반적으로, 명시적이기보다는 비공식적인 제도적 협력이 자생적으로 생겨나기 쉽다. 월츠(Waltz)의 설명처럼, 양극체제의 두 패권국은 전쟁 방지나 안정 유지 같은 ‘공공재’를 스스로 제공하려는 유인이 강하다. 예컨대 냉전 시기 미국과 소련은 서로의 세력권을 암묵적으로 인정하고, 위기 시 무력 사용을 자제하며, 제3지역 분쟁을 관리하는 등 사실상 ‘비공식 제도적 협력’을 구축했다. 이로 인해 40년간 첨예한 경쟁과 군비경쟁이 있었음에도, 미·소 간 직접 전투는 발생하지 않았다. 이런 협력은 양국 모두가 현상유지적일 때 강하지만, 한쪽이 수정주의적이면 훨씬 약해진다. 만약 한 쪽이 힘에서 우위에 있거나 역학적 변화의 가능성을 느낄 때는 패권 추구로 인해 갈등이 심화된다. 반면 군사력이 균형을 이루고 안정적으로 유지될 때는 경쟁이 완화되고 ‘데탕트(Detente)’와 같은 타협이 가능해진다. 이 시기 두 초강대국은 상대적 이익보다는 절대적 이익에 집중하며, 군비 경쟁 대신 군비 통제, 위기관리, 암묵적 ‘게임의 규칙’을 발전시킨다. 냉전기의 핵 억지 체제(상호확증파괴, MAD)와 군비 통제 협상(SALT 등)이 그 예다. 반면, 블록 내부의 관계는 보다 명시적이고 제도화된 형태를 띤다. 서방의 NATO(협상된 동맹)와 동구의 Warsaw Pact(강제된 동맹)가 대표적이다. 동맹은 기본적으로 위협에 대한 대응으로 결성되며, 냉전기 미국은 소련이라는 공통의 위협 때문에 동맹국의 ‘무임승차’를 용인하고, 절대이익 중심의 협력(서유럽 재건, 일본 시장 보호 등)을 허용했다. 하지만 냉전이 끝나고 공통 위협이 사라지면, 현실주의자들은 이런 동맹이 결국 경쟁과 불신으로 회귀할 것이라고 전망했다.

다극체제에서는 세력 분포가 다양해지므로, 제도는 더 복잡하고 불안정하며 대체로 임시적(ad hoc)이고 영향력이 약하다. 제도의 강도는 국가의 성격, 다극 구조의 형태, 상호작용 수준(특히 힘의 불균형과 성장률 차이, 군사기술의 공·방어 균형)에 따라 달라진다. 여러 강대국 간 힘이 대체로 균등하고 성장 속도 차이도 작으면, 상호간 위협 인식이 낮아져 제도적 협력이 가능하다. 이때 ‘보수적(status quo) 강대국’들이 질서에 만족하고 팽창욕이 없을수록 ‘협상된 질서(negotiated order)’와 중간 수준 이상의 제도화가 가능해진다. 19세기 유럽의 ‘빈 체제(Concert of Europe)’처럼, 공통의 보수 이념과 전쟁 피로감이 제도적 안정성을 낳은 경우가 그 예다. 반대로 힘의 불균형이나 성장 속도의 차이가 클수록 세력 양극화와 상대이익 경쟁이 심화되어 제도 구축이 어렵다. 또한 공세적 기술이 우세할 때는 국가들이 개별적 안보 추구보다 공동 대응의 유인을 느끼므로 제도 형성이 쉬워지지만, 방어가 우세할 때는 제도의 필요성이 줄어든다. 일부 국가가 수정주의적이면 제도는 약화되거나 붕괴한다(예: 1848년 이후 유럽 협조체제, 제1차대전 전의 국제연맹). 다극체제에서는 동맹이 불안정하고 ‘체인갱(chain-ganging)’이나 ‘벅패싱(buck-passing)’이 빈번하다. 각국이 여러 선택지를 가질 수 있기 때문이다. 결국 다극체제의 제도는 비공식 협력으로 유지되기 어렵고, 성공적인 협력을 위해서는 반드시 명시적이고 공식적인 제도화가 필요하다. 요컨대 다극체제에서 제도의 성패는 구조보다 국가의 성격과 상호작용 양상, 즉 ‘정치적 신뢰와 이익의 일치 정도’에 달려 있다.

신현실주의(neorealism)는 단순함(parsimony)을 강점으로 내세워 체계적 이론을 구축했지만, 미어샤이머(Mearsheimer)의 주장처럼 제도를 부차적(epiphenomenal) 존재로 치부하면서 현실주의 안에 ‘제도 형성과 효과’를 설명할 충분한 이론적 틀을 남기지 못했다. 그러나 대부분의 현실주의자들은 제도가 일정한 영향력을 가질 수 있음을 인정한다. 본 논문이 제시한 모델은 초기 현실주의자들이 제도에 대해 암시적으로 제시했던 통찰을 발전시킨 일종의 개요이며, 앞으로 더 많은 연구가 필요하다.

최근 연구 동향은 월츠식 신현실주의의 엄격하고 단선적인 체계 분석에서 벗어나, 국가의 특성과 행위, 그리고 체제 구조를 함께 고려하는 전통 현실주의의 복합적 분석 틀로 되돌아가려는 경향을 보인다. 슈웰러(Schweller)는 “국가의 목표 차이 (안보를 위한 최소 권력만을 추구하는가, 아니면 그 이상의 권력을 추구하는) 도 무정부 상태(anarchy)나 역량 분포(capabilities)만큼 중요하게 고려되어야 한다”고 지적했다. 월트(Stephen Walt)의 ‘위협균형이론(balance-of-threat)’ 역시 국가의 의도와 이해관계를 중시한다. 즉, 국가 간의 우호(amity)와 적대(enmity) 관계 같은 질적 변수도 체제 분석에 포함되어야 한다는 것이다. 이런 흐름은 단순한 구조적 요인만으로는 오늘날 복잡한 국제정치를 설명하기 어렵다는 문제의식에서 출발한다. 현실주의는 여전히 현대 국제정치 분석에 필요한 모든 핵심 요소 (국가의 속성, 상호작용, 그리고 구조) 를 포괄할 수 있는 유연하고 풍부한 이론적 자원을 지닌다.

앞으로 현실주의적 제도 연구가 나아가야 할 방향은 세 가지로 요약된다. (1) 세 분석 수준(국가·상호작용·구조)과 결과 변수(국제질서·제도화 등) 간의 인과관계를 구체적으로 설명할 것, (2) 이러한 관계에 대해 검증 가능한 가설(falsifiable hypotheses)을 도출할 것, (3) 사례연구(case study)나 과정추적(process tracing), 통계분석 등으로 이를 검증·수정해 나갈 것이다.

주요 연구 질문은 다음과 같다:

국가의 속성이 상호작용에 어떤 영향을 미치며, 반대로 상호작용이 국가의 성격을 어떻게 변화시키는가? 동맹·경제·군사적 상호의존이 제도화 수준과 지배 형태에 어떤 영향을 주는가? 체제 구조 변화가 질서의 형태(강제적, 협상적, 자생적)에 어떤 결과를 낳는가? 또는 반대로, 권력의 행사 방식(무력·영향력·관리)이 체제 구조와 국가 상호작용에 어떤 변화를 초래하는가?

예를 들어, 레인(Layne)은 “패권이 아무리 우호적이어도 단극체제(unipolarity)는 결국 다른 국가들의 견제를 불러온다”고 주장했지만, 본 모델은 이에 반해 “패권이 정당성과 관리능력에 기반한 협상적 질서를 만든다면, 약소국들은 균형을 이루려 하기보다 오히려 패권에 동조(bandwagon)할 가능성이 높다”고 본다. 따라서 미국은 ‘비스마르크식 전략(Bismarckian strategy)’(즉, 잠재적 경쟁국들보다 더 나은 관계를 유지하는 방식)을 통해 자신의 패권적 질서(Pax Americana)를 장기적으로 유지할 수도 있다. 마지막으로, 현실주의는 제도의 형성과 유지뿐 아니라 왜, 어떻게 제도가 붕괴하는가를 분석해야 한다. 어떤 제도는 충격에도 살아남지만, 어떤 제도는 쉽게 해체된다. 이는 외부적 충격인지, 내부적 침식인지, 혹은 국내정치 구조의 붕괴 때문인지 규명할 필요가 있다. 냉전 이후 세계질서 속에서 현실주의가 다시 지적 설득력을 가지려면, 이러한 다층적 인과관계와 피드백 구조를 탐구하는 새로운 연구가 절실하다고 저자들은 결론짓는다.