요하(遼河)의 지류인 시라무렌강에서 유목생활을 하던 거란족은 4세기 무렵부터 한문 기록에 등장하기 시작한다. 거란족은 동호(東胡) 계열 유목민들의 후손이었고, 스스로를 키탄 혹은 키타이라고 칭했다고 알려져 있다. 오랫동안 부족 연맹체로서의 성격을 유지했던 거란은 주변의 강대한 국가들에 복속하면서 세력을 유지했다. 이러한 부족 연맹체에서부터 중앙집권국가로 거란의 성격을 완전히 바꿔놓은 인물이 바로 야율아보기(耶律阿保機, 태조)였다.

‘야율’ 씨족에 속했던 그는 907년에 거란 연맹의 수령이 되면서 권력을 장악했다. 부족 연맹체 단계에서는 연맹의 수령을 선거를 통해 주기적으로 교체해야 했다. 이는 수령 한 사람에게 권력이 집중되는 것을 막기 위한 방책이었는데, 야율아보기는 이를 무시하고 종신 집권을 계획했다. 당연히 이에 반발하는 세력들은 야율아보기를 몰아내려 했고, 야율아보기의 동생들까지 반란을 일으켜 야율아보기에 대항했다. 야율아보기는 계속되는 반란들을 모두 진압하면서 종신 집권의 길을 닦았고, 916년에 정식으로 칭제(稱帝)하여 거란제국을 건국했다.

거란제국은 건국 이후 영토 확장을 위한 전쟁들을 수행했다. 야율아보기는 남쪽의 중원 지역을 통치하고 있던 후당(後唐)을 공략했지만, 후당의 방어도 만만치 않았다. 이에 야율아보기는 방향을 돌려 북쪽의 유목민 세력을 공격하면서 초기 거란제국의 단합을 유지했고, 926년에는 동쪽의 발해까지 멸망시키면서 제국의 판도를 급속하게 확대시켰다. 최초의 정복왕조(征服王朝)가 되는 토대가 야율아보기 시대에 형성되고 있었던 것이다. 거란이 발해를 멸망시킨 것은 훗날 고려와 거란이 지리적으로 가까워지게 되는 무대를 만든 셈이었다.

정복왕조란?
원래 정복왕조라는 개념은 독일계 미국인 연구자인 카를 비트포겔(Karl Wittfogel)이 제시한 것으로, 중국을 정복한 북방민족의 왕조들 중에서 중국 문화에 대한 일방적인 동화나 흡수를 거부한 왕조들을 지칭하는 것이었다. 그러나 실제 역사에서 정복왕조라고 불리는 요, 금, 원, 청에서는 한족 문화에 대한 동화에 저항하면서도 한편으로는 그 문화에 동화되는 현상이 확인되고 있어서 정복왕조 개념이 정확하게 실제와 들어맞는지의 여부를 둘러싸고 논란이 존재한다. 그럼에도 정복왕조를 ‘몽골이나 만주와 같이 중원의 외부에 해당되는 지역에서 먼저 중앙집권적 국가를 건설한 이후에 중원으로 진출하여 중국의 일부 혹은 중국 전체를 정복한 왕조’라고 정의하게 되면 이는 요, 금, 원, 청 모두에 정확하게 맞아떨어지는 개념으로 적용시킬 수 있다. 한편, 오호십육국 시대에 중원에서 여러 북방민족이 세운 국가들은 중원의 외부에서 건국된 것이 아니라 ‘중국 내지로 이미 진출한 북방민족에 의해 중국 내지에서 건국된 왕조’이므로 정복왕조의 범주에는 포함되지 않는다.

중원(中原)이 아닌 초원 지역에서 국가를 세운 거란은 유목민은 물론이고, 당시 오대십국(五代十國)의 정치적 혼란에 시달리고 있던 중국에서 도망치거나 탈출하여 귀부한 한인(漢人)들도 적극적으로 받아들였다. 거란의 지배체제에 편입된 한인들은 중국의 통치 제도가 거란에 정착하는 데 큰 역할을 담당했고, 거란은 이들을 활용하여 유목민과 정주민을 함께 통치하는 이중지배체제를 만들어나갈 수 있었다.

926년에 발해를 순식간에 멸망시킨 야율아보기는 회군하던 도중에 세상을 떠났다. 그의 뒤를 이은 사람은 야율아보기의 둘째 아들인 야율덕광(耶律德光, 태종)이었다. 태종은 부친인 태조와 마찬가지로 적극적인 확장을 시도했는데, 후당의 정치적 내분으로 거란에게 좋은 기회가 찾아왔다. 후당이 정치적으로 분열된 상황에서 후당 황실에 반란을 일으킨 석경당(石敬瑭)이 거란에 원조를 요청했고, 거란 태종은 이 요청을 수용하여 석경당과 함께 군사를 몰고 내려가 936년에 후당을 멸망시켰다. 후당의 멸망으로 공백이 되어버린 중원 지역 통치를 위해 거란 태종은 석경당을 황제로 책립했다. 이에 후진(後晋)이 건국되었다. 후진의 건국은 거란의 ‘황제’가 후진의 ‘황제’를 즉위시키는 형식으로 이루어졌고, 이는 그때까지 동아시아 역사에서 전례가 없었던 일이었다. 공식적으로 2명의 황제가 등장한 셈이었고, 이에 더해 거란 태종과 석경당이 부자(父子) 관계를 맺으면서 ‘아버지 황제’와 ‘아들 황제’가 탄생했다. 석경당은 거란의 원조에 보답하기 위해 만리장성 남쪽의 일부 땅에 해당되는 ‘연운십육주’(燕雲十六州)를 거란에 할양했고, 이 사건은 향후 동아시아의 국제질서에 큰 영향을 끼치게 된다. 그리고 거란이 연운십육주를 차지한 것은 초원에서 건국된 유목제국이 초원이 아닌 정주민의 땅을 통치하는 출발점으로서 굉장히 중요한 역사적 의미를 가지고 있다. 즉, ‘정복왕조’ 탄생의 순간이었다. 연운십육주를 차지하자 거란 태종은 국호를 ‘대요’(大遼)라고 정했는데, 국호를 바꾼 것은 아니었고 정주민들이 사용할 한자 국호를 따로 제정한 것이다. 이 역시 정복왕조로서 거란제국이 지닌 특징 중 하나였다.

거란 태종을 향해 변함없는 신하로서의 모습을 보였던 ‘아들 황제’ 석경당이 942년에 사망하자 중원의 정세는 다시 소용돌이에 빠졌다. 석경당의 뒤를 이어 즉위한 석중귀(石重貴)가 거란의 신하라는 위치를 받아들이지 않으려 하자 거란 태종은 후진에 대한 군사적 원정을 감행했다. 결국 947년에 거란은 후진을 멸망시키고 화북 지역을 차지했다. 거란 태종은 자신이 세운 후진을 자신의 손으로 없애버린 셈이다. 그러나 거란은 광범한 화북 지역을 안정적으로 통치하는 방법을 모르고 있었다. 만리장성 남쪽의 연운십육주 정도를 확보하여 농경 지역 통치를 익히는 단계에서 갑자기 화북 전체를 유목민 거란이 일괄적으로 통치한다는 것은 아직 무리였다. 결국 거란 태종은 화북을 점령하고 3개월이 지난 후, 통치를 포기하고 초원으로 돌아가던 도중에 사망하였다. 하지만 철수하면서 후진의 문서와 서적을 가지고 갔고, 후진의 관료들도 끌고 갔는데 이는 거란이 점진적으로 농경 정주 지역을 통치하기 위한 방식을 익히는 계기로 작용했다.

거란의 대외팽창은 거란 태종이 사망한 이후 잠시 주춤하는 경향을 보였다. 거란제국 내부 분쟁과 권력투쟁으로 인해 대외 원정을 위한 단결력을 상실했던 것이다. 그러는 사이에 중국에서는 조광윤(趙匡胤)이 건국한 송(북송)이 분열의 시대를 마무리하면서 강대국으로 떠올랐다. 특히 중국의 강남 지역을 장악하면서 북송은 경제적으로 풍부한 물자를 획득할 수 있었고, 이를 기반으로 거란과의 대립에서 승리를 거두고자 했다.

북송의 대외팽창을 적극적으로 시행했던 사람은 북송의 2대 황제 태종이었다. 그는 후진이 거란에게 할양했던 지역(연운십육주)을 수복하겠다는 목표를 설정하고 979년과 986년 두 차례에 걸쳐 거란을 향해 선제공격을 시도했다. 당시 거란은 승천태후(承天太后)의 지휘 아래에서 북송의 침입을 막아냈고, 이는 북송의 확장을 저지하는 결정적인 분기점이 되었다. 북송 태종은 국경 방어로 정책을 전환했고, 거란은 차츰 내부의 분쟁을 수습하면서 다시 외부를 향해 눈을 돌리기 시작했다. 거란은 북송을 제압하기 위해 고려, 여진족, 발해의 유민들 등 여러 세력이 북송과 연계하는 것을 차단하고자 했다. 북송을 고립시키려는 작전이었던 것이다. 특히 고려가 북송과 조공-책봉관계로 연결되어 있다는 점은 차후 거란이 북송을 공략할 때에 중요한 변수가 될 수 있을 것이라는 생각에 거란은 고려와 북송의 관계를 단절시키고자 고려를 공격했다. 993년 거란의 1차 고려 침입이 시작된 것이다.

거란의 침입에 고려 조정은 거란에 땅을 할양하자거나 도망쳐서 수도를 남쪽으로 옮기자는 등의 대책을 제시하는 목소리가 높았다. 그러나 서희(徐熙)의 생각은 달랐다. 거란 군대를 이끌고 온 소손녕이 80만 대군을 이끌고 왔다고 하면서도 고려 내지로 깊숙이 들어오지 않고, 고려 측에 항복만을 계속 종용하는 것에서 거란의 의도를 알아챈 것이다. 이에 서희는 외교적인 방책을 통해 고려의 위기를 해결하고자 했다. 서희의 의도는 적중했다. 서희는 거란의 진영으로 직접 들어가 소손녕과 담판을 지으면서 고려와 거란 사이에 있는 여진족 세력으로 인해 도로가 차단되어 거란과 소통할 수 없다는 논리를 제시했다. 여진족이 물러나면 거란과 외교관계를 맺을 의사가 있다는 것을 언급하면서 거란의 의도를 파악했다. 소손녕은 거란 조정에 문서를 보내 이 사실을 알려서 조치 방안을 물었고, 결국 고려와 거란은 조공-책봉관계를 맺게 되었다. 또한, 고려와 거란 사이를 가로막고 있는 여진 세력을 고려가 몰아내고 압록강 동쪽 일대(이른바 ‘강동6주’, 고려의 서북면)를 영토로 삼아 차지하는 것까지 인정했다. 서희는 거란의 군사적 침입을 막아냄과 동시에 강동6주 개척의 권한까지 확보했던 셈이다. 하지만 거란도 고려와 북송의 관계를 단절시키는 성과를 거둔 것이기 때문에 993~994년의 고려-거란 담판에서 두 국가는 자신들에게 이득이 되는 방향으로 상대를 설득했다. 그 결과 북송은 국제적으로 고립된 상태에 놓이게 되었다.

거란은 고려와 조공-책봉관계를 맺은 이후, 북송을 본격적으로 압박하기 시작했다. 심지어 거란의 황제인 성종(聖宗)과 승천태후가 함께 직접 출정하여 북송의 수도인 개봉(開封) 인근의 전주(澶州, 혹은 전연澶淵이라고도 칭한다)까지 진격해 왔다. 마치 고려가 거란의 침입을 받았을 때처럼, 북송에서도 수도를 옮겨서 도망가자는 의견이 제기되었다. 그러나 승상 구준(寇準)은 거란과의 대결을 주장했고, 심지어 북송의 황제 진종(眞宗)이 직접 전쟁터에 나가서 거란과 대치해야 한다는 주장을 밀어붙였다. 그 결과, 전주에서 두 국가의 군주가 전쟁터에서 맞서게 되는 상황이 연출되었다. 양국은 전쟁을 멈추기 위한 협상에 진입했다. 그 결과 1004년에 맺어진 것이 바로 ‘전연의 맹약’이었다.

전연의 맹약에서 가장 중요한 것은 거란과 북송의 위상과 그 관계를 설정하는 일이었다. 협상의 결과 양국은 대등한 황제국이 되었고, 북송이 형이고 거란이 동생이 되는 형제관계를 수립했다. 국가 간의 형제관계는 거란과 후진이 맺었던 부자관계와는 달리 상하의 질서가 아니다. 그러므로 거란과 북송 사이는 상하관계가 아니었고, 양쪽이 서로를 모두 ‘황제’로 인정하는 동등한 ‘다국체제’가 출현하게 된 것이었다. 원칙적으로, 그리고 이념적으로 1명만 존재해야 하는 황제가 공식적으로 2명이 된 셈이니 이는 이전의 동아시아에서는 찾아볼 수 없는 현상이었다. 11세기 동아시아 국제질서의 기초를 형성한 전연의 맹약은 이 점에서부터 독특한 측면을 지니고 있었다. 이는 거란이 건국 초기부터 유목국가였음에도 불구하고 ‘황제’를 칭하면서 만리장성 이남으로 영토를 확장한 결과였다고도 할 수 있다.

전연의 맹약에서 중요하게 언급되는 또 다른 한 가지는 바로 ‘세폐’(歲幣)이다. 북송은 매년 거란에 비단 20만 필, 은 10만 냥을 보내야만 했던 것이다. 이는 군사력에서는 열세에 놓여 있었던 북송의 입장에서 거란을 경제적으로 달래는 조치의 일환이었는데, 두 국가는 대등한 관계였기 때문에 매년 보내는 폐물이라는 의미의 세폐라는 용어를 사용했다. 세폐라는 용어에는 상하관계의 의미가 내포되어 있지 않았기 때문이다. 북송이 매년 거란에 보내는 세폐는 북송의 전체 재정에 악영향을 끼칠 정도로 결정적인 비중을 차지하는 것은 아니었고, 거란과 북송의 국경지대에서 열리는 교역을 통해서 북송은 흑자를 거두면서 세폐로 빠져나가는 재정을 보충할 수 있었다.

전연의 맹약으로 거란은 동아시아 국제질서를 주도하게 되었다. 북방의 여러 유목민족들을 복속시켰고, 북송과는 대등한 국가간 관계를 맺었으며 고려와는 조공-책봉 관계를 수립하면서 국제질서의 얼개를 만들었던 것이다. 그러나 거란은 북송과의 관계를 결정한 이후, 시선을 다시 고려로 돌렸다. 고려가 비록 거란과의 조공-책봉 관계를 받아들이기는 했지만, 여전히 북송과 고려의 연결 가능성이 존재했고 고려에게 개척을 허락한 ‘강동6주’ 지역은 무역의 요충지이기도 했기 때문에 거란에서는 고려를 다시 단속하면서 경제적 이권까지 차지하려는 욕심이 생겼던 것으로 보인다. 게다가 1009년에 대략 40년 동안 거란의 국정을 이끌어왔던 승천태후가 사망하면서 거란 황제 성종은 황제로서의 권위를 재확립할 필요가 있었고, 고려와의 전쟁을 그 수단으로 결정했다.

고려에서는 이때 내분이 발생하여 강조(康兆)가 목종을 시해하고, 현종을 옹립하는 쿠데타가 발생했다. 거란 성종은 자신의 허락 혹은 책봉 없이 마음대로 고려의 왕을 시해하고 새로운 왕으로 교체했다는 것을 빌미로 삼아 고려로 진격했다. 거란의 2차 고려 침입이 시작된 것이다. 이때 거란 황제 성종이 직접 군대를 지휘했고, 이는 거란의 2차 고려 침입이 단순한 약탈전이 아니라 황제의 권위를 보여주면서 고려와의 관계를 재조정하려는 의도로 시행된 것임을 보여준다.

거란은 압록강을 건너 진격하여 치열한 전투 끝에 강조를 사로잡아 처형하고 남쪽으로 진군해 고려의 수도 개경을 점령했다. 고려 현종은 이미 거란의 공격을 피해 개경을 떠났고, 거란은 개경에 장기간 머무를 수 없었기 때문에 고려 측의 화친 요청을 받아들이고 철수했다. 그러나 거란 군대가 철수하는 과정에서 양규(楊規)를 비롯한 고려 장군들의 집요한 공격을 받아 거란 역시 큰 피해를 입었다. 그러나 고려 현종은 친조의 약속을 실제로 이행하지 않았고, 거란은 이를 핑계로 고려를 계속 압박하면서 압록강 부근에 군사적 시설을 설치하는 등 국경지대에서의 긴장은 고조되었다. 심지어 고려는 이러한 긴장 속에서 북송과의 관계 재개를 시도하기까지 했다.

1018년에 거란은 다시 고려를 침입했다. 세 번째 고려 침략이었다. 그러나 이번에는 고려의 대비가 이전과는 크게 달라져 있었다. 고려의 수도 개경을 곧바로 공격하려는 거란의 전략은 성공하지 못했고, 결국 1019년의 귀주대첩에서 강감찬(姜邯贊)은 거란 군대를 전멸에 가까운 패배로 몰아넣었다. 이렇게 전쟁은 고려의 승리로 끝났지만, 아직 양국 사이의 관계가 확정된 것은 아니었다. 두 국가 모두 오랜 전쟁으로 인해 피해가 막심했고, 결국 고려 현종은 거란과의 조공-책봉 관계 재개를 요청했다. 거란도 고려가 다시 북송과 조공-책봉 관계를 맺을 가능성을 차단하기 위해서라도 이제는 고려의 요청을 수용할 수밖에 없었다. 결국 고려와 거란은 1022년부터 조공-책봉 관계를 재개하고, 정기적으로 상호 간에 사신을 파견하였다. 이때 만들어진 양국 간의 의례는 훗날 한반도와 중국의 왕조들 사이에서 일종의 전범(典範)이 되었다는 점에서 고려와 거란의 관계는 역사적으로 중요한 위치를 점하고 있다고 하겠다. 정복왕조의 출현이 한국사의 전개에도 지대한 영향을 끼친 사례이다.

11세기 동아시아의 국제질서는 거란이 중심이 되는 방향으로 형성되었지만, 거란이 국제질서의 모든 것을 최강의 패권국가로서 장악했다고 보기에는 어려운 측면들이 있다. 북송과는 대등한 국가 간 관계를 계속 유지하면서 영토를 더 이상 확장하지 못했으며 고려와는 전쟁에서 패배한 이후 간신히 조공-책봉 관계를 맺으면서 체면을 지켰을 뿐이었기 때문이다. 이로 인해 11세기 동아시아의 국제질서는 거란의 강한 군사력으로 인해 형성되었음에도 불구하고, 결과적으로는 마치 세력 균형을 이루는 듯한 ‘다원적 국제질서’의 모습을 보이게 되었다. 그리고 이 과정에서 중요한 역할을 한 것은 거란의 고려 침입과 이를 막아낸 고려의 끈질김이었다.