925년 12월부터 시작된 거란의 공격에 발해는 한 달을 채 버티지 못하고 맥없이 무너지고 말았다. 이후 옛 발해 땅에는 거란이 세운 괴뢰국 동란국(東丹國)이 들어섰지만, 곧 발해 유민들의 격렬한 저항이 시작되었다. 발해 유민의 부흥 운동은 927년 안변부·막힐부·정리부·장령부 일대 유민들의 항쟁을 시작으로 하여, 후발해국과 정안국 등의 나라가 세워지면서 10세기 전반에 걸쳐 전개되었다. 또 이후로도 1029년에는 발해 유민 대원립이 흥요국을 건국하였지만 이듬해 멸망하였고, 1116년에는 고영창(高永昌)이 대발해(대원국)을 세웠다가 같은 해에 멸망하는 등 발해 유민들은 거란의 지배에 끈질기게 저항하며 부흥 운동을 전개해나가는 저력을 보여주었다.

10세기에 접어들면서 동아시아는 극심한 혼란기를 맞이하였다. 중원에서는 당이 무너지고 5대 10국의 혼란기가 시작되었으며, 한반도 지역에서는 신라가 쇠퇴하며 후삼국 시대가 개막되었다. 발해 역시 선왕(宣王, 재위: 818~830) 시대 이후로 조금씩 쇠락하기 시작하여 이 무렵에 이르면 극심한 쇠퇴의 징후를 보이고 있었다.

한편, 동아시아 각지가 혼란에 빠질 무렵 랴오허(遼河) 상류 지역과 동몽골 일대에 흩어져 살던 유목 세력인 거란족은 야율아보기(耶律阿保機)라는 걸출한 영웅의 지휘 아래 동아시아 북방의 새로운 강자로 떠올랐다. 거란은 중원 진출을 최종 목표로 삼고 먼저 911년 서쪽 지역의 해(奚)와 습(霫)을 정복하고 동쪽의 발해를 압박하기 시작하였다. 이로부터 거란과 발해는 요동 지역을 놓고 치열한 공방전을 벌였는데, 925년에 접어들면서는 전쟁의 형세가 순식간에 거란 측으로 기울어버리게 된다.

925년 서방에 대한 정벌을 성공적으로 마친 거란의 지도자 야율아보기는 그해 12월 21일부터 발해에 대한 총공세를 시작하였다. 전쟁 시작 9일 만에 발해의 서북방 핵심 거점 부여부(扶餘府)를 포위한 거란의 군대는 거침이 없었다. 거란의 갑작스러운 기습에 발해의 부여부는 이렇다 할 대응조차 못해보고 3일 만에 함락당하고 만다. 발해 중앙에서도 거란의 침공을 막기 위해 3만의 병력을 급파하였지만, 이들 또한 거란군의 공격에 맥없이 무너졌다. 거란의 전격전에 발해는 속절없이 밀려나며 1월 9일 마침내 수도까지 포위되는 상황을 맞이하였다. 그리고 926년 1월 14일, 수도가 포위된 지 6일 만에 발해는 정식으로 거란에 항복하였고, 이로써 성세를 자랑했던 ‘해동성국’ 발해는 그 역사의 종막을 고하였다.

발해를 멸망시킨 거란은 발해 지역에 일종의 괴뢰국인 동란국(東丹國)을 세우고 야율아보기의 첫째 아들인 황태자 야율배(耶律倍)를 동란국 황제 자리에 앉혔다. 한편, 934년 고려로 망명한 발해 왕실의 태자 대광현(大光顯)을 비롯하여 수많은 발해인 집단이 여러 차례에 걸쳐 고려로 망명하였으며 또한 많은 유민이 거란으로 끌려가기도 했다. 그러나 아직 옛 발해의 땅에 남아 있던 발해 유민들은 기회가 있을 때마다 세력을 규합하여 거란의 지배에 대항해 끈질긴 저항을 이어나갔다.

먼저 927년에는 안변부(安邊府)·막힐부(鄚頡府)·정리부(定理府)·남해부(南海部) 등 지역에서 군민들의 저항이 일어났으며, 특히 장령부(長嶺府)의 항쟁은 6개월 동안 지속되었다. 그러자 거란은 928년에 발해 유민들을 대거 요동 지역으로 강제 이주시키고, 동란국의 거점도 라오양(遼陽) 지역으로 옮겨버렸다. 하지만 이러한 조치는 오히려 발해 유민의 부흥 운동을 더욱 부채질했다. 동란국이 요동 지역으로 옮겨가자 발생한 통치의 공백을 틈타 유민들은 마침내 발해를 재건하였다. 이를 흔히 ‘후발해(後渤海)’라고 부르는데, 후발해의 존재는 929년 발해 사신 고정사(高正詞)가 후당(後唐)에 갔다는 기록을 통해 처음 확인된다.

후발해는 이후로도 931년과 932년에 후당에 사신을 파견하여 조공을 하였다. 또 935년에는 후발해의 남해부도독(南海府都督) 열주도(列周道)가 후당으로 건너가 방물을 바치고 검교공부상서(檢校工部尙書)의 벼슬을 받았으며, 같이 갔던 발해의 정당성공부경(政堂省工部卿) 오제현(烏濟顯)은 시광록경(試光錄卿)의 벼슬을 받았다. 하지만 후발해와 중원 국가의 교섭은 954년 7월 발해 호족 최오사(崔烏斯) 등 30인이 후주(後周)에 귀화했다는 기록을 끝으로 더이상 보이지 않는다.

안타깝게도 후발해에 대한 자세한 기록이 남아있지 않아 현재로서는 이 이상의 자세한 후발해의 역사를 알기는 어려운 실정이다. 다만, 후발해의 중심지는 옛 발해 왕도가 있던 홀한성(忽汗城)이었다고 추정되고 있으며, 그 왕실도 처음에는 발해국의 대씨(大氏)가 이었을 것으로 짐작된다.

하지만 후발해의 대씨 정권은 어느 시점부터 올야(兀惹) 출신의 오씨(烏氏)에게 권력을 빼앗겼던 것으로 보이는데, 이러한 권력 교체는 934년 발해 왕족 대광현(大光顯)이 고려로 망명하는 시기 혹은 최오사 등이 후주에 귀화하는 시기와 맞물려 있을 가능성이 크다. 이렇게 대씨에 이어 오씨가 권력을 잡으면서 후발해에 이어 이른바 ‘오씨 발해’라 불리는 나라가 성립하였다. 오씨 발해는 975년 발해 유민 출신의 장수 연파(燕頗)와 함께 발해의 옛 부여부(扶餘府) 땅을 탈환하기 위한 군사 작전을 전개하기도 하였으며, 발해의 옛 장령부 지역이었던 휘파허(輝發河) 유역에서 벌어진 전투에서도 원군 7천 명을 보내는 등 군사적인 면에서 두드러진 활동을 보였다. 한편, 979년경에는 정안국(定安國)의 일부 세력을 규합하기도 하는 등 정안국과 긴밀한 관계를 형성하며 거란에 대항하였다. 하지만 오씨의 발해국은 대략 1003년 무렵 거란의 공격에 의해 붕괴되었던 것으로 보인다.

한편, 후발해가 건국되고 얼마 지나지 않아 압록강 유역에서는 발해 유민 열씨(烈氏) 일족에 의해 또 다른 발해인의 나라 정안국이 성립되었다. 정안국의 건국 시점에 대해서는 ‘935∼936년 설’과 ‘937년 설’ 및 ‘970년 설’ 등이 제기되고 있는데, 연구자마다 이처럼 견해가 엇갈리는 이유는 정안국과 관련된 기록들이 워낙 희소하고 단편적으로 전하기 때문이다.

정안국의 활동이 두드러지는 시점은 970년 무렵부터이다. 970년 정안국왕(定安國王) 열만화(烈萬華)가 중국 송(宋)에 사신을 보내면서 압록강 유역에 존재하는 발해 세력의 동향을 알렸다. 이것은 954년 최오사를 비롯한 발해인들이 후주로 귀화한 이후로 처음 중국 측 사료에 발해 유민의 동향이 포착되는 사건이었다. 그런데 이후로 정안국의 왕실에 변화가 감지된다. 981년 정안국에서 송으로 보낸 표문(表文)에는 정안국왕의 이름이 오현명(烏玄明)이라 적혀 있다. 이는 정안국의 왕실이 열씨에서 오씨(烏氏)로 바뀌었음을 말해 준다.

사실 오씨는 발해국 존립 당시부터 유력 성씨의 하나였다. 앞서 후발해에서도 오씨가 대씨를 이어 정권을 장악하였을 것으로 추정한 바 있는데, 정안국 또한 오씨에 의해 왕권이 장악된 것이다. 이처럼 정안국의 왕실이 열씨에서 오씨로 교체된 시기는 분명하지 않으나, 고려 경종(景宗, 재위: 975~981) 4년(979) 발해인 수만 명이 고려로 넘어온 일과 연관이 있을 것으로 보인다. 즉 바로 이 사건이 정안국 내부의 정권 교체에 따른 여파를 보여주고 있다고 추측되고 있다.

정안국은 요에 대항하여 중국 송과 긴밀한 관계를 맺으며 협공책을 모색하는 한편, ‘원흥(元興)’이라는 자체의 연호를 사용하는 등 독자적인 국가체제를 갖추어 나갔다. 그러나 요가 재차 동쪽으로 세력을 확장함에 따라 정안국은 국운이 위태로운 지경에 이르게 된다. 요는 고려에 대한 공격을 준비하는 한편, 먼저 고려와 요 양국 사이에 위치해 있던 압록강 유역의 정안국에 대한 대규모 정벌 전쟁을 벌였다.

정안국에 대한 요의 침공은 983년 10월에 시작되어 이듬해 4월까지 반년에 걸쳐 전개되었다. 결과적으로 요의 첫 침공은 무위로 돌아간 듯 보이지만, 985년 재차 이루어진 요의 대규모 침공을 극복하지 못하고 끝내 정안국은 멸망하고 만다. 정안국을 멸망시킨 뒤 요는 986년 봄까지 정안국으로부터 포로 10여만 명과 말 20여만 필을 노획하고 그 땅에 4개의 주(州)를 설치하여 직접 지배하였다. 이후로도 기록 상에는 압록강 유역에서 발해 유민의 동향이 두 차례 더 확인되나, 실질적으로 986년 정안국의 멸망과 함께 압록강 유역에서 발해 유민의 부흥 운동은 종결된 것으로 이해된다.

정안국의 멸망과 함께 발해인의 부흥 운동은 막을 내린 것처럼 보였지만, 그로부터 40여 년이 지난 1029년, 발해 유민 대연림(大延琳)에 의해 부흥 운동은 다시금 활기를 찾게 된다. 동경요양부(東京遼陽府)에서 요의 관료로 활약하던 대연림은 관리들의 실정으로 동경요양부의 민심이 동요하자, 곧 반란을 일으켜 ‘흥요국(興遼國)’을 세우고 왕으로 즉위하였으며 ‘천경(天慶)’이라는 연호를 사용하였다. 하지만 흥요국은 얼마 지나지 않아 지배층 내부의 분열과 배신으로 흔들리기 시작하였다. 흥요국은 고려 측에도 여러 차례 사신을 파견하여 지원을 요청하였으나 고려 조정은 이에 응하지 않았다. 흥요국은 결국 나라를 건국한 그 이듬해인 1030년 부하 양상세(楊祥世)의 배신으로 국왕 대연림이 사로잡히면서 멸망하고 말았다. 이로써 흥요국 건국에 참여했던 많은 발해 유민들이 다시 고려를 향해 망명길에 올랐다.

하지만 발해 유민의 부흥 운동은 여기서 끝나지 않았다. 흥요국이 무너진 후로부터 다시 80여 년이 흐른 1115년과 1116년, 발해가 멸망한 지 200여 년이 지난 시점에서 발해 유민이었던 고욕(古欲)과 고영창이 각각 요에 반기를 들고 거병하였다. 먼저 1115년 발해 유민 출신 고욕이 상경임황부(上京臨潢府, 오늘의 내몽골 赤峰 일대) 관할의 요주(饒州)에서 반란을 일으키고 스스로 대왕(大王)을 칭하였다. 당시 요주 일대에는 다수의 발해 유민이 거주하고 있었는데, 고욕은 바로 이들을 규합하여 거병하였다. 이후 고욕은 두 차례 걸친 요의 공격을 물리치며 기세를 올렸지만, 대왕을 칭한 지 5개월 만에 거란의 계략에 말려들어 사로잡힘으로써 거사에 실패하고 말았다.

그 이듬해인 1116년에는 고영창이 ‘대발해국(大渤海國)’을 세우면서 부흥 운동의 마지막 불꽃이 타올랐다. 고영창은 당시 동경유수(東京留守) 소보선(蕭保先)의 학정에 반감을 가진 동경 일대 발해 유민을 규합하여 1116년 정월 8천에 달하는 발해인 군단을 이끌고 동경요양부를 함락시켰다. 고영창은 곧 스스로 ‘대발해국’ 황제에 즉위하였으며 연호는 ‘융기(隆基)’로 원년을 삼았다. ‘대발해국’이라는 국명은 『거란국지(契丹國志)』의 기록에서 확인되며, 『고려사(高麗史)』에서는 이를 대원국(大元國)으로 전하고 있다.

마침 당시의 국제 정세는 새롭게 일어선 금이 서쪽으로 영향력을 확장하며 요를 압박하는 상황이었다. 대발해국은 건국한 지 10여 일 만에 요동 지역의 50여 주(州)를 장악하며 기세를 올렸으나, 5월 장림(張琳)이 이끄는 요의 군대에게 패퇴하였다. 이에 대발해국은 달불야(撻不野) 등을 금에 보내어 지원을 요청하였지만, 고영창 스스로가 황제의 지위를 고집하는 등 경직된 협상을 벌이다 오히려 알로(斡魯)가 이끄는 금의 군대에 의해 참살되었다. 이로써 대발해국은 건국한 지 5개월 만에 붕괴하였고, 옛 발해 땅에 남은 유민들도 대부분 여진에 흡수되고 말았다.