신라하대에 선종(禪宗)이 전래되면서 개창되기 시작하여 고려 초에 이르는 시간 동안에 성립한 9개의 선문(禪門)을 말한다. 9개의 선문은 도의(道義)의 가지산문(迦知山門), 홍척(洪陟)의 실상산문(實相山門), 혜철(惠哲)의 동리산문(桐裏山門), 도윤(道允)의 사자산문(獅子山門), 낭혜(朗慧)의 성주산문(聖住山門), 범일(梵日)의 사굴산문(闍崛山門), 도헌(道憲)의 희양산문(曦陽山門), 현욱(玄昱)의 봉림산문(鳳林山門), 이엄(利嚴)의 수미산문(須彌山門)을 가리킨다.

신라하대에 기존의 불교계에 선종이 새롭게 수용되었다. 새로운 불교 사조의 도입에 적극적이었던 신라 승려들은 당나라 유학을 통해 선종에 관심을 갖게 되고, 이를 수용하여 신라에 소개하고 정착시켜 갔다.

신라에 선종을 가장 먼저 전한 인물은 법랑(法朗)으로 그는 도신(道信)의 선법을 신라에 전하였다. 법랑은 선덕여왕에서 성덕왕대 걸쳐 생존한 인물로 추정되는데 이 시기 신라에서 선이 이어진 모습은 찾을 수 없다. 이후 신행(神行)은 북종선이 크게 융성한 시기에 당에 유학하였고 759년에 귀국하여 20년간 단속사에서 머물면서 전법하였다. 그러나 혜공왕대 신행의 구체적인 활동은 알려져 있지 않다. 821년(헌덕왕 13)에는 도의(道義)가 귀국하였다. 그는 마조도일(馬祖道一)의 제자인 서당지장(西堂智藏)에게서 배워 남종선을 신라에 처음 전래하였다. 하지만 당시 사람들은 종래의 교종에 익숙하였기 때문에 선법을 마어(魔語)라고 비방하여 설산에 은둔하였다고 하니, 헌덕왕 대에도 선종이 수용되지 못했음을 알 수 있다.

그런데 헌덕왕을 이은 흥덕왕 대에는 분위기가 전환된다. 흥덕왕은 즉위 초에 남악에 머물고 있던 홍척(洪陟)에게 나라의 안녕을 위한 법문을 청하였고 궁에서는 그가 온 것을 기뻐하였다고 한다. 홍척이 선법을 전함으로서 아침의 범부가 저녁에는 성인이 되었다면서 그 흥함이 갑작스러웠다는 기록을 통해 불과 몇 년전 도의의 선법은 환영받지 못한 것에 비하여, 홍척으로 인해 본격적으로 선종이 신라에서 받아들여졌다는 것을 알 수 있다.

선종의 가르침은 경전 이해를 바탕으로 하는 교종에 비해 개인이 주체가 되는 구체적인 실천 수행을 강조하고 있기 때문에 혁신적인 면모를 지니고 있다. 선종의 이와 같은 성격은 신라하대에 새로운 세력으로 부상한 지방 호족들에게 의미 있게 다가왔다. 가장 일찍 성립된 실상산문 건립에 선강태자나 단의장옹주와 같은 왕실세력이 관여하기도 했지만, 구산선문은 지방호족의 세력 기반의 지원을 배경으로 성장하였다. 선종은 중앙의 왕실의 지원을 받으면서도, 신라하대 새로운 사회 변화의 주체였던 호족들의 적극적인 지원을 받음으로서 그 영향력을 확대해나갈 수 있었던 것이다.

구산선문의 개조를 비롯한 선승들도 호족 출신이 많았고, 중앙 귀족 출신이라 하더라도 낙향하여 호족화한 사람들이 많았다. 선종의 활동 무대도 지방이었다. 당시 선종을 대표하는 구산선문을 비롯한 선종 사찰들은 경주의 외곽에 해당하는 전라도, 충청도, 강원도 지역에 집중되어 있다. 호족들이 선종을 집중 지원함으로써 선종은 새로운 사회의 지성으로 자리 잡았고, 신라 사회의 개혁을 추진하는 사상적 의미를 갖게 되었다. 이들은 지방에서 위상을 키워갔을 뿐만 아니라, 산문의 조사들은 대체로 국가로부터 국사나 이에 준하는 대우를 받고 선사의 휘호를 받는 등 그 위상을 인정받았다.

선종의 전래와 산문의 형성으로 신라하대의 불교는 선종과 교종이 두 축을 이루는 형세를 이루며 교학불교와 대립하면서도 상호 영향을 주기도 하였다. 이는 선종을 전래한 승려들 대부분이 출가 후 신라에서 화엄을 수학의 경험을 갖고 있는 것과 연관이 있다. 무염(無染)은 부석사에서 화엄을 공부하였고, 무염의 제자 여엄(麗嚴)도 마찬가지였으며, 도윤(道允)의 제자 절중(折中)이나 혜철(慧哲)도 부석사에서 화엄을 공부하였고, 개청(開淸)도 화엄사에서 화엄을 공부하였으며, 행적(行寂)도 해인사에서 화엄을 공부하였다. 구산선문 중 희양산문을 연 도헌(道憲)은 중국에 유학하지 않고 독자적으로 산문을 개창하였으나 나머지 선종산문의 개조자들은 모두 중국 유학을 통해 선을 접하고 전래하였다. 그런데 이들은 유학 전에 교학불교인 화엄에 대한 공부를 한 후에, 당으로 유학을 가서 새롭게 선종을 배워 왔다. 이와 같은 경험은 선종만을 내세우기보다는 교학불교와의 상호 영향을 주고받는 모습이 나타난 이유가 되었다.

이 시기 선문 개창조들은 육조혜능의 제자인 마조도일 계통의 선을 전했다는 공통점이 있다. ‘평상심이 도이다.’, ‘마음이 부처이다.’라는 말은 그의 선사상이 지닌 특징을 잘 보여준다. 마조도일은 초월적이고 이념적인 것이 아니라 일상생활에 철저할 것을 요구하였는데, 이와 같은 마조계통의 선사상이 전해 졌던 것이다. 그러면서도 당시의 정치적 배경과 각 선승의 개성에 따라 그 교화 방법 등에는 차이가 있었다.

신라하대 선종의 모습을 설명할 때 구산선문이 성립했다고 한다. 구산선문이라는 용어는 『고려사』 권10 선종 원년(1084)의 ‘九山門’이라는 기록에 착안하여 신라시대 구산선문의 개창설이 제기됐다. 그런데 구산선문의 신라시대 성립에 대해서는 논의의 여지가 있다. 신라 당대 기록이 아닌 『고려사』에서 구산선문이 언급되고 있으며, 수미산문의 경우에 932년(고려 태조 15년)에 개창된 예도 있다. 따라서 구산문은 고려 후기의 선종계의 인식을 반영한 것이고 나말여초의 선종계를 망라한 체계가 아니라는 의견도 있다. 또한 구산선문의 개창의 기준을 어떻게 정의할 것인가에 대해서도 명확하지 않다.

이러한 학계의 논의와는 별개로 신라하대에 선종이 전래되고, 신라 사회에서 영향력을 확대해나가면서 가장 먼저 실상산문이 개창된 이후 여러 산문이 개창된 것은 분명하므로, 그것이 신라 당대이든, 후대이든 9개의 선문이 대표적으로 인식되었다고 볼 수 있다. 한편 구산선문 이외에 혜소(慧昭)는 도의나 홍척과 비슷한 시기에 하동 쌍계사에서 산문을 이루고 번창했다. 고려 왕건의 선대 세력과 관련 있는 순지(順之)는 오관산 선운사에서 위앙선풍을 폈다. 왕건과 연결된 보양(寶壤)은 청도 운문사(雲門寺)에서 선풍을 이루었다. 이들 외에도 구산선무에 들어가지 않으면서도 산문을 이룬 경우가 많았다.

선문(禪門) 혹은 산문(山門)은 선 수행을 통해 깨달음을 체험하고 스승에게 체험을 인가 받아, 산사에 주석하면서 제자들을 양성하여 독자적인 선풍이 만들어지는 모습을 말한다. 이러한 측면에서 가지산문의 도의와 염거 당시에는 실제적으로는 산문이 형성되었다고 할 수 없으며 체징이 가지산 보림사에서 제자들을 양성할 때부터 가지산문이 시작됐다고 볼 수 있다. 그러나 도의를 가지산문의 개산조라고 하는 것은 도의의 독자적인 선풍이 염거를 통해 체징에게 이어졌음을 의미하기 때문에 가지산문의 개창이 도의로부터 시작되었다고 한다. 이러한 개념에서 구산선문의 개창조와 그 특징을 열거해보면 다음과 같다.

1) 가지산문
가지산문의 개창조는 도의이다. 도의는 염거에게 법을 전했고, 다시 염거는 체징에게 법을 전했다. 체징은 처음에 화엄학을 공부하였으나 억성사의 염거를 찾아가 선법을 본격적으로 배우게 되었다. 837년(희강왕 2)에 입당했다가 840년(문성왕 2)에 신라로 돌아와서 헌안왕의 요청에 따라 보림사(寶林寺)로 옮겨 머물게 되었다. 이때 이후 김언경 등 중앙의 세력가들로부터 후원을 받았으며 가지산문을 형성하였다.

2) 실상산문
실상산문은 서당지장으로부터 법을 이은 홍척(洪陟)이 개창하였으며, 구산선문 중 가장 먼저 개창되었다. 홍척은 826년(흥덕왕 1)에 귀국했으며 이후 선강태자 충공의 지원을 받았다. 830년(흥덕왕 5) 경에 지리산에 있다가 826년(희강왕 1) 경에는 설악산으로 옮겨 지냈다. 홍척의 문하 제자인 수철(秀澈)도 단의장옹주의 도움을 받아 실상산문을 성립했다. 실상산문은 구산선문들 중 비교적 왕실과 밀착된 모습을 보여서, 홍척의 경우 경문왕과 진성여왕의 부름에 응하여 왕경에 가기도 했고, 헌강왕과 서신을 주고받았기도 하였다.

3) 동리산문
동리산문의 혜철은 부석사에서 화엄을 공부하였으나, 814년(헌덕왕 6)에 입당하여 서당지장의 법인을 받아서 839년(신무왕 1)에 귀국하였다. 태안사(泰安寺)에 머물던 혜철은 문성왕의 예우를 받았는데, 문성왕이 나라를 다스릴 시책을 묻자 봉사(奉事)를 올리기도 했다. 이후에도 여러차례 왕실의 자문에 응하였다. 혜철의 선풍을 계승한 인물로는 여선사(如禪師)가 있으며, 이어 광자윤다(廣慈允多)는 신라 효공왕과 고려 태조의 귀의를 받아 번창하였다.

4) 사자산문
사자선문은 도윤(道允)과 절중(折中)에 의해서 형성되었다. 도윤은 화엄학을 공부하다가 825년(헌덕왕 17)에 입당하여 선을 배워 남전보원(南泉普願)의 법을 이었으며, 847년(문성왕 9)에 신라로 돌아왔다. 귀국 후 도윤은 경문왕의 귀의를 받았으나 쌍봉사(雙峯寺)로 옮겨 지내게 되었다. 절중은 도윤의 제자로 부석사에서 출가했으나 도윤을 찾아가 가르침을 받았고 이어 자인(慈忍) 선사 문하에서 16년간 수행하였다. 이후 사자산 흥녕선원(興寧禪院)에 머물렀다. 절중은 헌강왕과 정강왕 그리고 진성여왕의 귀의를 받았으나, 왕실의 부름에 적극적으로 응하지 않았다. 예를 들면 진성여왕이 국사(國師)의 예우를 표하고 보좌를 청하였으나 이미 때가 늦었음을 이유로 거절하였다. 절중 이후 사자산문은 왕실이 아닌 지방호족과 연관되었다.

5) 성주산문
성주산문은 무염(無染)에 의해 개창되었다. 무염은 부석사에서 화엄을 수학하였고 821년(헌덕왕 13)에 입당하여 마조도일의 제자인 마곡보철(麻谷寶徹)의 법을 받아 845년(문성왕 7)에 귀국하였다. 그리고 보령 지방에 대규모 장원을 가지고 있던 김흔의 후원을 받아서 성주산문을 개창하였다. 김흔의 경우 왕위계승을 둘러싼 분쟁에서 패배한 세력으로, 중앙에 있지 못하고 보령으로 옮겨온 인물이다. 무염은 처음에는 왕실의 부름을 받았을 때 응하여 경문왕과 헌강왕, 정강왕으로부터 귀의를 받았다. 그러나 이후에는 지방 호족과의 관계가 더 깊어지게 되었다. 성주산문은 구산선문 중 가장 번창하였으며, 많은 제자들을 배출했다. 순예(詢刈)·원장(圓藏)·승량(僧亮)·보신(普愼)·심광(深光)·영원(靈源)·현영(玄影)·대통(大通)·여엄(麗嚴) 등이 무염의 제자들이었다.

6) 사굴산문
사굴산문은 범일에 의해 개창되었다. 범일은 831년(흥덕왕 6)에 중국에서 마조도일의 제자인 염관제안(鹽官齊安)으로부터 법을 받고 846년(문성왕 8)에 신라로 돌아왔다. 명주도독 김공(金公)의 청으로 굴산사(崛山寺)에 머물면서 교화하였다. 김공은 강릉 지방의 호족으로서 중대 진골 세력의 핵심이었던 김주원의 후손이다. 범일은 경문왕·헌강왕·정강왕이 차례로 국사(國師)로 받들어 왕경으로 청하였으나 모두 사양하였다. 범일의 제자로는 개청(開淸), 행적(行寂) 등이 있다.

7) 희양산문
희양산문의 개창조는 도헌이다. 도헌은 입당하지 않고 혜은으로부터 법인을 받아 북종선을 이은 인물이다. 한편 손제자인 긍양(兢讓)의 비에 따르면 도헌이 혜소의 법을 이었다고 한다. 그는 경문왕의 초청을 여러 차례 거절하였고, 864년(경문왕 4)에는 현계산 안락사로 옮겨 교화활동을 하였다. 뒤에 희양산에 절을 지어 881년(헌강왕 7) 봉암사(鳳巖寺)라는 사액을 받았다. 문하에 양부와 계휘가 있었는데, 양부의 제자인 긍양은 900년(효공왕 4)에 입당하여 도연(道緣)에게 법을 얻고 924년(경애왕 1)에 귀국하였다. 935년(경순왕 9) 봉암사를 중창한 이후 희양산문이 크게 발전했다. 그는 고려왕실과 밀접한 관련을 맺어 태조·혜종·정종·광종의 존숭을 받았다.

8) 봉림산문
봉림산문은 현욱(玄昱)이 개창조이다. 현욱은 824년(헌덕왕 16)에 입당하였다가 837년(희강왕 2)에 귀국하였다. 그는 실상사에 머무르며 민애왕, 신무왕, 문성왕, 헌안왕의 귀의를 받았고 고달사(高達寺)에서 지내다가 입적하였다. 그의 제자 심희(審希)는 진성왕이 왕경으로 와줄 것을 청하였으나 거절하고, 김해 지방의 호족인 소율희 등의 지원을 받아 봉림산문을 열었다. 이후 경명왕의 귀의를 받았으며, 918년(경명왕 2)에는 경주에 가서 설법하기도 하였다.

9) 수미산문
수미산문의 개산조 이엄(利嚴)은 교학을 공부하다가 896년(진성왕 10)에 중국에 가서 운거도응(雲居道膺)의 법인을 받았는데, 도응은 혜능 문하인 청원행사의 법맥을 이었다. 911년(효공왕 15)에 귀국하여 김해지역의 소율희의 도움을 받았으나 이후 개성 지방의 호족인 왕씨와 그 외척 황보씨 세력의 후원을 받아서 해주의 광조사(廣照寺)에 거주하면서 산문을 이루었다. 이엄의 제자로는 처광(處光), 도인(道忍), 정비(貞朏), 경숭(慶崇), 현조(玄照) 등이 있다.