조선시대 사헌부는 시정(時政)의 득실을 논의하고 풍속을 교정하고, 백관을 규찰, 탄핵하는 등의 일을 관장할 뿐 아니라 관리의 위법을 찾아내어 바로잡아 처벌하는 일도 하였다. 사헌부는 사간원과 함께 양사(兩司)를 이루어 언론 활동을 하였으며, 양사의 소속 관원을 대간(臺諫)이라 불렀다. 사헌부는 조선시대 내내 체제를 유지하다가 1894년(고종 31) 관제 개혁으로 폐지되었다. 헌부(憲府), 대각(臺閣), 백부(柏府), 오대(烏臺), 상대(霜臺)라는 별칭이 있다.

사헌부는 고려 초 설립된 후 명칭상의 변화를 거치면서 조선시대 관제가 되었다. 고려 초 에는 사헌대(司憲臺)로 칭했으며, 1023년(현종 14)에 어사대(御史臺)로, 1299년(충렬왕 24)에 사헌부로 개칭되었다. 이후 1356년(공민왕 5)에 다시 어사대로 명칭을 바꾸었다가 1369년(공민왕 18)에 사헌부로 고치는 등 관제 변화가 잦았다.

조선 건국 이후에는 1392년(태조 1) 문무백관의 관제를 정하는 과정에서 사헌부의 직제와 임무가 새로이 정비되었다. 이때 마련된 사헌부는 고려 말의 사헌부 직제를 계승한 것이다. 당시 규정된 사헌부의 업무는 정책의 득실을 평가·논의하고, 풍속을 바로잡으며, 관리의 공로와 죄과를 살펴 포상하거나 탄핵하는 등의 일이었다. 관원은 종2품의 대사헌(大司憲) 1명, 종3품의 중승(中丞) 1명, 겸중승(兼中丞) 1명이고, 정4품의 시사(侍史)가 2명, 정5품의 잡단(雜端)이 2명이며, 정6품의 감찰(監察)이 20명이었고, 7품인 서리(書吏)는 6명이었다.

이러한 태조대 사헌부의 직제는 1401년(태종 1)에 관제를 개편하는 과정에서 변화가 나타났다. 대관에 해당되는 종3품인 중승은 집의(執義)로 명칭을 바꾸었으며, 시사(侍史)는 장령(掌令)으로, 잡단(雜端)은 지평(持平)으로 개칭되었다. 감찰은 20명에서 25명으로 증원되었다. 태종대 개편된 사헌부의 대사헌, 집의, 장령, 지평, 감찰의 체제는 이후 『경국대전』에 그대로 법제화되었다.

『경국대전』의 직제가 태종대와 다른 점이 있다면 감찰이 24명으로 감원되었다는 것이다. 이러한 감찰은 이후 『속대전』에 이르면 11명이 감소되어 문관감찰 3명, 무관감찰 5명, 음관감찰 5명 등 총 13명을 두었다. 또한 임무도 보완되었다. 백관을 규찰하고 억울하고 원망스러운 일을 풀어주며, 외람되고 그릇된 행위를 금하는 임무까지 확대되었다. 사헌부에 속한 이속은 『경국대전』에서는 서리로 통칭되어 정비되었다. 대사헌(大司憲)에 딸린 서리가 1명이었으며, 사헌부 소속에는 39명을 두었다. 이후 『속대전』에 55인으로 증원되었다가 『대전회통』 단계에서 25명으로 감소되었다.

사헌부의 관원은 수장인 대사헌을 제외하고 모두 당하관인 정3품 이하의 관직에 속하였다. 따라서 주요 업무인 탄핵언론을 주도해 나가는 데 대사헌의 역할이 컸다. 대사헌은 도헌(都憲)이라는 별칭이 있으며, 사헌부 대청에서 집무를 보았다. 집의는 대사헌이 일이 있을 시에 그를 대행하였다. 아장(亞長)이라 하였으며, 집의청에서 집무를 보았다. 장령과 지평은 대사헌과 집의와 함께 대관(臺官)으로 통칭하였으며, 4대장(臺長)이라고도 하며 언론활동을 하였다. 이들은 대장청에서 집무하였다.

감찰은 대관과 구별되며, 대감(臺監)으로 불리기도 했다. 감찰방에서 집무를 보았으며, 관리들의 위법사항에 대해 규찰하고 단속하는 것이 주 임무였다. 이러한 직무 특성상 조선 초에는 감찰에게 차림새를 소박하게 할 것을 요구하였다. 그리하여 감찰은 누추한 옷이나 붉은 토단령(土團領)을 입었으며, 조련되지 않은 말과 부서진 안장, 짧은 사모, 해진 띠를 착용하였다. 그러나 명종 말년에 심의겸(沈義謙), 박순(朴淳) 등의 주장에 따라 감찰의 복색과 제도는 개선되어 화려하고 산뜻한 모양을 유지하였다. 이러한 감찰은 정6품으로 사헌부 다른 관원보다 품계가 낮으나 직무의 중요성 때문에 감찰의 임용에 반드시 서경을 거쳤다.

사헌부의 관원은 크게 대사헌·집의·장령·지평의 대관(臺官)과 감찰, 서리로 구분되었다. 업무도 분장되어 대관은 언관 또는 법관의 임무를 수행하였다. 감찰은 현장에 파견되어 규찰업무를 담당하였으며, 서리는 금령을 단속하였다.

첫째, 언관으로서의 언론활동은 대관의 임무 중 가장 중요하다. 대관들은 왕이나 관리의 말과 행동에 잘못이 있을 경우 이를 바로잡으려고 간쟁(諫諍)을 하였다. 또한 비리 관원에 대한 탄핵이나 부정하거나 직임에 적합하지 못한 관원을 등용하지 못하도록 하였다. 아울러 당시의 정치상황이나 정책의 옳고 그름을 논의해 정국을 올바른 방향으로 이끌어나갈 수 있도록 하였다.

둘째, 감찰활동이다. 사헌부의 관원은 관원의 근무상황과 태도, 근무 수행시 발생한 부정과 잘못 등에 대한 감찰을 시행하였다. 따라서 모든 제향과 조회에 반드시 대관과 감찰이 참석하여 관원의 근태와 비위를 살폈다. 특히 사헌부 감찰의 경우 국왕의 행행시에 파견되어 수행한 관원들이 관직 서열에 따라 정돈되었는가를 살폈다. 또한 각종 제례행사에도 파견되어 제수의 청결 여부, 제향관원의 준비상황, 의식절차 등을 살폈다.

지방관에 대한 규찰도 실시하였다. 조선 초기에는 풍문이나 상소 및 공문으로 올라오는 지방관원의 비위를 조사하기 위해 국왕이 대관 및 감찰을 해당 지방에 파견하기도 하였다. 이들을 행대감찰(行臺監察), 분대어사(分臺御使)라고도 하였다. 그러나 조선 후기에 이르러 어사제도가 마련되면서 지방관을 규찰하기 위해 파견되는 사헌부의 어사적 기능은 소멸되었다.

각 관사의 전곡 출납에 대한 감사도 시행하였다. 사헌부에는 매일 감찰, 금리(禁吏, 도성의 범법 행위를 단속하던 사헌부의 하급 관원) 등이 그 날에 집행할 직무를 기록한 분대기(分臺記)가 있었다. 대관이 분대기에 수결을 하면 이에 의거하여 감찰들은 각 관서에 나누어 파견되어 물품 출납을 확인하고 검사하였다. 이때 파견된 감찰을 정기적인 출납에 대한 감사의 의미로 월령(月令)감찰 또는 분대라고도 하였다.

이처럼 감찰은 조회 때에 모든 관원의 의례를 살폈을 뿐 아니라 중앙 관사와 지방에 파견되어 일의 진행 상황 및 오류를 검사하였다. 이때 1명을 방주감찰(房主監察)로 임명하여 다른 감찰들을 통솔하게 하였다.

셋째, 서경(署經)을 하였다. 서경은 사간원과 함께 행사하였다. 관원의 인사에 대한 심사인 고신서경(告身署經)은 초기에는 1품 이하의 모든 관원을 대상으로 하였다. 이조(吏曹)에서 임명대상의 성명, 이력, 사조(四祖) 등을 사헌부와 사간원의 양사(兩司)에 제출하면 양사는 이를 조사하여 적합하다고 판명되면 서명하여 동의하였다. 그러나 『경국대전』에 이르러 5품 이하의 관원은 사헌부와 사간원의 서경을 고찰한 후에 고신을 발급하는 것으로 법제화되었다.

관원의 임명 뿐 아니라 법제의 제정과 개폐(改廢)에도 서경권이 있었다. 새로운 법을 제정하거나 옛 법을 고칠 경우, 상중에 있는 관원을 기복출사(起復出仕)시킬 경우 의정부에서 논의하여 아뢰고, 예조에서 사헌부와 사간원의 서경을 살핀 뒤에 의첩(依牒)을 발급하였다.

한편, 사헌부는 언관으로서의 기능뿐 아니라 법사로서의 기능도 있었다. 조선 초부터 사헌부는 서울에서 법령 및 금주(禁酒), 금우(禁牛) 등의 금제(禁制) 위반자를 단속하였다. 금령은 사헌부 서리가 단속하였다. 그들은 분대기에 금리로 편성되어 금제를 위반한 사람들을 단속하고, 위반자에게 신체형이나 벌금을 징수하였다. 따라서 금리가 금령 위반자에게 뇌물을 요구하거나 받는 폐단이 많았다.

이처럼 사헌부는 각 관사나 지방에 감찰을 파견하여 관리의 부정을 적발하고 그에 상응하는 법적 조치를 취할 뿐 아니라 금제를 단속하는 등 사법권이 있었다. 이러한 직무의 특성 때문에 사헌부는 한성부, 형조와 함께 삼법사(三法司)라로도 불렀다. 삼법사는 각각 담당할 금제 조항을 분담하였고, 출금(出禁) 일수, 시각, 인원 수 등을 정하였다. 사헌부의 경우 매일 날이 밝기도 전에 대장(臺長)이 분대기에 서명하였고, 하위 관원은 모여서 그날의 출금 여부와 임무를 분담하였다. 주로 풍속을 교정하고, 신분별 생활을 규제하였으며, 사례(四禮)에 관한 규정 등을 단속하였다. 아울러 사헌부는 금령의 시행을 요청하거나 입안, 집행하기도 하였다.

사헌부의 관원은 언관과 법사로서의 기능과 역할을 담당했기 때문에 그 직무를 올바르게 수행하기 위해서 청렴하고 강직한 인물로 엄선되었다. 관원은 엄격한 심사를 거쳐 후보자를 추천하였으며, 이들은 서경을 받아 임용되었다.

사헌부의 관원은 각 지위마다 예의가 엄중하였다. 사헌부 지평(정5품)은 섬돌 아래로 나가 장령(정4품)을 맞아들이고, 장령이 집의(정3품)을 맞을 때나 집의 이하가 수장인 대사헌을 맞을 때에도 그렇게 나가 맞는 것이 상례였다. 아울러 사헌부에 새로 부임한 관원이 선임자들에게 음식을 대접하는 면신례도 혹독하였다. 면신례에서 사헌부의 선임자들은 새로 들어온 관원을 신귀(新鬼)라고 칭하며, 이들을 여러 가지로 욕보였다.

먼저 신귀에게 방 가운데서 서까래만한 긴 나무를 들게 했는데, 이것을 경홀(擎笏)이라 하였다. 만약 신참이 나무를 들지 못하면 선임자들은 관직의 고하 순서에 따라 신참의 무릎을 주먹으로 때렸다. 또한 신귀에게 연못에 들어가 물고기를 잡는 놀이를 하도록 해서 사모(紗帽)와 의복이 모두 더러워지게 했다. 거미 잡이 놀이도 하였다. 선임자들은 신귀에게 검게 그을린 부엌 벽을 손으로 문지르게 한 후 손을 씻게 하고 그 물을 신귀들에게 먹도록 했다. 물이 굉장히 더러웠기 때문에 신귀 가운데 토하지 않는 사람이 없었다고 한다.

아울러 선임자는 신귀에게 두꺼운 백지로 자서함(刺書緘, 명함을 넣은 고비)을 만들어 날마다 선임자의 집에 던져 넣게 하였다. 수시로 신귀의 집에 몰려가기도 했는데, 이때마다 신귀는 사모를 거꾸로 쓰고 나와 맞이하여 술자리를 마련하였다. 술자리에서 신귀는 선임자들에게 모두 기생 한 사람씩을 안겨주는데, 이를 안침(安枕)이라 하였다. 선임자들은 면신례에서 술이 거하게 취하게 되면 권근이 지은 「상대별곡(霜臺別曲)」을 노래하였다.

신귀들은 이러한 면신례를 치르고 대관(臺官)이 모두 모이는 날에 이르러서야 비로소 사헌부에 들어 갈 수 있었다. 이때에도 아침 일찍 청사에 나가 상관인 대리(臺吏)와 함께 대관들을 뵙는데, 예가 끝나기도 전에 전날 숙직한 선임자들이 방안에서 목침을 가지고 큰 소리를 치며 장난을 해 신귀가 도망가다 몽둥이에 얻어맞기도 하였다. 이러한 사헌부의 면신례 풍습은 유래가 오래되었지만 침학(侵虐)의 정도가 심해 성종대 이를 금지하기도 했다.