이조 태조는 고려의 제도에 따라 사헌부를 두고 시정(時政)을 논의하였으며, 백관(百官)들을 감찰하고, 기강을 바로잡았으며, 풍속을 바르게 하고, 억울한 누명을 풀어 주었으며, 함부로 속이는 것을 금지하는 등의 일을 담당하게 하였다. 그 우두머리를 대사헌(大司憲)이라고 불렀다.