조선은 전국 300여 개의 군현에 모두 수령을 파견하여 통치함으로써 명실상부한 중앙집권체제를 수립하였다. 정부의 지방 통치가 원활하게 이루어지기 위해서는 왕명을 대행하여 지방민들을 다스리는 관찰사와 수령직에 능력 있는 인물들이 임명되어 청렴하고 공정하게 행정을 운영하는 것이 필수적이다. 하지만, 모든 지방관들이 이와 같은 조건을 갖추는 것은 현실적으로 불가능했기 때문에 이들에게만 지방 통치를 전적으로 맡길 수는 없었다. 이에 조선 정부는 지방관들에게 대한 관리·감독을 통해 그들의 무능이나 불법·비리 등을 적발하고 적절한 조치를 취함으로써 지방행정이 원활이 운영될 수 있도록 하였다. 중앙정부가 지방관들을 관리·감독하기 위해서는 반드시 감찰관이 파견되어야 했는데, 이와 같은 감찰관의 대표적인 경우가 바로 어사(御史)였다.

중국에서는 한대(漢代) 이후 관리들의 비위(非違)를 규찰하는 직책을 어사라고 하였다. 우리나라에서도 고려에서 감찰기관으로 어사대(御史臺)를 설치하고 소속 관원으로 시어사(侍御史), 감찰어사(監察御使) 등의 어사직을 두었다. 조선에 들어서는 사헌부(司憲府)를 설치하여 관리·감찰 기능을 수행했는데, 관직명을 집의(執義)·장령(掌令)·지평(持平)·감찰(監察) 등으로 개정하면서 어사라는 명칭은 사라졌다. 사헌부는 지방 수령에 대한 관리·감독 업무를 수행하기 위해 사헌부 감찰을 지방에 파견했는데, 이들을 행대감찰(行臺監察)이라고 불렀다.

조선에서 지방관 규찰을 담당하는 직책으로 ‘어사’라는 이름이 등장한 것은 세조대로, 1455년(세조 1)에 처음 시행된 분대어사(分臺御史) 가 그것이다. 이 제도는 조신(朝臣)에게 사헌부 관직을 겸직시킨 후 그를 분대어사로 파견하여 지방에 상주하면서 지방관들을 규찰하도록 하는 것이었다. 이는 상시적인 규찰이 가능하다는 장점이 있었지만, 분대어사가 상주함에 따라 관찰사의 수령 감독권과 충돌하는 문제점이 지적되었다. 이에 조선 정부는 지방에 상주하는 분대어사를 폐지하는 대신 조신들을 사헌부 관직 겸임과 상관없이 어사에 임명하여 수시로 지방에 파견해서 수령들의 불법과 비리를 규찰하도록 했는데, 이것이 조선의 어사제도로 정착하였다. 한편, 어사는 지방관에 대한 규찰 외에도 당시의 지역 현안에 따라 특정 임무를 부여받는 경우가 있었고, 부여된 임무에 따라 ‘재상어사(災傷御史)’·‘순변어사(巡邊御史)’ 등 다양한 수식어가 ‘어사’ 앞에 붙었다.

일반적으로 어사는 파견 사실이 미리 공개되었다. 그런데 이와는 달리 국왕의 특명에 따라 비밀리에 파견되어 지방관의 비리·불법을 규찰(糾察)하고 민생 현안을 점검했던 어사가 있었는데, 이것이 바로 ‘암행어사’이다. 암행어사는 파견 자체가 비밀에 부쳐지는 만큼 선발과 임명도 각별한 보안 속에 이루어졌다. 의정부(議政府)나 비변사(備邊司)에서 암행어사에 적합한 관원을 국왕에게 추천하면, 국왕은 해당 관원을 불러 봉서(封書)를 하사하고 암행어사로 임명하였다. 또 승정원에서는 어사의 임무를 기록한 사목(事目)과 마패(馬牌)·유척(鍮尺) 등을 지급하였다. 명령을 받은 암행어사는 도성 밖으로 나와 국왕의 봉서를 열어보고 행선지를 확인한 후 즉시 출발하여 수령 규찰 등의 소임을 수행하였다. 임무 수행을 마친 암행어사는 서울로 돌아와 자신의 업무 수행 내역과 지역의 주요 현안과 그 대책 등을 정리한 서계(書啓)·별단(別單) 등의 보고서를 작성하여 국왕에게 올렸다.

조선시대에 사헌부 관원이 아닌 어사가 지방관 감찰을 위해 파견되기 시작한 것은 성종대였다. 성종은 1489년(성종 20) 11월에 경기·경상·전라·충청·영안(永安)·강원 등 6개 도에 어사를 파견하여 민간의 병폐를 조사·보고하도록 하였다. 이때 어사들이 지방에서 조사할 사안들을 정리한 사목(事目)이 마련되었는데, 그 내용에는 ① 환곡(還穀) 수납의 부정 여부, ② 공물(貢物)의 공정한 배정, ③ 관아의 말[馬]과 노비(奴婢) 수효, ④ 사행(私行) 접대와 도적 발생, ⑤ 부역(賦役)과 학교 교육, ⑥ 아전의 농간 여부, ⑦ 일체의 불법과 민간의 폐해, ⑧ 송사(訟事) 처결 건수 등이 포함되었다. 이후 어사 파견은 사헌부 감찰을 파견하는 행대감찰과 더불어 지방관을 감독·규찰하는 핵심 제도의 하나로 자리매김하였다. 그리고 중종대 이후 행대감찰 제도가 폐지되면서 지방관에 대한 규찰 임무는 어사가 전적으로 담당하게 되었다.

성종대 시작된 어사제도는 암행이 아니라 파견 사실이 미리 공표되는 방식으로 운영되는 것이 원칙이었다. 하지만 중종대부터 제도적으로 공식화된 것은 아니지만 암행의 방식으로 어사가 파견되는 경우들이 조금씩 나타나기 시작하였다. 1507년(중종 2) 1월 경기·황해·충청도에 어사를 파견했는데, 이때 이들에게 각 고을에서 음식을 대접받지 말고 각자 말린 식량[乾餱]를 준비하여 번폐(煩弊)를 줄이도록 할 것을 지시하였다. 기존 연구에서는 어사가 식량을 직접 준비해서 다니는 것은 암행어사의 중요한 특징이라는 점에서 이때 파견된 어사를 암행어사로 보았다.

1550년(명종 5) 3월에 전국 8도에 어사가 파견되었는데 『명종실록(明宗實錄)』에는 이것이 암행어사라고 명시되어 있어서, 이때 이르러 암행어사가 공식화되었음을 알 수 있다. 하지만 이때까지도 여전히 암행어사보다는 파견 사실이 미리 공개되는 어사가 더 큰 비중을 차지하였다. 그러다가 선조대 임진왜란(壬辰倭亂)이 종식된 이후 무너진 사회기강을 재정비하기 위해서는 암행 감찰을 통해 수령의 불법과 탐학을 파악하여 개혁해야 한다는 주장이 힘을 얻으면서 암행어사의 파견이 본격화되었다.

임진왜란 이후 암행어사의 파견이 늘어난 것은 암행어사가 어사보다 지방관 감찰에 더 효율적이었기 때문이었다. 즉, 앞서 말한 것처럼 어사는 파견 사실이 해당 군현에 미리 알려지기 때문에 감찰 대상 수령들이 미리 대비할 수 있었으므로, 수령의 불법과 비리 규찰이라는 어사 파견의 1차적인 목적을 충분히 달성하기 어려웠다. 또, 어사는 감찰 기간 동안의 숙식과 말[馬]을 해당 군현에서 제공받았기 때문에 이로 인한 민폐가 상당했다. 반면 암행어사는 식량을 직접 준비하도록 했으며 역참(驛站)의 말을 이용하였기 때문에 어사보다 민폐를 줄일 수 있었다. 이런 이유로 17세기 이후 암행어사 제도가 보편화되었으며, 나아가 지방관 규찰뿐만 아니라 그 외의 특수 임무를 띠고 파견되는 어사들도 암행 방식을 이용하는 것이 일반화되었다. 그 결과 어사와 암행어사의 구분이 무의미해졌고, 17세기 후반에는 모든 어사가 ‘암행어사화(化)’하게 되었다.

암행어사 제도가 일반화되면서 17세기 이후 암행어사의 기능은 점차 확대·강화되는 추세가 나타났다. 암행어사 기능의 강화는 암행어사가 수행할 임무를 규정한 사목의 내용이 조선후기로 갈수록 점차 늘어나고 구체화되는 것을 통해 확인할 수 있다. 앞서 검토한 것처럼 어사가 처음 파견된 1489년(성종 20)의 사목에는 모두 8개 조항의 내용이 수록되었다. 또, 1566년(명종 21) 8월 재상어사(災傷御史) 파견 시의 사목에는 ① 민간의 폐막(弊瘼), ② 백성 침학(侵虐)과 민폐, ③ 음식 사치 여부, ④ 주고(酒庫) 혁파 여부, ⑤ 농우(農牛) 도매(盜賣), ⑥ 사사로운 관부(官府) 출입, ⑦ 역마(驛馬) 남용, ⑧ 농사 풍흉(豐凶), ⑨ 경유 지역의 농사 현황, ⑩ 선정(善政) 수령 탐문 등 10개 항목이 수록되었다.

이처럼 16세기까지 10개 조항 미만으로 정리됐던 암행어사 사목의 내용은 17세기 말에 이르러 크게 증가하였다. 1681년(숙종 7) 1월 안후태(安後泰)·김두명(金斗明) 등을 암행어사로 파견할 때 비변사에서 제정한 절목(節目)은 그 내용이 총 16개 조항으로 늘어났으며, 암행어사가 규찰할 사안들도 훨씬 구체적으로 제시되어 있다. 특히 이전에는 수령으로 한정되었던 암행어사의 규찰 대상에 감사(監司)·병사(兵使)·수사(水使) 등의 관리와 토호(土豪)·향리(鄕吏)까지 확대되었다. 이는 암행어사가 지방행정의 거의 모든 영역을 관리·감독하게 되었음을 보여준다고 할 수 있다.

18세기에 들어서면 암행어사의 역할은 더욱 증대되는 추세를 보였다. 영조대에 제정된 1727년(영조 3) 11월의 ｢호남어사절목(湖南御史節目)｣ 과 1735년(영조 11) 1월의 ｢어사염문조건(御史廉問條件)｣ 등은 이 시기에 강화된 암행어사 기능을 잘 보여준다. 또, 1762년(영조 38)에는 암행어사의 규찰 지역을 지정된 군현뿐만 그곳으로 가는 동안 경유하는 지역까지 확대하였다.

암행어사 기능의 강화 경향은 정조대에도 계속 이어져서, 1783년(정조 7) 6월 영남어사에게 내려준 ｢암행조건｣ 과 같은 해 10월의 ｢제도어사재거사목(諸道御史賫去事目)｣ 등이 만들어졌다. 그리고 이것이 다시 수정·보완되어 정조대 말에 ｢팔도어사재거사목(八道御史賫去事目)｣으로 최종 정리되었다. 이 사목은 각도에 파견된 암행어사가 파견 기간 중에 수행해야 할 임무들을 규정해 놓은 것인데, 경기 29개 조‚ 호서 34개 조‚ 호남 36개 조‚ 영남 32개 조‚ 해서(海西) 41개 조‚ 관서(關西) 44개 조‚ 관동(關東) 29개 조‚ 북관(北關) 37개 조 등 각 도별로 엄무 내용이 세분되어 있으며, 또 진휼을 실시할 때 적용되는 ‘설진시첨입조건(設賑時添入條件)’ 1l개 조항도 추가되어 있다. 이는 정조대에 암행어사의 기능이 크게 강화되었음을 보여주는 것이라고 할 수 있다. 실제 정조는 재위 기간 동안 암행어사를 60회나 파견했을 만큼 암행어사를 통한 지방통치를 적극적으로 추진하였다.