일제 헌병의 조선 주둔은 1896년 1월 25일의 임시헌병대 181명에서 시작되었다. 이들은 1903년 12월 1일에 임시헌병대를 주차헌병대로 개칭하면서 주차대사령관 휘하로 들어갔다. 헌병대장 사카야(境野竹之進)대위 밑에서 군사경찰과 철도·전신을 경비하였다.

　이후 1904년 3월 11일에 주차군 예하부대로서의 ‘한국주차헌병대’의 편성을 명령받았다. 그 편성은 대장 다카야마(高山逸明)소좌 밑에 위관급 이하 총원 329명이었다.⁵⁵⁰⁾내역은 隊長인 佐官 1명, 이하 대위 2명, 중·소위 6명, 하사 46명, 상등병 256명, 군의 3명, 간호장 3명, 주계 1명, 計手 1명, 蹄鐵工長 2명, 馬卒 8명(합계 329명)과 馬匹 77頭. 이 정원 외에 간병인 6명과 軍役夫 37명을 둘 수 있었다. 이들은 그해 7월 20일에 주차군사령관 하라구치(原口庚濟)가 함경도에 군정을 시행하고, 鏡城 및 부근 일원에 헌병치안경찰제를 실시하자 철도·전신 경비 외에 치안경찰 업무도 맡게 되었다.⁵⁵¹⁾≪韓國施政年報≫, 明治 39·40년, 123쪽.