1894년 봄 조선의 관군은 동학농민군에게 패배함으로써 그 무력함을 드러냈다. 그러므로 조선이 청일전쟁 이후 독립국가로서의 지위를 유지하기 위해서는 최소한 내란을 진압할 수 있을 정도의 군사력을 보유하는 것이 급선무였다. 그럼에도 불구하고 일본은 조선이 근대적인 군사력을 갖추는 것을 원하지 않았기 때문에 군제개혁은 1895년까지 지연되고 있었다. 따라서 본격적인 군제개혁은 1895년 5월에 박영효가 일본의 간섭을 배제하고 독자적인 권력을 장악하고 나서야 비로소 추진되었다.

1894년 12월 17일 기존의 중앙군사 조직인 통위영·장위영·총어사·경리사·호위청 등이 칙령으로 폐지되었다. 1895년 초에 창설된 訓練隊는 당시 군부대신 조희연과 박영효에 의해 조심스럽게 양성되었다. 이 훈련대는 1895년 1월에 조희연의 주도 아래 창설되었으며, 나중에 박영효파 인사들이 그 요직을 차지하게 되었다. 그후 훈련대 제1대대 및 제2대대의 지휘권이 확립되었던 1895년 4월과 5월 무렵 박영효는 이 군대를 장악할 수가 있었는데 그 당시 훈련대는 974명의 병력을 보유하고 있었다.

박영효와 조희연은 5월말에 훈련대의 지휘권 문제를 둘러싸고 정치적으로 각축하는 양상을 드러내었다. 박영효는 조희연을 내각에서 축출하고 자신의 심복인 李周會를 군부대신 자리에 앉힌 다음＜開化建白書＞에서 제시했던 대로 재빨리 수만 명으로 구성된 강력한 근대적 상비군을 창설하려고 서둘렀다. 1895년 6월 중 그는 첫째 훈련대를 2개 대대에서 6개 대대로 확장하여 약 3,000명의 병력을 서울·평양·청주 등 주요 도시에 배치하는 일, 둘째 8대의 공병, 2대의 경중병, 그리고 2대의 마병 등 총 4,800명으로 구성된 新設隊를 창설하는 일, 그리고 셋째 3개월 교육과정으로 편성된 訓練隊士官養成所라는 군사교육기관을 창설하는 일 등 세 가지의 군제개혁작업을 추진하였다. 다시 말하면, 박영효는 1895년 7월 실각하기 이전에 근대적 사관학교 출신 장교가 지휘하는 약 7,800명 규모의 근대적 상비군을 조직하려고 기도했던 것이다. 이는 갑오경장 중에 시도된 가장 대담한 군제개혁이었다.

한편 중앙군제의 개편과 아울러 박영효는 전통적인 지방군제의 개혁을 단행하였다. 1895년 6월 18일에 8도의 감영과 함경북도의 按撫營, 그리고 5留守府의 폐지령이 발포됨으로써 지금까지 지방군의 최고 지휘부서였던 감영과 그 지휘관인 監司제도가 사라지게 되었던 것이다.⁴⁹⁹⁾≪韓末近代法令資料集≫1, 398쪽. 이어 6월 29일에는 “각도 外營 병정을 개국 504년 7월 12일(윤 5월 20일)로 일제히 해방한다”는 칙령이 내려져 지방군 해산작업이 진행되기 시작하였다. 그리고 7월 1일에는 전국에 산재한 烽臺의 봉수군을 폐지함으로써 재래식 군사 신호체계인 봉수제 역시 혁파되기에 이르렀다.⁵⁰⁰⁾≪日省錄≫, 고종 32년 윤5월 7일·9일. 그러나 이러한 지방군제의 개혁은 박영효의 급작스런 망명으로 중단되고 말았다.