5위를 중심으로 운영되던 조선 초기의 중앙군은 16세기 이후 군역의 대립제가 일반화되면서 제 기능을 수행하지 못하였다. 임진왜란 초기에 어이없는 패전을 경험한 조정에서는 새로운 군대의 필요성을 절감하고, 왜군을 물리치는 데 효과적인 편제와 군사 훈련 방식을 모색하였다. 그 결과, 훈련도감이 설치되었다. 훈련도감의 군병은 삼수병으로 편성되었는데, 이들은 장기간 근무를 하고 일정한 급료를 받는 상비군으로서, 의무병이 아닌 직업 군인의 성격을 가진 군인이었다.

훈련도감에 이어 대외 관계와 국내 정세의 변화에 따라 군영이 더 설치되었다. 후금과의 항쟁 과정에서 국방력 강화를 명분으로 어영청, 총융청, 수어청 등이 설치되었고, 숙종 때에 금위영이 추가로 설치되어 17세기 말에는 5군영 체제가 갖추어졌다.

지방군의 방어 체제도 변화하였다. 조선 초기에 실시되던 진관 체제는 많은 외적의 침입에는 효과가 없었다. 이에 16세기 후반에 이르러 제승방략 체제가 수립되었다. 그러나 이것도 임진왜란 중에 큰 효과를 거두지 못하자, 다시 진관을 복구하고 속오법에 따라 군대를 편제하는 속오군 체제로 정비하였다.

속오군은 위로는 양반에서부터 아래로는 노비에 이르기까지 편제되어, 평상시에는 생업에 종사하면서 향촌 사회를 지키다가 적이 침입해 오면 전투에 동원되었다. 그러나 양반이 노비와 함께 속오군에 편제되는 것을 회피함에 따라 상민과 노비들만 남게 되었다.