공화정 후반기의 또 하나 큰 과제였던 군제에 있어서도 최고사령관 아우구스투스의 개혁의 의하여 사상 최초로 본격적인 상비군 제도가 확립되었다. 이 군제는 기본적으로 3세기까지 유지되어 제국의 평화를 지켰다. 제정기의 상비군은 세가지 요소로 구성되어 있었다. 첫째, 주력 보병 군단으로서 총 28개 군단이 주요한 황제 혹주에 배치되어 그곳에 상주했다. 그중에는 수백년 간 같은 속주에 주둔한 군단도 있다. 기원전 9년, 토이토부르거발트의 패전으로 게르만인에 의하여 3개 군단이 전멸, 한동안 25개의 군단 체제가 계속되었으나 뒤에30개 군단으로 증강되었다.

군단병은 원칙적으로 로마 시민의 지원병으로서 처음에는 이탈리아인이 중심이었다. 후에는 속주 거주 로마 시민이 대다수를 점했다. 복무 기간은 20년. 지원병은 입대 후 황제에게 충정을 선서하고, 성소에는 군단기와 황제의 초상화가 나란히 놓였다. 황제의 상비군인 것이다. 그들은 직업적인 병사로서 엄한 훈련과 군무에 전념했다.