隋朝军权主要集中于中央，由皇帝亲自掌握。尚书省下辖的兵部，为皇帝日常的军事代办机构。其最高长官为兵部尚书，下设兵部侍郎、职方侍郎、驾部侍郎、库部侍郎及有关人员。
开皇元年二月，隋文帝在全国设十二卫府，即左右卫，左右武卫府，左右武侯府，左右领左右府，左右监门府和左右领军府。左右卫掌宫掖禁御，督摄仗卫；左右武卫府领外军宿卫；左右武侯府掌车驾外出警卫；左右领左右府掌侍卫左右，供御兵杖；左右监门府掌宫殿门禁及守卫；左右领军府掌十二军籍帐、差科和辞讼。左右卫、左右武卫和左右武侯各置大将军1人，将军2人，长史、司马、录事、功、仓、兵、骑等曹参军，铠曹、法曹行参军各1人，行参军左右卫、左右武侯各6人，左右武卫各8人。而左右领左右府、左右监门府和左右领军府所置官员有所不同。