隋文帝杨坚建立隋王朝后,吸取北周的教训,在强化政治和经济改革的同时,对兵制也进行了重大改革。隋朝的兵制改革,集中反映在对府兵制度的完善上。府兵制源于西魏和北周。西魏时期,府兵“不编户籍”,不从事生产,兵农分离,除执勤、作战、训练外,不担负其他赋役徭役。北周武帝时,由于府兵数量激增,大量均田户的农民当了府兵,府兵不从事生产的先例被打破,开始采取平时生产,农闲教战的形式,但由于其军籍专列,不归地方州县管辖,其家属往往隋军居住,不能长居久安,给其生产、生活造成很多困难。为了发展府兵制度,加强府兵建设,隋文帝开皇二年(公元582年)朝廷规定男子成丁的年龄为18岁,每年服役1个月。开皇三年,又把成丁的年龄放宽到2l岁,将每年服役的时间缩短成20天。开皇十年(公元590年),隋在统一全国后,朝廷又对府兵制作一些改革,使府兵除继续保留军籍外,与自己的家属一起要在州县落籍。他们同民众一样依据均田法受领田地,不日从事生产,战时出征。府兵均免除赋税和徭役,自备兵甲粮草。这样府兵的家属即可同民户一样安居乐业,不再随从府兵流动了。隋王朝对西魏以来府兵制的这一改革,使府兵制由过去的兵民分离,兵民分治而成为兵民共籍,兵民合治,兵民屯田,“寓兵于农”的军事制度。与此同时,隋文帝立国后,对官制也进行了改革,在朝廷设左右卫等十二府,分别统领分布在全国各地的军队。十二卫府的大将军直接由皇帝赐封和指挥,从而进一步将军权集中于皇帝的手中。隋王朝开国后,对地方军也进行了整顿,改变了兵隋将姓的宗法隶属关系,清除了私兵、部族兵的遗痕。此外,在边境及内地的重要州县设置总管,负责这一地域的军事,统一邻近诸州的军事管理和防各建设。