唐末五代百年乱世，祸乱根源皆在于兵权下移、武臣擅政、藩镇割据、禁军私属。将帅手握重兵，财赋自专、官吏自置、世袭镇守，朝廷无力节制；禁军唯知主将、不知天子，兵随将转、动辄兵变篡代，以致“帝王更迭如走马，兵权在手即王侯”。赵匡胤亲身经历五代更迭，深知乱世症结全系军制崩坏。因此建宋立国之后，其最核心、最彻底的改革，便是重构国家军制、收回天下兵权、分割将帅权力、重塑中央军权体系，从制度层面彻底根除武将乱政、藩镇割据的千年隐患。
宋太祖整顿军政，首在收宿将兵权、虚化藩镇实权。建国之初，他通过著名的“杯酒释兵权”，和平解除石守信、王审琦等开国禁军宿将的殿前、侍卫禁军最高统兵权，将一众资深武将调离中央禁军体系，外调至各地担任节度使。看似优礼勋臣、酬以藩镇高位，实则是剥夺其京师重兵、削其核心军权。
随后，赵匡胤持续推行削藩之策，层层拆解唐末以来节度使集军、政、财、司法于一身的特权。通过收回地方财权、司法权、行政权，限定藩镇职权范围，剥夺藩镇招募军队、自筹粮草、节制州县的权力。至宋初数年，五代以来权势滔天、割据一方的藩镇彻底被架空，节度使仅剩高阶荣誉官衔，徒有虚名、无有实权，彻底终结了藩镇割据作乱的历史。
在收夺地方兵权、安顿宿将之后，赵匡胤随即对中央禁军最高统辖体系进行颠覆性拆分。五代禁军由单一最高将帅统领，兵权高度集中，极易滋生兵变。太祖改弦更张，将禁军统领权一分为三，设立殿前司、侍卫马军司、侍卫步军司，合称“三衙”。三衙长官分领禁军、互不统属、相互制衡，三者皆直接听命、直接对皇帝负责，无人能够独掌全国禁军兵权，从顶层杜绝禁军主帅专权擅兵的隐患。
为进一步实现兵权拆分、权力制衡，宋初正式确立枢密院掌军政、三衙掌统军的二元军制格局。枢密院作为全国最高军事中枢，专掌兵籍、军令、调兵之权，可以根据诏令调动天下兵马、制定军事政令、任免武官，但绝不直接统领、管束军队；而三衙将帅平日专职禁军的训练、管理、驻扎、纪律，手握统兵实权，却无任何私自调兵、发兵之权。
调兵权与统兵权彻底分离、相互割裂、互相牵制，任何将帅、任何机构都无法单独掌控军队，所有军事核心权力最终全部归集于皇帝一人，彻底根除了将帅拥兵自重、私蓄武力、起兵叛乱的制度土壤。
与此同时，赵匡胤推行更戍法，建立常态化军队轮换制度。诏令全国驻防禁军
…。。