后周开国皇帝郭威是后汉的开国功臣,受后汉高祖刘知远重任。郭威是刘知远临死时指定的顾命大臣之一,他奉后汉隐帝刘承祐命,多次平定藩镇叛乱。郭威登基后开始进行一系列的改革。减轻和免除了许多徭役,同时整顿军纪和管理机构内部的腐败。柴荣继位后不久亲自领兵抵抗北汉的进攻。在高平之战中他亲临战场,在出师不利、己方右翼溃退的情况下扭转战势,击败北汉军队。随后乘胜追击,一直攻到太原。从955年到958年他三次亲征南唐,迫使南唐取消皇帝称号、几乎将所有长江以北地区割给后周。959年柴荣再次北上攻辽,军队在两个月的时间里几乎攻到幽州。不久柴荣病逝,其幼子柴宗训登基。
周太祖即位之后,能够躬行节俭,下诏禁止各地进贡珍巧纤奇、山珍海味,又将宫中原有的金银玉器、镂宝床几、饮食之具,砸碎于殿廷,表示自己厉行节俭的决心。面对晋汉以来残破的社会经济,他又下诏奖励耕殖,招抚流亡,平均赋役,恢复农业生产,发展经济,使得北方的社会经济在其统治的数年中有了一定程度的恢复和发展。此外,他还针对当时轻视发展文化,轻视文士的现象,采取了一些较积极的措施,力图改变当时的不良风气。比如周太祖曾亲至曲阜拜祭孔子,以表示对儒学的重视;他还重用文士,重视科举选士,表现出了与五代其他各帝不同的一些风范。面对当时的骄兵悍将和败坏的吏风,周太祖首先从中央做起。枢密使王峻专横跋扈,居功骄矜,排斥异己,就连周太祖的养子柴荣请求入觐,由于担心会被留下而予以拒绝。王峻要求兼任青州节度使,得逞后又要求罢免宰相李谷、范质,另行起用自己推荐的人选,周太祖婉言推却,王峻马上出言不逊。周太祖忍无可忍,遂下令拘押王峻,将他贬死。对于敢于反叛的藩镇则采取坚决镇压的措施,限制藩镇对州县的权力,实行民政、军事分工管理。为了改变吏风,周太祖对贪浊的官吏实行严厉惩治的政策,处死了一批贪赃枉法、残酷暴虐的地方官员,在一定程度上扭转了当时的吏风。
周世宗柴荣即位后,遇到的头等大事,便是如何抵御北汉的进攻。北汉主刘旻利用周太祖新丧,世宗刚刚即位,人心不稳之际,联合契丹发兵南下上党潞州、泽州(今山西晋城)二州,妄图一举灭亡后周。当时朝中许多人反对用兵,只有宰相王溥一人支持世宗,世宗力排各种干扰,决定亲率禁军出征。双方在泽州高平县南(今山西晋城市高平南)相遇,刘旻见周军兵少,遂不等契丹军到便发动了进攻。两军交锋,禁军大将樊爱能、何徽率右军溃退,一路杀掠百姓,并造谣言说:“官军大败,馀众已降。”这一情况的突然出现,使得周军的形势变得非常严峻,周世宗屹然不动,率领亲兵,临阵督战。禁军主将张永德等率偏将赵匡胤冲锋陷阵,拼死奋战,双方血战至傍晚,北汉军队支持不住,开始后退,万馀人被赶至山涧边,死伤惨重,死尸弃甲,填满山涧。刘旻仅率亲骑百馀狼狈逃走。夜间迷路,寻找一村民引路。由于北汉统治残暴,百姓恨之入骨,走了百馀里路,才发现走向了晋州,遂将引路村民杀死,另外找路逃回太原,到达沁州时,当地官吏前来献食,尚未举筷,听说周军追到,又仓皇逃窜。此战史称高平之战,至此以后,北汉再也不敢轻言伐周了。
高平之战周世宗虽然取得了胜利,但也暴露出骄兵悍将难以驾御的状况。为了解决这一问题,周世宗决意改变五代诸朝对骄兵悍将纵容姑息的政策,他召集诸将,当众宣布樊爱能等将校七十多人罪状,并立即斩首。此举使骄兵悍将有所畏惧,初步整顿了败坏的军纪。周世宗深知仅靠杀若干个人是不能从根本上解决问题的,要想改变五代军队长期遗留下来的积习,提高战斗力,必须从整顿禁军入手。返回汴梁后,周世宗任用年轻将领,裁汰禁军中的老弱病残,召募天下豪杰,精选骁勇,将藩镇军队中的善战之士,选入禁军。周世宗甚至亲自试阅武艺,选拔人才。经过此次整顿后,旧史记载说:“诸军士伍无不精当,由是兵甲之盛,近代无比,且减冗食之费焉。”有了一支精锐的军队,只能说为日后的统一战争奠定了一定的基础,并不等于完全具备了统一的条件。于是周世宗又从平均赋税,发展生产,整顿吏风等方面入手,进行了比较彻底的改革。