不妨来鸟瞰一下宋太祖初得天下时的政治版图。宋朝北方面对的是辽朝，盘踞山西的北汉与辽结盟，互为犄角，与北宋对抗。南方共有七个割据政权，占有今四川和重庆地区的是后蜀，控制岭南两广地区的是南汉，南唐据有长江下游以南今苏皖南部和江西、福建西部，吴越占领今浙江和上海、福建东北地区，局促在荆南三州的是南平，其南的湖南被武平节度使周行逢所占领，福建东南地区被清源节度使陈洪进所据有，前五个割据政权都属于所谓十国之列，而周行逢、陈洪进的政权还没有列名十国的资格。
面对五代以来的割据局面，太祖是有忧患意识和进取精神的。在平定二李以后，十一月的一个雪夜，太祖与弟弟光义密访赵普家，说：“我睡不着。一榻之外，皆他人家。所以来见你。”赵普说：“南征北伐，正当其时。愿闻成算所向。”太祖说：“欲收太原。”赵普沉默良久，再三追问，才说：“北汉即使一举而下，则西北边患将由我们独力担当。何不留着它，待削平诸国，弹丸黑子之地，还能往哪里逃？”太祖说：“这正是我意。刚才聊以相试罢了。”这就是雪夜访赵普的著名故事，当时定下的统一方略，后人概括为先南后北、先易后难八个字。
对这一统一战略，后人曾有非议，以为宋朝坐失进攻契丹、收复燕云的最佳时机。因为当时辽朝军政正处于辽穆宗在位的最腐败时期，而等到北宋统一南方以后，宋太宗北伐契丹时，辽朝已在辽景宗统治下经过十年休养生息，社会政治经济发生了重大变化，军事上涌现了耶律休哥、耶律斜畛等著名将才，攻守之势正向相反方向转化，收复燕云就没有那么容易了。
宋太祖赵匡胤
这一议论似有一定的道理，但只是从契丹一方着眼。周世宗临死前夺取北边三关，号为“不世之功”，他本人也认为燕云唾手可得。事有凑巧，世宗当晚突得急病，只得班师还朝。行至澶渊，他迟留不行，似仍留恋着未能实行的北伐。其后不久，周世宗便撒手归天，更使后人扼腕痛惜，把燕云未复归诸天意，认为宋太祖的统一方略违背了周世宗的本意。这实际上是值得商榷的。
其一，周世宗生前执行的也是先易后难、先南后北的统一战略，这一战略是由王朴提出的，宋太祖与赵普不过是这一战略的宋朝版而已。世宗攻南唐将下，转而北伐辽朝，是辽朝因南唐请求出兵进攻后周的缘故，并非统一战略的调整。
其二，由于周世宗攻取三关时并未与辽朝主力正面交战过，遂使当时人和后代史论家都以为契丹兵不堪一击。实际上，辽穆宗虽腐败，但契丹军事实力仍未可小觑。高平之战后，周世宗进攻北汉，辽朝派耶律挞烈率重兵驰援，大败后周大将符彦卿，杀勇将史彦超，周世宗不得不遗弃太原城下数十万刍粮，狼狈撤军。因而以为世宗不死燕云可复，以为辽穆宗时辽军不是对手的想法，充其量只是一种未经比试的乐观估计。
其三，最关键的是经济原因。自中唐以后，东南地区在全国经济中的比重明显上升。宋初，淮河流域虽入版图，但最称富庶的长江三角洲、浙江和号称天府之国的四川仍在南唐、吴越和后蜀的控制下。宋人后来常说“国家根本，仰给东南”，太祖当时也深知：仅靠中原地区的物力和人力，是难以支持旷日持久的北伐战争的。这就是宋太祖先南后北统一战略的深刻的经济动因。后人以未复燕云的历史遗憾去责难这一方略，只是超历史的一厢情愿。
统一方略既定，太祖就付诸实施。对北方的契丹和北汉，他基本采取守势，力图保持北方边境的暂时安定；对南方各割据政权，他利用矛盾，抓住时机，予以各个击破。太祖首选的攻击目标是盘踞荆湖地区的两个政权。
建隆元年，荆南节度使高保融去世，其弟保勖继位，两年以后，保勖也死，其子继冲嗣位。太祖派人打探人心向背和山川形势，回报说：荆南甲兵虽整而不过三万，谷物虽登而失于暴敛，四分五裂，日不暇给。就在高保勖死前一月，武平节度使周行逢也一命呜呼，他的儿子保权嗣位，才十一岁。衡州刺史张文表不买账，起兵袭占潭州（今湖南长沙），保权只得遣使向宋求援。太祖感到这是假道出师、一炮双响的大好机会。
乾德元年（963年）正月，太祖命慕容延钊为都部署，枢密副使李处耘为都监，借道荆南，讨伐张文表。二月，大军到襄州（今湖北襄樊），尽管武平政权这时已平定了张文表之乱，但宋方仍要借道。高继冲派叔父保寅到边境犒劳宋军，以侦探强弱。慕容延钊热情款饮帐中，李处耘密派数千轻骑兼程挺进，直指其都城江陵（今属湖北）。继冲听说宋军奄然而至，仓皇出迎，在江陵北十五里处相遇。处耘一边让他就地等候延钊，一边率亲军抢先入城。继冲还都，见宋军已分据要冲，知大势已去，只得将其控制的三州十七县的版籍奉表呈纳给宋太祖。
三月，慕容延钊继续率宋朝大军进克潭州。周保权知道来者不善，便准备臣服宋朝保住富贵，但遭部将张从富的竭力抵制。慕容延钊兵分两路，水陆并进，水路攻取了岳州（今湖南岳阳），陆路占领了澧州（今湖南澧县）。张从富退守朗州（今湖南常德）。李处耘下令选择数十名肥壮的俘虏，处死后命左右分吃了，然后选些年轻的俘虏黥面后放归朗州。宋军吃人的恐怖故事经生还的俘虏一传播，朗州军民无复守志，奔窜山谷。慕容延钊率军入城，擒杀了张从富，俘虏了周保权。没费多大周折，湖南十四州一监六十六县也纳入了宋朝的版图。
平定荆湖是太祖统一战争的第一战役，初战告捷，意义重大。首先，验证了先易后难统一方略的可行性，鼓舞了宋军的士气，坚定了太祖君臣的统一信心。其次，宋朝控扼荆湖，不仅在经济上夺得了这一中部粮仓，而且在军事上掌握了西上、东进、南下的主动权，使后蜀、南唐和南汉随时处于宋朝可直接打击的势力范围之内。尤其是后蜀，宋军可以从东面的水路和北面的陆路对其实施攻击。
后蜀到后主孟昶晚年，日事奢纵，国将不国，人民怨声载道。宋取荆湖，孟昶拟向宋朝通使奉贡，大臣王昭远坚决反对，在通往四川的长江水路上增设水军，以为防备。他还劝孟昶结好北汉，约期让其发兵南下，后蜀也派兵北上，使宋腹背受敌。孟昶派赵彦韬奉携蜡书出使北汉，他却拐道开封把蜡书献给了太祖。太祖正苦于没有借口，见此笑道：“这下可师出有名了。”
乾德二年十一月，太祖命王全斌为西川行营都部署，刘廷让、崔彦进为副都部署，王仁赡、曹彬为都监，率六万大军，分道攻蜀。出师以前，太祖对王全斌说：“凡攻下城寨，财帛都分给将士，我要的只是土地。”全斌和彦进率北路军由凤州（今陕西凤县东北）攻蜀，光义和曹彬率东路军从归州（今湖北秭归）入川。
后蜀以王昭远为都统，赵崇韬为都监，韩保正为招讨使，出兵迎战之际，王昭远大言道：“此去不但克敌，取中原也易如反掌！”他手执铁如意指挥军事，以诸葛亮自比。但一接仗，却三战皆败，连招讨使韩保正都成了俘虏，只得退保剑门天险，负隅顽抗。
次年正月，王全斌由降卒指点，经小道以浮桥渡过嘉陵江，绕过剑门，蓦然出现在关南二十里的官道上。王昭远猝不及防，领兵退屯汉源坡（今四川剑阁北）。赵崇韬布阵出战，王昭远吓得软瘫在胡床上起不来。王全斌挥师进击，昭远逃匿在仓舍下，悲嗟流涕，双目尽肿，与崇韬一起被俘。
刘廷让、曹彬率领的东路军溯江而上，进抵夔州（今重庆奉节），见蜀军在江上以浮梁为障碍，上设敌棚三重，夹岸列炮封锁，便舍舟步战，先夺浮梁，再乘舟西上，攻克了夔州，夺取了水路入川的锁钥。
孟昶听说昭远战败，慌忙命太子玄喆统领大军前去迎战。这位太子本不知兵，携着姬妾带着伶人上道，日夜嬉戏，半道上听说失了剑门，不战自溃，逃往东川。孟昶叹道：“我丰衣美食养兵四十年，遇敌竟没人为我东向发一箭。”便命上表请降，王全斌受降入城，东路军也来会师。灭蜀战役从出师到受降仅六十六日，得州四十五，县一百九十八。
平蜀以后，王全斌、崔彦进和王仁赡在成都昼夜酗酒，纵容部下抢掠妇女，强夺财物，蜀地人民深恶痛绝。曹彬屡请还师，王全斌置之不理。不久，太祖命蜀兵优给着装费后出川赴汴，王全斌对此也雁过拔毛，克扣其数。蜀兵怨忿思乱，行至绵州（今四川绵阳），发难起事，众至十万，号兴国军，推文州刺史全师雄为帅。王全斌命朱光绪前去招抚，此人灭了师雄全族，霸占了他的女儿，更激怒了全师雄，自称兴蜀大王，川蜀十六州和成都属县的百姓也纷纷起兵响应。
全斌遣将进讨，屡战不利，退保成都。当时城中还有二万七千降兵，全斌唯恐里应外合，把他们诱到夹城里，全给射杀了。十二月，太祖得知川蜀降兵起事，即增派将兵入川镇压。不久，王全斌在灌口（在今四川灌县）大败全师雄。师雄旋即病故，蜀兵的反抗才渐次平息。
乾德五年正月，王全斌、崔彦进和王仁赡被召回降官，算是对他们黩货、杀降之罪的惩办。其实，王全斌等人的所作所为完全是五代骄兵悍将的一贯作派。由于王全斌的倒行逆施，宋初四川地区对中央政权的归附感十分勉强，一有风吹草动，就有起义或兵变随之而起，例如王小波起义和王均兵变。
在各割据政权中，南汉统治是最腐败黑暗的。这么一个小朝廷，宦官竟多至七千人，有的还位至三师三公。国主刘鋹所居宫殿都是以珍珠、玳瑁装饰，宫城左右还有离宫数十，常常月余或十来日地游幸其间。他把朝政委托给宦官龚澄枢和妃嫔卢琼仙，自己每天与波斯宫女鬼混。他娶了朝臣李讬的长女为贵妃，次女为美人，下诏国事都必须禀告李讬。国内赋敛繁重，刑罚苛酷，有烧、煮、剥、剔、刀山、剑树之刑，或者让罪人斗虎角象。宋太祖听到这些虐政，惊骇地表示要解救一方黎民。
开宝三年（965年）九月，南汉进攻宋控制下的道州（今湖南道县），太祖命潘美为贺州道行营都部署，尹崇珂为副都部署，出征南汉。次年二月，潘美攻克英州（今广东英德）、雄州（今广东南雄），进兵至距广州城仅十里之遥的双女山下。刘鋹征集了十余艘船舶，载上珍宝、妃嫔，准备下海逃命，却被一批宦官和卫兵捷足先登，把船给盗走了。穷途末路的刘鋹便以竹木为栅，作最后的顽抗。入夜，潘美派大批丁夫，手持两炬，潜至栅前，一时间，万炬俱燃，火焰烛天，风助火势，烟埃腾空，南汉军队不战自败。刘鋹出降，南汉平，宋得六十州二百四十县。
刘鋹被送至开封，把罪名都推到龚澄枢和李讬身上，对太祖说：“在国时，我是臣下，澄枢才是国主。”他性机巧，口善辩，曾用珍珠编织鞍勒，酷肖戏龙之状，献给太祖。太祖对群臣说：“倘把这些心思用于治国，岂至亡国呢！”有一次，太祖单独召见他，赐他一杯酒，他想起自己常以毒酒鸩杀臣下，战战兢兢说：“我愿为大梁布衣，观太平盛世。不敢饮这杯酒。”太祖大笑：“我以赤心待人，岂有此事！”便自饮此酒，别酌再赐，刘鋹惭愧谢罪。宋太宗将攻北汉，设宴宫中，他进言道：“四方僭伪之主，今日尽在座中。早晚平了北汉，刘继元还要来。我来朝最早，那时让我执梃当个诸国降王的头儿吧！”
自宋朝立国以来，南唐始终外修贡奉，不敢有失，私下却预为之备。宋灭南汉，对南唐形成南北西半月形包围圈。开宝七年（974年）九月，太祖准备进攻南唐，就是少个借口，便一再遣使召南唐后主入朝。南唐群臣多认为有去无回，坚决反对后主亲往开封，李煜便托病固辞。
太祖便命曹彬为西南路行营都部署，潘美为都监，曹翰为先锋都指挥使，率十万大军征讨南唐。他对王全斌在平蜀之际扰民杀降，记忆犹新，出兵之际一再告诫曹彬：“破城之日，不许杀戮！”并把自己的剑交给曹彬说：“副将以下，不听命者斩！”连潘美听了也大惊失色。
曹彬率军从荆南乘战舰东下，一路击败南唐军队，进抵采石矶（在今安徽马鞍山）。南唐樊若水前来充当向导。他是一个有心计而无家国的落第士人，早就借渔钓之便测定长江采石矶江面的宽度，赶到开封向太祖上书说江南可取，方法是用船搭建浮桥。太祖采纳了他的建议，派人在荆湖造黑龙船数千只，这次顺流而下的大舰上就载着大批巨竹粗索，以备搭建浮桥之用。十一月，在樊若水的指导下，只用了三天，就在采石矶江面上搭起了一座浮桥。潘美率领着步兵渡江，如履平地。
开宝八年二月，宋朝大军击溃了南唐军队的阻击，直达秦淮河畔，南唐水陆兵十万列阵金陵城下迎战。这时，舟楫未备，潘美下令道：“岂能被这一衣带水阻隔而不直渡过去吗？”说着，身先士卒带头涉水向敌阵冲去，大军紧随其后，南唐兵阵脚大乱。
南唐后主不以战事为虑，只管在后苑与僧道诵经说《易》，宋军围城已有好几个月，他还全然不知。一天，他亲自巡城，见宋军列栅满野，旌旗蔽空，才大惊失色，一面派徐铉出使，恳求缓师，一面急召神卫军都虞侯朱令赟从上游率军来援。
十月，徐铉到开封，对太祖说：“李煜以小事大，如子事父，未有过失，陛下师出无名。”太祖说：“你既说父子，却还是两家，行吗？”次月，徐铉再使开封要求缓兵，以保全一邦之命。他据理力争，论辩不已，太祖辞屈，按剑怒吼：“不须多言！江南也有何罪？但天下一家，卧榻之侧，岂容他人酣睡！”徐铉只得惶恐辞归。太祖真是可人，不矫饰，不含糊，和盘托出肺腑之言：统一就是理由，它有时候不需要再用理由来垫底；而“卧榻”的精彩譬喻，则成为其后一切掌权者的不二法门。
再说朱令赟从湖口发援兵来救国都，号称有十五万大军。但他必须焚毁采石浮桥，才能顺流而下，直抵金陵。曹彬命人在浮桥附近的洲渚间竖起长木，状若樯桅。望去疑有伏兵，令赟迟疑不敢前进。宋军水陆诸将，犄角出袭。令赟纵火拒战，恰北风劲烈，火势反而自噬船舰，南唐水军大溃，令赟也被俘。
金陵成为一座孤城。曹彬派人向李煜传达：城破在即，归降为上。李煜不听。一天，宋军大营传开了主帅因病不能视事的消息，诸将都来探视，曹彬说：“我的病不是药石所能治愈的。只须诸位诚心立誓，攻城之日，不妄杀一人，就会好的。”诸将焚香发誓。次日，曹彬声称病愈。再次日，金陵城被攻破，李煜赴军营请罪。南唐灭亡，宋得州十九、军三、县一百八十。
李煜被送至开封，如果说南汉刘鋹是个喜剧性的失国之主，那么南唐李煜则是个悲剧性的亡国之君，这一个性和经历倒使他对家国人生有了独特的感悟，在词史上留下了不少永恒的名作。他从金陵押往开封时所作的《破阵子》，真切地刻画了一个只知享乐不识干戈的亡国之君的形象：
四十年来家国，三千里地山河；
凤阁龙楼连霄汉，玉树琼枝作烟萝。
几曾识干戈？
一旦归为臣虏，沈腰潘鬓消磨。
最是仓皇辞庙日，教坊犹奏别离歌。
垂泪对宫娥。
史称曹彬平江南不妄杀人，所谓“克城之日，兵不血刃”，他也因此在历史上享有盛誉。清代史家赵翼在《陔余丛考》提出反证，说他在庆功宴会上听到南唐乐人大哭，以为大煞风景，便将乐官给杀了。而据《续资治通鉴长编》记载，南唐润州降卒数千人在送往金陵途中纷纷逃亡，他发檄诱集，恐怕他们生变，斩首七百。南唐州郡都归降后，独有江州指挥使胡则率众死守达四月之久，城破，指挥攻城的曹翰纵容士兵入城掠取资财，屠杀居民。曹彬平江南没有像王全斌平蜀那样滥杀无辜，但说他不妄杀一人，则是美化。
到开宝九年春，宋朝控制的州郡由一百十八增加到二百六十，户数由九十六万七千多户增加到二百五十六万六千多户，南方已大体平定，局促在浙、闽的吴越和陈洪进政权，对北宋来说也形同囊中之物。太祖统一南方的战争所以能顺利推进，固然与统一的大趋势有关，与先南后北、先易后难的总体战略有关，还与太祖许多正确的政策和策略有关。
其一，实施各个击破的策略。太祖之时，总兵力仅二十万，除去北边防务，能用于南方作战的兵力不到其半，而南方诸国总兵力不下七八十万，不容小觑。但太祖运用政治外交手段分化离间，再配合军事进攻，终于各个击破。
其二，不打无准备之仗。在对每个割据政权采取军事行动以前，太祖总是派人搜集其山川地理、朝政民情的情报，作为决策和作战的重要依据，故能每战必胜。
其三，实行优待降王的政策。太祖对亡国的降王不但一个不杀，还建造别馆予以安顿，保持其优厚的生活待遇。这一做法也减少了统一战争的阻力，各割据政权几乎都有主张归顺的大臣。
其四，严禁军将滥杀无辜。虽然在平蜀时王全斌部队有所失控，但宋军在统一南方过程中，大体改变五代骄兵悍将任意杀戮的恶习，扰民较少，破坏不大。
其五，革除割据政权的弊政。太祖每下一国，就减免苛捐杂税，改革原有弊政，以善代暴，大得民心，加快了统一的进程。