但是李重進派去聯絡李筠的“親信”瞿守珣卻跑到東京去向宋太祖告密並且做了雙重間諜，又跑回揚州告訴李重進說李筠不願意合作。當時也沒有無線電，李重進就相信了他這位親信。這邊李筠卻不知情，獨自起兵。太祖遣歸德軍節度使石守信率軍平叛，遣昭化軍節度使慕容延釗、彰德軍節度使王全斌從東路包抄，在長平（今山西高平）大敗李筠。石守信、高懷德又在澤州城外大破北漢援軍，生擒李筠部下僞節度使範令圖，將李筠合圍在澤州城內。宋軍四十餘天攻破城池，李筠赴火，其子李守節在上黨投降，遇赦。就在澤州，李筠曾於高平之戰中取得過名垂青史的榮譽，但也在這裡，最終落得如此下場。討平李筠前後只用了兩個月左右的時間。北邊的李筠被解決掉後，宋廷又將矛頭指向南邊的李重進。此時李重進才知道自己已經失去南北夾擊的機會，後悔不及，但爲時已晚。這一次太祖御駕親征，只用一個月就攻克揚州，李重進和李筠的下場一樣：舉家。
最大的兩個外鎮武將被武力討平，其餘百官雖然還有很多仍然不捨後周，甚至經常流露出來，但事已至此，不可挽回。太祖對他們也非常寬容，認爲這只是正常的人性流露而沒有處罰，宋朝的內政逐漸穩定下來。周圍的割據勢力如南唐、北漢、吳越、後蜀等以及遼、高麗、三佛齊、占城等海外諸國紛紛遣使來朝，承認宋朝的正統地位，接下來就應該着手中國的重新統一大業。首先對準的目標是位於今湖南的衡州刺史張文表、荊南節度使高繼沖和武平節度使周保權三位小人物，宋廷以山南東道節度使慕容延釗爲主帥，樞密副使李處耘爲都監，率十州地方軍進討，輕鬆獲勝。這些都是小人物，就不詳細講了。控制了四戰之地荊州，南方諸國都直接暴露在了宋軍的矛頭之下。乾德二年（公元964年），宋廷集結兵力討伐後蜀。後蜀的國土大致相當於今四川省，最後一個皇帝孟昶（史稱“後蜀後主”）算是比較腐朽的統治者，但他居然主動遣使北漢要求南北夾擊宋朝，而且他的方案是出子午谷佔領潼關以西的地盤，還把自己當諸葛亮了。
十一月，太祖集結兵馬，一路由忠武軍節度使王全斌爲西川行營前軍兵馬都部署，武信軍節度使崔彥進監軍，率步騎三萬出鳳州道（今陝西鳳縣）；一路由江寧軍節度使劉光義爲西川行營前軍兵馬副都部署，樞密承旨曹彬監軍，率步騎二萬出歸州道（今湖北秭歸）。後蜀雖然佔盡地利，但畢竟沒有諸葛亮，在宋軍面前完全是廢柴，幾下就被打趴下。北路軍王全斌在攻克劍門時斬首萬餘級，蜀軍本就對勝利不抱太大希望，此後更是心理完全崩潰。不多時宋軍會師成都，孟昶直接宣佈投降，前後一共只用了66天時間。由於北路軍主帥王全斌採取了殘暴恐嚇戰術，在成都一次性殺降27000人，激起了蜀中軍民極大憤慨。平定四川后王全斌、崔彥進等人晝夜宴飲，縱容士卒劫掠，百姓苦不堪言。當年四川就爆發了上官進、全師雄等人領導的蜀兵和羣衆起義，殺死宋軍先鋒都指揮使高彥暉，鬥爭了三年才被宋軍鎮壓。鑑於此宋太祖將大屠夫王全斌、崔彥進降職，並大力整頓軍紀，才使四川這個富饒的大後方穩定下來。相比之下，東路軍在儒將曹彬的監督下，始終保持軍紀，不濫殺掠奪。
曹彬的仁者氣度受到太祖的高度重視，逐漸委以重任，並樹立爲宋軍的典型，逐漸消除了宋軍的戾氣，成爲一支威武之師、文明之師，其實這正是宋軍有別於前代，開始走出五代桎梏的關鍵一步。後蜀搞定後宋廷將目標又對準南漢。南漢曾名大越國，但由於是劉姓人士建立的國家，所以又改國號爲“漢”，定都廣州，主要勢力範圍是嶺南兩廣。那時候珠江三角洲還不是改革開放的最前沿，而是煙瘴重生的蠻荒之地，並不發達，主要是天遙地遠路難行、沒人理他，所以才偷生到現在。不過宋朝要統一天下，他世外桃源的日子也就到頭了。當時南漢的皇帝劉■，史稱南漢後主，不但腐朽，而且非常殘暴，境內人民起義不斷，其中一位人物名叫張遇賢的值得一提。您可能沒聽說過他，但他確實很有前瞻性的首次使用了一個人類歷史上最強大的年號：永樂。所以南漢也算是培養了一位永樂大帝，可聊以**。可能這位永樂大帝是南漢的驕傲，捨不得殺，後來是跑到南唐地界才被南唐捕殺的。宋太祖先禮後兵，請南漢小國主動投誠，但是劉■認爲自己有嶺南地利，還有秘密武器戰象，拒不投降，斬殺投降派大臣，決心頑抗。
開寶三年（公元971年），宋廷以潭州防禦使潘美爲貴州道兵馬行營都部署，朗州團練使尹崇珂副之，道州刺史王繼勳爲都監，率十州兵進討南漢。潘美首先圍困賀州（今廣西賀縣），南漢援軍急至。潘美佯裝撤退，南漢軍不知死活，以爲潘美怕了，竟然來追擊，自然中了埋伏，全軍覆沒。潘美再至賀州，輕鬆攻克。之後宋軍經過比較艱難危險的山地行軍，連克數州至韶州（今廣東韶關）。南漢國竟無人想到在此途中伏擊，放任宋軍走出崇山峻嶺，來到平原。這時南漢軍才拋出他們的秘密武器——戰象，妄圖藉此抵抗天威。可惜他們又不懂得正確使用，而是正面強行衝鋒，結果這些龐大的移動標靶被強弓勁弩射得血肉模糊，潘美輕鬆攻克韶州，廣州已經完全暴露。劉■孤注一擲，集結15萬大軍在廣州城北以木竹爲柵，準備抵抗宋軍。潘美見後哈哈大笑，只待一天北風起，召集數千民夫，皆雙手持炬，趁天黑投入南漢軍營。火借風勢，燒得南漢軍哇哇亂叫，宋軍趁機進攻，斬首數萬。殲滅南漢主力部隊後，潘美輕鬆攻入廣州，生擒劉■。一些人嘯聚海島繼續抵抗，宋太祖暫以潘美知廣州兼市舶司，旋即討平，嶺南平定。