宋太宗決心平定北方。公元979年，他帶領大軍，攻打北漢。宋軍把北漢的京城太原團團圍困，猛攻猛打。北漢向遼國求救，遼國派兵前來援助，被宋軍打得大敗。北漢無力抵抗，只好投降。
宋太宗平定北漢以後，北漢有個有名的老將，叫楊業，也歸附了宋朝。楊業就是傳說中的楊老令公。他從小愛好騎馬射箭，學了一身武藝。因爲他武藝高強，英勇善戰，人們稱他“楊無敵”。宋太宗對楊業相當器重，起初讓他擔任鄭州刺史，後來又讓他擔任代州（今山西代縣）刺史，鎮守北方邊境。
公元980年3月，遼國出動十萬大軍，侵犯代州北面的雁門關。警報傳到代州，楊業手下只有幾千騎兵，力量相差太遠，大家都很擔心。楊業決定出奇制勝，帶領幾百騎兵，從小路繞到雁門關北面，在敵人背後進行攻擊。遼軍正大搖大擺向南進軍，不料一聲吶喊，宋軍從背後殺了出來。遼軍大驚，不知道宋軍有多少人馬，嚇得四散逃奔。這一仗，遼國的一個駙馬被殺死，還有一個大將被活捉。楊業以少勝多，打了一個大勝仗。宋太宗非常高興，特地給楊業升了官。從此，“楊無敵”的威望越來越高了。
楊業立了大功以後，一些大官僚非常妒忌。他們恐怕楊業的聲望和地位超過自己，就設法排擠陷害他。但宋太宗不聽這些壞話。他把這些奏疏封起來，送給楊業，表示對楊業的信任。那些大官僚的陷害，暫時算是擱下來了。
過了幾年，遼景宗耶律賢病死，他的兒子遼聖宗耶律隆緒繼位。遼聖宗年僅十二歲，由他的母親蕭太后執政。宋太宗見遼國政局發生變動，認爲機會來了，決計出兵收復遼國佔領的燕雲十六州。
公元986年，宋太宗派三支大軍攻遼。東路由大將曹彬帶領主力部隊，向幽州前進；中路由田重進率領，攻取河北西北部等地；西路由潘美率領，攻取山西北部各地。楊業就在西路軍中，做潘美的副將。潘美帶領的西路軍，出了雁門關，就向北進攻。楊業和他的部下英勇善戰，很快打下了寰州（今山西朔州東）、朔州（今山西朔州）、應州（今山西應州）和雲州，收復了山西西北部的大片失地。正當西路軍節節勝利的時候，不料東路軍吃了一個大敗仗。宋太宗因主力部隊失敗，不敢再戰，連忙下令退兵。潘美、楊業很快退回代州。宋朝的大軍一退，應州的宋軍也丟掉城市逃跑了，遼軍乘勝打進了寰州，一時形勢十分緊張。 就在這時候，宋朝政府下令把寰、朔、應、雲四州的老百姓遷往內地，要潘美、楊業的部隊擔任護送。但這時寰州和應州已經丟了，雲州遠在遼軍的背後，朔州也在遼軍的身旁，要遷移那些地方的老百姓，可着實不容易。
楊業考慮了一番，提出建議說：“現在敵人很強大，應當暫時避開他們的鋒芒，不能硬打。我們應先假裝打應州，引誘敵人大軍前來迎戰，然後利用這個機會，命應、朔兩州的守將帶領百姓趕快南遷。這時，我們只要派軍隊在中途接應，這兩州的百姓就可以安全轉移了。” 這是一個好主意。可是，在潘美軍中做監軍的王侁卻不同意。他說：“我們有幾萬精兵，爲什麼這樣膽小？只要走雁門關北面的大路，向朔州前進就是了。”
楊業說：“這樣做，一定失敗！” 王侁不但不考慮楊業的正確意見，反而諷刺他說：“將軍一向號稱楊無敵，如今看到敵軍，竟逗留不進，難道有其他
想法嗎？” 對於這樣惡毒的誣衊，楊業氣憤極了。他橫下心來，說：“我並不怕死，只因時機不利，不想讓士兵白白送死。你既然說出這種話來，我領兵前去就是了。” 楊業和王侁爭論時，潘美就在旁邊。他明知楊業這次出兵，凶多吉少，可是他一向妒忌楊業的才能，所以一言不發，讓楊業去了。
楊業出發時，對潘美說：“這次出兵，一定不利。我本想等待時機，爲國殺敵立功，如今有人責難我畏敵不前，我願意先死在敵人手裡。”同時，他又說：“你們在陳家谷準備好步兵弓箭，接應我們。否則，軍隊就回不來了。” 說完，楊業就帶領人馬，直奔朔州前線。隨同前往的，還有他的兒子楊延玉和嶽州（治所在今湖南嶽陽）刺史王貴。
遼軍看到楊業前來，就出動大軍，把宋軍團團圍住。楊業父子和他們的部下雖然英勇善戰，畢竟寡不敵衆。他們從正午一直打到黃昏，只剩下一百多人，好不容易突出重圍，且戰且走，退到陳家谷。哪知潘美的軍隊不顧楊業的安危，早已逃跑了。 楊業只好帶領部下，再跟遼軍死戰。王貴用箭射死了幾十個敵人，箭完了，又用弓打死了幾個敵人，才壯烈犧牲。楊延玉和其他將士也在戰爭中犧牲了。
楊業受了十幾處傷，還繼續苦鬥，殺死了幾十個敵兵。他因爲傷勢太重，加上戰馬重傷，實在走不動了，就到樹林中去躲一躲，不幸被敵人射倒，抓去了。他被俘以後，堅貞不屈，絕食而死。 楊業有七個兒子，除楊延玉犧牲外，最著名的要數楊延朗。楊延朗後來改名楊延昭。他鎮守邊關二十多年，曾多次打敗遼軍的侵擾。