與紫菱告別後，帶着對紫菱的牽掛，薛林投入到北伐的事業當中。
北伐開始了。
當時的背景是，段祺瑞已經下臺。當時，北洋政府控制在以張作霖爲首的奉系軍閥手中。直係軍閥吳佩孚淪爲附庸，佔據兩湖、河南三省和河北、陝西，控制京漢鐵路。直係軍閥後起之秀孫傳芳佔據長江中下游。
當時北洋軍閥直系吳佩孚軍約30萬人，控制湘（湖南）、鄂（湖北）、豫（河南）等省和直隸（河北）保定一帶；
從直系分化出來自成一派的孫傳芳軍約20萬人，盤踞贛、閩、浙、皖、蘇五省；奉系張作霖軍約35萬人，佔據東北三省、熱河、察哈爾、京津和山東等地。
吳、張勾結，控制北洋政府，在北方，向南口、多倫等地傾向革命的國民軍進攻。
在南方，吳佩孚增兵入湘，企圖聯合西南軍閥，進攻廣東革命根據地；孫傳芳在贛、閩伺機行動。
戰鬥序列：
國民革命軍8個軍10萬餘人（戰爭過程中發展到40多個軍近百萬人），蔣介石任總司令，李濟深任總司令部參謀長，白崇禧任參謀次長代理參謀長，鄧演達任政治部主任，郭沫若任政治部副主任。
何應欽、譚延闓、朱培德、李濟深、李福林、程潛、李宗仁、唐生智分任第1軍至第8軍軍長；繆斌、李富春(共…產…黨員）、朱克靖（共…產…黨員）、廖乾吾(共…產…黨員）、李朗如、林伯渠（共…產…黨員）、黃紹竑、劉文島分任第1軍至第8軍黨代表或副黨代表。除第8軍駐湖南衡山、安仁地區，第7軍駐廣西外，其餘6個軍均駐廣東。
國民革命軍總司令部在以。布柳赫爾（化名加倫）爲首的蘇聯軍事顧問建議下，根據敵我雙方軍事力量對比和軍閥之間的矛盾，制定了集中兵力、各個擊破的戰略方針。
轉眼，中華大地即將旌旗密佈狼煙四起……
薛林、胡宗南還是在程潛部分別任團長，錢壯爲薛林副手。
戰爭的具體過程在這裡並不多說，我只介紹大概的情況。
1926年7月4日，在廣州，國民黨中央臨時全體會議通過《國民革命軍北伐宣言》，陳述了進行北伐推翻北洋政府的理由。宣言主要內容：
“本黨從來主張用和平方法，建設統一政府，蓋一則中華民國之政府，應由中華人民自起而建設；一則以凋敝之民生，不堪再經內亂之禍。故總理北上之時，即諄諄以開國民會議，解決時局，號召全國。孰知段賊於國民會議，陽諾而陰拒；而帝國主義者復煽動軍閥，益肆兇焰。迄於今日，不特本黨召集國民會議以謀和平統一之主張未能實現，而且賣國軍閥吳佩孚得英帝國主義者之助，死灰復燃，竟欲效袁賊世凱之故智，大舉外債，用以摧殘國民獨立自由之運動。帝國主義者復餌以關稅增收之利益，與以金錢軍械之接濟，直接幫助吳賊壓迫中國國民革命；間接即所以謀永久掌握中國關稅之權，而使中國經濟生命，陷於萬劫不復之地。吳賊又見國民革命之勢力日益擴張，賣國借款之狡計，勢難得逞，乃一面更傾其全力，攻擊國民革命根據地，即使匪徒擾亂廣東，又糾集黨羽侵入湘省。本黨至此，忍無可忍，乃不能不出於出師之一途矣。”
最後於1926年7月9日蔣中正就職國民革命軍總司令並誓師北伐 。
國民政府以兩廣爲基地，策略以“打倒吳佩孚，聯絡孫傳芳，不理張作霖”爲主，實行各個擊破。進兵湖南，攻佔平江、岳陽，殲滅吳佩孚的軍隊。
1926年8月26日，國民革命軍6個團對湖北汀泗橋發起猛烈攻擊，吳佩孚親臨督戰，下令“退卻者殺無赦”，雙方互有勝負，汀泗橋幾度易手，27日張發奎親督三十五團和葉挺獨立團佔領汀泗橋。之後雙方又在賀勝橋展開激烈的白刃戰，8月29日國民革命軍第4、第7軍取得賀勝橋大捷，8月31日，大軍集結武昌城下。9月初國民革命軍向武漢三鎮發動攻勢，6日、7日分別佔領漢陽、漢口。10日國民革命軍佔領武昌，吳佩孚率殘部逃往河南信陽。至此，吳佩孚部隊基本被消滅。
國民革命軍接着從兩湖地區揮師東進江西，追擊孫傳芳，9月19日襲據南昌，爲孫軍擊退。蔣加派援軍二萬人，10月20日第二次攻入南昌，又爲孫軍奪回。11月2日開始第三次進攻，4日克九江，7日克南昌，孫軍大潰，精銳盡喪，爲國民革命以來規模最大的戰役。1927年3月24日二軍六軍佔領南京。
在國民革命軍於兩湖地區激戰時，福建的五省聯軍福建總司令周蔭人在盟主孫傳芳壓力下1926年9月中以三個軍2萬5千人的兵力進軍粵東，試圖將國民革命的根據地連根拔除。
然而消息於進軍前已透露，此時鎮守在廣東的部隊爲何應欽所率領的國民革命軍第一軍，由於周蔭人於直隸出生，對閩系來說是客軍而非地主，因此何應欽決定主動出擊擊潰其主力，同時蔣中正也派遣李大超前至閩軍中收買分化，何應欽整合了廣東的保安團與黃埔軍校在學生作爲防禦主力，第一軍第三師譚曙卿則作爲攻擊矛頭於10月9日進攻周蔭人之主力所暫駐的永定城，由於周部於福建之風評不佳，在永定戰鬥之役遭受國民革命軍與城內民衆的聯合夾擊崩潰，僅帶少數侍衛逃出，同天十四師馮軼裴則於擊潰閩軍劉雲峰旅。
此役國民革命軍俘虜4000人，繳獲4000餘支槍械與十多門火炮。10月13日第一軍於梅縣鬆口戰鬥擊潰劉俊、李寶珩旅，在不到一星期的時間周蔭人主力部隊已損失近半。
受此影響曹萬順與杜起雲兩旅於10月17日接受廣東政府收編的建議倒戈改組爲國民革命軍第十七軍。何應欽則升任爲國民革命軍東路總指揮揮軍福建。
由於閩軍遭東路軍一路殺潰，駐守福州守軍與海軍第一艦隊於12月2日決定接受廣東政府改編，東路軍於12月間佔領福建全省，向浙江挺進。1927年2月底，佔領浙江全境。3月22日一軍進駐於中共上海第三次工人暴動佔領的上海。