左宗棠於1868年11月26日抵達西安，立即着手爲平定陝西所做的軍事準備。這時該省的局勢大致如下：整個陝北，除了幾座圍城，都在回民軍和無名武裝的手中，那些武裝由幾名首領指揮，號稱超過10萬之衆。在甘肅東部以及向東直到鳳翔、邠州和鄜州，有超過20萬人的回民部隊。陝北的清軍駐防部隊仍然據守着宜川、鄜州、延安和榆林。榆林位於將陝西和蒙古分隔的長城邊，由滿人將領金順駐守，此人後來在左宗棠手下贏得了很大的聲望。渭河流域在左宗棠直接指揮之下的部隊總計70營，他還有50個營在劉松山指揮下在山西（原著爲“陝西”，似應爲“山西”。——譯註）集結。他的兵力總計約有6萬人。
左宗棠的作戰方案是：派出勁旅增援寶雞、鳳翔、汧陽、隴州和乾州的駐軍，使他們能夠阻止回民軍沿渭河進入陝西中部，而他就能使用主力肅清陝北。他對陝北的計劃是派4路大軍挺進這個地區。張曜率領劉松山大軍的一支部隊從保德渡過黃河，沿長城向西南突進，以減輕金順在榆林的壓力，然後繼續奔向西南。劉松山在汾州以西渡過黃河，攻佔綏德，在橫跨陝北的貿易大道上向西挺進。郭運昌從同州北進，通過宜川，抵達延長，然後向西越過延安。第4路由3名將領統領，在宜君集結，向北推進，穿過鄜州，挺進甘泉，其中一支從鄜州轉頭西進，另一支部隊駐守甘泉，第3支部隊從甘泉西進。
左宗棠經常遭到同時代人的指責，那些人多數在北京，說他拖沓疲軟，行動遲緩。就連拜倫·馮·利希霍芬也於1872年在西安寫道：根據一般報道，左宗棠直到那時的作戰明顯的效率太低，行動遲緩，缺乏活力。［1］
左宗棠在11月份的最後幾天裡抵達西安，劉松山於1869年1月16日在汾州以西渡過黃河，向綏德進發。張曜大約同時從保德渡河，向榆林突進。南邊兩路的出發日期沒有記載，但從慣例來看，顯然4路人馬都在1月15日前後幾天踏上了征途。很明顯，任何一位將軍，能夠從他抵達前線的7周內，從相距如此遙遠的幾個地點發出4路兵馬，肯定是不缺乏活力的，何況行軍的地形非常不利，而當時中國西部的交通狀況又是那麼糟糕。
集結在綏德的造反軍被劉松山擊敗，損失了6000人。他們放棄綏德，向西逃竄。劉松山緊追不捨，重創逃敵。他們在鎮靖堡停下來，劉松山已經逼到跟前，他們提出投降。這支武裝的主要首領是一名姓董的回民，他是造反首領董福祥的父親。劉松山赦免了所有的降軍，鎮靖堡於1869年1月30日歸順朝廷。
與此同時，張曜把反軍從榆林趕走，繼續前進，與劉松山這一路會合。他們推進到定邊，這裡的反軍，包括董福祥，也效法鎮靖堡投降。《年譜》作者說，10萬反軍於2月5日尋求並得到了劉松山的赦免。董福祥進入了帝隊，爲官方的老闆們提供出色的軍事服務，後來於1900年指揮義和團攻打各國公使館而聲名大噪。
劉松山取得了一場大捷，但未免華而不實。許多投降的反軍很快又在阻塞他的交通線，或者向南遊動，對抗左宗棠的另兩路兵力。劉松山留下一支部隊駐守定邊，自率主力返回靖邊。他從靖邊東進安定。這是一個居中的地方，劉松山在這裡肅清陝北，並與北上的部隊協同作戰。最艱鉅的任務似乎落到了郭運昌這一路頭上。
在地質學上的遙遠過去，陝北和甘肅就是一個山區，表面覆蓋着深達幾百英尺的黃土沉積。這種沉積的特點之一就是具有腐蝕性。它的特徵是垂直開裂，黃土覆蓋地區的每一條溪水和溝渠都面對着一堵垂直的黃土牆，往往高達200英尺。在河流與較大的溪水兩側，土牆有一定的坡度，形成一系列表面垂直的階梯。原有的山脊和山峰被風化剝落了黃土。結果是，道路跟隨山脊或山谷起伏，山脊很少，山谷衆多。山谷的道路離開大溪流之後，就會沿着溝渠延伸，通常只有幾碼的寬度，接連幾英里兩面都是峭壁聳立，高達數百英尺。
對於游擊戰而言，這是理想的地形；對外來的攻擊部隊而言，由於官兵都不熟悉這裡獨特的地形地貌，就會感到非常吃力。離開了大溪流的寬敞峽谷，夜行軍會格外困難，哪怕沒有敵軍存在。郭運昌的行軍路線往往跟山谷之路和峽谷之路成直角，而且地勢太低，無法走上爲數不多的山脊，行軍速度自然非常緩慢。從宜川出發的第4路兵力較爲幸運，北上的道路直到甘泉爲止都是從西安向榆林鋪修的大馬路，已經使用過3000年以上。
在這4路兵力分頭掃蕩前進之前，敵對武裝在經過多次作戰之後，被迫撤出陝西，進入甘肅。這次戰役在1869年5月15日達到，從甘泉開出的魏光燾部在保安包圍了幾千名敵軍，將之全部殲滅。到6月1日爲止，陝西稍具規模的敵對武裝已被全部肅清。
然而，在左軍肅清陝西的時候，左宗棠被許多麻煩所困擾。他於3月22日在陝西乾州建立大營。3月25日，劉松山的老湘軍發生了嚴重的兵變。兵變的部隊駐紮在綏德境內的交通線上。據說這些部隊分別部署在道路旁，受到許多回民間諜（似應爲哥老會成員。——譯註）的煽動。他們對官兵說：“你們從家鄉不遠萬里來到這裡，吃了不少苦頭，越往西去，困難更大。”此事影響到清澗的部隊，這裡的變兵殺死了將領高連升。劉松山從安定飛速趕到兵變現場，採取斷然措施，很快恢復了秩序。
然而，這邊的事情還沒搞定，消息就傳到了北京，事實被大大誇張。按照報告人的說法，左宗棠的整個部隊都兵變了，或者處在兵變的邊緣。一位御史上奏皇帝說，不能指望南方的部隊用於西北，他們都會開小差，應該招募北方的士兵來打這場戰爭。
曾國藩立刻插手了這件事。他對左宗棠並不友好，但劉松山是他的愛將，他極力爲劉松山辯護。他還反擊了所有對湖南人的指責。他向皇帝保證：這不是一個嚴重的事件。左宗棠奉命寫一份完整的報告，這時他已可以報告一切都已處置妥當。他處死了77名譁變首領，把少數軍心不穩的部隊分解開來，將士兵編入忠實的部隊。不過，這給左宗棠的衆多敵人提供了一個機會，他們總是忘不了這個事件。
高連升的死令左宗棠大爲傷感。一天夜裡，天將拂曉，他在大營裡撰寫一篇悼念高連升的文章。一隻小鳥飛進屋裡，棲息在他附近的地方。一名傳令兵抓住小鳥，拿到戶外放走。幾分鐘後小鳥又飛了回來。傳令兵又將它抓到戶外，小鳥的喙咬住傳令兵的手不放，似乎不肯離去。此事令左宗棠感慨不已，他在寫給朋友的信中說，他覺得那是高連升的靈魂來看望他。［2］
戶部的麻煩很快也來了。左宗棠120營部隊的開銷，每年需要460萬兩銀子。其中有150萬兩，或者說大約1/3，要歸在“運輸”項下。這些資金按照戶部的指令由若干省份提供，如果任何一個省份延緩了供支或者乾脆不予提供，左宗棠也無計可施。他的權力不能超出陝西和甘肅。爲了解決這個難題，他要求任命一位欽差大臣駐紮西安，打理銀錢事務。朝廷把袁保恆派到西安，負責接收所有資金，並且監督陝西的開支，但不管甘肅。左宗棠負責監督甘肅的開銷。欽差大臣是帝國的最高官職，但他的管轄權只限於任命書中指定的職責範圍。袁保恆的情況跟民事和軍事行政毫無關聯，他只是一名財政代理人。不過，他的話代表皇帝至高無上的權威，如果他要求一名省級官員解釋爲什麼沒有爲陝甘軍隊提供指定的金額，那就是一件很嚴重的事情。無視一名總督的要求無關緊要，但面對欽差大臣就完全是另一碼事了。
回民軍被趕出陝西之後，左宗棠準備向甘肅推進。1869年6月28日，他把大營移扎甘肅邊界的涇州。他準備大幹一場，掃平回民大堡壘。他把金積堡中心放在首位，決定集中兵力擊敗那一地區的回民軍。他不知道馬化龍是何許人物，但他斷定此人就是甘肅回民的首領，於是決定從這裡下手。
馬化龍很快就發現他面臨的對手在能力上與楊嶽斌和穆圖善不可同日而語。左宗棠打算分3路向甘肅進兵，一路溯渭河而上，一路沿着西安－涇州－平涼－靜寧－安定－蘭州的老官道進軍，另一路從陝北開往金積堡。北路的兵力最強，是第一階段戰役的主力。
左軍駐守着甘肅東部的秦州、靈臺、涇州、平涼、慶陽、寧州、正寧與合水，而在陝西西部和北部的所有城市都有重兵駐守。左軍有3條交通線，南路的交通線是從西安沿渭河向西；中路的交通線是從西安起始的官道；北路的交通線起自山西的汾州，通過綏德，直達靖邊。《年譜》沒有記載左宗棠投入甘肅野戰的部隊有多少人，但因他要留下大量部隊駐防，還要維護已經延長的交通線，他的兵力肯定已大大減少。他能用於前線作戰的部隊，很可能不多於3.5萬人。
這個作戰方案實際執行的總體部署如下：［3］
一、劉松山沿長城之路推進到靈州和金積堡。張曜和金順率領一支騎兵沿黃河東岸直奔磴口，渡過黃河，在寧夏以南作戰。
二、中路部隊又分爲兩路：魏光燾西進慶陽，劉端冕分兵駐紮合水，雷正綰與黃鼎在平涼作戰，向固原推進。
三、秦州的吳士邁阻止回民軍順渭河而下進入陝西。
四、馬德順留駐靈臺作爲後備隊，策應南北兩路。
五、左宗棠把甘肅清軍分派幾營前往甘肅東南部秦嶺以南的徽縣，防止回民軍翻越山嶺進入渭河河谷。
整個夏天在戰役準備中度過。在這個時期，各路兵力進展遲緩，很可能是因爲夏季的雨水令甘肅東部的道路幾乎無法通過。劉松山肩負最艱鉅的任務，戰役要從他那裡打響。他於1869年9月2日抵達花馬池。9月6日，他開始進攻，於第二天在花馬池以西擊敗一支回民軍。由於很難理解的原因，他放過了靈州，於9月12日佔領吳忠。馬化龍造成金積堡附近地區被洪水淹沒的局面，派出回民部隊截斷劉松山與陝西的交通線。將近1個月時間，劉松山陷在吳忠，行動不便。馬化龍似乎在運用智力對左宗棠和劉松山施壓。他有朋友幫他說話，連北京都有，說他不是造反派。他讓歸化的韃靼將軍向皇帝上奏指責劉松山。對劉松山的指控是：屠殺居民，殺降，逼迫愛好和平的回民運動。甘肅巡撫穆圖善向皇帝報告：
……忽接馬朝清（即馬化龍。——譯註）函開，提督劉松山帶領大兵突抵吳忠堡，率行搶殺，有不分良莠之意，難免已降回民猜疑，聚衆滋事，邀請胡昌會仍回金積堡商辦等語。胡昌會正擬前往，又聞陝甘回衆已麕集金積堡，有與大兵接仗之事，尚不知大局如何，呈請核辦前來。
臣查左宗棠派劉松山一軍由北進逼，原系追擊董志原竄賊，免致蔓延爲害。該署總兵胡昌會所請各該頭目俱願投誠，固難保非勢窮乞降，藉緩我師，惟查靈州回紳馬朝清即馬化龍本系營弁，自寧夏郡城失陷，被逆回馬兆沅遏脅，致靈州復行變亂，其時尚知約束金積堡回民，不許出外滋事，事先向雷正綰、曹克忠兩營求撫，交銀交糧後，曹克忠帶兵進扎滾泉，該紳恐回衆疑懼，上稟諫阻。曹克忠等不從，致陝回拼死抗拒，大挫兵威。而馬朝清仍勸諭本堡回民安靜待撫，並設計將馬兆沅殺斃。迨臣奉旨督辦軍務，該紳復具稟乞誠。初次捐修渠工銀八千兩，米十五萬斤，並呈繳器械馬匹多件。嗣該紳安輯地方，保衛漢民，勸導回衆投誠，擒斬叛亂陝匪，曾蒙恩賞加提督銜，是馬朝清之深明大義，矢志靡他，證之前事，已可概見。今官兵行抵吳忠堡，如果率行搶殺，則金積堡與靈州均脣亡齒寒，自不免羣生惶惑，鋌而走險，勢所必致。
臣不敢謂寧堡已降之回皆良民也，但無事之日，善者相安，惡者自隱受其制，若兵自外來，事起倉促，居民不知其意之所在，善者固不免驚疑，惡者亦必圖一逞以自快，彼時各頭目如馬朝清等雖可信其立志堅定，而教下人多情急變生，必致理喻勢禁，兩爲束手，即能大獲全勝，而已上幹天地之和。若官軍稍有不利，回氛四起，東路未定之鹽、固，西路已撫之肅州，皆成變局。
……左宗棠剿而後撫，亦未必能堅固回民之信。臣雖將交卸，不敢知而不言，除飛飭胡昌會督同馬朝清仍行妥爲開導彈壓本地回衆，毋得妄起猜疑，並確探北路進兵情形，另行奏報外，爲此附片密陳。
這些奏摺牽涉到左宗棠，他奉命對劉松山的行爲進行調查，並做出詳細的報告。當左宗棠看到這些對自己策略的攻擊時，大爲氣憤。他沒有進行什麼調查，他心裡完全明白那是怎麼一回事。他對馬化龍的評價是：此人是帝國最危險的人物，是這次運動的首領，他掠奪漢人的婦女和財產，關在金積堡，把那些女人分配給自己的信徒，而男性漢人則被迫成爲回民的苦力。他還說，在寧夏和金積堡的方圓幾百裡內，幾乎找不到一個自由的漢人，幾個月來馬化龍一直在加固金積堡，收集武器和彈藥。