進入49年8月之後，國民黨失去了美國人的援助，內憂外患日益嚴重，蔣介石本人自是焦慮不堪。此時，人民解放軍第二、第三、第四野戰軍在長江以南已分別前出贛南，逼近福州，挺進湘中，直接威脅廣東、廣西和四川。在華北，綏遠省(今屬內蒙古自治區)和平解放亦已成定局。
國民黨**撤逃臺灣、廣州、重慶等地，幻想保住西南4省，重整軍備，伺機捲土重來，急需胡、馬各部在西北地區作戰略配合。
8月中旬，國民黨**行政院長閻錫山在廣州召開由西安綏靖公署主任胡宗南、西北軍政長官公署長官馬步芳、副長官馬鴻逵等人蔘加的“西北聯防會議”，擬製了“蘭州決戰”計劃，企圖以馬步芳4個軍及新成立的騎兵軍共9萬餘人依託蘭州堅固城防和黃河天險，吸引、消耗第一野戰軍主力，以集結在中衛、中寧地區的馬鴻逵部主力伺機轉向蘭州，以胡宗南部主力由秦嶺出隴南，三路夾擊，挫敗第一野戰軍於蘭州外圍。
蘭州是西北第2大城市，爲國民黨西北軍政長官公署所在地。該城北臨黃河，南靠羣山，地勢險要，易守難攻;南山環抱城垣，並有多年修築的永備工事，通向城內的環山公路與各主要陣地相連接，構成了完備的防禦體系，國民黨守軍稱該城爲“不可攻破的鐵城”。
馬步芳鑑於蘭州決戰的勝負是其存亡的關鍵，遂以秦隴兵團第82、第129軍和2個騎兵師、3個保安團等約5萬人重點據守南山各要點和城區;以第91、第120軍和馬鴻逵部第81軍共3萬餘人控制蘭州東北的景泰、靖遠和打拉池地區，保障蘭州左翼安全;以新組成的騎兵軍約2萬人控制蘭州以南的臨洮、洮沙(今太石)地區，保障蘭州右翼安全。蘭州地區作戰由秦隴兵團司令官馬繼援統一指揮。
第一野戰軍司令員兼政治委員彭德懷根據中國共產黨中央軍事委員會關於向全國進軍的戰略部署和對蘭州作戰的指示，發出攻取蘭州、西寧的作戰命令，決心以一部兵力牽制胡宗南、馬鴻逵兩部，集中優勢兵力殲滅馬步芳部主力於蘭州地區。
其部署是:以第18兵團(欠第62軍)及第7軍留置寶雞、天水地區，繼續牽制胡宗南部，保障野戰軍主力左翼及後方安全;以第19兵團第64軍進至固原、海原地區，牽制馬鴻逵部，保障野戰軍主力右翼安全;以第1兵團(欠第7軍)附第62軍經隴西、臨洮、臨夏、循化，爾後北渡黃河攻取青海省省會西寧，截斷蘭州守軍退路，並隨時準備參加蘭州地區作戰;以第2、第19兵團(欠第64軍)共5個軍近15萬人沿西安至蘭州公路分南北兩路兩進.直取蘭州。
蘭州位於四周環山的狹長的盆地上，黃河自西向東貫穿，蘭州地處南岸，城西有一座上一世紀造的鐵橋聯繫南北兩岸，北岸通向青海和河西走廊。此橋是當時數千裡黃河兩座橋樑之一(上游甘青交界處還有一座木橋，只能過行人騾馬車輛)，故軍事價值很大。
若控制蘭州，蘭州的南山是必守的陣地。南山自東向西依次爲十里山，竇家山，馬架山，營盤嶺(皋蘭山南樑)，沈家嶺，狗娃山。其中沈家嶺離鐵橋，又與狗娃山一起扼守着兩條南去的公路，被認爲是“蘭州鎖鑰”。
鑑於解放軍對蘭州敵軍只是三面包圍，北面退路黃河鐵橋仍然在敵人控制之下，不能排除敵人在大軍壓境下突然逃跑的可能性。第一野戰軍參戰部隊全部到達蘭州外圍後，爲了防止“青馬”西逃，提前發起蘭州戰役，彭德懷下令部隊於21日拂曉投入攻擊戰鬥。
這次首攻守軍的第一野戰軍部隊有六十三軍、六十五軍、六軍、四軍共9個團的兵力，攻擊方向分別爲被稱爲"蘭州鎖鑰"的馬家山、營盤嶺和沈家嶺三大主要陣地。
但是，經過兩天激烈的戰鬥，沒有攻下一個陣地，解放軍卻遭受了重大傷亡，其中僅六十五軍就傷亡近800人。彭德懷當機立斷，命令部隊停止攻擊，要求所有指戰員認真總結經驗教訓，分析防禦特點，偵察敵情與地形情況，重新調整我軍戰鬥部署與火力配備，有針對性地改變戰術。
同時，彭德懷以第一野戰軍司令部的名義發出《關於進攻蘭州的戰術指示》，強調指出:“‘青馬’匪軍爲今日敵軍中最有戰鬥力的部隊，在全國也是有數的頑敵，我們對他須有足夠的估計，並作充分的精神準備，力戒輕敵驕傲性急。”
在六軍召開作戰會議總結進攻受挫的原因時，彭德懷給六軍軍長羅元發打來電話，進行安慰，並作了自我檢查。他說:“四軍攻狗娃山，六十五軍攻馬家山也未得手。看來野司發起總攻的時間是倉促了些，使你們的準備工作受到一些限制。”
接着，彭德懷在電話中簡略地講了西北的戰局:退守川陝邊界的胡宗南給蘭州守敵發來一個電報，爲馬家父子打氣，要他們堅守蘭州。胡宗南準備趁我主力攻擊蘭州後方兵力單薄的機會，與寧夏的馬鴻逵、馬步青相配合，襲擊寶雞和天水，威脅我軍後背，得手後，再由東向西，與堅守蘭州的馬家軍裡應外合消滅我軍於蘭州城下。
根據情報來看，胡宗南已經帶領殘兵敗將從秦嶺方向向我寶雞、天水、西和以及禮縣等地進犯，遭到我十八兵團六十一軍和七軍的堅決打擊。彭德懷要求六軍好好休息，準備3天，爭取一舉拿下營盤嶺。
中央軍委、毛**來電指示:“馬步芳既決心守蘭州，有利於我軍殲滅該軍。爲殲滅該敵起見，似須集中3個兵團全力於攻蘭戰役”
“王震兵團從上游渡河後，似宜迂迴於蘭州後方，即切斷蘭州通青海及通新疆的道路，務不使馬步芳退至新疆爲害無窮”
“攻擊前似須有一週或更多時間使部隊恢復體力，詳細偵察敵情、地形和鼓舞士氣，作充分戰鬥準備”
“並須準備一次打不開而用二次、三次攻擊，去殲滅馬敵和攻佔蘭州。”
隨後，彭德懷來到了十九兵團六十三軍前沿陣地視察，召開了師以上幹部會議，傳達中央軍委和毛**的指示，同他們一起研究了下一步作戰任務。
他說:“蘭州戰役關係到解放大西北的全局，一定要把它打開”。
“十九兵團六十三軍的擔子很重，一定要拿下竇家山。”
並點名讓該軍第一八九師第五六六團擔任主攻。