曾國荃陷入兩難的境地。
一方面，胞兄曾國藩將嶽州交由自己看守，一戰不打便棄守，肯定說不過去，還會惹禍上身，讓朝廷官員潑髒水在自己兄長身上；另一方面，三四萬賊兵攻打過來，嶽州又是擋住賊兵進攻的重城要地，賊兵不攻下肯定不會罷休，可如今嶽州城內只有湘勇四千，其中還包括新招募的二千民壯，城外水師倒有五千，但這點兵力，嶽州城肯定是萬難守住。
等等！兄長明知道嶽州如此重要，還領了大半兵力離開嶽州，往北邊的糊北境內的小縣城發展，想必是早料到有此刻境況！？
一聽到有粵賊進攻嶽州的消息，曾國荃就派出急報，向曾國藩求援。
一天後，當粵賊前鋒甲四師抵達嶽州城南三十里外的新牆河時，信使終於傳回來曾國藩的命令：讓曾國荃率領城中的四千湘勇，只留一千新招募的湘勇守城，其餘的不管水師還是陸師，全部撤往嘉魚縣境內，再聽候曾國藩的統一調遣。
曾國荃這才恍然大悟，原來兄長早有打算，早做好退守糊北的計劃。只是，爲了封住朝廷的嘴巴，才留一千餘新招募的民壯充當湘勇，表明自己已經進行了抵抗，不損傷自己的勢力。
於是，當樑立泰率領甲四師到達嶽州城下時，奇怪地發現，城牆上旗幟林立，卻無甚動靜。剛想擺開陣勢安營紮寨，卻聽到探知軍情的探馬來報，嶽州城北十餘里，發現大隊人馬，往北撤去。
樑立泰有些愣了：莫非清妖知道守不住嶽州城，乾脆保存實力棄城了？
城頭上的旗幟是虛張聲勢？
於是，樑立泰嘗試性的派出二個主力團從兩個方向攻城，衝入城牆二里以內，城頭上才慌亂地開了幾炮，卻根本沒有準頭，不知道打在哪裡。二千多討虜軍再上前，進入城牆一里之地，城頭上的火槍就稀稀拉拉地響起來，這鳥槍哪裡能打那麼遠？都是放空槍，等於是迎接討虜軍來攻城一樣。
等甲四師的這兩個團衝到城下，城頭上的清軍卻彷彿啞火了似的，槍聲更加稀少起來。
樑立泰大喜，看來，這嶽州城裡的清妖完全沒有什麼火力。
本來按照計劃，他這甲四師只是前來安營紮寨，半夜襲擾下嶽州，讓城樓上的清軍不能安然休息，打草驚蛇一下。然後，等後面的討虜軍主力甲三師前來，再加上甲七師，連同水師一道，合力一道進攻嶽州城，爭取一舉攻克。
可如今，樑立泰意識到，嶽州城內的空虛，根本不用按計劃等所有的人一起了。
於是，樑立泰立即下令，甲四師全體將士一道進攻。
他帶頭衝在前面，身邊親衛緊緊跟隨着護衛他。在他的刺激下，甲四師將士手擡簡易雲梯，蜂擁向前、
城牆上，留守的一幫綠營兵和一千餘民壯，見城下殺聲如潮，蜂擁密集的討虜軍，完全沒有一點戰意。
嶽州知府早已經藉口巡視長江江堤防汛，跑到臨湘縣境的長江段去了，他早得知曾國藩已放棄了嶽州城，憑藉城內的二千綠營兵，哪裡能抵擋兇悍的討虜軍？不着藉口逃，難道被俘虜或者擊斃？
而嶽州協副將和遊擊，也不傻，在聽說知府跑路後，立刻不約而同率領着一幫親信手下，跑到了鄉下，也是最北邊的臨湘，說是徵收糧餉，實際是方便跑路。
就這樣，嶽州城內實際主事的，變成了一名主簿和二個千總，率領着二千不到的綠營兵，還有一千餘民壯，鳥槍都只有三百來杆，其餘的，都被曾國荃給搬走了。
主簿也不傻，千總也不蠢，他們守城的樣子還是要裝一下的，不能粵賊兵一到，便開門投降，那樣太掉價，而且會讓粵賊看輕。根據他們的打算，是抵抗二天，讓賊兵們吃點苦頭，他們再獻城投降，這樣粵賊便會明白他們的價值，他們得到的利益也更多。
但他們不知道，他們太高估了城內綠營兵的戰力了。
只見數千討虜軍將士將雲梯搭在城牆上，便猶如猴子一般，腰間別着長毛，口中咬住牌刀，便紛紛往上爬。
防守毫無章法的城頭綠營兵，本就無心作戰，只提前想好站位，以便跑路。見討虜軍將士衝上城頭，不但不上前圍攻，反而長舒了一口氣，扔了手中腰刀便跑。
所以，這嶽州攻城戰出現了非常奇葩的一幕，便是城下的討虜軍，只要爬上城頭，不但沒清兵上前阻止，反而往後退卻。
從發起進攻，一刻鐘不到，便有十餘處缺口打開，數百討虜軍將士爬上了城頭。
嶽州府主薄和兩個千總，一見討虜軍都已經站上了城樓，便知道大勢已去，連忙改變計劃，爭先恐後率領自己的親信衝上前，打開城門。再不開城門，可就直接變成俘虜了，想投降，都沒有意義了。
於是，就這樣，從攻城開始，二刻鐘不到，嶽州三扇城門，幾乎是同時吱吱呀呀地打開了，一幫綠營兵站在門口，迎接討虜軍進城。
要說，這二名千總和這名主簿都是效率很高，幾乎都是開城門最快的速度了。
這邊，城下的樑立泰還想着會犧牲多少兄弟，沒想到，除了因爲爬雲梯太急，摔死摔傷了幾人，另外被城頭上的清兵民壯胡亂開槍打死了十餘人外，其餘基本沒有傷亡，和清兵沒有發生任何接觸戰。
這已經是所有攻城中，傷亡最少的一次了。
樑立泰大喜，忙命甲四師將士進城，佔領全城。
有了帶路黨的配合，嶽州城接收非常順利。
嶽州主簿甚至早就命人將庫房的財物清點好，寫上了標籤。就是財物實在太少，值錢的本就不多，又都被曾國藩和曾國荃兩兄弟帶走，剩下的，樑立泰實在還有點看不上。
這嶽州城，雖然是他攻佔的最輕鬆的，也是繳獲少的了。
不管怎麼樣，嶽州城是州府治所，樑立泰還是第一次單獨攻佔這麼大的城池。他連忙派出幾匹信使，向長沙、廣州分頭報捷。