打仗是需要大量燒錢的，這一點，曾紀澤也心知肚明。而且，當時各國都跟清政府建立了外交關係，曾紀澤要與清廷分庭抗禮，或者反清，洋人的態度是個很現實的問題，需要解決。
李鴻章跟曾紀澤談話時，一句話提醒了曾紀澤，跟洋人打交道，最重要的是一個”利”字！曾紀澤想到了一個好辦法：那就是借外債，通俗點講，叫借雞生蛋。
曾紀澤知道，在近代歷史上，甲午戰爭中，日本也是借錢打仗，借雞生蛋。日本當時的軍事預算，在1894年10月在日本廣島召開的第七屆臨吋議會通過的預案是臨時軍事費用是1.5億日元和發行戰爭債券1億日元，不僅使得日本有錢打仗，還使日本和英美的關係更加緊密。而日俄戰爭中，日本之所以能打敗沙俄，重要原因就是日本發行了大量戰爭債券，日俄戰爭的戰爭費用高達17億日元，是日本國家財政6年的預算，其中外債8億，9億內債透過增稅取得，這17億日元當時約合十億兩白銀。
爲了以後的戰爭做準備，而且讓洋人支持自己，曾紀澤在上海不斷截留各種關稅的同時，還在向在上海的外資銀行大舉借債。
在上海借外資的條件也是得天獨厚，自上海通商以後，英商麗如銀行率先搶灘上海，到1864年，先後有利華銀行、匯隆銀行、麥加利銀行、匯川銀行、利生銀行等十數家銀行在華建立分行。而且上海堪稱當時中國最爲自由的城市，存在着多個國家的租界，有着相當寬鬆的政治經濟環境，外國人享受相當大的特權，進入上海時甚至不需要簽證。
這些涌入上海的外資銀行，利用上海有利的資本環境，迅速擴大經營，對上海成爲世界金融中心起了極大的推動作用。而這些銀行中，有相當一部分是國際知名的大銀行，它們的股東和客戶中，有很多在世界經濟中舉足輕重的大財團和大公司，在各國議會核政府中有很大的影響力。
曾紀澤借款的抵押是上海租界周圍，大約近八千畝的官地地一百年使用期，借款合約規定，還款期將從平定太平天國叛亂時起，分五十年還清，利息爲百分之一點五。
狡猾的洋人們很清楚大清國的形勢，他們知道太平天國的叛亂將很快結束，這筆錢穩賺不賠。曾紀澤向各國銀行借了一千三百萬兩白銀。曾紀澤將這些銀子，一部分投入到軍艦和彈藥購買上，除了爲他即將訓練成軍的一個步兵團，兩個炮營購買武器裝備外，還用來購賣彈藥。這使得淮軍倉庫中儲備的彈藥，將足夠在不依賴進口的情況下，支撐四到五年的消耗。而考慮到淮軍的作戰向來是不吝惜彈藥，如果能節省使用的話。足夠他們使用十年以上。
別一部分接近六十萬兩的銀子，除了買下阿思本艦隊，曾紀澤分別向英德再訂購七艘炮艦，江南製造局仍在建設之中，甚至連一艘木船都造不出來，更何況就算船廠造成，以現有的技術能力，每年能造一艘鐵皮炮艦就已經不錯了，很難在短時間內爲曾紀澤聚起一支足夠強大的先進海軍。所以，曾紀澤採取了當年李鴻章的手法，“造不如買”，只要肯花錢，在這樣一個軍火封鎖不嚴重的時代，他絕對能夠迅速建立起一支足以縱橫中國的“華夏艦隊”。
另外有一百萬兩白銀，曾紀澤在上海還建立了淮軍軍官學堂，培養陸軍軍官，也培養海軍軍官，要求學員以堅持不說謊、不欺騙、不偷竊的榮譽信條，也不縱容他人違反；立志成爲允文允武、術德兼備的軍官；信守愛國、責任、榮譽、犧牲、團結、勇氣、自信的核心價值，當然，愛國家不等於愛滿清朝廷，是曾紀澤多次跟浦東學堂的學員強調的。
曾紀澤決定把淮軍軍官學堂設在崇明島上，崇明島地處長江口門戶，比較大，是中國第三大島，成陸已有1300多年曆史，全島地勢平坦，土地肥沃，林木茂盛，物產富饒，是有名的魚米之鄉，便於陸軍和海軍學員學習與練武。而且崇明島有金鰲山、壽安寺、孔廟、唐一岑墓、明潭、鄭成功血戰清兵的古戰場等遺址，略加修葺，即可使用，還可節省人力和資金。
曾紀澤坐軍艦登島考察，發現崇明島上，地勢平坦，景觀如同江南田地，初到崇明島的人，甚至感覺不到已到了島上。一片片綠油油的莊稼、一道道灌溉用的水渠，村落密佈，道路交錯，並無一般海島的荒涼感覺。他讓軍官學堂的大門坐南向北，面臨珠江，在牌坊門額上書有白底黑字的“淮軍軍官學堂”橫匾，曾紀澤親自手書，曾紀澤從小訓練書法，書法也很不錯，毛筆字自成一體，拿得出手。
淮軍軍官學堂建立時，曾紀澤又在門口親手寫了一副對聯：升官發財請往他處，貪生畏死勿入斯門。每期學員招收兩千人，陸軍一千五百，海軍五百，一期六個月。
曾紀澤親自當淮軍學堂的總教官，他也爲淮軍軍官學堂的導師提供優厚的待遇，招收學員大多是那些從土改中獲益的士兵和新編訓入伍的農民。他們訓練的步槍有三分之一以上是上海武器製造局生產的改進式連珠槍，這種經過加特林和斯賓塞主導改進後的步槍，還開設炮科、工科等軍事課程，外聘有洋教員，一些淮軍將領也經常去上課，比如劉銘傳等。每期學員的開學典禮和畢業典禮，曾紀澤都是親自參加，對他們耳提面命。
“大人，爲何向洋人借這麼多的銀子呀，要借的話，上海有的我咱們本國的錢莊，這筆買賣，何必便宜了洋人。”劉銘傳對曾紀澤這種做法不是很理解。
“東南半壁已是英法列強的勢力範圍，這其中又以英國人在華的勢力最強大，咱們既要起事，英國人中立便罷，一旦他們站在了清廷的一邊，咱們的處境就十分的不利。你看，如果那長毛有英國人的支持，他們還淪落到現在的這般田地嗎？”曾紀澤解釋說，“而且，我們的還款期很長，洋人要收回債，就得支持我們。別人萬一不認賬怎麼辦？哈哈。”
劉銘傳恍有所悟：“大人莫非是藉藉款之事，絆住英人的手腳，讓他們有所顧忌，不敢輕易倒向清廷。”
曾紀澤笑道：“洋人最是狡猾狠毒，他們既我中國有一個穩定的政權，好爲他們的貿易侵略安全穩定的市場。但同時，他們又不願看到中國富強起來，有一天能夠抵禦他們的侵略。你不見長毛起事之處，從洋人那裡獲得了多少槍炮，朝廷幾番照會，他們都不當回事。到後來太平天國被咱們打得不成樣，大勢已去時，他們才假惺惺的決定支持清廷，嚴禁向長毛走私軍火。”
“所以大人才要將洋人的在華利益，跟咱們緊緊的拴在一起，讓他們不敢去支持清廷，甚至，他們還爲了自己的利益，轉而來支持我們。”劉銘傳明白了曾紀澤用意，顯得很是興奮。
曾紀澤沒劉銘傳那麼興奮，在這樣一個時代，華夏已爲滿清的統治殘害得滿目瘡痍，科技落後、化僵固、思迂腐、精神饞弱。泱泱中華，已經被滿清這個病毒盡毀。到了這個時代，已不得不借助外部的力量，以一種近似屈辱的方式，對這個垂死的政權，需要脫胎換骨，中國纔有涅磐重生和復興的希望。
李鴻章對於曾紀澤借外債的舉措同樣有所質疑，他特意書信一封，表示了對將把柄操於洋人之手可能帶來的威脅。曾紀澤沒有給李鴻章一個完整的解釋，因爲曾紀澤覺得現在還不是把計劃全盤托出的時候。
曾紀澤把朝廷的批覆拿出來做幌子，他讓李鴻章給朝廷的奏摺中稱，他必須購買更多的軍火，以確保儘可能快的消滅長毛的叛亂。清廷方面是得了恐太平天國症，只要能夠儘快的消滅髮匪，西太后和恭親王也顧不得什麼體面，同意了曾紀澤和李鴻章的奏請。
隨着各方面準備工作的落實，出兵西征的日期漸已臨近，曾紀澤聽到了一個不太好的消息。作爲此次西征主力大將劉銘傳，他重病已久的夫人不久之前病逝了。曾紀澤爲了表示關心，親自前去劉府祭奠已逝的劉夫人。馬車停在了熱鬧卻又安靜的劉府門口，不少淮軍在滬的將領，以及江蘇衙門的官吏們，都抽出時間來參加劉夫人的祭奠儀式。這也難怪，堂堂巡撫大人給劉銘傳面子，他們這些個做下屬的又哪敢不給呢。
此後，曾經澤下了死命令，要求淮軍營一級的軍官，必須在年底以前，將直系親屬接到上海居住，官府將免費爲他們解決宅地問題，敢有違抗者，就地解除軍職，逐出淮軍。
而土地改革也在江蘇全面推廣，僅蘇州府一地，將近有八萬無地的農民獲得了土地，這其中大部分的土地，都是戰亂遺留下來的無主荒地，另有五分之一的土地，則是根據“土地換股份”原則，從一些中小地主手中獲得的田地，從這項土地中獲得江南製造局股份的地主，將近有五千餘人。
但這些地主所出賣的土地，要麼不是土地質量較爲貧瘠，要麼就土地所處的地區不穩定，太平軍的殘部和土匪經常出沒，搶掠地主們的收成。而這些遭劫掠的地主們，時常生活在恐荒之中，辛苦一年的收成，卻大部分被人搶了去，他們的生活甚至更爲艱難。土地換股份，是給了他們一個生存下去的機。
當然，農民們雖然憨厚，卻不是白癡，這些地段不好的田地，他們也不主動去買。曾紀澤爲保障江蘇的每一寸土地都得到利合理用，加大了對省內太平軍散兵遊勇，以及本地土匪的打擊力度。爲此，他專門責成張樹珊率先在蘇南一帶開展剿匪行動。
對於大股的太平軍部隊，曾紀澤一向是採取攻撫並用的方式，但對小股匪兵，曾紀澤嚴令張樹珊格殺勿論，絕不給這些破壞江蘇穩定的人任何活路。剿匪行動進行的很順利，幾個月時間內，蘇南的兵匪基本被肅清。無地的農民，太平軍的降兵，淮軍淘汰下的退伍兵，這些主要地無產者們順利的被安置在了土地上。因戰亂而荒無人煙的鄉村重新煥發了生機。
爲了保障淮軍士兵的作戰積極性，曾紀澤頒佈了特別的法令，規定凡淮軍士兵。可以優先購買，以及挑選官府出售的土地。並且，每人可購的土地面積限制，由原來的十畝高到了十五畝，並且價格只是前者的一半。
這些淮勇們大多數或是依附於地主地佃農，或是窮苦的農民，或是太平軍的降兵，他們拿起刀槍，無非就是掙一口飯吃。大多數人無非是想攢錢買幾畝地，娶一房媳婦。現在，曾紀澤圓了他們的這個夢，他們做夢也不到，昨天還一貧如洗的他們，今日不但有豐厚的餉銀，鄉下還屬於自己的田地。於他們而言，還有什麼是比這更幸福的呢。他們從心底裡感激他們的曾大人。
爲了讓這些受益的人記住是誰給他們的好處，曾紀澤在出售土地時，向農民們說清楚，這些土地只是江蘇巡撫曾紀澤自作主張先行向他們出售地，如果朝廷最終駁回了江蘇巡撫的奏請，所有出售地土地都將如數收回。
久而久之，江蘇的農民對清廷是愈加不滿，私下之時，盡皆破口大罵朝廷地無德。江蘇省的淮軍將士們，心中對朝廷地不滿也是與日俱增，這股洶涌地怨氣，就像是蓄勢待發地火山，一旦時機到來，便爆發而出，那滾燙地岩漿。將無情地撲向滿清地統治者們。
萬事俱備之後，曾紀澤開始率淮軍西征太平天國，開往天京，實施下一步計劃，歷史的車輪滾滾向前！(。)