在完成了江蘇的一系列部署之後，曾紀澤於1864年1月1月率淮軍誓師西征。 除嘉興三個團、徐州兩個團、胡雪參訓導師鎮守江蘇之外，淮軍此番西征兵力達十一個團，三萬五千人之眾，是為淮軍成軍以來，出師之盛，前所未有。
淮揚水師主力艦隊，大小艦船及新式炮艦，共七十餘艘，隨同西征。 淮軍與計劃兵分水陸兩路，沿江西進，沿途掃蕩太平軍殘部，攻城掠地，於1月中旬抵達了金陵，與曾國荃部一起，加入圍城之戰。
天京，忠王府。
李秀成怒氣衝衝的回到了府中，一進大堂，就將手中的配刀拔出，狠狠的砍向面前的檀木椅子，幾番揮刀，將那椅子砍了個粉碎。
“天王息怒。 ”跟隨在後的親兵隊長賀城棟從旁勸阻。
李秀成一腔的怒火無處發洩，他像是一頭發了狂的獅子，聽不進任何勸言，他瘋了一般狂舞著手中的刀，將這大堂毀了個乾淨。
旁邊的一干侍女們嚇得魂不附體，不知所從，賀城棟急向她們使了個眼色，叫道：“快去請王妃來。 ”
侍女匆匆奔回內室，過不多時，一位容貌中等，卻端莊慈祥的婦人急急忙忙的奔了來，她一見李秀成這般模樣，先是一驚，隨後便衝了上去，硬是奪下了他手中的刀，柔情勸道：“王爺，快把刀放下。 小心傷了自己身子。 ”
李秀成似乎很聽得進這位王妃的話，很順從地被她奪下了刀，又被她扶著坐下。 他這一番狂亂耗了不少體力，這時像拖了力氣一般，斜坐在被他劈得只剩下一半的椅子上，只是大口大口的喘著粗氣。
忠王妃不明就裡，邊吩咐下人趕緊拿茶來。 邊向賀城棟問道：“這到底是發生了什麼事，王爺怎的會發這麼大的脾氣。 ”
賀城棟頓時恨咬牙切齒。 憤憤不平的說道：“今天在殿上，姓洪的幾位王爺誣陷咱們王爺，說王爺們收買民心，圖謀奪權，他們還罵王爺是jian臣。 更可氣地是，天王也信了，竟然當著滿朝文武的面斥責王爺‘由忠變jian’。 王爺當時就氣得差點沒背過氣去。 ”
忠王妃聽完解釋，滿心替李秀成覺得委屈，便是勸道：“王爺，天王被那幾個洪姓王欺瞞，總是責難王爺。 我看王爺也不必留在天京受氣了，明天咱們就想辦法離城與叔叔他們相聚吧。 ”
忠王妃指地叔叔便是侍王李世賢，儘管他的封地浙江已在部淪於左宗棠楚軍之手，但他還保有數萬人馬。 坐守著十幾座城池。
李秀成發洩完怒氣，思緒漸漸恢復了冷靜，他思前想後，斟酌了半天，長嘆道：“罷了，罷了。 既然天王這般不信我，我留下也沒什麼意義，就聽愛妃的，咱們走吧。 ”
賀城棟道：“現下天王將天京各門都劃歸洪姓王爺們把守，王爺要想出城，只怕他們不會放行呀。 ”
李秀成奮然而起，怒道：“本王離城正是合了他們的心意，他們若還敢阻攔，真就當本王是好欺負的麼！”
李秀成遂命賀城棟召集天京城中他的近三千嫡系人馬，由北面太平門出城而去。 有敢阻攔者。 他就強行殺出去。
王府中人一聽說忠王要離天京，上下頓時忙成了一團。 收拾東西，整理細軟。 忠王妃光衣服就裝了五大車，再加上府中所藏金銀珠寶，古玩綢緞，足有三十車之多。
也不知是誰將忠王要離城的訊息傳了出去，金陵城內一時人心慌亂，附近地百姓扶老攜幼，自發的聚集在了忠王府前，不出一個時辰便有數千人之眾。
這些百姓全跪在王府前，或是嚎陶大哭，或是磕頭不止，眾人盡皆央求忠王不要棄他們而去。
王府門前擠了這幾千號人，將近把一條街都堵得水洩不通，那三十多車的細軟，根本連動都動不了。 李秀成無奈之下，只得出了王府，親自來見這些請願的百姓。
眾人一見李秀成的面，頓時沸騰起來，嚎的比原來更響亮，磕頭的咚咚撞地，哀求哭留之聲，只怕半個金陵城也能聽得見。
李秀成見了這般場景，一顆心頓時軟了三分，他忙將跟前的一位老人家扶起，朗聲向眾人道：“各位兄弟姐妹，天京糧荒已久，秀成此番離去，只是想多籌集些糧食，再回來解天京之困。 還請你們理解，放一條路讓秀成離去吧。 ”
此番話一出，眾人哭得更是聲嘶力竭，只是不肯讓路。 那骨瘦如柴地老者撲嗵又跪了下來，抱著李秀成的腿哭道：“王爺是天國的頂梁之柱，王爺若是去了，這天京哪還能守得住呀。 王爺你仁愛萬民，就忍心把我們留給清妖的屠刀嗎，王爺，你不能走呀。 ”
李秀成著實被這些百姓愛戴所感動，他眼眶中竟是含起淚水，眼睜睜的看著跟前的人們，猶猶豫豫不知該說些什麼。
身旁地忠王妃見李秀成有反悔之意，急是從旁勸道：“王爺，時間不早了，咱們趕緊上路吧。 ”
這話被那老人聽了去，他回頭向眾人呼道：“王爺就是咱們的救星，他若執意要走，咱們就在這裡給他磕頭送別，直到磕死為止吧。 ”
在他的號召之下，幾千人山呼海嘯般的狂撞起了地，此起伏彼的磕頭聲，匯聚起來，竟如戰鼓一般震懾人心。 頭破血流，仍不放棄，鮮血染紅了地面，一個個飢餓瘦弱的身軀，不斷的停在血泊之中。
李秀成為此情景所震撼，他的一顆離去之心。 徹底地被這些無助絕望的人們所擊倒，他仰天長嘆了一聲，心中想道：“莫非天意如此，我李秀成註定要與這天京一同覆亡嗎？”
感慨良久，他苦笑著向眾人高喊道：“秀成能得你們地信任，死亦無憾了，我決定留下來。 與天京共存亡。 ”
話音一落，絕望地百姓們彷彿在滾滾淵流中抓到了最後的一根救命稻草。 他們暫時忘卻了悲傷，盡皆歡呼雀躍，大呼“忠王千歲，忠王千歲”。
忠王妃百般無奈，一聲怨嘆，轉身拂袖回府。 李秀成享受著萬民地擁戴，臉上雖是一副欣慰之狀。 私下是是暗暗搖頭。
曾紀澤的兵分兩路，一部分自上海搭乘淮揚水師溯江而上，一部分由蘇州出發，先往鎮江，再往金陵。 曾紀澤命水師先行，而他則趕往蘇州，與已在那裡休整多時地吳長慶、潘鼎新等人會合。 另一方面，他也要在離開江蘇之前。 與李鴻章有一個會晤。
李鴻章道：“大公子，此番西征，凡事千萬要小心謹慎。 九帥那方面，還是要與之協調好，免得到時出了不必要的糾紛。 ”
“還用得著協調麼，我們早就串通一氣了。 ”
曾紀澤並沒有迴應李鴻章地囑咐。 卻反問道：“少荃，你就任蘇州知府差不多也快有半年了，最近可在蘇城的街頭巷尾聽到些什麼傳言嗎？”
李鴻章一怔，想了片刻，道：“傳言倒是聽到一些，現在街到到處是風傳，說是有人在太湖中見到一青一橙二龍相鬥，橙龍勝而上九天，青龍敗而沉湖底。 這傳言玄之又玄的，也不知是真是假。 ”
“青龍……橙龍……”曾紀澤似在思索。 卻又不得解。 問道：“若果有此事，說不定是上天有所徵兆。 少荃你博古通今，可知這青龍、橙龍所寓何意嗎？”
“龍者，至尊也，青龍、橙龍，莫非是……”李鴻章話說一半，笑而不語。
這什麼雙龍的傳聞，完全是曾紀澤的傑作，無非是想為不久之後起事做些“天意”輿論宣傳。 他知李鴻章乃當世奇才，又豈會不知那雙龍是何寓意，只是他這人聰明的緊，凡事都先想著把自己置於安然之境，這時雖體察到了曾紀澤的用意，卻偏不明言。
李鴻章雖不掌兵權，但他跟隨著曾紀澤創立淮軍，幫著他建起人才匯聚地幕府，諸多的人事任命，他也參與其中，可以說，李鴻章在江蘇官府以及淮軍中的影響力是不容忽視的。
曾紀澤今日的用意，就是非要李鴻章表明態度不可，否則，他決不會在離蘇之前，將這麼一個立場不明的有影響力人物留在大本營中。 儘管他已安排胡雪參的一個團駐守蘇州，對李鴻章和這座蘇南重鎮予以嚴密的監控，但曾紀澤還是不想留有任何顧慮前往金陵。
曾紀澤見李鴻章不答，便隨手端起了茶杯，連飲了三口，一旁地白震山看在眼裡，神情頓時緊張了起來，手悄悄的放在了配刀上。
就在這大廳之外，曾經澤已安排下了大刀隊的一百多親兵，胡雪參的那個團也是嚴陣以待。 曾紀澤事先已與白震山有所約定，若然李鴻章心有不從，則以摔杯為號，大刀隊衝入，當場將李鴻章正法，同時胡雪團立刻行動，清除李鴻章安排在蘇州的心腹官員。
曾紀澤甚至連新一任的蘇州巡撫也選好了，就等著李鴻章做出決定。 在這一刻，這位歷史上著名洋務派領袖地生死，就全決於他的一念之間。
“莫非什麼？”曾紀澤閒然而問，手中茶杯卻握得更緊了。
李鴻章倒沒急著回答，他便拿起桌上的水煙，不慌不忙的點了火，優哉遊哉的輕吸了幾口，大廳中頓時煙氣瀰漫。
“咳——”曾紀澤輕咳了幾聲，這麼多年了，他還是無法適應這水煙嗆人的開味道。
曾紀澤知道，李鴻章是在故作鎮定，其實他的內心之中，此刻八成已是排山倒海。 他擺出一副比李鴻章還要閒庭信步的神態，笑著說道：“少荃，這個問題很難回答嗎？它很讓你緊張嗎？”
李鴻章一怔，道：“大公子怎麼看出我緊張了，我覺得我現在很淡定的。 ”
曾紀澤冷哼一聲：“少荃你莫非忘了，你曾經和我說過，你這人只要一緊張就想抽水煙。 這一鍋煙你幾下就抽乾了，看來你還真的緊張地很厲害。 ”
李鴻章哈哈大笑：“知我者，非大公子莫屬呀。 ”他將水煙放回了桌上，起身在這大廳中來回踱起了步。
就在曾紀澤已漸漸沒有耐心，要舉起杯起，他忽然說道：“大公子，其餘人都不足為懼，唯有洋人地態度是至關重要的。 上海乃洋人勢力最盛之地，而咱們地武器製造局，江南製造局又都建在那裡，萬一洋人強行控制了這兩個廠子，只怕介時對淮軍的武器彈藥供應會有不小的影響呀。 ”
曾紀澤鬆了口氣，李鴻章雖未明言，但這幾句話卻是無疑表明了態度，並且還切中了要點，這在之前是曾紀澤所沒有考慮過的。
曾紀澤道：“少荃，你能說這一番話，我真的很感欣慰呀。 ”
李鴻章正色道：“老師對我有知遇之恩，大公子你對我有提攜之恩，我李鴻章非是那種知恩不圖報之人，其實大公子你根本不用猜忌，我李鴻章自然是會站在你們這邊的。 ”
曾紀澤重重點頭，表示認可，又道：“少荃的心意如何，我當然明白。 此番西征，正是要決定大事，我身邊怎麼能缺了少荃這樣的智謀之士，這樣吧，蘇州府的政事你暫且放一放，隨我一同去金陵吧。 ”
曾紀澤覺得有必要把李鴻章帶在身邊，不過這倒令李鴻章頗感意外，他似乎是有幾分不情願：“蘇州的重建正在重要關頭，土改方面還有很多問題要處理，我只怕這麼一走，這副攤子下面的人不好處理呀。 ”
曾紀澤不以為然：“我相信少你荃選拔下屬的眼光，小事他們應該能夠處理，至於大事嘛，我想金陵與蘇州距離並不遠，咱們有輪船來去如風傳遞資訊，你大可在金陵處理公務的。
李鴻章的藉口被曾紀澤輕易推翻，無奈之下，只好選擇隨曾紀澤大軍一同前往金陵。
曾紀澤也因李鴻章的提醒，決定將上海武器製造局一半以上的步槍生產車間，以及整個機槍車間全部搬到了蘇州，成立了蘇州槍械局。
至於還在建設中的江南製造局，工程最為浩大的船廠，曾紀澤讓其繼續在原址建設，至於一些直接影響到戰局的廠子，如炮局、子彈廠、修船廠，則改遷到蘇州抓緊時間搶建。
上海的商人們顯然還無法領會到曾紀澤這樣做的用意，但因韓殿甲代表的官府擁有著大部分股權，故在股東大會上，強行通過了江南製造區域性分遷移至蘇州的決定。