韋俊、曾天養得令，督兵兩萬，逆江而上，1854年1月20日，進抵黃州。援軍至，石祥禎滿生歡喜。
曾天養道：“吾新誅江妖，兵鋒正厲，乘勝攻武昌乎？”
石祥禎道：“隆冬時節，三九嚴寒，不利動兵；暫歇時日，且看清妖動作。”
韋俊亦附。
大軍壓境，湖北巡撫崇綸謂湖廣總督吳文鎔道：“吳大人上契聖心，下孚衆望，至鄂月餘，吾未見大人施技殺賊，一味坐守武昌，此能天長地久乎？賊於咫尺之黃州，隨時來攻，大人何策禦敵？”
吳文鎔道：“吾已奏調胡林翼領黔勇來援，曾國藩水師亦於近日可成。屆時可合全楚之力，水陸齊發，滅賊於荊襄。援兵未至，不宜輕出。崇大人如有殺敵高招，儘可即使。”
崇綸道：“吾皇屢敕出城接戰，吳大人一再遷延，意欲何爲？”
吳文鎔道：“黔、湘軍至，收夾擊之效，有何不可？”
崇綸再不言語，惱而上疏：湖北現有兵勇一萬數千，除守城及紮營城外要隘外，尚有數千可以出征，若待湖南兩廣各船炮到齊，道路迢遙，深恐有需時日。況賊匪大股多赴安徽，現在楚境者系零星小丑，並有土匪冒名搶劫，長髮老賊實系無多。若派數千官兵配以現有炮船，水陸夾擊足以痛剿。吳文鎔終日閉城坐守，一籌莫展。兵勇各告奮勇，情願自去殺賊，吳亦不準往，不知是何居心，是何肺腑！
咸豐帝聞奏大怒，諭斥吳文鎔：一味株守，不圖前進，竟置大局於不問，可有誠心？荊襄事大，朕來分工，所有省城防守事宜即責成崇綸妥籌佈置，吳文鎔親率官軍出城督戰；倘再遷延，革職拿問。
吳文鎔恨崇綸之陰，慨聖意之切，憤而出兵。
曾國藩聞訊力勸：“雖有嚴旨切責，吾師尚當剴切痛陳，備言進剿之不能得力，徒挫聲威。即以此獲咎，而於吾師忠直之素，謀事之臧，固亦可坦然共白於天下。”
吳文鎔回道：“吾意堅守待君東下，匯合林翼黔勇，收夾擊之效，自是正辦。今爲人所逼，時不及待，吾受國恩厚，豈惜死？以一死報國，無復他望。君所練水陸各軍，必候稍有把握，然後可出而迎敵，不可以吾故，率爾東下。東南大局，恃君一人，務以持重爲意，恐此後無有繼者，吾與君所處固不同也。”
曾國藩觀文默然，半晌無語。
羅澤南、郭嵩燾皆道：“不救江岷樵，吾已被全湘責罵；將士亦有離心。武昌近在咫尺，此若一破，瀟湘難保。”
曾國藩道：“虹貫荊軻之心，見者以爲淫氛而薄之；碧化萇弘之血，覽者以爲頑石而棄之。吾非心如磐石，今兵未練成，傾巢一出，潰如潮退，萬般付之東流；家國完矣。”
湖南巡撫駱秉章亦是愁容滿面，謂提督鮑起豹道：“曾國藩陰忍，一不救江忠源，二不救吳文鎔，吾予王鑫三千兵，吳督卻之，武昌若失，禍必及湘，看曾廝將竄至何處！左宗棠此人，吾三番五次恭請，總不待見；使幣入山，再行敦促，勿厭其煩，至其足動而止。”
1854年1月29日，吳文鎔親率四千兵勇，傾出武昌，進駐堵城。時值隆冬，大雪紛飛，兵勇拆民房舉炊；一時間，數十里內房屋盡毀，猶不足供，軍民皆怨。
吳文鎔嘆曰：“本不欲民爭利，奈何倉促而出，資財皆缺！”
湖北按察使唐樹義道：“此地距黃州僅二十餘里，賊逆轉瞬即至，制臺大人若有閃失，荊襄再難轉圜，煩請大人速返武昌遙制。”
吳文鎔道：“勿再大人相稱，吾乃一兵弁也。子方兄扼守水路，吾護堵城，你我水陸並舉，生死與共！”
唐樹義道：“你我雖一把年紀，然皆大丈夫也；大丈夫做事，只求一點兒精誠；生當做人傑，死如江中丞！”
2月7日夜，太平天國天曆新年，黃州城煙花盈天，石祥禎、韋俊、曾天養、陳玉成等燃香燒紙，普天同慶。
國宗石祥禎道：“吳文鎔妖，全不知兵。堵城濱江臨壑，三面皆水，已是絕地；復設大營十一座，排比屯紮，又犯兵家大忌。吳妖不亡，天理不容！吾與韋國宗正面強攻，曾丞相繞其後，縱火燒之，吳妖必潰。”
2月12日，大雪紛飛，道路泥濘，石祥禎全然不顧，發令總攻。清軍營寨被燒，前後受敵，接戰即潰。兩時辰不到，四千清軍逃散殆盡，湖廣總督吳文鎔、總兵德亮、知府蔡潤深皆死於亂軍中。陸師潰，唐樹義不便再戰，率水師上駛金口暫避。太平軍逆江而上，不費分毫佔得漢口、漢陽。16日，石祥禎率軍再抵武昌城下。
太平軍三犯鄂省，咸豐帝急諭：湖南巡撫駱秉章選派精兵、湖南幫辦團練大臣曾國藩統領炮船，剋日抵鄂，扼賊之吭；江西巡撫陳啓邁，盡遣炮船，駛出九江，擇扼要之區，截賊往來之路，與曾國藩聲勢聯絡，上下夾擊；茲授荊州將軍臺涌爲湖廣總督，都統官文接任荊州將軍；着湖北學政青麟爲湖北巡撫，原湖北巡撫崇綸暫留湖北協辦軍務。賊逆大舉入鄂，廬郡虛空，福濟、和春務必鼎力協心，剪除胡以晃逆匪。
太僕寺卿齊承彥進言：東南半壁，賊勢鋪張，只可緩取；束城之賊，已爲強弩之末，務必徹殲。臣聞林鳳祥、李開芳二賊由獨流竄出時，匍行雪地，多至腿腳皴裂。現雖佔踞束城等村，勢已窮蹙。臣以爲脅從之民可撫則撫，亦釜底抽薪之一法，其不受撫者正宜及時進攻，勿失機會。北地兵馬善寒惡熱，以後天氣漸暖，人馬易病，若南賊再來，彼時更難措手。賊之伎倆，全靠木城土壘，昔日佔踞獨流若何佈置，則束城之賊情亦可得其大概矣。
咸豐帝納齊承彥意，再諭僧格林沁、勝保：該大臣等會督大兵追剿竄匪將及兩旬，總以專待大炮爲詞，逐日遷延，何時始能竣事？且束城等村與獨流之可以負隅久踞者迥別，何以不能逼近賊壘？是否該逆又經築木城？該大臣等匿不以聞。東西兩路分兵疊進，該逆均得由束城分股接應，該大臣等所謂智取者安在？
僧格林沁、勝保接旨，再攻束城。林鳳祥、李開芳株守不出。僧格林沁令西凌阿正面攻擊，自率一部襲束城之後。勝保亦督兵自西南攻擊。將近城垣，炮子傾出。清兵紛紛倒地。炮聲過後，林鳳祥親率二千兵士，出城迎擊。僧、勝不敵，潰退。
是夜，林鳳祥、李開芳率兵突襲火器營，斬殺正參領恭訥春，擄取貨藥無數。
僧、勝大驚，不敢再擊，就近密放槍炮，開溝挖長壕，遍佈鹿角、樹珊，以防林、李突圍。
林鳳祥、李開芳頓兵束城月餘，喫喝用度告罄，只得再行突圍，南進阜城。
僧格林沁、勝保匆匆拔營，緊隨其後，復再圈圍。
福濟、和春接旨，亦不懈怠，圍攻廬州，晝夜不歇。胡以晃獨力難支，求援天京。
林鳳祥、李開芳被困，廬州告急，楊秀清心焦；急令吳如孝接守鎮江，羅大綱率部援皖。又急召石達開、韋昌輝，商討北援事宜。
韋昌輝道：“啓稟東王殿下，探報，曾立昌部已於豐縣包家樓北渡黃河，現正兵分三路，挺進山東。”
楊秀清道：“本王亦知。”
石達開道：“啓稟東王殿下，曾立昌兵寡，即便會合林李，亦屬杯水車薪。煩請東王殿下下詔，敕令林鳳祥等南返息養。”
楊秀清沉思半晌，道：“曾立昌一路披荊斬棘，一月時間即渡黃入魯，實乃大將之才；倘能與林李會合，定能煥發勃勃之生機。石祥禎、韋俊等圍攻武昌，倘能得手，天國固矣。”
石祥禎等屢攻武昌不克，遂兵分三路，韋俊、石鳳魁繼攻武昌。
曾天養、陳玉成部轉攻鄂中、鄂西，一月之內，挺進六百里，連克孝感、雲夢、安陸，宜昌。
石祥禎攻金口，轟沉唐樹義座船，全殲湖北水師；其後四十天內，疾馳八百里，攻佔嶽州、湘陰、靖港、寧鄉，前鋒直逼長沙。