记名提督戴盛宽率副将陈炳文、王梦麟以湘军五十营从淮安府出发进攻泗州，一路到达泗州城下，按湘军老法离城五里挖壕扎营，结成硬寨。但是泗州各县乡屯、村垦不断袭扰，袭击湘军粮队，偷袭小股湘军巡逻队，捕杀湘军探子。过了两月 ，湘军粮队屡屡被劫，湘军存粮不多，眼见快要断粮，向曾国藩求援。曾国藩即令水军运粮、弹，江南水师提督李朝斌遣水师参将罗逢元带十营水师护送辎重船一百艘入老濉河，达石龙湖为戴盛宽部湘军运送补给。时太平军长江水师在周口港维修整补，不能出江作战。各路清军云集，四处攻打太平军城池，太平军地方部队坚壁清野，严防死守。关保集结第一野战师各部于安庆府，一边整训，一边派出大量探子打探清军情报。当探得攻六安英山的是湖北提督何绍彩部绿营兵时，关保抚掌大笑，于是与总教李太春商议，结合所掌握的清军情况，形成一套作战方案呈报军政天宰都押衙。魏宣武得报，立即召集各司官员商议，决定以两个野战师、一个骑兵旅、一个护卫卒、一个探子卒、二个炮兵旅、六个辎重旅组成西征军，以古大力为西征军大都督、王义刚为主教、杨辅清为西征军副都督、候选为参军长、周坤为教务长、申建功为建制大史组建西征军都督府，以杨重雅接任四川刺史。关保、李太春、武进带第一野战师屯于安庆府遮护粮道、援应各处，相机反击湘军。1867年10月20日，西征军在河南六安州集结完毕，古大力令第四野战师帅吉庆元、总教党文敬、副师帅郝向东向英山吃掉湖北提督何绍彩部绿营兵。吉庆元等得令带兵迅速赶到英山包围了何绍彩部绿营兵。何绍彩的绿营兵劈山炮和洋枪很少、多是鸟枪、弓弩、刀、矛，大多数的兵都还带有一支烟枪，每到一地就以烧杀抢掠为乐，攻了英山几次都没攻下，典型的不入流部队。何绍彩见英山难下，绿营兵软弱，直叹自己的仁字营未来，一面呈报曾国藩请兵，一边下令绿营兵在英山城外扎营待援。这几天，何绍彩都没出帐，日日搂着抢来的村姑调笑快活，不想这一日，天刚亮，炮声隆隆，一发炮弹落在营前炸响，何绍彩怀中美女惊叫一声，何绍彩一把推开她，赤裸着上身拿起刀就冲了出去。太平军打了一阵炮，全军四面突击，绿营兵早被大炮炸晕，见了太平军大多弃械而降，少数抵抗者均被击毙。何绍彩持刀冲出，被流弹击中右手，何绍彩弃刀被俘。古大力带着西征大军从英山出发，拿下黄州、直取武昌，武昌兵力空虚，古大力很快攻入武昌城，又连下汉阳、安陆、德安、荆州四府，每下一府，古大力都分兵攻略各县、打击乡村地主武装，申建功就从随军带着的二千多教导营和各大学、陆军学堂毕业生挑选人员与当地天道教徒一起组建地方各级政权机构和地方部队，辎重旅运送大批枪械、火炮、弹药对地方部队进行武装，地方政权一经成立，就开始进行收地、分地、打击土匪恶霸、公审不法地主及商贩、赈济贫民、宣传天道教义等工作。至1867年11月30日，湖北省府武昌及其他五府行政和地方部队全部建立，湖北省刺史为李汝楫、总教为汤云、统制为何崇政。古大力主力攻克华容县，进入湖南境内。
曾国藩正一边让小妾给他挠背，一边拿本书看。当钱应溥、许振祎拿着塘报进来，惊慌道：“曾大人，太平军攻入湖南了！”“曾大人，太平军攻克武昌，大股部队进入湖南！”曾国藩一听，书都拿不稳了，不过片刻，又恢复了镇定，命人请江西巡抚刘坤一、江宁布政使李宗羲、记名布政使刘连捷相商，最后决定，由记名提督蔡元隆带二十营湘军接替湖南提督周宽世打援，周宽世带本部绿营兵回湖南招募湘勇抗拒太平军，请退守襄阳的湖广总督李翰章募兵攻武昌城，又令江西巡抚兼提督刘坤一带十营湘军在江西募兵出湖北攻武昌城。江南水师提督李朝斌留水师副将李庆云带十营水师归杨岳斌指挥，与杨岳斌麾下十营湘军陆战营一起继续围攻盱眙县城，自率三十营水师、十营陆战营路直扑武昌城。此时，受魏宣武派遣，一千名在历次战斗中负伤后经医治伤愈的太平军野战部队士兵来到武昌，编入何崇政的省制部队，充当基层骨干。古大力在武昌城安放四十磅城防炮一百门、八十磅城防炮二十门、一百二十磅城防炮十门，由何崇政的省制及武昌府辖近三万人负责守城，自己率西征军全军进入湖南，攻克岳州府，休整两日即以第四野战师配一个独立炮兵旅进攻长沙府城。湖南提督周宽世以二万绿营兵及新募湘勇一百营在长沙府城及其周边严密防守，北门外橘子洲、伍家岭、银盆岭驻湘勇三十营，多作壕垒，置火炮、弓弩，以防太平军。1867年12月17日晨，太平军以散兵队形在野炮、重炮支援下猛攻银盆岭、伍家岭，战至18日下午，攻克银盆岭、伍家岭，破清军营垒二十五座，清军伤亡七千多人，败回长沙城。接着，太平军在伍家岭、银盆岭赶筑炮台，五日乃成，置重炮轰击长沙北门，轰塌数丈缺口，时水师冲浪、巨鲸、顺水三舰和五十艘木制炮艇及二百艘运输船驶入湘江，水师陆战卒在舰炮掩护下击败五营湘军夺取橘子洲，运输船载运步兵冲击缺口。周宽世督绿营和湘军拼死抵抗，湘军镇筸总兵腾加洪、永州总兵李明惠率精兵与太平军在缺口处展开肉搏，双方厮杀半日，吉庆元见湘军凶悍，命炮兵延伸射击，阻清援兵，自率护卫卒登舟冲上去欲夺缺口。总教党文敬一把没拉住吉文元，忙命副师帅郝向东带十二旅官兵全体上刺刀，乘船登陆向缺口冲击，又命重炮打击压制清军城墙上大炮。水师炮舰绕到城西，轰击碧湘门城上各炮位，运输船又载运骑兵卒和第十旅太平军在城西设置阵地，炮兵轰击多时，一门四十磅攻城炮打垮了另一处城墙，出现一道一丈多宽的小豁口，这时党文敬带十一旅也到城西，在望远镜里看得真切，忙调运输船运九门重炮过来集中火力猛轰这道小豁口，清兵正驱赶长夫堵缺口，炮弹袭来，不及躲闪，死伤一片，小豁口砖石乱飞、尘土飞扬，十轮炮击过后，小豁口变成了五丈多宽的大缺口，遍地碎砖、烂石，党文敬命重炮换开花弹，又是十轮齐射，缺口处碎砖烂石更细，炸得更开，党文敬命骑兵卒当先、第十旅随后，在炮兵掩护下过碧湘门外西湖桥，从缺口处冲入，清兵抵抗不住，节节后退。骑兵卒和第十旅扫荡了缺口处为数不多的清兵，第十旅登城夺了城墙，骑兵卒夺了碧湘门，打开城门，党文敬在望远镜中看见，便自带十一旅突入长沙城内。周宽世率兵死战不退，湘勇的确强悍，碰上其他部队，此时城池早已易主，湘勇却在主官带领下，与太平军进行巷战。正激战，探子卒从西湖桥入城，太平军探子卒极善于偷袭、巷战，探子卒加入，湘军很快不支，周宽世带提标数百精锐退守中山亭那边的提督衙门，太平军占领中山亭边先锋厅，湖南巡抚刘崐则与布政使李榕、按察使仓景恬、学政温中翰带领千余名抚标士兵在巡抚衙门依托数百间房屋及后花园抵抗。镇筸总兵腾加洪、永州总兵李明惠血战大半日，后援不至，手下兵勇死伤大半，没奈何放弃北门退守南门与南门金盆岭守军、妙高峰守军互为犄角。各城内还有其他许多小股湘军，与太平军在城内逐屋争夺。