就在1868年6月，关保与鲍超金坛大战前后，师帅傅忠信与总教杨泗洪的第六野战师一路连克六合、仪征、丹徒、丹阳，占领镇江府，与关保军会师于金坛，完成了对江宁的包围。曾国藩刚在江宁募得二千兵勇，在上海购买的军火到了扬州府就无法前行了。太平军长江水师顺流而下，分泊大胜关至草鞋峡一带江面。曾国藩在南京城内，有督标十营，又有曾国荃、刘坤一、易良虎、张诗日、蔡元隆、唐义训、李能通、杨德琛、李光久、潘运璋及都司王步云等逃回残兵败将计二万多人，将军魁玉、副都统辉布尚有八旗兵四千人，江南水师提督李朝斌、副将李成谋、江防统领王之春尚有水师残存舰船二十艘，记名提督伍维寿倒还有骑兵十多营。曾国藩与被革职留任的曾国荃和刘坤一、江宁布政使李宗羲，记名布政使刘连捷，四品卿衔钱应溥，内阁中书许振祎等计议，决定发挥湘军特长死守江宁，等待李鸿章淮军和左宗棠楚军到来，内外夹击，一举消灭短毛精锐。于是，曾国藩分派各部连夜加固城墙，在城外挖深壕，城内也挖壕，修单墙内城，城内正对城门不远处筑土垒，在城外各要紧处驻军筑垒，撤除城外五里内一切房屋，焚尽城外五里内一切树木，在江宁城各门都布置了各类大炮，四处收集大量木柴、草料、粮食，又派人搜捕城中太平军内应，抓捕了天道教江宁府教士林子祥等三十多人，均被凌迟处死。
1868年6月28日，戴盛宽部弹尽粮绝，太平军又日日在营外宣传湖南的现状，还用热气腾腾的白馒头诱降湘勇。湘兵听了都很期许，日日都有士兵降者。不得已，戴盛宽决计投降，请陈炳文、王梦麟二人帐内议事，两人入帐坐地 。戴盛宽说了自己的决定，曾为太平军听王的陈炳文愤而起身，表示决不投降，王梦麟不发一言，突然起身拔刀砍死陈炳文，掩泪道：“为了剩下的弟兄们。”于是戴盛宽与王梦麟带一万三千人放下武器降了吴如孝。戴盛宽、王梦麟等将官被送教导营，士兵们愿回家者发给盘缠，愿当兵的先集中学习天道教义后补充地方部队，结果，得精兵七千多人。曾国藩闻戴盛宽等人降了短毛，长叹一声，默然良久。城外传来隆隆炮声，那是太平军长江水师舰炮的怒吼，曾国藩听着，眼前浮现出威武的湘军水师，长龙、舢板，都是毕生所创的精华，无数次保障湘军结硬寨、打呆仗的成功，现如今，失去水师的湘军，一但粮道被断，结出的硬寨就是困死自己的坟墓，打出的呆仗无疑于步步陷入自挖的深坑。曾国藩正在深思，刘坤一吊着左膀子进来了，：“大帅，戴胜宽居然降了短毛，这狗娘养的，别让我碰上他，碰上他非活擒了当众挖出心肝，看看是红还是黑！”“岘庄，不去提他，城防怎么样了？”曾国藩抬头道。刘坤一说：“遵大帅令，除四千八旗由魁玉将军、辉布副都统率领驻满城外，包括督标在内所有兵马均按湘军制式重新编练，共得九十四营步兵，九帅领四十营驻雨花台旧营，李能通领五营驻地保城（即龙脖子）、紫金山巅的天保城、唐义训领五营驻城东孝陵卫，王步云领一营驻城西南的江东桥，张诗日领十营驻城东南的上方桥、上方门、高桥门、双桥门、七桥瓮以及秣陵关、中和桥，神策门（今中央门）外沿江一带、蔡元隆领十营驻长江北岸九洑洲、李光久领五营驻江浦、浦口，易良虎领四营筑聚宝门外各石垒，潘运璋领二营驻水西、旱西两门，江防统领王之春领水师十营舰船泊于水西、旱西两门，江南水师提督李朝斌泊于水师八营驻九洑洲、副将李成谋领五营水师泊于江浦、浦口，伍维寿、杨德琛共领骑兵十多营驻于太平门、神策门内，留下一营保卫大帅和各官府邸，剩下十一营由末将统领分驻江宁城各门城墙，江宁布政使李宗羲总理营务处于清凉山小九华寺负责全军粮饷、军械、弹药保管分发，记名布政使刘连捷带三班捕快、各堂衙役负责巡城搜拿奸细维持治安，四品卿衔钱应溥、内阁中书许振祎负责文书制作、命令下达。城外各部均在汛地相度地势设置炮台和火炮，并按湘军标准挖壕筑垒，各门城墙均已修好、加厚，门内子墙也将修好。”曾国藩点头儿道：“如此甚好，洋枪洋炮多吗，弹子够吗？“刘坤一道：“回大帅话，有洋枪二万多支，洋炮八十多门，枪子儿一百万发，炮子儿五千余发，火药十万斤。”曾国藩道：“还是太少了啊，可惜赵烈文在上海采购的军火来不了啊。”……
1868年7月6日，吴如孝带领第五野战师开始进攻江浦、浦口，龙怒涛也派旅帅汤复云领着清波浅水重炮铁甲舰和二十艘木制炮艇前往配合。李成谋水师先逃，李光久指挥湘勇依托营垒、炮台抵抗，却抗不住水陆双重打击，炮台先失，接着各处壕垒俱失，第一十三旅很快攻克江浦、浦口，李光久带一千余败兵逃入雨花台大营。龙怒涛亲率舰队攻击九洑洲李朝斌部，副将李成谋水师刚好逃到，双方激战了两个时辰，李成谋中弹落水而亡，李朝斌被炮弹击中座舰，下小艇逃跑，被廖忠凌波号铁甲舰撞翻，李朝斌落水被擒。太平军夺了江浦、浦口、九洑洲，这时魏宣武所遣二个独立炮兵旅赶到，太平军直扑雨花台。曾国荃的壕挖得比原来攻洪秀全时还要深，土墙垒得又厚又高，枪炮眼密密地布列，三十门洋炮、二千多门大小劈山炮、一万支洋枪，五十门铜炮，曾国荃拥有现下湘军近一半的家底。1868年7月12日，吴如孝的第一十四旅以少量散兵多带旗番呐喊着佯攻雨花台，曾国荃见四处都是太平军的旗帜，忙命所有火炮开火，湘兵也持枪乱射，太平军炮兵看得真切，忙用各式大炮轰击湘军炮兵阵地，一时弹如雨下，二十八轮炮击下来，湘军火炮尽数被毁，吴如孝又指挥炮兵攻击湘军土墙、碉楼，一时间烟尘满天，爆炸声不绝于耳，湘军土墙坍塌，碉楼崩坏，太平军炮火又打击墙外花篱，然后再次延伸到营房，湘军乱成一团，太平军骑兵每人挟土一袋，快速冲到壕边丢下就回，不到一个时辰，填平三十多米长的一段壕沟，太平军步兵立即发起冲锋，杀入湘军营垒，很快双方短兵相接，曾国荃知此战非同小可，带部下爆发出惊人的战力，吴孝如见状，命骑兵卒填平另一段壕沟，亲率骑兵和所有剩下部队杀入湘营。太平军三个炮兵旅火炮停止射击，总教上官相忙督护卫营挖壕筑垒戒备，不曾想还真有意外发生，江宁新发迹的大地主周家家主周宗熙竟然纠合其他几家旺族组织了五万多团练持刀矛、弓弩、鸟枪、抬枪及少量洋枪、劈山炮向太平军炮兵阵地杀来，欲趁虚夺炮。上官相看着黑压压的人群叫喊着杀来，心中叹息一声，太平军大炮早已调整方位，上官相一声令下，千炮齐发，几个护卫营、探子营开枪射击，一时成片人群倒下，残肢断臂四处乱飞，团练兵四散奔逃，周宗熙还想顽抗，几发开花弹落在身边爆炸，一身齑粉。伍维寿、杨德琛领骑兵十多营趁机从另一面偷袭太平军炮兵阵地，太平军炮兵不及调整炮口，辎重旅忙顶了上去，集中两千余支长短枪打击湘军骑兵，伍维寿、杨德琛冲了三次，伤亡过半，只好退回城去。曾国荃见吴如孝亲自杀来，欲先擒之，就带亲卫与李光久一起向吴如孝攻去。看看来到近前，李光久发枪，正中吴如孝左臂，吴如孝向后一退，左右忙扶住，身后涌出一队太平军，持长、短枪攒射，湘军倒了一片，一彪骑兵略过，李光久只觉眼前马刀白光一闪就倒在了血泊中。曾国荃还想冲过去，一颗子弹飞来，击中面门，九帅摔倒在地，又挣扎起来，几名亲兵开了几枪就挡在曾国荃面前装弹，太平军一排枪过来，几人一齐倒下。曾国荃血流满面，以刀驻地，怒视太平军，刚骂了声：“短毛！”就被几把枪刺插入要害。“大哥，九弟先行了。”曾国荃倒在了地上，慢慢闭上了眼睛。很快，雨花台被太平军攻下，湘军阵亡一万六千人，因伤被俘数千人，少数人逃走，竟无一人投降。吴如孝的第五野战师，也伤亡了一万余人。
吴如孝一边任医兵包扎伤臂，一边下令第一十五旅第一卒配探子卒攻九洑洲，第一十五旅其余部队攻城西南的江东桥，第一十四旅攻城东孝陵卫，自率第一三旅和其余部队攻城东南的上方桥、上方门、高桥门、双桥门、七桥瓮以及秣陵关、中和桥及神策门（今中央门）外沿江一带。蔡元隆部正在九洑洲用炮台火炮与龙怒涛水师对击，不防十五旅第一卒和探子卒从北岸乘坐小艇登洲，一鼓作气攻下几座炮台，龙怒涛的舰队连忙配合炮击湘军土墙、碉楼，太平军发动进攻，蔡元隆部无路可走，全部放下武器投降。太平军趁夜偷用野炮轰击唐义营地，以数支小股部队趁乱悄悄运土填壕，天亮时壕平，太平军爬上土墙，攻破湘军营垒，唐义训战死，太平军进入城东孝陵卫。张诗日城东各处防地都遭到攻击，太平军炮火很猛，张诗日正在秣陵关上指挥，数发炮弹袭来，一代湘军悍将张诗日当即殒命，所属各垒很快陷落。王步云驻城西南江东桥的兵最少，却扛到了最后，当大批太平军端着刺刀向他冲去时，王步云把刀一横自刎而亡。龙怒涛领水师长驱入水西、旱西两门，江防统领王之春领水师十营舰船紧靠水西、旱西两门城墙，依靠潘运璋城头大炮配合，与太平军水师炮战。这时第六师第一十七旅也赶到南京城下，攻取了易良虎筑于聚宝门外的各石垒，易良虎重伤被俘。吴如孝又击毙李能通，攻取了紫金山巅的天保城和地保城（即龙脖子）。南京外围基本肃清，吴如孝将三个炮兵旅置于太平门外，一边集中千余门各型火炮猛轰太平门上湘军士兵和炮台工事，一边派兵从各处向城墙挖地道三十多条。曾国藩已接到曾国荃死讯，强忍泪水，铁青着脸，这时，火炮轰击的巨大响声震撼着两江总督府，突然一声爆响，曾国藩一个哆嗦，忙起身向外走去。刚到门口，刘坤一急急跑来，差点撞上，刘坤一上气不接下气道：“城破了”，刚说完，又是几声爆响，原来太平军大部分地道失败，但有少数偷偷挖到城下，埋设火药地雷引爆，炸塌了太平门，太平军蜂拥而入。刘坤一忙与几十个亲兵护着曾国藩到神策门找到伍维寿、杨德琛骑兵营骑马出城逃命。逃不多远，迎面来了任柱的骑兵旅，一场混战，伍维寿举刀奋勇冲杀，奈何太平军越聚越多，身边士兵纷纷落马，任柱飞马挥刀砍来，伍维寿抬刀一挡，刀成两半，伍维寿连人带马被劈为两半。杨德琛要来救时，一旁任柱亲兵举起马枪，对着杨德琛乱枪齐发，杨德琛翻身落马当场毙命。湘军骑兵一个也未走脱，不是战死就是被俘，曾国藩自杀不成，和刘坤一也被俘虏。城内，刘连捷被乱枪打死，钱应溥被俘，许振祎吞金自尽。水西、旱西门外，潘运璋和王运春见大势已去，带兵降了龙怒涛。太平军取了江宁，清狼山镇总兵王吉举兵降了关保，湘军终灭。