第58、68、116师团攻击衡阳二线主阵地两天，没有取得丝毫进展，日军开始打起了歪主意，23号日军各部开始使用特种弹。南面江西会馆阵地，当守军意识到第68师团使用了毒气，阵地问候日本鬼子祖宗18代之声四起，进攻的日军也听不懂，想来也不是什么好话，日军也不以为意。在他们看来，支那不能生产毒气，不能生产防毒面罩，那支那军人就是活该，要想得到皇军的尊重，对方就要有相应的实力。
阵地上的叫骂声越来越小，戴着防毒面具的日军小心翼翼的接近国军阵地，越来越近了，50米了还没有国军开火，正当进攻的日军放下心来舒一气时，突然战壕里冒出一排排带着防毒面具的国军疯狂开火。进攻的日军像割麦子一样倒下一大片，守军来了个反冲锋，将进攻的一个大队的鬼子消灭在前沿阵地，死伤小鬼子的防毒面全被摘了下来，有些还没死透的鬼子在毒气中哀嚎，引不起阵地国军的丝毫怜悯，他们这是自作自受。
阵地上国军也死伤不小，国军配备防毒面具不足。这些防毒面具还是第10军军长方先觉死皮赖脸从戴海欧新2军匀过来的，新2军全套美式装备，防毒面具是标配。当时戴海欧也是为难，防毒面具是救命的装备，有无防毒面具在关键时候的差别就是生和死。在薛岳的协调下，新2军让出了一个师的防毒面具，方先觉把这些防毒面具分配到了二线主阵地，但也做不到人手一具，更多的还是使用湿毛巾应急。同样的一幕发生在各个主阵地上，衡阳东阵地更是如此，相对来说新2军防毒面具的配备率更高。日军使用特种弹的阴谋没有得逞。
第58、68、116师团有些力竭，西面国军第79军，南面第62军行动了，他们分别对第116师团、第68师发动了突袭。第57师、第190师一部由内而外配合第62、79军反击，第68、116师团慌乱一时，但日军的素质相对于国军来说，强的不是一星半点。虽然日军损失很大，但经历慌乱后终究还是稳住了阵地。横山勇急调第3师团、第34师团各一个联队前来支援，日军暂时把打击的方向转向了第62、79军。援军到达后，日军发起了进攻，第62、79军退回出发阵地，与日军对峙。衡阳城守军趁日军攻击第62、79军，发动了反击牵制日军，收回部分一线阵地。日军第一次总攻结束，日军改变策略以小股日军零敲碎打，蚕食衡阳外围阵地。
衡阳总攻的战果传到日本军部，军部非常不满。横山勇受到了年轻参谋们集体鄙视，5个师团攻打一座小城居然如此艰难，开创了日军的先河。虽然他们不像辻政信那样认为1个日军士兵可以抵上10个国军士兵，但1个日军抵上6一8个国军他们还是认可的，参谋们不懂一个屡打败仗的将军，怎么还能占据第11军司令官的位置。
此时西太平洋战场马里亚纳群岛战场，塞班岛战役已经结束，美军7月9日完全占领塞班岛，日军司令南云忠一和斋藤义次自杀，守军3.2万人全军覆没。7月21日?美军5.6万人登陆关岛，日军防备兵力2万余人，关岛处于激战之中，7月24日?：美军5.4万人登陆提尼安岛，日军不到9000人防守该岛。日本大本营及军部有预期，马里亚纳群岛必将失守。岛上日军可能坚持不到8月中旬。
马里亚纳群岛是日本“绝对国防圈”的核心组成部分，群岛失守使日本本土首次直接暴露在美军打击范围内?，美军b-29轰炸机可直接空袭日本本土。美军将完全控制中太平洋制海权，切断日本与东南亚资源区的联系。日本海军名存实亡，美军可自由选择进攻目标。海上运输线?即将被美军封锁，大本营更加急切打通陆上交通线，为困守东南亚的50万日军提供补给通道。执行长衡会战的第11军司令官横山勇承受了极大的压力，对他而言此战只许胜不能败。
横山勇紧急调整部署，第116师以一部监视衡阳守军，主力向第79军发起进攻。第68师团主力向第62军发起进攻，日军由进攻衡阳转为消灭国军援军。第9战区司令长官薛岳也根据战场形势变化调整了部署，李天霞第100军2个师南渡蒸水，第63师增援第62军，第19师增援第79军，第4军南下接替第19、63师留下滋水北岸防线，同时催促第8军、第11军加速前进，目前第8军已抵达邵阳，第11军抵达祁阳，距离衡阳100公里左右。
薛岳计划第8、51军到达后，以第51军、第62军攻击第68、116师团结合部，切断日军两个师团之间的联系，第74军从衡阳北部草桥过蒸水进入城内，第74军由内而外、自东向西发起进攻，第8军、第79军由西向东发起进攻，以国军3个精锐军围歼日军第116师团，完成后再转向围歼日军第68师团。薛岳又命令戴海欧新2军发动反击，吸引部分衡阳日军转到衡阳东，为在湘江以西衡阳周边围歼日军第58、116师团创造有利条件。薛岳还交给戴海欧一个重要任务，围歼战爆发后，以新2军为主力推进到龙头岭、老山各塘、东阳渡一线。向西防备第68师团渡过湘江逃跑，东面还要顶住日军增援部队，为围歼战争取更多时间。
戴海欧明知道此次作战任务会非常艰难，但却毫不犹豫的接下了任务。如果衡阳城下能歼灭日军2个师团，就是新2军全军覆灭了又有何妨。第9战区司令长官薛岳心中也充满了感慨，国军中像戴海欧这种不计较任何得失，不存在保存实力的问题，坚决执行命令的将领实在是太少了。