许昌时，派独立步兵第11旅团长官下文雄率其7个大队，于5月1日夜由信阳北上，2日至明港，3日拂晓至新安店。由于防守确山一带的第五战区第68军部队不战而走，日军第11旅团于当日占领确山。日军第27师团先头部队仅受轻微抵抗，即于5月7日占领遂平，9日进至确山，与第11军第11旅团会合。平汉路南段被日军打通。当日军第12军南进时，驻于上海地区的日军第13军奉中国派遣军之命，派第65师团长太田米雄率第71旅团和第64师团第69旅团，于4月25日开始，由风台，正阳关向颖上、阜阳进攻，以牵制位于平汉路以东的第15、第19集团军，策应第12军的作战。太田米雄恐孤军深入被歼，在27日占领颖上后，即缓慢前进，至5月6日，9天时间仅前进约30公里。当日军第27师团占领遂平，平汉路基本打通时，太田米雄于5月8日率所部返回原防。

    5月2日，日军第12军主力开始。对登封地区之汤恩伯集团进行包围。第110师团向登封、第62师团向禹城进攻，战车第3师团、骑兵第4旅团及第37师团主力向郏县，临汝突进，独立第7旅向襄城进攻。汤恩伯集团各部队战斗至5月4日，禹城、郏县于3日失守，襄城、临汝于4日失守。日军战车第3师团之机动步兵第3联队及战车第13联队一部，已突进至洛阳南方的龙门附近。汤恩伯集团遂于5日向伏牛山区撤退。

    为了策应第12军作战，华北方面军令第1军派第69师团长三浦忠次郎率其第59旅团5个步兵大队及独立混成第3旅团的3个大队，于5月9日夜由垣曲渡黄河，攻略渑池，以阻止第八战区部队东援，为加强进攻洛阳的力量，还调防守北平的第63师团长野副昌德率所属步兵第67旅团及3个独立步兵大队赶至郑州，指挥独立第9旅团及第12野战补充队参加进攻洛阳。5月10日，冈村宁次下达命令、令“第12军以一部兵力歼灭临汝西南和嵩县方面的重庆军，同时以主力迅速向宜阳、新安挺进，进入洛阳西方；第1军应迅速向洛阳方面推进；第63师团击溃洛阳以北重庆军后，向新安挺进。以上东、西、南互相呼应，围歼第一战区军，进而攻占洛阳”。

    日军第1军于11日攻占英豪车站，12日占渑地。守军第47军撤向卢氏。宜阳地区的刘勘兵团在日军围攻下，亦于13日向西南撤退。在日军第12军实施追击时，华北方面军于14日令第63师团进攻洛阳。5月18日晚，第63师团开始进攻。虽有大量炮兵和飞机的火力支援，但在守军坚强抗击下，激战至19日上午，仍无进展。当日中午，又增派战车第13联队和第110师团2个大队投入战斗，依然毫无进展，而且伤亡甚大。冈村宁次决定令第12军指挥第63师团全力进攻洛阳。24日13时，日军发起总攻。守军弹药殆尽，艰苦支持至22时，日军战车已突入城内，遂由东南角徒涉洛阳河突围撤走。25日洛阳失守。豫南会战基本结束。虽然汤恩伯集团撤退迅速，未被口军围歼，致日军的战役企图未能全部实现，但以数十万之众，据经营数年之久的国防阵地，仅作战30余天即丧失城市38座，损失兵力十余万，使日军轻而易早地打通了平汉路南段，不能不说是抗战意志衰退和保存实力思想造成的恶果。

    1944年春，武汉地区日军第11军共有8个师团、1个旅团。为了进行长沙、衡阳会战以打通粤汉路北段，日本大本营除将参加豫南会战的关东军第27师团、战车第3联队和炮兵4个大队转隶第11军外，还为其组建了第1、第2、第5、第9、第10、第11野战补充队（相当旅团）；日中国派遣军又将第64师团和独立步兵第5、第7、第11、第12旅团调至武汉。1944年5月9日，将留于武汉守备的第39师团、独立混成第17旅团及独立步兵第5、第7、第