1、2月前后，第23军攻占南宁，打通并确保桂林至谅山通道，南方军将由谅山方面予以策应。

    日华北方面军于3月31日遵照其大本营所下达的战斗序列，重组第12军，以担负打通平汉路南段的作战任务，其编成为：军司令官为内山英太郎，所属部队有第37师团（长野佑一郎）、第62师团（本乡义夫）、第110师团（林芳太郎），第27师团（竹下义睛）、战车第3师团（山路秀南）、独立混成第7旅团（多贺哲四郎）、独立步兵第9旅团（长岭喜一）、骑兵第4旅团（藤田茂）。军直辖部队有野战重炮兵1个联队，野炮、山炮、高射炮各1个大队，工兵2个联队又2个大队，独立步兵3个大队。另有第2飞行团协同作战。这时，日军各师团的编制已改为3联队制，每师团定额14205人、军马2908匹、汽车113台，总计兵力14.8万人，军马33000匹、火炮269门，战车219辆、汽车6100辆，支援飞机168架。

    太平洋战争爆发之后，中国国民政府战略方针的基本精神是：“力求以连续局部攻势，牵制日军于中国大陆，并以精锐部队人缅，协力盟军作战，以求盟邦之共同胜利。”但事实上，虽然也曾发动过局部攻势，但最根本的指导思想是保存实力，等待盟军基本上击败日本后，再实施所谓反攻，获取“共同胜利”。由于这种消极思想的影响，在国内作战的政府军队，特别是中央谪系部队，不少单位的战斗力严重下降。1943年盟军开始反攻，日本在太平洋战场连续失利。军事委员会对日本为加强战略防御而发动一场大规模进攻的可能性，完全没有估计到。在日本大本营和侵华日军调兵遣将，积极进行“1号作战”的准备时，蒋介石正以第8054号手令命军委会拟制“对于黄河南北两岩，及长江南岸之总反攻计划”。

    1943年11月4日和1944年3月7日的《国民总反攻作战寻计划大纲》甲、乙两案规定：“依全般态势之变化，倭寇有总崩溃之征兆时”，“各战区应不夫好机，同时反攻”。丝毫没有防御日军大规模进攻之准备。平汉路南段，属第一战区，战区司令长官为蒋鼎文，副长官为汤恩伯，所属部队有：第15集团军（何柱国），辖骑兵第2军（廖运泽，骑3师、暂14师）、骑8师、暂1、暂2、暂3旅；第19集团军（陈大庆），辖暂9军（霍守义，第111、第112师、暂30师）；第28集团军（李仙州），辖第85军（吴绍周，预11师、第110、第23师）、第89军（顾锡元，第20师、新1师）、暂15军（刘昌发，暂27师、新29师）；第31集团军（王仲廉），辖第12军（贺粹之，第22、第29师、暂55师）、第13军（石觉，第4、第81、第117师）、第29军（马励武，第90、第193师、暂16师），第78军（赖汝雄、新42、第43师、第441师），以上部队均属副长官汤恩伯指挥。还有第4集团军（孙蔚如），辖第38军（张耀明，第17师、新35师）、第96军（李兴中，第177师、新14师）；第14集团军（刘思藏），辖第15军（武庭麟，第64、第65师）；刘勘兵团，辖暂4军（谢辅三，第47师、暂4师）、第9军（韩锡候、第54师，新24师）；第36集团军（李家鲸），辖第47军（李宗阳，第104、第178师）；第39集团军（高树勋），辖新8军（胡泊翰，新6师、暂29师）、第14军（余锦源，第83、第85、第94师）。总计42个师又3个旅，总兵力约40余万人。

    会战开始前，第一战区防御部署是：第4集团军位于郑州以西，汜水，巩县、黑石关一带，向北防守黄河南岸至郑州铁桥一线阵地；第28集团军及第78军位于郑州黄河铁桥两侧及以东至新郑铁路两侧，防守至黄泛区西缘的鄢陵、扶沟一带阵地