徐州会战进行期间，国民政府军事委员会根据当时的情况及未来可能的发展，判断日军“最近之企图，在先求打通津浦线已甚显然，惟敌人打通津浦线后，当以郑州及武汉为其作战目标”。同时，还判断日军“侵袭郑州及武汉之路线”，可能性最大的力“沿陇海线西进图取郑州，以断我平汉线之连络，同时安阳方面之敌沿平汉线南下，以夹击黄河北岸之我军”。因而，在1938年5月1日，制定了《国军作战指导方案》，决心“以阻止敌打通津浦路之目的，在鲁南集结相当限度的兵力，行攻势防御，但敌如由国内大举增援至兵力绝对优势时，刚应避免决战，逐次抵抗，以消耗敌之战力。同时在武汉及郑州以西集结兵力，准备诱敌深入与之决战”。并决定“集中20个师以上兵力于武汉外围及核心”，“集中约15个师于陇海路郑州以西地区”。

    1938年5月19日徐州失守后，第五战区部队先后与日军脱离接触，转移至安徽、苏北等地。日本大本营认为徐州会战基本结束，为“扩大徐州会战的战果，要求侵华日军停止于兰封（今兰考）、归德（即商丘）、永城、蒙城联结线以东”。其实，华北方面军早在进入徐州的19日夜，就已下达了向西扩张战果的追击命令，令第2军进占商丘、永城一带，令第1军第14师团协助第2军进攻商丘。第2军部署第16师团配属混成第3旅进攻商丘，部署第10师团配属混成第13旅进攻永城。但是第1军没有按照方面军的命令行动。早在16日，方面军就曾令第14师团向商丘方向前进，协助第2军攻击商丘。这是第二次重申，第1军依然命令第14师团进攻兰封。此时，正与中国第一战区宋希濂之第87军在内黄附近激战。第一战区司令长官程潜，为将突出的日军第14师团歼灭于内黄、仪封、民权之间，命第29军团军团长李汉魂指挥第74军、第64军第155师为东路军，由而丘西进；命第27军军长桂永清指挥第71军为西路军，由兰封东进；命第3集团军孙桐萱部及第20集团军商震部为北路军，在定淘、菏泽，东明、考城（今兰考东北烟阳）附近，切断日军退注黄河北岸的通路；同时，令第8军军长黄杰指挥第8军、第64军第187师及第24师等部，坚守砀山、商丘，阻止由徐州沿陇海路西进的日军。

    5月21日，第一战区部队开始向日军第14师团发动进攻。经激烈战斗，第74军第51师及第71军第88师1个旅收复内黄；第71军第87师收复仪封。5月23日，第71军及第74军又夺回西毛姑寨、杨楼、和楼等村庄，给日军以沉重打击。日军第14师团集中力量向杨堌集、双塔集地区攻击。第27军阵地被突破，桂永清率领所属部队退向开封、杞县，令第88师接替第106师防守兰封。而第88师师长龙慕韩在桂永清退走后，亦于23日夜擅自弃城逃走，致日军于24日不战而占领陇海路上的战略要点兰封。此时，据守砀山的第8军第102师在日军猛攻下，师长柏辉章下令放弃阵地西逃。日军第16师团于24日占领砀山。

    军事委员会对兰封的轻易失陷，大为震惊。蒋介石于24日电令第一战区，命第19集团军总司令薛岳指挥俞济时第74军、李汉魂第64军、宋希濂第71军、桂永清第27军，由东向西；命第17军团长胡宗南由西向东，包围兰封、罗王寨、三义集、曲兴集一带的日军第14师团，于25日开始进攻。同时，还告诫各军将领：“此次兰封会战，关系整个抗日战局，胡、李、俞、桂、宋各军，应遵照薛总司令所示任务，务于本月25日午后6时30分全线总攻，务须于明26日拂晓前将兰封、三叉集、兰封口、陈留口、曲兴集、罗王寨地区间之敌歼灭。如有畏缩不前，攻击不力者，按律严惩。”

    5月25日，薛岳指挥豫东兵团对日军第14师团发起猛攻。当晚