第4野战兵团，在合肥、张桥镇一带集结后，向含山、全椒前进，侧击津浦路南段之敌；令第27集团军及安徽保安3、4团为第3野战兵团，由杨森指挥，位于安庆以东，任江面守备，并在安庆、庐江、无锡间地区游击，1月6日，又下达补充命令，令第3集团军以主力向济宁攻击，以一部迂回攻击汶上；令第22军集团军以主力向邹县，一部迂回曲阜邹县间攻击，另一部控置于临城、韩庄间；令第3军团在临沂附近，配合地方部队，夺取蒙阴、泗水，尔后向泰安、大汶口间及南驿，曲阜间威胁。对日照、吕县、沂水北方要点，派一部与海军陆战队联合扼守。

    日军第13师团于2月3日占领蚌埠后，不断实施强渡，企图渡过淮河，均被刚刚到达的第51军击退。2月8日，蚌埠日军约1000余人，在航空兵及炮兵进行火力急袭后，再次强渡淮河，守军英勇抗击，两次击退日军渡河部队。当晚23时，日军又进行夜间强渡，攻占北岸小蚌埠。第113师派部反击，激战至9日1时，恢复了阵地。10日拂晓，日军又一次发动强渡进攻，10时前后攻占小蚌埠。第113师全力反击。双方多次反复争夺，终于为日军占领。蚌埠日军发起进攻的同时，临淮关日军也发动强渡进攻，突破北岸守军第114师的阵地。激战至11日，第114师伤亡2000余人，被迫撤至沫河口、年家庙之线。沿岸阵地多处被日军突破，许多部队因军官阵亡失去指挥，为集中力量、整顿部队，于学忠于11日夜令全军向淝河附近之何集、新马桥之线转移，2月13日，李宗仁将刚刚转隶第五战区的张自忠之第59军调至固镇，接替第51军防务。第51军撤至西寺坡车站附近休整。

    此时，日军第13师团主力已大部进至淮河以北。李宗仁第31军由淮南铁路向凤阳，第21集团军向明光、定远，实施侧击。日军被迫将淮河以北的主力撤回淮河以南。张自忠乘势于15日向小蚌埠日军发起进攻，收复小蚌埠，淮河以北日军全部撤至淮河以南。2月17日后，津浦路北段形势趋紧。李宗仁调张自忠军去临城，津浦路南段正面仍由第51军防守，与日军第13师团隔河对峙。

    当第51军与日军第13师在淮河激战时，第3集团军遵照第五战区的命令，于12日开始向济宁、汶上日军进攻。孙桐萱令第55军由金乡向济宁南关日军进攻，第12军第22师由定陶迂回向济宁北城门进攻，第81师由曹县向汶上进攻。第55军军长曹福林仅派出第171、第439团各一部渡运河向济宁火车站及西关进行袭扰，并未以主力实施攻击，不久即为日军击退。谷良民之第22师第64旅于12日22时在2门山炮支援下，强攻济宁北城墙。由于炮火未能摧毁北门城楼日军火力点，攀城部队伤亡甚众。后在西北城角轰坍一段城墙，由缺口突入约4个连。南关日军第10师团第8旅团第39联队主力未遭有力攻击，得以调入城中增援。先以反冲击控制了城西北角缺口，切断城内、外中国军队之联系，尔后，向突入城中的部队发起围攻。双方展开激烈的肉搏战。突入部队孤军奋战，弹药、人员均得不到补充，血战一昼夜，到14日拂晓，全部壮烈牺牲。城北第64旅残部退至运河西岸。展书堂之第81师曾一度攻人汶上北关，第64旅撤退后，亦主动撤至开河镇，沿运河防守。第3集团军进攻济宁时，第22集团军孙震亦令第125师第737旅由界河进攻两下店，令第127师第575团挺进至邹县、曲阜向进行敌后游击。2月14日、16日，第737旅两次袭击两下店均被击退，在日军反击下，17日退至香城、普阳山一线。第575团在曲阜南小雪村一蒂，于14日伏击日军汽车4辆，击死日军第10师团少将军官1名。

    第3军团到达临沂时，日军第5师团已占领蒙阴、沂水、潍县、青岛。2月17日，其