以太行山脉为依托的晋冀豫地区，包括平汉路以西、同蒲路以东、正太路以南、黄河以北的广大地区，是坚持华北抗战的重要战略支点和向冀鲁豫平原发展的前进基地，根据中共中央的战略部署，八路军第129师主力于1937年10月中旬挺进晋东南平定地区，积极打击沿正大路西进之日军，配合友军作战。

    11月13日，该师传达中共中央和毛泽东关于创建以太行、太岳山脉为依托的晋冀豫边抗日根据地的指示之后，师政治部主任宋任穷等率工作团及部分武装，在同蒲路平遥至榆次以东、正太路以南、平汉路石家庄至安阳段以西和道（道口，今滑县）清（清化，今博爱）铁路以北地区，发动、组织群众，建立抗日政权，开展游击战争。全区掀起了参军热潮，以该师教导团一部为骨干，先后组建6个游击支队。各县也建立了游击武装，至年底，除第386旅等主力得到很大的补充外，第129师还组建了补充团、独立团、骑兵团。

    第129师在晋背豫边区的展开，给日军造成了威胁。日华北方面军为保障其后方和交通线的安全，遂调集步骑兵5000余人，于12月22日由太谷、榆次、寿阳、阳泉、平定、昔阳等地出动，分6路向寿阳东南之花泉地区围攻，企图歼灭或驱逐第129师。第129师以第386旅第772团，于花泉、松塔及南北军城等地，在内线打击日军；以第769团等部转移至昔阳以西之西寨、沾尚筹地，在外线袭击日军。日军在第129师内外线打击下，被迫于26日撤退。是役，第129师共毙伤日军700余人，为开创晋冀豫边抗日根据地创造了条件。

    1938年1月，邓小平接任第129师政治委员。2月初，该师在辽县（今左权）部署深入开展游击战争与创建抗日根据地的工作，决定以补充团南下开辟太行山南部及道清路沿线地区；以骑兵团东进冀南，协同地方党组织和先期到达的东进纵队，创建和发展冀南抗日根据地。至此，晋冀豫边区的抗日游击战争全面展开，抗日根据地基本形成。

    同时，为了打击与钳制向晋西、晋南进攻的日军，第129师主力奉八路军总部命令，进行了正太路和邯长公路破袭战，取得神头岭、响堂铺等战斗的重大胜利，给日军以有力打击，破坏了日军的交通补给线，严重威胁了日军的后方安全。

    为保障其后方及交通补给线的安全，日华北方面军调集第108师团主力及第16、第20、第109师团各一部共3万余人，于4月初由同蒲、正太、平汉路沿线及长治、屯留等地出动，分9路向晋东南地区大举“围攻”，企图将八路军主力和在该地区的国民党军，围歼于辽县、榆社、武乡地区，摧毁晋冀豫边抗日根据地。

    朱德、彭德怀于3月24日至28日召集第二战区东路军将领会议。八路军第115师、第129师、山西青年抗敌决死队和国民党军第3、第17军及第94师等部队将领30余人参加会议，研究和统一了反“围攻”的作战方针。决定以八路军一部主力在地方部队、游击队的配合下，会同国民党军队钳制进犯的各路日军，集中八路军主力寻机歼灭日军之一路，以粉碎日军的“围攻”。并确定了八路军和国民党军各部的部署和任务。

    4月4日，各路日军开始对晋东南地区大举进犯。以日军第108师团为主力，由长治，屯留、平定各出动1个联队，分3路向沁县、武乡、辽县进攻；以第20师团1个联队由洪洞向沁源进攻；以第109师团1个联队另2个大队，由太谷、祁县、榆次出动，分2路向沁县，马坊进攻；以第16师团一部由元氏、赞皇、邢台以及涉县出动，分3路向九龙关、浆水镇和辽县方向进攻。

    当各路日军开始出动时，八路军总部令第129师第386旅和第385旅第769团及第115师第34