在河北的地位也不简单，他们不但有显赫的家世，更有强大的汉人武装，高氏的汉人军队，一直是北方军队中的翘楚，为了得到这支军队，高欢煞费苦心，他自称也出身河北高氏，和他们是本家，然后认高家的两个掌舵人高昂、高乾为叔父，让自己的儿子高澄以叔父的礼节拜见他们，苦心一片下，高欢终于挣得了这个家族的支持，之后高昂统帅的高家汉军，长期以来也是高欢军队中的精锐。

    凭借着军队的万众一心和汉族世家大族的支持，高欢开始了与尔朱兆的战争。起初的几场小规模战争，双方互有胜败，但是高欢越战越强，他有世家大族的支持，也就有了经济和兵源的保障，而尔朱家族往往是以镇压和掳掠为生存方式，早就人心尽失。到了公元532年，双方在邺城爆发大战，这时候的尔朱家族决死一搏，集中了20万大军讨伐高欢，此时的高欢只有5万多人，但是高欢不惧。他采取背水一战的策略，用驴车把自己军队的退路全都给堵死了，然后率领军队奋勇冲杀，没有退路的高欢军队势如破竹，一举把尔朱家族打得全军覆没，一代枭雄尔朱兆在这场战斗中也殒命。从此，高欢彻底掌握了北方的大权。得胜后的高欢，立平阳王元修为帝，史称北魏孝武帝。从此之后，中国北方的实际主人，一度姓高了。

    在打败尔朱家族之后，高欢拥立新帝，其实一度拥有统一整个北方的机会。当时的中国北方，关中地区的势力，是尔朱家族的大将贺拔岳，他已经在关中自立为王，不听尔朱家族的调度。本来尔朱兆命令贺拔岳从侧翼夹击高欢，如果这一招成了，高欢的命运恐怕就要改写，但是贺拔岳拒绝执行命令，反而选择了观望。如果趁着平灭尔朱兆的余威，加上挟天子以令诸侯的名义，一举平定关中地区，对于当时的高欢来说，并非什么难事。但是高欢没有选择进军关中，在得到贺拔岳表面的臣服之后，就满足了现状，如果这样维持下去，也就不会有后来西魏的出现了。此时，高欢又犯了错误，收买贺拔岳的近臣杀害了贺拔岳，导致关中地区再次陷入混乱，同样是枭雄的宇文泰趁机而起，和高欢分庭抗礼。

    当然，高欢最大的错误，还是出在对待皇帝的政策上，本来在魏孝武帝登基之后，做为拥立者的高欢大权在握，俨然已经横扫北方。但是这个魏孝武帝并不老实，不甘心自己的傀儡地位，相反一心想着夺回政权。对这种局面，高欢事先并没有做任何应对，放任魏孝武帝胡闹，结果两家展开大战，傀儡皇帝哪里是实权权臣的对手，魏孝武帝兵败，投奔了盘踞关中的宇文泰，宇文泰趁机拥立魏孝武帝，建立西魏，和高欢分庭抗礼。高欢这才意识到，这个之前曾经不被他重视的宇文泰，已经成了自己的大敌。

    当然高欢也很快做出了应对，在魏孝武帝出逃之后，高欢转而立清河王世子元善为帝，史称魏孝静帝，同时带兵打败了宇文泰以及魏孝武帝的反扑，稳住了自己的政权。在这之前，为了不背“反叛”的恶名，高欢还曾经多次向魏孝武帝上表谢罪，邀请魏孝武帝回来，都被魏孝武帝拒绝。但这个魏孝武帝却失算了，接纳他的宇文泰，同样是一个枭雄，很快就和魏孝武帝关系降到了冰点。这个魏孝武帝以乱伦为名，他的妹妹不让出嫁，留在身边给自己当老婆，这种禽兽不如的行为自然引起了非议。宇文泰曾经密谋要把魏孝武帝身边的几个妹妹杀掉，以消乱伦之丑，魏孝武帝知道后大怒，又想着颠覆宇文泰的政权。这次更惨，宇文泰立刻授意下人将魏孝武帝毒死，改立新君南阳王元宝，是为西魏文帝，这是公元535年的事情，至此，东魏和西魏，已经是分庭抗礼的态势了。

    在东魏和西魏对峙的初期，东魏的实力远远强于西魏，戎马一生的高欢，也很想趁这个机会，来消灭掉这个威胁，一统北方。从公元536年开始到公元546年，高欢先后发动了5次大规模讨伐西魏的战