高欢拿不到北魏全境。永熙二年（533年），他要调贺拔岳做冀州刺史。贺拔岳不肯离开关中老窝，谢绝了任命。从此，东西分裂的苗头已经出现。
魏孝武帝对高欢不放心，想倚靠贺拔弟兄，使贺拔胜出任荆州刺史。他又下过一招“昏着”，想把高乾拉到自己这边，说彼此虽是君臣，却义同兄弟，要和他共立盟约。当时高乾没有往深处想，这时见到他和关中信使往来以及贺拔胜的任命，才觉得苗头不对，就告诉高欢，并且劝他马上取而代之。高欢自忖时机并未成熟，就不肯干。高乾知道留在洛阳太危险，要出去做徐州刺史，但还没有动身，便被孝武帝以“漏泄机事”的罪名给赐死。高欢这个人也够狠毒，只因他曾与孝武帝“私立盟约”，很长时间没有告诉自己，就见死不救。
高欢决心解决贺拔氏。永熙三年（534年），他指使秦州刺史侯莫陈悦，借议事为名，在座上杀了贺拔岳。贺拔氏的将士推宇文泰做主将。侯莫陈悦是个蠢材，他杀了贺拔岳，并不考虑下一步该怎么办。宇文泰却是比贺拔岳厉害的人物，他不顾两尺深的雪，倍道兼行，一举夺取上邽（今甘肃天水），侯莫陈悦只落个兵溃自杀的下场。宇文泰把上邽府库里的财物，悉数赏给士卒，自己一无所取。高欢枉自谋杀了贺拔岳，实际上一无所获。孝武帝就任命宇文泰做关西大都督，把他看作倚靠的对象。
当年夏天，孝武帝诈称攻梁，调集军队，想攻晋阳。这等举动怎么瞒得过高欢，他上表说马上发兵南下，随同南征。孝武帝知道高欢已有觉察，以后敕往表来，君臣打的笔墨官司，可以说是天下奇文，总之是互相埋怨，笔者就不加转述了。
孝武帝在敕中虽则说过“王若举旗南指，纵无匹马只轮，犹欲奋空拳而争死（王若发兵南下，朕即使连一匹马、一辆车都没有，赤手空拳也要和你拼个死活）”，这似乎是要准备在洛阳和高欢决一死战，但其实他已经决定逃往关中，投靠宇文泰了。当时参与决策的裴侠明知此举“无异避汤入火”，然而已经别无选择，只得去了再说。七月，高欢南下，孝武帝西走，部下沿途逃散。八月，宇文泰迎接他进长安。贺拔胜引兵想往关中，因高欢的追兵已经占领华阴，就退回荆州，却又为侯景所败，只得南奔投梁去了（大统二年，536年，得梁武帝许可，又回到长安）。十月，高欢在洛阳立十一岁的元善见（清河王怿的孙子）做皇帝，改元天平，是为东魏孝静帝。魏从此分为东魏、西魏。高欢久已主张迁都邺，这时因洛阳西逼西魏，南近梁境，决定立即迁都，而且勒令居民全部迁居邺城。命令下达后三天动身，四十万户狼狈上路。这一幅悲惨的流民图，可惜竟无略为具体一点的资料流传下来。次年，高欢又命拆毁洛阳宫殿，把材料运到邺城去建造新宫。洛阳又一次受到大破坏（参见另篇有关《洛阳伽蓝记》的部分）。
孝武帝在长安只住了几个月，便于闰十二月被药酒毒死，年二十五岁。宇文泰改立南阳王元宝炬（孝文帝孙，京兆王愉之子），是为西魏文帝。次年正月即位，改元大统。
东西魏对峙，战事不绝，零星的不去讲它了，只讲几个大的战役。
西魏大统二年（东魏天平三年，536年），关中大饥，发生了人吃人的惨剧。高欢乘此机会，于十二月中出兵攻西魏，命高敖曹攻上洛（今陕西商州），窦泰攻潼关。
次年（537年）正月，高欢亲自领兵到蒲坂（今山西永济市西南蒲州镇），架起三座浮桥，做出准备渡河的模样。宇文泰进驻广阳（今陕西临潼北栎阳），分析三路敌情，断定造浮桥的目的是吸引西魏军注意，使窦泰军可以乘虚西进。众将听了都不放心，主张以分兵抵御较为稳妥。宇文泰解释道：“敌军以前两攻潼关，我军都没有跨过灞上进行反击。这次大举而来，以为我军一定仍取守势，有轻我之心，乘此反击，可以必胜。敌军虽有浮桥，渡河仍需时间。我只要五天工夫，就可以解决窦泰，所以不必忧虑。”他的族侄宇文深对形势分析得更深刻。他说：“窦泰是高欢手下的猛将。我军若攻蒲坂，窦泰必定来救，我两面受敌，其势必危。不如挑选精锐部队暗暗地从小关（潼关旁边的禁谷）出击。窦泰性急，一定会来决战。高欢持重，不会马上来救。我以全力打窦泰，必可把他擒获。窦泰被擒，高欢胆落，我回师进攻，可获全胜。”宇文泰对这一席话深表赞赏。于是他扬言准备退保陇右（指今甘肃陇山、六盘山以西，黄河以东地区），实则向东挺进到了小关。窦泰突然听见兵到，赶紧从风陵渡（今山西芮城西南、黄河北岸）渡河。宇文泰从马牧泽（在今河南灵宝西南古桃林塞中）出击，大获全胜，把窦泰军全部歼灭，窦泰自杀。高欢来不及往救，只得拆掉浮桥退却。
高敖曹部在南面边打边进，攻陷上洛（今陕西商州），想继续进攻蓝田关（在今商州西北），接到高欢通知，嘱咐他从速撤退，不妨丢掉部队，只要本人安全脱身就可以。他不忍照办，力战后率军而回。
此役东魏失利，尤其窦泰之死是重大损失。他世居统万（今陕西靖边县北白城子），祖父做过镇将，父兄都在与破六韩拔陵部战斗中阵亡。他背着他们的骸骨投奔尔朱荣，久经战阵。他娶高欢娄夫人的妹子为妻，与高欢关系密切，每有战事，常任前锋，所以他的死不啻斫掉高欢的一条臂膀。
同年八月，又开始了另一个战役。这次是西魏先发动攻势。宇文泰听宇文深的建议，出兵攻拔恒农（弘农，今河南灵宝北旧灵宝西南）。九月，高欢出兵反击。闰九月，高欢领兵二十万从蒲津（渡口，东岸即蒲坂，见上文）渡黄河入关中，使高敖曹率兵三万出河南。其时关中又在闹饥荒，宇文泰率部在恒农“就食”，听到高欢渡河的消息，只得退回关中。高敖曹就把恒农团团围住。
这时，西魏极为困难，兵既少，粮又缺，众将都不敢早打。宇文泰却认为如果失了长安，人心势必大起恐慌，敌军虽多，远道而来，立足未定，并不难打。
十月初一，宇文泰军到达沙苑（在今陕西大荔县南洛、渭两水之间），离东魏军只有六十里路。宇文泰派大将达奚武侦察敌情。他带三名骑兵，着装都和敌军相同，等天色暗后，在离敌营几百步处下马，偷听到军号（口令），然后上了马，大模大样地装作查夜的军官，把敌情探查得明明白白。
次日，高欢引兵进向沙苑。西魏军候骑（侦察骑兵）飞报敌军将到。宇文泰和众将商议，李弼说：“敌众我寡，不可在平地列阵，此地以东十里有渭曲，可以在那边等敌人到来。”宇文泰同意，命将士背水布阵，李弼居右，赵贵居左，将士都伏在芦苇中间，约定听鼓声出战。候到申时（15—17时），东魏兵气势汹汹地到了渭曲。
东魏将领，从高欢本人起，都仗着兵数的优势，不把敌军看在眼里。只有一个斛律羌举认为，“宇文黑獭此番定要决一死战，不可轻敌，而且渭曲芦苇丛生，地面泥泞，有气力也使不出来，不如与他相持，分兵直取长安。黑獭失了巢穴，不消战斗，就可以落到我军手里。”这是头脑清醒的见解，无奈大众的头脑都在发热，都听不进去。高欢说：“放把火逼他出来，如何？”侯景居然说：“要活捉黑獭示众，让百姓看看，如果烧死了，谁相信是真的！”勇将彭乐更是摩拳擦掌，急于要打，说：“一百个人抓一个，根本用不着担心！”高欢见大家勇气百倍，就听他们的话，下令进攻。
东魏军望见西魏军少，争先恐后，向前猛进，队伍先已乱了。宇文泰沉住气，等敌兵来到跟前，才擂起战鼓。将士们都一跃而起，与敌兵搏斗。于谨等军与敌合战，李弼率铁骑从侧面冲进去，把东魏兵截成两段，把他们杀得大败溃退。彭乐太狂妄了，喝得醉醺醺地出战，深入敌阵，受了重伤，肠子流了出来，塞进去后再战。他勇是勇的，但是挽回不了全军的颓势。
高欢想收兵再战，使人一个一个营头点兵，都没有人应声。使臣还报：“营都空了。”高欢还不死心，立马不动。部将斛律金对他的坐骑加上一鞭，才疾驰而去。到黄河边上，船都已离岸很远。高欢骑了骆驼，到河中心才得上船。
这一仗，高欢损失八万人，抛弃了十八万件铠甲武器。西魏兵追到黄河边上，前后抓到俘虏七万，宇文泰留下二万名精壮的兵士，其余都放还。
高敖曹军知道高欢兵败，也自解恒农之围。退保洛阳。不久，因西魏军东进，渡河北撤。西魏军进入洛阳，河南州郡也多投降。
这是高欢在一年中间的第二次大败。
下一年（西魏大统四年，东魏元象元年，538年），双方争夺河南，发生了多次激战。东魏以大行台侯景为主将，在虎牢集结军队，着手收复河南州郡。西魏兵力不敌，放弃了颍川、汝南、襄城等地。七月，侯景、高敖曹军包围金墉城，高欢亲率大军做后援。侯景放火烧毁洛阳城内外的官衙民居，残存的不过十之二三。他和高欢都是破坏洛阳城的大罪人。
金墉城守将独孤信向长安告急。宇文泰亲自领兵前往，文帝也跟着同去。八月，侯景乘夜解围而去。宇文泰因上年两战都胜，滋生了轻敌心理，于次日早晨率轻骑追到黄河边上。侯景兵多，他北据河桥，保住退兵的道路，向南延伸到洛阳北郊的邙山。宇文泰挥兵进攻，坐骑中箭受惊，把他颠落地上。这时他和左右侍从失却联系，东魏兵已离身边不远。正在危急之际，都督李穆赶到，他急中生智，下马用马鞭在宇文泰背上打了一下，骂道：“你这惫懒军汉，怎么独自在此，长官都到哪儿去了？”东魏军打得顺手，急于进击，不知道跌倒在地的是敌军主帅，竟不顾而去。李穆把自己的坐骑给宇文泰骑了，两人都得脱身，找到本部人马后，后续部队也及时赶到。于是，西魏军声势大振，重又占了优势。东魏猛将高敖曹自恃勇猛，亮出自己的旗号，冲入敌阵，想在气势上压倒敌人。不想适得其反，西魏兵用大量精锐部队猛攻这支兵，把它全部消灭。高敖曹单骑逃到河桥南岸的河阳南城，来不及进城，就被追兵杀死。西魏军还斩获了东魏西兖州刺史宋显，俘获一万五千人，逃奔落河而死的东魏兵也有上万人。
然而战斗并没有马上结束。双方的战线都拉得很长，从早晨打到未时（13—15时），两军都屡进屡退，各处将领对全局状况弄不清楚。西魏军右翼独孤信、李远，左翼赵贵、怡峰，都挡不住对方的攻势，又不知道皇帝和宇文泰在什么地方，都丢掉部队走了。后军李虎、念贤见他们退下来，也跟着撤退。宇文泰发觉了，只得下令退兵，仅留一员将守金墉城。
宇文泰和文帝退到恒农时，见城池已在敌军手里，原来守将早已逃走，手下的降兵就打起东魏旗号，闭门守城。宇文泰大怒，下令攻城。打破城池后，杀了几百人，留王思政守恒农，自己引兵还长安。
其时关中情况很乱。上年被俘获的东魏将士听到西魏兵败，起事造反。宇文泰回来后，又花了点气力，才把这些人平定下去。
河南方面，高欢渡河攻金墉，守将弃城逃走，把城中房屋一把火烧光。高欢索性把金墉城毁掉，然后班师。
这场争夺河南的战役，前后断断续续地进行了大半年，东魏赢是赢了，但付出的代价是巨大的。高欢得到高敖曹的死讯，如丧肝胆，可见受到的震动异乎寻常。高欢部下以鲜卑兵为主，高敖曹所统却全是汉兵。高欢担心战斗力不够强，要分一部分鲜卑兵充实其间，他不要，说所部练习已久，前后战斗，不比鲜卑兵差。当时鲜卑人轻视汉官，对高敖曹却不敢不服。高欢发布号令，常说鲜卑语，但每逢敖曹在场，总是改说汉话。他和窦泰是高欢手下两员得力大将，两年连丧两人，高欢自然要若丧肝胆了。敖曹战死时年三十八岁（《北齐书》本传作四十八岁。标点本校记疑为三十八，可信）。
这年的战斗还有点余波。十二月，西魏兵再次袭占洛阳、襄城。王思政筑玉壁城（在今山西稷山县西南汾河南岸），这城地势险要，四周有许多深谷，从此成为防御东魏进攻的重镇。
两年恶战，结果是两败俱伤，所以以后基本上形成对峙的局面。至东魏兴和四年（西魏大统八年，542年），因连年丰收，东魏出现了战乱以来未有的小康局面。高欢利用物力比较充裕的条件，重新试图对西魏用兵。八月，他任侯景做河南道大行台，随机行事，自己引兵攻西魏。他从汾、绛（今山西西南部）进兵，玉壁城正好拦住他的进路。十月，他围玉壁九日，毫无进展，又碰上大雪，非战斗减员很严重，只得收兵退回。
东魏武定元年（西魏大统九年，543年），因北豫州（虎牢）刺史高仲密叛降西魏，东、西二魏又发生了一场恶战。
宇文泰率军接应高仲密，到洛阳，三月，包围河阳南城。高欢领兵十万到黄河北岸。宇文泰稍向南撤，在上流放火船东下烧河桥，想阻止东魏兵渡河。东魏大将斛律金使张亮用一百多只载着长锁的小船，锁的头上有钉，等火船来近时，用钉钉住，引锁向岸，桥因此没有被烧。
高欢渡过了黄河，据邙山布下阵势，暂时按兵不动。宇文泰等了几天，不见动静，决定主动进攻。西魏军饱餐后，黑夜行军四十多里，赶到邙山。高欢早得探报，严阵以待。黎明时两军相遇。东魏右翼的彭乐见西魏军来到，立即率领所部几千骑兵，冲杀过去，所到之处，无人能敌，很快便杀进西魏军阵营中间。东魏瞭望的人弄不清楚，以为彭乐叛变，投了西魏，而且把这想当然的看法向高欢报告。高欢听了，正在恼怒，忽见西北面尘头大起，一人飞马前来，却是彭乐派来报捷的使者。原来他已经俘获亲王以下各级官员四十八人。东魏诸将乘此全线出击，大破西魏军，斩首三万余级。彭乐又追宇文泰，追上后宇文泰对他说：“你不是彭乐吗？苦苦追我，真是痴汉！你不想想，今天没有了我，明天还有你吗？”（这就是“狡兔死，走狗烹”的意思）彭乐听了，果然放他过去。
第二天，两军再战，东魏军大败。高欢马倒，赫连阳顺把坐骑让给他，他才得上马逃走。后面追兵将到，他身边只有七个人，还不是每人都有马。都督尉兴庆叫高欢快跑，他一个人、一张弓、一百支箭，断后力战，箭尽阵亡。那时高欢已走得远了。
宇文泰从降兵口中了解到高欢所在的地点，立即挑选三千名精兵，各执短兵，令贺拔胜率领，去捉高欢。贺拔胜和十三名骑兵冲在前面，追了好几里路赶上他，手中所执的长矛也几乎要碰上高欢的身体，他大叫道：“贺六浑，今天贺拔破胡来取尔的性命！”高欢吓得气都透不过了。在此紧急关头，他旁边刘洪徽射中了两名骑兵，段韶又一箭射杀了贺拔胜骑的马，再等后面的兵士送来副马，高欢已经逃得不知去向了。贺拔胜叹道：“今天可惜没有带弓箭，这是天意不让我杀高欢！”
战斗还在继续。西魏左军失利，东魏军又恢复了信心，越战越勇，宇文泰亲自领兵迎战，也败退下去。这时，天色已暗，西魏兵无心再战，向西撤退。东魏兵不肯罢休，跟踪追击，幸得独孤信、于谨收容了一部分散兵，从后面袭击，东魏军想不到后面有敌兵，引起一阵惊慌，才不敢再追。
高欢进到陕州，文官封子绘主张乘战胜之势，进兵灭掉西魏。然而高欢和众将都没有再战的勇气了。毫无疑问，这又是两败俱伤的局面。
三年半以后，高欢发动了他一生中的最后一个战役，再次进攻玉壁。他的目的是诱使西魏出兵，进行大规模的决战，彻底打垮西魏。但是，宇文泰相信玉壁险固，也相信王思政推荐的继任人韦孝宽，就没有出兵去救。
果然，从东魏武定四年（西魏大统十二年，546年）九月到十一月，高欢苦攻玉壁五十天，损失兵力七万人，终于一无所获，解围而去。这是一场异常激烈的攻防战。玉壁用的水来自汾水。高欢在上流改变水道，一夜完工，但是城中早有准备，始终没有发生水荒。高欢在城南堆起土山，想从山上打进城去。韦孝宽命在两座城楼上缚上木材，使城楼始终比土山高。高欢改变策略，开凿十条地道，想从地下打进去。韦孝宽掘长壕，壕边派兵防守，东魏兵掘到壕边，一露身就被抓起来杀掉。西魏兵还预备好柴和火种，把柴塞到地道里，点上火，用皮排打气，地道里的敌兵不是被烧死便是窒息而死。东魏兵用攻车撞城，所撞之处，无不损坏。韦孝宽用布幔对付攻车，布幔是软的，撞上去不起作用。东魏兵在长杆子缚上松枝麻梗，浇上油，点火烧布。韦孝宽便用锋利的长钩，伸出去割断杆子，松枝麻梗都落到地上。东魏兵又在四面掘二十条地道，中间架上柱子，放火烧柱，柱子断后，上面的城墙因下面空虚，自然坍倒。韦孝宽就命什么地方坍，就在什么地方竖木栅，挡住敌人进攻的路。韦孝宽还出兵反击，夺占土山。高欢攻城的伎俩已经用完，韦孝宽防守的手段还绰绰有余。
高欢撤兵时已经有病，回晋阳后，日益沉重，到下一年的正月里便死了，年五十二岁。