国民党背叛国民革命后，派系林立，四方割据，都自封为孙中山信徒，实际上是几股国民党新军阀。他们为争夺国民党的正统地位，从1927年夏起，进行了四年多的混战。一些党棍和政客，又掀起了几场堪称“轰轰烈烈”的反蒋政治浪潮，但最终都被蒋介石采用纵横捭阖、镇抚并用的手段一一征服，建立了以蒋介石为总头子、以各帝国主义为总后台的封建买办法西斯统治。
争夺国民党正统地位的争斗
蒋介石发动“四一二”反革命政变后，纠集国民党少数中央执行委员和监察委员，于1927年4月15日在南京召开会议，决定另立国民党中央政治会议、中央军事委员会和国民政府等机构于南京。18日，南京国民政府正式开场，由蔡元培授印，胡汉民代表国民政府委员会受印，蒋介石、吴稚晖在会上讲话，再次鼓吹驱逐共产党、开展“清党”运动的必要。从此，中国出现了武汉、南京、北京三个政权鼎立的局面。武汉政权在一个极短时期中，仍是革命的，但“七一五”汪精卫集团叛变后，同样沦落为地主资产阶级的工具，与南京政府为一丘之貉。为了自封“中央”，南京方面骂汪精卫是“赤色帝国主义的代表”，武汉方面则回敬南京方面是“目中无党”。国民党左派人士宋庆龄发表声明指出，蒋、汪先后叛变，“便不再是孙中山的真实信徒，党也就不再是革命的党，而不过是这个或那个军阀的工具”。 西北军实力人物冯玉祥，企图在协调宁、汉双方关系过程中抬高自己的地位，于是在郑州会议、徐州会议的基础上，继续进行斡旋，多次发出劝和通电，呼吁双方“共图和平”，统一国民党。
7月16日南京电告冯玉祥，武汉方面已公开反共，“渐似觉悟”。冯玉祥立即致电宁、汉，力言“内讧妨害对外”，主张和平解决争端。 7月24日汉方汪精卫、谭延闿、孙科、唐生智四人联名电冯，表示愿意“和平统一”，同意“迁都南京”。但另又声称“如欲整肃党权，非除蒋不可。” 8月2日宁方以胡汉民、钮永建、李烈钧等人的名义电冯，赞成放弃党争。8日又以李宗仁等10人的名义，通电欢迎武汉重要分子“至宁炳权”。
正当宁、汉双方逐步妥协之时，桂系终因与蒋长期貌合神离，矛盾重重，在同何应钦达成默契之后，发起了一场谁主“宁府”的争斗。何应钦率领的第一军，虽是以黄埔系为核心的蒋介石嫡系，但经过北伐战争，何应钦自恃羽翼渐丰，声望日隆，意欲取蒋而代之。
8月8日，蒋介石与奉军作战从徐州前线战败。逃回南京后，蒋连日在丁家花园召集将领开会，冀图“激励袍泽，共其始终”。但李宗仁等对此“付之一笑”。 8月12日晚，蒋介石再次召集军事会议，李宗仁、白崇禧在会上竭力主张与武汉合作，讽喻蒋介石“不宜因个人地位而牺牲党国大计。” 蒋介石回顾何应钦，何应钦故意默不作声。蒋介石大愤，不待会散，拂袖而去。这时，蒋介石感到：自己的地位还不牢固，只有“静镇谨守，持之以定”，“待机而动”，才能“得最后之胜利”， 于是决定以退为进。当晚11点30分，蒋介石离宁赴沪，次日在上海发表下野宣言，声称“余之存在既非党之利益，故余毫不踌躇，即刻下野。”
蒋介石下野后，南京政府中的胡汉民、吴稚晖、张静江等也纷纷辞职去上海，宁方实权主要落入桂系手中，宁汉合流有了新的契机。8月12日，当蒋介石一离开南京，李宗仁、白崇禧即联名通电汪精卫、谭延闿等创议宁汉联合。电称：诸公毅然“清党讨共”，“已与宁方一致”，蒋介石已“离宁休养，所有总司令之职权，交军事委员接收”，“党内政治问题，亟须推诚计议，迅谋解决”。 8月19日武汉发表《迁都南京宣言》，决定将武汉中央党部和国民政府克日迁往南京。8月22日宁汉双方要员携手共上庐山，协商统一大计。会后，汪精卫、谭延闿、孙科、陈公博等先后被迎往南京。汪精卫遂以国民党最高领袖的身份进入南京国民党中央党部，并力主召开二届四中全会，试图独揽国民党最高权力。但桂系不仅不积极响应，还提出要请宁方已辞职的“元老”胡汉民、吴稚晖等出山。
当宁汉两方在尔虞我诈、你争我夺中逐渐合流时，西山会议派乘机活跃起来。蒋介石“清党”时，曾把他们设在上海环龙路44号的“中央党部”查封，蒋介石下野后，他们死灰复燃，独树一帜，以“沪方”身份，跻身于宁、汉之间，企图以同等地位参与三分天下。因此西山会议派要员纷纷出入于深府大院，策划于秘阁偏室，周旋于酒宴茶会，邀宠于政派军界，正是“前本门可罗雀，今则终日车水马龙，哄闹若市。”
9月5日，谭延闿、孙科在桂系的策动下，由宁赴沪，代表汉方同胡汉民、吴稚晖、蔡元培等商谈合作事宜，邀请他们出席拟于9月15日在南京召开的国民党二届四中全会。但胡汉民回绝了与汪精卫合作的提议。在有人提出“前因反共联共而分裂，此日大可由清共绝共而合作” 的建议下，9月9日汪精卫又亲赴上海，邀请胡汉民、吴稚晖等筹组并参加四中全会。胡、吴以反共“先进”自居，借口武汉“清党”无诚意，拒绝会见。汪精卫碰了一鼻子灰后，不得不摆出虚怀若谷的“君子”风度，于9月13日自责“防共过迟”，表示接受批评，并“自劾下野”，“自请处分”，放弃召开二届四中全会的主张。孙科提出成立特别委员会代行中央职权，得到宁、汉、沪（西山会议派）三方的赞同。9月15日国民党中央执监委员会临时联席会议在南京举行，宁、汉两方代表20人出席。会议决定设“中国国民党中央特别委员会”，推定宁、汉、沪三方共32人的特委委员名单，其中包括蒋介石、汪精卫、胡汉民，但这三巨头都未出席会议。同一天，沪方（西山会议派）亦在南京紫金山开会，作出同样决定。9月17日，南京国民政府和军事委员会进行改组，并发表宁、汉、沪国民党合作宣言，宣布党政“统一”完成。但是这个“合作”很快就因政治分赃不匀而呈分裂。
特委会成立，汪精卫的“合法”领袖地位被剥夺，汪派要员也遭歧视，尤其是陈公博还被9月15日的会议作“附逆”嫌疑交中央审查。汪精卫心惴惴，意悻悻，乃于9月21日率余党重返武汉，组织中央政治委员会武汉分会，策动唐生智占领湘、鄂、皖，与南京对峙，重演宁汉分裂。10月，唐生智被李宗仁战败。10月底，汪精卫到达广州，即纠合在粤国民党中央执、监委员7人开联席会议，发表通电，主张在广州召开国民党二届四中全会，并决定中央常务会议与秘书处照常办公，另成立中央执监委员通讯处，公开挂起“中央”招牌，与南京抗衡。宁、粤对立就这样取代了宁汉对立。
这种错综复杂、混乱多变的政局十分有利于念念不忘卷土重来的蒋介石。蒋介石在下野以后，回奉化老家住了约一个月。9月28日与张群等东去日本。11月5日，蒋介石到日本首相田中义一的青山私邸访问，与田中作了两小时长谈。田中对蒋介石许诺说：“在国际许可的范围以及日本权利不作其他牺牲的范围内，对你的事业不惜充分的援助。”田中并向蒋介石交底，日本已决定抛弃张作霖这一旧工具：“世上动辄认为日本是助张的，这种说法完全违反事实。日本绝对没有助张，物质不必说了，即使劝告和其他一切援助也是没有的。” 美国也派驻日本公使与蒋介石拉上关系。蒋介石在取得日、美支持的许诺后，踌躇满志地于11月10日回到上海。
蒋介石为了东山再起，与汪精卫秘密商定，两人同时复职，蒋介石复任总司令，汪精卫恢复政府主席职务，为此就必须一起制服桂系势力。根据这一秘密协议，汪派采用“调虎离山计”，有意拉李济深同汪精卫一起离广州，前往上海参加筹备国民党二届四中全会，随即趁此机会由张发奎、黄琪翔、李福林等以“护党”名义于11月17日凌晨发动了“广州兵变”，驱逐桂系军队出广州，黄绍逃走。12月2日，南京政府下令讨伐张发奎与黄琪翔，张、黄率部队与南京方面的军队战于梧州、肇庆一带，广州城内守备空虚。同月11日，张太雷、叶挺、叶剑英等发动了著名的“广州起义”。反对汪精卫的各派以此为口实，指控汪精卫、陈公博“通共”，“纵袒弄兵，酿成共变”，并骂他们是“准共产党”。汪精卫在遭到军事、政治双重打击之下，难以招架，先是躲进上海的医院，后又逃往法国。这样，蒋介石重新成为国民党的中心人物，各派纷纷发出通电促请他复职。1928年1月，蒋介石回到南京，复任总司令职务，并负责筹备国民党二届四中全会。
2月2日，国民党二届四中全会在南京召开。会议通过了“整理党务案”，各地党部一律停止活动，党员重新登记；决定改组南京政府，新设考试院、监察院、最高法院、大学院、审计院等机构；会议选举蒋介石为国民党中央常务委员会主席、国民政府军事委员会主席、中央政治会议主席，控制了党、政、军大权。国民政府主席则选了被称为“八面玲珑”人物的谭延闿。
蒋介石取得了胜利，但反蒋派也不肯善罢甘休，屈居卑位，新的争夺战又在酝酿中。
“二次北伐”与东北易帜
当南方风云变幻之际，北方仍然处在北洋军阀统治下。在津浦线上，奉军占据徐州以北；京汉线上，奉军虽被迫退出河南，但仍据有黄河以北广大地区；京、津牢牢控制在奉军手中。孙传芳被北伐军击败后，投奔张作霖，获得安国军副司令职位，其军队在淮海一带活动。吴佩孚的军队基本被北伐军击溃，只剩于学忠一部。这时，只有山西的阎锡山，保持着自己的实力，左右逢源。而山西的地理位置，处在京、津的侧背，十分重要。因而张作霖竭力加以拉拢，亦封阎锡山为安国军副司令。但当长江下游全被北伐军占领后，阎锡山于1927年4月8日发出通电，表示拥护三民主义，随后又声明废除北京政府所授予的山西督办名义，改称国民革命军晋绥总司令。阎锡山的变化对张作霖构成重大威胁。张作霖决定取消顾维钧内阁，组织军政府，自任大元帅，总揽大权。1927年6月18日，于北京怀仁堂就大元帅职。其军队亦进行改组，编成7个军团，分别以孙传芳、张宗昌、张学良、韩麟春、张作相、吴俊皗、褚玉璞为军团长。
蒋介石主持召开国民党二届四中全会后，将军队编为4个集团军，原来由何应钦掌握的军队编为第一集团军，蒋介石自兼总司令，就此悄悄地夺了何应钦的兵柄，报了一年前蒋介石被逼下野时的一箭之仇。
1928年4月，蒋介石部署继续“北伐”。但这时的战争性质，已不是革命阶级对封建军阀所发动的正义战争，而是新、老军阀之间的争斗；不论哪一方面取得胜利，其结局都将是帝国主义及其工具对中国人民的统治的巩固和加强。9日，蒋介石下令第一集团军沿津浦线北上进攻，第二集团军沿正太线攻取石家庄，第三集团军进攻京汉路沿线，第四集团军成立在后，一个月以后，李宗仁发表通电，表示拥蒋北伐，该集团军沿京汉路展开，攻击前进。
第一集团军分左右两翼向津浦沿线的直鲁联军张宗昌部进击，张部闻风而逃，第一集团军不战而取韩庄，然后越过微山湖，占领台儿庄与郯城。
正当张部节节败退时，孙传芳部十万人马从济宁出击，强攻蒋军左翼，一举突破，占领金山、鱼台、丰县等地，逼近徐州，打得蒋军惊慌失措。幸亏冯玉祥部孙良诚、方振武由陇海路推进，绕道金乡两侧，经巨野袭击济宁，造成了孙传芳部后顾之忧，孙传芳才被迫回撤济宁。
孙部与冯军一时处于胶着对峙状态，而张宗昌12个新旅却源源不断地从前线溃退，径自撤回济南。孙传芳无法单独支持战局，便于夜间下令全线向济南方向撤退。同时，西路奉军被迫转攻为守。张作霖急调吴俊皗后备部队入关，企图作垂死挣扎。4月27日，蒋军、冯军分别由鲁南和鲁西合击，攻克泰安。4月29日，津浦路上的国民党军进至界首，西翼占领肥城。这时国民党军已从正面、右翼逼近济南，济南守军已成惊弓之鸟。4月30日晚，张宗昌偷偷渡黄河逃至德州。孙传芳得悉后，于5月1日凌晨3时也弃城北逃。同日上午10时，国民党军开进济南。晚上蒋介石入城，在旧督署设总司令部。
早在1927年夏，当蒋介石军队第一次进入山东与张宗昌、孙传芳作战时，日本就借口保护侨民，出动军队强行在青岛登陆，并派兵开往济南，严重侵犯中国主权，使张宗昌、孙传芳得以反攻徐州，然后再攻蚌埠和宿迁。蒋介石无力挽回颓势，只得从前线返回南京。8月，蒋介石的下野，前线失利也是原因之一。如今，蒋介石再次率师进入山东，击溃了张宗昌和孙传芳，田中内阁便决定再次出兵山东。于是在蒋介石还没有占领济南以前，两股日军约1000余人于4月下旬到达济南，在闹市街头构筑工事。5月2日，就在国民党军刘峙、顾祝同等部开进济南的第二天，日本又以一个师团的兵力强行进入济南城，战事有一触即发之势。
3日，日军在济南街头挑衅，禁止国民党军队的徒手士兵通过四马路的一个路口，并开枪打伤在场军民多人。接着，日军向驻在广东会馆的中国军队进攻，中国军队一个营被日军歼灭。济南卫戍部队一个师愤而发起反击，遏止了日军的进攻。4日，日军气焰更形嚣张，凡日军所到之处，见中国人就杀，见中国士兵就令其缴械投降。日军冲进国民党战地政务委员会外交公署，对外交特派交涉员蔡公时先是肆意毒打，继而割去耳鼻，最后将他杀死。公署内的17名随员全部被害。在日本侵略者面前，蒋介石畏敌如虎，竟以“勿以一朝之愤而乱大谋” 为由，下令中国军队不许还击，并于5月4日将中国军队全部从商业区撤出，把赤手空拳的济南市民置于日本军队的杀人机器之下。日军的屠杀更加肆无忌惮，据事后不完全统计，中国军民共死伤8800余人，这就是震惊中外的“济南惨案”。
具有“能忍人所不能忍”的奴隶性格的蒋介石，由5日仓皇逃出济南，命令军队退往徐州、兖州、泰安等地。10日，在兖州召开的党政联席会议作出了绕开济南、继续“北伐”的决定，而蒋介石已被日军吓破了胆，托病将北伐的指挥责任交给冯玉祥，自己匆匆乘车南返。
日军对济南的武力占领，后来继续了10个月之久。国民党军队绕道“北伐”，美其名曰“忍辱负重”。直到1929年3月28日，日本政府才在国内外普遍反对的情况下，被迫宣布在两个月内将山东日军撤走。
蒋介石处事历来老谋深算。他一方面把继续北进的指挥交给了冯玉祥，另一方面又怕冯玉祥由此而壮大，形成尾大不掉的局面，整个华北有可能落在冯玉祥手中。何况京、津地区在1924—1925年间就曾经是冯玉祥的势力范围，冯玉祥在这一地区有着相当的影响。为了制约冯玉祥，蒋介石特意前往石家庄会晤阎锡山，允诺将京、津地盘交给阎锡山，委任他去接收北京与天津两大城市以及直隶省。6月初，蒋介石回到南京。
蒋介石重用阎锡山，除了为制约冯玉祥外，还因为顾虑京、津地区有大量外国军队，尤其是日军有整整一个师团驻扎在天津等地，叫嚷要以武力阻止国民党军队北上。南京政府害怕外国军队介入，因而确定了“和平接收”京津的方针。阎锡山素来就与日本方面关系较密，同时他和奉系也一直若断若续。由他出面接收京津，将较容易被日本和奉方理解。
国民党军队的北进部署是：第一集团军沿津浦路北进，第三集团军沿京绥路和正太路向东。这两支部队所面对的都不是奉军主力。奉军中最有战斗力的是京汉线附近的张学良和杨宇霆两部。蒋介石把硬仗交给了冯玉祥的第二集团军和由国民革命军前敌总指挥白崇禧率领的第四集团军。
张作霖早在5月初就开始做退出关外的准备，许多物资财物源源运往东北。现在，面临着国民党军队大军压境，德州、石家庄、张家口等战略要地一一失守，便决定放弃京津，退保东北。奉军仓皇出关，孙传芳得到张作霖允许先期到了东北，他的残部则在天津宝坻一带向国民党军队投降。张宗昌也想率他的直鲁军去东北，被张学良拒绝后，走投无路，丢下部队化装潜逃，直鲁军被白崇禧改编。至此，除了张学良、杨宇霆的部队还警戒在山海关内以外，奉军已全部败退关外。
这次北进，国民党各集团军中出力最大的是冯玉祥的第二集团军。但当这支军队的韩复榘、刘汝明、冯治安、刘骥四个军和阎锡山的第三集团军差不多同时到达北京近郊时，蒋介石从南京发来命令，只允许晋军进城，冯军只能留在南苑。6月4日，阎锡山正式被任命为京津卫戍司令，6月12日，晋军入城。
张作霖已于6月3日乘专车离京撤返东北。多年来，他为了扩展自己的势力，不惜投靠日本，出卖部分主权。但当自己的利益受到损害时，他对日本也有不满和抵制。尤其对于日本政府变东北为殖民地的计划，他不止一次作了抵制。现在，他兵败出关，专心经营东北，使日本强烈地预感到他的存在是“满蒙独立计划”的大碍。于是，当6月4日晨，张作霖乘专车到达离沈阳六里远的小站皇姑屯时，被日本关东军河本大佐预先埋下的爆炸物炸成重伤，仅存一息，说了一声“这是日本人干的”， 回到沈阳城内，立即气绝。
张作霖死后，奉天省长臧式毅，以事出非常，张学良、杨宇霆所率奉军主力尚未回沈阳，故丧事秘而不宣，只发表大元帅受伤疗养的消息。张学良悄然只身化装士兵，搭乘兵车，潜返沈阳。这时，东北处在危疑震撼之际，内部人心惶惶不安，外有日人虎视眈眈。忧心如焚的张学良，这时沉静地处理这一突发事件，初步稳住了东北局势，到6月19日才公布张作霖伤重身亡的消息。同时，张学良也被举为奉天督办，7月4日又正式就任东三省保安司令。
在复杂而又严峻的形势下，年仅27岁的张学良主政东三省。他清醒地认识到：御外侮，报父仇，必须首先谋求全国统一，全力对外，始克有济。6月22日张学良发表了四项施政纲领，即停止内战；采取睦邻主义外交，冀达共存共荣目的；采取精兵主义，收缩军队；整理财政，免除苛捐杂税。7月1日，又通电表明，“决不妨碍统一 。并秘密同南京国民党就东北易帜问题保持联系。
然而，日本对张学良却步步紧逼，力阻东北易帜。日本新任驻沈阳总领事林久治郎、关东军司令村冈、日本前驻华公使林权助、田中首相的外交顾问佐藤中将等人轮番对张学良施加压力，并公然以“使用武力”，“发生重大事情”和不惜干涉内政等赤裸裸的强盗语言进行威胁。但具有民族意识和个人抱负的年轻的张学良，既不愿作民族叛徒、又不想在日本人手下充当傀儡，他要依靠自己的力量干一番。他顶住了日本当局的压力，毅然于1928年12月29日通电全国，“于即日起宣布遵守三民主义，服从国民政府”，换下原北洋政府的五色旗，插上国民党政府的青天白日旗。在这之前的10月8日，国民党中央常务委员会议已推选了张学良为国民政府委员。接着，南京政府又任命张学良为东北边防长官。至此，南京政府便从名义上“统一”了全国。
新军阀混战
国民党新军阀对奉系军阀的战争刚刚结束，它们相互间的矛盾就立即尖锐化和表面化起来。正如毛泽东指出：“国民党新军阀蒋桂冯阎四派，在北京天津没有打下以前，有一个对张作霖的临时的团结。北京天津打下以后，这个团结立即解散，变为四派内部激烈斗争的局面，” 这四派的斗争首先在军队“编遣”问题上爆发出来。
蒋介石明知国民党内派系林立，各集团军之间积怨极深，为使各种势力都能听从他的摆布，只有借用孙中山的旗帜。于是，他以中央政治会议名义，决定在北平举行一次盛大的祭灵典礼。蒋介石特意从南京绕道汉口与李宗仁同行，然后到郑州邀冯玉祥同赴北平。阎锡山本来就在北平。四大集团军总司令和各路总指挥以及其他文武要员7月6日齐集北平西山碧云寺，向孙中山灵柩施大礼，蒋介石抚棺痛哭，状极悲戚。鲁迅曾有诗作过辛辣的讽刺：
大家去谒灵，强盗装正经；
默哀三分钟，各自想拳经。
谒灵后，蒋介石开始实行“削藩政策”。他打着“励行裁兵，以苏民困”的幌子，向各实力派提出裁兵主张。7月6日，他在西山开谈话会，提出《军事善后案》。这个方案的实质是只裁冯、阎、李的兵，蒋介石的兵非但不裁，实际上还可以扩充。因而遭到反对。11日，蒋介石又召集汤山会议，蒋介石在会上提出《军事整理案》，这个方案的奥妙是以统一全国军事为名，让蒋介石同化异己军队，使全国军队都变成蒋军。这个方案又遭各派反对。蒋介石只得将裁兵主张暂时搁置起来，到国民党二届五中全会上再行设法。
8月8日，国民党二届五中全会开场。蒋介石将《军事整理案》在会上提出，得到不掌握兵权的汪派中委陈公博、王法勤、顾孟余等人的支持而得以通过，成为国民党中央的决议。
蒋介石手中有了“中央决议”，便于1929年1月1日正式召集全国国军编遣会议。财政部长宋子文在会上报了一笔账，为蒋介石的裁兵主张提供根据。宋子文的账表明，1929年的军费支出占全年国家财政收入的78％；全年预算收支相抵，有5000多万元赤字。宋子文并提出了严格规定军费，统一全国财政的主张。这实际上是用遏止财源、切断军饷的办法逼冯、阎、李裁兵。蒋介石在会议过程中施展纵横捭阖的手段挑起实力派之间的矛盾，经过一番激烈争吵，最后确定了一个极有利于蒋介石的方案。这个方案规定全国设立8个编遣区，除了二、三、四编遣区分别属于冯、阎、李，第五编遣区属东北军以外，其余的四个编遣区（中央直辖部队编遣区、中央直辖海军编遣区、第一编遣区和编遣川康滇黔地方部队的第六编遣区）都掌握在蒋介石手中。会议又通过了《国军编遣委员会进行程序大纲》17条，规定各集团军总司令、各总指挥及其他高级战时编制立予取消；编定之各部队中下级官长，轮流至中央军校接受教育；现有各部队应留驻现地不得移动……等等，这些规定，无异于将冯、阎、李的兵权削夺殆尽，西北军、晋军和桂军实际上也将不复存在。冯、阎、李当然不会就此俯首帖耳，而是各自暗暗准备着与蒋介石开战。会后不到两个月，“风云突变，军阀重开战”，蒋桂战争首先爆发，揭开了国民党新军阀混战的序幕。
蒋介石之所以首先拿桂系开刀，是因为1927年蒋介石被迫下野时，桂系是倒蒋的主角，因之蒋桂积怨很深。平、津打下后，桂系势力发展很快，白崇禧率兵10万驻在平、津、唐地区；李宗仁坐镇武汉，拥有两湖；黄绍留守广西。广东的李济深也与之策应。因此，南到广州，中经武汉，北达平津，都是桂系势力区，对蒋介石构成严重威胁。
蒋桂战争的导火线是李宗仁不经蒋介石批准，撤了湖南省主席鲁涤平的职。鲁涤平是谭延闿的亲信，蒋介石与谭延闿这时关系密切，蒋介石想利用鲁涤平反桂系，特意给鲁涤平的军队运去大量枪械装备。李宗仁发觉这一情况后，决定赶在蒋介石下手之前搞掉鲁涤平。2月22日，武汉政治分会借口鲁涤平“把持税收，‘剿匪’不力，重征盐厘，有渎军纪”，撤了他的湖南省主席兼十八师师长职，并派叶琪率第九师进入湖南，控制省城。蒋介石大怒，于2月26日秘密下令集结军队，作讨桂的准备。在这同时，蒋介石又使用机巧权术，为讨桂作了精心的安排：在北方，他挑动驻平津桂系军队中的唐生智旧部起来“反白迎唐”，把白崇禧逼走；在南方，他把与桂系结成联盟的广东军阀李济深诱骗到南京加以软禁。蒋介石的这两着，大大削弱了桂系势力，使武汉“形单影只”，处境孤立。3月18日，国民党举行第三次全国代表大会，会上决定开除李宗仁、白崇禧、黄绍三人党籍。完成一系列准备后，3月26日，蒋介石正式下令讨伐桂系。
蒋介石为进攻武汉，自任总司令。以朱培德的第一路军，西取武长路，截断桂系南逃之路；以刘峙的第二路军沿长江西逼武汉；又命冯玉祥的韩复榘部为第三路军，从河南沿平汉线南下配合。蒋军刚向两湖推进，桂军第一路军总司令何键就在长沙宣布归顺“中央”。第二路军总司令叶琪将自己的部队交给何键改编，本人遁往广西。湖南就落入了蒋介石手中。3月31日，蒋介石下令对武汉总攻击。各路蒋军逼近武汉。4月3日晨，桂系第三路军代理总司令李明瑞事先已与蒋介石取得联系，这时宣布倒戈。第四、五路桂军闻变后无心作战，仓促退向鄂西，不久都被蒋介石打败并收编。5月，蒋介石又命令何键、陈济棠、龙云围攻桂军老巢广西。桂军彻底战败，李宗仁、白崇禧被迫逃往越南。
蒋介石讨桂获胜后，又寻找新的捕猎物。在编遣会议上，阎锡山对蒋介石表示了一定程度的合作，而冯玉祥则或明或暗地多次抗争。在蒋桂战争中，冯玉祥表面上支持蒋介石对桂系用兵，将韩复榘部安置在武汉以北的平汉线重镇信阳，作出策应蒋介石攻武汉的姿态，而骨子里却是坐山观虎斗，命令在山东的孙良诚部南下驻徐州。他的打算是：让蒋桂两家打得精疲力竭，然后由他见机行事。如蒋军不支，孙良诚就可南下浦口，占领南京，反之，则令韩复榘直下武汉。不料桂军迅速失败，冯玉祥来不及占便宜，反而让蒋介石发现了自己的企图。
蒋介石在占领武汉后，就决定发动对冯玉祥的战争。5月7日，他发表《和平统一为国民政府唯一之希望》一文，提出“铲除军阀”和“根本扑灭封建地盘思想”，制造讨冯舆论。冯玉祥看到战争即将爆发，命令在山东的孙良诚部西撤潼关，缩短战线，以免被蒋介石分割歼灭。蒋介石重施倒桂故技，以河南省主席官位和数十万元巨款收买了冯的部将韩复榘，又以几十万元买通了冯的另一部将石友三。韩、石两人便公开叛变冯玉祥，声明“拥护中央”。此外，刘镇华、杨虎城、马鸿逵等部也先后被蒋介石拉拢而叛冯，使冯玉祥实力严重削弱。蒋介石又出动嫡系部队沿陇海路西进。冯玉祥看到自己处境十分困难，为保持西北军建制而不被蒋介石在战场上消灭，他于5月27日通电下野，“入山读书”。其后，蒋、冯、阎之间出现了十分复杂而微妙的关系。先是阎锡山诱骗并软禁了冯玉祥，以取媚于蒋介石。但当冯玉祥的部下因对阎锡山的行径表示愤慨而靠拢蒋介石，并得到蒋介石的任命后，阎锡山又害怕孤立，转而表示愿意与冯玉祥合作。中秋节，阎锡山亲自前往软禁冯玉祥的建安村，向冯玉祥赔礼。本来，冯玉祥指使其部将靠拢蒋介石，就是为了拆散蒋、阎勾结。现见目的已经达到，就表示愿意合作反蒋。
10月10日，宋哲元、孙良诚等27名冯军将领联合通电反蒋。次日，蒋介石下令讨伐，亲自担任总司令，并有德国军事顾问随军指导。宋美龄也带了巨款上前线慰劳。在关键时刻，阎锡山又一次不顾信义，于11月5日宣布就任南京政府所任命的全国陆海空军副总司令职位，还在太原召开了所谓“讨逆”大会，公开以西北军为“逆”，使西北军陷于孤立境地。从10月下旬到11月下旬，蒋军发动了三次总攻，西北军众寡不敌，作战连续失利，登封、洛阳、老河口、南漳等地先后被蒋军占领。当时，冯玉祥不在军中主持工作，西北军各将领之间互不服气，指挥不统一，只得退守潼关。西北军第二次反蒋又告失败。
1929年是个内战连绵之秋。北方的血刃相见尚未平息，南方的反蒋战争复又兴起。与前不同的是，这一次的反蒋战争有了政治派别从中串联组合，因而文武俱备，使中国出现了更繁复而多变的局面。这一政治派别就是以汪精卫为首的国民党改组派。 地方实力派之所以与改组派联合，是因为他们自知在政治上无法抵抗蒋介石借孙中山的亡灵所施加的巨大压力，于是他们纷纷派人到上海找到改组派总部，并接受了改组派所提出的“护党救国大同盟”的政治纲领，打出“护党救国军”的旗帜。9月的第二次蒋桂战争，就是在这样的背景下爆发的。
第二次蒋桂战争开始于张发奎的起兵反蒋。张发奎在历史上与汪精卫、陈公博有较深的关系，蒋介石对这支军队很不放心，尽管它在第一次蒋桂战争中为蒋介石立了功，蒋介石还是决意借编遣会议的决定，对它大加缩编。9月中旬，蒋介石下令张发奎部由湖北宜昌调往江苏北部海州，企图在张部移防途中突然下手。张发奎发觉蒋介石居心险恶，乃公开宣布反蒋，然后率兵经湘西下广西。广西省政府主席俞作柏和广西省编遣特派员兼十五师师长李明瑞早已与改组派秘密商定实行反蒋。张发奎南下途中，俞作柏于27日发出反蒋通电，宣布就任护党救国军总司令之职，率兵与拥蒋粤军陈济棠部作战。但由于广西内部分裂，俞作柏兵败，只身匿居香港，反被蒋介石特务暗杀。李明瑞则在中国共产党人邓斌（即邓小平）和张云逸帮助下，参加了龙州起义，成为一名红军指挥员。俞作柏失败后，张发奎经过改组派的牵线，到梧州与桂系黄绍会晤，商定军事合作事宜。李宗仁、白崇禧也分别从国外回到广西。李、白、黄在南宁成立了“护党救国军”，李宗仁为总司令，黄绍为副总司令兼广西省主席，白崇禧为前敌总指挥。下辖第三路军（张发奎为总司令）和第八路军（李宗仁兼总司令）。蒋介石派何应钦入广东指挥军队讨伐张桂联军。战事于12月4日正式发生。蒋军分兵五路，并有海空军助战，张桂联军除白崇禧部外均被战败，第二次蒋桂战争结束。
与第二次蒋桂战争相呼应，唐生智又在河南郑州发起反蒋。12月1日，唐生智等75人发表通电，主张“立息内争，一致对外”，“有违斯旨，仍存自私者，即为全国公敌。” 3日，唐生智宣布奉汪精卫转来国民党二届中央执委会训令，就任护党救国军第四路总司令职。同日又发表《拥汪联张电》。驻安徽的石友三原来已与唐生智有秘密联系。唐生智反蒋通电发出的第二天，石友三也宣布反蒋，并就任护党救国军第五路总司令。他将数十门大炮排列在浦口江岸，突然向南京猛轰，又派便衣混入南京城，进行骚扰。变起仓促，南京大乱。但石友三是个反复无常的人，不久又宣布退出护党救国军，反对改组派，蒋介石遂以全力进攻唐生智。12月中旬，蒋介石嫡系刘峙等部沿平汉线北上，阎锡山指挥孙楚、杨爱源等部从河北、山西南下，夹攻郑州。唐生智兵败，失去抵抗能力，请求准予只身出洋。蒋唐战争又以蒋介石的胜利而结束。
蒋介石接连取得胜利，十分得意。1930年元旦，他以胜利者姿态发表文章，宣称他的行动是“以顺讨逆”，炫耀他的进军“如摧枯拉朽”。蒋介石这一姿态，使得各实力派都产生了兔死狐悲的悲凉心绪，就连一直为蒋介石作伥、在蒋冯、蒋唐战争中出了大力的阎锡山，也不免担忧，生怕蒋介石下一步可能会向自己开刀。1930年1月22日，阎锡山借补行宣誓就任陆海空军副总司令仪式之机提出“整个的党，统一的国”的主张，反对蒋介石独揽大权，用武力消灭异己。2月，他发动对蒋介石的“电报战”，谴责蒋的武力统一政策和个人独裁。指出：“戡乱不如止乱，不止乱而一味戡乱，国内纷乱，将无已时”，并以“礼让为国”之名，请蒋介石下野。 蒋介石连续取得了对桂、冯、唐等战争的胜利，正趾高气扬，欲成一家之天下，对阎锡山的态度当然不能容忍，便针锋相对地反驳阎锡山，谓：“国有纲纪，党有纪律，个人进退，绝无自由。本人在党国命令之下，须用武力以戡乱，下野无异为反动者解除武装，阻止本党革命。” 语气十分蛮横。双方各执一端，唇枪舌剑，互相攻讦，函电纷驰，以牙还牙。
阎锡山反蒋大旗刚一打出，国民党内对蒋介石的统治心怀不满者便纷纷来访。汪精卫1928年被蒋逼出国，屡谋反蒋，但屡遭败北，正急于翻本；西山会议派一再遭蒋打击，已黔驴技穷，正企求生存；桂、张军阀穷蹙于广西一隅，不甘心坐以待毙，欲求一搏；冯玉祥被蒋介石两次打败，旧部韩复榘、石友三、杨虎城等都被蒋介石一一从西北军中分化、肢解，痛定思痛，亟图报复。于是各派反蒋军阀和政客的代表齐集太原，策划结成“同盟”，最后演成了以阎锡山为首的大规模倒蒋战争——中原大战。
1930年3月21日，阎、冯公开发出倒蒋通电，全国各反蒋的大小军阀纷起响应，就连吴佩孚、孙传芳、齐燮元等北洋军阀旧人物也冒了出来。4月1日，阎锡山在太原宣誓就任中华民国陆海空军总司令职，冯玉祥在潼关、李宗仁在桂平分任副总司令，并编制了“中华民国军”的战斗序列：张桂联军3万人为第一方面军，西北军30万人为第二方面军，晋军20余万人为第三方面军，石友三部10万人为第四方面军，以上共约70万人。此外内定东北军为第五方面军，四川刘文辉部为第六方面军，湖南何键部为第七方面军，河南樊钟秀部为第八方面军。5月4日，阎锡山、冯玉祥在郑州会晤，商讨作战方略，决定前线军事由冯玉祥完全负责，指挥部设在洛阳，阎锡山主持后方一切，保证粮饷及军火的供应。两人并对作战部署作出共同决定：沿津浦线南下之第三方面军，与沿陇海路东进之第二方面军及第三方面军之一部，在第四方面军的配合下，攻占济南，会师徐州，进兵南京。第一方面军沿粤汉路北上，与沿平汉线南下之第三方面军南北对进，夹击湖北蒋军，会师武汉，控制长江中下游，一举推翻蒋记南京政府。
当反蒋阵线集中70万大军，分别在津浦、陇海、平汉、湖南四个战场协同进兵时，蒋介石也早已有了应变的准备。他以韩复榘为第一军团总指挥，率部在津浦路布防，阻晋军南下；主力刘峙的第二军团精锐部队投入主战场陇海路作战；何成浚的第三军团配备于平汉路，阻扼冯玉祥南下。5月11日，蒋介石下达总攻击令，第二军团由鲁西南，豫东，沿陇海路两侧向西直趋归德（今商丘），双方开始了大规模交火。
蒋介石凭借他装备精良，兵种齐全，并有德国军事顾问团的指挥等优越条件，采取先发制人的战略，企图以外线进攻战，一举夺取归德，以便扼陇海入豫之咽喉，控皖、鲁、豫三省之要冲，然后与冯、阎主力决战。5月18日，反蒋联军果然在蒋军的猛烈攻势下防线瓦解，第二军团进驻归德。但到5月下旬，第二军团在阎冯军联合攻势下，开始遭受挫折，并节节败退，6月上旬全线退至定陶、曹县、民权、河阳集一线，方始稳住阵脚。蒋军锐气顿时大减。平汉路上蒋军，以攻击许昌为主要目标，虽一度得手，但也很快遭到冯军反击，全线溃退，狼狈南逃。津浦路蒋军韩复榘部没有认真组织抵抗，晋军第二、第四路军乘蒋军主力在陇海路鏖战之机，从河北南下山东，5月底渡过黄河，6月25日，傅作义、张荫梧部攻下济南并南下追击。从广西北上策应阎冯的张桂联军则攻入湖南，先后占领长沙、岳州。初期战争，蒋军不但全线败退，蒋本人还在柳河车站险些成为冯军郑大章骑兵队的阶下之囚，只因郑部不掌握蒋介石的行踪，部队匆匆转移，才使蒋脱险。
7月下旬，蒋介石开始调整作战部署，对陇海路、平汉路，暂取守势，在津浦路则调集大军，配以重炮，分三路猛攻晋军，晋军节节败退。冯玉祥在阎锡山的要求下，发动了“八月攻势”，企图打通陇海、津浦路，与晋军在徐州会师，但未成功。8月15日蒋军重新进占济南，并继续追击，迫使晋军逃往黄河以北。8月底蒋军主力又回师陇海路和平汉路，并以平汉路为重点，发动郑州会战，使久已沉寂的平汉、陇海战场再次翻腾。9月17日，蒋军杨虎城部攻占洛阳附近的龙门，截断了冯军西撤之路，冯军孤掌难鸣，只得退向豫北。这样，战场形势以济南落入蒋军之手为转机，反蒋联军如江河日下，出现了无法挽回的败局。
当蒋、阎、冯战事进行之时，反蒋的“国民党中央党部扩大会议”也正在筹备和举行。充当“扩大会议”主角的是以汪精卫、陈公博为首的改组派和以邹鲁、谢持为首的西山会议派，他们都想利用阎冯的军事力量作后盾夺取蒋介石的统治权，组织一个非蒋的“正统”的中央党部和国民政府。7月13日，扩大会议在北平中南海怀仁堂召开预备会议。23日，一直住在香港的汪精卫回到了北平。8月7日扩大会议正式举行，推选出汪精卫、赵戴文、许崇智、王法勤、谢持、柏文蔚、茅祖权等7人组成常务委员会，领导扩大会议工作，以改变“党既不党，国亦不国”状态、“依法”召开国民党三全大会和筹备召集国民会议、制定约法为号召。9月1日，扩大会议通过《国民政府组织大纲》，并推阎锡山、汪精卫、冯玉祥、李宗仁等9人为政府委员，以阎锡山为主席。阎锡山素来迷信，特地挑选民国19年9月9日9时9分为黄道吉日，在汪精卫与谢持陪侍下宣誓就职。然而由于战场上的突变，反蒋军失利，及张学良通电拥蒋，派兵入关，汪、阎的好景仅为昙花一现。
当时，任东北边防长官的张学良，拥兵30余万，在时局上举足轻重。阎、冯反蒋战起时，虽发表张学良任反蒋联军副总司令，但张学良以东北军前辈不同意反蒋为托词，暂持中立。经数月观望，并在蒋介石以高官厚禄相诱之下，终于在9月18日通电拥蒋，派兵参战，整个形势因而急转直下。不仅扩大会议被迫撤往太原，而且威胁反蒋联军的后路，阎、冯在河南作战部队，大为动摇，无法继续作战。9月30日冯军全线崩溃，部下纷纷倒戈。10月3日蒋军进占开封，6日攻克郑州，9日洛阳陷落，冯、阎军10余万人被俘。10月15日阎、冯决定联袂下野，于11月4日通电声明“释权归田”， 取消设在太原的中华民国陆海空军总司令部。阎军和冯军分别被张学良和蒋介石改编。与此同时，扩大会议仍在演出最后一幕：10月31日正式公布了一个共8章211条的约法草案，作为汪记“民主政治”的标本。11月2日发表了最后一篇宣言后，宣告结束。
蒋、阎、冯这场国民党统治时期规模最大的新军阀混战，总共投入百万大军，战线绵延数千里，旷时7个月，死伤30多万人，耗资无法计算，给人民造成空前深重的灾难。蒋介石通过这场大战，不仅吃掉了阎、冯等强硬对手的几十万军队，还造成了统治集团内部在军事上暂时没有人能同他匹敌的局面，从而使他的独裁统治得到了巩固。
五院制政府的出现
1928年6月国民党军队从奉系军阀张作霖手中夺得北京和天津后，南京政府即于当月15日发表宣言，声称中国的“统一”已告完成，并宣布“军政时期”结束，“训政时期”开始。
同月，在巴黎的胡汉民与孙科联名拍电报给谭延闿、张静江、蒋介石、阎锡山、冯玉祥、李宗仁，电报中提出了一份名为《训政大纲》的政治设计书，主张着手建立五院制政府，实行“五权宪法”。五权宪法是孙中山将西方资产阶级政治制度的立法、行政、司法三权分立原则加上中国古代政治制度的科举与监察制，冶为一炉而产生的五权分立的一种政权思想。国民党叛变革命后，需要借助于民主革命先行者孙中山的名义实行反革命统治，于是就由胡汉民等提出了着手建立五院制政府、实行五权宪法的主张。
9月初，胡汉民、孙科回到上海，与蒋介石进行了多次商谈。15日，胡、孙两人又联名提出了一份《训政大纲提案说明书》，对训政时期国民党政权的统治原则作了详尽的设计，“训政褓母论”就是首次在这份“说明书”中提出的，它公然宣称“本党始终以政权之褓母自任”， 将广大人民当“阿斗”。胡汉民、孙科的这份说明书成为国民党五院制政府建立的基本依据。
9月，国民党中央推定胡汉民、戴季陶、王宠惠三人着手起草五院制国民政府组织法，同月经政治会议审查修正后，10月3日，由国民党中央常务委员会通过。同日，国民党中央常务委员会还通过了《训政纲领》。《国民政府组织法》和《训政纲领》，成为国民党在训政时期的根本法。它们规定了在训政时期，由国民党领导政权，治权由国民政府总揽而执行，对政府的监督则归国民党中央政治会议。换言之，在这种政治制度下，人民既不能行使选举、罢免、创制、复决四种政权，也不能使用行政、立法、司法、考试、监察五种治权，一切权力归于独裁专制的国民党。10月8日，《国民政府组织法》正式公布，共7章48条。引言称：“国民党本革命之三民主义、五权宪法，建设中华民国，已用兵力扫除障碍，由军政时期入于训政时期，允宜建立五权之规模，训练人民行使政权之能力，以期促进宪政，奉政权于国民。” 组织法规定，国民政府在国民党中央政治会议监督下“总揽中华民国之治权”，治权即包括行政、立法、司法、考试、监察5项。故第5条规定：“国民政府以行政院、立法院、司法院、考试院、监察院五院组织之”。五院之上设国民政府，主席委员1人，委员12人至16人，委员兼任五院正副院长。国府委员组成国务会议，负责处理国务，并协调五院间的关系。国民政府主席担任国务会议主席。公布法律、发布命令，须经国务会议决定，由国民政府主席及五院院长署名行之。国民政府委员会不设立常务委员，国民政府主席负实际政治责任，并兼任中华民国陆海空军总司令。不久，又裁撤原设的国民政府军事委员会、国民革命军总司令部和海军总司令部，其事权划归军政部、参谋本部及训练总监部。
10月8日，国民党中央政治会议还公布了五院组织法。五院中，以行政院的规模最为宏大，下设内政、外交、军政、财政、农矿、工商、教育、交通、铁路、卫生等部，及建设、蒙藏、侨务、劳工、禁烟等委员会。立法院主要对于法律、预算、大赦、宣战、媾和、条约等案进行议决。司法院下设司法行政部、最高法院、行政法院及官吏惩戒委员会（后改公务员惩戒委员会）。考试院下设铨叙部及考选委员会。监察院则行使弹劾和审计职权，并设审计部。
如何拼凑五院分立的政府，为众人瞩目。蒋介石要借重组政府之机，以对各实力派首领封官晋爵、晋调中央供职为名，严加控制，对外则虚张“空前统一与团结”。各实力派则希冀通过五院分立，分散蒋介石的权力，共坐天下。于是，密室偏阁，台前幕后，一次次算计，一番番策划，经紧张的政治交易，10月8日中常会通过了李石曾、张静江、吴稚晖的提案，确定了南京国民政府委员的名单，即：蒋中正、谭延闿、胡汉民、蔡元培、戴季陶、王宠惠、冯玉祥、孙科、陈果夫、何应钦、李宗仁、李济深、杨树庄、阎锡山、林森、张继、张学良等17人；通过了各院、部的组成名单：南京国民政府主席蒋中正；行政院院长谭延闿、副院长冯玉祥；立法院院长胡汉民、副院长林森；司法院院长王宠惠、副院长张继；考试院院长戴季陶、副院长孙科；监察院院长蔡元培、副院长陈果夫。此外，胡汉民派的古应芬任国府的文官长，蒋介石的军师何成浚任国府参军长；李济深任参谋本部参谋总长；何应钦任训练总监部总监；李宗仁任军事参议院院长。行政院各部：内务部长阎锡山，次长赵戴文；外交部长王正廷；军政部长冯玉祥，次长鹿钟麟、张群；财政部长宋子文；交通部长王伯群；铁道部长孙科；工商部长孔祥熙；农矿部长易培基；教育部长蒋梦麟；卫生部长薛笃弼。10月10日晨8时，蒋介石带领五院院长在南京中央总部宣誓就职。
南京国民政府五院陆续建立起来。1928年10月，行政院最早成立。立法院成立于同年12月5日。司法院的正式组成是同年11月。1929年公布考试法，翌年1月成立考试院。成立最晚的是监察院，因蔡元培拒不就任院长职务，1930年11月，国民党三届四中全会改任于右任为院长后，才开始筹备。1931年2月正式成立。
蒋介石的宣传机器吹嘘这一套政权机构是什么“大一统的国民政府”，从表面上看来，确定五院分立，各有事权，互相制约，形成了一架大机器；国民党的各派，也都在这架机器中各有其位。但透过现象看本质，蒋介石的个人独裁统治并没有发生变化，相反作为国民政府主席，被赋予了远较西方总统制下的总统职权更大的权力。各实力派首领对于到南京来做官并不感兴趣，他们害怕蒋介石耍弄“杯酒释兵权”的手腕，中了他的“调虎离山计”。因而冯、阎和二李（李宗仁、李济深）都以各种借口推辞就职，或找人代理，或称病“休养”。而值得注意的是，汪精卫派在这次政治分赃中没有分得一丝一毫的残羹，从此他们就打出“改组国民党”的旗号，在国民党内兴风作浪，动摇蒋介石的统治宝座。
蒋汪争权与“改组派”的产生
蒋介石与汪精卫的矛盾早在大革命的中、后期就产生了，但当时，蒋介石是国民党新右派的代表，而汪精卫则被视作左派。1927年两人先后叛变革命，从本质上看，他们已表里如一地站到了同一条战线上。但为了争夺国民党内的“正统”地位，又发生了种种摩擦与纷争。1928年南京政府实行五院制，汪精卫集团没有分得一席之地，表明这两个集团全面、深刻的对立。从那时起到1931年“九一八”事变后蒋汪重新合作为止的几年中，汪精卫集团的主要政治活动是组织了“中国国民党改组同志会”（简称“改组派”），反蒋反共。
“改组派”的出现自然不只是蒋汪矛盾的产物，它有着更进一层的政治经济背景。大革命后期，中国资产阶级追随大资产阶级叛变了革命，原指望能将中国引上资本主义充分发展的前途。但大革命失败以后中国的现实却使他们大失所望。诚如毛泽东所精辟地分析的：“中国无产阶级和农民在此次失败中，受到很大的打击，中国资产阶级（非买办豪绅阶级）也受了打击。”“全国工农平民以至资产阶级，依然在反革命统治底下，没有得到丝毫政治上经济上的解放。” 旧中国的民族资产阶级是一个中间阶级，他们一方面与工农有矛盾，另一方面又与帝国主义、封建主义和买办资产阶级有矛盾；客观上，后一种矛盾超过前者，只是他们自己有时不能清楚地认识，1927年就是这样。走了弯路，才认识到在大地主大资产阶级统治下，得不到“丝毫政治上经济上的解放”。于是民族资产阶级又发生分化，有一部分因为自己的利益，开始逐步形成蒋介石政权的在野反对派。“同时资产阶级在汪精卫、陈公博一派鼓动之下，亦在沿海沿江各地发展着颇大的改良主义运动。” 所以改组派的产生，既是汪精卫等一些政客在国民党内争权夺利的反动活动的需要，同时也迎合了民族资产阶级、上层小资产阶级在中国发展资本主义的愿望。改组派的中、下层成员，大多属于这种心理。
最早提出“改组”国民党的是汪精卫。紧接着，陈公博于1928年5月在《贡献》上发表了一篇文章，认为国民党“只有一条出路，就是‘党的改组’”。 这一主张得到国民党内一些失意分子的赞同。陈公博等就于5月7日创办《革命评论》杂志；6月1日顾孟余创办《前进》杂志。他们以此为阵地，口诛笔伐蒋介石的专制独裁，鼓吹“恢复十三年改组精神，改组国民党”。8月与9月，《前进》与《革命评论》被蒋介石下令查封。同年11月底，陈公博、顾孟余、王法勤、王乐平、白云梯、朱霁青、潘云超、郭春涛等，在上海正式成立“中国国民党改组同志会”。以国民党二届中执监委汪派委员组成临时中央总部，陈公博为总负责人（后来由王乐平接任），尊汪精卫为精神领袖，下设组织、宣传、总务三部门。并在宁、沪、平、津等大城市和浙、苏、皖、湘、赣、粤、川、豫、鲁、晋、辽、甘等省，海外的法国、日本、越南、菲律宾、新加坡、美国及香港设立支部。
1929年3月，改组派发表《中国国民党改组同志会第一次全国代表大会宣言》，指责蒋介石把持党国，篡改三民主义；宣布要“集合革命同志”，重新制订纲领，改组国民党。他们认为“恢复十三年改组精神”是“复活革命的国民党”的根本所在。所谓“十三年改组精神”，应该是指1924年孙中山实行“联俄、联共、扶助农工”三大政策，对国民党进行改组的基本原则，就是孙中山对三民主义所作的重新解释。而“改组派”却认为1924年只有“容共”，并无“联共”，三大政策是“共产党之先生们（在十五年十月）才创造出”。改组派所要“复活”的党，不是实行三大政策与新三民主义的国民党，而是“以党治军”“以党治国”“实行党的专政”的国民党。他们“根本反对第三党的存在”，“赞成一党主义，赞成党外无党”，主张“以党的专政来泯除不平阶级，免社会再生出阶级的斗争。” 可见改组派的主张，是打着“恢复十三年精神”的旗号，把国民党“改组”为独裁党，而这与蒋介石当时实行的政策并无区别，所区别的只是由谁来掌握这个独裁党而已。
改组派的反蒋活动首先集中在反对蒋介石包办国民党三全大会上。1929年，蒋介石筹划召开国民党第三次全国代表大会。为了保证将这次会议开成蒋介石的御用大会，国民党中常会决定出席大会的代表半数由各省市选举，半数由中央指派和圈定。指派和圈定的毫无疑问都是蒋介石集团所信任的人；各省市的选举也往往被CC派操纵。改组派利用了国民党内的不满情绪，起来反对。1929年3月，他们控制了南京市党部代表大会，提出了《抗议中央指派圈定三代会代表案》。他们并鼓动其他不满分子，发通电，写文章。国民党福建48县各级党部代表联席会议在通电中说，南京中央指派三全大会代表是“背叛总理”“蔑弃党纲”“毁法乱党”……改组派这种举动，并不能阻止蒋介石集团对“三全大会”的操纵包办，只是招来了特务、宪兵、打手对改组派的镇压，强行解散了“悲壮的南京市代表大会”。3月25日，蒋介石包办的“三全大会”如愿召开，大会代表总数366名中，特派与圈定的279名，占代表总数的76％，“三全大会”根据蒋介石集团的意图，通过决议，对汪精卫予以书面警告，陈公博、甘乃光永远开除党籍，顾孟余开除党籍三年。
改组派在“三全大会”问题上的斗争失败以后，便走上了联合地方军阀，进行军事倒蒋活动的道路。然而，他们筹划的组织“护党救国军”以及联合各派军阀、进行中原大战等倒蒋军事活动，都被蒋介石所击败，改组派凄然作鸟兽散。1931年1月，汪精卫逃到香港，宣布改组派解散。
此后，改组派有过一次死灰复燃。起因是蒋介石与胡汉民发生政争，蒋介石又一次耍弄无赖手段将立法院长胡汉民软禁于南京汤山。胡汉民一派的邓泽如、林森、古应芬等群起反对，汪精卫趁机带领原改组派成员百余人赶往广州，联合桂系、粤系“再造派”等，于1931年5月27日成立“国民党中央执监委员会非常会议”，次日成立“国民政府”，汪精卫等5人为政府常务委员，轮流担任主席。1931年，“九一八”事变发生，蒋介石断送了东北，在全国引起空前强大的抗议浪潮，危及国民党的统治。在这种形势下，宁粤双方为了维护国民党统治这一共同利益，才借着“共赴国难”的冠冕堂皇的口号，联合起来。12月15日，蒋介石宣布下野。24日，蒋介石派、胡汉民派、汪精卫派合作的四届一中全会在南京召开，成立了短命的孙科内阁。不到一个月，孙科即被蒋介石所设置的种种障碍所绊倒，自行辞职。于是，1932年1月，蒋汪“联袂入京”。28日，汪精卫当上了中央政治会议主席与行政院长，主持政务；3月6日，汪精卫提名蒋介石任军事委员会委员长。蒋介石虽声言掌握军事，全力“剿共”，但实际上他在行政院的军政部、财政部等几个最要害的部门中都安插了亲信去当部长。汪精卫也分到了外交、铁道、实业等几个举足轻重的部。于是，蒋汪分赃，联合执政。
从1927年至1931年，蒋、汪之间争斗了4年。从1932年初至1935年底，蒋、汪又合作了4年。1935年12月，蒋介石夺了汪精卫的行政院长职位，这两个集团又一次公开分裂。无论争斗与合作，它们之间的关系始终是大地主大资产阶级代理人之间从各自小集团的利益出发所酿成的离合关系，其结果是两个，一是加深了全国人民的苦难，二是暴露了他们自己的反动性，客观上有利于人民对他们的斗争。