改组后的国民党成分很复杂，既有工农和小资产阶级、民族资产阶级，也有一部分地主买办阶级，随着革命形势的发展，出现了以地主买办阶级为政治代表的右翼集团，他们千方百计排斥打击国民党左派和共产党。国民党右派对国民党左派的斗争集中到廖仲恺身上。廖仲恺曾任国民党中央执行委员会常务委员、黄埔军校党代表，积极协助孙中山确立了联俄、联共、扶助农工的三大政策。孙中山逝世后，仍坚决执行孙中山的既定政策。国民党改组后他曾经公开揭露国民党右派背叛孙中山三大政策的反动面目，被视为眼中钉，必欲置之死地而后快。1925年8月廖仲恺偕夫人何香凝赴中央党部开会，刚下车就被帝国主义和国民党右派所指使的凶手刺杀身亡。廖仲恺的被刺是国民党右派背叛孙中山三大政策的一个信号。
尔后，蒋介石制造的“中山舰事件”则是国民党右派排斥共产党，篡夺革命领导权阴谋的大暴露。1926年1月1日，国民党在广州举行第二次全国代表大会，国民党左派和共产党人在大会中占有一定的优势，革命阵营中的资产阶级代表及其党羽便酝酿反革命阴谋，压制左派势力，尤其是蒋介石感到不将共产党人从第一军中排挤出去，他就无法控制革命，也就无法攫取领导权。于是1926年3月蒋介石及其党羽阴谋策划了反革命的“中山舰事件”。
3月18日，蒋介石指使其亲信以黄埔军校驻省办事处的名义，传达命令给海军局代理局长兼中山舰舰长共产党员李之龙，诡称要调中山舰到黄埔候用，李之龙便决定令中山舰前往黄埔，19日晨中山舰驶抵黄埔，后因苏联参观团要参观舰队，李之龙请示蒋介石，经允许又将中山舰调往广州，当日下午6时抵广州。中山舰往返开动，本是李之龙奉命行事，但蒋介石及其党羽亲信却又散布谣言说：“中山舰无故生火游弋”“显系共产党阴谋暴动”，还造谣说李之龙要造反。蒋介石借此擅自宣布广州戒严，调动军队，于20日晨派兵包围省港罢工委员会和苏联顾问住宅，收缴省港罢工委员会纠察队和苏联顾问团卫队的枪械，逮捕中山舰舰长李之龙及黄埔军校和第一军中共产党员50多人，随后又强逼在国民革命军第一军中工作的以周恩来为首的全体共产党员退出该军。
蒋介石的反共反革命行为引起国民党内一些将领的不满，邓演达等人认为此举“近于反革命行动”，汪精卫更是“怒气勃然”，认为此举是“独断专行，未尝谋之于我的”。但是并没有人挺身而出反对蒋介石专擅跋扈的反共反革命行为。以毛泽东为代表的一些共产党人则主张进行反击，“对蒋介石要强硬”，“蒋介石此番也是投机。我们示弱，他就得步进步，我们强硬，他就缩回去”。但这种意见也没有被苏联顾问团和以陈独秀为首的中共中央所采纳，反而采取了妥协退让的方针，这就使蒋介石的阴谋得逞，愈加张狂。事后他又把此事诿过于汪精卫，说这是汪精卫在军校中挑拨国共关系，引起误会造成的，迫使汪精卫4月中旬离开广州出国。这时由谭延闿和蒋介石取代汪精卫为中央政治委员会主席和军事委员会主席。从此蒋介石进一步控制了国民党的军政大权。
蒋介石虽然通过“中山舰事件”篡夺了军政大权，但羽毛未丰，另有北洋军阀大敌当前，所以还不敢公开反共，而是继续玩弄两面派手法，表面上承认错误“专擅之罪，诚不敢辞”，“自请从严处分，以示惩戒”，另一方面暗地里进一步策划新的反共阴谋，以待将来。而后在国民党的会议上，蒋介石又通过“整理党务案”限制和削弱共产党人的活动和权力，规定加入国民党的共产党员在高级党部任执行委员时，不得超过总数的三分之一，凡加入国民党的共产党员不得充任国民党中央机关之部长，诸多限制十分苛刻。这样蒋介石便于6月爬上了国民革命军总司令的高座，统帅海、陆、空各军，7月又当上了国民党中央常务委员会主席。通过“中山舰事件”和“整理党务案”，排斥、打击了共产党，军权和党权已完全集中于他一人之手，成了革命阵营中的最大隐患。因此，北伐战争一开始便潜伏着严重危机。
