当南京政府建都喜气尚浓之际，8月13日，蒋介石竟发表了下野的《辞职宣言》。
蒋氏本一代枭雄，野心勃勃，其正是大鹏展翅之际为何突然下野？说来内情很复杂。蒋氏能与武汉对抗，主要得到以李宗仁为首的新桂军的支持，然新桂系对蒋氏的独裁专制行为，日益表现出不满。蒋氏虽然任命白崇禧为参谋长，非爱其才，而是利用白与各军的联系。白乃性直才高之人，重于道义，忠于职守，而又性喜直言疾谏，敢作敢为，深恶奴颜婢膝之作为。如此则与蒋氏的刚直其表，阴柔其里，护短多疑而忌才的性情格格不入。北伐军自占江西后，蒋已对白深感不满。马口之役白将所获敌之军械予以第二、三、六军，又深触蒋氏之忌。由于军情紧急，将才难得，蒋氏虽心不悦，又无可如何。当白率军抵定东南之后，不但未获蒋氏青睐，反招至无聊的嫉忌。嫉忌者，何应钦也。时蒋氏对白指挥其亲信第一军能运用自如而疑窦丛生。白其实已功高震主了。后白在苏北、鲁南指挥作战，不惊不慌从容自如，使曾为白之老师的陈调元为之咋舌称奇，“小诸葛”于是更闻名遐迩了。
白战绩日著，蒋氏对其疑忌也日增。为此，张人杰曾与蒋辩论，劝蒋氏对白应放心。蒋氏摇头道：“我不知为甚不喜欢他。”
为弥缝蒋和白氏的情感，张人杰、蔡元培等向李宗仁提及，要求于蒋氏前委婉解释。李自忖不便于蒋氏面前正面提及，以免有袒白氏之嫌。一次谒见蒋氏时，婉转将白托出，最后道：“总司令如觉得白健生有不合体制之处，大可明白训谕，千万不可于部署之间，吞吞吐吐，疑心生暗鬼，反为不美。”然不论李如何恳言，蒋氏总是时怀疑忌，忠言难以入耳。
王天培为蒋氏处死，使何应钦、白崇禧等大有兔死狐悲之感。于是，何应钦便联合了李宗仁、白崇禧，寻机对蒋氏发难。当武汉国民政府所指挥的程潜等人马东征讨蒋到达芜湖以西时，李宗仁便密派人与程潜联系，相约互不敌视。继尔又派人到武汉，表示愿与武汉政府妥协，共同讨蒋。汪对李这态度，甚为欢喜，遂秘密致函李宗仁，劝他倒蒋。
李宗仁同武汉政府的秋波传递，自然瞒不过蒋氏的耳目。8月6日这天，蒋氏从上海到了南京汤山温泉休息，电召正在芜湖执行公务的李宗仁往南京一晤。李接电后不怠慢，疾车前往。二人见面之后，蒋氏长叹一声，谓李宗仁道：“德邻兄，此次徐州出战，兄曾劝我休往，未听兄语，遭此大败，我反复思量，为党国大局，我决定下野也。”
李宗仁虽内心希望蒋下野，可突然听到蒋之语，心头不由一震，不知蒋这葫芦里卖的是甚药。遂说道：“胜败乃兵家常事，蒋公何因此一败而一定要下野呢？”
蒋又长叹一声说：“德邻，其中情形复杂的很那，武汉方面是一定要我下野的，我下野就是了。”
李宗仁道：“当此军情紧急之时，总司令如此做法，是千万使不得的。目下津浦路战事我方一再失利，你若下野，岂不动摇军心和民心么？”稍停，李宗仁又继续说道：“至于武汉方面，原来要你下野，是共产党作祟，如今武汉也已经反共，且叶、贺在南昌发难。就反共立场而言，双方已殊途同归，当应捐除成见，既往不咎，恢复合作，共同北伐，统一中国才是。”
蒋介石又摇摇手，重复前语道：“时局纷扰，内部情形复杂的很，我以为对同志应退让，对敌人须坚持，而汪某乃异是，所以，我是一定要退了。”
李宗仁道：“蒋公是否派员去武汉疏通，多说些好话，我也派人从中斡旋，以免同室操戈，为敌所乘。”
蒋介石道：“德邻，我决心已下。”说着，拿出一张拟好的文稿，道：“这是我下野的通电稿。”
李宗仁接过电稿略看了一眼道：“现在津浦敌情严重，旦夕之间即可达浦口，威胁首都，武汉方面又派兵东进，如何布置江防，实为当务之急，你无论如何要顾全大局，不要下野。”蒋氏毫无改口之意，一字一句地说：“我下野之后，军事方面，你和健生、敬之三人，足以对付孙传芳，而武汉方面的军事压力，也立时可以缓解。”李宗仁还要开口，蒋介石把手一抬，道：“吾意已决，德邻不必再讲。”
有人会问，蒋介石在政治舞台上惨淡经营多年，用尽纵横捭阖之手段，并已登上了国民党最高统治者的宝座，他如何甘心下野？其实，蒋氏的下野实为“以退为进”之策。蒋介石分析了当时国内、军内、党内等各方势力，看到他若恋权不放，就会成为众矢之的；他一走，就可避开攻击的锋芒，观战局外，让宁汉两派去互相争吵，他可待机而起，坐收渔利。蒋氏内心的这些想法，外人自然不得而知。
8月12日，蒋介石在南京国民党中央党部召开军事会议，其坦然地说道：“诸位同志，我既将离开大家出国，到何处去，尚没决定，以后大家的一切行动都要听中央的。”
这天，所有在宁的师长都参加了，听了蒋氏之语，都立感吃惊，会场上一阵沉默。蒋氏环视了一下会场，又道：“我此次离开大家出国，是党中央的决定，全党同志，都要听中央的。”
此时，蒋氏的亲信对其下野之举深为意外，一时间都有冷水浇背之感。白崇禧道：“我们北伐之目的，是要打倒北洋军阀，而今，宁汉双方不合，汉方竟出兵征讨蒋先生，我想，我们与武汉方面终是兄弟间的意气之争，这种争端，总有一天会解决的，我们若一定要放弃打倒的敌人而从事兄弟院墙之斗，恐怕国人不会谅解。”白崇禧看了看众人，又道：“所以，我同意蒋先生出国休息一些时间，使武汉方面失去东征的借口，免去一场政治上的大风浪。”
白崇禧说完，东路军总指挥兼第一军军长何应钦道：“我同意总指挥出洋休息的意见。”接着，李宗仁、李济深等都表了态，亦同意蒋氏下野出洋。这天，到会的约百余人，竟有三分之二的人持同意意见。蒋氏表面上态度坦然，内心中却更明白了桂系同己已经是两层皮，如今要借武汉之力而对己“逼宫”了。但他把这口气闷在肚子里，面上却微笑着说道：“好好，我是一定要休息了！”
蒋氏的话音还没落，其亲信、师长刘峙猛然立起，大呼道：“总司令不能离开！”又道：“当前北伐正在进行，胜负在关键时刻，总司令此时离开，岂不是群龙无首么？我们恳请总司令留下，要求党中央改变决定！”
刘峙的发言，引起了蒋的亲信纷纷表态，要求蒋留下。会议气氛甚为紧张。这时候，蒋介石站起身，面部表情却依然很平静，说道：“大家都不要讲了，党中央做了这样的决定，我也下了这样的决心，只希望大家坚决听党中央的命令，安心工作，把队伍带好。”
会就这样散了。蒋介石回到了丁家花园的宫邸。顾祝同、蒋鼎文、刘峙、钱大钧、谭曙卿等蒋的文臣武将，都来探望。蒋对这些人一一做了安慰，不在话下。
次日，蒋介石发表下野宣言。称：
余自受命党国，出师北伐，已兹一年。环顾四周情况，党国呈分裂之兆，人民穷困。国民之大业，荏苒不见发展。推其原因，实共产党之阴谋所致。然武汉同志等不查真因，诽谤集余一人。余之存在既非党之利益，故余毫不踌躇，即刻下野。
共产党与鲍罗廷危害国民党，妨害国民革命之阴谋行动，不遑胜举。故余一向即极力主张驱逐鲍罗廷及与共产党分离。此次余所主张，已在武汉实行。且此为国民党生存之上必须条件，己有明证，不胜欢喜。
闻武汉同志不克来宁，系因余在宁之故，余既为吾党不惜生命，更何恋此地位？惟值此下野之际，为完成北伐与建国二使命起见，中正于此敢掬诚宣告其最后之愿望三事：
一、武汉同志速来南京，共筹党国大计；
二、分驻湖南、湖北、江西各地之武装同志与津浦沿线军队互为呼应，继续北伐；
三、要求湘、鄂、赣诸省彻底清党。
上列事项被实现时，共产党之捣乱，军阀之跋扈，帝国列强之横暴，均将绝迹，全国统一将予于实现。
蒋介石的下野，引起了武汉国民政府的极大欢悦。汪精卫、唐生智把蒋氏的下野看成了革命的佳音。8月15日，武汉报纸刊登文章，曰《蒋介石离宁的重大意义》，文中称蒋氏离开南京是武汉政府数月来艰苦奋斗的党权运动的战绩。
冯玉祥闻知蒋介石下野，当即抱怨宁、汉双方，遂发电云：
“北伐吃紧之时，乃党国要人不以国家民众为前提，精诚团结，一致对外，顾斤斤焉，而操同室之戈，徒使敌人张目，能不令人失望耶？当从速召开二届四中全会，以决大计。”
冯玉祥的电报到了南京，胡汉民、吴稚晖等“长衫佬”便借着冯的招牌，召开了会议。到会的是国民党的元老及高级将领，有白崇禧、何应钦、李宗仁、古应芬、邹鲁、吴稚晖、李石曾、张静江、蔡元培、顾孟余、何成浚、胡汉民等等共二十几位。吴稚晖第一个开的口，大意不外乎正在北伐，蒋氏不可以辞职，此举当使亲者痛仇者快，吴的话音没落，古应芬反驳道：“蒋先生自任总司令以来，错误种种，目空一切，专横自恣，独揽军政大权，这样下去，于国于军皆不利。”
方说完，何应钦站起来道：“蒋是自己要走的，他走得好。他走后咱们可以爱一爱国家了。”
白崇禧也站起来说：“革命是大家的事，不是他一个人的事，他走了很好，以后有事，可以大家商量。”
三个人这么一发言，会场上的气氛立时紧张起来。吴稚晖还要开口，李石曾从背后伸出手拉了他一把，嘴对着他自乐说道：“这是兵变，你不要老命啦！”李石曾这番话，吓得吴稚晖不敢再多说了。
蒋介石宣布下野当天，国民党元老吴稚晖、张静江、胡汉民、蔡元培、李石曾五人也宣布离职。晚上，蒋氏乘花车起程抵上海。到火车站送行的人不多。只有副官处长胡承祜、参谋处长陈焯、交通处长陆福庭。总司令部其他人没来，高级将领和中央要人均没来。蒋氏身边的人看到如此清冷的场面，想起4月间蒋氏到南京时受到的盛大欢迎，同是一地，同是一人，时仅数月，只因台上台下之别，情热两样，大家无不感慨人情冷暖，世态炎凉。
