盡管在思想和做法上有諸多的不同意見，但在大局上，特別是在蔣介石為首的南京國民政府成立后的最初兩年里，蔡元培在總體上，對內而言，在國民黨內部爭斗中是站在蔣介石集團一邊的，對外則是的全力支持“清黨”的。

1927年4月18日，蔣介石操縱下的南京國民政府成立。蔡元培作為國民黨中央監(jiān)察委員會代表，明確表明立場，反對當時的武漢國民政府。

6月19日至21日，他又與胡漢民、吳稚暉、張靜江等，追隨蔣介石參加與西北軍閥馮玉祥商討聯(lián)合清共的徐州會議，并在這年9月，促成了南京國民政府同武漢國民政府合并的“寧漢合流”。

當時在南京，有蔣介石控制的“國民政府”和“中央黨部”；在武漢，有汪精衛(wèi)控制的“國民政府”和“中央黨部”。另外上海和各地都有一些軍閥把持的地方政權，但是主要以南京和武漢，蔣介石和汪精衛(wèi)為主。

為了實現(xiàn)“合作清黨”、“統(tǒng)一黨務”，通過一系列醞釀和接觸，馮玉祥從中牽線，與各方反復電商，于7月20日提出解決寧、漢合作的具體辦法。汪精衛(wèi)等表示愿意“和平統(tǒng)一”，同意“遷都南京”。

蔣介石、李宗仁、胡漢民等歡迎武漢重要分子到南京“柄政”，贊成各方“共同北伐”。8月上旬，寧、漢雙方基本上達成了妥協(xié)。

在此期間，由于南京的蔣介石在爭權奪利的斗爭中處境漸顯不利，加之蔣系的國民革命軍在徐州戰(zhàn)場遭遇失敗等原因，蔣介石不得不宣布下野。

蔣介石的政治生涯中曾有三次下野，這是他的第一次下野。

蔣介石的下臺促使南京和武漢方面迅速靠攏，8月25日武漢國民政府遷往南京，南京國民政府同武漢國民政府合并。因南京簡稱“寧”，武漢簡稱“漢”，史稱“寧漢合流”。

這一期間，蔡元培繼續(xù)積極地支持蔣介石。蔣介石宣布下野后，蔡元培與胡漢民、吳稚暉等人即聯(lián)合通電，聲明與蔣介石同進退，同時辭職。

在隨后的寧漢談判中，蔡元培與蔣介石的政敵——汪精衛(wèi)針鋒相對，他聯(lián)合張靜江、李宗仁、吳稚暉、李石曾等，以中央監(jiān)察委員會的名義彈劾汪精衛(wèi)，指斥汪精衛(wèi)口是心非、阻礙清共。

蔣介石的下野當然只是一時的權宜之計，他并未失去江浙財團和國民黨黃埔系軍官的支持。

1927年12月10日，國民黨二屆四中全會上通過恢復蔣介石國民革命軍部司令的職務。身為國民黨元老的蔡元培即發(fā)表擁蔣宣言，他在南京向新聞界說，蔣介石“功在黨國，此次再任艱巨，自極贊同。余意蔣先生復職后，必能將所有軍隊凡立于鏟除共黨、打倒軍閥之旗幟者，結合為一”。

隨后，蔡元培又與國民黨軍政首領們一道去南京車站迎接蔣介石復職，并在歡迎會上發(fā)表講話稱，蔣介石“與本黨歷史甚深”，蔣的復職，“不獨北伐可以進展，而一切困難問題，亦可解決。”

那時的蔡元培，對蔣介石還是寄以厚望的。認為無論如何，只有支持蔣這樣年富力強的領導者才能完成北伐大業(yè)、進而完成統(tǒng)一中國的革命事業(yè)。

只是，隨著時間的推進，隨著蔣介石的種種卑劣行徑逐漸浮出水面，蔡元培的思想漸漸發(fā)生了變化。看來，他對蔣的認識，總是要有個過程的。

如果說，空前慘烈的清黨大捕殺，雖然沒有從根本上改變蔡元培對蔣介石的支持，但畢竟埋下了諸多芥蒂。而讓蔡元培這樣的自由知識分子，更為不滿的是蔣介石日益顯露出的獨裁傾向。漸漸地，蔡元培不再毫無保留地支持蔣介石了。

1928年9月，蔡元培以在國民黨《三民半月刊》第1卷第4期發(fā)表《三民主義的中和性》一文，告誡國民黨當局在反共的同時要謹防出現(xiàn)法西斯主義，明確提出“若口唱三民主義，而精神上不是法西斯