完成迎袁專使的使命后，蔡元培回到南京，回到了他熱愛的教育事業的任上。

南京政府建立后，所有與新政府有關的人紛紛跑來，找關系托人情，想謀個一官半職。蔡元培北上迎袁期間，教育部的次長景耀月代理部務。景耀月是同盟會員，平日里熱衷黨務，對教育很少過問。

此人有封建的打江山坐江山的思想。所謂有權不用過期作廢，趁總長不在，他私自開列了七十多個人的名單，分別冠以司長、科長、秘書的職務，報請總統府頒發委任狀。名單上的人多和他有私交，但是跟教育行當沒什么關系。

蔡元培回來后，馬上發現了這一情況。他耐心地同景耀月講，這樣做的話，真正的教育專家就被排斥在教育部外了。而且如果下一任部長對這些人事不滿意，一概革除，反而讓這些人難堪。蔡元培入情入理地做了一番工作之后，總統府又將這批委任申請退還了教育部。

1912年3月底，唐紹儀內閣成立，蔡元培留任教育總長。

民國定都北京后，1912年4月26日，蔡元培領銜的新的教育部接手原清廷的學部。蔡元培給部員們講了一番話“前清辦學之種種靡費，其細情不外奢、縱二字……國家無論如何支絀，教育費萬難減少。無已，惟有力行節儉，以為全國倡。”

在人事安排上，蔡元培力邀非同盟會派系的共和黨人、曾在清末擔任學部參事的教育家范源濂做了教育部的次長。

他兩次登門，誠懇地對范源濂說“現在是國家教育創制的開始，要撇開個人的偏見，黨派的立場，給教育立一個統一的智慧的百年大計……教育是應當立在政潮外邊的。我請出一位異黨的次長，在國民黨里邊并不是沒有反對的意見；但是我為了公忠體國，使教育部有全國代表性，是不管這種反對意見的。聽說你們黨里也有其他看法，勸告你不要自低身份，給異黨、給老蔡撐腰；可是，這不是為國民黨或我個人撐腰，乃是為國家撐腰。我之敢于向你提出這個請求，是相信您會看重國家的利益超過了黨派的利益和個人的得失以上的。”

范源濂為蔡元培的真誠和以民國教育為重的精神所動，不顧他所在的共和黨的反對，接受了蔡元培的邀請。事實證明，他們的合作是成功的。后來，范源濂在蔡元培去職后任教育部長，力邀蔡元培擔任北大的校長。

新建的教育部有部員七十余人，差不多都是蔡元培、范源濂二人推薦。蔡推薦的多為歐美及日本的留學生，范提名者，大多富有教育管理經驗。

如蔡元培“自述”所說民國“元年我在教育部時，請范君靜生相助，我偏于理想，范君注重實際，以他所長，補我之短”。

有了儒雅的蔡元培做首腦，民初的教育部內上下融洽，全無暮氣。

乃至于魯迅后來曾說出“說起民元的事來……當時我也在南京教育部，覺得中國將來很有希望”這樣的話來。

范源濂也這樣憶及當年在教育部與蔡元培共事的情景，“在我們合作期間，部里的人都是知無不言，言無不盡，討論很多，卻沒有久懸不決的事。一經決定，立刻執行。所以期間很短，辦的事很多”。

4月底，蔡元培在與部員談話中提出鑒于目前各校程度參差不齊和請末辦學的“奢、縱”之弊，“擬將中學以上官、公、私立學校，嚴加歸并，淘汰冗員，嚴定章程，以便早日開學。”表達了其整頓教育的決心。

5月初，他通令將北京大學堂易名為北京大學校，提名啟蒙思想家嚴復出任校長。

接下來，他在參議院發表施政演說時明確表示總長之職“既勉強擔任，斷不敢存五日京兆之心”，就教育方針、設施、行政權限、派遣留學生及少數民族教育等問題發表了意見。特別強調“在普通教育，務順應時勢，養成共和國民健全之人格；在專門教育，務養成學問神