生活費用的同時，蔡元培還要請老師為自己補習德語。蔡元培雖在青島時學過德語，但遠沒過關。德語那生疏的文法、拗口的發音對年近四十的蔡元培來說，學習起來艱難程度可以想見。

蔡元培初到德國時住在柏林，主要補習德語，為考柏林大學作準備。

1908年暑假，蔡元培便申請就讀德國最有名的柏林大學，但因不能中學畢業證書而無法注冊入學，他只好離開柏林前往萊比錫大學。沒有進入德國最有名的柏林大學當然遺憾，但萊比錫大學也屬當時的尖子大學，建于1409年，是德國最古老的大學之一，擁有哲學家和實驗心理學創始人馮特和歷史學家蘭普來西等一批一流的學者。當蔡元培來到萊比錫大學時，正是大學500年校慶的前夕，也是萊比錫大學最為輝煌的時期，學生人數達到12000人之眾。

關于這段經歷，蔡元培曾自述“我在柏林一年，每日若干時學習德語，若干時教國學，若干時為商務編書，若干時應酬同學，實苦應接不暇。德語進步甚緩，若長此因循，一無所得而歸國，豈不可惜！適同學齊君宗頤持使館介紹函向柏林大學報名，該大學非送驗中學畢業證不可，遂改往來比錫（leizig）進大學。”