下面批註得密密麻麻，一點空隙也沒有。據徐家的人說，像這樣批註過的書不止這兩部。他4年來鍥而不捨的治學精神，為以後博大精深的學問打下了基礎。
1906年，蔡元培得知北京翰林院有“公派”出國留學的機會，急忙趕到首都，但這個計劃擱淺了。蔡元培不甘心，再三聯絡，向駐德國公使孫寶琦申請，欲隨同前往德國在使館兼任“半職”差事、半日在柏林大學聽課，以遂赴歐洲留學的心願。但是公使館只應允照顧食宿，不提供職務和薪金。蔡元培透過張元濟向上海商務印書館商洽，特約蔡元培在歐洲為該館著文或編譯，以賺取留學及養家的費用。
1907年5月，39歲的蔡元培在駐德公使孫寶琦的幫助下前往德國柏林，入萊比錫大學聽課和研究心理學、美學、哲學諸學科。一面學習，一面擔任唐紹儀（後任民國政府第一任內閣總理）4個侄子的中文教師，已近不惑之年的蔡元培開始了4年海外留學的生活。在德4年，他編著了《中國倫理學史》等一批學術書籍。
蔡元培是我國第一個採取“爬格子”半工半讀方式而獲得成功的人。從1907到1915年，蔡元培旅歐留學期間，撰寫了《世界觀與人生觀》、《文明之消化》等論文，寄給商務印行的《東方雜誌》、《教育雜誌》發表，還根據在德、法進修得到的新知識，結合國情編著了《哲學大綱》、《倫理學原理》、《中國倫理學史》、《中學修身》、《藝術談概（歐洲美術小史）》等由商務印書館在上海出版。
黃炎培在《吾師蔡孑民先生哀悼辭》中有這樣一段回憶：蔡元培有一天對我說，救中國必定要從學術著手，世界學術以德國為最尊，我一定要去德國求學，所以要先去青島學習德文。以四十之齡，仍有此堅定向學之心，殊為不易。更何況是曾為翰林，任過京官的進士老爺？蔡元培在德國期間甚為刻苦，此點從他選修課程之多就可以看出。在萊比錫大學三年多的時間裡，他選課達幾十門，涉及哲學、哲學史、倫理學、心理學、文學、文化史、歐洲史、美學、美學史都有涉獵；當時的名家的課程，他都去聽。不管是談大學的獨立性，還是所謂仿照世界通例設立研究所，蔡元培或則直接引用德國為範，或則強調世界各國之通例，但其心中仍是以德國為其根本，畢竟是在那裡學習生活多年，影響深入其心其行。
1913年，因不願與袁世凱政府合作而辭職的蔡元培，再次赴法國從事學術研究，此時他已經46歲。在留歐的三年時間裡，蔡元培又編撰了不少哲學美學著作。
蔡元培提倡學習外語是從與漢語比較接近的日語開始的，以自己不會讀日文照樣能看懂日文書籍的經驗，教學生如何看懂和翻譯日文，為學生易於接受，“不數日，人人能讀日文，且有譯書者。”之後，蔡元培還和學生一起向馬相伯學習拉丁語。蔡元培主動帶頭，每天一早就從他的住宿地南洋公學中院三樓步行到徐家彙土山灣馬相伯住處，甚至有時清晨五點馬相伯還未起床就開始敲門。馬先生只好高掛“免戰”，“太早了，太早了，八九點鐘再來吧。”一時傳為佳話。
蔡元培書房中掛有自己畫像，上面題有：“其為人也，發憤忘食，樂以忘憂，亦不知老之將至。”在書桌上放有自己寫的“學不厭，教不倦”數字。
蔡元培先生年屆七十時寫的《假如我的年紀回到二十歲》一文。自述平生讀書興趣及遺憾：所以我若能回到二十歲，我一定要多學幾種外國語。自英語、義大利語而外，希臘文與梵文，�