1934年，蔡元培发表文章，谈到他过去任北京大学校长的经历：
《我在北京大学的经历》
我回来，初到上海，友人中劝不必就职的颇多，说北大太腐败，进去了，若不能整顿，反于自己的声名有碍。这当然是出于爱我的意思。但也有少数的说，既然知道他腐败，更应进去整顿，就是失败，也算尽了心。这也是爱人以德的说法。我到底服从后说，进北京。
1916年，蔡元培从法国回国，被委以北大校长重任，旁人告诉他北大太腐败，劝他不要当这个校长，可蔡元培认为“既然知道他腐败，更应进去整顿，就是失败，也算尽了心”，抱着“明知山有虎，偏向虎山行”的达观心态，做起了北大校长。
蔡元培开始对北大进行改革，措施如下：
改革学生的观念。蔡元培说学生平时对学问没兴会，平日“或瞌睡，或看看杂书”，为了对付考试，“连夜阅读讲义”，或等教师透露题目，这类情形的描写，生动极了，对于今天的学子也有极大地讽刺。而教师们也只是照本宣科、读讲义而已。为了让学生打破这些习惯，认识到“当以研究学术为天职，不当以大学为升官发财之阶梯”，蔡元培选择从“聘请积学而热心的教员著手”，“旧学邃密”而且“新知深沈”的胡适，便是其中一位。蔡元培对陈独秀“本来有一种不忘的印象”，选他任文科学长。在辞退不得力的外国教师时，蔡元培曾遭到英国驻华公使朱尔典的威胁，他“一笑置之”。
蔡元培的学术观点充满自由、开放的态度，他认为不同的主张，“言之成理、持之有故”即可，可以很好并存，“令学生有自由选择的余地”。以当时对立的白话文和文言文为例子，胡适之与钱玄同提倡白话文，而刘申叔、黄季刚等主张文言文，蔡元培则支持两者并存。
打破不同学校间的界限，通盘考虑，如“把土木工与矿冶工并到北洋”等举措。
蔡元培任北大校长期间，常有学生运动，蔡元培“以为学生在学校里面，应以求学为最大目的，不应有何等政治的组织”，力阻北大学生，蔡元培也一度准备“引咎辞职”。1919年5月4日，学生主张拒绝在巴黎和约上签字、要求罢免亲日派的曹汝霖、陆宗舆和章宗祥的，蔡元培不再阻止，学生烧了曹汝霖的住宅，攒殴章宗祥，多人被逮捕，经蔡元培与各专门学校的校长向警厅力保才被释放。