蔡元培的兼容并包是北大最重要的思想资源，他说：“大学之大，因其无所不包，各种言论思想均可自由，但亦不必出于互相诟骂。如各有主张，尽可各自鼓吹自己主张之长处，不必攻击或排斥他种主张。”
由于重视延聘选拔有真才实学的各方面人才，容纳各种学术和思想流派，使北大的教员队伍发生了很大变化。一时北大人才济济，学校面貌为之一新。据1918年初的统计，全校共有教授90人，从其中76人的年龄看，35岁以下者共43人，占57％，50岁以上者仅6人，占8％。最年轻的文科教授徐宝璜仅25岁，其他如胡适、刘半农等也都是二十七、八岁的青年。蔡元培出任校长时也只有50岁，教授平均年龄仅30多岁。而这时北大本科学生的平均年龄为24岁。
1917年，蔡元培采用“思想自由，兼容并包”的办学方针，实行“教授治校”的制度，提倡学术民主，支持新文化运动。蔡元培任北大校长时，北大国文科只有经史子集，外国文只有英文，教员只有旧的几个人。蔡元培于旧人旧科目之外，加了戏曲和小说，章太炎的弟子黄季刚，洪宪的刘申叔，尊王的辜鸿铭之外，加添了陈独秀、胡适之、刘半农一班人，英文之外也添了法文、德文和俄文了。于是，北大有了主张新文化运动的领袖人物胡适、陈独秀、鲁迅等人；有复辟派、主张恢复帝制，拥护袁世凯做皇帝的急先锋辜鸿铭、刘师培等……；有最早把共产主义介绍给中国的李大钊、也有最早介绍无政府主义的李曾石、还有最早介绍爱因斯坦相对论的夏元瑮……；此外他还启用了钱玄同、俞同奎、沈尹默等一批老北大的老人，更启用了只有二十三、四岁的梁漱溟等一批年轻人……，还请来了刚从欧洲回来的女教授陈衡哲先生、聘用了数学系老教授冯祖荀，外籍教授、地质系的葛利普等，还有画家徐悲鸿。
蔡元培初到北大，进行改革，学校里的旧学者极其不满。北大最初开讲元曲，有人便造谣说在教室里唱起戏文来了，又因提倡白话文的缘故，又有人说用《金瓶梅》当教科书了。有些守旧学者更是直接在课堂中开骂。周作人就曾写到当时情形：“别的人还隐藏一点，黄季刚最大胆，往往昌言不讳。他骂一般新的教员附和蔡孑民，说他们‘曲学阿世’，所以后来滑稽的人便给蔡孑民起了一个绰号叫做‘世’，如去校长室一趟，自称去‘阿世’去。知道这个名称，而且常常使用的，有马幼渔、钱玄同、刘半农诸人，鲁迅也是其中之一，往往见诸书简中，（注：五四之后，蔡元培辞职，不久又回京主校。鲁迅对此甚为关切，在给友人的信中写道：“听说‘世’有可来消息，真的吗？”）成为一个典故。
当时的报纸上反响亦大，上海研究系的《时事新报》开始攻击，北京安福系的《公言报》更加猛攻，由林琴南出头，写公开信给蔡元培，说学校里提倡非孝，要求斥逐陈胡诸人。蔡答信说，《新青年》并未非孝，即使有此主张，也是私人的意见，只要在大学里不来宣传，也无法干涉。林氏老羞成怒，大有借当时实力派徐树铮的势力来加压迫之势，在这时期五四风潮勃发，政府忙于应付大事，学校的新旧冲突总算幸而免了。”
林纾等人公开向蔡元培的改革责难。因为陈独秀的言论最为激烈，所受的攻击也最惨酷。守旧派在思想观念上攻不倒陈独秀，便在陈的狎妓、“打场”（即与人同争一妓而生纠纷）一事上大做文章。周作人在《知堂回想录》中曾说到，那时“北京御用报纸经常攻击仲甫，以彼不谨细行，常作狭斜之游，故报上记载时加渲染，说某日因争风抓伤某妓下部，欲以激起舆论，因北大那时有进德会不嫖不赌不娶妾之禁约也。”对指向陈独秀的此种攻击，蔡元培本也是尽力回护的。在回复林纾的公开信中，蔡元培说：“对于教员，以学诣为主，以无背于第一种之主张（按指学术自由、兼容并包）为界限，其在校外之言动，悉听自由，本校从不过问，亦不能代负责任。例如复辟主义，民国所排斥也，本校教员中有拖长辫而持复辟论者，以其所授为英国文学，与政治无涉，则听之。筹安会之发起人，清议所指罪人者也，本校教员中有其人，以其所授为古代文学，与政治无涉，则听之。嫖赌娶妾等事，本校进德会所戒也，教员中间有喜作侧艳之诗词，以纳妾挟妓为韵事，以赌为消遣者，苟其功课不荒，并不诱使学生而与之堕落，则姑听之。夫人才至为难得，若求全责备，则学校殆难成立。且公私之间，自有天然界限。”这里，“拖长辫而持复辟论者”指辜鸿铭，“筹安会发起人”指刘师培，二者都是北大校园内守旧派的代表性人物，蔡元培举出此二人来抵挡林纾等人对陈独秀私德的攻击，是很巧妙的。
1917年，辜鸿铭踊跃参与“张勋复辟”，被封为“外务部侍郎”，12天后复辟失败，辜鸿铭只好又回到北京大学教他的英文，不过等待他的却是激进的师生们送给他的一顶“复辟论者”的帽子。为了避免政治上的攻伐，校长蔡元培不得不公开发表言论为他辩护：“本校教员中，有拖长辫持复辟论者，以其所授为英国文学，与政治无涉，则听之。”
刘师培在辛亥前就投靠端方，叛变革命，甘愿充当奸细，出卖同志。蔡元培惜其才，极力为之辩护：“刘申叔，弟与交契颇久，其人确是老实，确是书呆！”后刘师培又襄助洪宪帝制，为时人不齿，但蔡元培仍延请他在北大教书。
蔡元培看到《新青年》，非常喜欢，第二天一早就去拜访陈独秀。陈贪睡，蔡元培就在门口一直等他醒来，当即聘他为文科学长。黄侃、马裕藻很不高兴，抱怨道：“陈独秀不过能写点笔记文，怎么能作文科学长。”蔡元培说：“仲甫精通训诂音韵之学，如何做不得学长？”
上海的庄森先生发表了一篇文章，题目叫《蔡元培为陈独秀编造假履历》。内容说，蔡元培（孓民）校长为了使当时的教育部批准陈独秀出任北京大学文科学长，造假说陈独秀曾毕业于日本大学，曾在安徽高等学校担任校长。实际上，陈独秀虽然多次到日本，但并未进大学，也没有当过安徽高等学校校长。
蔡元培看到梁漱溟一篇文章而决定聘其做北京大学印度哲学讲席，梁漱溟辞以对印度哲学实无所知。蔡说：“你说你教不了印度哲学，那么，你知有谁能教印度哲学呢？”又说，“我们亦没有寻到真能教印度哲学的人。横竖彼此都差不多，还是你来吧！你不是爱好哲学吗？我此番到北大，定要把许多爱好哲学的朋友都聚拢来，共同研究，互相切磋；你怎可不来呢？你不要当是老师来教人，你当是来合作研究，来学习好了。”
蔡元培曾用“万物并育而不相害，道并行而不相悖”的观点，来解释他的“思想自由、兼收并蓄”的主张。“我素信学术上的派别，是相对的，不是绝对的；所以每一种学科的教员，即使主张不同，若都是‘言之成理、持之有故’的，就让他们并存，令学生有自由选择的余地。”所以在当时的北大，人们常常可以见到钱玄同大讲“人过了40就要枪毙”，黄侃则在隔壁大骂他“要取消汉字”的谬论，而钱玄同也不在乎，照讲不误。
蔡元培先生一到北大，就请全国侧目的提倡新文化运动的陈独秀作文科学长。这种安排，震撼了当时的学术界和教育界，得到学生的欢呼拥护。李大钊、李四光、胡适，都是蔡先生请来的。章士钊创立逻辑的学名，北大就请他用《逻辑》开课；胡适和梁漱溟对孔子的看法不同，蔡先生就请他们同时各开一课，唱对台戏。1917年以后的几年里，北大30岁左右的青年教授相当多，其中不少人和蔡先生并不相识，而是从科学论文中发现请来的。
1919年，北大决定取消文、理学长，改设教务长统管文、理、法三科。北大当时以文、理科的教授力量较强，双方对此职务都志在必得，文科的胡适甚至毛遂自荐，结果遭到理科的强烈反对。最后经过商量，决定由各科先推出一名候选人，然后三选一。理科推选的是俞同奎，文科推选的是陈大齐，法科推选的是马寅初。结果，蔡元培为了避免文理之争，投了马寅初一票，马寅初因此当选。
蔡先生延请天下俊彦到北大讲学。1919年5月起，哲学家杜威在此讲学两年。之后，罗素、班乐卫、杜里舒、泰戈尔等相继来校。前苏联盲诗人爱罗先坷被日本政府驱逐出境，于1922年春到北京。蔡先生便请他到北大教世界语，月薪200元。
1921年3月16日，蔡先生在德国当面邀请爱因斯坦访问中国，爱因斯坦表示将做认真安排。次年6月，爱因斯坦去日本讲学并决定前往中国，但尚需一封中国方面的正式邀请信。但在日本等了五个星期，不见中国回复，遂以为北大不想践约。其实，蔡先生正为一封各团体联名邀请函征求意见，只因文件往返耗时过多，待爱因斯坦收到信件已是年底的12月22日，他已改变行程而不能访问中国了。对于北京之行的失之交臂，爱因斯坦扼腕痛惜，久久不能自己。直到临终，老人还一往情深地说：“20世纪是中国的世纪，因为世界必将从重新认识中国开始，而重新认识中国则必先从重新认识中国的哲学开始。”
蔡元培顶住了旧势力攻击所谓“覆孔孟”、“铲伦常”所带来的巨大压力，勇敢地保护了陈独秀等新派诸人。梁漱溟说：“所有陈、胡以及各位先生任何一人的工作，蔡先生皆未必能作；然他们诸位若没有蔡先生，却不得聚拢在北大，更不得机会发舒。聚拢起来而且使其各得发舒，这毕竟是蔡先生独有的伟大。”