完成迎袁专使的使命后，蔡元培回到南京，回到了他热爱的教育事业的任上。
南京政府建立后，所有与新政府有关的人纷纷跑来，找关系托人情，想谋个一官半职。蔡元培北上迎袁期间，教育部的次长景耀月代理部务。景耀月是同盟会员，平日里热衷党务，对教育很少过问。
此人有打江山坐江山的思想，所谓有权不用过期作废，趁总长不在，他私自开列了七十多个人的名单，分别冠以司长、科长、秘书的职务，报请总统府颁发委任状。名单上的人多和他有私交，但是跟教育行当没什么关系。
蔡元培回来后，马上发现了这一情况。他耐心地同景耀月讲，这样做的话，真正的教育专家就被排斥在教育部外了。而且如果下一任部长对这些人事不满意，一概革除，反而让这些人难堪。蔡元培入情入理地做了一番工作之后，总统府又将这批委任申请退还了教育部。
1912年3月底，唐绍仪内阁成立，蔡元培留任教育总长。
民国定都北京后，1912年4月26日，蔡元培领衔的新的教育部接手原清廷的学部。蔡元培给部员们讲了一番话：“前清办学之种种靡费，其细情不外奢、纵二字国家无论如何支绌，教育费万难减少。无已，惟有力行节俭，以为全国倡。”
在人事安排上，蔡元培力邀非同盟会派系的共和党人、曾在清末担任学部参事的教育家范源濂做了教育部的次长。
他两次登门，诚恳地对范源濂说：“现在是国家教育创制的开始，要撇开个人的偏见，党派的立场，给教育立一个统一的智慧的百年大计教育是应当立在政潮外边的。我请出一位异党的次长，在国民党里边并不是没有反对的意见；但是我为了公忠体国，使教育部有全国代表性，是不管这种反对意见的。听说你们党里也有其他看法，劝告你不要自低身份，给异党、给老蔡撑腰；可是，这不是为国民党或我个人撑腰，乃是为国家撑腰。我之敢于向你提出这个请求，是相信您会看重国家的利益超过了党派的利益和个人的得失以上的。”
范源濂为蔡元培的真诚和以民国教育为重的精神所动，不顾他所在的共和党的反对，接受了蔡元培的邀请。事实证明，他们的合作是成功的。后来，范源濂在蔡元培去职后任教育部长，力邀蔡元培担任北大的校长。
新建的教育部有部员七十余人，差不多都是蔡元培、范源濂二人推荐。蔡推荐的多为欧美及日本的留学生，范提名者，大多富有教育管理经验。
如蔡元培“自述”所说：民国“元年我在教育部时，请范君静生相助，我偏于理想，范君注重实际，以他所长，补我之短”。
有了儒雅的蔡元培做首脑，民初的教育部内上下融洽，全无暮气。
乃至于鲁迅后来曾说出“说起民元的事来当时我也在南京教育部，觉得中国将来很有希望”这样的话来。
范源濂也这样忆及当年在教育部与蔡元培共事的情景，“在我们合作期间，部里的人都是知无不言，言无不尽，讨论很多，却没有久悬不决的事。一经决定，立刻执行。所以期间很短，办的事很多”。
4月底，他在于部员谈话中提出：鉴于目前各校程度参差不齐和请末办学的“奢、纵”之弊，“拟将中学以上官、公、私立学校，严加归并，淘汰冗员，严定章程，以便早日开学。”表达了其整顿教育的决心。
5月初，他通令将北京大学堂易名为北京大学校，提名启蒙思想家严复出任校长。
接下来，他在参议院发表施政演说时明确表示：总长之职“既勉强担任，断不敢存五日京兆之心”，就教育方针、设施、行政权限、派遣留学生及少数民族教育等问题发表了意见。特别强调：“在普通教育，务顺应时势，养成共和国民健全之人格；在专门教育，务养成学问神圣之风气。”
毫无疑问，这充分表达了蔡元培投身教育的理想和信念。
1912年7月10日，当时的中华民国教育部，发起召开了有各地教育专家参加的，全国教育临时会议。
蔡元培在大会的开幕词中言道：“今日之临时教育会议，即中华民国成立以后第一次之中央教育会议。此次会议，关系甚为重大，因有此次会议，而将来之正式中央教育会议，即以此次会议为托始。且中国政体既然更新，即社会上一般思想，亦随之改革；此次教育会议，即是全国教育改革的as。此次议决事件，如果能件件实行，固为重要关系；即使间有不能实行者，然为本会已经议决之案，将来亦必有影响。诸君有远来者，即或在近处者，亦是拨冗而来，均以此次会议系重大之故。
“民国教育与君主时代之教育，其不同之点何在？君主时代之教育方针，不从受教育者本体上着想，用一个人主义或用一部分人主义，利用一种方法，驱使受教育者迁就他之主义。民国教育方针，应从受教育者本体上着想，有如何能力，方能尽如何责任；受如何教育，始能具如何能力。从前瑞士教育家沛斯泰洛齐有言：昔之教育，使儿童受教于成人；今之教育，乃使成人受教于儿童。何谓成人受教于儿童？谓成人不敢自存成见，立于儿童之地位而体验之，以定教育之方法。民国之教育亦然。
“君主时代之教育，不外利己主义。君主或少数人结合之政府，以其利己主义为目的物，乃揣摩国民之利己心，以一种方法投合之，引以迁就于君主或政府之主义。如前清时代承科举余习，奖励出身，为驱诱学生之计；而其目的，在使受教育者皆富于服从心、保守心，易受政府驾驭。现在此种主义，已不合用，须立于国民之地位，而体验其在世界、在社会有何等责任，应受何种教育。”
一句“全国教育改革的as”，可谓让全体参会人员激情洋溢、热血沸腾。
在这次会议上，蔡元培将事先起草的四十余项提案逐一交由会议讨论，这些议案，凝聚着蔡元培和教育部同事的心血，设计了和规定了新教育的体制和细则，从而构建了后来实行十年之久的“壬子癸丑学制”的基本内容
与会者们进行认真的讨论和修改，从而形成了中华民国新的教育宗旨：“注重道德教育，以实利教育、军国民教育辅之，更以美感教育完成其道德。”这基本就是蔡元培“五育主义”的翻版。
会议的最重要成果是学校系统令，因是农历壬子年颁布实行，史称壬子学制。
壬子学制规定：初等小学校学制4年，为义务教育，毕业后可入高等小学校或实业学校。高等小学校学制3年，毕业后可入中学校或师范学校、或实业学校。初小、高小均设补习班，学制2年。中学学制4年，毕业后可入大学或专门学校，或高等师范学校。师范学校本科4年，预科1年。高等师范学校本科3年，预科1年。实业学校分甲乙两类，各3年。专门学校本科34年，预科1年。大学本科34年，预科3年。
1913年是农历癸丑年，这年8月，教育部将壬子学制颁布一年来新颁布的法令、规程与壬子学制综合在一起综合，形成一个新的学制体系，称为壬子癸丑学制，颁布到全国各地教育机构施行。
壬子癸丑学制在纵向方面，明确地规定了学校教育的几个阶段，即分为三段四级。
初等教育阶段，以儿童身心发育、培养国民道德为基础，以生活所必需的知识技能的教授为宗旨，又分为两级：初等小学学制4年，为义务教育，儿童6岁入学，男女同校；高等小学3年，男女分校。
中等教育阶段一级，为中学校4年，以完成普通教育、塑造健全的国民为宗旨，并专门为女子设立女子中学校。
高等教育一级，大学以“教授高深学术，养成硕学宏材、应国家需要”为宗旨。大学分、理、法、商、医、工、农七科。大学本科34年，预科3年，预科附设于大学，不得独立设置。大学为研究学术设大学院，不定年限。
壬子癸丑学制在横向方面，分为师范教育、实业教育两个系统。
与高等小学校平行的有乙种实业学校、实业初习学校及初习科。与中学校平行的有甲种实业学校、师范学校及补习科。与大学平行的有法政、医学、药学、农业、工业、商业、商船、美术、音乐、外国语等专门学校以及高等师范学校。
该学制为参照日本明治维新后新学制拟定，废除了教育上的两性差别和满清贵胄学堂。除高师外，允许开办私立学校。
尊孔读经，千百年来成为一种神圣和至高无上的东西，与封建专制制度扭结在一起，成为中国迈入近代门槛的惰性因素。经受了欧美现代明洗礼的蔡元培，认为“尊孔与信仰自由相违背，虽然孔子和他的学说在学术上自有其价值，但后世将此演化成为儒教、孔教，定为一至尊，叫人顶礼膜拜，则极不合理。宗教信仰自由是人的三大自由之一，学校不是教堂，不能强行要求人信奉哪种宗教。
在全国教育临时会议上，蔡元培提出的学校不应拜孔子案。虽然受限于当时的大环境，蔡元培提出的学校不应拜孔子案没有在会议上通过。但毕竟明废止了在中小学一直实行的“尊孔读经”仪式，这不能不是这次会议的又一个成果。
孔孟之道的“克己”，以所谓的“义”否定“利”的义利观，和宣扬禁欲主义的佛教，和奉行蒙西九戒基督教一样，归根结底是属于维护封建专制统治的思想体系。三者在历史上，在推翻奴隶制度过程中，都曾经起到革命作用，但伴随着新时代的来临，从总体思想上毕竟成为过时的东西。新的时代讲求等价交换，注重实利讲求现实利益，也就是思想家们常说的，人们要从彼岸世界回到现实世界来，要从那些蒙蔽人们的关于未来世界的幻想中，回到现实世界。一个越是不能保障人们的利益的社会，就是越起劲的忽悠和教化人们忘掉自己、无视自己的利益。比如不合理的封建等级制度，比如上个世纪六十年代极左主义喊出的“狠斗私字一闪念”。
毫无疑问，蔡元培对尊孔读经的抵制，是顺应历史潮流的。
此次会议的多数提案形成教育政策,并且在教育实践中影响深远。一个共同的认识是：全国临时教育会议是民初教育改革的重大举措之一，为民初教育发展作出了很大贡献