自东汉末建安元年(公元196年)曹操迁献帝于许昌，到隋文帝开皇九年(公元589年)，历时394年，史称魏晋南北朝时期。其间历经魏、晋、南朝(宋、齐、梁、陈)和北朝(北魏、北齐、北周)，是我国历史由统一转为分裂和长期战乱的时期。长期的动乱影响了学校的正常秩序，这个时期学校废置无常，特别是官学，在数量上大大减少了，学校教育总的趋势是衰落了，呈现出时兴时废的状态。但也出现了一些新型的学校。
西晋以前魏国曾立过太学，魏文帝于黄初五年(公元224年)于洛阳正式恢复太学。学制仍沿用汉代旧制。但由于三国纷争，太学生多半是为了逃避兵役，学业水平较低，百人应试能通过的不过10人。
西晋创立国子学是在晋武帝咸宁四年(公元278年)，并设国子祭酒、博士各一人，教授学生。惠帝元康三年(公元293年)，明确规定官至五品以上弟子许入国子学，而太学则成为六品以下子弟的求学之所。这是我国古代于太学之外专为士族子弟另设国子学之始，也是门阀世族阶层所享有的政治特权在学校教育制度上的反映。这种国子学与太学的分立，直接影响了南北朝以后的学校教育制度。
北魏由于政局相对稳定，因此学校教育比南朝发达。北魏重经学，设有国子学、太学，创立四门小学，又开皇亲之学。北魏孝文帝仰慕汉族文化，励行汉化。太和十七年(公元493年)由平城(今山西大同)迁都洛阳以后，更加快了汉化速度，如下令禁穿胡服，改用汉语。还将自己的姓也改为汉姓元氏，并主张与汉族通婚。这些措施促进了教育的发展，在民族融合中起了积极作用。在地方普遍建立郡国学校教育制度为北魏所首创。其方法是，按郡的大小具体规定博士、助教及学生的名额：大郡立博士二人，助教四人，学生100人；次郡立博士二人，助教二人，学生80人；中郡立博士一人，助教二人，学生60人；下郡立博士一人，助教一人，学生40人。并规定博士要博通经典，道德高尚，年龄40岁以上者。而学生则要“先进高门，次及中第”，即先招收富贵人家的子弟，让贵族享有特权。
在秦汉时已有郡国学校，西汉平帝时曾命令郡国普遍设立学官，但郡国学校教育制度则是创始于北魏。
三国魏明帝时(公元227年)，卫凯奏请置律博士，教授刑律，招收律学弟子员，这是我国古代法律专科学校的开始。后秦姚兴(公元394年)在长安设律学，召集各郡县没有任专职的官员来学习，选成绩优良的回到郡县任狱讼官。南朝梁武帝天监四年(公元505年)也增设“律博士”，设置律学专门学校。
西晋武帝时立书博士，设弟子员，教习书法，以钟繇〔you 由〕、胡昭二人为标准。这是我国古代书法专科学校的开始。
南朝宋文帝元嘉十五年(公元438年)开办了儒、玄、史、文四个学馆，就是说，这时候研究儒经的“儒学”、研究佛老的“玄学”、研究历史的“史学”、研究词章的“文学”四科并立。虽然这些学校存在的时间并不长，但这种分科的教学制度，对于隋唐时代专科学校的发展是有直接影响的，也可以说这是后代分科大学的开端。
南朝宋文帝元嘉二十年(公元443年)开始设医学。北魏时也设太医博士及助教教授弟子。这是我国古代医学专科学校的开端。
以上这些说明我国古代专科学校已处于萌芽阶段，对于以后专科学校及分科教授制度的发展是有影响的。也表明“儒学独尊”逐渐为“儒佛道”并行的局面所代替；科学技术的传授开始在学校教育中取得了一定的地位。
魏晋南北朝时期官学衰颓，私学却呈现繁荣局面，名儒聚徒讲学仍占重要地位，学生人数上百人或几千人者屡见不鲜。在南朝影响比较大的是齐朝的刘瓛〔huan还〕。刘瓛名气很大，著名神灭论者范缜(约公元450—约515年)就是他的学生。梁武帝时有五个学馆开设，教授儒经，这是私学发展的典型。当时以在潮州的严植之最为有名。他很善于讲经，层次分明，说理清晰，每次他讲课，五馆学生都来听，学生常达千余人。还真有一番盛况呢！
儒学、玄学、佛学、道教的结合，是这个时期私人讲学的特色。如陈朝的徐孝克既讲玄理，又通五经，他每日早讲佛经，晚讲《礼》经与《左传》，受业者达数百人。讲学的形式受到佛教和玄学的影响，梁朝时盛行登讲座讲经，听讲人数有时多到千余人。梁朝、陈朝时讲学有时在宫殿，有时在寺院。据记载，陈后主曾命儒学大师张讥在温文殿讲《老子》、《庄子》；后来陈后主到开善寺，又令张讥讲学，从臣们坐在佛寺西南的松林下陪同陈后主一起听讲。陇西人王嘉不和世人交游，凿崖穴居，弟子受业者数百人，亦皆穴处。泰山张忠，“其教以形不以言”，弟子主要观看他修养导气的形态功夫，他不讲授课业，这是道教的教育方法，从这里也可以看出古代气功教育还很盛行。
科技教育也是当时私学的重要内容。如教授天文学、算学、医学、药物学，教学方法也有改进。南朝的王微深入研究本草，常带两三位学生去采摘草药，并亲自尝试以验证《本草》的可信程度。他继承了我国古代的医药学在采摘草药工作中重视实践的传统。亲带弟子摘采并尝试草药，这可以说是一种很好的教育方式。
这时期也出现了妇女讲学，如韦逞母亲宋氏继承家学《周官》音义，在战乱中教学不辍。后来韦逞担任前秦苻坚的太常官时，在家中为宋氏设立讲堂，教授学生120人。宋氏隔绛纱幔而讲授，号宣文君。更引人注目的是，在南朝已有被任命为博士的妇女，如吴郡(今江苏苏州)韩蔺英擅长文辞，宋武帝时她献《中兴赋》，受赏入宫，齐武帝时命她为博士，教六宫书学，当时人们尊称她为“韩公”。陈后主时，也曾命懂文学的宫人袁大舍等人为女学士，这也是很有意义的事。南齐博学有文才的王融，少儿时代是由母亲谢惠宣女直接教授成才的。《元嘉历》的创造者何承天，幼年丧父，也是由他博学的母亲徐氏进行启蒙教育后成才的。
这一时期的童蒙读物也有所发展。范岫〔xiu秀〕著《字训》，王褒所写的《幼训》，已具有童蒙课本的性质。梁武帝时周兴嗣所撰的《千字文》拓取王羲之遗书不同的字1000个，编为四言韵语，以“天地玄黄，宇宙洪荒”开头，依次叙述有关天文、博物、历史、人伦、教育、生活等方面的知识，是以识字教育为主兼有封建思想教育和常识教育的综合性课本。《千字文》自隋代开始，一直流行到20世纪初，是中国历史上流传最久的蒙学课本之一。它在内容上，把常用单字组织成通顺的能够表达一定意义的句子，在语言上，押韵自然，结构简单，易于朗读背诵，所以有人说《千字文》“不独以文传，而又以其巧传”，独具匠心。