作为教育组织性质的书院起源于民间的私人聚书讲学活动。
私人讲学在中国有悠久的历史。从孔子首创私学，到诸子百家率徒讲学，私学大盛，奠定了私人讲学的良好基础。秦代虽明令禁私学，而事实上私人讲学禁而不止，至汉代私人讲学更蓬勃兴起，并创立了私学的高级形式——精舍、精庐。杨荣春先生在《中国封建社会教育史》一书中说：“书院是私学的高级表现形式。”陈登原先生在《中国文化史》一书中也说过：“在唐以前，私人授学之所，名曰精舍。谢承的《后汉书》云：‘陈实，字仲弓，归家立精舍讲授，诸生数百人’，‘董春，会稽余姚人。立精舍，远方门徒从学者常数百人。诸生多升讲堂，鸣鼓三通，横经捧手请问者百人，追随上堂问难者百余人’，此即书院之前身。六朝以后，此风愈盛，僧道又各有精舍，以授其徒。此盖书院之前身云。”
将汉魏以来的精舍或精庐看作是书院教育的“前身”，这是很有见地的。一方面表明了书院教育是私人讲学悠久历史传统的继承和发展；另一方面也表明了汉魏以来的精舍或精庐，只是书院教育的“前身”，还不是唐末五代以后的书院教育本身。
书院教育的本质特征是私人藏书聚徒讲学。民间或私人具备藏书条件，构成书院教育产生的前提。汉代以经术造士，大师立精舍，从学者至数千百人。正如皮锡瑞《经学历史》所言：“所以如此盛者，汉人无无师之学，训诂句读，皆由口授，非若后世之书，音训备具，可视简而诵也。书皆竹简，得之甚难，若不从师，无从写录。非若后世之书，购买极易，可兼两而载也。”这说明汉魏以来的精舍或精庐，大师私人讲学皆由口授，尚不具备藏书条件。因而，精舍或精庐还不是书院教育，尽管宋以后有些典型的书院也有以精舍命名者，那只是表明后世学者对前世传统的崇尚或追慕，而不能证明精舍或精庐已经是书院教育本身了。
唐代由于社会生产力的发展和科学技术的进步，发明了雕版印刷术，并迅速得到推广。明代学者胡应麟在《少石山房笔丛》中称：“雕版肇自隋，行于唐世，扩于五代，精于宋人。”雕版印刷术的发明，并在唐五代得以大规模推广应用，为书籍的印刷制作提供了极大的方便。印刷业的发展，书籍的质量改善，使之数量大增。除了官方藏书的丽正书院、集贤书院之外，民间或私家藏书具备了较好的条件。唐中叶之后，各地民间或私人创建的书舍、书屋、书楼、书堂、书院之类的设施先后一批批地涌现。在官方丽正书院、集贤书院首先以书院命名为“修书之地”、“藏书之所”的诱发下，书院之名在民间或私人中更广泛地流行起来。
唐代私人创建的书院在文献记载中已屡见不鲜。仅在《全唐诗》中就可见以书院为题的诗十一首。如：李秘书院、第四郎新修书院(一名薛载少府新书院)、赵氏昆季书院、杜中丞书院、费君书院、李宽中秀才书院、南溪书院、田将军书院、子侄书院、沈彬进士书院。这些书院多以个人命名，还不像稳定的正式名称，这反映了书院初建时期的特点。见于各地方史志，注明建于唐代的书院有：
浙江省
青山书院 建德县 翁洮建于唐
蓬莱书院 象山县 县令杨弘正建于唐大中四年(公元850年)
溪山书院 诸暨市 吴少邦读书处，建于唐大中四年
九峰书院 龙游县 徐安员读书处，建于唐大中四年
丽正书院 绍兴市 建于唐大中四年
福建省
梁山书院 漳浦县 潘有美读书处，建于唐
闻读书院 福清县 陈灿建于唐
鳌峰书院 建阳县 熊秘建于唐
草堂书院 福鼎县 林嵩建于唐
松洲书院 漳州市 传为陈珦〔xiang向〕读书处，建于唐
江西省
桂岩书院 高安县 幸南容建于唐元和九年(公元814年)
景星书院 九江市 李渤建于唐长庆初
李渤书堂 德安县 李渤建于唐长庆初
(少室书院)
东佳书堂 德安县 陈崇建于唐大顺元年(公元890年)
(陈氏书堂)
皇尞书院 永丰县 刘庆霖建于唐
飞麟书院 南昌市 程(火亩)〔xiu 秀〕建于唐乾符五年(公元878年)
(虎溪书院)
登东书院 吉水县 解世龙建于唐乾符末
湖南省
南岳书院 衡山县 李繁建于唐
(邺侯书院)
李宽中秀才书院 衡阳市 李宽建于唐元和中
(石鼓书院)
杜陵书院 耒阳县 建于唐
王宁书院 桃源县 建于唐
石山书院 攸县 建于唐
(光石山书院)
韦宙书院 衡山县 韦宙读书处，建于唐
卢藩书院 衡山县 卢藩读书处，建于唐
文山书院 澧〔li里〕县 李群玉读书处，建于唐
四川省
丹梯书院 巴中县 张曙读书处，建于唐
凤翔书院 西溪县 杨发读书处，建于唐
西溪书院 西溪县 杨发读书处，建于唐
青莲书院 盐亭县 李白读书处，建于唐
张九宗书院 遂宁县 张九宗建于唐贞元至元和间
贵州省
儒溪书院 绥阳县 柳宗元读书处，建于唐
陕西省
丽正书院 西安市 唐官方修书之地，建于开元间
(集贤书院)
瀛洲书院 蓝田县 李元通建于唐
山东省
李公书院 临朐县 李靖读书处，建于唐
山西省
费君书院 永济县 费冠清建于唐
河南省
丽正书院 洛阳市 建于唐开元间
上列书院30余所，多数笼统地称建于唐，无具体年代可考，更无有关讲学活动的记载，多注明为某人读书处，明确记载有讲学事迹者仅有三所，即：江西的皇尞书院，“唐通判刘庆霖建以讲学”(光绪《江西通志》卷八十一)；福建的松州书院，“唐陈珦与处士讲学处”(同治《福建通志》卷六十四)；江西的东佳书堂(亦称陈氏书堂、义门书院)，“唐义门陈衮即居左建立，聚书千卷，以资学者，子弟弱冠，皆令入学。”(同治《九江府志》卷二十二)江西还有 一所书院，称梧桐书院，光绪《江西通志》称：“唐罗靖、罗简讲学之所。”实际这所书院始建于五代时的南唐。
有关史料尽管十分简略，但从这些有限的史料中，人们已经可以洞察到书院教育初创时的基本状况。书院教育源于民间或私人聚书读书，发展为授徒讲学。元代学者欧阳玄在《贞文书院志》一文中说：“以故家积书之多，学者就其书之所在而读之，因号为书院。”(载同治《丰城县志》)可以说，至唐末，作为“士子肄业之所”的书院教育已具雏型，但规模甚小，且不甚稳定。
创办于南唐的江西梧桐书院横匾(选自李国钧主编《中国书院史》)
五代时期，书院教育获得进一步发展。据《新五代史·一行传》称：“五代之乱极矣！《传》所谓天地闭，贤人隐之时欤！”“干戈兴，学校废，礼义衰，风俗隳〔hui辉〕坏”，然而，“天下未尝无人也”，“仍有洁身自负之士，嫉世远去而不可见者”。士人隐居山林读书讲学成为唐末五代的一种社会风尚。其中颇有一些创学馆、建书堂以延四方之士者。如：石昂，“青州临淄人也，家有书数千卷，喜延四方之士，士无远近多就昂学问。食其门下者或累岁，昂未尝有怠色。”(《新五代史·石昂传》)罗绍威，“字端正，其先长沙人，……绍威好学工书，颇知属文，聚书数万卷，开馆以延四方之士。”(《新五代史·罗绍威传》)罗绍威“有英杰气，工笔札，晓音律，性复精悍明敏，服膺儒术，明达吏理，好招延文士，聚书万卷，开学馆，置书楼”(《旧五代史·罗绍威传》)。《旧五代史·唐明宗纪》注引《爱日斋丛钞》称：“唐末以来，所在学校废绝，蜀毋昭裔出私财百万，营学馆，且请版刻《九经》。蜀主从之，由是蜀中文学复盛。”《荆湘近事》也载蒋淮东隐居衡岳，聚徒讲学，受业者称其为山长。这些聚书万卷、千卷的学馆、书楼，延四方之士，聚徒讲学，虽未以书院命名，实际上已是教育性质的书院。
直接指明建于五代的书院也有多所。如：
窦氏书院，后周时范阳人窦禹钧建于今北京昌平县内。据《范文正公文集·窦谏议录》载：窦禹钧，范阳人，“诸子进士登第，义风家法为一时标表。于宅南构一书院，屋四十间，聚书数千卷。礼文行之儒，延置师席。凡四方孤寒之士无供需者，公或为出之。无问识不识，有志于学者，听其自至，故其子见闻益博，凡四方之士，由公之门登显贵者，前后接踵。”
闻名于后世的嵩阳书院(河南登封境内)、应天府书院(睢阳书院，河南商丘境内)，以及洛阳的龙门书院，都始建于五代时期。
五代战乱之际，南方地区相对稳定，所建书院更多。如：
蓝田书院，在福建古田县，为南唐员外郎余仁椿所建，被后人称作古田文化的摇篮。
留张书院，在江西宜丰境内，为南唐张玉所建。同治《新昌县志》称：张玉，“唐亡挂冠归闲，户不出，构书堂名留张，讲学其间”。
云阳书院，在江西永修境内，南唐进士吴白举建。
光禄书院，在江西吉安县富田，南唐张玉所建。
匡山书院，在江西泰和县。南唐邑人罗韬所建。明宗曾敕书赐额，称其“寻因养病，遂尔还乡，后学云从，馆起匡山之下。民风日益，俗成东鲁之区”。
梧桐书院，在江西奉新境内，南唐罗靖、罗简兄弟聚徒讲学之所。
华林书院，在江西奉新境内。是一所胡氏家族的家塾式书院，据称：“聚书万卷，大设厨廪，以延四方游学之士。”
创办于宋初的江西华林书院横匾
王日藻在《嵩阳书院碑记》中称：“夫五代日寻干戈，中原云扰，圣人之道绵绵延延，几乎不绝如线矣。而书院独繁于斯时，岂非景运将开，斯文之未坠，已始基之欤！”既说明了唐末五代书院教育产生和发展的社会背景和历史条件，同时也说明了书院教育的产生和发展对继承、传播中华民族的传统文化所起的独特作用。