1919年11月20日，刘师培因患肺结核，医药罔效，病逝于北京，年仅三十六岁。临逝前，他派人把黄侃叫至病榻前，“十分吃力地在枕头箱子里找出一部手抄本递到黄（侃）的手里”，并嘱咐道：“这是我毕生研究得来的音韵学秘本，今天送给你作为临别纪念，望你继承下来，然后把它再传之后代。”
刘师培与妻子何震曾育有一女，不幸夭折，膝下荒凉，身后极为萧条。陈独秀在丧礼上致悼词，总结刘师培一生功过，在场师生无不为之唏嘘。陈独秀最后引用康有为的诗句悼念刘师培：“曲径危桥都历遍，出来依旧一吟身”。
据说，刘师培的遗稿存放在黄侃处；又有说法称，刘的遗稿由何震交给了刘文典。刘师培去世后，其主要著作由南桂馨、钱玄同等人搜集整理，编成《刘申叔先生遗书》。
《刘申叔先生遗书》中并没有收录刘师培交给黄侃的遗稿。到1928年时，黄侃还承认自己藏有刘稿，但到1934年底便“茫无端绪”了。有研究者认为，此时可能与黄侃藏书遭窃有关。“一·二八”事变发生后，黄侃搬迁，仓促中装了八卡车书，运到采石矶暂存，不料被当地居民盗出，当作废纸卖了。有学者猜测，可能刘师培的遗稿也一同被窃。倘若如此，又是学术界一大憾事。