鸦片战争后，中国就没少接受炮火的洗礼。
1874年，日本悍然发兵台湾，中国竟然被这样一个弹丸小国欺负，不仅损失了琉球岛，而且还要赔给日本一笔巨款。这场战争让清廷意识到中国海防的薄弱，11月5日，以李鸿章为首的总理衙门呈上了一份奏折，强调必须加强海防，重点提出练兵、引进新式武器、多造船的策略。11月19日，前任江苏巡抚丁日昌呈奏《海洋水师章程》，请求建立北洋、东洋、南洋三支海军，分别守卫北海、东海、南海三面海域。
李鸿章更是呈奏了一篇“万言书”——《筹议海防折》，条分缕析，说中国江海门户大开，敌人可以随便出入，这是非常危险的事，只有建立一支现代化的海军，才能确保江海门户的安全。如果李鸿章只是建议加强海防的话，倒不会引起太多的争执，关键的是他还说自古清廷一直重视西北的边防，但现在形势发生了改变，政府应该更加重视海防。
李鸿章的意思是政府应该把海防当成头等大事，至于西北边防相对没有那么重要，李鸿章还抱怨说西北即使平安无事，每年还耗费三百多万两银子，很不值。当时，新疆问题很严重，俄国军队已经侵入伊犁，左宗棠听说李鸿章建议暂缓西征，立即跳了起来。
左宗棠当时是陕甘总督，主持西北的防务，如果清廷采纳李鸿章的建议，必定削减西北的军费。左宗棠立即上了一道奏章：“海防固然重要，塞防也很重要，两者不可偏废，新疆一定要收复。”
清廷经过反复考量，接受了左宗棠的建议，海防与边防并重，一面任命左宗棠为钦差大臣督办新疆事务，一面让李鸿章办理北洋海防事务，沈葆桢办理南洋海防事务。
当时清廷财政比较拮据，最后不得不放弃同时建立三支海军的打算，决定先打造北洋海军。李鸿章着手建立北洋海军后，建议朝廷购买外国战舰，清廷没办法，只好在国外购买了46艘战舰。此外，福州船政局和江南制造局也造了23艘小型舰船。
1885年10月，清廷成立总理海军事务衙门。1888年海军衙门制定了《北洋海军章程》，任命丁汝昌为北洋海军提督，留英的海军人才林泰曾、刘步蟾为总兵。除了北洋舰队之外，清廷也在陆续建立广东、福建、南洋三支舰队。