直到公元263年魏灭蜀，公元265年司马炎废掉魏元帝建立晋王朝，并于公元280年灭吴，才取得统一，历史上称为西晋。在经历短暂的安定和平的局面之后，因西晋统治集团的腐朽引起激烈争夺统治权的凶残内战，史称“八王之乱”。不久又出现了五胡十六国的纷扰局面，西晋最后两个皇帝都被匈奴统治者刘聪杀掉。当时南方比较安定，南逃的贵族拥立镇守建邺(原吴都建业改称)的镇东大将军司马睿〔rui瑞〕为帝，历史上称为东晋。
当时北方仍处在五胡纷扰、相互攻战的局面下。所谓五胡，是指匈奴、鲜卑、羯〔jie杰〕、氐、羌五族，他们先后曾建立过16个国家〔也包括在今四川的成(汉)〕，简言之为一成、一夏、二赵、三秦、四燕、五凉。实际也有汉人建立的国家，例如前凉和北燕等，国家的数目也不止16个，还应包括代、冉魏和西燕等。
这些国家历时长短不一，所控制的范围也大小不同，并常有变化，公元383年淝水之战以前，前秦不仅统一北方，并且占有今四川，控制了西域。认为长江并不难渡，“投鞭即可断流”，所以悍然发动一场企图灭晋的战争，结果却大败而归，北方再一次分裂。东晋收复一部分地方，但有的后来却又丢失了。
《晋书·地理志》缺东晋郡县数字，据《中国历史地图集》所记，东晋太元七年(公元382年)有扬、徐、豫、荆、江、广、交、宁等州，后又增加益、梁等州，因为南北之间的拉锯战，边界常有变动，也很难详计。北方的前秦疆域，在淝水之战以前曾划分为22州(清代洪亮吉统计)。面积还小于今山东省的南燕国，在其盛时也曾划分为青、并、兖、徐、幽五州。州郡的滥设，在其他一些国家中也都如此。九州中的一些州名，如徐州、兖州等都可举出很多处，地名的混乱情况是前所罕见的。