西晋覆亡后，各少数民族竞相建立政权，战争不已。中原的汉族人士不愿受胡族统治，纷纷南迁。西晋时，北方诸州人口约七百余万。而永嘉之乱后几次大批南渡的达九十万人，约占八分之一。东晋和南朝境内人民，大约土著占六分之五，北来侨人占六分之一。司马睿与封国琅邪的大族王氏建立默契，各自出镇南方要地，以预谋退路。早在永嘉元年（307），司马睿已出镇建业。长安陷后，建武元年（317）睿称晋王，次年即帝位。
西晋末年的江南也不平静。司马睿来之前，有石冰、封云领导的扬州、徐州农民起义。出身于仓部令史的庐江陈敏，乘掌握江淮漕米之机，招诱吴地士族，企图在江东割据自立。以后吴兴钱㻅图谋推翻司马睿和扬州刺史王敦，在广陵起兵。这三次性质不同的事件中，孙吴以来的世族义兴周玘率领乡里私兵，支持了司马睿。江南大族到东晋初年还拥有相当强大的武装实力，为司马氏政权的南迁扫除了障碍。
东晋政权优遇南来的北人，在他们聚居的地方设立所谓侨州、侨郡、侨县。侨州郡县沿用北方原籍的旧名，但隶属关系极其错综复杂。有的侨州下只领侨郡、侨县，也有侨州下既领侨郡、侨县，也领实郡、实县。有的侨郡、侨县又隶属实州。实郡也有时领侨县，侨郡往往也领实县。有的侨郡县由于是高门大族的原籍，由侨郡县改为领有实土的郡县，而更多的侨郡县因不具备此条件，只有等待土断（东晋、南朝整理户籍及调整地方行政区划的政策。其主要精神是划定州、郡、县领域，居民按实际居住地编定户籍），以备领有实土。
侨州郡县人民不属当地编户，豁免租赋、徭役，并另立白籍，以区别于土著的黄籍。侨人中的下层多投附世家大族，成为受其荫庇的户口。其上层亦即门阀士族，如琅邪王氏、颍川庾氏、陈郡谢氏、谯国桓氏等，都是司马氏政权的主要依靠力量，在中央和地方担任要职。此外，如祖逖、郗鉴、刘遐、苏峻等士族中地位较低的家族，则先在胡族统治的北方立堡坞自固，聚集宗族乡党数百以至上千家，然后率领这些流民南来，归附东晋。他们的武装成为早期抗胡的主要力量。除郗鉴等少数人外，流民领袖多未能与司马氏政权合作到底。江南广大土著人民是东晋王朝财政、徭役和兵力的主要来源，负担沉重。但东晋初年，南方与北方民族矛盾突出，南方内部阶级矛盾退居次要地位，东晋政权建立八十年之后，才爆发大规模农民起义。孙吴时大族的上层人物，对于司马氏被迫南来所建政权，起初并不竭诚拥护。如陆玩目王导为伧（南人对北人的蔑称），拒绝与王氏通婚。晋元帝对于江南士族中政治、社会影响较大的人，如顾荣、贺循、纪瞻、陆玩等，渡江之初已加意笼络。元帝由于自己不掌握强大兵力，对于拥有武装力量的南方豪强，暂时也不得不倚重。如周玘平钱㻅，甘卓破周馥，纪瞻御石氏。镇压杜弢起义也靠的是南土寒庶陶侃。来自北方的统治阶级对南人终有顾虑，在攫取田产方面，侨姓大族渡江后，避开江南大族的田园聚集之地，王氏、谢氏、郗氏、蔡氏等，都深入到内地会稽、临海一带广占土地与山泽。政治上对南人更有戒心，如陶侃立大功后反被王敦从荆州迁官广州。元帝对义兴周氏心怀疑惮，以致周玘忧愤而死。沈充、钱凤之怂恿王敦起兵反司马氏，陶侃对庾亮积怨之深，都反映统治阶级中侨人士族的压倒地位和侨人、南人之间的矛盾。
晋元帝初年，有扬、江、荆、湘、交、广、宁、梁、益、徐、豫十一个实州，领九十六实郡，同时开始置立侨郡、侨县。至孝武帝太元四年（379），有扬、江、荆、湘、交、广、宁、豫、徐九个实州，幽、燕、冀、青、并、雍、秦、梁、益九个侨州，领实郡八十四，侨郡四十余。东晋时侨州不冠南字，刘宋时侨州始冠南字，如南徐、南兖。东晋疆土缩小，而州郡之数远远超过西晋。刺史本人或所带将军府的长史、司马，往往兼任州治所在的郡守。州以上分区置都督，以刺史充任，有兼督数州以及某几州中的数郡军事，都督镇守之地常依形势变化而有改动。东晋仕宦途径大体仍由公府辟召、州郡察举秀才、孝廉和中正依九品选拔官吏。但这时已非西晋那样一统局面，元帝自称“寄人国土”，因而中央官制虽沿自西晋，而颇加简化，以求事权统一、行事简便。如光禄勋等九卿或省或并，地方官如郡丞亦曾省罢。魏晋以来尚书与中书、门下职责原有分工，起相互制约作用；而东晋的录尚书及尚书令有时兼中书监、令，尚书仆射有时兼门下、中书官职，但仍以尚书之职位为主。单任中书令者，多优游无事，以文采、经义见重。扬州是政治、经济、军事重心所在，中央政府首脑录尚书或尚书令，往往兼都督中外军事或数州军事、扬州刺史或丹阳尹等京畿地方长官，以控制实权。所以东晋大权集中于宰相，与西晋的皇帝集权，尚书、中书、门下并立，互相牵制的形势不同。
成帝咸和五年（330），始度百姓田收租，改变西晋课田五十亩收租四斛办法，大率每亩税米三升。户调可能仍沿西晋每户绢三匹、绵三斤之制。孝武帝太元二年（377）废除度田收租制，以口为对象，王公以下口税三斛。八年，又增税米每口五石，大抵比西晋时赋税为重。东晋的徭役也极为繁重，孝武帝时“殆无三日休停”。东晋户口应不少于东吴时（五十二万户，二百三十万口），而桓温上疏说当时户口凋寡，不当汉之一郡（东汉最大之南阳郡有五十二万户、二百四十万口）。这主要是由于依附人口太多，东晋规定给客制度，品官可以庇荫流民为佃客，第一、二品官荫占佃客四十户，三品三十五户，四品三十户，五品二十五户，六品二十户，七品十五户，八品十户，九品五户。政府所承认的荫占佃客数字，各品官都比西晋增多。他们的户口附于主人的户籍，实际上，官僚贵族所荫庇的佃客，还远不止于规定的数字。他们不负担国家的租税徭役，但须把收获的一半交给主人。佃客之外，还有称为典计、衣食客等名目的依附人口。此时，世代当兵的兵户依然存在，同时也以逃亡农民、罪犯及其家属、被俘少数民族、豁免的奴隶等为兵。招募的军队也占重要地位，如著名的北府兵，就是招募劲勇组成的。
东晋疆域狭窄，贵族官僚大量占山固泽。世家大族大量庇荫人口，未入私门的侨人流民，又不编户籍，影响政府的财源与兵源。成帝咸和时（326～334）已开始实行土断，即把侨人从白籍（东晋、南朝设置侨州郡县安置侨民，他们的户籍用白纸书写，称白籍）移入黄籍（两晋、南朝时对正式户籍的称谓），成为所居地方的正式编户，纳税服役。在实行土断的同时，必然也搜检官僚贵族隐匿的户口。桓温、刘裕执政时期，两次大规模实行土断，收到“财阜国丰”和开拓兵源的效果，有利于巩固偏安江南的政权。
东晋统治阶级内部，存在着北人士族与南人士族，北人士族中的上层与下层，皇室司马氏与侨姓大族，各大族之间，中央与地方（扬州与荆州）等错综复杂的矛盾。当时流行的“王与马，共天下”说法，既反映了王氏扶持在南方尚未站稳的司马氏政权，也反映了东晋一代皇室与侨姓大族不断的斗争。王导执政，以宽和著称，其目的除结好南人，巩固司马氏地位外，也为维护世家大族的利益。元帝对王敦和简文帝对桓温，都曾有过“请避贤路”的表示，为封建社会中的君臣关系所罕见。“君弱臣强”的局面，是司马氏与以王氏为首的各大族“共天下”的结果。
王敦担任都督江、扬、荆、襄、交、广六州军事、江州刺史，拥重兵镇守武昌（今湖北鄂州）。元帝畏王敦，任用刘隗、刁协与之相抗。刘、刁维护皇室威权，“崇上抑下”，如大批征调大族家的奴僮和依附的客，以充兵役，引起王氏等大族的不满。永昌元年（322），王敦以问罪于刘隗、刁协为名，起兵攻下建康，杀死刁协等。又从武昌移镇姑孰（今安徽当涂），自领扬州牧，内外大权集于一身。两年后，王敦病重，仍命其兄王含为元帅，率军进攻建康。建康未克而王敦病故。他虽被遣责为叛逆，琅邪王氏的地位却未受任何影响。
成帝即位年幼，舅父庾亮执政。北方来的流民首领苏峻、祖约都拥有重兵，分别驻在历阳（今安徽和县）和寿春。他们不满于大族庾亮、卞壶等人的排挤，咸和二年（327），起兵进攻建康。江州刺史温峤乞援于荆州刺史陶侃，联合击败苏峻。陶侃死后，庾亮代为江、荆、豫三州刺史，既拥强兵据上游，又执朝廷大权。他代表皇室利益，与王导产生矛盾。但在冲突表面化之前，王导、庾亮相继去世。
桓温继庾氏之后据有荆楚，又领扬州牧，也集内外大权于一身，企图夺取司马氏政权。桓温先废司马奕为海西公，立简文帝，实则企望其让位于己。穆帝时，简文帝为会稽王辅政，任用殷浩以抵制桓温，但未成功。接近皇室的庾氏家族中，多人被桓温杀害。桓温病中要求朝廷赐他“九锡”，以为禅让的前奏。由于谢安等人的拖延策略，桓温不及待而死。谢安辅政，侄儿谢玄在淝水之战中立了大功。但孝武帝的兄弟会稽王司马道子排斥谢氏。东晋前期，政权一直在大族手中。淝水战后，转入孝武帝及司马道子之手。战后两年，谢安被迫避往广陵，不久死去。战后四年，谢玄又从坐镇的边境要地彭城被调移内地任会稽内史。以后，桓温的幼子桓玄又以荆州为据点，攻入建康，杀司马道子父子，总揽朝权。元兴二年（403），桓玄称帝，国号为楚。刘裕从京口（今江苏镇江）起兵讨伐，桓玄退归江陵，失败被杀。
东晋政权所受外部威胁，主要来自黄河流域的胡族和长江上游（益州）的政治势力。北人南渡之初，上下同仇敌忾，要求驱逐胡人，返回故土。祖逖及其部下流民可为代表。祖逖从淮水流域进抵黄河沿岸，联系保据坞壁不甘臣服胡族的北方人民，谋划恢复中原，经营达八年（313～321）之久。当时北方匈奴刘氏与胡羯石氏相争，形势有利于东晋。但元帝无意北伐，对祖逖所需人力、物力都不予支持，加以皇室与王敦矛盾尖锐，祖逖备遭掣肘，壮志未酬而死。石氏兵力一度威胁江南，后赵建国，据有幽、冀、并诸州后，军事优势更为显著。庾亮、庾翼虽先后拟议北伐，由于力量对比悬殊，都未实现。石虎死后，河北大乱，西晋遗民二十余万口渡河欲归附东晋。褚裒北伐，先锋达到彭城，战败退回。以后北方前燕与前秦东西并立，殷浩北伐也屡次失败。
永和十年（354）桓温伐前秦，深入敌境，但未乘胜夺取长安，只徙关中三千余户而归。两年以后，又伐前燕，夺取了洛阳，但不久复归于燕。太和四年（369）再度北伐，到达距前燕首都邺不远的枋头，未再前进，退败于襄邑（今河南睢县）。桓温晚年借北伐以树立威名，谋求禅让，但未成功。前秦苻坚吞并前燕后，屡次南向出兵，意图统一南北。太元八年（383），苻坚以绝对优势的兵力威胁江南，谢玄率北府兵以寡敌众，淝水一战秦军大败。乘前秦衰弱，后秦姚氏占有关中，后燕慕容氏立国河北，东晋虽暂时解除了大军压境的威胁，并未能在北伐事业上有所进展。
义熙六年（410）刘裕灭南燕，此后青、兖等州归属东晋、刘宋五十余年。十三年，灭后秦。由于关中悬远，东晋很难从江南遥控，刘裕又忙于南归夺取政权，无意进一步恢复中原，一度收复的长安与洛阳，随即为赫连夏与北魏所得，终东晋之世，未能长期恢复西晋的两京。
江南政权稳固与否，和长江上游益州的归属很有关系。成汉李氏据蜀三十年，永和三年桓温西征灭之，有利于巩固东晋政权。二十六年以后，益州又被前秦占领，淝水战后才复归东晋。到义熙元年，谯纵据益州，又从东晋分裂出去。刘敬宣一度攻益州，距成都五百里而败还。及至九年，刘裕西征，灭谯氏，从此益州再归东晋统治。东晋百年间，益州不受其统治的时间达五十年。只是由于占有益州的势力未与北方密切联合，不具备能顺流东下、吞并江南的实力，东晋政权才得免除来自益州上游的后顾之忧。
隆安三年（399）爆发了孙恩、卢循起义，斗争持续近十二年，司马氏政权受到沉重打击。孙恩死后，桓玄起兵称帝。刘裕对内镇压孙恩、卢循起义，讨平桓玄，对外北伐灭南燕，西征平谯纵，江南政权摆脱了最直接的外部威胁，得到稳定。灭后秦之后，420年刘裕取代了东晋。