东晋刚刚安定的时候，刘曜的前赵已经发展得很富强了，经济得到一定的恢复，人民也得到休养，与少数民族关系搞得也比较好。许多少数民族主动前来投奔，其中最重要的两个人物是略阳（今汉中市境内）临渭（今渭南市境内）的氐酋首领蒲洪，还有南安赤亭（今甘肃陇西西面）的羌酋首领姚弋仲。此二人手下都有数万兵马，且十分勇猛。刘曜得了这两个人，更是实力大增，便有了一统北方的打算。
永昌二年（323），刘曜率大军三十万，向西去攻取凉州。刚在凉州的河东扎下营来，凉州河东的守兵便望风而逃。刘曜的手下大将见战事如此顺利，都十分兴奋，一致请求刘曜乘势西攻，一鼓作气，拿下凉州。
刘曜道：“从表面上看我有三十万大军，光扎下的大营就数以万计，遮天蔽日。其实其中有三分之二的人不是咱自己人，是各个民族迫于咱们国家的威势才跟随而来的，仓促应战，并没有必胜的把握。不过，只要咱们按兵不动，每日把三十万大军调出来列队操练，故意让凉州兵看到，仅以我方的威势就能震慑住对方。不超过十日，张茂的降表必到。”
三十万大军操练起来是个什么样子，几千只大鼓敲起来又是什么声音，那阵势的确把凉州上下给镇住了。刘曜且令将士向对岸扬言道：“将百道俱济，直抵姑臧！”凉州大震。
这时候凉州牧张蹇已于两年前亡故，世子张骏年纪还小，国家政事由张蹇的弟弟张茂负责。张茂召开军事会议，商量怎么办。军事参谋陈珍分析说：“刘曜的兵马虽多，但精兵极少，大多数为氐、羌等少数民族，凭刘曜的威信恩德还不足以能真正统驭这些人，所以他绝不可能快速拿下凉州；而刘曜的东面还有石勒这个后患，他也不敢跟我们打持久战。您只需拨给我一万兵马，我便可使刘曜退兵。”
张茂听陈珍分析得很有道理，干脆亲自率领三万兵马前去迎阵。哪知道他在前线一见到刘曜的三十万大军，当时就晕了。只见帐篷接天连地，一眼望不到边；旗帜遮天蔽日，如海洋一般；鼓声如雷，杀声似涛。这么大的阵势，张茂想都没想过，更别说见到过了。
张茂回营后说，这可不能打啊，我要和这样的军队打，不是白白送死么？
张茂手下的几个军事参谋都劝张茂一战，说刘曜是劳师远伐，人心不齐，不能久战，和刘曜打起来未必就会输；而且人家打到家门口了，你一仗没打就认输，很丢面子的，以后你还怎么在凉州混？
张茂想了很久，还是决定投降，不过这个投降是有条件的，只称藩称臣，按期纳贡，不交出兵权和地盘。如果刘曜不同意这样的条件，那就决一死战。第二天张茂向刘曜献了降表，并上一千匹马，几千头牛，十万只羊，还有美女、黄金和西域珍宝物产。刘曜也好说话，收了东西，交换了文书，接受了张茂的投降，任命张茂为凉州牧，封为凉王，随后还兵长安。
刘曜兵马撤走后，张茂觉得自己对不住晋室，忧恨成疾，于第二年五月病死，临终前嘱托张骏道：“我们张家世代拥奉晋室，如今虽天下大乱，仍不可改。将来你要替我为凉州恢复晋臣的身份。”
张茂病死后，侄儿张骏继位。刘曜拜张骏为上大将军、凉州牧、凉王。张骏迫于当时的形势，只好接受，并派参军王骘出使长安称谢。
刘曜亲自接见王骘，问他道：“你们能保证长期向我们称臣么？”
王骘答道：“不能。”
刘曜奇怪道：“为什么？”
王骘道：“春秋的时候，齐桓公在贯泽召天下诸侯会盟，当时忧心忡忡，害怕凭自己的威信没人会来尊自己为盟主，结果却是所有诸侯都很快地来了。后来齐桓公又在葵丘会盟，自认为国家强大，盛气凌人，其实国家已衰，结果有九个国家叛盟不来。如果您赵国能够保持现在的强盛，我可以担保凉州永不叛赵。如果赵国衰微，那就连身边的变化都不能察觉，更何况鄙州呢？”
刘曜听了不怒反笑，叹道：“你真乃凉州之君子也，张骏真是会选大使啊！”
刘曜定了凉州，遂又出师东征。派他的堂弟、中山王刘岳与镇东大将军呼延谟，率兵两万，东取后赵国的洛阳。
洛阳的守将石生出洛阳迎战，两军在孟津交战。石生连打两次败仗，损兵折将，逃回洛阳，闭城不出，并派人向石勒求救。
石勒这个时候正派大将石虎统兵四万去讨伐山东半岛的曹嶷。曹嶷这个人我们已经很久没有提到他了。石勒攻破洛阳，诱杀王弥的时候，曹嶷已经占领了山东半岛。曹嶷是王弥的一支部队，王弥死后，曹嶷便一直盘踞鲁东。曹嶷先是向汉国称臣，汉国灭亡后，又向石勒称藩。东晋太宁元年（323），石勒再也不能容忍曹嶷的拥兵自重，便派石虎去讨伐，以绝自己进攻前赵的后患。巧的是，这一年前赵也在进攻西凉，以绝自己进攻后赵的后患。
曹嶷连连战败，东莱太守刘巴、长广太守吕披接连投降。曹嶷本打算渡海逃跑，正好当时山东半岛疾疫流行，没能走成，被石虎的大军围在广固城。曹嶷坚持了几个月，最后开门投降，被杀。
攻陷广固之后，石虎把城中军民三万余人全部活埋，剩下几百口人，石虎还想杀掉。石勒任命的青州刺史刘征正好上任赶到，他气愤地对石虎道：“你把青州的人全杀光了，青州没有了居民，我给谁做刺史？我干脆回去算了！”石虎这才罢休，总算给广固留了七百余口人。
石勒命石虎率步骑四万去驰救洛阳。刘岳遂东进与石虎交战。石虎有四万人，刘岳有两万人；石虎的兵又都是他精挑细选，多年征战一直带在身边的，战斗力很强。所以刘岳很快就吃了败仗，大将呼延谟战死，两万兵马折了三分，剩下的退守石梁戍，被石虎包围。刘岳急忙向刘曜求援。
刘曜忙亲率三万人来救。等赶到石梁戍时，刘岳已经断粮数日，只能靠杀马为食。石虎让石生率两万人继续围困石梁戍，自率两万人对阵刘曜。两军交战十多天不分胜负，都人困马乏。
石虎带着两万人回去和石生围困刘岳的两万人换了一下，第二日又来战。刘曜的人已经累得要命了，而石虎新换上的这两万人都是生力军，结果刘曜便大败，退军三十里。石虎并不带大兵去追，而是派两千精骑兵跟在后头。一到三更半夜，就在刘曜的营外敲鼓放炮，并围在四面大喊道：“石虎来劫寨了！”
刘曜的军队真的以为有人劫寨，裤子都顾不上穿，骑上马就跑。就这样刘曜一直跑到前赵国，石虎的两千精骑才退回去。刘曜的军队虽然没有伤亡，却在一路上跑散了一大半，直到退回长安之后，才陆续有士卒回来。
石虎这边从从容容地攻下了石梁戍，还是老规矩，把所有的降将降兵全部挖坑活埋。一共坑杀刘岳及其将佐八十余人，坑士卒万人。刘曜得知，出城祭奠，大哭七日，方才入城。
刘曜统一北方的雄心受阻，至此消沉起来，开始大兴土木，先前停建的酆明观与西宫又建了起来，又为自己在霸陵西南修筑寿陵，后来又在滈池建起陵霄台，动用了大量民力。
一些大臣也劝阻说这样做太劳民伤财了，不是咱们这样的国力可以承受得了的。刘曜不但不听劝，建完这些大型工程之后，又开始在粟邑为他的父母建造大陵。这个大陵光地基就周长二里，高有百尺，动用六万男子为役，百姓不堪其苦。许多大臣劝谏，刘曜仍是不听，又常在宫中设宴，与公卿聚饮，而不许谈论朝政。
五年之后，即咸和三年（328）七月，石勒觉得时机已到，命石虎带着他的四万精兵来攻前赵。
石虎先占蒲阪（今山西永济蒲州镇），再向西一路攻城略地，沿途五十余县纷纷投降，警报如雪片般飞入长安，刘曜命只有十多岁的太子刘熙与自己的二儿子南阳王刘胤守住长安，亲自率国中十五万精锐兵士去和石虎决战。
刘均劝道：“皇上您只需派一名上将就足够了，不应当亲自出战！”
刘曜哭道：“刘岳之死，朕时时不能忘记。正要报当年洛阳之仇，怎能不亲自出战？”遂由卫关北渡黄河，分十路包围石虎军。石虎见对方势众，急忙率军撤退。刘曜一路穷追猛打，石虎损兵折将，四万精兵，损失大半，直逃到朝歌（今河南鹤壁淇县朝歌镇）方才立住脚。
刘曜乘胜由大阳关南渡黄河，再攻洛阳。石生不敢出战，死守城池。刘曜攻了半个月也没有攻下。因多日不克，刘曜便把洛阳边的大堤给决了，水淹洛阳。洛阳城内的百姓和士兵找到地势高的地方居住，继续守城不降。又过了三个多月，刘曜见实在是难以攻下洛阳，便分兵先取了汲郡（今河南卫辉市）、河内（今河南部泌阳）、荥阳（今河南荥阳）和野王（今河南博爱县）。后赵震惊。
石勒亲自去救洛阳，右长史程遐说：“刘曜现在势头很猛，和他正面冲突讨不到便宜。洛阳城坚粮足，他一定攻不下来。而刘曜孤军深入千里之外，肯定不能持久，不如等他打累了，自然就会退兵。您不应当出师。”
石勒听程遐说得很不像话，大骂道：“你知道个屁！胡说八道什么！”让人将程遐赶了出去。这时候右侯张宾已经病死，石勒总觉得每次遇到大事，便缺少一个得力的人商量，很是不爽。这时记室参军徐光走进来道：“别人认为刘曜勇不可当，我认为刘曜只是一勇夫而已。”
石勒听了眼前一亮，遂问为什么。
徐光道：“刘曜不直接乘胜进攻大赵国的首都襄国，反而跑去围攻并不重要的城市洛阳，难道不是一个有勇无谋的人才会做的事吗？而且刘曜十五万精兵，攻一城而百日不克，一定军心懈怠，士卒劳顿。您若与之决战，取胜的把握极大。要平定天下，一统北方，便在此一战，这么好的机会，您一定不能放过啊。”
石勒听得热血沸腾，拉住徐光的手道：“你的话都说到我心里去了！我总算找到可与我相谋之人了！”于是调集兵马，命令石堪、石聪、桃豹等各率所部在荥阳会师；又令石虎进据石门。石勒亲率四万兵马出襄国，去攻刘曜。
石勒率军渡过黄河。徐光对石勒道：“刘曜如果屯兵于成皋关，据险而守，我们就会很被动；如果在洛水陈兵阻挡我，或可一战；如果坐守洛阳，则必为我所擒。”
等到了成皋关，并不见关上有刘曜的一兵一卒，石勒大喜过望，以手指天大声喊道：“这是上天有意要让我灭刘曜啊！”石勒与石虎、石堪、石聪、桃豹等各路军马在关下会师，共有步兵八万，骑兵三万。大军迅速前进，直杀到洛阳。
刘曜听说石勒率十多万大军前来，急忙撤了洛阳之围，退到洛阳城西扎下营寨。
石勒很顺利地与洛阳城内的石生会师，石勒派石虎、石堪与石聪等人驻兵在城外，自己率四万步兵进入洛阳城内。进城之后，石勒先登城巡视，见刘曜并没有在洛水南岸驻军，而是在洛阳城西下寨，哈哈笑着对左右道：“刘曜真是个蠢货，各位将军就等着庆功吧！”
第二日两军交战，石虎率步卒三万从城北向西，直击刘曜中军；石堪、石聪各率八千精骑由城西向北，直击刘曜前锋；石勒则亲率城中步骑四万出阊阖门，绕到刘曜军后，夹击刘曜。
两军从早上杀到傍晚，前赵军果然战斗力比以前差了很多，到晚上的时候已经支持不住了，开始败退，败退很快变成了溃退。刘曜在洛河北岸被擒，余军纷纷弃甲奔逃，死伤大半。石虎和石堪还要领兵去追。石勒即下令道：“我擒到刘曜一人已经足够了，其他人就放他们逃命吧。凡是俘虏不许再杀戮，不然有伤天仁。”然后收军回城，大摆庆功宴，犒劳将士。
石勒班师回到首都，因为刘曜受了伤，石勒命自己的医生好好给他治疗，到了襄国，把刘曜安置在永丰（今江西永丰县）软禁起来。石勒派人去劝刘曜写信劝太子刘熙投降，刘曜冷笑着写下“匡维社稷，勿以朕易意也”几个字。石勒大怒，杀死刘曜，派石虎、石生进攻长安。
前赵的太子刘熙，得知父亲被杀，石勒派兵来攻，吓得要退往秦州。尚书胡勋道：“虽然皇上驾崩了，但咱们国土还是完整的，将士们也没有打算背叛您，长安之外有潼关之险，长安之内有坚固的城池。只要我们齐心合力扼守险要，不一定就打败仗。”
南阳王刘胤道：“还是陇西那个地方山多势险，可保无忧。石勒很厉害，如果攻到长安，再想跑就来不及了。”
胡勋争辩道：“还没打一仗呢就先逃跑，这不是长敌人的威风么？敌人来攻长安，你可以跑到秦州；敌人再来攻秦州，你还要往哪儿跑？”
刘胤被胡勋说得哑口无言，干脆直接让左右把胡勋拖出殿外斩首。既然胡勋主战被杀，哪个还敢再提此事。于是大臣们听凭刘胤带着刘熙和百官逃奔到上邽。大将蒋英和辛恕留守长安。本来刘曜死后，人心惶惶，大家心里都没底。刘曜和刘熙带头一跑，有几个地方的镇守便坐不住了，也弃了守地向西而逃，刘胤和刘熙也没把这些逃将怎么样。其他没有逃的人一看逃跑无罪，便一股脑儿全都跑了。
石虎、石生顺利入关，杀到长安。蒋英和辛恕倒是没有逃，直接开城请降。石虎让石生守长安，自己带了两万精骑去攻上邽。这时候前赵的军心和人心都已经散了，而且上邽虽险，哪里有长安坚固。刘胤先败于城外，又丢掉上邽，最终和刘熙一起被擒。石虎是杀人有瘾，嗜血冷面的家伙，当然免不了坑杀降臣降将降兵降卒，共杀死刘胤、刘熙以及王公大臣各级官员三千余人，以及三万余士兵。又将万余名关中比较有势力的大族迁到襄国。
氐酋蒲洪、羌酋姚戈仲也就是打西凉的时候跟刘曜出去逛了一圈，后来再没有参与什么战争。这回见后赵灭了前赵，他们又来投奔石虎。石虎任命蒲洪为监督六夷军事，姚弋仲为六夷左都督。前赵遂亡。
凉州张骏担心后赵乘胜来攻凉州，转向石勒称藩。石勒又拜张骏为征西大将军、凉州牧。
石勒一统北方，文武大臣共同劝石勒登皇帝位。石勒并没有答应，大臣们一再请求，石勒实在是推脱不过，便想了个折中的法子，并不叫皇帝而叫做天王，行皇帝事。石勒为什么这么坚决地不当皇帝呢？他大概是想激励自己一统全国后再称帝，但后来意识到自己的这个想法很难在有生之年实现，遂在该年（330）年底称帝。