在刘渊建立汉王朝后，到了其孙子刘粲即位后，发生“靳准事件”。这个靳准是刘渊的儿子刘聪的手下部将。自从刘聪娶了靳准的两个女儿月光、月华为皇后之后，靳准就成了刘聪的老丈人。等到刘聪死后，刘粲即位时，这两位靳氏姐妹还是二十多岁的美眉。再加上由于匈奴族中自古有“父死,妻其後母”的传统，而刘粲又是一个好色的人，因此自然靳准就又成了刘粲的老丈人。
虽然靳准在刘聪在位时还算规矩，那是因为一来自己资历较浅，二来当时朝中元老众多。但是经过刘聪对众多大臣的打击和杀戮之后，靳准在朝中的地位自然上升。到刘粲时，靳准的势力已经不可小觑。而靳准又是借着自己两个女儿的美丽，凭借着自己的阿谀奉承取得了刘粲的信任，逐渐掌握了朝中的大权。
刘粲此时也没有了当年在战场跃马金刀的气概，只是躲在深宫中整日里和众多的美女饮酒作乐，把朝政全部交给了靳准。靳准看到机会来了就发动叛乱，一举将刘粲以及其在都城平阳中的刘姓子孙全部杀死，并且向远在南方的晋朝称臣。看来，靳准还是个隐藏很深的晋朝的死忠份子。
但是，在当时在西北和河北有两位实力派人物，长安的刘曜、河北襄国的石勒。
刘曜，字永明，是刘渊的从子。从小就被刘渊收养。刘曜的军事才能在其年轻的时候就体现出来。刘渊起兵后，刘曜是其部下主要的将领之一。刘曜为刘渊建立刘汉王朝贡献很大的力量。
特别是，刘曜是俘虏两位西晋皇帝的前线指挥官，是具体执行者。在发生靳准事件的时候，刘曜担任相国、都督中外诸军事，镇守长安。在得知平阳的事情后，刘曜亲自率领军队由长安出发赴平阳来讨伐靳准，行至赤壁（今山西河津县西北的赤石川），遇到了从平阳出逃的太保呼延晏与太傅朱纪。他们就劝刘曜称尊号，刘曜于是就登山帝位，改元光初，这年是公元 318年。但是他没有继续使用汉作为国号，而是采用了赵为国号。可能刘曜觉得这样做有点不名正言顺，于是就编纂了一个自己的奇遇。据说在刘曜年轻的时候有此出猎，晚上的时候有两位童子走进屋子下跪说道：“管涔王让我们来拜见赵皇帝，并献上宝剑一口。”
当时石勒驻守河北襄国，手中握有重兵。刘曜为了能够拉拢石勒就封石勒为大将军。于是刘曜同石勒就成犄角之势，共同进攻平阳。靳准其实是个没什么真材实料的家伙，不久他就死于自己的家族的人靳明的手中。靳明就把皇帝玉玺送给刘曜向其投降。石勒听到消息后就大怒，马上派主力急攻平阳。靳明等人一看抵挡不住就向刘曜求救，刘曜就派人把靳明迎回到长安。平阳有 15000多人随靳明投降了刘曜，但是刘曜也没有放过靳明及靳氏家族，一到长安后就把他们全部杀掉。不久，平阳被石勒所攻占。这时，刘曜同石勒已成剑拔舒张之势，大战一触即发。但是由于刘曜在关陇立脚不稳，有后顾之忧，在关西有张轨集团一直不肯臣服刘曜。所以刘曜不敢同石勒马上翻脸，为了安抚石勒就加封石勒为太宰、领大将军、加殊礼，以河内24郡封石勒为赵王。刘曜想学习曹操辅汉故事，想以此先稳住石勒，以便腾出手来对付关、陇地区的敌对势力。在这里其实很好笑，因为刘曜的王朝是以赵命名的，而他又加封石勒为赵王，这不是为自己制作一个对手吗？
不管怎样，刘曜和石勒两人还是保持了短暂的和平。刘曜就借此机会开始全力进攻关西的敌对势力，来巩固自己的根据地。他面对的第一个敌人是当时在关中、陇右一带的氐、羌等少数族人。
当时，关中、陇右一带有很多氐、羌等少数族人未予归化，常同西晋残余联合进攻刘曜，给刘曜政权造成严重威胁。刘曜刚开始采取的对策是强硬的高压政策。大兴三年（ 公元320年），刘曜部下的大将长水校尉尹车，连结巴氐酋长徐库彭反叛，刘曜先杀尹车，又囚徐库彭等5000人，准备全部杀死。光禄大夫游子远叩头固谏请求放免，刘曜不听，硬是将其全部斩首。这一举动，引起了巴、氐人民的强烈义愤，奋起反抗，共推巴、氐归善王句渠知为领袖，举行起义。一时，羌、氐、巴、羯三万余人，尽皆响应，关中大乱，局势非常紧张。
这时刘曜认识到单单采用杀戮的高压方法是很难平息叛乱的，只得采用游子远的安抚政策，以游子远为车骑大将军，都督雍秦征讨诸军事，最后基本上平定了这次叛乱，迁徙巴、氐等20余万到长安。接着刘曜又亲征巴、氐的难民首领杨难敌，攻灭杨难敌部后，将其部将杨韬等万余户也是迁徙到长安。在这后不久又一举平定了奉州陈安的反叛。
在平灭少数民族势力的叛乱后，刘曜开始对付他在关西地区最大的敌人张轨军事集团。张轨是西汉常山王张耳的第十七代孙。在西晋永宁年间，任凉州刺史、护羌校尉。在刘曜攻陷洛阳俘虏晋怀帝后，晋愍帝钱都长安后就加封张轨为凉州牧。张轨就开始长期经营凉州地区。在张轨死后，由他的儿子张寔、张茂继立。刘曜出兵凉州时，张茂正为凉州刺史。
刘曜的大军长驱直入，进入了西河，共计大军二十万五千多人，声势十分的浩大。史书上记载是“临河到营，百余里中，钟鼓之声，沸河动地，‘自古军旅之盛，未有斯比’”。张茂选择了避其锋芒的策略，马上向刘曜称臣，并送了许多的财物给刘曜做贡品。刘曜也苦于用兵艰苦就加封张茂为西域大都护、凉王等职。之后，刘曜就班师回长安。
在短时期内用武力征服了关、陇之后，刘曜认为单单凭借军事实力是无法稳固其在西北地区的统治的。于是他听从了汉族知识分子的建议，开始在文化方面来稳固自己的统治。他起用了一些有学识的汉人作官，在长安开办太学，请有学问的人来担任教师，来培养人才。
但正如荀子所说：兼并易而坚凝难。在刘曜统治关陇期间，虽然采取了不少措施但他始终没有一套成型的治国安民的政治措施。这就导致了刘曜的赵政权的统治是十分脆弱的。
特别是在关陇地区稳定后，刘曜就开始有点原型毕漏了。他在刚刚进入关中时对部下的规谏还听得进去，比如他命令起陵宵台，在霸陵西南建寿陵时，侍中乔豫、和苞上疏进谏劝阻，刘曜听了大喜说：“二侍中恳恳有古人风烈矣，可谓社稷之臣也”。于是就停止了这个劳民伤财的工程。但是在平定巴、氐叛乱不久，就开始对大臣们的进谏听不进去了。还在陈安之乱没有平定的时候，刘曜就为其父母建永垣陵、显平陵，花费无数，大臣游子远多次进言停建，但他根本就不听。刘曜在这时就现漏出他根本就不是一个有远大理想的君主。
在与他的最大竞争对手石勒的屡次作战中，多是失败告终。从公元325年开始到公元328年的几年中，刘曜与石勒在北方大战了几场，刘曜是一败再败，丢掉了包括司、豫、徐、兖等州的广大土地。刘曜只保留了关西以及山西的小部分地区。
在328年的十一月，决定刘曜命运的大战开始了，石勒此次发兵三路进攻刘曜。十二月石勒后赵各路大军军集结在成皋，准备攻击，军队迅速开至洛河。但是此时的刘曜却犯了一个致命的错误。也许历史有惊人的巧合，也许刘曜要学习当年的宋襄公，他一没有防备石勒大军渡河，二没有在敌军渡河时发动攻击。等到后赵大军集结部署完毕后，刘曜才连忙调动十万军队驻扎在洛西。石勒就命令他侄子石虎引兵自洛阳城北向西攻击刘曜的中军；命令石堪率兵自城西向北攻击刘曜前锋部队；石勒自己亲自由洛阳阊阖门杀出，夹击刘曜。这下子前赵军队就一败涂地了，而刘曜自己在退兵时由于战马陷进石渠中摔倒在冰上，身上十多处负伤，最后被石堪活捉了。
刘曜可能是历史少有的在不是最后一战中被俘虏的马上皇帝。当他被俘后，石勒让他写信给他的儿子刘熙劝其投降。刘曜在信中却要求刘熙与大臣“匡维社稷，勿以吾易意也”。最后被石勒杀死，刘曜也算是有骨气的汉子。
刘曜本以为，只要刘熙坚守关中，还可同石勒一搏。实际上刘曜错误的高估了自己在关中的统治力量，也高估了儿子刘熙的能力。刘曜战败被俘的消息一传回长安，关中顿时大乱的是一发而不可收拾。各路原来臣服的势力立刻起兵叛变，而刘熙得知刘曜被擒后，慌忙率百官逃到了上都（今甘肃天水市）。不久留守长安的前赵将军蒋英率十万军队投降后赵，几个月后前赵就被后赵给灭了。
刘曜前赵政权是以匈奴为主体继承刘汉的政权，通过征服关、陇地区氐、羌等少数民族政权而建立的。前赵政权建立后，由于没有建立一套系统的措施进行有效的政治统治，因而在石勒的军事打击下，迅速崩溃。刘曜也是死于非命，正是“其兴也勃，其亡也速”。
到刘曜之后，匈奴的刘氏家族就基本上退出了历史舞台，虽然他们曾经有过十分辉煌的成就，也很成功的融入了中原文化，但是由于自身内斗不止，最终没有能够成为统一北方的霸主。只是历史花园中一现的昙花。