劉琨得知司馬睿稱帝，便找到段氏鮮卑歃血為盟，說服他們一同擁護東晉，還派遣外甥溫嶠前去建康(江蘇)向司馬睿獻表投誠。溫嶠的母親不願他離去，死命拽著他，把袖子都扯斷了，但他還是堅決地走了，直到母親去世都沒能再回來。等到了建康，王導和周顗等人十分欣賞他，爭相與他結交。

　　之後風雲突變，段氏發生內訌，段末柸聯合劉琨偷襲自己的哥哥失敗，導致劉琨反被牽連而死。東晉朝廷因為忌憚鮮卑的強悍，不敢給劉琨舉行葬禮，在溫嶠的強烈堅持下，加上段末柸也上書為劉琨喊冤，才在數年後追封了他。山西的晉人也因為劉琨的死不再歸附段氏鮮卑，使他們日漸衰落。

　　前漢劉聰病逝，安排太子劉桀繼位，任命劉曜為丞相，石勒為大將軍。誰知劉聰剛死，國丈靳準就發動叛亂誅殺了劉桀，還將劉氏宗族盡數屠滅——靳準為了這次叛亂籌劃多年，先幫劉桀除掉其他繼承人來贏得信任，然後以宗親大臣密謀改立為由鏟除異己。等到一切都做完，他便帶領親兵闖入后宮，此時已經沒人能夠保護劉桀。

　　劉桀死後，靳準召集百官說道:“自古以來，沒有胡人做皇帝的道理，應該把政權還給晉國。”於是派遣使者聯合東晉:“劉氏不過匈奴小醜，趁著晉國內亂殺害了兩位皇帝，我現在就帶領眾人送回他們的棺木！”

　　劉曜聽說叛亂後立刻從長安趕來，並在到達赤壁(湖北)後登基稱帝，石勒也率領五萬兵馬征討靳準。

　　靳準畏懼石勒，給他送去了天子的車駕和服飾想要求和，石勒沒有理會，還將此事告知了劉曜。劉曜派人前去勸降，靳準由於自己剛殺死劉曜的母親和親屬而不敢歸降，最終在猶豫不決之間被下屬殺害。石勒成功攻入平陽，將劉桀等人的屍首入土安葬，並安排好陵墓的守衛才離開。

　　之後石勒將繳獲的俘虜獻給劉曜，劉曜打算封他為趙王，享受和當年曹操一樣的禮遇，結果有臣子勸他道:“石勒此人外表恭敬忠心，實際上是想窺探咱們的虛實，伺機反叛。”此時的前趙軍隊歷經作戰，已經疲勞不堪，劉曜認為有理，便將石勒派遣的使臣在街市斬首。石勒得知後大怒:“我侍奉劉氏恭敬謹慎，盡到了所有臣下應盡的本分，他們的基業幾乎都是我打下來的，現在卻反過來懷疑我！趙王，我自為之，何須等你來封！”

　　於是雙方斷交，劉曜返回長安建立都城，石勒則接連派遣石虎在河南擊敗祖狄，在山西大破段氏鮮卑，勢力進一步擴大。

　　319年11月，張賓等人聯合上書勸石勒稱帝，石勒正式登上王位，建立了“五胡十六國”中的第三個國家“後趙”。石勒登基後，采用漢人的禮儀制度，但卻將他們看作外人，把胡人稱為國人，不過嚴令胡人不準欺凌漢人。對張賓更是恩遇備至，就連石虎都無法相比，每次和他見面石勒都會先行整理自己的儀容，始終尊稱他為右侯而不敢直呼其名。

　　自此，石勒建立的“後趙”與劉曜的“前趙”開始對峙，雙方你來我往，水火不容。

　　同樣分道揚鑣的還有慕容廆和他同父異母的兄長吐谷(yù)渾，二人本來都居住在遼東的鮮卑地區，結果由於爭奪馬匹發生矛盾，吐谷渾一怒之下帶領部眾向西遷徙。慕容廆很後悔，派人前去向吐谷渾道歉，但為時已晚。之後吐谷渾一路向隴西擴張，將鮮卑的血脈帶到了甘肅地區。他的部眾驍勇善戰，使得周邊的羌、胡二族十分畏懼，於是成功建立了以“吐谷渾”為名的政權。

　　而留在遼東的慕容廆此時正遭遇三方聯軍的圍攻。原來，晉國的平州(遼寧)刺史眼見慕容廆享有聲望，士民大多歸附，內心不安，便暗中遊說高句麗、鮮卑段氏以及鮮卑宇文氏共同討伐他。

　　慕容廆關閉城門，堅守不出，對屬下說道:“高句麗、段氏、宇文氏被晉國誘導，想要攻打我們從中取利。如今他們剛剛會合，銳不可當，不可與之交戰。等到這些烏合之眾士氣盡泄，又沒有統一調度指揮，彼此之間必生猜疑矛盾，到那時我們便可兵不血刃了！”

　　之後慕容廆故意派遣使者隻給宇文氏送去酒肉，引得高句麗和段氏懷疑，匆忙退了兵。兒子慕容翰則率兵駐扎到城外以分散敵人的兵馬。宇文氏素來聽聞慕容翰驍勇，不敢怠慢，果然分出了幾千騎兵前去攻打。慕容翰設好埋伏，然後派人假扮成段氏的使者站在前來的路上作為指引。宇文氏的騎兵看到使者後全都大為歡喜，以為前方已經獲勝，便不再設防地進入了包圍圈。慕容翰伏兵四起， 盡數俘獲了他們，然後通知慕容廆一同反攻，大敗了宇文氏。平州刺史被嚇得逃往高句麗，部眾全部投降，於是慕容廆成功獨佔了遼東。

　　而東晉在北方的其余藩鎮也都被石勒逐一剿滅，勢力進一步縮減，就連洛陽都成了空城。好在還有祖狄，他在與後趙將領割據時使用奇謀，將土盛入布袋中裝作糧草的樣子，大搖大擺地運進了城。當時正值饑荒，後趙的將士已經餓了很長時間，看到晉軍如此富足不由得心生恐懼，終於連夜遁逃。祖狄趁機進取數城，擴大了東晉的疆域，得到了很多百姓的歸附。

　　祖狄在軍中與將士同甘共苦，即使是關系疏遠、地位低賤的人也會以禮相待，對於那些被迫投降後趙之人也不加責問，允許他們首鼠兩端。眾人對他感恩戴德，凡是後趙的密謀都會偷偷告知他。於是黃河以南大多背叛後趙而歸附東晉。

　　石勒忌憚祖狄，特意下令為他的父親修建陵墓以示友好，然後寫信希望雙方能夠互不侵犯並開放貿易。祖狄的部下叛逃後趙，被石勒斬首送了回來，還說:“對於叛臣我深以為恨，您所憎惡的也是我所憎惡的。”祖狄很是感動，所以之後對於石勒那邊的叛臣也不予接納，並禁止部眾侵犯後趙民眾。雙方有如當年的陸抗和羊祜，使得兩國邊境再次安寧起來。

　　中原雖喪亂，但處於蜀地的成漢卻是年年豐收，路不拾遺。皇帝李雄謙卑愛才，知人善任，使得政令清明，百姓富裕。但所設朝廷機構過於粗糙，沒有官階品級，爵位泛濫，政府不負責發放俸祿，允許官吏直接從百姓中取得。