然而，洛陽實質上的支配者是那個有虐待傾向的張方。離開河間王而獨立的張方，此時已是一方之霸，洛陽在他及下屬官兵的掠奪之下，已跡近荒廢的程度。張方因而挾惠帝、皇太弟成都王及豫章王，遷都至長安。
皇帝和皇族都不得不聽這個蠻橫無道的張方之指揮。張方再度把剛回歸原位的皇后羊氏廢掉。此外，他也廢除成都王的皇太弟之位，改立武帝二十五子豫章王司馬熾為皇太弟。這麼做的目的，是要顯示自己的力量。
被廢皇太弟之位的成都王，離開長安東歸。並在東方策劃捲土重來。以前曾與成都王交戰而一敗塗地的東海王司馬越也舉兵了。時間就在這個情況下進入永興三年（西元306年）。
東方諸軍以「除君側之奸」為舉兵口號。君側之奸，指的當然是在長安言行舉止旁若無人的張方。
如果殺死張方，應該足以與東方和解才對。
對張方的恩將仇報極為憤慨的河間王，與同樣對張方憎恨入骨的畢垣商量的結果，決定派出刺客，結果順利取下張方的項上人頭。河間王將其首級送至東海王處，並提議和解，東海王卻不接受此議。舉兵討西之事業已就緒，而且長安正處於極端混亂的狀態之下，一旦開打，絕無打不贏之理——這是東海王的如意算盤。
在東海王討西軍部將祁弘的手下，絕大部分是鮮卑族人，他們越關，在灞水河畔大破河間王軍，然後進入長安城。據傳，祁弘部下的鮮卑族兵，在長安屠殺了兩萬多人。河間王司馬顒逃至太白山。
祁弘等人以牛車載著惠帝，由長安回到洛陽。抵達洛陽已是炎炎夏日的六月一日。數度被廢的羊皇后，又迴歸原位。政府行大赦，並且改元為「光熙」。
十月，成都王司馬穎受賜死，偽造詔勅的是東海王部下一個叫劉輿的人。司馬穎是第六個被殺的王。
十一月，惠帝因食物中毒而死，享年四十八歲。好不容易回到洛陽的他，不到半年就辭世。繼位的是皇太弟豫章王司馬熾，是為懷帝。
十二月，河間王司馬顒被殺——第七個消失的王。東海王司馬越原本建議河間王就司徒（與首相同格）之位，而河間王也正有此意。一度逃至太白山的他，再也不想過著修羅場一般的日子。他想丟棄野心，安度餘生。然而，他卻為胞弟南陽王司馬模所殺。
司馬模為何殺死胞兄？因為他認為這位兄長是充滿野心的人。河間王過去的所作所為，的確令人如是想。雖然他宣佈「我已完全丟棄野心」，但這個弟弟是不會輕易相信他的。
倘若野心勃勃的哥哥再度造反，其結果將引來「誅殺三族」之刑。也就是說，自己便要因哥哥而遭殃。
——這麼做是為了所有的親屬。
南陽王或許是以此為藉口吧？他派遣名叫梁臣的部下前往新安縣迎接，在該地將胞兄河間王及他的三個孩子殺了。
為求自己平安，殺死胞兄和侄兒——實際上，這樣的事情在司馬一族一如家常便飯。這樣的王朝，誰不唾棄呢？
事實上，在八王之亂還沒有嚴重到極點時，就有人對這個王朝感覺厭惡了。這個人叫張軌。
他在中央政府一路平步青雲，幹到散騎常侍的地位，卻志願請調當邊境之地的首長——涼州刺史（甘肅省地區首長）。他的朋友莫不為此而感到訝異。
「涼州是非常偏僻的地方，那個地方有鮮卑族人，而且盜賊橫行。到那樣的地方去，絕對無法過像樣的生活呀！趁現在還來得及，你趕快撤回申請吧！」
朋友紛紛忠告張軌。
「難道在這個洛陽就能過像樣的生活嗎？你們看著吧！人與人之間像野獸爭食般的醜惡鬥爭，很快就會蔓延開來。到時候，你再怎麼戒慎，也難免被捲入漩渦。與其如此，不如到邊疆去。這樣不是比較安全嗎？」
張軌心中如是想著，卻沒有把它說出。這種不祥的預言，當然是不能說出來的。他莞爾一笑，回答道：「我有自己的想法。我已經這樣決定了。」
張軌於永康二年（西元301年）正月赴任。那是趙王司馬倫正在散佈「神諭」的時候。隨後張軌在涼州宣佈獨立。事實上，他是被情勢所逼，因為以洛陽為中心的晉王朝發生大亂，中央威令根本不能達到西北邊境。
到張軌的兒子繼任時，開始以涼王自稱，並且建立了地方性的小王朝。這個地方後來更出現五個以涼朝為名的小王朝，被統稱為「五涼」。張軌之子建立的王朝，為與餘者區別，被稱為「前涼」。
對晉王朝失望的，不只張軌一人。連自漢代以來就與中原漢族政權保持友好關係的南匈奴領袖，也對晉王朝的紊亂情形大為失望，因而與之斷絕友好關係。
出生於南匈奴單于家庭的劉淵，據傳在學識上是同時代的漢人無人能望其項背的領袖人物。如此英才的劉淵，在成都王司馬穎麾下，以冠軍將軍身份駐屯於鄴。劉淵的兒子劉聰於年輕時代求學洛陽，同樣是文武全才，從成都王任劉聰為積弩將軍即可見其才華之高。
——今司馬氏骨肉相殘，四海鼎沸。
匈奴長老們認為：這是獨立的良機。晉王朝正呈現大混亂狀態，而匈奴有劉淵、劉聰這對不世出的領導人，如此良機怎能錯過？
西元304年10月，劉淵與成都王（也就是晉王朝）決裂，以左國城為據地獨立。左國城在今山西省離石縣附近。
漢——劉淵以此為國號。
往昔漢的皇帝，曾經與匈奴單于締結兄弟之盟。劉淵重視這個緣分，所以定了這個國號。劉淵就漢王之位，並且定元號為「元熙」。他在施政上的一切，都沿襲漢的制度。