穆帝永和三年（西元347年），桓溫攻滅蜀之成漢國，並且擄獲李勢。穆帝這時候才四歲，輔佐人是皇族長老明帝之弟司馬昱。穆帝是明帝之孫。
司馬昱由於擔心桓溫的勢力過大，為了制衡，於是起用殷浩。殷浩以揚州刺史身份統轄五州軍事，並且趁後趙石虎死後北方混亂之際，發動北伐之軍。
起先，殷浩的北伐甚為順利，這是因為他利用了羌族領袖姚襄的兵力。姚襄原本是後趙的大將，石虎死後歸降東晉。殷浩是借對北方情勢甚為了解的姚襄之力，才有某種程度的戰果。
然而殷浩不但對姚襄多所牽制，並企圖派出刺客暗殺他。想不到刺客反而把這件事情向姚襄透露。姚襄遂對東晉絕望，準備投靠前秦。原來，在苻堅慘敗於淝水之役而返回長安時，向苻堅要求交出傳國之璽的姚萇，正是姚襄的胞弟。
姚襄離去後，殷浩自然一籌莫展。北伐得以順利，完全是靠姚襄羌族軍團出的力。此後，殷浩再無任何實績可言，他的北伐原本就是在勉強狀態下成行的，連有書聖之稱的王羲之都在給他的信中寫道：
——此時與其向外，不如對內使人民獲得休息較為重要。
對殷浩的失敗最感高興的，自然非桓溫莫屬。殷浩是朝廷為了對抗桓溫而安插的一顆棋子。現在這顆棋子失去作用了。桓溫於是將殷浩的罪狀上奏，請求朝廷將他解任。殷浩失敗的事實明顯擺在眼前，朝廷只有將他解任，降為庶人，流放至信安。這是永和十年（西元354年）的事情。
自此以後，東晉江山內外大權全歸桓溫掌握。
殷浩失勢後，桓溫再興北伐之軍。不過他對東晉的實力是頗有自知之明的，即使光復北方，東晉也根本沒有統治的軍力和財力。
「若只是為了蹂躪，這倒辦得到……」
桓溫有了這個想法。如果是以此為目的，就應使用另外的戰略及戰術。他於是率領軍隊攻到長安附近，卻沒有一鼓作氣攻陷長安，而是突然轉變方向，突襲洛陽，暫時佔領了這個地方。
桓溫為何如此做呢？——目的在於博得人心。
自從四十多年前舊都洛陽被異族奪走以來，東晉人民最熱切的心願就是光復北方。完成這件事情的人一定會成為民族英雄。桓溫佔領洛陽後，凱旋迴歸荊州。他已是國內名氣紅透半邊天的人物。不久，他進入首都建康，開始掌管國政。
東晉穆帝不到二十歲就去世，繼位的堂弟司馬丕（哀帝）也在三年後歿故。在這之後即位的是哀帝之弟司馬奕。
桓溫這時已成為大司馬。
——男兒若不能流芳百世，就應遺臭萬年。
據說，桓溫嘴邊常掛著這句話。
想要以禪讓的形態成為天下之主，必須先把自己的力量顯示出來。什麼是最強大的力量呢？——將天子廢立，能夠做到這一點的人，當然是名副其實的大實力者。
皇帝司馬奕身體虛弱。桓溫便製造謠言四處散播：帝有痿疾。
「痿疾」指的是性無能。這樣的皇帝當然不可能傳下皇統，但司馬奕卻有三個兒子，這該做何解釋？
——那些都是將心腹相龍、計好、朱靈寶等人以侍從身份僱用，使之入宮與田氏、孟氏等女官交媾而生的兒子。
桓溫先使這個謠言流傳出去後，才廢了皇帝司馬奕。之後，在他的擁立之下，登基的是多年輔佐穆帝的皇族最大長老司馬昱，是為簡文帝。這個人雖已年逾五十，而且多年擔任國政，但得到的卻是「做事慢吞吞，腦筋不靈光」的批評。桓溫就是看中這一點才立司馬昱為皇帝的——這樣的鈍才當然守不住東晉社稷。
簡文帝即位不久後就病倒。正因為個性溫吞，於即位翌年死去的他，對禪讓之事並沒有做出決定。心急的桓溫，意圖在簡文帝在世期間完成禪讓大事。
——國家之事委由大司馬（指桓溫），如同諸葛武侯、王丞相。
這是簡文帝在遺詔中之語。只說「委由國政」，而沒有說「讓予帝位」。況且語中所提的諸葛武侯（孔明）和王丞相（王導）都是以宰相身份擔任國政的人，兩個人都沒有就帝位。簡文帝之子司馬曜即位，是為孝武帝。
桓溫為之切齒扼腕。
「等著瞧吧！我一定會以自己的實力登上皇帝寶座的！」
不管怎樣，他是一手掌握東晉軍權的人。由於做事溫吞的老頭子欠缺決斷力，所以禪讓之事一時拖延，但這個願望一定會有實現的一天。
然而這個願望始終沒有實現。因為在簡文帝死後翌年，桓溫自己也跟著死了。——這是西元373年的事。
而且，桓家於桓溫死後，發生圍繞著繼位問題而起的爭執，直到後來桓溫之弟桓沖決定讓溫之末子玄繼位，並且由自己擔任輔佐事宜，總算才諸事擺平。雖然桓家勢力因此得以儲存，但想登上皇帝寶座的大計劃卻倒退許多步了。
這段期間以極快速度伸展勢力的，是出身名門的謝安。淝水之役中擊敗前秦苻堅的，就是謝安的侄子謝玄。
孝武帝在位二十四年，這在東晉歷代皇帝中是最長的紀錄。儘管治世期間最長，但治績並不良好，由於他實行的是極端的近臣政治，宮中因而成為佞人之輩的天下。
後宮中最得寵的，是一個叫張貴人的女人，眾女官處處得仰賴這個張貴人的鼻息。一天，喝醉酒的孝武帝卻對張貴人說：
「你已經年華老去了，應該考慮退休，讓年輕人替位吧！」
實際上，孝武帝這句話是鬧著玩的。然而張貴人卻不做如是想。長久居於後宮的她，精神已經畸形化了。對她而言，權勢是比生命還重要的東西，權力一旦被奪，生命便無意義。
結果，張貴人命令婢女，用棉被把皇帝活活悶死。