大明洪武六年（西元1373年）正月，做了三年中書省參知政事的胡惟庸驚訝地發現——帝國人事出現了異動。皇帝朱元璋以「廣洋無所建白，久之」（《明史》）為由將右丞相汪廣洋貶為廣東行省參政。丞相一職暫時空缺，甚至春天已然過去，夏天也如火如荼地到來之時，朱元璋也不明下紅標頭檔案，指定新的人選來主持中書省的工作。作為參知政事的胡惟庸一邊幹著中書省的實際工作，一邊感慨帝國權力場的情境變得微妙起來。
帝國建立伊始，中書省第一屆權力格局為左丞相李善長加右丞相徐達。這李善長是朱元璋的淮西老鄉和兒女親家，朱元璋當年起兵自立為吳王時，就以李善長為右相國，居百官之首（彼時官階品秩尚右，故有此說）。洪武三年(西元1370年)，朱元璋封李善長為韓國公,歲祿四千石，子孫世襲；予鐵卷，免二死，子免一死。意思是朱元璋在洪武三年時特賜李善長一方鐵製的憑券，上面標明李善長若犯事可享免除兩次死刑、他兒子免除一次死刑的政治待遇。甚至朱元璋評價李善長時稱之為「在世蕭何」，這個評價可謂盛譽。的確，在過去的戎馬歲月中，李善長雖然只負責軍隊糧餉的供應，卻深得朱元璋信賴。但世事變幻莫測，李善長的丞相竟只做到洪武四年，隨後就戛然而止了。那一年，他以疾致仕（退休），時年五十八歲。朱元璋也沒有做出什麼挽留的表示，而是很快批准了他的病休報告。事實上李善長的病也不是什麼大病，因為他在病好之後開始專門負責籌建臨濠（今安徽省鳳陽縣，朱元璋老家）宮殿事宜。在當時，朱元璋遷徙了江南十四萬富饒人家到臨濠去，以充實、發展他老家的生產和經濟，又讓李善長專門負責這件事。雖然籌建臨濠宮殿之事也很重要，不過和一國之相所要承擔的責任和榮譽相比，很顯然，李善長是被棄用了。並且這樣的棄用是用一種很委婉的方式表現出來。其實在帝國權力場，類似的事情是很敏感的，外人不便深究，當事人又不願細說，便成為官場的禁忌話題之一，人人熟視無睹，多作不感興趣狀。
應該說胡惟庸在心裡對此事是很有好奇心的。這不僅僅是出於獵奇的本能，還在於跟自己有利害關係。因為說到底他是李善長一派的，也就是所謂的淮西派。李善長是定遠（今安徽省境內）人，元末時就追隨朱元璋做了他的幕府掌書記。李善長一步步發達後，追隨他的人就被稱作淮西派。李善長當年在位時，曾經提拔同為安徽定遠人的胡惟庸為太常少卿，不久又升其為太常寺卿。甚至胡惟庸後來任職中書省參知政事，也是李善長力薦的，所以胡惟庸可稱之為鐵桿的淮西派。其實在李善長去位前，胡惟庸聽到一個小道訊息，說李曾被朱元璋告誡說：「人之一心，極艱檢點，心為身之主，若一事不合理，則百事皆廢，所以常自檢點，凡事必求至當。」這是朱元璋暗示李善長要激流勇退的意思；而另一個小道訊息則是說作為淮西派的李善長和作為浙東派的劉基在處理中書都事李彬犯法一事上兩人意見不合，導致劉基告老還鄉。而皇帝因為李善長和李彬有私交心生不喜，故而將他也罷了去。小道訊息終歸是小道訊息，不可以作為聖心難測的依據，也不可以作為李善長仕途坎坷的一個證明。胡惟庸在洪武初年深陷仕途謎霧，只是想為自己找一個出路而已。
李善長走後，接位之人是汪廣洋。中書省進入第二屆權力格局——左丞相汪廣洋加右丞相楊憲。胡惟庸注意到，汪廣洋是在陝西參政任上匆匆趕回京城赴任的。皇帝沒有起用他這個中書省參知政事而是外調一個地方幹部入京，胡惟庸也談不上有多大失望。因為他隱隱感到，淮西派的去勢勢必會波及於他。他和李善長是一榮俱榮、一損俱損的關係。官場上的事情多是這樣，什麼派系什麼出身遠勝於工作能力。汪廣洋雖然算起來也是個老部下，朱元璋起家時他便追隨左右，曾被朱元璋聘為元帥府令史、江南行省提控等官職，也曾受命參與常遇春軍務，可畢竟官職都不高。洪武元年(西元1368年)，大將軍徐達平定山東，朱元璋命汪廣洋署理山東行省。洪武二年汪廣洋參政陝西，三年召為中書省左丞。其實要論官場履歷，胡惟庸覺得自己並不遜色於汪廣洋，何況他還有在中書省的實踐工作經驗。可是，為何偏偏是汪廣洋受寵於皇帝呢？
胡惟庸注意到，和李善長粗通文墨相比，汪廣洋的文化程度要高得多。他是元末進士。通經能文，詩寫得好，隸書也相當不錯。或許丞相一職還是需要文人來擔任吧。坊間流傳，至正十五年（西元1355年）朱元璋渡江，打下采石磯後向汪廣洋問計，汪獻上「高築牆廣積糧」這一定國安邦之計，最終助朱元璋奪得天下。雖然另有一種說法是劉基向朱元璋進呈此計的，但胡惟庸觀察，汪廣洋和劉基很可能英雄所見略同，要不然皇帝也不會對其如此器重，破格提拔。其實要論蛛絲馬跡，在洪武三年朱元璋封賞百官的舉動中也是可以初見端倪，同年冬月，汪廣洋被朱元璋封為護軍忠勤伯。朱元璋在給他的封誥詞中說，汪廣洋「善治繁劇，屢獻忠謀，比之子房、孔明」（見《明史》）。子房、孔明是什麼人，都是名相，這就為汪廣洋拜相打好了輿論基礎。但汪廣洋拜相後，卻和他的搭檔楊憲形成了強烈的性格反差。楊憲是右相，按級別低於他這個左相。如果將汪廣洋比之於一國總理的話，楊憲相當於副總理。只是這個副總理性格霸道，不甘心做一個副手。其實也難怪，要論資歷，楊憲也是從戰爭年代走過來的老幹部了。元末至正十六年(西元1356年)，朱元璋攻克建康（今江蘇省南京市），楊憲來投，和當時的李善長一樣，追隨朱元璋做了他幕府的掌書記。並且很快，楊憲因為辦事幹練，成了朱元璋的親信。1367年，朱元璋派自己的外甥李文忠擔任浙東行省右丞，又讓楊憲隨行輔佐，同時，命其暗中監督李文忠的所作所為。從這當中可以看出，朱元璋對楊憲那是相當的信任。楊憲後來舉報李文忠啟用曾在張士誠手下做過事的儒士屠性、孫履、許元、王天錫和王橚等人任職，是政治上不成熟的表現，也是新政權的隱憂，希望朱元璋能夠採取斷然措施，以防後患。朱元璋接報後，立刻派人將這五個「內奸」押解進京，隨後下令處死屠性、孫履二人，其餘三人充軍發配。而楊憲得到朱元璋寵信後，仕途也步步高昇。他早在洪武元年(西元1368年)就任中書參知政事，進入中書省的時間比胡惟庸還早。楊憲在中書省工作期間，罷舊吏，用親信，做事獨斷專行，並不將李善長放在眼裡，他甚至多次向朱元璋打小報告說：「李善長無大才，不堪為相。」這其實是有他隱秘政治野心在的。那就是打倒李善長，自己取而代之。對於這一點，不光李善長，連胡惟庸也看得很明白。當李善長還在臺上時，胡惟庸就曾憂心忡忡地對他說：「楊憲為相，我等淮人不得為大官矣。」胡惟庸之所以要著重強調「我等淮人」，那是意有所指的。楊憲雖是太原陽曲（今山西省太原市）人，政治派別上卻屬浙東集團（劉基）。他要是為相，淮西集團自然要被打壓下去，所以胡惟庸才擔憂。
的確，胡惟庸不是杞人憂天。楊憲上臺後，不僅打壓淮人，連中間派、他的頂頭上司汪廣洋也沒有放過。汪廣洋雖然明知自己的職位在楊憲之上，凡事讓楊憲拿主意，自己只做一個空頭宰相。但楊憲卻讓他空頭宰相都做不下去。他隨後指使侍御史劉炳以「奉母無狀」（見《明史》）的罪名彈劾汪廣洋，指其不孝。汪廣洋於是被貶到海南，而楊憲也如自己所願做了左丞相——胡惟庸最擔心的情形出現了。但是，誰都沒想到，就在這個時候李善長出招了，他向皇帝上疏稱侍御史劉炳彈劾汪廣洋是受楊憲唆使，而所謂的罪名也是莫須有的。李善長稱楊憲為人奸詐、任人唯親、擾亂朝綱，此人不去，實為大明之患。李善長的上疏應該說是個風險很大的舉動。作為已經下野的前高官，和正在臺上深得聖眷的第一丞相較量，勝負自是難料。而就在此時，另外一件不利於楊憲的事情發生了。他的外甥在科考中因為公然抄襲被抓，楊憲為了遮醜親自審理此案，試圖大事化小、小事化了。朱元璋在接到李善長的上疏後宣佈改由胡惟庸來接手這樁科考舞弊案。胡惟庸值此關鍵時刻，沒有和稀泥，而是深刻領會到皇帝朱元璋那一絲隱秘意圖和李善長呼之欲出的良苦用心，查出楊憲在審理其外甥科考案中存在徇私舞弊的情形，並建議皇上嚴懲。朱元璋果然嚴厲處置，不僅罷了楊憲的職，還抄了他的家，甚至親自下令處決楊憲，同時，宣佈召回汪廣洋。中書省的權力格局由此大變，汪廣洋重新上位為丞相，全面主持中書省的工作。但汪廣洋從地處荒僻的海南迴來後一直戰戰兢兢，凡事不敢自己做主，其懦弱程度比楊憲在時有過之而無不及，以致於朱元璋不得不在洪武六年（西元1373年）正月下文將汪廣洋貶為廣東行省參政。如此一來在中書省裡，老資格的官員就剩下胡惟庸一人了。在從正月到七月那漫長的六個月裡，朱元璋「久不置相」，冷眼旁觀胡惟庸的所作所為。胡惟庸暗夜裡也無數次地回顧自己的人生履歷：先是朱元璋元帥府奏差、寧國縣主簿、寧國縣令、吉安通判、湖廣僉事，然後是太常少卿、太常寺卿，最後為中書省參知政事。說起來也算是從基層一步步走到正部級崗位上的，離位極人臣其實只有一步之遙。胡惟庸大約是期待那個相位的，又似乎有些恐懼。因為丞相這個位置說到底禍福相依。從李善長、徐達、汪廣洋到楊憲，沒有一個人可以久居其位。有人為它顛簸流離，甚至有人為它掉了腦袋。可真要斷了念想，胡惟庸似乎有些不甘心。畢竟是凡人，於名利多是有追求的。
洪武六年（西元1373年）七月，朱元璋下文，任命胡惟庸為右丞相，左丞相一職暫時空缺。胡惟庸自此開始全面主持中書省的日常工作，長嘆一口氣，覺得自己可以有所作為了。