在朱元璋和陳友諒打得你死我活之時，張士誠一直按兵不動，隔岸觀火。等當朱元璋消滅了陳友諒之後，張士誠這才大夢初醒，於是在至正二十五年（1365年）春季，派遣大將李伯升率領二十萬大軍進攻朱元璋的領地新城（今浙江諸暨南）。張士誠主動打響了第一槍，他與朱元璋之間的爭霸賽也就這樣拉開了。
李文忠得知情況後，立即率領朱亮祖等猛將，火速救援新城，並在離新城十里之處安營紮寨。
胡德濟（胡大海的養子）派人來見李文忠，說敵人士氣很高，勢頭正盛，不宜跟他們正面發生衝突，而是應當駐紮此地，等待大軍，到時候見機行事。
朱文忠並不同意，說道：「從前謝玄率領八千兵馬打敗苻堅百萬，兵貴精，而不在多。」
「昔謝玄以兵八千破苻堅百萬，兵在精，不在眾。」（《明太祖實錄》）
於是，李文忠下令全軍晚上好好飽餐一頓，明日一早與敵軍決戰。
說來也巧，次日一早，大霧籠罩著大地，看不清對方情勢，朱文忠當即召集諸將，仰天發誓道：「勝敗在此一舉，我不敢貪生而死於三軍之後。」說完，便身先士卒地衝向敵軍。
這時，處州援兵也剛剛趕到，一見如此形勢，連忙跟著一起衝鋒，奮勇搏擊。
李文忠勇猛無敵，只見他橫握長矛，率領數十名精銳騎兵，從高處賓士而下，就像一把利劍插在敵軍之中。敵軍精銳騎兵見李文忠人數不多，於是紛紛上前，將他們重重包圍。
李文忠毫不畏懼，帶領騎兵向外猛衝，所向披靡，殺敵甚多。
城中守軍們站在城頭上看得一清二楚，連忙擂鼓吶喊，跟著開啟城門，猛然衝向敵軍。張士誠大軍見勢不好，紛紛潰退。
史書上記載，李文忠追擊敵軍數十里，俘獲敵將領六百，士兵三千，斬首數萬人，收繳的糧草不計其數，那裡的溪水都被染成了血色。
有道是「上陣父子兵」，李文忠是朱元璋的外甥，當時張士誠的陣營中也有一個養子叫作「五太子」，與李文忠相比，可就相去甚遠了。
據說五太子身材不高，但是彈跳力極佳，還能潛水幾天幾夜不吃不喝，被百姓們傳說得神乎其神，可是這一仗打下來，他什麼本領也沒有發揮，就丟盔棄甲地逃走了。
當時張士誠的地盤南至紹興，與方國珍接壤，向北超過徐州，到達濟寧的金溝，西至汝寧府、潁州、濠州、泗州，東邊直到大海，縱橫兩千餘里，屬地不少，但是這人氣魄不大，不敢像陳友諒那樣跟朱元璋拼命死磕到底，吃了一次敗仗之後，便調整了策略，不再主動進攻，而是聯動各個城市，遙相呼應，積極防守。
朱元璋一下看出了張士誠的意圖——既然你張士誠龜縮不出，那麼正好利用這個時機調兵遣將，做好各種軍事部署。
朱元璋當時定下來的策略是分三步走：第一步，攻取東吳北境淮水流域，消滅張士誠長江南北的外圍勢力，使張士誠侷限於長江之南。
第二步，分兵攻取杭州、湖州等地，切斷張士誠的左右臂膀，然後造成北、西、南三面合圍平江的局勢。
第三步，全面合圍平江，將張士誠連根拔起。
至正二十四年（1364年），朱元璋拜徐達為左相國，命其再次率軍圍攻廬州。
此次圍攻廬州與上次有所不同——畢竟已經消滅了陳友諒，沒有了後顧之憂，而且朱元璋部隊士氣正高，所向披靡，輕而易舉地攻克了廬州城，還一鼓作氣連下江陵、辰州、衡州等地，平定了湖、湘。