朱元璋攻佔了淮北一帶，又拿下了老家濠州，想要進一步攻取蘇州（即張士誠的平江），徹底消滅張士誠，於是召集百官，商討如何開展下一階段的工作。
這個時候，右丞相李善長說道：「我們討伐張士誠很久了，雖然他吃了幾次敗仗，但是兵力卻不衰減，而且他的土地肥沃、百姓富裕，他又有許多儲備，一時之間恐怕很難將他連根拔起，我們應該等待時機再行動。」
「張氏宜討久矣，然其勢雖屢屈而兵力未衰，土沃民富，又多儲積，恐難猝拔，宜俟隙而動。」（《明太祖實錄》）
可是，左丞相徐達的看法卻和他有所不同，他說：「張士誠十分驕傲蠻橫，生活上十分驕奢淫逸，這就是上天要滅亡他的時候了。他手下的那些驕橫將領如李伯升、呂珍等人，都是齷齪小人，僅僅是擁有兵眾卻只知道娛樂罷了，不足掛齒！他在朝中任用黃、蔡、葉三參軍，都是不知變通的迂腐書生，不知大計。我奉主上威德，率領精銳部隊，對他們的罪行進行聲討，則張士誠不用多長時間便可以平定。」
「張氏驕橫，暴殄奢侈，此天亡之時也。其所任驕將如李伯升、呂珍之徒，皆齷齪不足數，徒擁兵眾為富貴之娛耳！其居中用事者，黃、蔡、葉三參軍輩，迂闊書生，不知大計。臣奉主上威德，率精銳之師，聲罪致討，三吳可計日而定。」（《明太祖實錄》）
左右丞相對於討伐張士誠的意見有所不同，但是相比之下，徐達的分析更為知己知彼，合情合理，當然也更容易獲得朱元璋的支援。
元至正二十六年（1366年）九月，朱元璋命令徐達為大將軍，常遇春為副將軍，集中二十萬優勢兵力出征，想要一舉消滅張士誠。
張士誠的實力無法跟陳友諒相比，但是也絕不能輕敵，不然也有可能陰溝裡翻船的。
朱元璋這人向來計謀很多，而且是個軍事天才，出征之前，他召集手下將士佈置征討大計。佈置完畢後，他還特地交代了一件事情：你們討伐張士誠的時候，要特別告誡士兵，不要肆意搶劫百姓，不要隨便殺戮百姓，不要開啟百姓墳墓，不要毀壞百姓房屋。我聽說張士誠母親的墳墓就在姑蘇城外，你們千萬不要去毀壞她的墳墓。你們千萬不要忘記我說的話。
「卿等討張士誠，戒飭士卒，勿肆虜掠，勿妄殺戮，勿發丘壠，勿毀廬舍。聞士誠母葬姑蘇城外，慎無侵毀其墓。汝等勿忘吾言。」（《明太祖實錄》）
朱元璋說完後，還特地用眼神關照了一下常遇春，意思是說：「你小子雖然是個不世出的猛將，但是也有個惡習，就是喜歡殺降。每次攻下城池，必行殺戮。倘若你這次惡習不改，還要殺降的話，我決饒不了你。」
常遇春不是傻子，他看到朱元璋特地用眼神關照了一下自己，自然知道他的用意，於是低下頭，不敢與之爭辯。
待一切事宜安排完畢之後，眾人紛紛離去，徐達和常遇春也準備打道回府，各自準備出征事宜，可是又被朱元璋叫住了。
朱元璋特地留下徐達、常遇春和幾個重要將領，說道：「此次出征張士誠，諸位想要如何攻打？」