小徐仗著老段的信任，在國務院一手遮天是人所皆知，偏偏遇到孫洪伊也是眼高手低的朋友，他的為人爭強好勝，而且政治能量也不小，用當時人的話來說，這兩位在一起，幾乎就是「日日在火併之中」。
老孫是直隸人，年紀比小徐大十歲，哪裡看得慣小徐這個囂張勁。兩人的日常口角就不消說了，這裡說幾次大的衝突。第一次衝突是徐樹錚擅自以國務院的名義釋出調令、命廣東、福建、江西、湖南四省軍隊會剿護法軍李烈鈞部的事情引起。本來這事已經在國務會議上討論過，決議是去電調解，而小徐卻私自擬了一個討伐的命令拿給黎總統蓋印，結果被拒絕了。小徐一怒之下竟然擅自以國務院的名義將討伐之令發出，結果引起其他內閣成員的一片譁然，孫洪伊當面指責小徐違法越權，而小徐也不甘示弱，兩人就此結下樑子。
緊接著，在8月下旬的時候，眾議院將湖南議員提出的一個議案轉給了國務院，其中對現任福建省長的胡瑞霖提出查辦要求，理由是其在任湖南財政廳長時有貪汙等劣跡。胡瑞霖是皖系的人，徐樹錚接到議案後擅自以國務院的名義為胡瑞霖辯護，並將議案駁回。
孫洪伊得知後十分惱怒，他怒氣衝衝的找到老段說：「對民政長官的處分問題屬於內務部的職權，我自己分管的事情，我竟然一點都不知道，這算哪門子王法？如果秘書長可以包辦一切，那我這個內務總長還做它作甚？」黎總統得知此事後，也召見並慰留孫洪伊說：「就是啊，現在哪裡是責任內閣制，簡直就是責任秘書長制嘛！」
被這麼一鬧，老段也覺得這事做得荒唐，隨即命小徐將諮文追回，徐樹錚表面上答應，實際上卻不了了之。由此，孫洪伊又和老段卯上了。
中國的事情，就是千萬不要輕視了小人物的作用，千里之堤潰於蟻穴，從古至今，有多少大人物是被小人物給拖下水並一蹶不振的！徐樹錚和孫洪伊兩人在前臺鬥法，兩位後臺老闆免不了在私下裡抱怨，段祺瑞說：「這孫總長也太不象話了！」黎元洪則說：「徐秘書長未免欺人太甚！」
一個月後，孫洪伊為整頓內務部，裁減了部裡的三十多名職員。由於這些被裁者大都和北洋系的頭頭腦腦有著這樣或那樣的關係，他們豈能善罷甘休，而徐樹錚也想利用他們來把孫洪伊給搞下去，於是便慫恿他們向平政院上訴。結果，平政院裁定撤銷內務部原令，被解職的那些人仍舊回去上班。
平政院是袁世凱時期設立的一個政治仲裁結構，孫洪伊不但不接受這樣的裁定，反認為平政院是一個非法機構，隨後他擬將此案提交國會審議。徐樹錚害怕國會接受孫洪伊的意見，於是決定先下手為強，他在經過老段的同意後擬定了一道執行平政院裁決的命令，準備交總統府批准。
徐樹錚的這道命令，不但內務總長孫洪伊拒絕副署，黎總統也拒絕蓋印，府、院之間反覆爭執，釀成**。老段自上次就對孫洪伊十分不滿，於是暗地裡給孫傳話，讓他辭職算了。但是，孫洪伊非但認為自己沒有錯，而且口氣十分強硬，拒不辭職。
老段這回真動怒了，他在十月中旬下了一道將孫洪伊免職的命令，讓小徐拿給黎總統蓋印。黎總統見後十分震驚，堅決不肯用印。徐樹錚為這事來回跑了四趟，黎總統連拒四次，絲毫不肯讓步。最後一次，徐樹錚威脅黎元洪說：「總統不肯蓋印也無妨，以後我們不準孫洪伊參加國務會議！」黎總統大怒：「你說的這是什麼話？！」徐樹錚冷笑道：「什麼話？這是段總理的原話！」
過了幾天，很少到總統府的段總理突然氣呼呼的出現在黎總統的面前，他拿著將孫洪伊免職的命令交給黎元洪，說：「總統要是不肯免孫洪伊的職，那就把我免職了吧！」
老段下了最後通牒，黎總統也只好退讓，不過他還想給雙方留點餘地，也給自己爭回點面子，於是他建議：「免職令還是不下的好，讓他自動辭職吧！我來給他做做工作！」
偏偏孫洪伊這位也是個死硬派，他死活不肯主動辭職，還大聲嚷嚷道：「什麼官我都可以不做，只要維持我的人格！我不辭職，不出洋，不外調！」
黎總統也說服不了他，這下事情鬧僵了。一方面，要是不把孫洪伊趕出內閣的話，段總理的面子沒地方放，以後也就沒了威信；另一方面，孫總長堅持自己沒有錯，主動辭職就是失卻人格。雙方都不肯妥協，把黎總統夾在中間，左右為難，束手無策。
最後，黎元洪只好把北洋系的大佬徐世昌給請出來，希望他來調解這個糾紛。徐世昌是個老官僚，見多識廣，他一眼就看出了其中的問題所在。於是，徐世昌提出一個方案，那就是將孫洪伊和徐樹錚同時免職，原總統府的秘書長張國淦出任國務院的秘書長。張國淦與府院之間的關係都不錯，由他出任國務院秘書長的話，雙方的溝通就相對好很多了。
老段用人，從來就是「用人不疑、疑人不用」，他對部下的袒護是出了名的。對於徐世昌的提議，老段開始不同意，因為他並不希望徐樹錚被免職。直到後來國會要彈劾徐樹錚，老段才不情願的同意了這個方案，但又加了一條，那就是將總統府秘書長、號稱黎元洪「四大金剛」之一的丁世鐸也一併免職。
11月下旬，孫洪伊、徐樹錚、丁世鐸三人先後被免職。老段這次以一換二，而且徐樹錚仍舊是陸軍次長，勉強佔了上風。至於被免職的孫洪伊，他轉身又回到了國會，仍舊對老段不停的發難。