陳果夫與陳立夫兄弟倆的婚姻情調雖各不同，但都是幸福的。他們在婚後，各自組織了自己的家庭，在家庭生活中，夫妻之間能相親相愛，並始終如一，白頭偕老。二陳在私生活方面都十分嚴謹，既不尋花問柳，也不移情他戀，這在國民黨高層官僚中是不多見的。而朱明與孫祿卿都能很好地操持家務，照顧丈夫，教養子女，並從不干預丈夫的政務。他們的丈夫都是國民黨的高官顯貴，而她們卻都默默無聞，這在國民黨高層官僚家庭中也是不多見的。
紅的發紫的人物
陳立夫到達廣州的時候，正值國民黨第二次全國代表大會召開，蔣介石以東征英雄的面目出現，當選為中央執行委員、常委，成為國民黨的重要領袖人物，為各方所注目。但也就在蔣介石權力不斷上升的時候，他開始日益處於各種矛盾的包圍之中。首先，蔣介石壓制工農運動，排斥共產黨人，與共產黨的矛盾日益尖銳；其次，蔣介石獨斷專行，與蘇聯顧問的矛盾也日益顯露；另外，蔣介石爭權奪利，與汪精衛的矛盾不斷加深，與其他各軍的矛盾也日益不可調合。這些，都使蔣介石感到進退維谷，惶惶不可終日，他處心積慮，尋找擺脫困境的辦法。
對於蔣介石的焦急心情，陳立夫深深理解，作為機要秘書，他也在想辦法，希望為他的主子分憂解難。但一時又拿不出好的主意，只能說些勸解的話，以寬慰蔣介石的心。
1926年初，在軍費分配和出師北伐等重大問題上，蔣介石與蘇聯顧問季山嘉發生分歧，各不相讓，而汪精衛則在旁幸災樂禍，流露出明顯偏袒季山嘉的傾向，使得蔣介石心中十分不高興，暗恨汪精衛。
孫先生一故去，蔣介石立即背叛了三民主義。不久，汪精衛、季山嘉以主持第七軍作為誘餌，拉攏蔣介石第一軍中第二師師長王懋功，使蔣介石生疑。於是，蔣介石一紙命令，將王懋功職務解除，並限時要他離開廣州。汪精衛則針鋒相對，以販賣私鹽的罪證，將蔣介石的把兄、虎門要塞司令陳肇英撤除職務。蔣汪一時劍拔弩張，雙方之間氣氛頗為緊張。
當時，廣州地區也傳出一些謠言，說中共已與季山嘉、汪精衛商量好，要從蔣介石第一軍中撤出共產黨員，另與汪精衛合組國共軍隊，以孤立蔣介石；還有說蔣介石要到蘇聯去休養等。那時，國民黨內一般政治人物要下臺，常以出國考察、休養的方式被放逐，多疑的蔣介石認為自己已經處於危險的境地，必須採取辦法，脫離險境。
面對各種矛盾，蔣介石陷入無可奈何花落去的境地，但他又不願就此甘休，他要戰勝各種對手，以竊取國民革命的最高權力。經過一番考慮，蔣介石決定重施以前那種以退為進的伎倆，想以辭職、出國相威脅，來達到自己的目的。1926年2月1日，國民黨軍事委員會任命蔣介石為「國民革命軍總監」，蔣則於8日表示不就職，9日，更呈請辭去「軍事委員會委員」及「廣州衛戍司令」兩職，要求赴俄休養，企圖以此要挾汪精衛，使汪不好下臺。汪精衛十分清楚蔣介石的用心，對他的辭職，不予明確答覆，只是例行公事式地勸他「不宜辭職」，並不堅持挽留，這樣一來，倒使蔣介石去之不可，留也無益，陷入十分尷尬的境地，回來後，蔣介石在日記裡寫道：「頃聆季新（指汪精衛）言，有諷餘離粵語，其受讒已深，無法自解，可奈何！」至此，蔣介石確信，汪精衛在共產黨和蘇聯顧問支援下，要除掉自己。經過再三考慮，他決定還是離開廣州。
蔣介石即命陳立夫購買了日輪廬山丸的船票，並攜帶現款3萬元，坐汽車到天字碼頭，準備乘船離開廣州，先到香港，再由香港搭船去海參崴。
3月19日，蔣介石收拾行裝，帶著陳立夫，滿心不快地乘車前往廣州長堤碼頭。一路上，蔣介石沉悶著臉，默不作聲，陳立夫也不好說什麼，當時的心情，按陳立夫後來的回憶說，剛開始，他想到放棄工程師的職業，到廣州幫蔣介石，實踐總理計劃，是間接達到自己的志願，但幾個月的政治實踐，「使我大失所望，政治原來是這樣汙穢」，後來又想，既然搞了政治，再汙穢也不能放棄，要堅持幹。因此，當車快要到碼頭時，陳立夫忍不住問蔣介石：「校長，為什麼我們一定得走？軍事權在校長掌握之中，為什麼我們不幹一下？」
蔣介石聽後，似有所悟，即命司機掉轉車頭，開回寓所。但當車往回開了一會的時候，蔣介石又變了卦，吩咐司機再轉頭，重新開往碼頭。陳立夫沒有蔣介石考慮的那麼複雜，他只覺得干政治，就不蔣介石一副萬水千山胸中握的姿態，開採他的「革命之礦」，卻是對內的派系鬥爭，對外的一致「反共」。能輕易放棄，於是又鼓足勇氣，勸蔣介石道：「我們如果走了，總理所交給校長的任務將由誰來擔負呢？」蔣介石聽了沉吟不語，想了又想，最後下了決心，壓低聲音對司機說：「開回東山公館。」對這件事，陳立夫本人後來在國民黨上海市黨部一次演說時也承認，當時，「在車上他勸蔣先生幹，有兵為什麼不幹？汽車到了碼頭，蔣先生幡然下決心，重新回到家中發動三月二十日之變」。對於陳立夫這個說法，雖然蔣介石後來否認，說陳立夫是小孩子，不懂事，但這個事實是存在的。當時廣州城內由國民黨右派傳出的一些謠言，也有所謂要將蔣介石和陳立夫劫往海參崴的內容，而且說已經為他們二人準備了前往蘇聯的護照，陳立夫早就將自己綁在了蔣介石的戰車上，他開始仇視共產黨，在這種心理的支配下，他的話便具有強烈的煽動性，因此，在蔣介石去留廣州的關鍵時刻，陳立夫顯然起了十分重要的作用。
蔣介石與陳立夫回到黃埔後，即由陳立夫出面通知王伯齡、陳肇英、歐陽格、吳鐵城等人來黃埔開會，進行秘密策劃。這一期間，蔣介石多次召開秘密會議，陳立夫作為機要秘書是每會必與。通過反覆密商後，他們一致決定採取反共的行動，並估計了駐廣東的國民革命軍第三、四、五軍部分官兵對事變可能採取的態度。3月17日，陳立夫又隨蔣介石由黃埔乘汽艇到廣州市東堤八旗會館——廣州衛戍司令部，放出共產黨有陰謀的空氣，並將其在廣州東山的寓所遷到有堅固工事的廣州造幣廠。
3月18日，歐陽格以黃埔軍校駐省辦事處的名義，傳達一道命令給海軍局代理局長李之龍（當時為共產黨員），稱：「轉奉校長命令，著即通知海軍局迅速派得力艦二艘，開赴黃埔，聽候差遣。」李之龍即派中山、寶璧二艦前往。19日到達黃埔後，蔣介石聲稱無此命令，陳立夫、陳肇英等人即大造謠言，說李之龍「事前並備就蔣校長和陳立夫同志的出國赴俄護照。是日下午，該艦又開赴省城，並即升火，擬於翌晨強迫蔣、陳兩同志上艦出海。」並倒打一耙，說中山艦「無故移動」，是「不法行動」，「顯系共產黨陰謀暴動」。
還在3月19日上午，蔣介石拜訪汪精衛，摸清了汪的政治態度，回來後即召開緊急會議，「夕與幹部密議至4時」，陳立夫參加了這個秘密會議，並在會上鼓動蔣介石採取行動，對共產黨進行突然襲擊，這就使蔣介石下定了反共決心。蔣認為「……今日若無決心，豈能挽救本黨……」，有人提出怕輿論譴責，陳立夫當即駁斥，認為不必顧忌，蔣便說：「政治生活，全系權謀，至於道義，則不可復問矣。」於是，蔣介石便誣指「共產黨陰謀暴動，要推翻政府」，並以此為藉口，宣佈戒嚴。
3月20日凌晨，李之龍在廣州文德樓家中被綁架，第一軍中的共產黨員被扣留，蔣介石還派兵包圍了蘇聯顧問團和省港罷工委員會，收繳了兩處衛隊的槍械。霎時間，廣州城裡，一片恐怖氣氛，這就是蔣介石一手製造的中山艦事件。蔣介石通過這一事件，左右開弓，一石兩鳥，一方面打擊了中國共產黨，另一方面也降低了他的政敵汪精衛的威信。陳立夫在這一事件的整個陰謀中，一直參與其事，充當了極不光彩的角色，正如周恩來所說：「張靜江、陳立夫都於1926年一二月回到廣州，同蔣介石進行勾結，挑撥國共關係。這就是3月20日中山艦事變的遠因，也是3月20日事變以前的政治形勢。」
陳立夫在中山艦事件中所表現出來的對蔣介石的忠心，頑固的反共態度，極端仇視共產黨的心理及在複雜事變中的詭計多端，都深深獲得了蔣介石的讚賞，蔣介石事後在日記中寫道：「今日方知孤臣孽子操心之危，處境之苦，若非親歷其境者決非想象所能及其萬一也。」可見，蔣介石是以孤臣孽子來稱許陳立夫的。
北伐開始後，陳立夫被提拔為國民革命軍總司令部秘書處秘書兼機要科長，當時秘書長為邵力子，處長為馬文車。陳立夫對工作十分認真，凡是蔣介石簽發的檔案如佈告、委任狀、訓令、指令、代電等，他總是逐字逐句地從頭到尾閱讀一遍，然後交監印員蓋上大印。他對下屬科員要求嚴格，管束嚴厲，監印員姜輔成因受不了軍事約束，便以女兒要出嫁為由，向陳立夫提出辭職，陳立夫不予同意，並慷慨陳詞，要姜輔成獻身革命大事，舍其家庭小事，還許願說：「我們不久就可以打下南京，到時你請假回去，不耽誤你女兒的喜期。」以後，姜輔成再也不敢提辭職的事了。每到一地，陳立夫總要召集部下訓話，要求機要科人員要精心保管好印章、檔案等物品，以免戰亂中受到損失。
陳立夫的工作態度和作風，令蔣介石刮目相看。不久，蔣介石讓他主管整個秘書處的工作，這樣一來，陳立夫便成為蔣介石高度信任的心腹而不離其左右了。這也為他今後的飛黃騰達鋪平了道路。
陳立夫從實業救國、技術救國的迷夢中醒來，卻又開始了另一場違背道德與良心的政治夢，他原來立下的做一個正直的知識分子的理想已發生異化，從此，他便長期跟隨蔣介石，參與重大事情的策劃謀略，成為國民黨新右派的主要干將。後來，陳立夫寫了《一個學非所用的採礦工程師之自述》的文章，文中，他對自己放棄工程技術而從事政治有所遺憾，但更多的卻是溢於字裡行間的得意之情。
1926年5月初，陳果夫因上海事務已告一段落，與三叔陳其採及曾養甫3人一行奉蔣介石之命到達廣州，陳立夫與哥哥見面了。這次見面有十分特別的意義。兄弟倆多年來為自己的事業各奔東西，一個遠走海外求學，一個從事職業政治，可謂兄弟殊途。現在陳立夫繞了一圈後，依舊與其兄走到了一起，同在一個地方，同在一個國民黨內，同時都從事政治，可謂是異路同歸。從此，兄弟倆攜手從政，一起辦黨，成為國民黨內紅得發紫的人物。於是，國民黨便從蔣家天下丁家黨的年代跨入蔣家天下陳家黨的時期。
理想發生異化
初夏的廣州，滿城青翠，滿城驕陽，革命的熱潮也同季節一樣，日益高漲，日趨火熱。而以蔣介石為代表的國民黨右派十分仇視革命力量，也在暗中加緊策劃，隨時準備反撲，國共兩黨的合作面臨嚴峻的考驗。
5月15日至22日，國民黨二屆二中全會在蔣介石的主持下召開，剛到廣州的陳果夫也參加了會議。這次會議通過了由蔣介石提出的旨在限制、打擊共產黨的所謂「整理黨務案」，檔案無恥地宣稱「五人深信整理黨務案必能得一切革命黨員之承受」。根據此案，選舉了蔣介石的盟兄張靜江為中央常務委員會主席，蔣介石取代譚平山當上了中央組織部長併兼任新設的軍人部長，邵元衝為青年部長，顧孟餘取代毛澤東任宣傳部長，甘乃光取代林伯渠任農民部長，葉楚傖取代劉伯垂任中央秘書處書記。這樣，在國民黨中央黨部完全排擠了共產黨人，蔣介石等新右派篡奪了國民黨中央的重要領導權。
這時，國共兩黨之間的鬥爭十分激烈，為了應付複雜局面，蔣介石極需一個得力的反共人才，為此，譚延闓向蔣介石推薦了陳果夫。他說：「果夫有辦法，」這正說出了蔣介石的心裡話，他對陳果夫是瞭解的，過去同在上海辦交易所時升降沉浮的經歷，建立黃埔軍校時陳果夫在上海為其網羅人才的功勞，都使蔣介石不能忘記，他深深信任陳果夫，很快，便任命其為國民黨中央組織部秘書，實際上將組織部全權交授與他，由其接收組織部，具體實施「整理黨務案」。
對於蔣介石反共的「整理黨務案」，中國共產黨的主要領導人陳獨秀卻推行右傾的投降主義，採取妥協退讓的政策，致使國民黨右派分子紛紛進入國民黨中央領導機關，陳果夫也十分順利地接收了組織部。
陳果夫能夠十分順利地進入國民黨中央組織部，還有一個重要的原因，就是他的偽裝還沒有撕破，右派面目還沒有完全暴露，據陳果夫自己說：「我能順利接收，要追溯到過去兩年的情形。當十三年本黨改組以後，已呈分裂現象，那時我對黨務，未加聞問。後來奉蔣先生之命，在滬擔任招募及黃埔後方勤務工作，因為職務需要與各方面接觸，純粹本黨同志與跨黨分子，雙方均來問我對於黨務的意見。我除了答覆‘黨內不能有黨’的主張外，其他什麼也沒有表示。同時雙方面都要我登記，我都沒有參加，因此，對雙方面均無惡感而能完成在上海的重要任務。等到發表組織部秘書以後，多數共產黨以為我沒有直接辦過黨務，所以不甚注意。其知我者，也認為我沒有參加過任何反共組織，是比較超然的人物。所以到中央黨部接收組織部秘書職務，毫無阻礙。就是我以中央監察委員之資格任組織部重要職務，也無人批評。」
國民黨中央組織部從國共第一次合作以來，一直由共產黨員譚平山擔任部長，楊匏安擔任秘書，在他們的辛勤工作下，國民黨的組織建設充滿一片生機，組織工作曾有過相當大的發展。陳果夫進入組織部後，秉承蔣介石的意旨，首要任務就是從組織部機關中把共產黨人排擠出去。他對部機關的29人，從工作態度、思想作風、舉止言談等方面進行了縝密的觀察調查，結果，認為只有3位是真正的國民黨人，其他的都是共產黨人或受共產黨影響的左派分子。於是，陳果夫在國民黨右派人物蕭錚、鄭異等人協助下，開始絞盡腦汁，想辦法將這些人清除掉，他主要採用了三種辦法來達到自己的目的。
陳其採一生在國民政府任要職，協助蔣介石，成為他名副其實的教父。其一為強硬調出。這是陳果夫清除共產黨的重要手段，他到組織部後不久，採取突然襲擊的辦法，不與任何人商議，在部機關會議上宣佈，將共產黨員楊某、駱某強行調出，且不由分辯，當即生效。同時，將國民黨員段錫朋、王樂平、曾養甫、賴璉等人拉入組織部，頂替楊某與駱某的工作。這一明目張膽的反共行為，當即遭到國民黨左派人士何香凝的反對，何香凝直接找到陳果夫，嚴詞質問，陳果夫無言以對，但他仍一意孤行，堅持其反共的做法。
其二是軟拉硬擠。陳果夫對有些共產黨員開始採取拉攏的辦法，希望這些人放棄共產黨的立場，跟著他走，但這一著並不奏效，共產黨人光明磊落，決不願跟著他幹損害人民和革命的事。於是，陳果夫變換了另一手法，尋找各種藉口對這些共產黨人進行批評和懲罰，同時對一些毫無成績的國民黨員則無休止地進行表揚和獎勵，企圖以此形成強烈反差，擠走共產黨人。陳果夫這種惡劣的行為，當即受到共產黨人楊匏安的強烈反對，楊義正詞嚴地質問陳果夫：「你怎麼隨便破壞部裡制訂的章則，罰功賞罪呢？」陳果夫拒不接受，依然如此，果然，在事務組工作的兩名共產黨員被氣走。楊匏安採取措施進行反擊，將陳果夫經常表揚的一位姓莫的國民黨員調出組織部，一時雙方鬥爭十分激烈。但陳果夫有蔣介石做他的後臺，繼續採取軟拉硬擠的辦法，將共產黨人排擠出組織部。
其三是迫其辭職。陳果夫對一些有能力又頗有影響的共產黨員，採取了更毒辣的手段，就是不分配他們的工作，不讓他們開會，使他們無所事事，最後自動辭職。如當時有位姓譚的共產黨員，專司民眾組織工作，他工作十分負責，成績突出，在組織部內很有影響，陳果夫幾次開會都不通知他，而將他的工作另外分配給別人，結果，這位共產黨人只好辭職，陳果夫求之不得，馬上安排其親信曾養甫繼任。
陳果夫在清除共產黨人的同時，將右派國民黨員大量安插到組織部來，如曾養甫、鄭異、蕭錚等，都給以重用，甚至連反孫中山的陳炯明的親信吳倚滄，也被陳果夫拉到組織部擔任秘書職務，負責秘密工作，並稱贊他是個人才。這樣，一批國民黨右派人物集結在一起，陳果夫完全控制了組織部。他曾十分得意地說：「經過這樣的幾次事件，章則已有改動，用人也自然比以前自由。遷到南昌之時，部中僅留有共黨三個，其餘都是純正的本黨同志了。」
在國民黨中央組織部機關中清黨，是國民黨新右派向中國共產黨發動的一次重要進攻，也是陳果夫反共的第一步，這一步進行得十分順利，由於陳獨秀的再次退讓，中國共產黨對國民革命的領導權受到嚴重打擊，周恩來在回憶這段歷史時說：「右派的蔣介石佔了極大的優勢。他把張靜江捧出來做中央執委會的主席，實際上這人是陳果夫的傀儡。蔣介石親自做了組織部長，新設軍人部長也是由他兼任。組織部實際上由陳果夫代理。原來我們好幾個部長（宣傳部長、農民部長等）的位置都讓出來了。……陳果夫、陳立夫便利用他們的地位，在各省發展右派。」
陳果夫的頑固反共態度和徹底清共辦法，使蔣介石對他刮目相看，想不到這位商業場上的老手，在政治上也如此幹練，因此，對他更加重用。1926年7月13日，由蔣介石主持的國民黨中央執行委員會常務會議作出決議，委任陳果夫為中央組織部代理部長。這次任命確實使陳果夫受到鼓舞，主管組織部，是國民黨內多少人企望而不可得的肥缺，想不到蔣介石將如此大的權力授予他，因此，他更加賣力地為蔣介石工作。
陳立夫背離自己做礦業工程師的理想越來越遠，而在蔣的國民政府內則越攀越高。陳果夫出任組織部長後，開始具體地實施「整理黨務案」，他反共的第二步是辦理黨員重新登記，整頓國民黨各級黨部，對各級黨部負責人進行更換，逐步將所有在國民黨中的共產黨人統統清除出去。在對各級黨部進行整頓時，陳果夫採取了重點整頓與一般指導的辦法，在國民黨內全面展開。
重點整頓，是對廣東省黨部進行改組，因為廣東是國民黨中央所在地，陳果夫表面上搞所謂民主選舉，實際上在暗中操縱，將三倍於執監委員的候選名單「推薦」給大會，並私下收買選票。結果，新選出來的廣東省黨部僅只保留了劉爾崧、彭湃、楊匏安三名共產黨員，其餘均為清一色的國民黨右派分子。
對其他地方，陳果夫則採取視察與指導的辦法。他將一些極端反共的國民黨右派人物陸續派到各地擔任指導工作，整理黨務。如將段錫朋、鄭異派往江西，蕭錚、王宇春、葛武綮派往浙江，陳希豪派往上海。有些地方如湖南、湖北、安徽、江蘇等省，當時沒有派人去，但陳果夫都分別電令這些地方的黨部派人到廣州來聽候指示，然後回去照此行事。還有些省市，陳果夫認為共產黨力量太大，怕派人指導無濟於事，便乾脆將這些地方的黨部強行改組，換上忠於蔣陳的國民黨員。如貴州省黨部改組後，即派張道藩前去主持；北京執行部改組後，即派吳鑄人、童冠賢等人前往主持；綏遠省黨部改組後，即派紀亮等人前去主持；福建省黨部改組後，即派丁超五前去主持等。每當這些人員出發上任時，陳果夫都親自接見，進行訓話，要他們抵達任所後，儘快將共產黨人從各級黨部驅除，切實負起「救黨」責任。這些人到地方後，與當地反動軍官、民團，地主勾結起來，壓迫民眾，解散農民自衛軍和工人糾察隊，對各級黨部人員進行考核，排擠共產黨人，逐步改變地方國民黨的領導成分。
在整頓各級黨部的同時，陳果夫指令各地對國民黨員辦理重新登記，根據他的旨意，各地均按以下規定辦理：
（一）全部黨員應在中央命令組織之黨部重新登記。
（二）登記機關指定省黨部，特別市黨部、縣黨部、市黨部。
（三）登記時間為三個月，但海外登記時間由海外黨部另行規定之。
（四）登記表格除原有之各項外，須特別宣告願遵守建國方略、建國大綱、三民主義，第一次、第二次全國代表大會宣言及決議案。
（五）曾經加入本黨所否認之政治團體，登記時須特別宣告與該政治團體脫離關係。
這些規定中，陳果夫特別強調最重要的是第四，第五兩條，這兩條中特別是第四條，從字面看來，堂而皇之，無可指責，但實際上，陳果夫是要求所有國民黨員必須擁護以蔣介石為首的國民黨新右派，遵守他們制定的一系列旨在維護蔣介石的獨裁、控制黨員的所謂紀律。第五條更是赤裸裸地要求國民黨員反對共產黨、排斥共產黨、宣佈與共產黨脫離關係。1926年9月，在陳果夫的建議下，國民黨中央還公佈了《國民政府黨員違背誓言罪條例》，規定「黨員圖謀反革命內亂者，不分既遂、未遂，一律處死刑」，「在職黨員違背黨義而犯罪者，永遠除名黨籍」，「知黨員犯罪而不舉發者，常人依違警法處罰，黨員以從犯論」。
陳果夫所採取的這些措施，不但使共產黨人在國民黨中的地位受到限制，而且逐步孤立、打擊了共產黨，使共產黨處於完全被動的地位。對陳果夫的反共行為，多數共產黨員堅決反對，一些國民黨左派人士也十分反感，甚至陳果夫派到各地的一些心腹大員也有人表示不滿，如派到浙江的王宇春就參加了共產黨，派到西北的郭春濤也隨馮玉祥一去不返。共產黨人和國民黨左派還自下而上地發出了「打倒新軍閥、提高黨權」的號召，在上海、廣州、武漢等地形成了普遍提高黨權，反對獨裁的運動。
但由於共產黨主要領導人陳獨秀執行右傾投降主義，又一次妥協，完全接受了這些限制，屈從國民黨新右派的意志，使陳果夫的反共計劃一步步得逞，併成為以後大規模清黨運動的先導。
在陳果夫將在國民黨各級黨部任主要職務的共產黨員驅走之後，國民黨本身腐敗、無能、缺乏人才等弊病就充分暴露出來，組織發展停滯了，在群眾中的威望頓落千丈，官僚作風、軍閥作風，貪汙現象、腐化行為充斥於各級黨部，原來那種生機勃勃的革命氣象沉寂下去，這個問題十分嚴峻地提到了國民黨當權者面前。
這時，蔣介石新右派還羽毛未豐，他們還不能完全控制國民黨，而且，北洋軍閥還沒有搞掉，他們必須有自己的人才。陳果夫對這一問題考慮得比較深刻，他認為清除共產黨後，必須充實國民黨的力量，而要充實國民黨的力量，必須花力氣培養新的人才。基於這一想法，他提出了開辦「黨政訓練所」，以培養國民黨各級黨政幹部的建議，他不辭勞苦，晝思夜想，親自擬定了《黨政訓練所設定辦法》，提請國民黨中央核准。陳果夫的建議得到蔣介石的嘉許，蔣從人力、物力、財力等各方面予以大力支援，並任命他為黨政訓練所所長。
陳家失勢後，蔣介石總在責怪中。他不曾想就是陳立夫在這次下野中的一句話，為他扭轉了乾坤。有了蔣介石的支援，陳果夫更是賣力地進行張羅，他對校址的選擇、師資的配備、學生的招考等方面都親自過問，十分仔細。經過一段時間的緊張籌備，「黨政訓練所」終於開學了。第一期招收學員100多人，大都是經過陳果夫精心挑選而來的。為了提高教學質量，陳果夫規定了極為嚴格的紀律，學生學習、生活全部實行軍事化行動，所學課程也是陳果夫親自選定，內容多為蔣介石等人的講話、國民黨的黨義和章程等。陳果夫還嫌不夠，時常親臨訓練所給學生講課，他躊躇滿志，一心要把這100多人培養成國民黨中的骨幹。
但落花有意、流水無情，由於工農革命運動的影響，由於共產黨人的細緻工作，不到一個月，黨政訓練所學生內部就發生了分化，大部分學生開始趨向進步、趨向革命。一些學生白天聽陳果夫的課，晚上就秘密傳閱進步刊物，學習共產黨人寫的文章，學習馬克思主義的小冊子，暗中宣傳共產黨的主張，反對陳果夫的專制教育，甚至還有少數人秘密參加了共產黨。
陳果夫發現這種情況後，氣急敗壞，他派出一些心腹暗中進行調查，結果，查出12名特別突出的學生，便認準他們是共產黨分子，學生中的分化肯定是他們從中作祟。於是，陳果夫毫不猶豫地「以思想行為不檢的理由公佈開除」，他以為這樣一來，學生害怕了，就會循規蹈矩，再也不敢越雷池一步。
但事與願違，陳果夫越是壓制，學生對共產黨，對馬克思主義的興趣越是濃厚，他們照樣看馬克思主義的書，照樣接近共產黨，後來竟發展為學生風潮。事情鬧大後，陳果夫乾脆撕破臉皮，請廣州公安局長李章達派軍警前來鎮壓。李章達為陳果夫舊時的同學，辛亥革命時曾共過患難，開始礙於面子，尚能協助解決。後來，李章達在共產黨人楊匏安的影響下，也對陳果夫的專制教育不滿，轉而同情學生。當第二次學生風潮再起時，無論陳果夫怎麼求助，李章達根本不理睬了。陳果夫無奈，只好無限制地開除學生，「經過兩次風潮以後，開除的學生竟達半數」。越是開除學生，越是激起學生的不滿，他們再也不願花精力去讀蔣介石的講話、國民黨章程之類的東西，陳果夫沒有任何辦法，只好大大縮短了學習時間，草草結束了這期訓練班，然後將這幾十號人派往甘肅、福建、北京、南京等地工作。
這些學生到各地後，依然有很多人同情共產黨，積極參加大革命運動，為國民革命作出了貢獻。當然，也有一些人在陳果夫反共教育的薰陶下，成為頑固的反共分子，後來，在蔣介石背叛革命、反共清黨的逆流中，成為國民黨右派骨幹。
這期學生畢業後，陳果夫的黨政訓練所也就無法繼續開辦下去了，只好在長吁短嘆中黯然收場。
為謀叛變離武漢
1925至1926年上半年，國民革命的力量得到迅速發展，廣大工農群眾和愛國人民，迫切要求國民革命軍出師北伐，以結束北洋軍閥的黑暗統治。陳果夫、陳立夫也主張北伐，而且革命言詞激烈，實際上他們抱有通過北伐，進一步擴大以蔣介石為首的國民黨新右派權勢的野心。1926年7月4日，國民黨中央執行委員會發表《為國民革命軍出師宣言》，揭示了北伐的目的、性質和意義，宣佈「帝國主義者及賣國軍閥實為和平統一之障礙，為革命勢力之仇敵」，因此，北伐就是要打倒帝國主義及賣國軍閥。7月9日，國民革命軍在廣州舉行誓師大會，北伐戰爭正式開始。
北伐戰爭開始後，在廣大人民的支援下，不到半年，國民革命軍就消滅了數倍於己的吳佩孚、孫傳芳的北洋軍隊，革命勢力席捲大半個中國，震撼了帝國主義及封建軍閥在中國的統治，使全國形勢由原來的北洋軍閥一統天下、革命勢力偏居一隅的局面，轉為國民黨領導的南方勢力與奉系軍閥北方統治南北對峙的態勢，軍閥勢力已是江河日下。
在大好的革命形勢下，帝國主義加強了對中國革命的干涉，他們開始在革命勢力內部尋找代理人，這就使革命統一戰線發生分化，其內部的鬥爭也日趨激烈。矛盾首先在遷都問題上爆發出來。
當北伐軍攻克武昌、南昌，佔領長江流域的廣大地區後，國民政府和國民黨中央從廣州遷往武漢就成為形勢發展的必然，此時，蔣介石也力主遷都武漢。基於這種情況，1926年11月26日，國民黨中央召開政治會議，決定遷都武漢。但後來，蔣介石看到兩湖地區工農運動日益高漲，革命出現生機勃勃的局面，便考慮在國民黨左派和共產黨人共同掌握武漢革命政權的情況下，他的各種反革命陰謀是難以實現的。因此，蔣介石便一反前言，提出遷都南昌，反對遷都武漢的主張。
這時，陳果夫剛從上海秘密來到南昌，與其弟陳立夫一起，不離蔣介石的左右，他們與張群、張靜江等右派抱成一團，積極為蔣介石反共出謀劃策。他們極力贊成蔣介石遷都南昌的主張，併為其大造輿論。
為了幫助蔣介石擴充勢力，二陳以各種辦法，將一些擁護蔣介石的人拉進國民黨內。如1927年2月，陳果夫介紹陳布雷加入國民黨，陳布雷即為蔣介石起草了《告黃埔同學書》，為蔣的派系鬥爭服務。隨後，陳果夫又介紹潘公展加入國民黨，並將潘與陳布雷派往上海，為遷都南昌、反對共產黨製造輿論。當時，共產黨員蔣先雲也在陳立夫手下的秘書處工作，蔣先雲是黃埔一期學生，是一個十分優秀的人才，由於是共產黨員，陳立夫總是千方百計排擠他。蔣先雲也不肯讓步，每天晚上，二人同睡一室，總是就三民主義、共產主義誰優誰劣進行爭論。後來，陳立夫竟直接向蔣介石彙報，誣蔣先雲偷竊檔案，引起蔣介石注意。不久，蔣介石免掉蔣先雲機要秘書的職務。
1912年，孫中山就任中華民國大總統，上海各界歡送孫先生赴南京就職。二陳兄弟還分析了全國的革命形勢及南昌在全國政治經濟中的地位，併為蔣介石描繪了一幅發動反革命政變、一統天下的「美好」前景。他們認為，南昌雖然地理位置較為中心，但經濟並不發達，政治上也難以號召國人，將來發動政變應在經濟發達的上海，而南昌只能是目前反對遷都武漢的一個籌碼，遷都南昌也只是權宜之計。二陳描繪的藍圖果然吸引了蔣介石，他要二陳將注意力放在上海，為將來在上海發動政變作準備。有了蔣介石的旨意，二陳便加緊在上海進行政變的準備。他們代蔣密電上海，要陳布雷、潘公展、虞洽卿一起秘密到南昌見蔣，會商北伐軍佔領上海後的有關黨政軍和涉外事宜的部署，計議策劃反共清黨。
有了這些秘密的準備，蔣介石在遷都問題上的態度更加強硬，在陳果夫、陳立夫的幫助下，蔣介石違背中央決議，以陰謀手段截留了途經南昌準備去武漢的第二批國民黨中央委員和國民政府委員，其中包括代理國民政府主席譚延闓、代理國民黨中常會主席張靜江等，並於1927年1月3日在南昌召開所謂政治會議第六次臨時會議，非法決定「中央黨部與國民政府暫駐南昌」。蔣介石的目的就是要憑藉軍事力量，把國民黨中央和國民政府掌握在自己手中，造成在南昌發號施令，壓制武漢的局面，進而發動政變，奪取革命的最高權力。
蔣介石的無理決定，受到了武漢國民黨左派和共產黨人的堅決抵制，他們一致要求「中央黨部及國民政府，照既定策略來鄂」。同時，為了緩和南昌與武漢的矛盾，武漢方面於1月26日決定派何香凝、顧孟餘、鄧演達三人去南昌，敦促在贛的中央委員來漢。何香凝等到南昌後，分別找各位中央委員做工作，要求他們為了北伐的最後勝利，能顧全大局，迅速去漢。在形勢的壓力下，滯留在南昌的委員們也表示擁護中央的決定，遷都武漢，並表示剋日赴漢。
代理國民政府主席譚延闓首先表示願意儘快赴漢，他還主動做陳果夫的工作，他知道陳果夫與蔣介石的特殊關係，如果陳果夫的思想通了，對蔣介石的態度會發生重大影響。譚延闓認為，在武漢，共產黨人和鮑羅廷並不能起很大的作用，是「蔣先生看得太嚴重了」，武漢還是國民黨的天下，他希望陳果夫與他一起去武漢。
此時，陳果夫為專門對付共產黨，為蔣介石在上海發動反革命政變做準備，已於2月10日辭去國民黨中央代理組織部長一職，改任國民黨中央政治設計局籌備委員、政治會議上海分會委員。為完成反共大業，他時刻注視著武漢方面的情況，也很想到武漢去走走，觀望一下武漢的形勢，但他不敢自作主張，即向蔣介石請示，並提出了去武漢的理由。他認為要與武漢方面作對，一定要摸清對方的虛實，掌握對方的情況，而在南昌隔岸觀火，是弄不清楚的，應該到武漢去看一看。蔣介石十分贊成陳果夫的看法，同意了他去武漢的請求，派他隨譚延闓等一起赴漢。
臨行前，蔣介石特地宴請譚延闓、陳果夫一行。席間，蔣氣恨恨地說：「鮑羅廷簡直是我們的統監，而非顧問了。今天武漢成了共產黨的天下，真是令人痛心！」他要陳果夫轉告武漢方面，他不能出席定於3月1日召開的國民黨二屆三中全會，要求會議延期到3月12日召開，他霸道地說：「武漢方面能夠延期，便說明武漢方面有誠意。」陳果夫明明知道蔣介石是無理取鬧，卻也跟著蔣介石攻擊武漢方面排擠革命功勳，並表示一定把蔣的話轉告武漢方面，壓迫武漢方面將會議延期。
陳果夫一行從南昌先到九江，然後由九江坐輪船溯江而上。3月6日，譚延闓、陳果夫等抵達武漢，受到了中共和國民黨左派人士及武漢人民的熱烈歡迎。隨後，國民黨中央委員會舉行預備會議，討論召開二屆三中全會的有關事宜。會上，陳果夫將蔣介石不能如期來漢參加會議的意見轉告大會，併力主三中全會延期，等蔣到漢後再開會。他說，如蔣總司令不參加二屆三中全會，則會議的重要性會大大減弱。陳果夫的話還沒說完，便在會上引起了激烈地爭論，李烈鈞、譚延闓等附和陳果夫的意見，認為應該延期到蔣介石來漢開會為止。吳玉章、惲代英、彭澤民等則表示堅決反對，不同意會議延期，他們認為，召開二屆三中全會的日期，是中央早就定下的，不能因個別人不參加會議便更改日期，如再延期，是十分錯誤的。他們義正詞嚴地質問陳果夫：「現在口號打倒獨裁、打倒個人專政，因蔣，朱之不能來，而再展期開會，豈不犯了個人獨裁之嫌嗎？」陳果夫理屈辭窮，不能作答，十分尷尬。李烈鈞、譚延闓還要堅持己見，因看到多數人反對，只能作罷。會議經過表決，一致通過決議，二屆三中全會如期在武漢舉行，並希望蔣介石能按時到漢參加會議。
陳果夫的無理要求沒有達到，他又氣又恨，卻又無回天之力扭轉局勢。會議後，也沒有多少人來理睬他，他獨自一人在旅館裡發呆，一種孤立感籠罩在他的心頭。3月10日下午2時，國民黨二屆三中全會在漢口南洋大樓開幕，陳果夫稱身體有病，拒絕參加。3月12日，是總理紀念會，他不好拒會，迫不得已，裝出一副病態十足的樣子參加了會議，會議中默不作聲，然後，又向會議主席請了病假。3月15日，他聽說全會決定取消由他主持的廣州、廣東、江西三處黨部的選舉，他原先所圈定的名單也被推翻，便氣不打一處來，再也顧不得有「病」在身，一反常態，精神抖擻地參加了會議。在會上，他多次發言，申辯原辦法不應推翻的種種理由，他說他的選舉方案是經過常會決定的，全會不應否定。陳果夫的發言當即受到與會者的駁斥，一些國民黨人士也不滿陳果夫的專橫，如彭澤民當即批評陳果夫圈定名單是獨裁行為，會議主席顧孟餘也認為，常會決議案，全會完全可以否決。陳果夫還想申辯，但已經沒有人來理會他了，他只好氣急敗壞地退出了會場。
陳果夫並不甘心就此罷休，他回旅館後，即向譚延闓寫了一信，羅列一些子虛烏有的「事實」，告彭澤民貪汙違法。第二天，譚延闓將陳果夫的信在大會上宣讀，即在會場上引起了一片混亂。這樣，一方面打擊了彭澤民，另一方面也分散了會議的注意力。但由於共產黨人和國民黨左派人士的努力，二屆三中全會還是取得了預期的效果，發揚了孫中山的三大革命政策，產生了有中國共產黨人參加的武漢國民政府，取得了反對右派鬥爭的一次勝利。
陳果夫在二屆三中全會上的表演，撕去了他原來所謂「中派」的假面具，將其真右派的面目暴露於共產黨和國民黨左派面前，也引起了武漢人民對他的不滿。三中全會召開後，武漢街頭出現了「打倒蔣介石、驅逐陳果夫」的標語。3月18日，武漢人民舉行盛大集會遊行。高呼「驅逐陳果夫」的口號，一時群情激憤，口號聲響徹大街小巷。此時的陳果夫，確實成了過街之鼠，陷入人人喊打的境地。他後來回憶說：「當時，我正在人叢中，可是沒有人認識我。但從此行止便格外秘密了。幾乎每天要換一個旅館，避免人家注意。」
不久，蔣介石派人秘密到漢口通知陳果夫，要他趕緊離漢返滬，以謀更大的反革命叛變。於是，陳果夫急忙收拾行裝，於午夜2時，秘密登上一艘輪船，此時「鍾打五更夜正濃」，陳果夫在茫茫的夜色中，匆匆逃離武漢，前往上海。
為蔣盡力
1927年3月19日，陳立夫隨蔣介石到達安徽省安慶市，同行的還有楊虎，楊虎是安徽人。蔣介石的艦艇一到安慶，便有一些反共分子上船要求蔣對安徽的共產黨下手，蔣介石先不說話，楊虎猶豫不決，陳立夫則極力主張打擊安徽的共產黨。他說：「必須立即採取行動，如有任何差錯，一切由我協商負責。於是蔣介石派楊虎直接負責。
3月23日，蔣介石在出席安徽省黨部的歡迎會並作完演講離開後，楊虎便指揮國民黨軍隊搗毀安徽省黨部；安慶市黨部、省農會籌備處，打死打傷10多人，造成安慶慘案。隨後蔣介石等到南京、上海，並電陳果夫也來上海。
陳果夫到達上海的時候，蔣介石正緊鑼密鼓地策劃發動反革命政變。為了使反革命政變披上合法的外衣，蔣介石指使國民黨中央監察委員蔡元培、吳稚暉、張靜江、古應芬、李石曾於1927年3月28日在上海開會，會上，吳稚暉誣衊加入國民黨的共產黨謀叛國民黨，「為危害本黨及中國」，提出「應行糾察」。會議決定由吳稚暉擬其草案交監察委員會全體會議討論。
陳果夫到上海後，與已隨蔣介石到達上海的陳立夫一起，積極參加各種秘密活動，策劃於密室，點火於基層，為反革命政變進行最後的準備。
陳立夫到上海後不久，周恩來便來拜訪。周恩來講，現在國共合作，國民革命軍應該保護工人的利益，上海的工人已經行動起來了，有組織的工人達60多萬，工人也應該配合國民革命軍。陳立夫滿口答應，表示「應該」。於是，周恩來提出，國民革命軍應該把宵禁的口令告訴工人組織，以免工人行動時，與國民革命軍發生誤會，引起衝突。但陳立夫堅決拒絕，因他知道，蔣介石已在暗中準備鎮壓工人運動，拿共產黨開刀。所以，任周恩來反覆要求，陳立夫就是不肯告訴。周恩來氣憤地說：「你們口裡說保護工人利益，實際上拿工人當異己，你真夠厲害。」雙方不歡而散。
4月2日下午，陳果夫、陳立夫隨蔣介石神情詭譎地來到東路軍前敵總指揮部，參加由蔣介石主持召開的秘密會議，他們到達的時候，何應欽、吳稚暉、李石曾、李濟深、李宗仁、白崇禧，黃紹竑等人早已等候在那兒，見面後，互致簡單的問候，蔣介石即宣佈會議開始。
首先是蔣介石發言，他板著臉，煞有介事地說明清黨反共，建都南京的原因。他說：北伐軍到了武漢，國民黨中央的某些機關和某些人受到共產黨的分化或劫持，因此要把國民黨中的共產黨清除出去，否則，國民黨就要被共產黨所篡奪。這裡，蔣介石把他蓄謀已久的反共叛變活動說成是為共產黨逼迫所致，是不得已而為之，完全是一副賊喊捉賊的流氓嘴臉。蔣介石的發言剛完，何應欽、吳稚暉等便鼓譟起來，他們從反共的立場出發，羅列一些歪曲事實的所謂「親身見聞」，加以渲染誇大，誣衊中國共產黨及其領導的工農群眾革命運動，以此渲染「反共清黨」的氣氛。
陳果夫身穿長衫，長衫上又罩著一件小坎肩，活像一個錢莊的夥計，與何應欽、李宗仁、白崇禧等身著戎裝的軍人形成強烈的對比。他在會上發言很少，對其他人的講話總是饒有興趣地傾聽，邊聽邊在內心深深思考，怎樣協助蔣介石發動的這場旨在屠殺共產黨人和革命人民的反革命政變，不但使共產黨在思想上、組織上、行動上毫無準備，而且在輿論上也必須先發制人，到時使共產黨啞巴吃黃連——有苦說不出。想到這裡，陳果夫嘴角邊露出一絲別人不能輕易發覺的冷笑。至於陳立夫，雖然得到蔣介石的信任，主管秘書處的工作，但在吳稚暉等人的眼裡，不過是個乳臭未乾的青年娃娃，他還沒有資格在會上高談闊論。
會議在一片鼓譟聲中，一致同意了蔣介石的意見，這樣，「反共清黨」的「大政方針」最後決定下來。
這次會議只是確立了進行反革命政變的大政方針，陳果夫還嫌不夠，他建議蔣介石再召開一次會議，以商討政變的具體步驟和方法，使其「合法化」。於是，蔣介石於4月5日上午在舊上海道尹公署樓上召開了秘密談話會，陳果夫顧不得連日「辛勞」，再次參加會議，另外還有柏文蔚、宋子文、李濟深、李宗仁、黃紹竑、白崇禧、古應芬、吳稚暉、張靜江等人。會議開始，依舊是蔣介石講話，他提出：為了使「反共清黨」合法化，必須由中央監察委員會提出一個檢舉共產黨謀叛的呈文，諮請國民黨中央委員會、國民革命軍總司令以及地方軍事當局對共產黨作「非常緊急處置」，這樣，軍事當局才可以對共產黨實行武力解決。陳果夫即向蔣介石報告了3月28日監察委員會開會的情況，說明正由吳稚暉在擬定呈文草案，蔣介石認為現在是非常時刻，擬定草案的速度要加快，而吳稚暉年老體衰，不能儘快完成，必須另派人協助，陳果夫當即表示自己願意參加進來，於是會議決定，由陳果夫協助吳稚暉，儘快拿出檢舉共產黨謀叛的呈文。
會後，陳果夫便放下手中的一切事務，與吳稚暉一起躲進密室，炮製反共呈文。根據蔣介石的授意，陳果夫與吳稚暉冥思苦想，絞盡腦汁，終於製造出一個所謂「中國國民黨中央監察委員吳敬恆呈中央監察委員會文」。該文盜用國民黨中央監察委員會名義，偽造了所謂「中國國民黨中央監察委員會在上海開會記錄」，將4月2日的秘密會議冒稱為中央監察委員會全體緊急會議」，公推「根本沒有出席的蔡元培為會議主席，把到會的中監委人數僅佔全體中監委的1／4說成是2／3。該呈文誣稱：「現在漢口中央執行委員會，為共產黨及附和共產黨之各員奉俄國共產黨鮑羅廷煽動而盤踞」，「今者共產黨有謀逆之整備，遂喧騰其聯共之口號，誣罔總理，挾制輿論以圖大逞……」因此，「舉凡執行委員會內叛逆有據之共產黨員及附逆委員，應予查辦。未便尚聽其行使職權，恣為顛倒」。呈文後還附有包括戴笠充當蔣介石的鷹犬達15年之久。15年裡，戴笠為維護、鞏固蔣家王朝的獨裁統治，立下了汗馬功勞，自己亦從一個市井無賴升遷至蔣介石的心腹殺手。鮑羅廷、陳獨秀、林祖涵、譚平山等在內的197人的名單，要求：「姑將所開各人及各地共產黨首要危險分子，經黨部舉發者，就近知照公安局或軍警，暫時分別看管監視，免致活動，致釀成不及阻止之叛亂行為……」
蔣介石接到諮文後，喜不自勝，即發出佈告，稱：「中國國民黨中央監察委員會，舉發共產黨連同國民黨內跨黨之共產黨員等有謀叛證據，……本總司令職司討伐，以維護地方秩序為要，如有藉端擾動，有礙治安者，定當執法。」此時的蔣介石已是磨刀霍霍，兇相畢露，只等時機一到，便向人民開刀。
陳果夫生怕蔣介石在反共決策時延誤時間，他又與鄧澤如、吳稚暉、張靜江等人集結一起，進行密謀，決定通電全國，以敦促蔣介石把握時機，儘快反共。4月9日，陳果夫等人以國民黨中央監察委員會名義發出所謂《護黨救國》通電，該電文顛倒黑白地舉出國共合作的武漢國民政府的所謂十一大罪狀，認為這些「皆為武漢會議中所加於本黨之根本之創傷，致使革命勢力發皇張大之本黨，有遍體創痍之觀」，並聳人聽聞地提出：「長此以往，不獨北伐困難，而本黨百萬黨員與朝夕以求中國的自由平等之民眾，亦將何所寄託。」因此，要求國民黨「全體同志念黨國之危機，懍喪亡之無日，被髮纓冠，共圖匡濟」，群起而一致反對共產黨。陳果夫等的這個是非混淆的通電煽動性極強，在蔣介石叛變革命的關鍵時刻起了極為惡劣的作用。
這個通電發出後，以蔣介石為首的國民黨反動派公開叛變革命的政治準備就完成了最後一道手續，他們武力鎮壓共產黨的時機已完全成熟。
要將共產黨斬盡殺絕，首先就要知道誰是共產黨，因共產黨從來沒有將其黨員的名單交給國民黨。要分清誰是純粹的共產黨，誰是純粹的國民黨，是很困難的，蔣介石對此十分關心，要二陳想辦法。
陳立夫腦袋一轉，便想出一條詭計，他說：「惟一的辦法便是打鬥，因為一打起來，國民黨的人和共產黨的人自然就會分出鴻溝來，這個方法我們在安慶試過。」陳立夫還沒說完，蔣介石便拍手叫好。於是，蔣介石命令浙江、江蘇、安徽等省的親信，組織打手，主動襲擊各地工會、農會、國民黨黨部，以此發現共產黨，然後一舉清除，於是，這些地方相繼出現反共逆流，白色恐怖從這些地方向全國蔓延。
為了試探武漢政府對其政變的反應，陳果夫建議，先向武漢中央軍事委員會總政治部派駐上海的機構開刀。4月6日，蔣介石以總政治部人員「淆惑軍心，背叛主義」等莫須有的罪名，手令白崇禧查封了總政治部上海辦事處。而武漢方面漠然視之，這就使蔣介石更加肆無忌憚。這時，上海局勢十分混亂，早在上海工人第三次武裝起義後，在中國共產黨領導下，便組成了上海特別市臨時政府，蔣介石到上海後，即於3月29日下令解散了這個革命政權，臨時政府解散後，上海便成無政府狀態。為了控制上海的局勢，陳果夫再次向蔣介石獻計，他認為，要將上海掌握在自己手中，必須儘快成立一個市政府，以取代被解散了的上海市臨時政府，這不僅可以消除共產黨對上海的影響，而且有利於「反共清黨」的進行。蔣介石聽從了陳果夫的建議，於4月8日指派陳果夫、吳稚暉、白崇禧等人成立了上海臨時政治委員會，陳果夫被任命為該委員會的主要負責人之一。獲此要職後，陳果夫即春風得意地走馬上任，在軍方的支援下，臨時政治委員會成為上海市最高權力機構，「得以會議方式決定上海市一切軍事政治財政之權，並指導當地黨務」。這就一舉篡奪了上海人民的革命果實。蔣介石也就開始屠殺共產黨和革命人民了。4月12日，由蔣介石、陳果夫等發動的反革命政變開始，隨後向各地蔓延，中國共產黨和革命勢力遭到嚴重摧殘，中國人民蒙受了巨大的災難。
陳果夫在四一二反革命政變中助紂為虐，為蔣介石效盡犬馬之力，他的所作所為受到共產黨人和國民黨左派的一致反對。4月14日，武漢國民黨中央監察委員會開會，提出將蔣介石、張靜江、陳果夫開除黨籍。5月6日，武漢國民黨中央第二屆常委會第十次擴大會議討論，通過《懲辦反動分子案》，決定開除陳果夫等7人的國民黨黨籍。但由於共產黨主要領導人陳獨秀的右傾投降主義影響，再加之後來汪精衛的七一五分共，這些決議未能實現。而陳氏兄弟卻在蔣家王朝中受到重用，一步一步爬上高位。