在豫東，冀魯豫、豫皖蘇、水東根據地的部隊也向隴海鐵路出擊，開封東西兩面的隴海鐵路均被共產黨軍隊切斷。
眼見豫中重要城市就要落入共產黨軍隊手中，國軍統帥部十分焦慮，胡宗南電令豫中日軍就地堅守，不得繳械。但是此時日軍已經喪失鬥志，很多兵力較少的孤立的據點紛紛繳械，一些負隅頑抗的被就地殲滅。
胡宗南急忙派出了一個前進指揮所飛赴鄭州，嚴令日軍就地反擊，不得放棄重要城市。安陽的日軍原本已經向新鄉收縮集中，此時軍統特務柳萬祺奉命帶領一個行動小組潛入安陽，就地將留駐安陽的偽軍收編為國軍。原本惶恐不安的漢奸們搖身一變成為「抗日有功的國軍地下軍」，個個感激涕零，向圍城的八路軍部隊瘋狂反擊。安陽已經被「國軍」佔領，圍城的八路軍部隊只好停止了進攻。
開封的日軍突然沿汴新鐵路和隴海鐵路向附近的八路軍部隊發起攻擊，原本在反攻中進展順利的八路軍部隊未料到日軍在宣佈投降以後還膽敢主動向我軍進攻，開封以東、以北的部隊都遭到了一定的損失。
胡宗南加緊向鄭汴洛地區空運部隊，至9月4日胡宗南親自飛赴鄭州，指揮國軍和日偽軍東西對進向八路軍進攻，打通隴海鐵路，並增兵豫北，要打通安陽至鄭州的平漢鐵路。
統一戰線雖然還沒有破裂，但是國共兩黨軍隊的戰鬥已經開始了。
豫西根據地雖然區域廣大，但是由於根據地建立的時間不長，兵力過於薄弱，在蔣、日、偽軍軍隊的攻擊下，漸次放棄了隴海鐵路沿線的地區。
徐亮和陳浩的部隊終於撕破了臉皮，開始了各為其主的激烈戰鬥。直到周勇和高衛國的部隊忽然臨陣倒戈投向了共軍，雙方的態勢才穩定了下來。
至9月20日，也就是郾城受降的同一天，胡宗南部隊終於打通了豫省境內的隴海鐵路。
9月22日，一戰區在鄭州舉行了受降儀式。
日軍第12軍司令官鷹森孝中將不得不又一次充當投降代表在投降書上簽字。
在鄭州繳械的日軍有：日軍第12軍司令部、110師團以及獨立第6、第7警備隊。在豫省向國軍部隊繳械投降的部隊共計72740人。
此時，國軍控制了豫省平漢鐵路、隴海鐵路沿線的主要城市。而共產黨方面晉冀豫、冀魯豫、水東、豫皖蘇、鄂豫皖、豫西、桐柏各區在豫省部分的面積超過了10萬平方公里。
豫省總面積僅為16萬7千平方公里。
這種局面國民黨方面無論如何是不肯接受的，無論如何都要將共軍逐出中原，無論是採取和平談判還是武力進攻，都下決心要做到這一點。
但是，歷史的程式是不以人的意志為轉移的。早在1944年國軍大潰退的時候，人民就已經做出了選擇。這是單憑武力無法改變的。