在城北的第64旅殘部，13日23時接到孫桐萱令其向運河西岸撤退的命令，在當地群眾協助下，從北關外小道通過沼澤地轉移至運河東岸，由第66旅接應，用民船渡過運河，到達西岸。掩護撤退的後衛營損失較大，營長戰死；負責接應的第66旅旅長薛明亮亦中彈負傷。第3集團軍實際參加進攻濟寧戰鬥的不過1個旅的兵力。在人員不佔真正優勢、武器裝備處於絕對劣勢的情況下實施攻堅戰鬥，雖然廣大愛國官兵拼死奮戰，仍不可能實現軍事委員會及第五戰區的戰略企圖。
展書堂的第81師於12日夜開始進攻汶上城，一度攻入北關，受日軍猛烈火力襲擊，傷亡甚眾。由於濟寧方面的第64旅已撤回運河西岸，第81師亦主動撤至開河鎮附近，沿運河之線防守。
2月17日，日軍第2軍參謀長鈴木率道少將按照軍司令官的意圖，指示第10師團師團長磯谷廉介，令第8旅團旅團長長瀨武平少將指揮以步兵約4個半大隊、山炮兵1箇中隊為基幹的「長瀨支隊」，於20日開始向運河防線的中國軍隊發起進攻。經5日戰鬥，25日日軍突破運河防線，26日攻佔嘉祥。日軍佔嘉祥後留一部兵力防守，主力集結於濟寧。第3集團軍在逐次抗擊後，撤至鉅野、獨山鎮、大義集、孟家屯、相里集之線防守。
在第3集團軍向濟寧、汶上進攻的同時，第22集團軍也開始向鄒縣之敵實施進攻。
第22集團軍於1938年1月上旬由隴海路的商丘、碭山地區轉移至滕縣、臨城地區，以阻止因韓復榘擅自撤退而得以輕易、迅速進至鄒縣地區的日軍。
第45軍的第125師在界河東西之線佔領陣地，第127師隨軍部控制於滕縣地區，第41軍、第124師的第372旅擔任滕縣城防，第370旅配置於滕縣西北的深井掩護第125師陣地左側背，師部位於利國驛；第41軍第122師為總預備隊，隨總司令部位於臨城地區。當時鄒縣日軍為第2軍第10師團第33旅團的第63聯隊，有1個大隊在兩下店佔領前哨陣地。
2月上旬，第22集團軍接到向鄒縣之敵進攻的命令，孫震立即開始準備。
此時，第22集團軍借為四川部隊，總司令鄧錫侯。1938年1月，川康綏靖主任劉湘逝世，鄧錫侯奉命回川繼任。第22集團軍副總司令孫震代理總司令。下屬2個軍，均為乙種軍。全集團軍共有16個步兵團，無特種兵部隊，總計約4萬餘人。裝備陳舊，主要武器為四川造7.9毫米步槍及手榴彈，僅有少量四川造輕機槍及迫擊炮。本來兵員就不足，1937年10月至12月在晉南戰鬥中損失慘重，減員過半，2個軍的建制均不完整。調第五戰區前，12月在山西離石、趙城一帶曾進行整編，每旅2個團合編為1個戰鬥團。調第五戰區時，每軍在番號上仍為2個師、4個旅、8個團，但實際只有4個團的兵力，全集團軍總兵力不超過2萬人。
由於該部減員太多且裝備低劣，無力組織大規模的進攻，因此令第125師的第737旅由界河進攻兩下店，令第127旅的第575團挺進至鄒縣、曲阜間，在敵人後方進行遊擊襲擾。
2月14日，第737旅以第746團、配屬地方抗日紅槍會數百人擔任主攻，以第745團佔領鐵路及郭山進行掩護。第746團命第3營對兩下店實施夜襲。兩次襲擊均被擊退。16日下午，又以第1、第2營實施強攻，以第3營為預備隊。經激烈戰鬥，於傍晚衝入村中，佔領了兩座樓房。但在日軍猛烈的火力襲擊下傷亡過半，被迫於拂曉前突圍，退至郭山。17日14時，兩下店日軍開始反擊。在進行了反覆爭奪後，第737旅於18日退至香城、普陽山一線，與日軍對峙。
奉命滲入敵人後方的第575團，在當地抗日武裝及人民群眾的積極配合、支援下，於2月11日進至曲阜以南的九龍山一帶。14日，在鄒縣至曲阜公路兩側的小雪村、鳧村附近，先後以伏擊戰消滅了兩批日軍，擊毀汽車4輛，擊斃日軍第10師團少將軍官1名、士兵30餘人。15日，日軍由曲阜、鄒縣對進合擊。第575團東撤至距鄒縣約16公里的田黃鎮，爾後返回滕縣防地，歸還建制
龐炳勳的第3軍團於1938年2月上旬從海州調至臨沂，中旬集結、佈防完畢。日軍第5師團於1月4日攻佔蒙陰、沂水，10日攻佔濰縣。同日日本海軍登陸佔領青島。此時諸城亦為日軍佔領，第3軍團未能實施攻勢作戰即構築工事，向蒙陰、沂水、諸城方向警戒。
2月21日，日軍第5師團依照軍參謀長17日關於以1個支隊配合第10師團的作戰、向沂州方面前進的指示，派第21旅團的第21聯隊由濰縣乘車南下進攻莒縣。當時莒縣地區僅有劉震東的第一遊擊隊及沈鴻烈的海軍陸戰隊，力量不足。第五戰區遂電令第40軍派軍支援。龐炳勳乃令第115旅配屬2門山炮往援。該旅於2月26日到達莒縣附近，但莒縣已於23日失守，劉震東犧牲，海軍陸戰隊已轉移至高裡附近。這時日軍以坂本順少將的步兵第21旅團為基幹組成的坂本支隊正西進準備進攻臨沂。
坂本支隊的編成為：步兵第11聯隊，步兵第21聯隊，步兵第42聯隊的1個大隊，野炮兵第5聯隊，山炮兵1箇中隊。
27日，日軍坂本支隊向第115旅發起進攻。經兩日戰鬥，第115旅雖然頑強抵抗，但人力、火力均處於劣勢，且傷亡又大，不得已主動炸燬2門山炮後於29日下午後撤，3月2日退回相公莊整頓。日軍尾隨第115旅追擊前進，於3月5日攻佔湯頭。當其繼續向白塔主陣地進攻時，遭到第39師防守部隊的堅決抗擊。龐炳勳組織了反擊，由左、右兩翼向敵人側後迂迴。日軍被迫退回湯頭，暫時形成對峙。
日本「華中派遣軍」及「華北方面軍」雖然在南北兩線的淮河及濟寧等地遭到了中國軍隊的堅決阻擊及反擊，受到一定的挫折，但得意於上海的勝利及南京、山東的輕易佔領，不正確地判斷了戰爭的發展趨勢，認為在國際上「由於德國承認滿洲國」，英國已「修訂了對外政策，在歐洲接近德、意而自求安定，在遠東緩和支援中國政權的態度，採取保持本國權益第一主義」，「國際形勢大局正朝著對我有利的方向發展」；特別是錯誤地低估了中華民族的抗戰決心，認為：
「中國的一般政局是逐漸喪失長期抗戰的自信，外則失去各國支援，內則出現各種內政問題（指地方與中央、共產黨與國民黨以及國民黨內部派系之間的矛盾)，現在正踏上崩潰之途」。
對中國軍隊的看法則帶有極大的片面性與盲目性，認為「在此次事變中，中國軍隊受到的損失，僅在華中方面就有40餘萬，連同華北方面合計約為80萬左右；而且蔣介石多年苦心訓練的、佔中央軍大部約六七個師，在華中方面受到徹底打擊，大部分已喪失戰鬥能力」，
因而他們不同意日軍大本營的判斷和暫時「不擴大方針」。尤其是「華北方面軍司令官寺內壽一大將，對中央意圖不滿」，堅持他「使華北、華中聯接起來，進行徐州作戰」的主張，並在2月下旬向到北平傳達「戰場不擴大方針」的參謀本部第二課(即作戰課)課長一再強調他的意見。他積極支援第2軍繼續向南入侵的企圖，並於3月初將第2軍的作戰計劃及要求增兵的報告轉報大本營，說：「追剿眼前之敵，決不是深入南進作戰。為警備後方，希望增加兵力。」
這時日本政府及大本營中主張立即擴大侵略戰爭的勢力開始佔上風。參謀本部一貫主張慎重的河邊虎四郎大佐被免去負責作戰指導的作戰課課長職務，而以主張急進的陸軍省軍事課高階課員稻田正純中佐繼任，並迅速批准了第2軍的作戰計劃和增兵要求。
第2軍司令官西尾壽造、派軍參謀鵜澤中佐向第10師團師團長傳達了司令官的希望：「應占領滕縣附近及確保大平邑」。
次後又下達正式命令，命「第10師團擊滅大運河以北之敵，第5師團以一部佔領沂州後，進入嶧縣附近，配合第10師團作戰」，「在達到上述目的後，大致在滕縣、沂州一線為以後作戰作好準備」。
日軍第2軍的進攻行動，直接導致了滕縣及臨沂的戰鬥，從而揭開了大戰的序幕a