21日晨，聯合艦隊5艘日空母「赤城號」、「加賀號」、「蒼龍號」、「翔鶴號」、「瑞鶴號」起飛300餘架作戰飛機對上海發動全面進攻。擁有戰列艦「山城號」、「扶桑號」、戰巡「比瑞」、「金剛」及15艘輕重巡洋艦、55艘驅逐艦的聯合艦隊對上海發動了全面進攻。
艦隊集中了日本海軍1939年為止60%的水面戰艦力量，聲勢一時無兩。
炮火準備及轟炸持續了兩天，期間22日夜陳紹寬上將在蔣校長強令之下部署了一場動用了包括2艘輕巡洋艦、19艘驅逐艦——其中15艘是剛剛從米國購買接收的一戰老式驅逐艦及相當數量魚雷艇的魚雷的夜襲作戰，但效果不佳。
日軍艦隊的夜戰訓練非常強大，在艦炮對戰時可以很快的通過炮口火光側向測距對遠東軍艦進行攻擊，而且因為為了確保襲擊的突然性，陳紹寬在入夜之前將艦隊部署在了象山港，，連夜奔襲將近兩百海里突襲才到達預定戰場。遠東突擊艦隊趕到後已經是凌晨4時。顯然在攻擊結束後，剩餘的時間已經不容許他們撤退了——如果它們選擇攻擊後撤退，日軍的海軍轟炸機會在天亮後把他們全部幹掉。
由於能見度較差，魚雷攻擊效果不良，在遠東海軍的拼死衝鋒下，遠東軍2艘輕巡洋艦和13艘驅逐艦，14艘魚雷艇戰沉。日軍方面「金剛號」戰巡被擊中1條魚雷失去動力，「高雄號」、「出雲號」重巡洋艦與「野分號」、「雪風號」等在內的5艘「陽炎級」驅逐艦被擊沉，此外還損失了10餘條泊靠在閘北港口和登陸灘頭的駁船、運輸船隻。至此，陳紹寬剛剛整編的艦隊精銳盡喪無力再戰，殘餘艦隊不得不衝入長江口前往中下游地區內河港口部署。
在撤退途中，大部殘餘戰艦被日空母的九九式艦爆擊沉。遠東空軍從筧橋機場起飛機群攔截日機，擊落九九式艦爆21架，九六艦戰8架，自身損失35架。
隨後日軍開始展開登陸進攻。
日軍憑藉海空優勢，在淞滬方向花了兩個月的時間強攻，以損失兩個精銳師團、400門火炮、150架作戰飛機的代價，打殘了蔣校長嫡系的11個師，其中3個原裝德械師。雙方戰況激烈，日軍與閘北地區反覆猛攻，雙方傷亡重大然不得寸進。
1939年1月，日軍從松江、嘉定南北兩個方向發動了第二次迂迴登陸，遠東軍海陸配合進行了一次有效的反擊，在登入過程中殲滅日軍8000人，擊沉登陸艦艇、運輸船30餘艘，「陽炎級」驅逐艦4艘。日軍頂住巨大傷亡強攻上陸成功，導致遠東軍隊防線側翼崩壞，不得不逐次後退。
危急時刻，蔣校長將最早接受德國顧問整編的孫元良、宋希濂第87、88師從蘇州吳福線防線調動前突到側翼日軍正面，進行拖延作戰，讓大部隊得以獲得有序撤退時間，87、88師堅持9日沒有讓嘉定、松江登陸日軍繼續前進一步，始終維持了從吳江至嘉善的戰略缺口供淞滬戰區的30餘個師殘部得以有序撤退，避免了在日軍銜尾追擊中的全軍崩潰。
淞滬包圍圈內有序撤出的遠東軍隊30餘個師退至吳福線、錫澄線兩道江南防線穩固布放，部分減員特別嚴重的師則佈置到南京至江陰要塞的後方進行補充整備。
1月21日，日軍終於逐次硬啃掉了上海、嘉定、松江、蘇州、嘉興等地。負責堅守側翼缺口的德械87、88師在為掩護友軍撤退，在日軍4倍優勢兵力夾擊下全軍戰沒。孫元良、宋希濂以下3萬5千餘人相繼殉國，淞滬包圍圈內來不及撤出的其他遠東軍殘部約4萬餘人相繼戰死、受傷被俘，大批重炮裝備在撤退中被破壞或丟棄、繳獲。
但是在戰線逐次向內陸延延伸的過程中，日軍的海上優勢逐漸消失，德國顧問法肯豪森1936年起建議建設、部署的吳福線、錫澄線與江陰要塞三梯次的縱深防線體系開始起效。蔣校長將剩餘50餘個整編師部署在了長江下游兩岸的三道縱深防線區內，採用德國顧問建議的縱深彈性防禦，把日軍牢牢釘死在吳江、常熟、江陰之間反覆拉鋸。8個日軍精銳師團在南線與蔣校長的50個整編師進入了膠著狀態。
轟轟烈烈的江陰要塞決戰即將展開。