宋端宗崩逝時，行朝人心離散，大有一鬨而散的意思。據《宋史·陸秀夫傳》，這時，又是陸秀夫站了出來，對眾臣慷慨陳詞：
度宗皇帝一子尚在，將焉置之？古人有以一旅一成中興者，今百官有司皆具，士卒數萬，天若未欲絕宋，此豈不可為國邪？
陸秀夫以其忠直與堅韌，在流亡朝廷中的感召力已無出其右。四月十七日，眾大臣在硇洲島奉八歲的衛王趙昺為帝，史稱帝昺，於當年改元「祥興」，因陳宜中遠走，陸秀夫被拜為左丞相。
陸秀夫拜相後，「外籌軍旅，內調工役，凡有所述作，又盡出其手」，顛沛流離中，還每日手書《大學章句》以勸講幼帝。
張世傑欲以一場大捷為祥興朝啟幕。祥興元年（元至元十五年，1278年）五月，張世傑遣將張應科進攻雷州，可能想借此控扼瓊州海峽，為西去占城開啟通路。惜乎四戰四敗，連張應科都兵敗而死。
無限河山淚，誰言天地寬。張世傑英雄失路，於六月初將行朝徙居崖山島（今廣東江門新會區崖門鎮，現已與陸地相連）。崖山島所在水域為珠江出海口之一，島上有兩山，東為崖山，西為湯瓶山，兩山之脈向南延伸入海，如門束住水口，門闊僅裡許，故又名崖門，有兩山夾一海之地利。張世傑「以為天險，可扼以自固」。
宋軍雖佔有地利，但隱憂已然埋下。宋水軍尚有數萬，但包括家眷在內的行朝總人資料估計達到二十萬人，這麼多人困於崖山一隅之地，食物、飲水等後勤供給都是棘手的問題，一著不慎，就是全員斷糧斷水。
張世傑深感退無可退，擔心再東躲西藏會導致士氣離散，不戰自潰，於是意欲在崖山與元軍一決生死。據《宋史·張世傑傳》，有人向張世傑建言搶奪海口：「北兵以舟師塞海口，則我不能進退，盍先據海口。幸而勝，國之福也；不勝，猶可西走。」張世傑回了一句狠話：「頻年航海，何時已乎？今須與決勝負。」
言罷，張世傑命令士卒焚去岸上舍屋，舍陸就舟：將一千餘條大船泊於海中，沉碇於海，船頭朝內，船尾朝外，用大索聯結起來，築成水寨，「四周起樓棚如城堞」，遠望如堅壁，將帝昺等人居於最當中的鉅艦上，重重保護。
就在三年前，張世傑在焦山水戰時也擺出了相似的「鐵索陣」，為元軍火攻所破。知兵的張世傑為何沒吸取戰敗教訓，可能與三年前的原因類似：宋軍士氣低迷，每逢大戰都易發生潰逃，張世傑想用「鐵索陣」以示背海一戰，有死無逃。
更何況，張世傑自認採納了焦山之敗的火攻教訓，下令在戰船外面皆塗滿溼泥，「縛長木以拒火舟」，果然挫敗了元軍將領張弘範的火攻戰術。
但宋軍如此士氣，又何談險中求勝呢？畢竟，無論是項羽的破釜沉舟，還是韓信的背水一戰，其追求的效果都是激發士兵置之死地而後生的軍心與戰力。而張世傑布「鐵索陣」的效果呢？《宋史·張世傑傳》只給出四個字：「人皆危之」。
道理也很簡單，但凡參加過焦山之戰的老兵，看見張世傑如此佈陣，心有餘悸是正常的心理反應。
文天祥扼腕於張世傑「不知合變，專守法」，批評宋軍的佈陣是被動挨打，「行朝依山作一字陣，幫縛不可復動，於是不可以攻人，而專受攻矣」。
張世傑的運氣其實已屬不錯，江南元軍為了應付漠北戰事，此前曾大量北調，給了他從容經營崖山的充裕時間視窗。一直到至元十六年（南宋祥興二年，1279年）正月十三，張弘範方才率水軍自潮陽抵達崖山。張弘範被忽必烈任命為此戰主帥時，擔憂蒙古諸將不服，請以蒙古重臣為主帥；忽必烈堅持不換帥，認為「委任不專」將敗大事，並應張弘範所請，賜其有先斬後奏之權的尚方寶劍，以威服蒙古眾將。
張弘範一到崖山，就勘察地形，見島上東西都有山，北面水淺，便移水軍至崖山以南；又給張世傑的外甥封了官，連續三次派他誘降張世傑，《宋史·張世傑傳》記載，張世傑歷數古代忠臣作為表率：「吾知降，生且富貴，但為主死不移耳。」
張弘範還不罷休，派人給崖山士民帶信：「你們的丞相陳宜中遁逃了，另一個丞相文天祥又被我俘虜了，你們不降還能做什麼？」
張弘範最狠辣的一招是，出奇兵截斷了宋軍的水源地。宋軍連啃乾糧十餘天，渴極了，只得被迫喝海水，「飲即嘔洩，兵士大困」。這樣的部隊還能有什麼戰鬥力呢？
正月二十二日，出身西夏皇室後裔的副帥李恆率麾下三百艘戰船與張弘範會師，屯兵崖山以北，對崖山宋軍形成南北夾擊之勢。
面對張世傑的鐵索陣，有元軍將領獻計架炮于山頂轟擊宋艦，這炮說的可能就是襄陽炮。張弘範回應：「炮攻，敵必浮海散去。吾分追非所利，不如以計聚留而與戰也。且上戒吾必翦滅此，今使之遁，何以復！」
李恆也附和稱，宋軍「薪水既絕，自知力屈，恐乘風潮之勢遁去」，必須趁宋軍遁逃前「急攻」。
張弘範和李恆這番話頗有資訊量，透露出忽必烈欲聚殲殘宋於崖山的意圖。元軍最憂慮的根本不是宋軍的戰鬥力，而是宋軍再次逃之夭夭。從這個角度而言，張世傑一決生死於崖山的戰略部署，正中忽必烈與元軍下懷。
這更能看出，張世傑多少有些意氣用事了。他只是因為不想再逃了，就尋求決戰。但決戰就決戰吧，張世傑又主動放棄水師機動性，被動地等待元軍大舉進攻。
但這不僅僅是張世傑一人的問題。機動本是水軍的特長，但在宋季，南宋水軍在大規模水戰中基本採取被動防禦，完全複製了步軍的懼攻喜守的傳統，以大船為主的水軍缺乏機動性，作戰全靠風力，無風則陷於被動；而反觀新生的元朝水軍，多以水軍作為主攻的兵種，「靈活運用正面攻擊、側背迂迴、水陸協同夾擊等戰法」，更擅運用「水哨馬」「拔都兵船」等輕舟，「取其往來如飛，便於攻擊之利」。總的來看，「宋軍似以水軍執行守城步兵的功能，而蒙軍則以水軍用作衝鋒陷陣的騎兵。這種運用上的差別，不僅反映兩軍策略及士氣上的差異，也反映兩國軍事傳統的不同」。
二月初六清晨，張弘範兵分四路，對崖山宋軍水師發動總攻。剛剛鋪陳了不少崖山之戰的前奏與背景，此戰也的確干係重大，但為時僅一天的戰事其實沒有懸念，更無先勝後敗之類的橋段。儘管宋軍艦船更多，有艦千餘艘，遠超只有四五百艘船的元朝水軍，但自處被動挨打之勢，士卒缺水睏乏，難以承受久戰；從戰前元軍的部署來看，他們也是勝券在握，攻擊慾望充沛，更關切是否能全殲宋軍。
宋軍此役的確盡力了，並沒有上演丁家洲之戰與焦山之戰的潰逃一幕。元朝官方典籍《經世大典·政典·征伐·平宋》記錄崖山之戰時，在不長的篇幅中兩次用了「殊死」這一表述。
崖山之戰的前半程，也就是從清晨到中午，宋軍尚在拼死抵抗，張世傑「以江淮勁卒各殊死鬥，矢石蔽空」，「自朝至日中，戰未決」。
但到了午後，宋軍士卒體力開始不支，決死一戰的哀兵掙扎也開始被元軍更穩健且更持久的信心與勇氣漸次壓倒。張弘範彷彿是一名穩操勝券的草原獵手，氣定神閒地為萬般掙扎的困獸親手送終。
戰至傍晚，宋軍已近全線崩潰。直到此時，才迎來了崖山之戰最激盪的時刻。《宋史紀事本末·二王之立》記下了這慷慨悲歌的一幕：