便橋之盟定後，大唐與突厥之間表面上相安無事，然而暗中的較量卻從未止歇。武德九年八月底，貞觀皇帝李世民敕令十六衛府、十二軍府各抽調二十名從軍三年以上兵弁入內廷受訓，名曰“御訓”。讓長安文武百官惶恐不安的是，皇帝竟然將訓練地點設在了東宮顯德殿外的廣場上。九月初四，由蕭瑀、封德彝領銜，三省宰相聯名上奏，請罷御訓。李世民當日便召百官入朝，宣敕曰：“朕待天下臣民以誠，天下人必不負朕；突厥大軍南來，掠我州縣，虐我百姓，兵鋒直抵畿輔，此亙古未有之奇恥大辱也。故朕決意臥薪嚐膽、整軍經武，豈有懼謀刺而遠天下之理？王者視四海如一家，封域之內，皆朕赤子，朕一一推心置其腹中，奈何宿衛之士亦加猜忌乎？”
貞觀元年十二月，奉命出使突厥的鴻鸕寺少卿鄭元壽回到長安，上表曰：“突厥之興盛，以羊馬牲畜為標誌。今突厥民飢畜瘦，此將亡之兆也。其內外離怨，諸部多叛，兵漸弱，臣算其敗亡，不出三載……”
貞觀二年元月初一，貞觀皇帝李世民免去了一年一度的年筵，開承天門放百官入太極宮，在太極殿公議突厥事。太上皇李淵也意外地參與了此次朝會。
在朝會上，群臣紛紛上奏請擊突厥，趙國公尚書右僕射長孫無忌獨持異議，他道：“貞觀元年之前，突厥歲歲犯塞，而朝廷未長出兵懲之；而貞觀元年，突厥未犯塞，如此棄信勞民，非王者之師所為也。如此蠻夷之族再不信朝廷，則突厥雖滅，邊塞難安也……”
李世民斟酌再三，在請示了太上皇李淵之後下敕：“朕與突厥方盟誓不久，而即背約為失信，乘人之危而發大兵征討為不仁；此時行天罰，雖勝亦非武。縱使其六畜皆亡，諸族皆叛，亦不可攻；非待其有罪，朕不罰也……”
事後群臣議論紛紛，一致以為皇帝之所以決定不在這個時候發兵，政治考慮明顯多於軍事考慮。一者長孫無忌所言確實是謀國之言，二者朝廷此刻的軍事準備確實還不夠充裕。皇帝關注的不僅僅是一個突厥，而是周邊大大小小十幾個夷邦，大唐若要一一蕩平這些外族，消耗必大，這與皇帝偃武修文的本意背道而馳。要賓服四夷，德化懷柔的手段是不可或缺的，要保證這樣的手段能夠有效，就必須注意維護軍事行動背後的道義基礎。
儘管李世民沒有趁此時機發兵平滅突厥，但相應的軍事行動卻一步緊似一步。貞觀二年，趁突厥內亂之機，唐廷以霍國公柴紹為元帥，以右驍騎大將軍薛萬均為副元帥，發馬步軍八萬奇襲朔方，僅半月時間便迫使梁師都麾下大將軍李萬寶來降。隨後薛萬均率萬騎迂迴統萬城，抄了梁師都的後路，也切斷了突厥大軍南援的必爭之道。柴紹則率唐軍主力包圍朔方城，圍城二十餘日，梁師都外援斷絕，為部將所殺，朔方遂破。
貞觀二年年末，突利可汗領地內薛延陀、回紇兩部落反，突利出兵平叛，反為所敗，單騎逃往頡利牙廷請兵。不料頡利竟將其關押十數日，並加以撻責。自此冒合神離的兩位可汗終於公開決裂。突利後來回到自己的領地後，當即便斬了頡利的使者，其後頡利數次向其徵兵，突利均不加理睬，卻暗中向唐廷上表，表示願意歸附。
貞觀三年八月，代州都督張公謹上表言突厥之可勝，表曰：“頡利縱慾逞暴，誅忠良，暱奸佞，一也。薛延陀等諸部皆叛，二也。突利、拓設、欲谷設皆得罪，無所自容，三也。塞北霜早，餱糧乏絕，四也。頡利疏其族類，親委諸胡，胡人反覆，大軍一臨，必生內變，五也，華人入北，其眾甚多，比聞所在嘯聚，保據山險，大軍出塞，自然響應，六也”。
九月初一，貞觀皇帝釋出任命敕，以南陽郡公兵部尚書李靖為河西道行軍總管，以代州都督張公謹為行軍副總管，發大兵五萬征討突厥，此次抽調的是在洛陽集訓多年身經百戰的玄甲軍，其鋒銳彪悍，天下莫有能抗。仗打到九月，頡利麾下九名俟斤率三千騎來降，十月，拔野古、僕骨、同羅、奚酋長等部落紛紛來降，進擊頡利的外圍障礙基本上被掃清。
十一月，頡利以大唐背約為藉口，發兵進犯河西，肅州、甘州兩地守軍在劉弘基節度之下鏖戰月餘，終於擊破了來犯之敵。至此，突厥牙廷的影響力被壓縮在定襄郡周圍不大的一片地域內，來自大唐西面、西北、北面等幾個方向的軍事威脅均被消除，與突厥決戰的時機終於成熟了。
貞觀三年十一月十四，李世民在東宮顯德殿設中朝，向文武百官宣示頡利十大罪狀，當即任命幷州都督李世勣為東路行軍總管，左驍騎大將軍薛萬均為副總管，率幷州軍八萬北渡滹沱河，經博陵、雁門、馬邑三郡進擊襄平；兵部尚書檢校中書令李靖為西路軍行軍總管，霍國公柴紹為副總管，率六萬精兵由靈州出塞，經朔方、榆林向襄平方向進擊。東西兩路大軍共計十四萬人馬，都是從大唐軍中精選出來征戰多年經驗豐富的老兵。為保障此次軍事行動的後勤糧秣，李世民下敕由尚書右僕射杜如晦領銜組建了北征行臺，專辦大軍糧秣供給事宜，尚書省戶部自尚書以下堂官、兵部自侍郎以下堂官、中書省兵房舍人、門下省兵科給事中均在行臺輪值辦公，凡涉及北征大軍所需人、財、糧、物，從兵部上呈表單到三省五花判定再到皇帝正式敕旨發出，前後竟不超過一個時辰，如此效率，自三省定製以來尚屬首次。
十一月底，西路軍在榆林以北以優勢兵力擊破頡利一部，斬首萬餘。李靖當即代唐廷向北面盤踞的突利可汗發出勸降敕，十二月初八，突利可汗率五萬部眾自縛請降。初十日，東西兩路大軍在定襄以南馬邑會師，十四萬大軍隨即展開，李世勣在桑乾河北岸一月之內連續擊破突厥四個遊騎部落，俘獲兩萬餘人、羊馬近五萬頭。
十二月底，由霍國公柴紹親自護送抵京的突利可汗在東宮顯德殿向大唐貞觀皇帝李世民遞交了降表，稱：“臣本域外之民，自此歸服王化，永為天子藩屏，使朝廷不復北憂！”。李世民對突利歸順大唐的大義之舉大加讚賞，在設宴以敘兄弟之誼的同時，正式以敕書形式冊封其為突厥可汗，享郡王俸祿，食邑五千戶，賞金千兩，帛百匹，牛馬三萬頭，將五原周圍方圓三百里賜為其游牧場所。
在厚待突利可汗的同時，李世民下敕給前線的李靖、李世勣兩位統帥：“卿等宜乘勝追擊，克復定襄，擒頡利收北地歸朝奏捷，天下自此長安！”，同時明敕兩路大軍合兵，以李靖為總管，李世勣為副總管，薛萬均為長史，並授李靖兵符節鉞，有便宜行事臨機決斷之權。
貞觀四年正月，李靖親率三千輕騎，自馬邑出發向北，悄悄繞過了正面突厥大軍的防線，不眠不休連續行軍三晝夜，於正月十一突然出現在定襄城南八十里的惡陽嶺。這支騎兵人數雖少，卻公然高擎“大唐兵部尚書定襄道行軍總管李”的大纛，招搖過境，以不可擋之勢連續擊破數股突厥遊騎偵騎。
頡利可汗不意李靖大軍猝然而至，一日數驚，惶恐不安。他料得李靖以唐廷宰相北征大軍統帥身份敢於率孤軍深入腹地，必是唐已傾全國之力來攻，前方突厥諸部均已被殲或陷入苦戰，驚慌失措之下不及詳查，僅率百餘親兵逃出了防務空虛的定襄。李靖趁機輕鬆攻克定襄，生俘寄居於此的前朝隋煬帝皇后蕭氏及皇孫楊政道。
就在李靖輕騎奔襲定襄的同時，李世勣率一萬騎兵字雲中郡出擊，在白道設伏，將剛剛收攏兵馬意欲再戰的頡利擊潰，頡利數日之內在自家腹地內連敗兩陣，不知唐軍究竟來了多少軍馬，僅率數百騎倉皇北竄，最後總算在幘口站穩了腳跟，再設牙廷。
然而牙廷雖設，頡利與麾下各部之間的聯絡均被唐軍打斷。眼見唐軍將十餘萬失去統一指揮節度的突厥大軍分割包圍在定襄周圍逐一聚殲，頡利又是心痛又是惱怒，為了爭取時間求得一線喘息之機，他遣使乘快馬星夜向長安發出了求和降表。
貞觀皇帝接到頡利請降表章，連夜召集重臣廷議。廷議中文武臣僚發生了激烈爭執，以淮安郡王太常寺卿李神通、河間郡王李孝恭、梁國公尚書左僕射房玄齡、侍中王珪、秘書監參預朝政魏徵為代表的一派勢力主張接受頡利歸順，封其於榆林之北以制衡突利；而以江夏郡王左金吾衛大將軍李道宗、趙國公開府儀同三司長孫無忌、右衛大將軍參預朝政侯君集、大理寺卿參與朝政戴胄為代表的一干臣子則主張乘勝追擊，不給頡利以喘息恢復之機，總攬徵北糧秣事的尚書右僕射萊國公杜如晦病重，未能參與廷議。
李世民經過慎重考慮，最終召突厥使臣上殿，嚴厲斥責頡利可汗背盟不義殘民棄友十大惡狀，同時允其歸順，召其來朝待罪。他當殿任命武德舊臣唐儉為鴻臚寺卿、出使突厥使臣、假節鉞。翌日，風燭殘年的唐儉在一隊唐軍的護送下離開了長安，與突厥使臣一起趕奔千里之外的突厥牙廷宣示大唐皇帝敕旨。
然而令大臣們百思不得其解的是，唐儉一離京，皇帝似乎便把這個茬忘了，絕口不再提起此事。就是朝堂之上有臣子提及，皇帝也往往將話頭岔開，顧左右而言他。更加令臣子們納悶的是，皇帝竟然連一道暫緩進兵的敕書都不給前線發出，似乎完全忘記了前方還有十四萬大軍在等待著他的最後命令……
……
李靖在中軍大帳門口跺了跺腳，又跳了幾下，將渾身上下的積雪抖落，又左右扭動了一下被凍得僵硬的脖子，這才邁步走進了大帳。
偌大的中軍帳內鴉雀無聲，定襄道行軍副總管幷州都督李世勣長身站在中央，大大小小十幾員將弁負手跨步立在兩邊。李靖一進來，眾將齊齊抱拳行軍禮：“參見大將軍！”