事實上不需要李淵下達聖旨，李孝恭發現北隋內衛軍北上後，立刻意識到不妙，他一方面派去去向李世民彙報，一方面率大軍向北追趕，卻被隋軍攔截在武關城下。
武關有兩重防禦，一時關隘前面的東武關河，河水落差較大，水流十分湍急，又正逢初夏，使水流變得更加急險，渡河十分困難。
東武關河上原本有一座木橋，往來商旅和軍隊都是從木橋上來來往往，並沒有受到河流的影響，但隋軍佔領武關後便徹底拆除了這座木橋，使得趕來支援的李孝恭軍隊首先便面臨第一道險阻。
東武關河寬約二十丈，岸深約三丈，河中佈滿了大大小小的石頭，唐軍已經下河去試驗，看能不能蹚水過河，但參加試驗的八名士兵全部被水沖走，兩人身負重傷，另外六人下落不明，這便使李孝恭徹底死了直接渡河之心。
不僅水流湍急，而且河對岸還有數百隋軍士兵手執弓弩嚴陣以待，可是隨時射殺渡河的士兵。
午後，李孝恭站在河岸邊，注視腳下湍急的河水，心中著實感到憂慮，他們不可能插翅飛過去，知道渡河過去，但不管用船隻也好，直接泅水也好，他們必須有一個依託才行，這個依託就是一根粗索，或者一根鐵鏈，連接河兩岸，可怎麼派一名士兵過去？這又是讓李孝恭極爲傷腦筋之事。
這時，旁邊大將盧祖尚低聲道：“殿下，卑職倒有一個過河方案。”
“什麼方案，你說！”
“卑職見河水雖然湍急，但水卻不深，能不在上游截斷河水，使河牀乾涸”
李孝恭沉吟一下道：“這個辦法倒是不錯，不過風險也大，稍有不慎就會使我們面臨滅頂之災。”
“短時間應該問題不大，而且不用完全乾涸，只要堵住一半，水流變小，衝擊力也不會大了，那時便可以直接蹚水過河，殿下覺得呢？”
盧祖尚這個方案可行，李孝恭當即立斷道：“你立刻率一萬軍去上游尋找斷流之處，最好是能把河水引走，我希望明天天亮前完成這個任務。”
“卑職明白了！”
盧祖尚立刻率領一萬軍隊沿著河岸向西而去，其實盧祖尚還希望能找到一處渡河之處，即使無法斷流，也可以率軍隊渡過河去。
就在盧祖尚剛走，一隊報信兵便疾奔而至，爲首騎兵高聲喊道：“殿下，聖旨到！”
李孝恭一驚，連忙迎上前，一名送旨士兵翻身下馬，單膝跪下，將聖旨呈給了李孝恭，“這是天子的八百里加急聖旨，送到秦王殿下那裡，秦王殿下又令我們送來。”
李孝恭連忙打開聖旨看了一遍，聖旨令他率三萬五千大軍撤回上洛郡，配合關中唐軍圍剿上洛郡的隋軍。
李孝恭眉頭一皺，他本身就是在北撤回上洛郡，和聖旨不謀而合，只是聖旨要求他率三萬五千軍隊北上，而他只統帥了兩萬軍隊，還有一萬五千軍隊在武士彠手中，武士彠現在在哪裡他也不知道，這可怎麼辦？
李孝恭心中忽然一動，既然是先送到秦王手中，那秦王應該有調度纔對，他連忙問送信兵道：“武都督的軍隊現在在哪裡，你們可知道？”
“啓稟殿下，武都督已率軍北上，距離這裡已經不遠了，估計明天上午就能趕到。”
李孝恭心中有些失落，如果所有軍隊都被北上了，那淅陽郡怎麼辦？
“這是秦王殿下的命令嗎？”李孝恭又問道。
“正是！”
李孝恭暗暗嘆了口氣，看來局勢比自己想象的要嚴重得多，秦王又怎麼會不知道所有軍隊北上的後果，既然世民已做出決定，自己接受命令就是了。
李孝恭便不再考慮淅陽郡，只想著怎麼奪回武關纔是當務之急。
李孝恭幾乎一夜未睡，忐忑不安地等待著盧祖尚的消息，天還沒有亮，坐在大帳內打盹的李孝恭忽然被一陣急促的腳步聲驚醒，只聽外面有人大喊：“殿下，河水乾涸了！”
李孝恭騰地坐起身，睏意頓時被驅趕得無影無蹤，李孝恭大步走出營帳，只見兩名親兵正在訓斥剛纔報信的士兵，他的聲音太大。
“河水乾涸了嗎？”李孝恭的聲音更大，嘶啞著聲音問道。
士兵連忙上前單膝跪下道：“啓稟殿下，河水從半個時辰前逐漸減小，就在剛纔已經徹底乾涸了。”
“那軍隊過河沒有？”
李孝恭急忙追問，他知道上游不可能堵水太長，否則會給下游軍隊帶來滅頂之災，所以他和盧祖尚約好，最多隻斷水一刻鐘，他最怕稟報完自己後再渡河，時間就耽誤了。
“史懷義將軍率三千士兵已經過河，對岸的隋軍已經撤回了關城。”
李孝恭頓時長長鬆了口氣，只要他的軍隊過了武關河，那他們就可以在半空搭建鐵索橋了。
唐軍渡過了東武關河便意味著距離收復武關的目標更進了一步，當天上午，唐軍在東武關河上搭建了兩座鐵索橋，軍隊開始大規模渡河，在武關前集結，而就在這時，武士彠率領一萬五千大軍也趕到了武關。
這是李世民的無奈和妥協，他也知道殺入上洛郡的隋軍騎兵一定是隋軍最精銳的內衛軍，一萬內衛軍騎兵足以和五萬唐軍抗衡，僅靠李孝恭的兩萬人是無法擊敗一萬隋軍騎兵，極有可能會全軍覆滅，在關鍵時刻更不能指望二叔李神通率軍趕來奮勇殺敵，只有將武士彠的軍隊也一併北上，纔有可能和上洛郡的隋軍匹敵。
至於淅陽郡，李世民當然不甘心放棄，但面對強勢的襄陽隋軍，他沒有選擇餘地。
三萬五千唐軍迅速在武關下列隊，準備大舉進攻武關，守武關的主將正是李客師，他率領一千騎兵負責適當阻截唐軍進入上洛郡。
李客師站在城頭上，冷冷地注視著數百步外正在集結的唐軍士兵，武關位於一塊高地上，居高臨下，易守難攻，即使最後守不住武關，也會給敵軍以重創。
不過隋軍攻打的上洛郡的根本目的並不是要佔領上洛郡，而是要逼迫李世民放棄淅陽郡，也就是將李孝恭和武士彠軍隊引入上洛郡，所以李客師並不真的打算將唐軍攔截在武關之外，相反，他們是要創造條件讓唐軍進入上洛郡。
李客師之所以沒有撤退是因爲他在等主帥劉蘭成的消息，兩支軍隊需要匯合後一起行動。
眼看唐軍在武關外已經集結完畢，就在這時，一名士兵飛奔而至，單膝跪下稟報，“啓稟將軍，劉將軍派兄弟來了。”
果然來得及時，李客師笑道：“人在哪裡？”
片刻，一名校尉快步走上，行一軍禮道：“參見李將軍！”
“劉將軍現在何處？”
校尉取出一幅地圖交給李客師，“地圖上標識得很清楚，卑職也會帶路。”
李客師看了看地圖，點點頭道：“我知道了，我們立刻出發！”
他隨即傳令道：“全軍集合，準備出發！”
不多時，李客師便率領一千騎兵迅速離開了武關，縱馬向北方劉蘭成軍隊藏身處疾奔而去。
唐軍很快便發現了城頭上的異常，剛纔城頭上還站滿了隋軍士兵，但轉眼城頭便一個人也看不見，而且連旗幟也消失了，著實讓李孝恭感到驚訝，隋軍不可能就這麼棄關而走吧！但如果不是棄關而走，這又是什麼意思呢？難道是要擺空城計不成？
這時，大將史懷義道：“殿下，卑職率一隊弟兄去看看！”
李孝恭點點頭，“你們要當心，注意防備！”
史懷義一揮手，“跟我來！”
他帶著百名士兵攜帶一架攻城梯向城牆奔去，片刻奔至城下，攻城梯咣！的一聲扣在城頭，所有唐軍士兵的心都懸了起來，他們屏住呼吸，注視著城頭的任何一絲變化，唯恐隋軍突然殺出，亂箭齊發。。