西河郡！
節制西河郡兵事的龍泉郡守高德儒，確實不負衛玄所望，率領著不屬于他的兵，愣是把雀鼠谷靈石縣守得死死的！
李淵父子三人一路意氣風發南下，到了靈石縣時，人馬膨脹到四十萬之眾。雖然絕大多數人跟瞧熱鬧差不多，可李淵是來者不拒。
李淵原以為，自己能夠以下河西一般的閃電速度下河東、入關中；可當他到達靈石縣時，卻發現河西郡之所以不設防，完全是因為高德儒屯一郡重兵守住了這個險要的關隘。
而原以為是忠心耿耿的跟著自己一路干到底的高德儒卻站在靈石城頭，罵他狗血淋頭。
李淵大怒，這個在太原對自己俯首貼耳的家伙，居然是兩面三刀的陰險小人。
「高德儒，安敢背叛本將軍，待本大將軍攻破關城，定砍下你狗頭當夜壺！」
「我高德儒本是隋臣，何時成了你李家之臣？要說背叛，那也是深受兩代帝王恩寵的李家！如今大隋雖亂，可也是一時小患罷了！有本事盡管來戰便是了……」高德儒冷冷的回了一句。
李淵大怒，下令攻城。
靈石縣位于雀鼠谷中段，一個地勢十分險要的地方，是太原南下的必經之路，也算是太原外圍的一道重要門戶，哪有那麼好攻的。只要派兵穩守穩打，逐段消耗李淵的兵力，李淵就算有幾十萬大軍也休想攻下雀鼠谷。
李淵一無攻城器械，二無準備。
結果打了半天沒半點效果，反而死傷不少烏合之眾。而士氣極高的義軍將士們，看著賈胡堡下那慘烈的死傷，似乎才剛明白造反是要殺頭的，打仗是要死人的。
那點熱情一過，很多人馬上開小差。
當天晚上，李淵的三十萬大軍，蒸發了好幾萬。李淵又攻一天，又走幾萬。
三天過後，四十多萬大軍，結果只剩二十萬。
「父親！這其實是好事。」李建成見李淵憂心忡忡，連忙安慰道︰「兵力太多會增加後勤的負擔，贅而不精不利于作戰，而且良莠不齊，難以管束軍紀！只不過起義之初，不好將之拒于門外。那些烏合之眾除了消耗我軍糧食，不僅不會起到半點作用，還會動搖軍心，他們現在自己走了，反倒是省下一大筆遣散費。」
裴寂也勸李淵少招河東人，多用關隴軍，李淵深為贊同，遂下令在靈石縣整頓軍隊，剔除老弱及無賴，弟留兄去、子留父走，凡離軍之人皆送米糧安撫。
「且慢！」英氣勃勃的李世民反對道︰「我們糧食本就不多，這若發了糧食，接下來我們怎麼辦？」
「這……」李淵猶豫了起來，雀鼠谷全長七十多公里，狹長難行，如果把糧食發放給遣散的人了，這糧食哪里夠用？沒了糧軍心必亂，「依二郎之見應當如何？」
「任何一支強軍都需要千錘百煉才能淬煉而出，孩兒的意思是以戰練軍！」李世民指著靈石縣城道︰「靈石城守軍頂多只有兩萬余人，且都是戰力不強的郡兵府兵民夫，我們可以將二十萬大軍分成十隊，日夜不休的輪流攻城，如此一來，一能節省時間，二能奪下靈石，三能淬煉軍隊，四能節省糧食！」
「這傷亡也未免太大了吧？」李建成皺眉道。
李世民笑道︰「成大事者不拘小節，婦人之仁只會誤了大事。這些人都是奔著從龍之功之事的，這不拼命怎麼能行？」
李建成見父親心動，沒有多說什麼，覺得二弟的心腸也未免太狠了一些。
「好辦法！」李淵一拍大腿，道︰「就這麼辦，要快。」
隨著李淵一聲令下，大軍一分為十，戰鼓隆隆，也顧不上什麼排兵布陣，輪番對靈石縣猛攻。
三天過後，
劉弘基終于躍上了靈石城頭。
越來越多的唐軍也跳上城頭，靈石守軍再也難以抵擋，紛紛敗撤入城。
但是李淵也付出了慘重的代價，二十萬大軍連跑帶死的，只剩下下了十二萬人左右。
「高德儒呢？」入城的李淵問道。
「退守縣衙之中。」渾身浴血的劉弘基回道。
李淵咬著牙，「給我屠了靈石！」
紅著眼楮的劉弘基等人立即轉身而出，「大將軍有令，屠靈石城，雞犬不留！」
李建成、李世民趕來阻止時，命令已經下達，處處都是為惡的‘義軍’。兄弟二人相視苦笑︰屠殺令開了頭，接下來的城鎮必將誓死抵抗，仗變得不好打了！
是日，靈石城中兩萬多軍民，盡被屠光，雞犬不留。
不出李氏兄弟所料，大軍南下之際，在賈胡堡又遇到了頑強的抵抗！僵持四天之後，唐軍付出了三萬余人的代價，這才拿了下來。這一回，吃了教訓的李淵不敢再屠城了！
但更大的麻煩出現了。
由于他們耽擱了太多時間，給了大隋從容布防的時間，擺在他們面前的霍邑縣地勢艱險，扼住了南下的必經之路！守軍也不再是普通的府兵、郡兵，而是由沙場宿將宋老生帶領的兩萬禁兵。
李世民認為宋老生雖被代王信任重用，並不是他有軍功，實因他是衛玄的門生，是靠資歷熬上來的！如今衛玄已老，屈突通又威脅到了他的地位，所以，他一定急于立功來證明自己。
李淵采納了李世民的意見，利用宋老生立功心切的特點，以自己為誘餌，帶領七千精兵勸降。卻命李建成、李世民于中途設伏，只要把宋老生引出城外，便伺機奪城。
宋老生果然上當，他見招降的是李淵本人，他心中大喜，表面上答應投降，實則是整頓軍隊殺向李淵。
李淵嚇得掉頭便逃，七千軍護衛著他向北奔逃，宋老生哪里肯舍，率大軍追擊，他的兵力遠不如李淵，只有這種機會才可能使以弱勝強，但這種機會只有一次，失去了便再也沒有。
于是在霍邑城下，宋老生與李淵大戰，宋老生帶來的兩萬大軍都是有經驗大隋禁兵，久經沙場，在宋老生的帶領下以一當十，殺的李淵叫苦不迭，連連後撤。
潛伏樹林之中的李建成、李世民兄弟放過宋老生大軍，直撲霍邑。
宋老生追殺不到十里，便有士兵驚駭大喊︰「宋將軍，霍邑縣城樓大火。」
宋老生一回頭，果真看到北城城樓火光沖天，濃煙滾滾，他意識到自己上當了。
兩萬隋軍調頭向城池奔去，這時李淵親率大軍趕到，揮兵掩殺而來，宋老生見軍隊已無法入城，不由大怒，喝令道︰「三軍列隊，和叛軍決一死戰！」
兩支軍隊在霍邑縣北面展開了血戰，隋軍終因寡不敵眾而失利，全軍覆沒，宋老生被劉弘基率數百人包圍，宋老生誓死不降，力竭戰死。
被依為鐵壁的河東重鎮霍邑，因為衛玄的用人不當，不到半天時間就失守了。
李淵將霍邑的殘兵收入囊中，大軍又變成了十二萬人馬，對于那些不想打仗的士兵，李淵都封了他五品散官，讓他回家很快就收了這些人的軍心，就是那些離開軍隊，回到關中的士兵也說李淵仁義。
事實證明，安撫手段比屠城更讓李淵好處更多萬倍，因為他的「仁義」，在他接下來的進軍中勢如破竹，一路連克臨汾郡、龍泉郡、絳郡、文城郡，而上黨郡、長平郡只取得一部，因為聞訊的薛萬淑、楊善會先一步入境，奪下了此之二群的戰略要地。
至此，太原以南除重兵把守的河東郡、河內郡外，其余各郡絕大多數被李淵軍隊佔領。
大業十三年十二月中旬，李淵派李建成、李孝恭領兵，分別與薛萬淑、楊善會交戰，而劉弘基由絳郡進軍河內，與裴仁基對峙于河內郡；親率十五萬大軍進攻河東郡。
此時，屈突通率四萬趕到河東城，又見郇王楊慶先一步率一萬驍果軍入駐，且募到了兩萬兵士，屈突通頓時信心大增。一邊布防，一邊派人向西京說明戰況。