過了幾天，大雨還不見停歇，軍中糧草未至，軍心稍有渙散。裴寂等人商議，欲向民間征糧，李淵不從，直到八月中旬，大雨剛停，從太原運來的糧草便到了。

　　這時候，還有一個意外驚喜，始畢可汗命手下阿史那氏遣戰馬萬余匹來送於李淵，阿史那氏留在李淵帳下。李淵給他賜姓史，名史大奈。

　　“參見唐公，卑職有禮了”史大奈突厥人，隋朝時期跟著處羅可汗投奔隋煬帝楊廣，後來天下大亂，史大奈又回到了突厥，所以，中原對於他來說，根本不陌生。

　　“特使快快請起，遠道而來一路辛苦，且到偏帳歇腳，感謝始畢可汗”李淵跟史大奈一番客套，史大奈確實有些疲憊，便聽從李淵安排，去偏帳歇息去了。

　　這時候，李淵兵強馬壯，在也沒什麽後顧之憂了。次日大軍從賈胡堡出發，不日便抵達了霍邑城下。

　　霍邑城守將宋老生霍州總兵，年近花甲卻不顯老，生的背闊腰圓，身材魁梧，手持一把砍刀，只可惜有勇無謀，性情急躁。聽說唐軍兵至，頃刻便要調兵遣將，出城迎戰。

　　幸得其手下有一謀士，名蘇和，對宋老生道“將軍切勿急躁，唐軍遠道而來，必然疲憊不堪，我只需堅守數日，唐軍糧草跟不上，必不戰自退”

　　宋老生對這位謀士相當信任一向言聽計從。於是便緊閉城門，城上多設弓弩，滾石巨木。

　　見宋老生不出城應戰，李淵一時間沒了計策，霍邑城高牆固，莽撞攻城不可取，李天河對宋老生了如指掌，知己知彼方能百戰不殆。對李淵獻計道“宋老生性急，此為將大忌，明日二位世子可領數十騎去城下罵戰，太守領百騎於城東埋伏，我自率後軍，看宋老生兵出，太守於城東率軍衝殺，我自率後軍接應，如此老生可獲，霍邑可得”

　　這個攻城之計，李淵及眾將都同意。

　　次日一大早，李建成李世民二人率數十人於城下百般辱罵宋老生，這宋老生也是一把年紀了，哪裡經得住後輩小兒如此辱罵，氣的在城樓上直跺腳，白胡須一抖一抖的。

　　經過李世民李建成等人幾次三番的辱罵之後，宋老生再也忍不住了，屬下誰的話也聽不進去了，隻想出城殺個痛快，於是帶著一萬五兵馬殺出城中。

　　李世民李建成二人見宋老生出城，急忙率手下幾十人後退，宋老生率兵來追，李淵從城東率百人衝入宋老生陣中衝殺一陣後和李建成李世民合兵一處，一起後退。

　　這時候引得宋老生距離城外已經幾十裡地了。

　　李天河與劉文靜段玄志等人率後軍截住宋老生歸路，殺向宋老生後軍，此時宋老生才知道中計了。

　　這時候，李淵等人突然回身，李淵大喊“宋老生已被擒獲”隋軍聽見後，頓時大亂，徑向城門奔去。李天河等人率大軍已經堵住了隋兵歸路。

　　宋老生在混亂中見進不去城門，於是跳下馬奔向壕溝，於壕溝中與李天河，劉弘基等人遭遇。

　　“亂臣賊子，安敢犯我城池！”宋老生手握大砍刀。指著李天河劉弘基等人怒罵。

　　“見你歲數大了，何不早降?”李天河懶得跟他廢話，冷冷的道。

　　周圍隋兵跑的跑，死的死，宋老生身邊只有幾名親信。被李淵大軍包圍其中。城內那五千多人沒什麽得力的大將也不敢出城，隻得緊閉城門。

　　宋老生見一唐軍要上前捕獲他，奮起一刀，將那唐軍斬落馬下。宋老生自知大勢已去，手持砍刀哈哈大笑道“年近七旬，

戰死沙場，也不枉為人臣，來吧小兒們，教你們見識見識什麽叫寶刀不老！”　　劉弘基手持大刀衝向宋老生。

　　宋老生舉刀迎戰，年紀雖大，但手中刀法卻不弱，連劈帶砍，劉弘基一時間竟無法近身，隱隱處於下風。

　　李天河周圍眾將見此，要上前幫忙，卻被李天河攔住了，這老頭雖不識時務，但是其忠勇可嘉，讓劉弘基和他殺個痛快，也不枉一世英名。

　　最終，宋老生還是歲數大了，體力跟不上，被劉弘基當頭一刀，他舉刀來迎時，因為力氣不佳，被劉弘基一刀劈死。

　　宋老生一死，城上守軍立刻放下武器歸降唐軍並開城門迎接唐軍進城。

　　李淵領著李天河李世民李建成並麾下諸將軍馬進城， 得到投降隋兵幾千人，進城後依舊秋毫無犯。

　　李淵進霍邑後，第一件事就是論功行賞，與隋煬帝不同，李淵不吝惜官職，從降將到士兵，通通封為五品散官。裴寂等人不解其意，上諫，卻被李淵駁回。

　　他們不明白，李天河心裡明白的很，李淵是吸取隋煬帝滅亡的教訓，其中就是隋煬帝太愛惜官職，所以失去了人心，給他人一個虛官換取人心，這勝於用兵。李淵的政治頭腦不得不讓人佩服。

　　正午時分，李淵召見霍邑官吏百姓，命李世民打開霍邑糧倉，將糧食分發與霍邑百姓。自此霍邑百姓見了李淵的唐軍，無不拍手稱讚。

　　命劉文靜李天河從霍邑選壯丁入軍，這些霍邑百姓得了李淵好處，那些壯丁紛紛前來報名。知道跟著李淵有飯吃有官當，一時間唐義軍竟擴充至四五萬人。

　　然後李淵率大軍繼續攻打臨汾，臨汾郡沒怎麽抵抗就投降了。

　　坐穩了臨汾郡以後，李淵又命大軍攻打絳郡，命李世民李建成並參軍李天河為前部先鋒，李淵自率大軍為後軍。

　　絳郡有一守將名陳叔達。乃是南北朝時陳高宗之子，頗有才學，唐軍入城下，一開始也不降。絳郡巴掌大的地方，李世民便命令唐軍把絳郡圍起來。

　　一連圍困四五日，陳叔達一看沒辦法，隻得獻城投降。

　　陳叔達頗有才學，治下之郡百姓安樂，歸順李淵後李淵愛其才學被封為丞相主薄，漢東郡公。

　　此時，李淵已經佔領大半山西，準備聚集大軍向關中進發。