众，百姓听说李世民挂帅亲征，纷纷前往依附，李世民向他们征收粮食，解决了后勤保障。休兵秣马，坚守不出，每天派出少量军队骚扰敌军。时间一长，敌势日渐衰微。
一次，李世民亲率骑兵抵近前沿侦察，让大家分头散开，他只带一名卫士登上山丘，下马休息。敌军发现了他们，从四方合拢而来。恰好有蛇追鼠，惊醒了躺卧地面的卫士，卫士发觉不对，赶忙叫起李世民乘马逃离，刚跑了百余米就被追上。李世民取出大羽箭，回身一箭射死了敌军将领，敌军一哄而散，李世民安全返回。
十二月二十五日，永安王李孝基进攻吕崇茂，吕崇茂向宋金刚求援。宋金刚派大将尉迟敬德、寻相率军赶赴夏县。李孝基两面受敌，大败。这一仗唐军损失惨重，李孝基、独孤怀恩、唐俭，以及行军总管刘世让都被生擒，当了俘虏。
尉迟敬德、寻相正要返回浍州（山西临汾翼城县）复命，在美良川（山西运城闻喜县南）遭到李世民所部将领殷开山、秦叔宝阻击，死伤两千余人。
尉迟敬德、寻相转赴蒲坂（山西永济）增援王行本，李世民亲率三千步骑兵从山路连夜穿插至安邑（山西夏县西北禹王城），一战击破尉迟敬德、寻相，两人仅以身免。
李世民返回柏壁（山西运城新绛西南）大营，众将请求与宋金刚决战。李世民说：“宋金刚孤军深入，精兵猛将云集；刘武周占据太原，以宋金刚为屏障。他们没有多余粮草，全靠抢掠为生，速战对其有利。我军闭关固守，挫其锐势；分兵汾、隰（山西吕梁汾阳、山西临汾隰县），击其腹心，待其粮尽力竭自会逃走。此时应待机而动，不宜速战。”
武德三年（620年）正月，唐将秦武通进击王行本。王行本战败，粮尽粮绝的他企图突围，竟无人愿意跟随。
十四日，这支残余隋军大开城门投降。
十七日，李渊亲临蒲坂（山西永济）受降，将王行本斩首。李世民轻骑赶来拜谒，宋金刚趁机包围绛州（山西运城新绛县）。二十九日，李渊返回长安。
二月初六，刘武周派兵进犯潞州（山西长治），攻陷长子、壶关。潞州刺史郭子武难以抵挡，李渊派将领王行敏支援。王行敏与郭子武不和，有人传言郭子武意图叛乱，王行敏以此为由斩了郭子武。
二月十一日，刘武周再次进犯潞州，被王行敏击退。
二月二十日，唐将桑显和等进击夏县吕崇茂。
三月初二，刘武周派将领张万岁进犯浩州（治隰城县，今山西吕梁汾阳县），被唐将李仲文所败，俘斩数千人。二十一日，唐军在浩州再次击败刘武周。
唐将张纶、李仲文乘胜进逼石州（山西吕梁离石区），匈奴首领刘季真畏惧之下诈降。李渊为瓦解刘武周、安抚人心，将刘季真任命为石州总管，赐李姓，并加封彭山郡王。
刘武周数次进犯浩州，均被李仲文所败。宋金刚则在李世民的坚壁清野、不断消耗下，粮食告罄，不得已于四月十四日向北逃走。
李世民率军追击，在吕州（治霍邑县，今山西临汾霍州）大破寻相，继续向北，一昼夜奔行二百余里，与宋金刚接战数十次。
进至高壁岭（山西灵石东南），总管刘弘基拦在李世民马前劝道：“大王击破贼寇，向北追逐至此，功劳已经够了，若再前行，难道不顾虑自身安危吗！况且士卒疲惫，应在此屯驻，待到大军会合，再去进攻也不迟啊！”
李世民答：“宋金刚黔驴技穷，人心已经离散，机会十分难得，必须乘此一举灭掉。如果让他有充足时间准备，再打就不容易了。我尽忠徇国而已，岂能顾全自身性命。”
有了李世民的态度，将士没人再提饥饿疲劳，打起精神跟着李世民一路狂追。在雀鼠谷（山西介休西南、霍州以北）追上宋