慈涧一战兵败后，王世充便将军队撤回了东都洛阳，准备死守洛阳。
这操作，倒是正和了李世民的意，趁着王世充龟缩城中的空挡，李世民派行军总管史万宝从宜阳往南占据龙门，刘德威从太行往东包围河内，王君廓从洛口斩断郑军运粮通道。
又派黄君汉连夜走孝水河偷袭回洛城，一战克城，黄河以南，尽皆投降，大军随即进驻邙山。
武德三年九月，李世民带五百骑兵外出观察战场地势，不巧与王世充一万多人相遇，两军交战，王世充再败，被唐军斩首三千级。
不久，王世充麾下筠州总管杨庆遣使请降，李世民派李绩率军前往安抚杨庆的部众。
荥州、汴州、洧州、豫州等九州一个接一个前来归降，眼瞧着洛阳已是一座孤城，王世充终于忍不住了，遣使向窦建德求援。
随即便来到了李世民一生中的高光时刻，也是其封神之战，即“虎牢关之战”
当然，在窦建德来援之前，王世充、李世民两人也没消停，该打还得打，进行了不少次战争。
比如，武德四年二月，李世民进驻青城宫，当时军营尚未建好，王世充的两万大军趁机从方诸门出，临谷水列阵。
李世民率精锐骑兵在北邙山列阵，令屈突通率五千步卒渡水攻击王世充，并与屈突通约定：等双方交战时就放烟，我会率骑兵南下。
随后两军激战正烈时，狼烟冲天而起，李世民见状立刻率领骑兵横击郑军，内外呼应之下，王世充再次大败，郑军被唐军俘获、斩首共八千级。
经此一战，王世充彻底没了胆气，再不敢冒头，老老实实龟缩城中，等待窦建德救援。
李世民遣军士挖掘壕沟，严防死守，做长期围守。
话说两人也是默契，一个龟缩城中，打死不出城，一个严防死守，不愿让人出城，这配合……绝了！
不久后，称王河北的夏王窦建德应王世充之请，率兵十万来援，大军驻扎在酸枣。
见夏军军容鼎盛，士气高涨，李世民麾下萧瑀、屈突通、封德彝等人都认为前有王世充死守洛阳，后有窦建德锐气正盛，唐军腹背受敌，恐不是万全之策，请退师谷州再做打算。
谁料李世民听后却是笑言：王世充粮草已尽，内外离心，我军不需攻击，便可坐享成功。
至于窦建德……此人新败孟海公，将骄士惰，败亡不远，我军当立刻进据武牢（武关和虎牢关）扼守山川要冲
此役，敌军若欲一战，我等必能击而破之，若不战，十日内王世充定会自溃。
但我等若不取武牢，反教敌军占了，介时两军相合，实力激增，我等还能拿他们如何呢？
屈突通请命，率军到险要之处静候敌军，但李世民没同意，而是让他辅佐齐王李元吉包围王世充，自己亲率铁骑三千五百余奔赴武牢
另一边，窦建德从荥阳西上，驻军板渚，李世民则趁机抢占武牢，两军就此展开对峙，长达二十多天。
不久后，探子来报，说窦建德探听到我军战马草料不足，准备等我军在黄河北岸牧马时，趁机偷袭武牢。
李世民闻言点头，随即脑筋一转，干脆借着牧马黄河北岸这时机引诱敌军。
窦建德果然中计，率兵赶至，同时王世充也派大将郭士衡列阵南面，敌军绵延数里，且是两面夹击，众将见了都大为恐惧。
李世民带着几名骑兵登上土丘遥望敌军，对众将说：贼人起至山东（这里指崤山以东），未逢强手，方才如此叫嚣。
我等只需按兵不动，敌军气势便会渐渐衰竭，列阵时间一长，士卒饥饿，将官不满，阵型自乱。
彼时出兵，定能无往而不胜！我与你们约定，必定在午时以后击破敌军。
时间缓缓流逝，窦建德所部大军从上午列阵直到下午，敌人没见一个，反倒是自家被折腾得又饿又累，都随意坐在地上，争着饮水解渴。
李世民见此，回顾众将笑道：可以出兵了！
众将等的就是这一句，听了这话后纷纷摩拳擦掌，兴奋不已。
这一战，李世民亲自率领铁骑猛攻夏军，窦建德见状急忙重整阵型，但却哪里还来得及？
李世民所率铁骑已至，挡者悉死，这三千五百骑，直如三千五百头猛虎，那可是要吃人饮血的。
铁骑所至，敌军纷纷溃散，不堪一击。
李世民率史大奈、程咬金、秦叔宝、宇文歆等猛将兄，挥动大旗冲入敌阵，直接突入到阵后，张挂唐军军旗。
韩信：拔旗易帜！不错，这最能打击敌人军心。
张献忠@韩信：咋样老表，在大秦过得可还行？
韩信：你哪位？
张献忠：俺啊！大西王张献忠你不认识？
韩信：原来不过一介草头王，为王先驱，为真龙开道者，不配与吾说话。
张献忠：哟呵，还挺神气，原本的你果然死得不冤。
韩信：“……”
话题继续，夏军回头看见唐军旗帜后，全军崩溃，被一路追杀三十里，斩首三千级，俘虏五万，窦建德也被活捉。
李世民责备他说：我兴师问罪，本在王世充，得失存亡，不干你事，为什么越过边境，冒犯我军锋锐？
窦建德估计都要翻白眼了，唇亡齿寒的道理他又不是不懂，但现在人在屋檐下，不得不低头。
只能低声说道：现在我假若不来，怕麻烦你远远地攻打我！
随后，李世民将窦建德带到洛阳城下，王世充见了非常恐惧，带着他麾下官吏两千多人到军门请降，由此山东全部平定。
六月，李世民班师凯旋，在太庙献俘伪主窦建德、王世充以及无数隋朝器物车乘。
李渊认为自古以来那些旧的官阶与特殊功劳不相匹配，于是另起名号，以表彰李世民的功勋德望。
十月，加授李世民天策上将封号、陕东道大行台，位在王公之上，加食邑两万户，连着以前的共计三万户。
赐金车一辆，王公衮衣和冠冕一套，玉璧一双，黄金六十斤，前后部鼓吹及九部之乐，仪仗四十人。
彼时海内渐平，李世民于是专心研读经史子集，开文学馆用以接待四方有才之士。