戊午（三十日），王世充的郑州司兵沈悦派人到唐左武侯大将军李世绩处请降。为了接应沈悦，李世绩派唐左卫将军王君廓夜晚带兵攻击虎牢，沈悦作内应。于是李世勣顺利夺取了虎牢关，抓获了郑国的荆王王行本及其长史戴胄。
拿下虎牢关，对后来的战事发展并取得最终的胜利，起到了至关重要的作用！
三月，唐军在洛阳城外挖沟筑垒困守。
洛阳被长期围困，城内缺粮，一匹绢才值三升粟，十匹布才值一升盐，服饰珍玩，贱如土芥。百姓把草根树叶都吃光了，就一起澄取浮泥，放入米屑作成饼吃，食后都得病，身体肿胀脚跟发软，饿死的人交错着倒在路上。
当初皇泰主杨侗迁百姓入宫城时，有三万家。到这时不足三千家了。就是地位高贵的公卿，这时连粗糠都吃不饱，尚书郎以下官吏，需自己亲自参加劳动，还往往饿死。
窦建德有心救郑，命令他的将领范愿守卫曹州，调集孟海公、徐圆朗的所有兵马，向西来救援洛阳。
夏军到了滑州，王世充的行台仆射韩洪打开城门迎他们入城。己卯（二十一日），军队到酸枣。窦建德攻陷管州，杀了管州刺史郭士安；又攻陷了荥阳、阳翟等县，水陆并进，用船运粮，向西溯黄河而上。
王世充的弟弟徐州行台王世辩派遣手下的将领郭士衡带几千兵马与窦建德会合，共计十几万人，号称有三十万，在成皋东原扎营，在板渚修筑宫室，派人和王世充互通消息。
当初，窦建德写信给李世民，请唐军退到潼关，退还夺取的郑国土地，重修原来的睦邻关系。
李世民召集将佐商议此事，众人都请求避开窦建德的兵锋。郭孝恪说：“王世充已是穷途末路，马上就会成阶下囚，窦建德远道而来救助王世充，这是天意要郑、夏两国灭亡。我们应当凭借虎牢之险抵御窦建德，视情况而动，肯定能打败他们！”
记室薛收说：“王世充保据东都，仓库充实，统帅的兵马，都是江淮地区的精锐，现在的困难只不过是缺粮。因为这个缘故，被我们拖住，想打打不了，要坚守又难以持久。窦建德亲自统帅大军远道赴援，也会尽出其精锐。如果放他到此，两寇合兵，将河北的粮食运来供给洛阳，那么大战才展开，不知什么时候结束，统一天下的日子更是遥遥无期了。现在我们应当分出兵力围困洛阳，加深壕沟增高壁垒，如果王世充出兵，要小心不和他交战。大王您亲自率领骁勇精锐，先占据成皋，磨快兵器训练兵马，等他们到来，以逸待劳，一定能够克敌。打败窦建德后，王世充自然也就败亡，不出二十天，就会捉住两个国君！”
他们所说深合李世民之意。
萧瑀、屈突通、封德彝则都认为：“我军疲惫不堪士气低落，王世充凭借坚城固守，不容易很快攻克，窦建德挟胜利之势而来，士气高涨锐不可挡，我军腹背受敌，不是好办法，不如撤退保守新安，以便等待时机。”
李世民却坚定地说道：“王世充损兵折将，粮食吃尽，上下离心，我们不必花气力攻打，可以坐等他败亡。窦建德刚刚打败了孟海公，将领骄傲，士卒疲惫，我们占据虎牢，等于扼住他的咽喉。他如果冒险决战，我们可以轻而易举打败他；如果他犹豫不决，不来交战，要不了十天半个月，王世充自己就会溃败。我军破城后兵力增强，士气军势自然倍增，一下打败两个敌人，就在这一仗了。如果不迅速进军，窦建德进入虎牢，周围各城新归附，必然不能坚守；两敌合力，势力必然强大，怎么会有机可乘呢？我的计划决定了！”
屈突通等人又请求解除洛阳之围，凭借险要以观敌人变化，李世民不答应。于是将军队平分为两部分，由屈突通等人辅助齐王李元吉围困东都，李世民率领三千五百名骁勇向东赴虎牢。
李世民于正午时分出发，过北邙，至河阳，取道巩县而去。王世充登上洛阳城望见唐军行动，不知唐军意图，怕被唐军诱出遭受伏击，竟不敢出城交战。
癸未（二十五日），李世民进入虎牢关。甲申（二十六日），他带领着五百骁骑，出了虎牢关，到城东二十多里处，观察窦建德的营地。在路上，他笑着对李世勣（徐茂公）说道：“今番看我小赚他夏军一把，也好杀杀他们的威风！”
他沿路分别留下随行的骑兵，让李世勣、程咬金、秦琼（字叔宝）分别统领，埋伏在路旁，自己却只带着尉迟恭（字敬德）和四名骑兵一起前去。
李世勣虽然觉得秦王过于冒险了，但对于这个十八九岁而又胆大心细、骁勇善战的秦王，说实在的，是打心眼里喜欢。他知道秦王要以身为饵，诱杀对方骁骑，不好阻拦，只能叫程咬金与秦琼带人分别就位埋伏好，并吩咐靠前的秦琼注意接应好秦王。一旦完成截杀任务，立即护着秦王继续后撤。对方追兵见他们人少，势必会穷追不舍，进入程咬金埋伏地段后，又受程咬金所率之人一番伏击。程咬金也如秦琼状，一番伏击后故作兵力单薄，又掩护秦王继续逃回。夏兵继续追，直至李世勣埋伏处，大家再合力杀回去。
此计有点儿类同于兵仙韩信的十里埋伏之计，只是规模缩小了太多而已。
秦王李世民对尉迟敬德说：“我拿着弓箭，你手握长枪跟着我，就是来一百万人又能拿我们怎么样？”然后，又傲然地说道：“敌人看见我们就返回，才是上策。”
他们来到离窦建德营地三里处，李世民等与窦建德的游兵相遇。游兵以为他们是侦察敌情的斥候，要上前来捉拿他们。李世民却大声喊道：“我是秦王。”并拉弓射箭，射死对方一员将领。窦建德军中闻言大惊，出动五六千骑兵追赶。跟随李世民的那四名骑兵都吓得变了脸色。
李世民说道：“你们只管在前面往回跑，我和敬德殿后。”
于是，他勒住缰绳慢慢走，追兵快赶上了就拉弓放箭，每射一箭都杀死一人。
追兵惧怕了便停止了追击，秦王与尉迟恭也停下来又射他们，惹得他们停了一会儿又重新追赶。几次三番，每次追赶上必定有人被杀死。李世民先后射杀了几个人，尉迟敬德杀死十几人，追兵不敢再进逼。李世民有意徘徊或稍稍后退引诱追兵到埋伏圈内。李世绩等人依计奋力战斗，大败追兵，斩首三百多级，俘获窦建德的将领殷秋、石瓒返回了虎牢关。
然后，李世民又致函窦建德，说明：“赵、魏地区，历来为我大唐所有，现被您侵夺。只因为淮安王李盖（即徐茂公父亲徐益，因徐茂公以山东之地归唐连同被李渊赐姓为李并封为淮安王）被俘受到您的礼遇，又蒙送回同安公主，所以彼此真诚相待放弃旧怨。王世充最近与您修好，但他这人反复无常，事后必然还会反咬你一口。现在王世充的灭亡就在眼前，却花言巧语引诱您，您于是就率领三军之众，来听从他的调遣，千金的军费，白白为别人而消耗，实在不是上策。如今我与您的前哨相遇，他们不堪一击！您与王世充还没能相见，能不心中有愧吗？我所以稍挫您的锐气，是希望您能听从善意的劝告，如果您不听，恐怕将会后悔莫及。”
四月，唐益州行台左仆射窦轨率领巴、蜀兵马前来与李世民会师共同攻打王世充，唐军就益发壮大了。