正当李密和宇文化及竭力拼杀之时，王世充趁机灭掉了异己，独揽洛阳隋廷朝政。

李密得知王世充专权，拒绝入朝朝见，回到瓦岗军的根据地金墉城去了。

当年九月，王世充趁李密战后疲惫之机发动进攻，率精兵二万多人、战骑两千，威逼偃师，在通济渠南岸安营扎寨，在洛水上架设浮桥，准备决战。

由于才打败了实力强大的宇文化及，此时的李密骄傲自满起来，以为待得休整好，再结集人马西进，天下不日即可到手。所以，他也不再体恤将士。原本长期征战，府库中本就没有什么积蓄了。现在甚至打了胜仗，李密都不大愿意把战利品分给将士们了。关键是李密的内军在与宇文化及的对决中损失惨重，李密有意拉拢才投降过来的原宇文化及的骁勇军补充内军，就特意厚赏了骁勇军，而其它旧部却根本没得到任何赏赐。这使得瓦岗军将领们更加离心离德起来。瓦岗军士只有饭吃，没有军饷，大家都过得紧巴巴的，也都不再怎么愿卖力了。大家怨声载道，单雄信对此也更是不满。

贾闰甫、徐茂公等人对此数度相劝李密，李密却认为众将要成骄兵悍将去了，不再听他们的。

自此李密开始疏远徐茂公等人起来。相反，他反而对贪财的邴元真言听计从起来了。他已经开始规划要集攒一笔巨资来为以后入主洛阳后修建宫庭的费用了。对将士们的要求，他权当充耳不闻，只认为大家忍个一时，等到最终胜利了，再大加封赏犒劳。

唐武德元年（618年），王世充趁着李密与宇文化及两败俱伤之际袭击瓦岗军。他先击败了瓦岗军数员骁将。

李密得知后，命王伯当据守金墉城，邴元真守洛口仓城，他亲率精兵到偃师迎战。

徐茂公建议李密避开王世充主力偷袭东都，来个围魏救赵。但李密数败王世充，现在又打败了宇文化及，自是骄狂不听，认为可以轻取王世充。

王世充虽欲乘李密军疲惫发起攻击，但又怕自己这方人心不壹，于是诈称左军卫士张永通三梦周公，宣意于王世充，说周公会领兵相助他攻击贼人。于是王世允为周公立庙。每次出兵，辄先到周公庙祈祷。

王世充令巫师宣言周公欲令仆射急讨李密，当有大功。不立即出兵者都会病死。王世充的兵将多楚人，相信巫师妖言。于是都争相请战。故而，王世充简练精锐得二万馀人，马二千馀匹，在壬子日出师攻击李密，旗幡之上都书写着“永通”（即指巫师张永通）字样，军容甚盛。

王世充的精兵两万余人与李密所率的十万人马在邙山正面对决。原本兵力欠缺的王世充部却在巫师的蛊惑下相当齐心协力，正面给予了李密军队很大的冲击。除正面攻击外，王世充又派出两千精骑偷袭李密后方大营。李密仗着人马多，认为正面战场王世充已经压上全部家底了，不会再有能力偷袭他的后方，所以并没怎么防着王世充精骑的偷袭。这使得李密损失不小，军心有些浮动，大家都有点儿乱了起来。

这时，王世充又用一个很像李密的人假扮李密，做出一副他们已经俘虏了李密的样子。王世充本意是以此来激励己方的士气，哪晓得他们表演得太过真实了，尽都欢呼雀跃的。这使得李密部下许多人也信以为真，竟纷纷主动开始投降王世充了。

李密此次出征，本与单雄信各领一军成犄角之势，互相支援互相配合，共击王世充。哪晓得单雄信因心中怨恨李密，在李密与王世充激战时选择了按兵不动，并不愿合击王世充。他听得战场上传来王世充活捉了李密的假消息后，还有些幸灾乐祸。他也无心一战王世充，干脆也率部直接投降了。

王世充对单雄信不战而降感到相当高兴，当即厚赏了单雄信，并答应将女儿嫁给单雄信，直接招他为女婿。

单雄信的投降以及本部的混乱使得李密见此战大势已去，便带欲率兵准备撤退，等择机会再战。而此时骁勇军也反水了，还要捉他去献给王世充。好在有人及时把这消息告知了他。不得已，李密只能带着亲随及内军弃了其它部队而逃。

李密向邴元真驻守的洛口仓城而去。到了洛口仓城，有细作告知邴元真已被王世充收买，要配合王世充夜袭。李密准备将计就计，趁王世充渡洛水时给他来个半渡而击。但不知派出去征察的人出了啥子状况，王世充的部队全部过了河也没回来报告情况。待到接战时，李密才发现敌人人数已经远超自己所带的人马了，他只能落荒而逃。身边的人也就更少了。自此，李密部几乎损失殆尽。

李密本欲去黎阳找徐茂公，但他的亲随中有人劝说他：“杀翟让之际，徐世勣差点儿被杀死了。如今您失利而去投奔他，哪里可以得到他的保护！“

李密已如惊弓之鸟般了，疑心就更重了，选择了去找王伯当。当时王伯当见战事不利，便弃守了金墉城而保河阳。李密自虎牢关逃回来，就召集诸将共议该何去何从。

李密准备南阻河南，北守太行，东连黎阳，以图以后再进取洛阳。诸将则都说：“现在我军新失利，众心危惧，若更停留，恐怕叛逃的人不日就都跑完了。大家都不情愿那般死战，您这计划是难以成功的。”

李密闻言，知大家不愿死战到底了，就凄然地说道：“孤所恃者众也，众既不愿，孤道穷矣。”说完，就欲自刎以谢众。

王伯当见状，立即抱住李密哭号得声嘶力竭的。众将皆悲泣。李密见状又说道：“诸君幸不相弃我，我们当共同回关中去投降；我李密身虽无功，但诸君必能保富贵。“府掾柳燮说道：“明公与唐公同族，兼有畴昔之好；虽不陪起兵，然阻东都，断隋归路，使唐公不战而据长安，此亦公之功也。”众人都劝说道：“是啊！如此可行！”

李密又对王伯当说道：“将军家室为重，哪里会又与孤俱行哉！”王伯当道：“昔萧何尽帅子弟以从汉王，伯当恨不兄弟都跟从着您。哪里会因公今日失利就轻去了呢！纵然随您会把身体分裂成几大块抛弃在原野上，我亦甘心！”左右也无不感激于王伯当之言，跟从着李密入关的有二万人，降于唐王李渊。

于是，李密的将帅、州县多降于隋。裴仁基、祖君彦、程知节等许多重要将领及家眷，也在此战中被俘了。

而此时李密原来所占领的地方，都是在徐茂公手里掌握着的。徐茂公听说李密投降了李渊，也准备投降唐王。

武德二年（619年），徐茂公对长史郭孝恪说：“魏公（李密封魏国公）已经归附大唐，如今这里的人民土地，是属魏公所有，我如果上表献出它们，就是借主人的失败得利，自己为自己邀功，用来求取富贵，这是我认为耻辱的事！现在应当一五一十地记录州县的名称数量和军民的户口，全部报告魏公，让魏公自己献给朝廷，这样就是魏公的功劳了。”

于是他派使者致信李密。

使者初到长安，李渊听说徐茂公没有奏表，只写了封信给李密，颇感奇怪。待到使者把徐茂公的本意告知李渊，李渊才大悦，点头称赞道：“徐世勣感怀主人的恩德、推辞功劳，确实是个十分纯良的臣子啊。”

于是，李渊下诏封他为黎阳总管、上柱国，封莱国公。又加授右武候大将军，改封曹国公，并被赐姓李氏以“附宗正属籍”，来表示恩宠。再赐良田五十顷、上等宅第一所。徐茂公自此改名李世勣。

不久后，李渊命他统领河南、山东的军队抵抗王世充。

九月，河北军阀窦建德进攻相州，山东道安抚大使、淮阳王李神通率军逃至黎阳。十一月，窦建德攻陷黎阳，李盖（即徐盖，徐茂公之父，此时已随徐茂公一同被赐姓李氏）与李神通、魏徵、同安公主等人在黎阳一同被俘。李世勣率领数百骑兵渡河撤离，但因李盖被俘，窦建德以此为要胁要他投降。他只得返回去投降了窦建德。

窦建德将李盖作为人质，仍让李世勣镇守黎阳。

李世勣想要归顺唐王，但又担心此举将祸及其父。他私下与郭孝恪商议后，决定先为窦建德立功，取得其信任，再行图谋。不久后，李世勣在获嘉袭败王世充所部，多有斩获，窦建德因此对他颇为亲近。

李世勣在取得窦建德的信任后，成功劝说他亲征河南，企图借机将其杀死。但窦建德的妻子产子，他因此迟迟未起程。李世勣既不能袭取窦建德，谋杀窦建德部将曹旦的计划又泄漏。只得与郭孝恪率领几十名骑兵归降唐朝。

李勣趁机又归唐后，有人劝窦建德杀掉李盖，可建德也是位磊落大夫，表示说“李勣忠臣，各为其主”，派人送李盖归唐。