另一股与刘黑闼一起反唐的势力便是鲁王徐圆朗了。

徐圆朗其人，本也是绿林劫匪出身，差不多与王伯当他们那时聚众起义，后也随王伯当投奔了瓦岗军，故而翟让把他划归了李密麾下。李密被王世允打败后，徐圆朗投降了王世允。王世允降唐，徐圆朗也就跟着降了唐。但鉴于单雄信被斩，徐圆朗也深为自己安危担忧，故而趁刘黑闼起兵反唐之际，也反了唐。

武德四年八月，徐圆朗扣留了唐将盛彦师，割据兖州，起兵响应刘黑闼。不久，徐圆朗自称鲁王，并发兵围攻虞城（今河南省东部），以此牵制唐军；唐将任瑰据城守之，双方临城对峙。

武德五年（622年）七月，李世民打败刘黑闼后，趁势进击自称鲁王的徐圆朗，连取十余座城池。这也迫使江淮义军首领杜伏威自动入朝投降，后来也成了李世民心腹爱将，位列凌烟阁功勋二十四将之一。

李世民鉴于局势初定，于是，留李世勣与淮安王李神通、行军总管任瑰等继续讨伐徐圆朗，自己则班师回朝。徐圆朗多次出战都大败而回。城内老百姓怕受战火涂炭，趁着尚可出城之机，争着出城投降唐军。

徐圆朗走投无路，带着几名骑兵连夜弃城而逃，不久后即为李世勣擒获，斩其首级献给朝廷，兖州就此平定。

秦王李世民又大胜归来，经连续升迁，他官拜左监门大将军，一时声威显赫。这使得当时留在长安辅政的太子李建成感到自己的地位受到了极大的冲击，有了强烈的危机感。

不久之后，刘黑闼在突厥的帮助下，再次卷土重来。他击杀了在虎牢关之战中表现神勇的淮阳王李道玄，声势再度振兴。

而这次，李渊并没有立即派李世民出征。他似乎感觉到了李世民已封无可封了，若再让李世民又立新功，他那平衡几个儿子实力的打算可能就不好落实了。

李渊的想法还是蛮好的，他是想让三个儿子都分揽大权，共同维护好他这李家朝廷。

三皇子齐王李元吉在洛阳之战与洺水之战中都随李世民一起出征了的，也算建有军功了。况且，现在他还留守在北方以防突厥。只有太子李建成，一直留在身边处理政务，虽然也颇有建树，但显然没啥军功，这对他以后掌握军队很是不利。因此，这次他有意要让李建成去平定刘黑闼。

李建成仗打得少，对要去征讨刘黑闼这样的悍将难免不心里有些打鼓。于是他就召集幕僚们商讨这回事。

太子中允王珪、洗马魏征都说：“现今刘黑闼旧部都已经散亡得差不多了，余众不满万人。加上他资粮匮乏。如果率领大军去攻打他，完全可以势如摧枯拉朽一般！殿下你正应该自己带兵去击败他以建立功名。再同时结纳山东的英雄豪杰，您的地位就可以得到稳固了。”

于是，太子建成就向李渊请战，李渊立即就同意了。

唐武德五年（公元622年）十二月，唐高祖李渊委派皇太子李建成为帅，出兵河北征讨刘黑闼。

李建成到达河北后，与齐王李元吉会师，开始征讨刘黑闼。

刘黑闼因为本部人马并不多，所借的突厥兵又不好管，只知道去抢劫祸害老百姓，弄得他大失民心。所以，他这支队伍的战斗力完全不是那回事儿了。开初能击败李道玄，也不过因突厥兵初来乍到，不敢乱来，尚可指挥而已。越到后来，军纪越坏，弄得刘黑闼自己都头大得很！后来，他也干脆只能听之任之了。

所以，李建成所率唐军与之接战后，竟连战连捷。

为了瓦解刘黑闼所部的斗志，李建成听取了魏征的建议，将此前俘虏的刘黑闼叛军的家属全给放了。

这在《资治通鉴·卷第一百九十》中有所记载：

“魏征言于太子曰：“前破黑闼，其将帅皆悬名处死，妻子系虏；故齐王之来，虽有诏书赦其党与之罪，皆莫之信。今宜悉解其囚俘，慰谕遣之，则可坐视其离散矣！”太子从之。”

如此一来，除刘黑闼及部分死硬反唐分子外，刘黑闼部的其余士兵和将帅，看到李建成愿意既往不咎，在战局不利时，斗志一下就没了，大多主动向唐军投降：“黑闼食尽，众多亡，或缚其渠帅以降。”

于是，刘黑闼本就不多的兵力，又被李建成用以柔克刚的手段给废掉了一大半。

没有了士兵的刘黑闼再能打，又算得了什么？

武德六年正月，李建成军又大破刘黑闼军于馆陶，刘黑闼只好引军北逃。李建成与李元吉组合了千余骑兵屯守在永济渠，纵骑袭击刘黑闼。刘黑闼又败走。李建成命令骑将刘弘基率骑兵追击。

走投无路的刘黑闼被自己的部下、饶州刺史诸葛德威诱捕，并交给李建成。

随后，李建成斩杀刘黑闼于洺州，持续一年多的刘黑闼之乱被平息。

李建成仅用月余时间，就消灭了刘黑闼，不得不说大有捡落地桃子的成份。毕竟刘黑闼的嫡系部队早就被李世民与李世勣消灭得差不多了。还有呢，就是刘黑闼不该心急，向突厥借兵。这种引狼入室的行为，使之完全失去了民心，也让其部下不忿。所以才会在李建成实施宽宏怀柔的攻心战下，变得众叛亲离了。

武德六年（623年）八月，李渊命李世勣与赵郡王李孝恭、岭南道大使李靖、怀州总管黄君汉一同讨伐江淮义军首领辅公祏。

武德七年（624年）三月，李孝恭、李靖率领水师沿长江而下，李世勣率领步兵一万渡过淮水，攻取辅公祏占据的寿阳，直抵峡石。

辅公祏的部将陈正通率兵两万屯驻在梁山，又派他的大将冯惠亮统帅水师三万，用锁链连接大战船，以阻断长江的航路。

陈正通还在长江西岸构筑堡垒，分守水陆两路，以此抵御唐军。

李靖等首先攻破陈正通、冯惠亮等人所驻的博山、青林等地，旋即进兵丹杨。辅公祏闻讯后大惊，企图率残部弃城东逃。

李世勣乘胜追击，在武康县将其斩杀，并分别捕杀了其余党。江南自此平定。

武德八年（625年），东突厥颉利可汗入侵并州，朝廷命李世勣为行军总管，在太谷迎击突厥。

突厥前来，也不过是想一探唐军实力，并顺带打劫一番而已。颉利可汗见李世勣所率唐军阵容整束，士气高昂，一下子就没有与唐军一战之心了。于是，李世勣十分轻松地将其驱逐回去了。