大业年间，隋炀帝为营建东都洛阳、开发运河、修筑长城，10余年间调发扰动不下1000万人次，造成天下死于役的惨象。隋炀帝年年远出巡游，每次出游都大肆营造离宫，扰掠地方，浪掷人力物力财力，社会生产受到严重破坏。炀帝亲征吐谷浑后，又下诏征天下兵马进攻高句丽（位于今朝鲜半岛）。大业八年至十年，曾3次向高句丽出兵，号称百万之师征高句丽。结果，由于当时农民起义已遍及全国，隋王朝岌岌可危，最后只好议和收兵。大业七年，王薄率领民众在长白山（今山东邹平南）起义，隋末农民起义终于爆发。

隋大业六年，一直打小随师父徐洪客在山西路州的龙虎观修炼的徐世绩已经十七岁了。

徐洪客是一名很有道行的道士，精通医术、道家典籍、兵法及阴阳术数、占卜之术等。他与徐茂公之父徐盖因为是宗亲故而相熟，因见徐茂公命格出奇，资质甚佳，就求着徐盖一定要收徐茂公为徒。徐盖也知徐洪客的本事，遂欣然将年少的徐茂公托付给了徐洪客。

经过徐洪客十多年的悉心培养，加之徐茂公的确天资很好，十七岁时已尽得其师真传。特别是医术方面，其悟性竟超过了他师父徐洪客，完全于一方代师行医了。

也正是在大业六年的一天，徐洪客夜观天象，觉得帝星黯晦，便又起了一卦。经过仔细推算后，他把徐茂公叫了进来。

徐茂公进来后，徐洪客就把卦相与徐茂公作了讲解。两师徒皆精通卦理，徐茂公也是心中凛然。

徐洪客对徐茂公说道：“茂公啊，为师推算，明年天下将乱，七年后天下大乱，群龙无首。而始乱之地，就在山东。那儿也正是你的老家。“天下大乱，道士下山！”这是我玄门祖训！你命格出奇，艺业已成，是该回去历练得了！不过，你所做之事，尽量不要牵涉你家。回去后，尽量叫你父亲及早搬家。你行道江湖，也最好以方外之人的身份来示人。至于卜算，最好少用，否则于你阳寿有损！为师老矣，就不趟这趟浑水了。”

徐茂公听了，认真地点了点头。于他而言，也是怀着一颗少年雄心，早就向往着外面的世界了！

次日，徐茂公便收拾行装，拜别了朝夕相处了十余年的师父，按着师父的指点，下山后赶回了曹州离狐（今山东省菏泽市东明）老家。

徐茂公的曾祖父徐鹊是北魏濮阳郡守，祖父徐康南齐谯郡太守。所以徐家其实很富有，史称其“家多僮仆，积栗数千钟”。只是到了徐茂公父亲徐盖手里，乐善好施，救济贫苦人，不管关系亲疏。家境略有衰微。

徐茂公回到老家后，按照师父的吩咐劝父亲搬家。徐盖虽半信半疑，但他对徐洪客的占卜之术的神奇是见识过的。想到以后这一带要战火纷飞，再大的家业也很难保住，于是，就搬到滑州卫南县（今河南浚县东南）去投靠一位亲戚去了。故史载徐家于隋朝末年，迁居到滑州卫南县。

决定搬家后徐茂公却以照看祖坟的借口留了下来。徐盖虽然不晓得徐茂公到底要干啥子，但听儿子说是师父要他留下来历练的，又见儿子一身本事，无需别人照顾，便给儿子留了些财物，安安心心地搬走了。

徐茂公习惯了孑然一身轻，把父亲留给他的财物又悉数拿去救济别人去了。所以，他也迅速地在当地获得了很好的名声。

徐茂公的美名不胫而走，加之医术高超，又少年英雄，功夫不差，很快就引起了地方上豪侠之士的注重。

其中，最先找来结交他的便是同乡翟让。翟让其人，甚是豪爽不羁。加之练得一身好功夫，尤擅使柄长枪，好打不平。虽然粗犷了些，但一身义胆，在当地甚是出名。

对于翟让的结交，徐茂公也没有多想，投其义气，相交甚好。徐茂公精通玄门之术，虽觉翟让豪雄，但终究读书甚少，是个粗人。故而深知他才能有限，算不得个成就大事之人。

不过，通过翟让，徐茂公迅速结识了江湖上许多好汉，特别是当时同郡响马头子，绿林瓢把子二贤庄庄主单雄信。

单雄信自幼习武，善使马槊，功夫精湛，其勇力不在翟让之下。而且，他为人尚义重情，犹其体恤百姓，时常做些劫富济贫之事。还有就是他平时也读书，又心怀大志，常以不能凭一己之力安天下为恨。这些都很与徐茂公相投契。

单雄信也是十分欣赏徐茂公，一经把酒言欢，即引为知己。二人便焚香歃血，结为了生死兄弟。

翟让倒是没有参与，否则可能又出个桃园三结义的剧情来了。不过翟让年长了许多，虽然江湖地位不如单雄信，但单雄信仍以兄长看待之。

次年，王薄首先率众在山东邹平南长白山起义了。虽然当时影响也很大，山东草莽英雄们尽皆摩拳擦掌的。但大家其实心里都清楚，首义之举，实在是风险太大。一时未有燎原之势，很容易被扑灭。

所以，翟让与单雄信都在暗中积攒力量。

翟让也组织了一帮子人，不过并未公然宣布起义，只是一股土匪武装一般流窜打劫而已。单雄信依然沿着老路子发展。他那些绿林弟兄，聚起来就是土匪，散开后则又化为了民，做哪行哪当的都有。完全就是个隐形的地下组织。

翟让所带的那伙人时常在曹州附近活动。徐茂公并没有参加进去。他不需要靠打劫为生。但他觉得翟让他们那样做不好。一是兔子不吃窝边草，照翟让他们那般做下去，难免不有人不守规矩祸害到老百姓，那样就可能要落下污名，不利于以后发展。翟让本身就治下不严，这是很有可能的。另外呢曹州油水也不多，不太容易发展壮大。于是，他就找到翟让，劝说翟让：“附近是你与我的家乡，乡里乡亲的，不宜侵扰。宋、郑两州地近御河，商旅众多，去那里劫掠官私钱物非常方便。”

翟让称善，于是便到运河上去劫取公私财物。几年间，所获财物无算。有钱就不缺人，不久翟让兵众大振，有徒众一万余人。

队伍大了，就得找个合适的地方安置大家。翟让对此有些头疼，就来找徐茂公求教。

作为一个道士，对山形水势的地理是比较熟悉的。何况徐茂公又习得了师父所授的兵法，自然更知到哪些地方宜于驻扎军队。

他向翟让建议道：“瓦岗山前面是金堤关，瓦岗山上有个瓦岗寨，已被废弃了许久了。你的人马若入驻瓦岗寨，再拿下金堤关，金堤关就成了第一道防守的天险。后面瓦岗山又险峻又有退路，这样你们就进可攻退可守了！”

翟让听后大喜，当即便邀徐茂公同往。徐茂公因在单雄信那边还有些事要办，并没有立即答应翟让。

翟让引军入驻瓦岗寨，自此称为瓦岗军。