仁寿四年，李世民7岁。这一年，隋文帝杨坚患病住在仁寿宫，尚书左仆射杨素、兵部尚书柳述、黄门侍郎元岩都进入仁寿宫侍病。杨坚叫来柳述、元岩说：“召见我的儿子！”
柳述等人要叫杨广来。杨坚说：“是杨勇。”柳述、元岩出了杨坚的寝宫，起草敕书。杨素闻知此事，告诉了杨广。
杨广假传杨坚的旨意将柳述、元岩逮捕，关进大理狱。他们迅速调来东宫的裨将兵士宿卫仁寿宫，宫门禁止出入，并派宇文述、郭衍进入调度指挥，命令右庶子张衡进入仁寿宫侍候杨坚。随后，杨坚在大宝殿驾崩，庙号高祖，谥号文皇帝，葬于泰陵。杨广篡夺了帝位，即隋炀帝。李渊和杨广是姨表兄弟，他的外甥女王氏又是杨广的后妃，因此，杨广称帝之后，李渊的优越地位并没有发生改变。
大业初年，李渊被任命为荥阳、楼烦太守，后来又召为殿内少监。殿内省属于隋王朝中央政府核心机构的五省之一，而殿内少监为殿内省长官，专门掌管朝廷供奉等事。大业九年，李渊升任卫尉少卿，掌管朝廷宫殿的禁卫。这时的李世民，已经是一个16岁的翩翩少年了。受家庭的影响，李世民自幼尚武，爱好骑马射箭，经常驰骋猎场，是一位意志坚强、性格豪放的贵族子弟。习武之余，李世民对《孙子兵法》非常感兴趣，这使李渊意识到他在众兄弟中确实有着超群的见识。
16岁时，李世民与13岁的长孙氏结婚。长孙氏的先世源于北魏时的皇族拓跋氏，长孙氏之父长孙晟则是隋朝的右骁卫将军，弓马娴熟，出使突厥时，在可汗帐前一箭射中双雕。长孙晟的哥哥长孙炽，是隋朝的尚书，对李世民的母亲窦氏幼年的故事早有耳闻。他对弟弟长孙晟说，这样的女子一定会培养出不寻常的孩子，应该跟他们联姻。于是，长孙晟的女儿嫁给了李渊的二儿子李世民，她就是后来的长孙皇后。
长孙炽的确有识人之力，两家军事贵族的联姻，可谓门当户对。隋炀帝即位以后，大兴土木，四处巡游，穷兵黩武，加上连年水灾，天下大乱。大业九年春，隋炀帝征伐高丽时，李渊在怀远镇督运粮草。同年农历六月，杨玄感举兵反隋，李渊奉隋炀帝之命镇守弘化郡，兼知关右诸军事。在此期间，李渊广交天下豪杰，遭到隋炀帝的猜疑。大业十一年四月，隋炀帝任命李渊担任山西、河东抚慰大使，李世民随父至河东。李渊父子到达龙门时，遇上了母端儿农民起义，李渊父子领兵击败了起义军，收编万余人，实力大增。又攻击绛州叛贼柴保昌，降其众数万人。
不久，李渊升为右骁卫将军。这时，北方的突厥人趁隋王朝内乱之际迅速发展起来。
这年八月，隋炀帝巡视北部边境，突然遭到突厥首领始毕可汗数十万骑兵的围攻。始毕可汗攻陷了雁门郡41座城池中的39座，仅剩雁门和崞县未被攻破。
隋炀帝被困雁门城中，城内有军民15万人，储存的粮食仅够吃半个月，人心惶惶，形势十分危急。大臣樊子盖建议守城以消耗敌人的锐气，同时征招四方兵士增援。
但由于突厥兵层层包围，隋炀帝与外界失去了联系，只好把征集援军的诏书系在一块木头上，投入汾河，使之顺流南下，引来援兵。
募兵勤王的诏书传出以后，河东地区的军民纷纷开赴雁门。李世民当时18岁，正跟随担任山西、河东抚慰大使的李渊驻扎河东，募兵勤王之事让李世民热血沸腾，兴奋不已。他毅然告别家人，应召入伍，留在屯卫将军云定兴的大营中。
李世民详细分析了时局，向云定兴提出建议说：“始毕可汗发动全国的兵力围困天子，一定是认为我们仓促之间没有办法找到援军。我们可以白天摇旗呐喊，数十里不断；夜间则击鼓相应，以迷惑敌人。”
云定兴采纳了这个建议，让士兵多拿旗帜，四处敲鼓，果然引起突厥人的疑虑，加之各地援军陆续逼近，突厥的义成公主也派人奏告国内告急，导致始毕无心恋战，撤兵北归。
雁门被围33天后，隋炀帝终于躲过一劫，得以返回洛阳。在这次战役中，李世民初露锋芒，显示了他不凡的军事眼光和英雄胆识。他称帝以后，还曾向大臣夸耀道：“朕年仅18岁时，便开始经营霸王之业。”
大业十二年，李渊奉诏担任太原留守。当李世民跟随父亲来到晋阳时，农民起义已席卷三晋大地。在镇压农民起义的过程中，李世民的人生发生了重大的转折。
李渊担任太原留守时，面临南北两大威胁，南有号称“历山飞”的魏刀儿农民起义军，北有蠢蠢欲动的突厥军。
当魏刀儿部将甄翟儿率两万余人骚扰太原时，隋朝将领潘长文被杀，李渊带领李世民率兵五六千人前往征讨。军至西河郡永安县雀鼠谷时，与敌军相遇，双方发生了激烈战斗。
由于农民军人多势众，李渊陷入阵内，不得脱身。
危急时刻，李世民率轻骑突围，搭弓连射，所向披靡，将李渊救出，并与适时赶到的步兵联合，将农民军打败。在这次战役中，李世民镇定自若，骁勇善战，所到之处，敌人望风披靡。
大业十三年，农民起义的烈火，以燎原之势，席卷全国，最终形成三支大的起义力量：一是中原一带李密、翟让领导的瓦岗军，二是窦建德领导的河北义军，三是杜伏威、辅公祏领导的江淮义军。
同时，隋朝统治集团内部也分崩离析，许多豪强拥兵割据，称霸一方。另外，走向败落的西关中地区贵族后裔、南朝覆灭政权的后代等，也都加入到了反隋的行列。
当隋朝的大厦即将倾覆之时，李世民也在谋划自己的前程：他对李渊说：“您受诏讨伐起义军，能讨伐得尽吗？如果不能，最终也不免获罪。”
一个曾经积极应募勤王的士兵，此时已经萌生了夺取天下之心。李世民知道隋朝必亡，于是也在暗中结交豪杰，招纳逃亡之人，网罗各种人才，像长孙顺德、刘弘基、窦琮等，都是从这一时期开始跟随李世民的，这些人后来为李唐王朝的建立立下汗马功劳。特别是晋阳县令刘文静，与李世民结识后，成为忘年之交，而且成了后来晋阳起兵的关键人物。而隋朝末年的大动乱以及动乱中的战争经历，成为一笔宝贵的财富，为李世民日后的征战和治国生涯奠定了基础。
