隋炀帝大业七年（611），准备征伐高丽，使社会各种矛盾迅速激化，年底终于爆发了王薄农民起义。隋炀帝仍然我行我素，大业八年、九年、十年三次征高 丽，使社会经济受到严重破坏。农民起义的星星之火发展成燎原之势，起义浪潮席卷了全国。看到政权摇摇欲坠，官僚地主纷纷组织武装趁火打劫：他们一方面 镇压农民起义，窃取起义的胜利果实；另一方面又互相厮咬，争夺最高统治权。在众多地主武装中，举旗于晋阳（今山西太原）的，在公元618年建立了唐 朝，开创了李唐290年的基业。
李渊自称是时凉武昭王李的后代，七岁袭父李爵唐国公。其母独孤氏，是隋文帝的姐 姐，所以他是隋文帝的姨外甥，隋炀帝的姨表兄。李渊为人“倜傥豁达，任性真率，宽仁容众，无贵贱咸得其欢心。”（《旧唐书》卷1《高祖纪》）李渊在隋朝先 后担任过刺史、太守、卫尉少卿等职，在“历试中外”的过程中积累了政治经验和政治资本，培植了相当势力。大业十三年（617），炀帝为镇压山西境内的农民 起义和防止突厥南侵，命李渊为太原留守，驻守晋阳。炀帝对李渊并不放心，于是同时任命郡丞王威、武牙郎将高君雅作为李渊的副将，命令他们对李渊进行监视。 炀帝的担心并非多余，李渊确有亡隋之心，尽管太原留守任务艰巨，他却不无得意地对次子说：“唐固吾国，太原即其地焉。今我来斯，是为天与。与而不 取，祸将斯及。”（温大雅：《大唐创业起居注》卷上）尽管近有王威、高君雅的监视，远有炀帝的猜忌，尽管自己生病时炀帝“可得死否”的警告还在耳边回响， 但“隋历将尽”的现实与“天与不取，祸将斯及”的信念使他迅速筹划起兵事宜。
李渊起兵的第一步是解除太原外围的威胁，稳固起兵基地。 当时，太原处在魏刀儿领导的历山飞农民起义军和突厥的南北夹击之中，为了摆脱这种南北受敌的局面，李渊决定由他和副留守王威率军镇压南部的历山飞农民军； 对北部的突厥则命高君雅和马邑太守王仁恭拒守。李渊在西河郡（今山西汾阳县）的雀鼠谷大败历山飞起义军，解除了太原南面的威胁。李渊趁机收编溃散的农民起 义军，扩充实力。高君雅和王仁恭对突厥的战争遭到失败，但南面农民军的威胁已解除，太原不再有受南北攻击之虞。
隋炀帝对李渊疑心极 重，在其身边安排了自己的亲信王威、高君雅进行监控。李渊为清除王、李，策划发动了著名的晋阳宫事变。王威、高君雅对李渊网罗死党、招兵买马等异常举动早 有警觉，他们决定在晋祠举行祈雨大会时袭杀李渊。李渊获知此事后，决定。大业十三年五月十四日夜，李渊令李世民伏兵于晋阳宫城外，严密封锁消息。 次日清晨，李渊与王威、高君雅一起处理政事，李渊同党晋阳令刘文静把开阳府司马刘政会带至庭中，刘政会手拿纸张对李渊说：“有密状，知人欲反。”李渊明知 是告王威、高君雅谋反，却故意要王威先看，刘政会不给，说：“所告是副留守事，唯唐公得看之耳。”李渊故作吃惊地接过密状，内容是控告王威、高君雅等密引 突厥入寇。李渊以此为借口将王、高二人捕杀，“遂起义兵”（《旧唐书》卷1《高祖纪》）。晋阳宫事变揭开了李渊父子起兵的序幕。解决王、高之后，李渊要妥 善处理的问题是，北面虎视眈眈的突厥。
隋唐之际，突厥“强盛，东自契丹、室韦，西尽吐谷浑、高昌诸国，皆臣属焉。控弦百余万，北狄之 盛，未之有也。高视阴山，有轻中夏之志”（《旧唐书》卷194上《突厥传上》）。北方有如许劲敌牵制，南下问鼎中原只能是一句空话。然而，李渊此时尚无足 够的时间和力量与突厥进行抗衡，于是李渊便对突厥采取了拉拢、利用的策略。他用臣下的语气致书突厥始毕可汗：“当今隋国丧乱，苍生困穷，若不救济，总为上 天所责。我今大举义兵，欲宁天下，远迎主上，还共突厥和亲……若能从我，不侵百姓，征伐所得，子女玉帛，皆可汗有之；必以路远，不能深入，见与和通，坐受 宝玩，不劳兵马，亦任可汗。”（温大雅：《大唐创业起居注》卷上）始毕可汗对李渊的态度十分满意，不但同意了李渊的请求，而且还建议李渊取炀帝而代之。北 面的威胁终于暂时得以缓解，李渊起兵的时机成熟了。
大业十三年六月，李渊传檄诸郡，称自己的军队为“义兵”。西河郡（今山西汾阳）郡 丞高德儒抵制“义兵”。李渊乃“命大郎、二郎率众取之”。李建成、李世民兄弟很快攻下了西河郡，处死了高德儒，前后仅用九天时间。西河告捷之后，李渊又大 量招募兵丁，扩充队伍。同时，还组建了军事、政治机构：设大将军府，分为三军：李渊自称大将军，统领中军主力；长子李建成为陇西公、左领军大都督，统领左 三军；李世民为敦煌公、右领军大都督，统领右三军。裴寂为长史，刘文静为司马，唐俭、温大雅为记室，长孙顺德和刘弘基等为统军。
七 月，李渊率军三万在太原誓师，正式起兵问鼎中原。他以四子李元吉为镇北将军、太原留守，负责太原的有关事宜，自己率领主力向关中进发。同时，发布檄文，指 责隋炀帝听信谗言，杀害忠良，穷兵黩武，致使民怨沸腾，“豺狼充于道路”，宣布尊炀帝为太上皇，拥立其孙代王杨侑为帝。李渊化家为国的理想转变为实际的军 事行动。
李渊刚从太原起兵，瓦岗军首领李密的信就到了，信中邀请他“为盟津之会，殪商辛于牧野，执子婴于咸阳”。很明显，李密目的是 想让李渊尊他为反隋盟主。而李渊刚刚起兵，正向关中挺进，随时都有可能因中原隋军西进而陷入腹背受敌的危险境地。李渊决定得利用他们：瓦岗农民军和东都隋 军相持不下，你争我夺，自己可乘虚挺进关中，直捣长安；两虎相斗，必有死伤，待他们斗得两败俱伤时，自己回过头来收拾他们就容易多了。于是，李渊回信给李 密，对李密极尽吹捧之能事：一则说李密应天顺民，必登大宝；二则说自己年过半百，无心夺取隋政权，只求李密事成后恩准自己继续做唐王。李密居然相信了李 渊，“遂注意东郡，无心外略”（温大雅：《大唐创业起居注》卷中）。李渊利用瓦岗军拖住东都隋军主力的有利时机，迅速率军入关。