李渊夺取的长安，不是寻常的军事重镇，而是举足轻重的政治中心——西京，尽管隋炀帝多在东都洛阳理政，然长安在名义上仍是隋朝的第一首都。因而军事上的胜利，给李渊集团带来了难以估量的政治主动权。
设立傀儡皇帝，只是李渊的权宜之计，借用政治老招牌，为自己披上了一层保护色，从而得以进退自如。他懂得，在时机未成熟之际就急于称帝，是将自己架在炉火上烤的不明智之举。他在等，等全国形势有个更明朗的变化，也即隋朝的政治象征消融到无可挽回的地步。他不是在消极地等，而是在进一步拓展军事经营，以李建成为东讨元帅，李世民为副元帅，兵出潼关，进攻洛阳，争取拿下第二个政治中心。
大业十四年（公元618年）三月，隋炀帝在江都被杀，主谋宇文化及立秦王杨浩为帝，自任大丞相。洛阳方面闻讯，随即立越王杨侗为帝。如此，加上长安的杨侑，有了三个顶着隋朝名义的政权。李渊审时度势，认定隋炀帝的死已宣告了隋朝的覆灭，若继续拘泥于维持傀儡皇帝，将陷入三方争正统的无聊闹剧，失去独到的政治感召力。由此在五月，他踢开了杨侑，自己走上帝位，宣布国号为大唐，改义宁二年为武德元年，立李建成为太子，李世民为秦王，李元吉为齐王。
改朝换代，李唐王朝问世了，开国君主李渊史称为唐高祖。
然而，李唐王朝的建立，只是李渊集团的一厢情愿，并未得到天下诸雄的承认。当年的九月，兵至魏州（今河南安阳）的宇文化及如法炮制，鸩杀了杨浩，自立为天子，国号许，年号天寿。此后，洛阳的王世充废了杨侗，黄袍加身，国号郑，年号开明。
此外，在这前后，天下不知有多少人称王称帝。大者有：李密建立的魏，地在巩（今河南巩县），年号永平；窦建德建立的夏，定都乐寿（今河北献县），年号五凤；薛举建立的西秦，定都金城（今甘肃兰州），年号秦兴；李轨建立的凉，定都凉州（今甘肃武威），年号安乐；萧铣建立的梁，定都江陵（今属湖北），年号鸣凤；李子通建立的吴，定都江都，年号明政；刘黑闼建立的汉，定都洺州（今河北永年东南），年号天造；辅公祏建立的宋，定都丹阳（今江苏南京），年号天明……
政权林立，开了国的唐朝，充其量仍只是一路诸侯而已。然有一点意义非同小可，即在唐高祖终结了杨侑的傀儡皇帝名号后，宇文化及、王世充亦步亦趋，做了相同的政治举措，使隋朝彻底烟消云散。逐鹿的诸雄各自打出旗号，以彼此平等的身份，展开了无遮无盖的角逐。
鹿死谁手，李渊集团并没有十足的把握。
风云变幻之际，谁都没把握，地盘仅有关、晋的李唐王朝，起初只能展开远交近攻，相机行事，逐步蚕食。直到蔚成气势后，方有了统一的力量。这个过程是漫长的，长达七年之久。
在李渊登位后不久，关中就遭到了自称“西楚霸王”的薛举的进攻。李世民奉命迎敌，然出师不利。薛举病死后，十一月，李世民再度与继位的其子薛仁杲争战，采取袭击骚扰、深沟高垒、断敌粮道等战术，将对方二十万之众打得全军覆没，生擒薛仁杲，占据了陇右。
武德二年（公元619年），李轨政权内部发生裂变，主政的是户部尚书安修仁，其兄安兴贵在使唐后成为铁杆的亲唐派，兄弟俩联络当地少数民族部落，攻陷金城，擒了李轨，押往长安。由此，李渊不费一兵一卒，获得了河西。
同年，北方诸雄之一的刘武周，连连击败唐军，占据了本是唐军根据地河东的大半，并遣骁将宋金刚，领兵继续扫荡河东余地。在宋金刚的强势威逼下，唐高祖准备放弃河东。李世民坚决反对，他以太原是本朝发祥之地为由，请求领兵前去迎击。在取得唐高祖的支持后，他兵渡黄河，以坚营蓄锐的兵法，耗尽对方的粮食，武德三年（公元620年），待对方撤退之际，强行与其决战，从而彻底击败宋金刚，收降对方尉迟敬德等大将。继而，以破竹之势直取太原，逼使刘武周逃窜突厥，从而收复河东。
此年的下半年，李世民把兵锋指向中原，进攻王世充据守的洛阳。武德四年（公元621年），窦建德领军来援，李世民以分兵相迎的战术，生擒窦建德，然后迫降了王世充（参见《王世充》、《窦建德》）。
同年，赵郡王李孝恭、李靖奉命率巴蜀兵，顺江而下讨伐萧铣，另出三路军相配合。萧铣政权内部矛盾重重，人心涣散，毫无战斗力，节节败退。萧铣出降唐军，被送往长安后处死。长江中游入于唐朝版图。
武德五年（公元622年），李世民率军进攻窦建德旧部刘黑闼，以正、奇之道互补，断其粮道，坚壁清野，引洺水灌其阵，随之发动攻击，剿灭其部大半，迫使刘黑闼领残众窜入突厥，由此平定了河北。不久，刘黑闼借了突厥兵，折回攻略河北，李建成、李元吉出师猛击，陷入穷途末路的刘黑闼，被其部属执送李建成后处死，河北复归唐有。
武德六年（公元623年），李世民出兵曹州（今山东曹县西北），讨伐响应刘黑闼的徐圆朗，经过激战，收复了其所据的兖、曹等八州，平定了山东大部。
武德七年（公元624年），最后的大割据者、拥有江淮的辅公祏，被李孝恭所平定（参见《杜伏威、辅公祏》）。
至此，除了零星小股的草寇外，唐朝完成了统一。要说明的是，隋末以来乘乱崛起的各类政权与势力，并非全是被唐朝消灭或收编的，其中许多是灭亡于互相的火并与争战之中。唐朝在群雄逐鹿中是最大的赢家，其在依赖自己的军事经营的同时，在政治上兼收了渔翁之利。
有很多史家，将唐朝建国与统一的功劳，主要归诸李世民。是的，李世民于此确实建立了卓越的功劳，然平允而论，他的功劳，是不能与唐高祖相提并论的，他充其量只是起到了军师、将帅的作用。李建成的功劳，也是不能抹杀的，李世民所具有的功劳和作用，在不同程度上，他也是同样具有的。有关这方面记载的缺乏，实是与后来李世民得了天下有关。
功劳最大，作用最大，当还是首推唐高祖。没有他昔日在隋朝的政治地位，不可能有积聚起家的军事实力；没有他出色的领袖风范与素质，不可能有这么些人才的纷至沓来；没有他出类拔萃的组织能力，不可能将本集团凝聚成一体；没有他宽仁容众的度量，不可能使无数的志士仁人为之赴汤蹈火；没有他高屋建瓴的远见卓识，不可能在每个关键时刻推出行之有效的战略。总之，他才是真正的核心，真正的大唐王朝的缔造者，真正的天下一统的完成者。
唐高祖坐在皇位上，是坐得问心无愧的。
遗憾的是，唐高祖在建国后，忙于统一大业，在完成统一大业后，又在皇嗣问题上犯了与隋文帝类似的错误，以致提前结束了历史使命，未能在治天下上有大的建树。