李渊，字叔德。他的先祖本为赵郡（今河北隆尧东）人。李渊的祖父李虎与杨坚的父亲杨忠同样都是宇文泰手下的开国功臣，列名于八柱国，是著名的贵族世家。李氏的配偶多属少数民族，鲜卑血统为多。
李渊生于长安，七岁袭爵唐国公。他的妻子窦氏是北周武帝宇文邕的外甥女，才貌双全。窦氏选夫时，她的父亲窦毅令人在门屏上画了两只孔雀，让求婚的贵族子弟在百步之外张弓射箭，能一发射中孔雀眼睛的，就能娶他的女儿。当时射者很多，无一能中。后来，李渊请求试射，窦毅见来者相貌雄伟，气度不凡，十分喜欢，特许他连射二箭，中一即可入选。李渊连发二箭，各中孔雀一目。窦毅大喜过望，连声说：“老夫今日得佳婿也！”由此李、窦结为婚姻。李渊姨母为隋文帝的皇后独孤氏，他与隋炀帝属表兄弟关系，所以入隋后，李渊倍受宠信，官高爵显，皇亲国戚。
隋末，李渊被任为太原留守。隋炀帝一面要他镇压农民起义，一面又因他的家世和声望，对他非常猜忌。派了两个副留守，监视他的行动。李渊患得患失，不知所措。他的次子李世民，时年十八，力劝父亲“顺民心，起义兵，转福为祸”。李渊一听起兵造反，吓得大惊失色，惟恐招惹灭门之祸，斥责李世民说要送他进牢狱。第二天李渊又对世民说：“我昨晚想通了，觉得你的话有道理。今天决心起兵反隋，事情不成，破家由你；事情成功了，化家为国也由你！”
当时，活跃在蒙古高原的突厥十分强大。北方起兵者多向始毕可汗称臣，刘武周起兵马邑，南破雁门，被突厥封为“定杨天子”，对太原的威胁极大。李渊准备起兵之时，突厥派出数万骑一度进逼晋阳，形势严峻。李氏父子认为，一旦在太原起兵，突厥和刘武周可能乘虚南下，这样就会腹背受敌。于是采用“友好”策略，暂时向突厥称臣。始毕可汗得到称臣书札大喜，随即派人送来良马千匹，但李世民父子对突厥采取的是谨防和限制的策略，客气地只要了五百匹。
617年六月，李渊起兵。李渊派李建成、李世民攻下了西河郡（治今山西汾阳），除俘斩郡丞高德儒外，不杀一人，对百姓秋毫无犯，大得人心。到了七月，李渊留下小儿子李元吉守卫晋阳，自己亲率数万人马向长安开进。
其时，隋炀帝的孙子、代王杨侑驻守长安，杨侑得报后立即派虎牙郎将宋老生在霍邑拦击李渊。当时阴雨连绵，道路泥泞，军粮告急。李渊想退兵，但他的两个儿子认为，目今秋收，粮食遍野，只能前进，不能后退。到了八月初，雨止天晴。李世民遂用计骗宋老生率三万大军出城，随即堵住其退路，全歼宋老生人马。
李渊父子一路攻无不克，于当年十一月即攻克长安。李渊入城后，立即宣布约法十二条，取消各种苛法，释放囚徒，维持秩序，安定人心。不久，李渊遥尊隋炀帝为太上皇，拥立杨侑，是为隋恭帝，改大业十三年为义宁元年。李渊自号大丞相，都督内外诸军事，晋爵唐王。他以李建成为世子，李世民为京兆尹，改封秦国公，李元吉为齐国公，裴寂为长史，刘文静为司马。次年三月，传来隋炀帝在江都被杀的消息。五月，隋恭帝被迫禅位，李渊即位，改国号为唐，年号武德，这一年为武德元年（618年），定都长安。李渊就是唐高祖。
李渊正式建立政权后，在军事上采取“以静制动”的战略，暂时置关外于不顾，经过两次恶战，解决了割据今甘肃金城的薛举父子，又消灭了割据凉州的地方势力李轨。接着，兵锋一转，对付山西北部的刘武周。刘武周部下有勇将宋金刚、尉迟敬德等，又受到突厥人的支持，进陷太原，关中大震。李世民派秦叔宝在美良川一带大败尉迟敬德。敬德战败降唐。刘武周势穷，逃往突厥，为突厥人所杀。
此时，关中大定。620年秋，李世民统兵出关与东都的王世充进行主力决战。王自知难敌，就派人去和河北农民起义军首领窦建德联合，请求救援。窦自率兵十多万，号称三十万，与王联军与李世民决战。
当时地主集团中最强大的是李氏父子，其次是王世充。王在危急时向窦求救，但窦忘记了自己的血海深仇，认为救王是救隋。在宇文化及杀炀帝后，李密即出兵大败宇文化及。窦竟然说：“吾为隋民，隋为吾君，今宇文化及弑逆，乃吾仇也，不可不讨。”攻陷聊城后，窦又优待炀帝的萧皇后，把她送往突厥去投靠女儿，隋朝的遗臣都受他重用。在这种错误思想的指导下，他出兵救援王世充。李世民急领精兵扼守虎牢。窦军被阻不能前进，王世充也躲进城内不敢出战。李世民乘窦军疲乏懈怠之机纵兵突击，窦战败被俘。几天后，王世充开城投降，唐朝尽得黄河南北及山东之地。
在中原相持不决的时候，另一支由赵郡王李孝恭和李靖率领的唐军，在今重庆的奉节进行准备后，拉开了统一长江中游以及岭南地区的序幕。萧铣是梁朝后裔，大业十三年起兵，次年称帝，定都江陵（今湖北荆州）。他地广兵多，是唐朝的劲敌。武德四年（621年）九月，两李自奉节出兵，顺流东下。趁江水上涨时，乘船直达江陵。萧铣以为神兵天降，孤城无援，只得开门投降。援军到后，见江陵已破，也只得投降。李靖挥师南进，岭南各地也纷纷归顺。
在唐朝统一南方的过程中，李靖立功最多。他是隋朝平陈名将韩擒虎的外甥。在唐太宗统治时期，他在与突厥和与青海境内的吐谷浑的战争中，屡获胜利。
此时，唐朝已重新统一了中国，建成了比隋朝更强大的封建国家。