一月之前，自淮南之战与山东之战后，隋朝便失去了最锋利的兵刃，连失大将，连丧精兵，已然再也指挥调度不了各地，且四处乱象不断，兵匪阻隔，纵使有忠臣亦无法沟通联络，政令已然出入不了东都洛阳。
而隋帝杨广亦整日在后宫寻欢作乐，醉生梦死，再也不理朝政，隋朝众臣亦开始各起心思，蠢蠢欲动……
太原，李渊以通敌卖国之罪将高君雅，王威公开处斩，随后晋阳宫监裴寂，开启晋阳宫，向李渊奉上兵甲四十万套，粮食近百万石，银钱和各种器械军资帐篷不计其数。
李渊当即向河东各郡招募义士，一时应募者如云，十天之内，李渊募兵八万余人，全部以正规军兵甲装备，至此李渊已拥有兵力近二十万，兵力强大，钱粮富集。
此时李渊已广传图谶：‘法律存，道德在，白衣天子出东海。’连河东三岁小儿亦知，李渊便下令三军改旗易帜，以白色为尊，三军将士左臂缠白布，他自己则骑白马、著白袍，戴银盔，自号白衣公，尊为大将军，建大将军府。
以裴寂为长史、刘文静为司马，唐俭和温大雅为记室参军，温大有为文书郎，武士彟为铠曹参军，刘政会、崔善为、张源道为户曹参军，刘弘基为府掾，长孙顺德、窦琮、王长谐、姜宝谊、阳屯为左右统军。
李渊又封世子李建成为陇西公，左领军大都督，封次子李世民为敦煌公，右领军大将军，二人各统军五万，皆设官府属僚，封李元吉为太原太守，率三万军留守晋阳宫，他随即分兵两路，向关中进军。
大业十二年三月初，唐国公、太原留守李渊宣布，关中空虚盗贼四起欲前去讨伐，遂率十五万大军向关中方向进军，正式拉开了李渊反隋的序幕。
与此同时，雁门豪强张纶叛刘武周，举雁门郡投之，李渊遂命其为西路军镇河东，后为唐克离石，龙泉，文城三郡，镇守并州一方一地。
另一路军由本地豪侠武士彠起义，之后率领大将刘世龙，一路东征，势如破竹，军势越来越盛，克恒山郡，如郗士陵等诸多游侠义军纷纷归附，推赵郡，博陵郡，震动河北，隋将张子昂举郡归降，李渊遂置钜鹿郡。
后回援晋阳城，败刘武周，阻北上隋军，攻上党，长平，再后击败南侵梁师都主力，北伐取其上郡，弘化，并得延安郡大部。
而主力军，于四月下旬时起，随着李渊大军迅速南下，一路势如破竹，各郡文武官员纷纷开城投降，连破太原郡、西河郡，绛郡，杀进了河东郡，兵指关中。
河北，隋帝派遣右翊卫将军薛世雄，率领三万人马讨伐窦建德，被其在夜间，于河间郡南部边界沼泽里，率数千敢死之士袭杀，三万隋军崩溃，薛世雄身死，隋军全被收编。
后击败于上谷郡和恒山郡一带盘桓的魏刀儿，收降兼并其部，再击破盘踞于魏郡由善战之隋将杨善会，所带领的近万精锐隋军，又令刘黑闼，王伏宝，魏刀儿四处南征北战，近乎统一河北。
就此，窦建德统治黄河以北，太行山以东之地域，于乐寿定都，更名金城宫，建立大夏国，北伐高开道。
更北方，幽州罗艺领兵自立，号幽州总管，派其子罗成扫荡境内安宁，只淡淡率幽州铁骑盘踞北方，静静观看南方大地山河动荡。
而东北的辽东辽西地区，因隋军高丽军连战数载出现了真空，趁此良机，悍匪高开道呼吁乡野，攻城略地，散播钱财，招募豪强，又获取了隋军存于辽东的军械甲胄与粮食钱响，就此佣兵自立，称燕王，与西方罗艺，南方窦建德交战不休。