在李渊筹备建立新王朝之时，北部有一支队伍也在同时蓬勃发展，他便是刘武周所建立的势力。本为马邑鹰扬府校尉的刘武周，眼看天下大乱、群雄竞起，便杀死太守王仁恭起兵。他自知自己的实力并不大，所以向北方的突厥谄媚求救，在得到始毕可汗相助之后迅速占领了雁门、楼烦、定襄等郡县，迅速发展成一支北方的割据势力。刘武周也自称为皇帝。
新生的唐王朝诞生了，它像一个婴儿一样急需得到呵护，但是它的四周却强敌环伺。表面上，李渊似乎对于如何对付这些敌人成竹在胸，但事实上却处于非常被动的地位。首先向唐发难的是位于西北的薛举父子，李渊让李世民领兵应对。而对于虎视眈眈的其他队伍，只能先行安抚，绝不首先发难，以免引火烧身。
但事情的发展并不如李渊所期望的那样，武德二年（公元619年），位于北方的刘武周不断举兵来犯，这个比唐王朝早一年建立的政权，在突厥的支持下，攻城略地，不出几个月的时间，唐的地盘就被占领了榆次、介州、石州等地。屡屡战败让李渊忧心忡忡，但前方还是不断传来他不想听到的消息。
九月的一天，李渊在长安的皇宫中，无心饮酒赏菊，正打算传唤裴寂、唐俭等人对当前的战局计议一番，却忽然有人来报，说镇守并州的齐王李元吉求见。李渊快步来到殿前，只见李元吉匍匐在地，一副狼狈相，他的哥哥太子李建成站在一边不知所措。李渊忙问：“现在边关告急，刘武周已经快要进逼到并州了，你怎么在这个时候突然回来了呢？”
李元吉匍匐在地上，头也不敢抬，只是低声说：“求父皇恕罪！”
李渊见他那副模样，又急又气，对他说：“你快点起来，把事情说清楚。”
李建成见状，忙上前说：“父皇先不要着急，容儿臣禀告：刘武周兵强将勇，在我们得到消息说他要进攻并州的时候，其实已经兵临城下了。他带着一队突厥兵围困并州，扬言要屠城。四弟眼见得并州守不住了，所以……”
“所以怎样？”
“所以，他就弃城而回了……”
李建成吞吞吐吐地将事情叙述了一遍，李渊感觉气血攻心，拿起桌上的玉如意就要砸李元吉：“你这个不肖子！大敌当前，守将弃城！没有一点骨气，你愧对李家先人啊！”
李元吉自知理亏，不敢抬头，只是一个劲儿地恳求饶命。李建成也在一边不断安慰李渊，但如此轻易就失去并州，不仅损失惨重，更重要的是李元吉的行为让李渊觉得蒙羞。他大声喝令：“将这个弃城之将给我推出去斩首，以儆效尤！”
众人一听大骇，忙跪下求情。只听门外有人朗声道：“父王息怒，刀下留人！”
来人正是秦王李世民，自从平定了薛举、薛仁杲父子之后，秦王在朝堂上的地位有了大幅提升，李渊对他的建议多有听从，信任的程度超过了太子李建成。李元吉看到李世民，就像抓住了救命稻草，急忙大喊：“二哥救我！”
李世民拜见了李渊，先是安慰他不要生气，然后分析了一下当前的局势，对他说：“现在刘武周气势如虹，兵锋甚盛。此前我们无暇顾及，但现在西北的薛举已经平定了，目前正好可以全力来对付他。”
闻讯赶来的裴寂说：“现在我军节节失利，此前的介州、石州暂且不提，这一次丢了并州，只怕晋州和龙门都不保了。”
李渊抚着额头，皱眉问李元吉：“现在前方战况如何？”
李元吉嗫嚅着说：“此时恐怕是晋州以北全部失陷了。”
李渊听到这一句，又是一阵眉头紧皱。这一切都在他的预料之中，弃城而归的守将所带来的将是如山倾倒一样的士气颓废，所以各地守城的将士肯定不能力保城池。表面上李元吉所放弃的是并州，但其实他伤害了唐军的战斗信心。一旦失去了战斗的信心，那便是兵败在即。
众人正在绞尽脑汁苦思之际，前方又传来线报，夏县人吕崇茂杀掉了县令，举兵造反，响应刘武周；而一直在蒲坂顽抗的隋朝旧将王行本也忽然向唐军发难，提出要和刘武周合力，进攻长安。这一消息传来，无疑是雪上加霜。李渊一下子跌坐在龙椅上慨叹：“难道这是天要绝我大唐吗？！”
李世民眼看满堂文武都颓然的样子，心里一惊。他知道，越是这种时候，越不能失掉信心，一旦心中认定自己必败，那么就算仅存的一点胜算，也会消失殆尽。他忙问李元吉：“现在前方还有哪座城池是我们的？”
李元吉仔细想了想，说：“我退兵之后，目前只有河西独存了。”
李世民问：“驻守河西的是什么人？”
裴寂说：“是浩州刺史刘赡，以及行军总管李仲文两人。”
李渊听了，无力地摇摇手说：“大敌当前能坚守，这两个人看来是忠肝义胆。现在大势不再，我不希望他们俩有任何闪失，就让他们撤兵回来吧！其他的事可以从长计议。”
李世民急忙上前一步说：“万万不可！现在大敌当前，敌人又节节进逼，只怕我军的信心已经所剩无几。现在刘赡和李仲文在前方坚守，可以说是我们最后的一道屏障。如果连他们都撤退回来了，只怕我大唐的军心就像决堤的洪水一样涣散掉了！”
李渊皱着眉说：“但现在的情形，又能怎么办呢？就算我们不放弃河西，也迟早被刘武周打败夺走。”
李世民思虑再三，说：“请父皇给我三万精兵，我愿意领兵北征，阻拦刘武周！”
这一提议让李渊大为吃惊，临危受命所面临的困难是可想而知的。现在李世民主动请命，无疑是要将自己推到最艰难的境地去。他说：“现在前方大势已去，就算你去了，也起不了多大作用。倒不如退一步，勤加操练，等刘武周攻来时，我们再作阻拦。”
李世民却坚持说：“军心就好像洪水，一旦有一个缺口，就会狂泻。我们现在已经处处遇难，如果再不积极补救，势必会让士气低落。到那个时候，就算操练再多，没有士气的将士们也打不了胜仗。所以，我现在请命主动到前方去迎击，也许并不一定能够获胜，但对于我们的士气一定是有用的。我要让将士们看到，大唐的勇士不会惧怕这些贼寇！我们不仅要迎敌，而且要主动迎敌，就算不能获得胜利，也要保持勇士的尊严！”
李世民的一席话，说得堂下诸将一个个热血沸腾，也让李元吉羞红了脸。李渊慎重想了半晌，语重心长地说：“此一去，不求军功，只愿你能平安回来！”
李世民带着三万精兵，与兵部尚书殷开山、总管秦叔宝一起直奔龙门关，自己直面刘武周，同时派遣了永安王李孝基、工部尚书独孤怀恩和内史侍郎唐俭平定夏县吕崇茂，兵分两路和敌军对峙。
来到龙门关后，李世民亲自查看地形，掌握敌情，对殷开山和秦叔宝说：“目前我们的兵力和刘武周相比，确实弱小不少。而更关键的是现在我军士气大跌，人人自危。大家都觉得我们绝对不是刘武周的对手，何况还有一个隋将王行本。所以，都认定了我们此行必输无疑，都在为自己想退路。”
秦叔宝说：“是啊，这几天，军中一直都有传言，将刘武周所统领的突厥兵说得一个个勇猛无比。这对我们自己是大不利。”
李世民说：“对，所以我们现在最重要的不是夺回失地，而是重建军心。两位将军认为应该怎么办呢？”
殷开山说：“那还用说，要想重建军心，只需打几次胜仗，大家自然就士气高昂了！”
李世民点点头，说：“但现在我们没有太多的实力去打，因此只能出奇兵了。”
在李世民和秦叔宝、殷开山的带领下，唐军以轻骑出兵，以三千人为队伍不断出兵侵袭，对敌军形成骚扰之势。在夏县、美良川等地，以伏击、突袭等方式不断打击刘武周的部下尉迟恭、寻相、宋金刚等，在保证自身减少损失的情况下，获得了一个个小胜利。这些小胜利的作用却不容低估，唐军本来低沉的士气逐渐恢复，诸将纷纷请命迎击刘武周、宋金刚。这在并州沦陷之后，对于唐军的信心重建是一个非常了不起的成就，为唐军以后的胜利奠定了坚实的基础。