在李渊起兵之后，因为经历了长期而充分的准备工作，行军迅速。一方面隋朝的军力在与各地义军的作战中损耗巨大，另一方面义军之间互相兼并，存强去弱，所以他需要面对的敌人虽然数量上较之前少了很多，但每一个都是巨头。随着战争的不断推进，李渊和李世民越来越认识到人才的重要性，也深深为自己手中的人才不足而开始担忧。他们在前来投奔的士族和被收编的义军中广泛选拔人才，为他们所用，这其中就包括曾经在隋朝做过滏阳尉的杜如晦。
杜如晦的家族在北周和隋初都身居高位，但后来因为政治倾轧等原因，等到他长大后只能做一个候补的官员，等待了多年才得了一个小官。李渊举兵之后，杜如晦眼看朝中混乱，皇帝昏聩，便决意投奔李渊。他以其聪明和胆识很快便获得了李世民的赏识，成为智囊集团中的核心人物。
李世民的队伍从太原一路出发，平定了汾阳等地的义军，又一路向北。虽然行军顺利，但李世民还是时时眉头紧锁。杜如晦见状，便问：“现在我们的队伍势如破竹，将军为何每天还愁眉不展呢？属下愿意为将军分忧。”
李世民摇摇头，笑着说：“我愁眉不展不是为了行军，我们所过之处皆能迅速收复平定，这是好事。但我担心这是因为起兵之初士气强劲，这种气势延续不了多久。”
杜如晦说：“将军深谋远虑，属下佩服。”
李世民接着说：“现在队伍越来越庞大，而我们的将官谋臣却不见增多。接下来还有几个大的对手，我们都要一一对付，所以我才深感忧虑。”
杜如晦见他这么说，便说：“我知道将军求贤若渴，过两天，我们就要行军到隰县了，在那里，我有一个老朋友，希望可以为您引荐。”
李世民一听，来了兴趣，便问：“是个什么样的人呢？”
杜如晦说：“我这位朋友，十八岁的时候便中了进士，但是他说，如今皇上不思建立功德，只知道诳惑百姓。内政混乱又互相倾轧，虽然看上去国家太平，但是灭亡之日已翘首可待。所以，虽然获封羽骑尉，但他以父亲常年卧病在床为由，只是请命到隰县做了一个隰城尉，每天侍奉汤药，求得半生平安。如今，将军义旗招展，礼贤下士，他一定愿意来军中为您效力。”
李世民听了杜如晦的介绍，非常高兴，便让杜如晦带了自己，策马赶去隰县见一见这位奇人。
在隰县，人人都知道这位奇怪的房县令，他无意于官场，只是一心侍奉着自己久病在床的父亲。这一天，他还是像往常一样，守在火炉旁亲自给父亲煎药，却听到了一个熟悉的声音说：“房兄，久违了！”他急忙回头一看，原来是老友杜如晦，身后还跟着一位英姿勃发的小将军。
房玄龄忙将二人请到大厅，杜如晦对身边的小将军说：“这位便是我对您说的老友，姓房名乔，字玄龄。”又对房玄龄说：“这便是我家主公，太原留守李渊的二公子李世民。”
房玄龄一听，忙抱拳施礼道：“久闻李家二公子是一个难得的将才，年少有为，闻名疆场，如今一见，果然不同凡响！”李世民也忙还礼，两个人互相打量，均生出相见恨晚之感。
李世民说：“如今天下大乱，先生在这小小的隰县，难道不觉得委屈了自己满腹才华吗？不如从戎到我军中，共举大事。”
房玄龄慢慢地说：“我已过了不惑之年，虚度了四十寒暑，没有任何作为。看起来，这辈子也不会有任何功业了，将军怎么会到这里来找我呢？”
李世民说：“池中的蛟龙能够腾云驾雾，需要有云雨相助；被埋没的英雄豪杰，要建立震古烁今的功业，也需要抓住机遇。此前主上昏聩，让像您这样有才华的人都埋没了。但现在不同了，我和我父亲立志要推翻暴政，给天下百姓一个太平世界，所以正需要您这样的人才，我也相信您是不甘于只在这小小隰县度过余生的人。”
房玄龄依旧慢悠悠地说：“我来到这隰县，就是因为想远离官场的是非，尽心服侍自己的老父亲，现在他还卧病在床，您又怎么能劝我再投身到官场中去呢？”
李世民说：“房先生错了，我不是劝您到官场，而是劝您到我军中，为天下百姓谋福啊！先生胸中怀有上天赐予的无限才华，难道就忍心浪费了它吗？”
这时，一直站在边上不言语的杜如晦说：“房兄，你这么多年在隰县，我知道你是不甘心的。只因隋帝是个昏君，不能让你一展抱负。现在，二公子礼贤下士，主动来邀请你，想要和你一起建立功业，这是难得的机会啊！你可要慎重考虑啊！”
房玄龄拿起扇子，又走到屋檐下那个药罐子旁边，一边扇火一边说：“我早已过了热血报国的年龄了，现在你看我胡子都这么长了，所以只求能安心侍奉老父亲，别的，我都不求了。”
杜如晦看他这么固执，不由得摇摇头。李世民却一直面带微笑，说：“先生纯孝，侍奉令尊尽心，令人钦佩。这么说来，我也不好强求了。不过先生以后要是有什么需要，一定要告诉我，只要我李世民可以做到的，定全力以赴。”
房玄龄对李世民笑了笑，说：“如此，就多谢李将军了！”
李世民拉着杜如晦道别，出了房家。杜如晦惭愧地说：“这个老头儿，到现在还是这么固执啊！实在拿他没有办法！”
李世民说：“没关系，我看得出来房先生有满腹经纶，只不过他更是一个以孝为先的人。一个这样的人，将来必然是忠良。只不过我们现在不能强求他。日后有机会，一定可以请他到军中来共事。”
房玄龄目送李、杜二人走远，不由得感慨万千，叹服李世民虽然年轻，但是却可以从举止谈吐中看出是个有雄才伟略的人，将来必成大事。想到自己生逢乱世，在这小小的地方度过了四十多年，到今天才得遇这样的人才。正在出神，忽然听到厢房里父亲的咳嗽声，他忙收心，过去端了药碗送进房去。
第二天，房玄龄刚刚打开院门，就看到门口立着一匹骏马，牵着马的赫然便是昨天刚刚来过的李世民。大清早看到李世民站在自己的门口，他还以为自己在做梦。李世民却对他笑笑说：“昨天拜访了先生之后，回去夜不能寐。虽然现在先生不能到我军中，不过我还是有好多问题想向先生讨教，所以今天又冒昧来访了。”
房玄龄连忙请李世民进来，李世民进屋后，先向房玄龄的父亲请安，问候他的身体，然后来到厅房，对房玄龄说：“现在我们的大军面临着很多问题，不仅要确立发展的方向，而且强敌环伺，要选择先战谁后战谁。这些问题，希望先生不吝赐教。”说着，看到房玄龄手中拿着药罐，便问：“您这是要去熬药吗？让我来帮您吧！”不由分说，他便拿着药罐放到火上，利索地将药材倒进去，一边拿着扇子扇火，一边搅动着药罐里的药材说：“我在家时，母亲也时常身体不适，都是由我来为她煎药的。”
房玄龄看着李世民为自己的父亲煎药，心里不由得大受感动。他说：“将军是千金之躯，又有军机要事，怎么能浪费时间在这里帮我煎药呢？”
李世民笑着说：“我听说，你这个隰城尉不仅每天是亲奉汤药，而且三餐都是亲历亲为，昨天回去报告给我的父亲，他也大加赞赏。今天，就让我来替你做这些吧，就当是先生为我献策的报答！”
正说着，一股浓烟从火炉里窜了出来，熏到李世民的面颊，顿时让他又是咳嗽又是流泪。房玄龄看了，更加过意不去，忙夺过扇子说：“我来我来，将军快歇息一下。”李世民固执地说：“不行，今天我一定要为先生做一些事。”
接连三四天，李世民每天早上便来到房玄龄家，不仅带来了上好的药材，更亲自为房父煎药侍奉，如同对待自己的父亲一样。直到傍晚，才急忙赶回军中处理军务。房玄龄看到他每天来回奔波，甚为疲惫，心里觉得非常惭愧，又非常感动。看来自己没有看错人，李世民是真心诚意请他去效力的。
想清楚之后，房玄龄对李世民说：“将军的一番苦心，房玄龄非常明白。只是现在家父病情还不是很稳，等到他身体好转后，我一定赶到军营去投奔将军！”
李世民拉着他的手，诚恳地说：“我本来是想借这个机会，多向先生讨教一些问题。但是现在军队马上就要出发，所以我也没有时间了。您就尽心侍奉吧！只要有时间，我就会回来看您！”
李世民每日里躬亲侍奉并没有白费，感动了房玄龄。在唐军行到渭北时，房玄龄的父亲去世，他料理完后事就连夜策马赶到了军营求见李世民，从此追随在他身边，成为李世民最得力的幕僚。
房玄龄来到李世民的军中，为他提供了有力的支持。每次平定一地，别人都争求珠宝，但房玄龄却首先收罗人才，为李世民建立了智囊集团。在决定李世民生死时刻的玄武门之变中，他参与策划、实施，将李世民送上帝位。后来随侍在身边，制定典章制度，综理朝政，李世民称赞他“筹谋帷幄，定社稷之功”。房玄龄长于谋划，而杜如晦长于决断，二人一起成为良相典范，被世人称为“房谋杜断”。