练好内功、平定南方之后，诸葛亮就开始了北向伐魏大业。公元227年三月，诸葛亮向刘禅上了一道堪称千古奇文的《出师表》，表达了统一天下、恢复汉朝的愿望，随后便率部前往汉中。
此次诸葛亮北伐的目的地是陇右，陇右远离汉中，在中国战争史上有着相当重要的地位，因为这里人种彪悍，马匹强壮。战国时，秦国骑兵的战马有五分之一出自陇右，秦帝国正是有了陇右骑兵，才能轻松向西拓展领地；西楚霸王项羽得到精锐的陇右骑兵，创下了三万人马杀退几十万汉军联军的奇迹；汉帝国从这里出征西域，征服国家无数。
掌握陇右，在冷兵器时代，就代表掌握了强大的战斗力。不过，诸葛亮没有将矛头直指陇右，他先派赵云、邓芝为疑兵，虚张声势要从斜谷攻打长安。魏国果然中计，调派大将军曹真率兵进驻郿县，以拒蜀军。将魏国部队调开后，诸葛亮亲自率领主力出了祁山。
魏国只知道蜀国有个刘备，自从刘备去世后，就认为蜀汉无人，不甚提防，所以关陇一带兵力薄弱，防范不严。诸葛亮的十万精锐部队像下山的猛虎一样，气势逼人，天水、南安、安定三郡不战而降。魏国上下惊动，这才明白诸葛亮的真实意图，火速派出名震天下的大将张郃直扑陇右。当时曹魏的皇帝曹睿自己也移驾长安，一副兵来将挡、水来土掩的拼命态势。
诸葛亮来到陇西城下，陇西坚守不降，太守在楼上喊话：“你们如果能够阻住援军，断绝陇道一个月，那么就可以兵不血刃地拿下这里。否则，别看你们来势汹汹，最终也只能劳民伤财，前功尽弃。”陇西太守的话点明了此战的关键，城墙坚固，攻不得开，唯一的方法就是截住魏国援军，断绝陇西粮道。街亭是魏军增援的必经之路，将要在这里展开的蜀魏第一场遭遇战就成为决定胜负的一战。
同样，选择谁来对决张郃，便成为重中之重的选择。当时，大家都认为应该派魏延或吴懿这样有经验的大将出战街亭。魏延是刘备看好的战将，吴懿是当时的国舅，但诸葛亮排除众议，选择了马谡。马谡是马良的弟弟，马良兄弟五人个个都是人才，马良与诸葛亮私交极好，他阵亡后，诸葛亮对马谡也非常照顾。据《三国志》记载，马谡才气过人，熟读兵书，好论军计。诸葛亮对他很是器重，常常把他叫过来谈话，一谈就是一整天。马谡对事物确实有过人的见解，比如诸葛亮征南中的时候，马谡就建议他“攻心为上，攻城为下”，诸葛亮采纳了马谡的建议，七擒七纵孟获，平定南中。三国时对将领的破格提拔屡见不鲜，所以大家虽然对马谡守街亭有异议，也只好保留在心里了。
临行前，诸葛亮再三叮嘱马谡，街亭虽小，却关系重大，它是通往汉中的咽喉。如果失去街亭，蜀军必败，还指示他要靠山近水安营扎寨。
马谡到达街亭后，不按诸葛亮的指令依山傍水部署兵力，却要把大军驻扎在远离水源的街亭山上。副将王平提出反对意见：“山上远离水源，如果魏军将山围住，切断水源，断绝粮道，我军就会不战而败。”王平是从军中摸爬滚打长大的，人非常有悟性，却不识字。马谡自恃熟读兵书，没将文盲王平的话放在心中。他踌躇满志地说：“居高临下，势如破竹，置之死地而后生，这都是兵家常识。我将大军布于山上，使之绝无反顾，这正是制胜之秘诀。”王平再劝也无济于事，只好眼睁睁地看着他将大军带到山上。
张郃率五万部队来到街亭，侦察到马谡舍水上山，心中大喜，立即挥兵切断水源，掐断粮道，将马谡围困于山上，然后纵火烧山。蜀军饥渴难忍，军心涣散，又见四处起火，不战自乱。张郃趁势进攻，蜀军大败。马谡见街亭失守，知道闯了大祸，都不敢回去见诸葛亮，连夜逃回成都。
听说街亭失守，诸葛亮顿时就颓然了：失去这么个屏障和前锋部队，自己已经不是张郃五万精兵的对手，而魏国的援军正在源源不绝地赶来。无奈之下，他只好迁了陇西城附近一千多户百姓退回了汉中。
在诸葛亮的历次北伐中，第一次是最有可能成功的一次。刘备去世后，魏国对蜀汉疏于防守，陇右一带没有战备，诸葛亮出祁山，曹魏举国震惊，三郡不战而降就是证据。就连魏国陇西太守都认为，如果一个月内援军不来，用不着诸葛亮来打，城内人饿也饿死了。遗憾的是，在这么有利的情况下，胜利却与蜀汉擦身而过。此后，更是渐行渐远。
诸葛亮兵败之后，不战而降的三个郡又回到了魏国的手里，只有一个参军姜维投降了诸葛亮。经此之战后，魏国惊异地发现，他们向来轻视的蜀汉居然还有如此大的野心和能量，从此便派大将军曹真常驻长安，专门对付西蜀部队。曹真认为诸葛亮此次受挫于祁山，下次必定会从散关攻打陈仓，于是命令将军郝昭进驻陈仓。从此，雍凉从软豆腐变成了硬骨头，诸葛亮的后几次北伐都被硬生生地挡了回来。
胜利曾经离诸葛亮如此之近，却飘忽远去，缥缈难寻。而这一切，都是因为错用了纸上谈兵的马谡。
回到成都，诸葛亮总结此战失利的教训，痛心地说：“用马谡错矣。”为了严明军纪，诸葛亮下令将马谡革职入狱，斩首示众。马谡在狱中给诸葛亮写信说：“丞相待我亲如子，我待丞相敬如父。这次我违背节度，招致兵败，军令难容，丞相将我斩首，以诫后人，我罪有应得，死而无怨。只是恳求丞相以后能照顾好我的一家妻儿老小，这样我死后也就放心了。”诸葛亮看完信后，老泪纵横，要斩杀自己向来器重的将领，确实让人心痛难忍，但若违背军法，免他一死，又将失去众人的心，统一天下的宏愿就更难实现了。于是他强忍悲痛，答应将马谡的儿子收为义子，让马谡放心，而后斩杀了马谡。
杀马谡之后，诸葛亮又上书朝廷，要求处分自己，刘禅便将诸葛亮降为右将军，但是依然行丞相事。诸葛亮又上了一道《街亭自贬疏》，其实就是检讨书。在疏中，诸葛亮承担了全部责任，并指出问题的关键是自己用人错误。此外，他还建立了问责制度，规定以后但凡打了败仗，主帅都要承担领导责任。以后数次北伐，诸葛亮都亲临前线，坐镇指挥。可见诸葛亮不是走过场，他是切切实实地认错、改错。从这一点来说，他和曹操都做得非常好。
在这次战争中，王平能够始终坚持正确意见，并在战乱中将自己的一支人马完好地带了回来，成为唯一没有受处分，反而受到奖励的将领。
马谡被杀之后，蒋琬到了汉中，蒋琬对诸葛亮说：“天下未定而戮智计之士，岂不惜乎！”天下还没有安定，现在正是用人才的时候，把这样一个难得的人才杀了，难道不可惜吗？诸葛亮又一次痛心地泪流满面：“四海分裂，兵戈方始。若复废法，何用讨贼？”现在天下大乱，四海分裂，战争才刚刚开始，在这种情况下如果废弃军法，我们又凭借什么去战胜敌人呢？
杀马谡绝不是诸葛亮的本意。马谡既是人才，又有威望，马谡被斩的时候，十万将士为之流泪。然而诸葛亮为了大局，为了蜀汉的安定团结，不得不严格地实施依法治国，不得不杀掉自己的爱将。
马谡熟读兵书，纸上谈兵，头头是道，然而一旦真的打起仗来，就不灵了。街亭一战，全军覆没，马谡骄傲自大，听不进别人的正确意见固然是街亭失守的重要原因，然而另一个原因，则在于他打起仗来不从实际出发，将书本上个别教条生吞活剥，乱用一气。
在运用书本知识的时候，必须随时注意客观事物的发展和变化，从而根据新的情况，制定出合适的行动方针。兵法上的“凭高视下，势如劈竹”，“置之死地而后生”，是一定具体经验的概括和总结，只能借鉴，不能生搬硬套。马谡却将实际情况和书本知识割裂开来，不分时间、地点和条件，死抱住这两句话不放，结果势如破竹变成四面受敌，把士兵置之死地成了把士兵引向绝境，从而导致街亭失守、自己被斩的悲剧。