在希特勒的征服计划里，向东方开拓“日耳曼生存空间”是其坚定不移的长远目标，所以或迟或早要同苏联发生直接冲突。希特勒早在1939年11月就向手下将领表示：我们在西线腾出手来的时候，才能够反对俄国。但英国在如此惨败的情况下，仍然不肯屈服，使希特勒在惊讶之余，感到麻烦。从全球战略的角度，他认为英国仍是维持世界平衡的一个重要因素，德国消灭英国的话，那是为美国和日本在流血。因此他希望能同英国签订一个和约，当然必须满足德国的条件：不干涉希特勒在欧洲大陆的“自由行动”；归还上次大战被夺去的德国殖民地。现在希特勒认定，英国人不妥协原因在于对苏联抱有希望。如果打败苏联，英国就会感到没了指望，不得不屈服于德国所希望的和约；如果打败苏联，就会大大加强日本在远东与美国抗衡的实力，英国对美国的希望也会破灭。
另外，希特勒对苏联趁德国对付英、法之际，在东面大肆扩张自己的地盘，乘机“勒索”的做法非常恼火和不安。1940年6月26日，俄国向罗马尼亚发出最后通牒，并调动部队向罗马尼亚边境集中，要求割让比萨拉比亚和贝布科维纳。前者是第一次世界大战俄国割让给罗马尼亚的，后者是罗马尼亚从前奥匈帝国夺得的领土，苏联割取它是要补偿自己领土被割让所造成的损失。1940年8月3日、5日、6日，苏联正式吞并立陶宛、拉脱维亚和爱沙尼亚三个波罗的海小国，虽然是对《凡尔赛和约》的践踏，但从另外的角度看，却是收回了第一次世界大战所失去的领土。由于西线胜负未决，希特勒只得忍气吞声，不敢说一个“不”字，为了不至于坏了眼前的事，他指示外交部长里宾特洛甫劝告罗马尼亚接受苏联的要求，最后罗马尼亚终于屈服。
苏联对罗马尼亚部分领土的吞并，使德国赖以生存的罗马尼亚油田处于苏联轰炸机的航程内，这使德国有利刃在喉之感。虽然斯大林的策略是趁希特勒西边有事，能勒索多少是多少，并不想真和德国关系破裂，但希特勒出于上面的种种考虑，决定对苏联动手了。1940年7月31日，希特勒第一次向陆军首脑们宣布了入侵苏联的决定。但此时匈牙利为夺回上次大战失去的特兰西瓦尼亚，正准备与罗马尼亚开战。希特勒为使两国在入侵苏联时充当走卒，同时也为保障罗马尼亚油田的安全，强迫匈、罗两国接受轴心国的仲裁，两国各取特兰西瓦尼亚一半。随后，德国、意大利向罗马尼亚保证其领土的完整。这就使得苏联人感到难堪，因为德国事先并未同苏联打招呼。德、苏两国的关系迅速恶化，双方在罗马尼亚、芬兰、波罗的海国家等一系列问题上互相指责。
1940年9月27日，德国、意大利、日本在柏林签订三国条约，主要针对美国，但同时也是对莫斯科的一个警告。1940年11月中旬，苏联外长莫洛托夫到达柏林，同里宾特洛甫和希特勒进行会谈，德、苏双方就未来各自的利益正式摊牌。德国希望苏联未来的扩张方向是波斯湾和阿拉伯海，甚至允诺慷慨“出让”印度，想在瓜分世界时把苏联支得远远的，但苏联对德国指定的赃物不感兴趣，却紧紧盯住芬兰、土耳其、保加利亚、罗马尼亚。莫洛托夫要求德国军队撤出芬兰，取消对罗马尼亚的领土保证，并以给保加利亚相同的保证进行威胁。希特勒拒绝了莫洛托夫的要求，警告对方不要在上述四个国家打主意，并且威胁道：假如德国想同苏联发生摩擦，用不着拿海峡问题作借口。在接下来的谈判中，里宾特洛甫要求苏联加入三国条约。莫洛托夫于10月25日正式表示，苏联政府准备加入到三国条约中来，变三国条约为四国条约，但必须满足如下条件：
⒈德军要立即从芬兰撤退，芬兰……属于苏联势力范围……
⒉在今后几个月内，苏联在海峡的安全要得到保证，办法是苏联同保加利亚缔结一项互助条约……并且苏联可以凭长期的租借权建立一个可以到达博斯普鲁斯海峡和达达尼尔海峡的陆海军基地。
⒊承认在波斯湾方向，巴统和巴库以南的地区是苏联领土要求的中心。
⒋日本放弃它在库页岛北部开采煤炭和石油的权利。
除此之外，斯大林要求缔结5个类似波兰性质的秘密协定，并提出额外要求：如果土耳其对苏联控制海峡的基地进行刁难，日、意、德、苏四国应联合对土耳其采取军事行动。这次摊牌使希特勒弄清了苏联的扩张方向也正是德国正在打主意的地区，这就更增强了他发动对苏战争的决心。12月初，希特勒批准了陆军参谋本部制订的对苏作战计划。1940年12月18日，希特勒正式发出对苏作战的第21号指令，代号为“巴巴罗莎计划”。
早在1940年10月28日，意大利的墨索里尼在事先没有同德国伙伴打招呼的情况下，突然入侵希腊。因为德国人每次行动前都不和他协商，总是事后才通知一声，这次墨索里尼也想报复一下希特勒。不到一周的时间，意大利向希腊的进军变成了一场溃败，更麻烦的是把英国军队引入了巴尔干。丘吉尔首相于1941年1月初，要求希腊政府允许英军入境，希腊总理梅塔卡斯认为，英军提供的兵力足以引来德军的入侵，而自己不足以对抗德军，因而拒绝了丘吉尔的要求。但不几天，梅塔卡斯逝世，在英国的威逼利诱下，希腊政府终于同意英军入境。丘吉尔舍弃北非战场上对意大利军队斩草除根的良机，调动北非英军主力5.3万人，于3月7日占据希腊的克里特岛。英国军队在希腊登陆使希特勒大为恐慌，因为从克里特岛英国空军基地起飞的轰炸机可以到达罗马尼亚和意大利的油田，不仅威胁到德国的生存，也打乱了希特勒进攻苏联时保证南翼的巴尔干安全的算盘。第一次世界大战时，英、法开辟萨洛尼卡战线的后果对德国来说记忆犹新。
希特勒很早就意识到希腊克里特岛上的英国空军基地对自己是个威胁，在1940年12月13日，他向三军秘密下达了占领希腊全境的第20号指令，代号为“马里塔行动”。从地理上看，德国与希腊之间隔着匈牙利、罗马尼亚、南斯拉夫、保加利亚四个国家，匈、罗两国在接受德国的领土仲裁后，已彻底沦为德国的附庸，同意德军过境。德国以希腊部分领土归保加利亚为诱饵，在同苏联争夺保加利亚的外交战中获胜，1941年2月9日，保加利亚加入三国条约，而在前一天，德国李斯特元帅同保加利亚陆军参谋本部，达成德军过境和共同进攻希腊的军事协定。对于比较倔强的南斯拉夫，德国威胁与利诱并举，用希腊的萨洛尼卡换取南斯拉夫政府在三国条约上签字。希特勒向意大利外长齐亚诺表示，只要有好天气，希腊的问题只需几天时间就可解决。
1941年3月26日，就在南斯拉夫首相和外长在三国条约上签字的第二天，南斯拉夫国内发生政变。尽管新政府愿意同德国签订互不侵犯条约，但希特勒认为这不仅是对德国的侮辱，也是对他个人的侮辱，必须立即毁灭这个国家。3月27日，希特勒召集紧急会议，声称贝尔格莱德的政变危及了“马里塔行动”，更严重危及了“巴巴罗莎计划”，他要求三军最高统帅部当晚制订入侵计划，并让外交部长通知匈、罗、保、意四国，除了建立一个小小的克罗地亚傀儡邦外，它们都可以分得一块土地。就在德国进攻南斯拉夫的前一天，4月5日，苏联为阻止德国的入侵行动，同南斯拉夫缔结了《友好互不侵犯条约》，以示同德国对抗。希特勒根本不买斯大林的账，4月6日，德国和匈、罗、保四国军队以排山倒海之势攻入南斯拉夫，4月13日，德军和匈牙利军队进入贝尔格莱德。4月18日，南斯拉夫残余部队28个师在萨拉耶伏投降。
由李斯特元帅指挥的德军第12军团在德国空军掩护下，横扫了整个希腊半岛。希腊军队虽然英勇地打败了意大利军队，但却无法抵挡德国精锐装甲部队的冲击，以及猛烈的空中打击。北部的希腊军队于4月23日向德军和意军投降。4天后，德军坦克部队开进雅典。到4月底，除克里特岛外，希腊半岛一切复归平静。英军也和希腊军队一样，被德军打得一败涂地，狼狈撤到克里特岛。5月20日，德国陆海空三军开始执行希特勒第28号指令，即所谓“水星”行动，目的是攻占克里特岛，德军共投入2.2万人的兵力，以空降兵为主要突击兵种，在该岛主要机场和港口实施登陆，德国凭借空中优势，经7昼夜激战，约5万多英军又尝了一次敦刻尔克撤退的滋味，1.2万名英军做了俘虏，德军的空降兵也付出了前所未有的代价。更为严重的是，消灭南斯拉夫的行动，客观上将入侵苏联的日期推迟了4～5周的时间，战后相当一部分史家认为，德军在1941年年底向莫斯科发动最后总攻时，若能在冬季到来前再有4～5个星期好天气的话，莫斯科定将被攻克。因此，希特勒一怒之下做出的入侵南斯拉夫的决定是其致命的大错。
德国海军元帅雷德尔曾在1940年9月极力劝说希特勒先彻底解决英国，他向希特勒指出，地中海是大英帝国的中枢，必须趁英国目前惨败之际，坚决占领直布罗陀、加里那群岛、苏伊士运河，由苏伊士运河向巴勒斯坦和叙利亚推进，到达土耳其。这样，日耳曼之剑也就抵住了苏联巨人柔软的下腹部。在北方攻打苏联似乎也就没有必要了，因为土耳其和苏联都在掌握之中了。雷德尔准确预言道：英国在美国和戴高乐将军的支持下，最后会在西北非洲获得一个立足点，作为对轴心国进行战争的一个基地。所以他劝希特勒与法国的贝当政府合作，抢占非洲的战略要地。
雷德尔这个着眼于整个世界长远的战略是切实可行的，希特勒也同意他的“总的想法”，但认为还是等先解决了苏联后，才可实施的计划。不过可先对西班牙进行外交努力。西班牙的独裁者佛朗哥是个滑头货，德国西线大胜时，他向希特勒表示要立即参战，想不花半点力气参加分赃，被希特勒婉言拒绝。1940年10月，当希特勒要求西班牙参战时，佛朗哥就殖民地瓜分和由谁来占领直布罗陀海峡与希特勒发生争执，到1941年2月底，德国入侵英国的“海狮计划”已破产，意大利在北非的军队几乎全部覆没，佛朗哥便再也不提参战的事了。佛朗哥的退缩和墨索里尼的自行其是，使地中海计划暂时泡汤，希特勒虽然感到愤怒和沮丧，但可宽慰的是，他现在能一心一意考虑对苏作战的问题了，这原本就是他首先要做的事。
希特勒想在短期内摧毁苏联的另一个原因是为了断绝美国人插手欧洲战争的念头，因为自从纳粹德国奉行扩张的外交政策以来，美国人就一直伺机干预，这使希特勒感到非常恼火。美国在第一次世界大战后，一向以远东的日本和欧洲的英国为自己未来的假想敌。自从纳粹德国重新崛起后，美国很快认识到，德国才是自己未来真正的劲敌。第二次世界大战爆发后，美国政府表面上不使自己卷入战争，而实际上，罗斯福总统出于对国家利益的长远考虑，看到了轴心国胜利后，欧洲、非洲和亚洲都处于它们统治下，美国将被打压在拉美一隅的可怕前景，罗斯福总统认为，在今天的世界上，没有比打倒希特勒更重要的事了。为了应付国内强大的孤立主义势力，罗斯福一面表示美国决不卷入战争，一面又在著名的“炉边谈话”中声称“美国处在历史上最危险的时刻，如果欧、亚、非都沦陷于轴心国，美国便生活在炮口上，而炮膛中装满了炸药，美国应该做民主世界的伟大兵工厂”。
1940年12月，焦头烂额的丘吉尔给罗斯福写信，信中说：“我们已经付出现金达45亿美元以上，现在手中所剩美元不过10亿，大部分都是投资，其中有很多很难变卖。很明显，我们不可能再这样活下去，即使把所有的黄金和国外财产都用光，也还不足以偿付我们已订购物资的一半。而战争的继续延长，将会使我们的需要增加10倍。”1941年1月10日，罗斯福总统开始实施“民主世界伟大兵工厂”计划，向国会提交了一个“租借法案”。3月8日，美国参议院以60票对31票给以通过。3月31日，罗斯福总统签署该文件，完成立法手续，并于当天宣布英国和希腊适用此项法案。4天后，又将中国包括其内。
“租借法案”的性质是只要与美国的安全和防御有关，美国总统可以不受国会的任何批准，向任何国家和地区出售、转让、交换和租借一切有关物资，他还可以为世界上任何国家制造、出售他们所需要的军用物资，总统还可根据本国安全的需要，把有关情报资料提供给有关国家。这一切都不受法律限制，这使得美国总统罗斯福拥有了史无前例的权力，并使美国与正和轴心国家交战的国家建立了事实上的同盟关系。
德国进攻苏联的“巴巴罗莎计划”的总企图是：以装甲部队为先导，实施深远的包围作战，在一次快速的打击下，歼灭部署在西部边境上的苏军主力，阻止其退往国内纵深腹地；最终在伏尔加河－阿尔汉格尔斯克一线，建立一道针对苏联亚洲部分的防线，使苏联空军不能轰炸德国本土。根据这个总企图，德军统帅部决定向北方的列宁格勒、中央的莫斯科和南面的乌克兰首府基辅同时展开进攻。在开战时，德苏双方兵力配制如下：
李布元帅的“北方集团军群”辖屈希勒的第18军团、布施的第16军团、霍普纳的第4装甲集群，共22个步兵师、3个装甲师、3个摩托化师，并得到克勒尔的第1航空大队400多架飞机的支援，由东普鲁士出发，大致沿波罗的海海岸向列宁格勒进攻。芬兰军队约16个师和德军2个步兵师、2个摩托化师在列宁格勒北面策应进攻，目标是会师列宁格勒。在面对德国方向上，苏军部署了库兹涅佐夫指挥的西北方面军，辖第8、11集团军共20个师，其中有2个坦克军。在面对芬兰的方向，部署了由波塔波夫指挥的北方方面军，辖21个师和1个步兵旅。
波克元帅的“中央集团军群”中，包括：施特劳斯的第9军团，辖霍斯的第3装甲集群（2个装甲军）；克鲁格的第4军团，辖古德里安的第2装甲集群（3个装甲军），共33个步兵师、9个装甲师、6个摩托化步兵师和1个骑兵师，并由凯塞林的第2航空队给予支援。波克集团的任务是沿“奥尔沙陆桥”向莫斯科方向进攻。苏军在这个方向上部署的是由苏军著名坦克专家巴甫洛夫指挥的西方方面军，辖第3、4、10集团军。每个集团军下面各有一个机械化军，另外还有一支由一个机械化军和一个骑兵军组成的预备队。
伦德斯特元帅的“南方集团军群”分左右两路，赖希瑙的第6军团、施蒂尔普纳格尔的第17军团、克莱斯特的第1装甲集群组成左路军，舒贝特的第11军团、罗马尼亚第3、4军团组成右路军，分别从波兰和罗马尼亚向乌克兰总方向进攻，共投入兵力为14个罗马尼亚师、41个德国师（其中有5个装甲师和3个摩托化师），并得到勒尔的第4航空队约600架飞机的支援。在波兰和罗马尼亚之间的匈牙利也将派出几个旅参战。苏军面对波兰的是基尔波诺斯的西南方面军，面对罗马尼亚的是秋列涅夫的南方方面军（不久两个方面军合并为西南方向军，布琼尼元帅任总司令）。西南方面军辖第5、6、12、26集团军，共32个步兵师、3个骑兵师、8个机械化军。南方方面军辖第9、18集团军，共13个步兵师、3个骑兵师、2个机械化军。
从德军部署来看，以普里皮亚沼泽地为界，分成南、北两个战区，“北方集团军群”和“中央集团军群”在普里皮亚沼泽地以北地区作战，“南方集团军群”在普里皮亚沼泽以南作战。德军主力在中路，配有两个装甲集群。根据“巴巴罗莎计划”的要求，中路德军沿地形开阔，又无河川障碍的“奥尔沙陆桥”推进，到达斯摩棱斯克后停止前进，两个装甲集群分别北上支援列宁格勒，和南下助攻乌克兰，等解决了列宁格勒和基辅，扫除北、南两个侧翼的威胁后，再集中全力向莫斯科发动总攻击。不过，从计划本身来看，希特勒的目标更多：军事上要歼灭苏军主力，防止其逃往腹地；经济上要夺取乌克兰的粮食、顿涅茨的煤；政治上要直捣布尔什维克的发源地列宁格勒，以及现在的首都莫斯科。至于如何安排这些目标的顺序，希特勒和他的统帅部却没有一个合理的安排，这也是德国统帅部在整个对苏战争过程中的致命伤。
从苏军兵力部署来看，苏军主力部署在普里皮亚沼泽以南，因为苏联方面估计希特勒极想夺得乌克兰产粮区、顿涅茨煤矿和高加索石油，德军的主力会部署在这个方向上，所以将国防重点放在乌克兰方面。从整个苏军在边境地区的具体部署看，既不是防御性质的，也不是进攻性质的，这种不伦不类的战略部署，恰好暴露出苏联方面在战争即将爆发时，对整个形势的判断失误。这包括斯大林一厢情愿地想拖延战争，认为德国在结束对英国的战争之前，不会冒两面作战的风险，发动对苏战争。斯大林这一合乎逻辑的推理却因希特勒的大胆妄为而成为灾难性的失误。
1941年6月22日凌晨，德国在北起波罗的海、南至黑海长达2200公里的广阔战线上，向苏联发起大规模突袭，此刻苏军最高统帅部下达的进入一级战斗准备的命令，刚刚发出3小时，连集团军级司令部都没有收到。德国空军首先出动，对苏军边境防线和纵深区域里的各种军事目标，实施了有效打击，在开战数小时内，苏联前线空军即遭瘫痪，德国空军一举夺得战场制空权。地面上，毫无防备的苏军顿时陷于一片混乱，有的部队溃散了，有的部队作顽强的孤军奋战，部队同部队之间，上级与下级之间均大部分都失去了联系，苏军最高统帅部甚至在开战初的几天里，无法得知前线的战况。个别部队虽然英勇抵抗，但仍挡不住德军凌厉的攻势。
在中路，霍斯第3装甲集群和古德里安第2装甲集群作为进攻矛头，在进攻当天即在狭窄正面贯穿了苏军防线，并以惊人速度向纵深发展。德军统帅部出现分歧，波克主张装甲部队尽可能地向深远发展，把合围点放在斯摩棱斯克，古德里安和霍斯也赞同这一主张，但希特勒没有采纳，担心包围圈太大，密度不够。他下令装甲部队在明斯克会师。6月24日，苏军西方方面军司令巴甫洛夫作出了导致惨败的决定，下令将所有集团军和方面军的预备队前调，而明斯克出现真空地带。6月26日，向苏军后方疾进的古德里安、霍斯装甲集群在明斯克会合。6月28日，德军第9军团同第4军团完成近距离会师，苏军约22个师分别被装进比亚维斯托克和诺沃格鲁多克两个“口袋”。7月3日，比亚维斯托克包围圈内的苏军投降。7月8日，德军已俘虏苏军29万人，俘获和击毁坦克2500辆、火炮1500门。被围歼的是苏军第3、4、10集团军和第11集团军之一部以及赶来增援的第13集团军大部。
在6月30日，苏军西方方面军司令巴甫洛夫和他的参谋长克利莫夫斯基被召回莫斯科，经审判被枪决。7月2日，铁木辛哥接过苏军西方方面军的指挥权，布琼尼的预备役方面军中4个集团军归其指挥，在德维纳河上游和第聂伯河上游重新构筑防线，以作莫斯科的屏障。在明斯克之战尚在进行时，德国部分装甲部队就迫不及待地开始了下一轮钳形包围攻势。7月11日，古德里安第2装甲军群出人意料地渡过第聂伯河，在奥尔沙以南、新贝霍夫以北建立起坚强的桥头堡，开始向铁木辛哥的后方斯摩棱斯克快速推进。与此同时，霍斯第3装甲集群克服了沼泽地障碍，从北面赶了上来。7月16日，两个装甲集群在斯摩棱斯克地区再次达成合围，苏军第16、第20集团军被装进“口袋”。不过，古德里安没有封住南面的一个缺口。到8月5日，斯摩棱斯克包围圈中的苏军停止最后抵抗时，苏军约30万人被俘，损失坦克3000多辆。接着德军又在罗斯拉夫围歼苏军第28集团军，随后又歼灭了新建不久的苏军中央方面军。到8月底，德军“中央集团军群”基本粉碎了白俄罗斯地区的苏军主力，俘虏约60万人，摧毁并缴获坦克5000余辆，向前推进800多公里，离莫斯科只有400公里。
在北方，霍普纳第4装甲集群中的曼斯坦因第56装甲军、莱茵哈特第41装甲军作为德军“北方集团军群”的两支攻击矛头，突破苏军防线，穿越立陶宛全境，攻入拉脱维亚。6月23日，德、苏两军在拉塞尼埃村展开大规模坦克交战，莱茵哈特第41装甲军击败苏军第3、12摩托化军共三个坦克师，苏军退出里加。6月26日，曼斯坦因第56装甲军的前锋部队伪装成苏军，混入撤退的苏军纵队，一直到达德维纳河，夺取了一个渡口，使库兹涅佐夫坚守德维纳河的希望成为泡影。苏军开始向列宁格勒方向撤退。由于苏联的欧洲部分呈漏斗形，越往东就越宽，德军攻入苏联境内，受这种地形制约，德军向列宁格勒的进攻轴心像扇子骨一样散开，兵力明显不足。加上这一地区大多是连绵的森林和沼泽地，使德军赖以取胜的装甲部队在贝帕斯湖、伊耳缅湖受到极大限制，几乎无法动弹。
7月10日，苏军最高统帅部进行改组，斯大林出任最高统帅，将西部战场划分为三个战区：西北战区、西部战区、西南战区。伏罗希洛夫为西北战区总司令，日丹诺夫为政委，包括波波夫的北方方面军和索宾尼科夫的西北方面军。7月底，芬兰部队从拉多加湖东、西两个方面向波波夫的北方方面军施加压力，苏军被迫后退130公里。德军虽然取得初期的胜利，但由于补给困难、地形恶劣，步兵远远落在后面，致使在边境地区被击败的苏军第8、11、27集团军的大部得以逃脱，苏军西北方面军建制上完整无损，只是丢弃了许多重型装备，暂时失去了大片领土。如果西北方面军死守边境地区，其下场也就和巴甫洛夫的西方方面军一样悲惨了。德军在这一地区实际上打了一场击溃战，在8月，他们像蜗牛一样向列宁格勒缓慢爬去。而苏军的全部兵力都向列宁格勒收缩，加强了该城的防守力量。同时，苏方几乎每天动员近50万人构筑列宁格勒的防御工事，为后来保卫战的胜利奠定了基础。总之，由于德军统帅部忽视了地形和空间的因素，德军对波罗的海地区的闪击战最终失败了。
在南方，德军原打算从波兰和罗马尼亚同时出动，两路夹击乌克兰地区的苏联西南方面军，但开战时，担心苏联会对罗马尼亚普罗耶什蒂油田实施打击，因而采取从波兰单边一路迂回。克莱斯特第1装甲集群充当德军“南方集团军群”进攻矛头，于6月23日，开始同苏军第22、9、19机械化军交战。由于苏军坦克部队是刚刚仓促拼凑的，没有经过良好训练，更谈不上什么战斗经验，除了在番号上能唬唬人，实际上不堪一击。克莱斯特击败苏军3个机械化军后，继续向纵深挺进，威胁苏军第6、26、12集团军退路，7月1日，罗马尼亚军和德军第11军团渡过普鲁斯特河，向德涅斯特河前进，使苏军处境岌岌可危。6月30日，莫斯科指示西南方面军司令员基尔波诺斯下达全线撤退令，苏军抛弃重装备，迅速退守1938年的旧边境上。
7月8日，克莱斯特突破旧边境防线，于第二天占领日托米尔。但基尔波诺斯并不那么好对付，7月10日，原先退往北面普里皮亚沼泽边缘的波塔波夫第5集团军会同其他部队，向克莱斯特的侧后发起进攻，暂时切断其供应线。在上次撤退时，第5集团军曾在沼泽地打了一次漂亮的胜仗。现在，赖希瑙第6军团不得不将波塔波夫赶回沼泽地。后来，波塔波夫始终保持着对德军侧翼的威胁，使第6军团无法执行支援装甲部队和巩固战果的双重任务，让希特勒和其统帅部伤透了脑筋。经过一番苦斗，德军终于兵临基辅，似乎该城唾手可得。由于基辅是一个吸引苏军留在乌克兰的诱饵，所以希特勒下令暂缓攻城。战至8月2日，克莱斯特装甲集群向乌曼迂回成功，苏军第6、12集团军有20个师被包围在乌曼。8月8日，乌曼会战结束，德军俘获2个集团军司令和7个军部，共10.3万人、300多辆坦克、800多门火炮。
乌曼会战的胜利使德军“南方集团军群”打开了局面。苏军秋列涅夫的南方方面军残部陷于黑海海岸和罗马尼亚边界的大突出部上，有被来自北面德军彻底切断的危险，于是南方方面军留下一个滨海集团军守卫奥德萨，其余迅速东撤。这时，西南方面军虽得到第26、第37、第38三个集团军的加强，但处境已很不妙了，德军“中央集团军群”的古德里安第2装甲集群和德军“南方集团军群”的克莱斯特第1装甲集群已在北、南两个方向威胁基辅地区的苏军西南方面军。
此刻，德国最高统帅部和高级将领之间，也陷入先夺取莫斯科还是先夺基辅的争执中。勃劳希契、哈尔德、波克、古德里安、霍斯等将领主张进攻莫斯科，先打掉这个巨人的脑袋再图其余。但希特勒认为这些将领们对战争的经济学一窍不通。这个思路多变、兴趣捉摸不定的元首此时已把他的眼光紧紧盯在了乌克兰的粮食、顿涅茨的煤、高加索的石油，以及克里米亚半岛对方轰炸机基地上了。他决定把“中央集团军群”中的魏克斯第2军团、古德里安第2装甲集群调往乌克兰作战。与此同时，苏军最高统帅部对下一步如何行动也出现分歧。7月30日，苏军参谋总长朱可夫通过对德军装甲部队和摩托化部队位置和部署状况的分析，得出德军下一步将暂缓莫斯科方向的进攻，转向西南方面军后方突击的结论。他向斯大林建议西南方面军放弃基辅，撤过第聂伯河一线，被斯大林斥责为“胡说八道”。朱可夫感情冲动地回答，如果他认为参谋总长只会胡说八道，就应该将其撤职。斯大林果然解除其参谋总长的职务，调往预备队方面任职，由生病的沙波什尼科夫接替朱可夫。
8月14日，苏军第50、13两个集团军仓促组成布良斯克方面军，叶廖缅科任司令员，负责打击南下德军的东侧翼，以保障西南方面军后方的安全。8月19日，波波夫的第5集团军在德军第6军团的强大压力下，退到第聂伯河一线，苏军最高统帅部命令不惜一切代价死守基辅和第聂伯河一线。8月25日，德军第2军团和第2装甲集群开始强渡杰斯纳河，古德里安的装甲部队迅速冲垮了布良斯克方面军的拦截（叶廖缅科曾向斯大林保证击溃古德里安），向西南方面军后方深深插去。与此同时，南面克莱斯特的装甲部队在克列缅丘克渡过第聂伯河开始北上。这样，德军两支装甲部队在西南方面军空虚的后方，形成了不可阻挡的对进势态。
西南方向军司令员布琼尼和基尔波诺斯冷静分析了形势，鉴于古德里安的装甲集群已贯穿后方（尚未和北上的克莱斯特会师），于9月11日向最高统帅部要求放弃基辅，全军向东退却，但被斯大林和沙波什尼科夫拒绝。显然，莫斯科方面还不知大祸即将临头。9月13日，布琼尼被撤职调往预备队方面军，铁木辛哥接替西南方向的指挥权。9月14日，对于苏军是个不祥的日子，古德里安第2装甲集群和克莱斯特第1装甲集群在基辅以东的深远后方240公里处的洛赫维察会师。苏联最强大的重兵集团——庞大的西南方面军全部被装进“巨型口袋”。9月17日，莫斯科最高统帅部终于下令向东退却，但为时已晚。9月16日至26日，基辅包围圈成为一口“沸腾的大锅”，直到最后一批苏军停止抵抗才平息下来。苏军第5、21、26、37集团军的大部和第40、38集团军的一部被歼，基尔波诺斯和他的政委布尔米斯坚科、参谋长图皮科夫均战死。德军俘获苏军66.5万人，缴获坦克824辆、火炮3018门。除了少数部队突围外，西南方面军基本被歼。
基辅会战是世界战争史上规模最大的一次合围战，它无疑是德军战术上的巨大胜利，但同时也是战略上的重大失误，因为它客观上延误了向莫斯科的进军。1941年9月30日，德军根据希特勒第35号指令，即“台风计划”，重新开始了向莫斯科方向进攻。由于德军兵力已感不足，故而分别从“北方集团军群”调出霍普纳第4装甲集群（欠一个装甲军），从“南方集团军群”调出一个装甲军，以加强进攻莫斯科的“中央集团军群”的实力。德军的部署是：施特劳斯第9军团和莱茵哈特第3装甲集群从北面包围莫斯科，克鲁格第4军团和霍普纳第4装甲集群（接管了古德里安的一个装甲军）在中间正面进攻，魏克斯第2军团和古德里安第2装甲集群（接管了克莱斯特的一个装甲军）从南面迂回包围莫斯科。此时集结在莫斯科西面维亚兹马防御地区的西方方面军约有100个师，在南面的还有布良斯克方面军的两个集团军。
古德里安在南面首先拉开了向莫斯科总攻的序幕，他与魏克斯配合，快速迂回，将布良斯克方面军合围，在10月25日将其大部歼灭。古德里安在南面发动打击的第6天，10月4日，莱茵哈特和霍普纳装甲部队在正面突贯苏军防线，10月6日，德军的装甲集群升格为装甲军团。同一天，苏军以复杂的变更部署的办法实施撤退，终于铸成大错。10月7日，快速推进的德军装甲部队顺利会师，将苏军科涅夫指挥的西方方面军第19、20、24、32集团军和博尔金的预备队包围在维亚兹马以西地区，经一个星期的抵抗，包围圈里的苏军便缴械投降。苏军至少有45个师被歼，被俘不下65万人，俘获坦克1242辆、火炮5412门。中路德军已前出到莫则斯克，距莫斯科104公里。
为挽救危局，斯大林把朱可夫从列宁格勒调回，负责莫斯科的防御。10月10日，朱可夫接管西方方面军和预备役方面军时，所能收集到的兵力不过9万人。然而，10月中旬天气突然变坏，大雨和初次降雪使道路变得泥泞，装甲机动车辆陷在泥浆中难以动弹，后勤补给和人员补充开始发生严重困难。古德里安在莫斯科南面的迂回，首先受阻于图拉，接着在整个环绕莫斯科长达近1000公里的半圆形进攻线上，德军的攻势迅速减弱。由于以往取胜的法宝——装甲机动性消融在一片泥泞中，德军只能依靠步兵向莫斯科挣扎前进。在11月到12月里，苏军通过新建、重组、增援等手段，使莫斯科防线上的兵力得到迅速加强。在莫斯科后方新成立9个集团军，其中2个集团军和3个集团军之部分到达莫斯科前线，训练有素、配有良好冬季作战装备的西伯利亚部队也加入了首都保卫战的序列。
泥泞过后是严冬的提前降临，气温急剧下降，毫无冬季作战准备的德军顿时陷于瘫痪，汽油被冻结，坦克不能发动，冬装堆积在遥远的斯摩棱斯克，无法运到前线，德军部队大量减员，一个连往往只有二三十人。尽管如此，德军还是硬着头皮向莫斯科缓慢进击。11月16日，德军在零下8度的气温下对莫斯科展开总攻。11月28日，北翼的霍斯第3装甲军团和霍普纳第4装甲军团奋力挣扎，进到莫斯科近郊14公里处，克里姆林宫尖塔遥遥在望，但在弗拉索夫第20集团军、库兹涅佐夫第1突击集团军、列柳申科第30集团军、罗柯索夫斯基第16集团军的坚强阻击下，再也没有前进。12月2日，克鲁格第4军团在中路向莫斯科发动正面冲击，德军第258步兵师一个营已突入莫斯科郊区希姆基，被从工厂里涌出的手持工具的工人们赶了回来，莫斯科郊外的森林地形使德军的进攻受到很大限制。波克将“最后一个营投入战斗”后，无可奈何地打电话给哈尔德，说他已经到了山穷水尽的地步，哈尔德却在温暖的参谋本部极力给波克打气。12月5日，南翼的古德里安第2装甲军团在零下62度（一说为零下52度）的气温下，向图拉做了最后一次进攻，被博尔金的第50集团军和扎哈尔金的第49集团军击退。这时，苏军从后方开来的第26、10、61集团军已接近古德里安的侧翼，威胁其退路。第二天，朱可夫命令莫斯科防线上的苏军，发起全面反攻。
德军的挫折首先出现在南面的罗斯托夫。基辅会战结束后，德军“南方集团军群”抽出部分精锐部队，支援中路集团军进攻莫斯科后，便打算经顿涅茨盆地向遥远的高加索前进，那里石油的气味很吸引希特勒。这时伦德斯特共有40个师，其战斗序列中的曼斯坦因第11军团、罗马尼亚第3军团已陷在克里米亚不能脱身；霍斯第17军团在中间，向北顿涅茨河进军；南翼的克莱斯特第1装甲军团沿黑海北岸，朝米乌斯河挺进；北翼的赖希瑙第6军团向哈尔科夫推进，并尽可能与中央集团的魏克斯第2军团保持联系，后者则掩护着向莫斯科南面迂回的古德里安第2装甲军团的右翼。10月中旬，天气连降暴雨，德军进攻开始减缓，到了10月底，德军勉强攻占塔甘罗格、哈尔科夫，锋芒下指高加索门户罗斯托夫。苏军铁木辛哥的西南方面军和切列维钦科的南方方面军，按莫斯科的命令步步后撤。伦德斯特判断，苏军后撤是为了增援莫斯科方面的防御，下令全线追击。这时严寒已来临，后勤补给严重地影响了德军的前进，克莱斯特第1装甲军团实际上已成为一支马车队。11月20日，在零下20度的严寒下，德军勉强攻占罗斯托夫。
但差不多同时，苏军也发起反攻，苏军南方方面军向克莱斯特装甲军团后方运动，为避免被包围，德军于11月28日，放弃刚到手的罗斯托夫。伦德斯特明智地下令全军一举撤到米乌斯河上，与苏军迅速脱离接触，但希特勒于11月30日下令停止撤退，到达米乌斯河的部队又重新掉头东返，秩序一片混乱。伦德斯特立即提出辞职，希特勒马上照准，并让赖希瑙接任“南方集团军群”司令。希特勒固执地要在米乌斯河前面10公里建立一道中间阵地，德军前线将领感到不可思议：为何要计较这10公里地盘而置部队于危险不顾？12月1日，赖希瑙上任第一天就电告希特勒：苏军已突破中间阵地，请求立即撤到米乌斯河一线。希特勒马上照准。参谋总长哈尔德悔恨道：“我们到达了昨晚已到达的地方，可是我们损耗了精力和时间，也失去了伦德斯特。”
德军“南方集团军群”在罗斯托夫受挫，李布元帅指挥的“北方集团军群”则在提赫文地区碰壁。原先李布向希特勒建议，利用秋季良好的天气，扩大在拉多加湖南岸的地盘，但希特勒又被经济问题所吸引，命令李布夺取提赫文的铝土矿产区。11月8日，德军布施第16军团的一个装甲军和一个步兵军击败苏军第4集团军，攻占了提赫文并威胁到与芬兰人对峙的苏军第7独立集团军的后方。苏军用改组前线指挥机构的独特办法来应付这一危机，调集第4、52、54集团军，由梅列茨科夫负责指挥。从11月11日开始，向德军发动一连串的反攻，李布使出浑身解数却再也不能前进一步了，很快被迫撤出提赫文。11月18日，拉多加湖全部封冻，4天后，苏军第一批卡车队越过冰冻的湖面，到达列宁格勒，这使列宁格勒因饥饿而沦陷的可能变得十分渺茫。
苏军在莫斯科方面的反攻最见成效，差点导致德军“中央集团军群”的毁灭。12月8日，希特勒被迫同意放弃攻势，但“中央集团军群”却陷入进不能攻、退不能守、原地又站不住的困境。波克提请希特勒注意，必须在攻和守之间择其一。如果继续进攻必须冒全军覆没的危险；如果守的话，那么无论现在的阵地上还是后方，都没有构筑任何防御工事。希特勒汲取了拿破仑在没有彻底摆脱对方的情况下实施撤退，最后酿成全军溃散的历史教训，于12月16日严令德军坚守前方阵地，不许作任何撤退，即使苏军已威胁侧翼和后方也不准撤退。这条命令事后来看确实拯救了“中央集团军群”免于崩溃，但也过于苛刻，因为即使是短距离的、必要的战术性撤退也不准。在以后几个月的防御战中，许多前线将领因坚持做必要的战术性退却，被希特勒免职。其中有勃劳希契元帅、波克元帅、伦德斯特元帅、李布元帅、屈希勒元帅、古德里安上将、霍普纳上将。12月19日，希特勒自任德军陆军总司令，他对哈尔德说，指挥作战这点小事谁都可以干，真正需要的是政治觉悟和决心。
苏军在莫斯科防线上的反攻于12月5日夜间开始，科涅夫的加里宁方面军越过冰封的伏尔加河上游攻击德军第9军团的后方，第二天，朱可夫的西方方面军向德军第3、4、2装甲军团发起攻击，在达成突破后，迅速向纵深发展。德军不顾希特勒坚守原来阵地的命令，丢弃大批重武器装备和无法运走的物资，踉跄后退，苏军俘获甚丰。苏军整个反攻态势是：科涅夫在右路从加里宁向斯摩棱斯克方向前进；朱可夫的西方方面军分南、北两翼在左路，同紧贴着德军古德里安装甲军团的布良斯克方面军携手走一条弧线，经维亚兹马向斯摩棱斯克进击，企图将德军“中央集团军群”包围在从莫斯科到斯摩棱斯克纵深约320多公里的“口袋”中；库罗奇金的西北方面军掩护着科涅夫的北面，大致沿德军“北方集团军群”和“中央集团军群”的分界线进攻。从战后来看，苏军最高统帅部的胃口太大了些。
到了1942年1月底，苏军左右两路已深入德军后方，莫德尔第9军团和鲁奥夫第4装甲军团深陷在即将封闭的包围圈内。这时苏军离出发基地已超过200多公里，后勤补给的困难暴露无遗，攻势锐减，无力在斯摩棱斯克附近地区扎上口袋嘴。苏军第1近卫骑兵军、叶夫列莫夫的第33集团军以及一些空降部队曾差点在维亚兹马以南封闭口袋嘴，由于苏军统帅部过早地撤走库兹涅佐夫第1突击集团军和罗柯索夫斯基第16集团军去增援南北两翼，使得向西进攻的弗拉索夫第20集团军攻势减弱，结果包围圈里的德军抽出兵力与包围圈外的部队联合行动，反把“袋口”附近的苏军第33集团军之一部、第1近卫骑兵军、第4空降军之一部和部分游击队包围起来，并于同年3月初将其歼灭。3月末，苏军加里宁方面军和西方方面军再次发动进攻，试图包围德军“中央集团军群”，但这时因春季道路泥泞，补给运输困难，加之部队筋疲力尽，苏军在莫斯科以西的反攻已变得有气无力。几天后，即4月初，苏军的攻势就停了下来。苏德战场暂时平静了下来。