山海关失守标志着日军侵犯关内的开始。但日军并没有从山海关一路进军平津的计划，而准备以主力侵入热河。热河山峦起伏，易守难攻，既是北平的屏障，也是东北义勇军出没的基地，因此日军势在必得。日本政府公然宣布热河是“满洲国”的一个省，进攻热河是“满洲国”的警察行为，中国与国联无权过问。
自“九一八”事变后，东北军在抗日问题上一直未能有良好表现。他们的痛苦是双重的，不仅失去了故乡和亲人，还成了被耻笑、辱羞的对象。平津、河北成了他们的寄居之地，张学良也从陆海空军副总司令降成了北平军分会主任。当日军在华北开始新的侵略时，蒋介石还在江西南昌指挥大军进攻苏区，只派了财政部长宋子文前去北平，表示南京政府将在财政上与军事上支持东北军在热河抗战，张学良与宋子文还共同视察了热河防务。
热河的危机引起了全国民众的关注，东北民众抗日救国会代表杜重远与上海地方协会代表黄炎培赶到北平，代表东北和上海的抗日团体与北平等地抗日团体合作，组织了东北热河后援协会，由朱庆澜出任会长。协会支持东北军在热河抗日，同意将接受该会领导的义勇军交与政府指挥。决心雪洗“不抵抗将军”耻辱的张学良十分重视热河的防守，他将长城以南的东北军编成两个集团军，第一集团军总司令由自己兼任，令第四军团万福麟部约4万人进入热河布防，其余3个军团守卫北平、天津及河北各地。
第二集团军由东北军老将张作相任总司令，汤玉麟任副总司令，统率东北军及热河驻军共约4万人，在热河的东北义勇军约5万人也归第二集团军指挥。但张作相仓促组成司令部后很快便发现他的部下各行其是，谁也指挥不动。
长期统治热河的省主席汤玉麟是影响这场战事的关键人物。他是张作霖的盟兄弟，也是张学良的父辈，张学良对他难以指挥。这个老军阀将热河看成自己的私产，长期横征暴敛，他对老百姓预征的租税已经收到30年以后。民众在隆冬三九的季节多数都糊不成窗纸，完不了税的人怕吊打、坐牢，便将地契文书贴在门窗或树上向四方逃荒而去。汤玉麟的手下将领也是吸毒贩毒，侵吞军饷，无所不为。因此热河民众对汤玉麟及其政府怨恨极深，部下官兵也军心涣散。
2月21日，日军第六、第八等师团分三路进攻热河，日军人数远不及守军，但在坦克、大炮和飞机掩护下，给中国军队造成很大伤亡，日军很快占领了开鲁、凌源、朝阳等要地，万福麟、汤玉麟及孙殿英等部的防守阵地纷纷被攻破。汤玉麟的部下如旅长崔兴武、团长邵本良等甚至率部投降日军，其他部队也因闹饷不听从张作相的调遣。只几天时间，数十万热河守军完全失去作战能力，孙殿英率部远退察哈尔东部，万福麟部撤向长城各口，坐镇指挥的张作相束手无策，只能坐在司令部里暗自流泪。
留在省会承德的汤玉麟闻知前线作战不利，竟于3月1日开始扣留前线所用军用汽车抢运私产向天津租界日夜输送，前线官兵闻讯士气更为低落。4日黎明，汤玉麟弃守承德。日军长驱直入，日军第八师团128人的先遣队如同行军一般轻松地进入承德。
热河地势险要，又有数十万大军防守，但在10多天时间内竟全部丢失，令全国朝野上下为之震骇。中国出席国联会议的代表颜惠庆、顾维钧等愤而辞职。靠近前线的平津民众更是惊骇莫名，中国在军队与政治上的腐败落伍再次暴露。天津《益世报》评论道：在热河，“中国人不只武力打了个大败仗，全国4万万人在精神上亦打了个大败仗”。
朝野各方均纷纷要求惩处前线丧师失地的将领，华北主帅张学良再次成为舆论的众矢之的，蒋介石也备感全国舆论的压力，国民政府遂下令将汤玉麟撤职缉拿。蒋介石为稳定北方大局，只得离开“剿共”前线乘火车北上保定。在车站他与应召前来的张学良会晤，他说：“现在全国舆论沸腾，攻击我们两人。我与你同舟共命，若不先下去一人，以息全国愤怒的浪潮，难免同遭灭顶。”颜面已失的张学良决意承担责任辞职，将东北军交与于学忠、万福麟等统帅，自己交出权柄后，于4月11日离开上海赴海外游历。