北宋灭亡以后，原来留在相州的康王赵构逃到南京（今河南商丘）。公元１１２７年五月，赵构在南京即位，这就是宋高宗。这个偏安的宋王朝，后来定都临安（今浙江杭州），历史上称做南宋。
宋高宗即位以后，在舆论的压力下，不得不把李纲召回朝廷，担任宰相。但是实际上他信任的却是黄潜善和汪伯彦两个亲信。
李纲提出许多抗金的主张。他还跟宋高宗说：“要收复东京，非用宗泽不可。”
宗泽是一位坚决抗金的将领，北宋灭亡之前，宋钦宗曾经派他当和议使，到金京议和。
宗泽跟人说：“我这次出使，不打算活着回来。如果金人肯退兵就好；要不然，我就跟他们争到底。宁肯丢脑袋，也不让国家蒙受耻辱。”
宋钦宗一听宗泽口气那么硬，怕他妨碍和谈，就撤了他和议使的职务，派他到磁州去当地方官。
金兵第二次攻打东京的时候，宗泽领兵打击金兵，一连打了十三次胜仗，形势很好。他写信给当时的康王赵构，要求他召集各路将领，会师东京；又写信给三个将领，要他们联合行动，救援京城。哪知道那些将领不但不愿出兵，反嘲笑宗泽在说疯话。宗泽没办法，只好单独带兵作战。有一次，他率领的宋军遭到金军的包围，金军的兵力比宋军大十倍。宗泽对将士说：“今天进也是死，退也是死，我们一定要从死里杀出一条生路来。”将士们受到他的激励，以一当百，英勇作战，果然杀退了金军。
宋高宗早就了解宗泽的勇敢，这次听了李纲的推荐，就派宗泽为开封府知府。
这时候，金兵虽然已经撤出开封，但是开封城经过两次大战，城墙全部被破坏了。百姓和兵士混杂居住；再加上靠近黄河，金兵经常在北岸活动。开封城里人心惶惶，社会秩序很乱。
宗泽在军民中有很大的威望。他一到开封，先下了一道命令：“凡是抢劫居民财物的，一律按军法严办。”命令一下去，城里仍旧发生了几起抢劫案件。宗泽杀了几个抢劫犯，秩序就渐渐安定了下来。
河北人民忍受不了金兵的掠夺烧杀，纷纷组织义军，打击金军。李纲竭力主张依靠义军力量，组织新的抗金队伍。宗泽到了开封之后，积极联络义军。河北各地义军听到宗泽的威名，自愿接受他的指挥。
河东有个义军首领王善，聚集了七十万人马，想袭击开封。宗泽得知这个消息，单身骑马去见王善。他流着眼泪对王善说：“现在正是国家危急的时候，如果有像您这样的几个英雄，同心协力抗战，金人还敢侵犯我们吗？”
王善被他说得流下了感动的眼泪，说：“愿听宗公指挥。”
其他义军像杨进、王再兴、李贵、王大郎，都有人马几万到几十万。宗泽也派人去联络，说服他们团结一致，共同抗金。这样一来，开封城的外围防御巩固了，城里人心安定，存粮充足，物价稳定，恢复了大乱前的局面。
但是，就在宗泽准备北上恢复中原的时刻，宋高宗和黄潜善、汪伯彦却嫌南京不安全，准备继续南逃。李纲因反对南逃，被宋高宗撤了职。
宗泽十分焦急，亲自渡过黄河，约河北各路义军将领共同抗击金兵。他在开封周围，修筑二十四座堡垒，沿着黄河设立营寨，互相连接，密集得像鱼鳞一样，叫做“连珠寨”，加上河东、河北各地义军民兵互相呼应，宋军的防御力量，越来越强了。
宗泽一再上奏章，要求高宗回到开封，主持抗金。但是奏章到了黄潜善等手里，这批奸人竟取笑宗泽是个狂人，把他的奏章扣了下来。过了不久，宋高宗就从南京逃到扬州去了。
没有多久，金兵果然又分路大举进攻。金太宗派大将兀术（音ｗùｚｈú，又叫宗弼）进攻开封，宗泽事先派部将分别驻守洛阳和郑州。兀术带兵接近开封的时候，宗泽派出几千精兵，绕到敌人后方，截断敌人退路，然后又和伏兵前后夹击，把兀术打得狼狈逃走。
又有一次，金将宗翰率领金兵攻占洛阳，宗泽派部将郭振民、李景良带兵袭击宗翰，打了败仗。郭振民向金军投降，李景良畏罪逃走。
宗泽派兵捉拿到李景良，责备他说：“打仗失败，本来可以原谅；现在你私自逃走，就是目中没有主将了。”说完，下令把李景良推出斩首。
郭振民向金军投降之后，宗翰派了一名金将跟郭振民一起到开封，劝宗泽投降。宗泽在开封府大堂接见他们，对郭振民说：“你如果在阵上战死，算得上一个忠义的鬼。现在你投降做了叛徒，居然还有什么脸来见我！”说着，喝令兵士把郭振民也斩了。
宗泽又回过头对劝降的金将冷笑一声，说：“我守住这座城，早准备跟你们拼命。你是金朝将领，没能耐在战场上打仗，却想用花言巧语来诱骗我！”
金将吓得面无人色，只听得宗泽吆喝一声，几个兵士上来，把金将也拉下去杀了。
宗泽一连杀了三人，表示了抗金的坚定决心，大大激励了宋军士气。他号令严明，指挥灵活，接连多次打败金兵，威名越来越大。金军将士对宗泽又害怕，又钦佩，提到宗泽，都把他称做宗爷爷。
宗泽依靠河北义军，聚兵积粮，认为完全有力量收复中原，接连写了二十几道奏章，请高宗回到开封。不用说，那些奏章都被黄潜善他们搁了起来。
这时候，宗泽已经是快七十岁的老人了，他受不了这个气，背上发毒疮病倒了。部下一些将领去问候他，宗泽病已经很重。他张开眼睛激动地说：“我因为国仇不能报，心里忧愤，才得了这个病。只要你们努力杀敌，我死了也没有遗憾了。”
将领们听了，个个感动得掉下热泪。大伙离开的时候，只听得宗泽念着唐朝诗人杜甫的两句诗：“出师未捷身先死，长使英雄泪满襟！”接着，又用足力气，呼喊：“过河！过河！过河！”才阖上眼睛。
开封军民听到宗泽去世的消息，没有一个不伤心得痛哭流涕。
宗泽去世后，宋朝派杜充做东京留守。杜充是个昏庸残暴的人，一到开封，把宗泽的一切防守措施都废除了。没多久，中原地区又全都落在金军手里。