眼看战局急转直下，为免被日军抄掉后路，中国统帅部决定上海战区全线撤退。
形势不妙下的仓促撤退，对任何军队而言都是一道非常复杂的难题，更不用说在组织和训练上都比较落后的中国军队了。德国顾问们可以告诉中国人如何在狭窄的长江三角洲建立阵地，增加防守密度，但却没有教会他们怎样有秩序地把庞大部队撤出来。向西退却的几十万大军乱得像一锅粥，部队漫山遍野，潮水一样争先恐后地向西涌去，必要的军纪和秩序荡然无存。
11月8日下午，七十四军（此时已不包括独三十四旅）奉令掩护大军西撤。五十八师率先与追赶上来的日军前锋部队发生激战，部队损失很大，防线随后便被日军攻破，一七四旅旅长吴继光阵亡。
吴继光业余爱唱京戏，尤擅花脸，关于他的阵亡也有着不同说法。有人说，是防线被攻破后，部队急于渡河，但渡船少，吴继光没等士兵全都上来，就急命开船。结果惹得岸上还没登船的士兵破口大骂：“你们当官的打仗躲在后面，现在逃跑却想跑在前头，没那么便宜！”乱枪齐发，把吴继光给打死在了船上。
虽然这一传言未必属实，但亦可见部队是多么混乱和无序。隶属于一七四旅的吴亚夫营作为掩护部队走在大部队最后，途中吴亚夫听到后方传来轰隆隆的声音，回头一看，只见半空中黑压压一片，全是追上来的日机。
吴亚夫赶紧大喊一声：“趴下！”话音刚落，日机就实施了机枪扫射，地面被打得尘土飞扬，许多人一头栽倒在血泊之中。幸存者里面中弹的人也不少，吴亚夫双腿中弹，血顺着大腿不断地往外涌，幸好警卫兵及时护送到附近医院，方得以抢救出来。当时任何人都控制不了这种混乱局面，一些资深将领也只能仰天长叹，徒呼奈何。
11月11日，七十四军整体退至苏州，这时秩序才初步稳定下来。作为总掩护队，五十一师三〇六团奉令赶往青浦、松江进行拖后掩护。第二天一早，邱维达率部到达青浦以西的朱家角，却得知松江已被日军挺进队提前占领。
这些日军挺进队有的是杂在退却部队中跟过来的，有的抄近路进行了迂回穿插，所以前进速度极快，他们不停歇的骚扰和袭击，重新给撤退大军造成了不同程度的混乱。
占领松江的日军随后便向朱家角逼近，并对三〇六团展开了包围攻击。三〇六团势单力薄，稍事抵抗即撤往青浦。
青浦有城墙可以先顶一下。在几乎损失了一个营之后，邱维达下令向昆山转移，谁料通往昆山的公路也被日军给生生扼断了，部队变得无路可退。
危急情况下，邱维达找来了两个本地农民。通过他们带路，三〇六团沿着偏僻的乡间小道，经过两天两夜的行军，才得以与兄弟部队取得联系。
中国军队在后撤时，原本准备凭借几条“国防线”继续组织抵抗。这几条“国防线”也是在德国顾问的指导下构建出来的，第一条是吴福线，也就是苏州到常熟福山的国防工事线，但因为日军在福山港附近登陆，使得福山的防御阵地还没得到利用就丢失了。
吴福线之后是锡澄线，即无锡至江阴段防线。11月16日，七十四军奉令在苏州至吴江一线展开部队，一边掩护撤退大军侧翼，一边为锡澄线的防守部署争取时间。
由于深知责任重大，七十四军军长俞济时亲自对防线进行踏勘，最终选定位于苏州西北方向的望亭镇为布防要点，并让王耀武派兵扼守。
这时五十一师的各团大多残损严重，担任第一期掩护任务的三〇六团又尚未归队，现存编制能够称得上完整的只有一个三〇五团，王耀武即把掩护任务交给了这个团。
在进入淞沪战场前，五十一师已内定由乙种师扩编为甲种师，从三个团增加到四个团，增加出来的团就是三〇五团。三〇五团的前身是陕西警备旅的保安团，因为需要进行整训，一直到十月份，该团才来到上海。
三〇五团的团长是原任上校师附的张灵甫。与卡尔逊遇到的那位会讲英语的列兵类似，早期的张灵甫是一个充满理想主义色彩的知识青年，甚至于他也曾经当过一段时间的教师。不过张灵甫更广为人知的一段经历，却是“古城杀妻案”。
那时候张灵甫在胡宗南的第一军任团长。据说事情的起因是这样的：第一军在陕北与红军对垒，军官眷属都住在西安古城。张灵甫的一位同事到西安探亲，回到部队后与张灵甫闲聊吹牛，也不知这位仁兄搭错了哪根弦，居然乱开玩笑，说曾看到过张灵甫的妻子与一个男的一起逛马路。
在这类事情的处理上，张灵甫的心胸没有比《水浒传》里描绘的那些好汉们宽广出多少，不仅得了风就是雨，而且认为自己被戴绿帽的愤怒瞬间冲昏了他的理智。借着春节假期，张灵甫把妻儿从西安接回老家，就在除夕之夜，当妻子弯腰在后院割韭菜做饺子时，他从背后掏出手枪把妻子给打死了。
杀妻之后，张灵甫返回了部队。女方娘家人自然不肯就此放过他，不断向上进行控诉，状纸从第一军军部、西北“剿总”，一直递到陕西高等法院，但都没有能够立即得到回音。之后经过一番辗转，受理控告信的西安妇女协会找到了张学良的夫人于凤至。
东北军此时正驻扎于陕西。于凤至让张学良管一管，张学良回答得很干脆：“这是中央军的事，我不能管，也管不了。”
你管不了，自有人管。于凤至就把事情原原本本地告诉给了自己的闺蜜宋美龄，宋美龄又转告给了丈夫蒋介石。
蒋介石素来很在乎自己黄埔学生在外的声誉，一听，这还了得：“马上押解南京，军法会审！”