12月12日，刘伯承、陈毅联名给黄维写了一封劝降信，敦促其投降。
解放军前线阵地广播站以这封信为依据，展开了对十二兵团的攻心战。
“黄维将军：你部所属四个军，业已大部被歼，想必阁下比任何人都心知肚明。关于贵军当前在双堆集的兵力格局，容我们再重复提醒一下：八十五军除军部少数人员外，已全军覆灭。十四军所属不过两千人，十军业已被歼三分之二以上……就是黄将军所依靠的王牌十八军，亦已被歼过半。照此下去，十二兵团全部覆灭只在朝夕。而黄将军翘首以盼的援兵孙元良兵团，想必阁下早已获得消息，已被我部在河南永城一带歼灭殆尽。现在，杜聿明率领的邱清泉、李弥两兵团亦已陷入重围，损失惨重；李延年兵团被我军阻击迟滞，尚在八十里以外，寸步难移且伤亡惨重。两部都是泥菩萨过河自身尚且难保，又何来驰援双堆集之力？！在这种情况下，阁下本人和部属再做绝望抵抗，没有丝毫出路，只能在人民解放军的强大炮火下完全毁灭。黄将军身为兵团司令理应爱惜部属和生命，希立即放下武器，不再让跟随您多年的官兵做无谓的牺牲。如果黄将军接受我们这一最后警告，请即派代表前来洽谈投降事宜。时机紧迫，望即决断。”
黄维经过一番痛苦的思考后，拒绝投降。他心里很清楚，自己还有最后一招，就是凭借毒气弹做最后的挣扎。
解放军没有给黄维喘息的机会，12月13日下午，总攻开始。中野四纵攻击杨文学庄，九纵配合十一纵负责解决杨子全庄、杨老五庄和三棵树的守敌，几十门大炮和抛射筒同时发射，大量的炮弹倾泻到十二兵团的阵地上。当战士们冲向敌人阵地及鹿寨时，遭到守敌使用的火焰喷射器的攻击，冲在最前面的战士被烧成一团火球，在地上嚎叫着翻滚不停，后面的战士看到后并没有退却，立刻勇敢地冲了上来，再次被烈焰吞噬，一个个火球在地上翻滚，伴随着撕心裂肺的惨叫……虽然战斗惨烈异常，但是在冲锋号的激荡下，仍然有更多的解放军战士无畏地呐喊着向敌人阵地扑去。
攻击杨文学庄时，遇到的守敌是十二兵团的十军。十军的阵地是一个筑有两公尺高一公尺厚的围墙，周围有无数暗堡形成的环形结构，看似坚不可摧。火炮阵地和指挥所就布置在墙内，隐秘性和安全性都非常好，墙外还构筑了大大小小的子母堡，无数黑洞洞的枪管从堡内伸出，构成了密集的火力网。在这个集体工事的背后即它的西侧，就是敌人的榴炮阵地和临时飞机场。
几个团互相协助同时攻击，其中就有中野一纵李志平旅下辖的一个团。战前，李志平要求突击队潜入到敌人阵地前沿多次勘察地形，摸清敌情和火力点的位置，后再研究布置作战计划。根据李志平的要求，大家集思广益，以排为单位摆沙盘进行推演，做到对村庄里每一个点都了如指掌，既要按既定的方案实施进攻，也要能应对突发状况。
地形的复杂性决定了杨文学庄是块难啃的骨头。为了保证这一仗能顺利打赢，中野和华野组成的联合部队从南面发起攻击。他们集中约百门以上火炮，首轮是火炮纵队的火力覆盖，无数的加农炮炮弹、榴弹炮炮弹、迫击炮炮弹以及火箭炮炮弹，万箭齐发，一齐倾泻在敌方的阵地上。
为了炸毁敌人的暗堡，工兵排排长高文魁带领战士捣腾出了一种土制“飞雷”，即用空汽油桶填充发射火药后，把捆扎成团的炸药包放进去，然后点燃发射药，这样就可以将炸药包推送出去。“飞雷”十分有效，本来距离比较远，要想炸毁敌人碉堡必须派人带着炸药包爬到跟前，但在敌人强大的火力网面前，那样做伤亡惨重，实现难度极大。“飞雷”制成后，能把二十公斤的炸药包推送四五十米远，远的可达一百多米，大大降低了战士们攻坚战的伤亡率。
在这次战斗前，高文魁他们一共制作了八十多个“飞雷”，整整用去了一千七百多公斤炸药。在攻坚战中，他的飞雷阵地就设在离敌人阵地一百多公尺的地方，高文魁亲自指挥着三门自制“飞雷”发射筒轮番发射，他能亲眼看到一发发二十公斤重的“飞雷”像一个个大磨盘一样飞到空中，再划出一条弧线，精准地射向敌人的阵地，把敌人的工事、鹿寨、武器炸得飞起五六丈高。爆炸范围内的敌人即使侥幸没被炸死也会被爆炸形成的冲击波震昏以致完全丧失战斗能力。因为“飞雷”巨大的威力和震慑效应，国民党士兵又把它叫作“没良心炮”。
攻占沈庄时，高文魁自己操作的一门炸药发射筒共发射了二十二发，有二十一发击中了敌人的目标。战士们看到这神奇“飞雷”大显神威，都兴奋地高叫：“炸得好！飞雷，神雷！”
在攻打杨围子时，高文魁的“飞雷排”再次接到命令，配合兄弟部队轰击村东的敌人阵地。他指挥战士们操纵着发射筒，一发发“飞雷”在敌人的地堡群前炸响，地堡群里的敌军瞬间土崩瓦解。突然，一位指导员从旁边战壕里跳出来，冲着高文魁大喊：“小高，你怎么搞的，只顾打小地堡群了，最前面一个大的地堡你怎么不打啊？真是捡了芝麻丢了西瓜！”高文魁仔细一看，果真如此，打高兴了，却把最前面的一个大地堡漏掉了。高文魁一检查，糟糕，只剩最后一发弹了，其他的发射筒都拉到其他地方去了，看来考验他的时刻到了。
高文魁暗暗地吸了一口气，对指导员喊：“指导员，您就放心吧，大肥肉要留到最后，看我的！”说完，他屏住呼吸，装弹、瞄准、点火一气呵成，“轰隆”一声巨响之后，“磨盘”向着敌人的阵地飞去，不偏不倚正落在那个大地堡顶上。大地堡被炸了个稀巴烂，阵地上一片欢呼，随着冲锋号的响起，战士们潮水般地冲向敌人的阵地……
在解放军英勇顽强的攻击下，十二兵团的阵地开始大面积崩溃，巨大的恐惧感促使他们孤注一掷——十二兵团开始大量投放毒气弹，解放军战士中毒严重，攻击受挫。这种现象是李志平所部的一个连队首先发现的。当时这个连队冲在最前面，突然有几个战士东摇西晃跑上一阵后，就口吐白沫倒下了。连长曹家熙见倒下的战士身上没有任何枪伤，立刻意识到不对劲，赶快喊：“同志们，有毒气，停止前进，快向后撤！”但为时已晚，战士们因吸入毒气较多，纷纷倒地不起，最后除去伤亡的人数，整个连队只剩下四人。
其实，国民党部队配备毒气弹的事情总前委已经获取了情报。
前一段时间，杨云枫接到上海方面转来的一封南京“孤雁”的密电——“蒋拟投送毒气弹给黄。”杨云枫立即将这一消息报告了粟裕和总前委常委。中共立即在报纸上公开揭露了这一阴谋并进行强烈抗议，北平、上海、南京等各大城市的学生和民主人士都冒着生命危险纷纷组织起来举行游行示威，声称使用毒气弹违犯国际公约，是冒天下之大不韪的反人类行径。解放军一直以为，迫于这样的压力，十二兵团无论如何也不敢贸然动用毒气弹，但是他们没有想到，黔驴技穷的十二兵团此时已经丧心病狂到置一切于不顾的境地了。
十二兵团施放的毒气弹给解放军官兵造成大量伤亡，有的战士被毒气弹熏坏了眼而导致双目失明，有的战士双肢、双腿因毒气腐蚀而被截肢，随着战斗的进展，牺牲的战士人数剧增。刘伯承到战地医院看望遭受毒气攻击致残的战士时，眼前的惨状让他悲愤难平。在后来发给毛泽东的电报中，刘伯承表示一定要抓住黄维，枪毙这个没人性到令人发指的“恶魔”。
面对敌人的疯狂行径，总前委立刻给前线作战部队运来了简易的防毒用品，并进行了防护培训。李志平所指挥的部队再发现敌人施放毒气时，战士们没有惊慌，立刻用准备好的肥皂水浸泡过的手巾掩住面孔，继续作战，还有的战士用土将未燃烧的瓦斯弹迅速掩埋。中野和华野战士们在这样灭绝人性的攻击下，始终没有退却，以视死如归的气魄咬住黄维，使黄维始终未能从双堆集挪动一步。
随着解放军持续向双堆集发起进攻的频率越来越快，攻击的力度也逐渐加大，十二兵团的阵地被压缩得越来越小。
随着战斗的进行，好消息不断传来。首先是双堆集东侧大土堆制高点阵地被占领，一小时后双堆集北端野堡阵地也被拿下……刘伯承、陈毅非常兴奋，他们也坐不住了，吩咐警卫连：“走，带我们到大土堆上去看看。”
因为这一带都是平原，毫无遮挡，就数这个大土堆地势最高。站在大土堆上，他们拿起望远镜瞭望，放眼望去，满目疮痍，四面八方都是挖出的堑壕，曲曲弯弯像一条条僵死的巨蟒横卧在大地上，远处散落分布的村庄里大都浓烟滚滚，不用说都是被炮火打中的房屋在燃烧。在望远镜里，两位将军甚至能看到阵地上支前的民工们正在来来往往救助受伤的士兵。
炮声轰鸣，火光冲天，解放军的攻击一波接着一波，从早到晚一直没有停歇。此时的双堆集地区，地面上升腾而起的浓烟把天地连接在了一起，白昼有时暗如黑夜，黑夜有时亮如白昼。身在战场上的人们，分不清黑白，辨不清乾坤。十二兵团残存的阵地已经支离破碎，横尸遍野，血流成河，十八军以及兵团指挥部完全暴露在解放军的视野之中。
12月15日早晨，黄维、胡琏眼看末日就要来到，还是不死心，商量之后决定突围，想着能带出去多少算多少，保存一些实力，作为今后东山再起的资本。
头一天黄维就让人联系空军总部，指望空军进行轰炸，协助他们突围。可谁知第二天一大早，空军王副司令乘飞机在双堆集上空转了两圈，与黄维通话说：“我们不能按照原计划执行了，你看怎么办？”黄维坚定地说：“你们不能按原计划执行，我们也要自己突围，否则只有死路一条。”
当天中午，黄维召集胡琏、杨伯涛、吴绍周等高级将领开会，研究突围的计划。会议一开始，黄维气愤地说：“空军已经指望不上了，现在空投越来越少，我们不能再这么耗下去了！当断不断，反受其乱，大家在这里只有等死。我决定今天傍晚开始突围。”停了一下，见众人都面面相觑，沉默不语，又接着说，“我想主要采取四面开花、全线反扑、觅缝钻隙而冲出重围的方法。据我观察，共军的主力大多布置在东南和南部方向，主要是防止我们向蚌埠方向突围，西北和北部、东北方向等相对较松懈，可以作为我们突围的主攻方向。”
黄维讲完，胡琏开始部署作战方案：“十军方面，十八师向东北角小王庄方向突围，由东北绕过共军的部队再向蚌埠方向转进；七十五师和一一四师的残部向双堆集以东突围，出去后再沿津浦路向怀远、蚌埠方向行进；十八军方面，十一师向双堆集正西方向突围，然后再转向蒙城方向；一一八师及所有的工兵、炮兵尚存部队向西北方向突围，出去后向西绕一圈，然后向南往蒙城再向蚌埠方向；各军集合地一个是蚌埠，一个是安徽凤台县。”
黄维接着说：“你们命令部队把能带走的武器都带上，笨重的战车、坦克、火炮等不能带走的都要破坏掉。所有的文件资料都烧毁，总之，清理得越干净越好。”
商定突围方案后，胡琏对黄维说：“司令，我们两人一起走吧，找一个师护卫我们突围。”黄维略加思索，摇摇头说：“我看还是分开好。这样目标不是太大，说不定成功的几率还大一些。”胡琏想想也是，说：“也好，等我们都突围出去了，到蚌埠再见。”
停了停，胡琏又悲观地说：“司令，之前我有什么对不住的地方，您不要往心里去。如果您出去了我没有出去，您一定要代为照顾我的一家老小，老弟在此先谢过兄长了。”
黄维听了，眼里涌出了泪水，悲伤之情溢于言表：“伯玉，这也正是我要对你说的话啊。如果我出不去或者为委员长尽了忠，也请你代我照顾一下家眷。”
随后，黄维给下属的几个军长都分配了战车，以便他们指挥部队向外突围时更加安全快速。安排完毕后，胡琏还特意私下交代战车营把最新型号的一辆战车安排给黄维使用。下午四点多，黄维和胡琏指挥十一师和战车营提前行动，向西北方向突围。正如黄维和胡琏所预料的，解放军的主力都摆在双堆集的南面和东南角，因为这里是通往蚌埠的方向，一直在提防着十二兵团首先向这个方向突围。西北方向兵力则相对较弱，他们就选择了较弱的地方下手。
由于解放军一直在猛烈炮击，战车营的突然移动，致使不明真相的十二兵团其他部队以为因抵挡不住共军的进攻，当官的准备乘车逃跑了，军心立刻大乱。待突围命令正式下达，更像是天塌一般，部队乱成了一锅粥，原本计划的有组织的突围演变成了溃逃，大家纷纷狼狈地逃窜。
国军阵地上一出现异动，解放军就发现了。各纵队首长判断他们一定是要突围了，于是下令各自坚守阵地，狠狠打击，争取不让一个敌人漏网。
十一师和战车营行动较早，最初的攻击比较猛烈，国军官兵拿出背水一战的劲头，在解放军的阵地上撕开了一个口子，黄维和胡琏乘坐的战车趁机往前冲，不料在越过一道土坎时，也许是天意使然，恰恰是黄维乘坐的那辆最新的战车出了故障。驾驶员急得满头大汗，可是不管怎么捣鼓就是再也发动不了战车。冲在前面的胡琏看到了这种情况，急迫的战况容不得他再有时间停下车去救助黄维，他心里一边默念：“老兄，这都是命啊，您自求多褔吧！”一边一个劲地催促驾驶员：“快点！快点！”
黄维没办法，只得和卫兵及驾驶员一起下了车，向西南方向逃去。黄维平时从来没有走过这么多的路，磕磕绊绊根本走不快。一行人才走出几里路，就被一队手持武器的解放军士兵追上，团团包围了起来。一脸苍白的黄维就这样乖乖地当了俘虏。
黄维被俘后，在功德林战犯管理所接受改造。在长达几十年的时间内，黄维一直对淮海战役的失败和十二兵团的覆灭耿耿于怀，不愿直视国民党和自己失败的现实。更为有趣的是，他在改造期间不顾一切地投身于“永动机”的研究，甚至还宣称研究出了一台“东方红永动机”，令人哭笑不得。1975年12月，黄维作为最后一批战犯获得特赦，被安排在全国政协任文史专员。1985年在纪念抗日战争胜利四十周年时，八十一岁的黄维在给老友故交的信中写道：“祈求祖国统一，人同此心，心同此理，如统一早日实现，我当亲赴台湾和你们把酒言欢……”
胡琏在出发之前向医务人员要了大量安眠药，准备在不能脱身时自杀成仁。但他这次运气不错，乘坐的那辆战车没出任何问题，只是在包围圈内开始往前冲的过程中不断遇到一批批的解放军。久经战阵、经验丰富的胡琏命令驾驶员不要有任何的迟疑和停顿，只管不顾一切地拼命往前冲。正是这种大摇大摆、视若无人的“做派”让解放军的部队误以为是己方缴获的战车在追击敌人，反而没有遇到任何部队阻挠和盘查。跑、跑、跑，直到感觉周围都安静了下来，他才敢扭头看上一眼。四周一片漆黑，没有了人，没有了枪炮声，也看不到一个村庄，只有战车还在疯狂地向前冲着。唯一能确定的是，战车已经逃出了解放军的包围圈。胡琏此时才大大地松了一口气，默念一声“阿弥陀佛”。
仍然一刻也不敢停，胡琏指挥驾驶员朝着西南方向继续行驶，他们原本就计划逃出后从西南方向绕行然后向蚌埠去的。一直跑到战车的油料耗尽，“嘎吱”一声熄火停下为止。卫兵和驾驶员下了车，二人搀着胡琏高一脚低一脚地继续摸黑赶路，最终辗转逃回了南京。至此，曾被毛泽东主席称作“狡如狐，猛如虎”的胡琏神奇般地从双堆集逃脱。胡琏的好运气似乎还没有完全用尽，后来逃到台湾的胡琏在1958年的金门“八二三”炮战中，金门防卫司令部三位副司令赵家骧、章杰当场死亡，吉星文重伤，于稍后伤重不治而亡，只有时任司令的胡琏再一次死里逃生。1977年6月，一直渴望再看上一眼八百里秦川故土的“陕西冷娃”胡琏终未能如愿，因心脏病在台北去世，了却了他坎坷起伏的一生。
按照计划，十二兵团十八师向东北小王庄方向突围，七十五师则向东逃跑。黄维和胡琏开始突围的时候，根本没有通知十八军杨伯涛军长和十军覃道善军长，他们还老老实实在那里等待。直到等得不耐烦了，出外瞭望的时候才发现，西北十一师方向已经乱作一团，枪炮声异常激烈。
杨伯涛问：“怎么回事？”
一个士兵慌慌张张跑过来，说：“报告军长，据说是黄司令和胡副司令带人突围了。”
杨伯涛这才紧张起来，他吩咐手下立即开始行动。他和覃道善各自带领得力的人向外冲，杨伯涛事先选出的一个勇敢的营长率部在前冲锋，但是仍然抵挡不住解放军的勇猛冲击，这名营长也身中数弹身亡。此时解放军已经从东南方进入双堆集，到处是“缴枪不杀，缴枪不杀”的喊声。这些人又马上掉头向西北方向逃窜，企图跟在十一师屁股后面逃出去，但十一师这会也被打散了，解放军已经把冲开的缺口重新堵上，他们遭到了迎头痛击，只得折回。
狡猾的杨伯涛和覃道善命令所有人扯掉军装上的全部徽章，并用泥土在脸上抹了一通。
一行人气喘吁吁地跑着，前面出现了一条拦路的小河。只听杨伯涛一声高喊：“跳！”一群人先后“扑通、扑通”就跳进了水里。河水并不深，只到人的肩膀处，但是12月的河水冰冷刺骨，他们努力向对岸游，没过几分钟就爬上了岸。湿漉漉的衣服很快冻得硬邦邦的，个个冷得牙齿打颤，杨伯涛、覃道善顾不上这些，还在疯狂地奔跑，一心想着尽快逃离战场，捡个活命。
蔡云邈的部队也在冲锋的行列，大家都在奋力向前冲。战场上乱糟糟的，根本分不清谁是谁。由于是冬季，缺少棉衣，那些起义和投诚的国民党兵有的还穿着以前的衣服，只是把标牌标识撕下了。
蔡云邈随师指挥部正在前进时，眼尖的他发现路边闪过一群神色慌张、四处张望的人，立即命令部下跟了上去。杨伯涛、覃道善他们才跑出一二里路，就被蔡云邈派来的人给围住了。
到了这个份上，没等对方搜身，脸色红紫、浑身哆嗦的杨伯涛就把自己的身份交代得一清二楚。蔡云邈定睛一看押到师部的几个人，竟是老熟人杨伯涛和覃道善，立即吩咐部下：“快，快，去找柴火，找柴火，给杨军长和覃军长他们把衣服烤干了，别冻感冒了！”杨伯涛表情讪然地苦笑了一下，说：“谢谢，谢谢云邈兄，还是你这位老朋友想得周到！”
再说一下十二兵团副司令兼八十五军军长吴绍周。作为十二兵团中很有实力的指挥官，黄维也给他配备了战车，但是当黄维和胡琏乘车突围的时候，吴绍周并没有上战车，他对自己的前途有几种考量：一是能侥幸突围出去，继续为蒋介石卖命，但是手中的部队陆陆续续都投靠了共产党，自己什么都没有了，以什么做资本体面地活着？二是跟着黄、胡他们一起突围，有可能在突围中被乱枪打死；三是突围失败，成为解放军的俘虏和战犯，要么被枪毙要么蹲大牢。这几种结果都不是他想要的，与其这样生不如死，不如自行了断来得干净利落。想到这些，他趁卫兵不注意，偷偷地跑到一无人处，吞下了身上携带的几十片安眠药，躲在隐蔽处等死。但造化弄人，突围开始后，解放军很快做出了反应和调整，原来布置在东南和南面的部队迅速向双堆集围拢过来。当解放军发现他的时候，他口吐白沫，奄奄一息，正在去往阴司的路上，解放军随队医生马上对其实施了急救，硬是活生生地把吴绍周从阴曹地府门前给拽了回来。
淮海战役结束后，吴绍周在北京战俘所接受改造。改造期间，恰逢朝鲜战争爆发，因他原来所在的国民党八十五军大部分是美械装备，他本人对其优劣、性能了如指掌，遂主动提出对付美军的一系列战术要点，最后由杨伯涛执笔，完成了一篇六万余字《关于美军战术之研究》的报告，呈送毛泽东及当时的中共中央军委，对志愿军了解美军的战略战术起到了一定的积极作用。
15日半夜时分，战斗全面结束。各方面情况汇总了一下，除胡琏及个别几个师、团长逃脱外，十二兵团其余军官包括兵团司令黄维、副司令官兼八十五军军长吴绍周、十八军军长杨伯涛、十军军长覃道善等人全部被俘，至此，蒋介石王牌部队之一的十二兵团被中野和华野联手彻底歼灭。