1948年11月17日，由谭震林、指挥的进攻部队向黄发起总攻。经过40分钟的炮火准备，在华东特种坦克的带领下，率领华野4从北面、王必成6从西面、张仁初8从东南、聂9从南面对碾庄圩之敌发起猛烈进攻。

聂冯至率领一支9人的部队作为正面进攻。他们先是跳出工事，踢到齐胸深的水壕，扑向敌人阵地，与敌人扭打，很快就在敌人阵地上撕开了一个突破口。

二十一日，黄兵团已到了最后关头，杜下令所有援军死战。所有援军必须不惜一切代价进攻四面八方，占领大徐家并救出黄。

然而，经过一周的激烈战斗，遭受重创的邱和李兵团丧失了斗志。太尉、李两员大将，各从其位，见我军阻击之势，难以突破，东援无望。如果继续东逃，很有可能会落入黄之手，全军覆没。因此，太尉、李虽然也指挥人马向前冲，但后腿及尾始终没有离开徐州，主力也不敢离开徐州太远，以免后路被破，陷入重围。因此，他们的进攻是有限的，他们从来不敢像杜要求的那样全力以赴。

在援军无望的情况下，黄立即命令刘率领残部突破碾庄圩西北。

然而，此时的刘已经完全失去了突围的信心。他回答说:“当你突破的时候，所有的重武器都丢了。出去有什么用？”

这时，我军向刘的第64军发起了冲锋。黄引刘、、、韦德、、杨等，北逃至一五六师。

师长张越秀立即向黄报告:“昨晚对方派人劝降。”

魏骜听了，急忙对黄说:“主公可趁此机会与他们联络，缓一缓，等援军到来。”

黄听了，沉思片刻，说道:“我决定今晚见他。”

正当黄准备拖延时间的时候，我军围攻黄的发起了最后的进攻。敌人的据点很快被攻克了。敌第64军大部被歼灭，敌总指挥刘被俘。

第64军第159师师长钟士谦、第64军副师长李振仲见抵抗还在进行，只是被消灭了，于是在22日上午7时带领其余地区的2000多人投降。

22日下午4时，我军发现敌第156师张越秀毫无投降诚意，立即发起进攻。战斗到7点后，该团全军覆没。魏骜、韦德、田督察黄岩、第156师师长张越秀全部被俘。

混战中，黄亲自指挥第156师残部从武庄向西北突围，企图逃到碾庄圩西北的三塔加入兵团，但遭到我军炮火的轰击和步兵的阻击。

敌破，黄、、杨、引军至草棚中藏。这时，黄以为自己的十多万大军就这样被消灭了，他感到非常绝望。无奈之下，他大悲地对杨说:“我有三个谜题:第一，我为什么这么笨，要在新安镇等四十四军两天；二是在新安镇等了两天。为什么我不知道在运河上架设一座军用桥梁？3.李米兵团既然将来东进来救我，为什么不掩护我在曹八吉附近西进？”这既是对黄自身作战指挥错误的检讨，也是对、刘智错误指挥的谴责，更是对国民党军队内部欺骗不合作的忏悔。

就在这时，我军由远及近传来喊杀声，“活捉黄”的呐喊声震动了大地。无奈之下，黄开枪自杀身亡。

至此，黄第七兵团5个军约12万人被我军全部歼灭。