此时的张城正在紧盯着台儿庄的战情，并没有意识到他手下的旅长团长正憋着大招，要搞出一个大新闻出来。
4月3日，李宗仁下达总攻击令。第52军、第85军、第75军在台儿庄附近向敌展开猛烈攻势。日军拼力争夺，占领大部分街市。民党军展开街垒战，逐次反击，肃清敌人，夺回被日军占领的街市。
4日，民党空军以27架飞机对台儿庄东北、西北日军阵地进行轰炸。当晚，日军濑谷支队力战不支，炸掉不易搬动的物资，向峄县溃逃。
4月6日，李宗仁赶到台儿庄附近，亲自指挥部队进行全线反击，4月7日凌晨1时，民党军吹响了反攻的号角，以孙连仲第2集团军为主组成的左翼兵团和以汤恩伯、封裔忠第20军团为主组成的右翼兵团在台儿庄及其附近地区大举反攻。
一直防守遭攻的孙连仲部，听说反击，神情振奋，命令一下，杀声震天。双方便展开了巷战、肉搏战，一时间，台儿庄城内枪林弹雨，血流成河。
日军头一次遭到了民党军队的如此顽强进攻，很快便溃不成军。台儿庄北面，枪炮声渐密，汤恩伯军团已向敌人开火。
矶谷知已陷入反包围圈，开始动摇，下令部队全线撤退。此时敌军已成强弩之末，弹药汽油也用完，机动车多被击毁，全军丧魂落魄，狼狈逃窜。李宗仁命令部队猛追，敌兵遗尸遍野，各种辎重到处皆是，矶谷本人率残部拼命突围。
激战4天，民党军重创日军濑谷支队、坂本支队，其余日军残部于7日向峄城、枣庄撤退。至此台儿庄战役胜利了。
台儿庄会战，在李宗仁的亲自指挥下，击溃日军第5、第10两个精锐师团的主力，歼灭日军2万余人，缴获大批武器、弹药，严重地挫伤了日军的气焰，是民党军在正面战场上初次取得的一次大胜利。振奋了全民族的抗战精神，坚定了国人抗战胜利的信念。
台儿庄战役胜利结束了，可令人惊奇的是民党军获得对日作战的首胜之后常凯申并不感到十分高兴。
台儿庄一战，民党军损失3万歼敌1万，可以说是以血肉之躯拼出的“惨胜”，有人认为在战术上并无值得夸耀之处。
其实，李宗仁指挥一支“杂牌军”浴血奋战本身就是令人称奇的战术。当李宗仁取得台儿庄大捷后，常凯申惊讶地说：“你还能指挥杂牌部队?”
李宗仁晚年回忆这段往事不无得意：“这一点在常先生看来，实在是不可思议之奇迹，他本人是断然做不到的。”