3月24日，蒋介石到徐州视察，命令白崇禧、林蔚和刘斐等人组织临时参谋团，在徐州协助李宗仁指挥作战。
同一天，日军采用攻打滕县的战术，猛烈轰击孙连仲部队的防御工事，接着以坦克为前导，向守军阵地推进。狂风暴雨般的枪炮弹，把台儿庄外围阵地工事基本摧毁，日军步步逼近，攻势凌厉。孙连仲的部队一无平射炮，二无坦克，无法反击。但他们知道，台儿庄是他们的光荣，也是他们的坟地，便和逼近的日军拼肉搏，和横冲直撞的日军坦克同归于尽。日军仗着武器精良，冲入城内。守军在城内与日军展开激烈巷战。
25日，日军进攻南洛，池峰城第三十一师的第一八五团主动出击，第三营营长高鸿立率全营士兵与日军拼杀，夺取日军的大炮。日军一千多人在二十多辆坦克掩护下向第三营猛扑。团长王郁彬率领第一营和第二营赶来增援，血战两昼夜，王郁彬和高鸿立负伤。27日，日军攻破台儿庄北门。池峰城师与日军在庄内展开拉锯战，双方伤亡甚重。日军不断增加兵力，从峄县调来四千多人增援。
28日，日军攻入台儿庄西北角，企图攻占西门，切断池峰城师部与庄内的联系。池峰城指挥炮火压制日军，组织几十名敢死队员与日军格斗。29日，日军濑谷支队派兵增援，占领了台儿庄东半部。