3月24日,蒋介石到徐州视察,命令白崇禧、林蔚和刘斐等人组织临时参谋团,在徐州协助李宗仁指挥作战。
同一天,日军采用攻打滕县的战术,猛烈轰击孙连仲部队的防御工事,接着以坦克为前导,向守军阵地推进。狂风暴雨般的枪炮弹,把台儿庄外围阵地工事基本摧毁,日军步步逼近,攻势凌厉。孙连仲的部队一无平射炮,二无坦克,无法反击。但他们知道,台儿庄是他们的光荣,也是他们的坟地,便和逼近的日军拼肉搏,和横冲直撞的日军坦克同归于尽。日军仗着武器精良,冲入城内。守军在城内与日军展开激烈巷战。
25日,日军进攻南洛,池峰城第三十一师的第一八五团主动出击,第三营营长高鸿立率全营士兵与日军拼杀,夺取日军的大炮。日军一千多人在二十多辆坦克掩护下向第三营猛扑。团长王郁彬率领第一营和第二营赶来增援,血战两昼夜,王郁彬和高鸿立负伤。27日,日军攻破台儿庄北门。池峰城师与日军在庄内展开拉锯战,双方伤亡甚重。日军不断增加兵力,从峄县调来四千多人增援。
28日,日军攻入台儿庄西北角,企图攻占西门,切断池峰城师部与庄内的联系。池峰城指挥炮火压制日军,组织几十名敢死队员与日军格斗。29日,日军濑谷支队派兵增援,占领了台儿庄东半部。