在那场战斗中幸存下来的第30师176团3营营长忤德厚事后回忆，街道里到处都是烧焦的尸体，日军逐一蹲点把守。“我们只能推倒山墙前进，推不倒墙，就在墙上掏枪眼射击，对面的敌人也在掏，双方只有一墙之隔，互相夺枪。”
大刀、手榴弹和敢死队
大战纪念馆中的橱柜里，可以看到最多的战争实物就是刀。锈迹斑斑的大片刀，很多已经开裂、折断，但凝聚其上的血勇，隔着岁月和橱窗，仿佛依然能够感受。
李大军副馆长告诉记者，防守台儿庄的第二集团军属于西北军，人手一把大刀是他们的标志装备。而进攻台儿庄的濑谷支队属于日军第十师团的精锐部队，第十师团是日本陆军甲种师团，装备精良，被称为日军现代化部队的样板。面对这样的精锐部队，为避其锋芒，台儿庄中国守军利用手榴弹和大刀片，与其展开巷战和夜袭。
1938年4月3日，台儿庄进入生死攸关的时刻。日本《朝日新闻》当日刊发报道称，“日军已经占领台儿庄的四分之三。”而中国军队第二集团军三个师伤亡达十分之七。
池峰城向孙连仲请求撤退到运河南岸，给部队“留点种儿”。孙连仲那时也焦灼万分，此前，他给第五战区司令长官李宗仁打过电话。
李宗仁在他的回忆录中写道，孙连仲语气哀婉，“我们把敌人消耗得差不多了，能否请长官答应暂时撤退到运河南岸，好让第二集团军留点种子，也是长官的大恩大德。”
这一请求遭到李宗仁拒绝，“敌我在台儿庄已血战一周，胜负指数决定于最后五分钟。援军明日中午可到，我本人也将于明晨亲来台儿庄督战。你务必守至明天拂晓。这是我的命令，如违抗命令，当军法从事。”
孙连仲当即回复，“长官有此决心，我第二集团军牺牲殆尽不足惜，连仲亦以一死报国家。”
在中国古代战争史上，项羽曾破釜沉舟，迎战强敌。4月4日，日军电台宣布已完全占领台儿庄的这天，池峰城也下令炸毁了撤退的唯一后路，运河上的浮桥。他说，“台儿庄就是31师的坟墓。”
当天晚上，李宗仁下了一道命令，悬赏十万大洋，组织敢死队，夜袭敌军。
第27师师长黄樵松亲自组织了20名敢死队员。出征前，他写下了一首《榴花》绝命诗：昨夜梦中炮声隆，朝来榴花满地红。英雄效命咫尺外，榴花原是血染成。
石榴树是山东一种常见树种，许多人家种植在庭院，每年五六月间繁花盛开，通红一片。这首绝命诗，在守军之间流传开来。
第30师176团3营营长仵德厚组织了40名敢死队员，成功夺取城西北角，但只有他和两名队员返还。
在所有敢死队中，以31师91旅旅长王冠五的57人敢死队最为著名。57名敢死队员身绑手榴弹，手握大刀，与日军展开肉搏，返回时仅剩13人。出征前，他们把发给他们的大洋扔在地上，“命都不要了，要钱干什么！我们打仗是让子孙后代别做日本人的奴隶。”
据大战纪念馆统计，台儿庄大战过后，第31师使用了30万余枚手榴弹。时任峄县代理县长李同伟回忆，战后他返回台儿庄，看到地面上散落的手榴弹弹皮有10厘米厚，满地都是手榴弹木柄。
在生死攸关的4月3日和4日，数百名敢死队员身绑手榴弹，手握大片刀，白天巷战，夜间偷袭，成功收复失地。
2天之后，中国军队开始全线反击，日军仓皇遁走，大捷就此铸成。美国女作家芭芭拉·塔奇曼说，台儿庄大战是日本明治维新建立现代化陆军以来，第一次从战场后退。
一名日军士兵事后在日记里写道，“四小时下天津，六小时占济南，小小台儿庄，谁知道竟至于这样困难！其惨状实为人间地狱。”
