5月16日一天之内，张自忠自晨至午，一直疾呼督战，午时他左臂中弹仍坚持指挥作战。到下午2时，张自忠手下只剩下数百官兵，他将自己的卫队悉数调去前方增援，身边只剩下高级参谋张敬和副官马孝堂等8人。不久，大群日兵已冲到面前。根据日方资料，日军第四队一等兵藤冈是第一个冲到近前的。突然，从血泊中站起来一个身材高大的军官，他那威严的目光竟然使藤冈立即止步，惊愕地愣在那里。冲在后面的第三中队长堂野随即开枪，子弹打中了那军官的头部，但他仍然没有倒下!清醒过来的藤冈端起刺刀，拚尽全身力气猛然刺去，那军官的高大身躯终于轰然倒地。这时是1940年5月16日下午4时。张自忠战死后，日本人发现张将军遗体，审认无讹，一起膜拜，用上好木盛殓，并竖木牌。并全军向他行礼，甚至在他的遗体运回后方之时，日军收到消息便下令停止空军的空袭一日，避免伤到张自忠的忠骸。可见，张自忠将军在对日抗战所展现军人武德，连当时崇尚军国主义的日军都为之感动。
当天深夜，日军设在汉口的广播电台中断正常广播，插播了张自忠阵亡的消息，并称：“我皇军第三十九师团官兵在荒凉的战场上，对壮烈战死的绝代勇将，奉上了最虔诚的崇敬的默祷，并将遗骸庄重收殓入棺，拟用专机运送汉口。”日军对张自忠将军表现了极大的崇敬，由军医用酒精仔细清洗遗体，并包扎好伤口，郑重装殓，放进赶制的棺材里。此棺被葬于一处山坡上，并立墓碑，上书：“支那大将张自忠之墓”。事隔十六年之后，1956年冈村宁次在日本东京与来访的何应钦曾谈到了张自忠之死，冈村宁次说：“我们成了冤家对头，不过这种冤家对头其妙无比。您也许知道，我以前在北平认识了张自忠司令官，而在进攻汉口之后，不幸得很，我们在汉水(即襄河)东岸之战两相对峙下来。那个时候战事爆发，张先生勇往直前，挥兵渡河，进入我方阵地，惟遇我方因战略关系向前进击，他竟冲至我军后面战死。他之死令我感慨无量，因我本身也随时有阵亡的危险。”
张自忠殉国时，年仅49岁，他的夫人李敏慧女士闻耗悲痛绝食七日而死，夫妻二人合葬于重庆梅花山麓，后建有张自忠将军陵园和张自忠将军纪念馆军生平事迹陈列馆。11月16日，张自忠被以国葬之礼权厝于重庆雨台山。后来，冯玉祥在墓畔种植梅花，并仿效明代史可法所葬的扬州梅花岭，将此山改名为梅花山。在第二次世界大战中属于反法西斯阵营的五十多个国家中，张自忠是阵亡将士中军衔最高的将领——第33集团军上将总司令。张自忠不愧为“抗战军人之魂”!
