1938年3月21日,李宗仁電報蔣介石、何應欽、徐永昌,關於頒發作戰命令如下:“( 1)臨城、嶧縣、韓莊間之敵約步兵三聯隊、騎兵一聯隊、炮兵一聯隊、坦克車五六十輛,自14日以來在界河、滕縣、南沙河及臨棗各地與我鄧集團(第22集團軍)及王軍作戰。現分部南進,已達韓莊及嶧縣附近,其主力似尚在臨城。( 2)戰區以收復魯中廣大地域之目的,以一部在運河之線取攻勢防禦姿勢,以主力由嶧縣東南方及東北方山地側擊南下之敵,聚殲於臨棗支路與韓莊運河間地區。”?這是日軍瀨谷支隊佔領滕縣、臨城後進佔韓莊和嶧縣附近時,第五戰區所發的作戰命令中有關作戰目的和計劃的主要內容。這裡明確決定作戰目的是“收復魯中廣大地域;計劃采取一部”以“攻勢防禦”主力“側擊南下之敵”,將敵人消滅在“臨棗支路與韓莊運河間地區”。按照以上作戰目的與計劃,戰區命令湯恩伯第二十軍團集中主力於嶧縣東側及棗莊東北方山地,擊破嶧縣之敵,向臨城、沙溝兩地附近側擊,“壓迫敵於微山湖東岸而殲滅之”。一部集結於台兒莊北方地區,準備協助對嶧縣及其西北地區之主力作戰。命令孫連仲第二集團軍以一部在侯新閘以西運河南岸防禦,待機渡河北進,主力控制於賈汪附近及荊山、茅村鎮間。張自忠第五十九軍在費縣集結整頓後,乘虛向滕縣南北地區與由南陽鎮附近河之第三集團軍部隊呼應,截擊南下或北退之敵,對泗水方面自行警戒。孫桐萱第三集團軍應超越濟寧南北地區,再向袞州、鄒縣間及界河、官橋間與張自忠第五十九軍及臨城以南之攻擊部隊呼應,襲擊敵之側背,並阻止敵增援或截敵歸路。命令龐炳勳第三軍團迅速掃蕩湯頭附近之敵,以一部向莒縣方面追擊,主力集結於湯頭附近布防,對沂水、蒙陰方面自行警戒。戰爭一時呈膠著狀態。
4月3日,李宗仁下達總攻擊令。第52軍、第85軍、第75軍在台兒莊附近向敵展開猛烈攻勢。日軍拚力爭奪,佔領大部分街市。國軍展開街壘戰,逐次反擊,肅清敵人,奪回被日軍佔領的街市。
4日,中國空軍以27架飛機對台兒莊東北、西北日軍陣地進行轟炸。當晚,日軍瀨谷支隊力戰不支,炸掉不易搬動的物資,向嶧縣潰逃。
4月6日,李宗仁趕到台兒莊附近,親自指揮部隊進行全線反擊,4月7日凌晨1時,我軍吹響了反攻的號角,以孫連仲第2集團軍為主組成的左翼兵團和以湯恩伯、封裔忠第20軍團為主組成的右翼兵團在台兒莊及其附近地區大舉反攻。一直防守遭攻的孫連仲部,聽說反擊,神情振奮,命令一下,殺聲震天。雙方便展開了巷戰、肉搏戰,一時間,台兒莊城內槍林彈雨,血流成河。日軍頭一次遭到了國民黨軍隊的如此頑強進攻,很快便潰不成軍。台兒莊北面,槍炮聲漸密,湯恩伯軍團已向敵人開火。磯谷知已陷入反包圍圈,開始動搖,下令部隊全線撤退。此時敵軍已成強弩之末,彈藥汽油也用完,機動車多被擊毀,全軍喪魂落魄,狼狽逃竄。李宗仁命令部隊猛追,敵兵遺屍遍野,各種輜重到處皆是,磯谷本人率殘部拚命突圍。
激戰4天,國軍重創日軍瀨谷支隊、阪本支隊,其余日軍殘部於7日向嶧城、棗莊撤退。至此台兒莊戰役勝利了。台兒莊會戰,在李宗仁的親自指揮下,擊潰日軍第5、第10兩個精銳師團的主力,殲滅日軍2萬余人,繳獲大批武器、彈藥,嚴重地挫傷了日軍的氣焰,是國民黨戰場在抗戰初期取得的一次大勝利。振奮了全民族的抗戰精神,堅定了國人抗戰勝利的信念。
在歷時近半個月的激戰中,中國軍隊付出了巨大犧牲,參戰部隊4.6萬人,傷亡、失蹤7500人,殲滅日軍1萬余人。它沉重打擊了日本侵略者的凶焰,極大地鼓舞了全國軍民堅持抗戰的必勝信心。
另有數據稱日軍傷亡11984名,此數據源自1938年6月,日本華北方面軍參謀部第三課對台兒莊戰役前後日軍傷亡的一個統計,第5、第10師團合計傷亡11984名,其中第五師團2月20日至5月10日共戰死1281人,受傷5478人,第10師團3月14日至5月12日戰死1088人,受傷4137人。
中共《新華日報》1938年4月7日、8日報道殲敵萬余人,日方數據為傷亡11984人。史界如孔蘊浩先生則認同《新華日報》數據,認為台兒莊一戰中方“取得殲敵萬余人的戰果”,而整個魯南地區,“日軍死亡的人數超過16000人”。