日军部分援兵已南下增援台儿庄，而庄内之敌又发动猛烈攻击，企图内外配合攻占这一战略要地，这给第五战区造成了巨大的压力。
有鉴于此，第5战区便于3月29日晚间命令汤恩伯的第20军团南进，配合孙连仲的第2集团军围歼台儿庄内及附近之敌。
汤恩伯不敢怠慢，当即指挥部队南下台儿庄，与此同时，田镇南的30军在台儿庄以北与台儿庄东北的黄樵松第27师协同，攻向台儿庄以北的刘家湖。
而52军在中午攻克了兰城店、三佛楼、一部还攻克了峄县东南的水湖、王庄；85军张雪中的89师，从峄县以东的九山、双山攻向峄县。
尽管已经知道中国军队正在向台儿庄四面合围而来，日军依旧没有后撤的意思，反而变的更加的狂暴，从30日到31日之间，日军第63联队在台儿庄内疯狂的发动了十几次大规模的进攻，但在守军的顽强的反击下仍无进展。
日军指挥部也意识到台儿庄内的兵力任嫌薄弱，随即决定增强台儿庄地区进攻的兵力，第10师团随决定调驻济宁沼田多稼藏的39联队第1大队归第10联队长指挥。
与此同时，日军指挥部还命令临沂方面的日军加快行军速度，务必于四月一日前抵达台儿庄。
但是日军指挥部没有想到的是，从临沂西进增援的敌坂本顺旅团及配属的炮兵、坦克部队刚刚抵达向城以南的作字沟，就遭到了国军陈大庆的第4师的阻击。
而汤恩伯根据这一情况，与第五战区司令部商量之后决定，首先围歼从临沂至向城、爱曲的敌军。在征得第五战区司令部的同意之后，当即以关麟征的52军一部继续监视台儿庄以北的日军，主力则向东北的向城、爱曲前进，围歼该地区的坂本旅团。
同时又以王仲廉的85军从峄县、枣庄附近地区东进至兰陵镇、横山镇，阻止作字沟、爱曲方向的日军向台儿庄前进，掩护52军的左侧。
此时鲁南方向的战况正在不断地扩大，双方在鲁南投入的军队已经超过了20万人，而且在外围还有更多的部队正在向鲁南汇聚。
为了加强鲁南部队的指挥力量，日军第二军司令官西尾寿造当即命令敌第5师团长板垣征四郎赶往临沂前线指挥作战，板垣随即抵达汤头镇。
从4月1日开始前方战局发生了些许变化，日军在台儿庄内的进攻因31师的顽强抵抗依然无进展，福荣真平根据两天来进攻受阻的情况，决定只留一部于台儿庄内的西北角，其余在夜间撤至台儿庄内的东部，以集中进攻的兵力。
增援而来的坂本顺第21旅团经与陈大庆的第4师在爱曲、秋湖一带激烈战斗后，到达了台儿庄东北约25公里的兰陵镇。
由于敌临沂增援的部队快接近台儿庄，孙连仲当即决定，集中兵力歼灭台儿庄内的敌军。
即第31师协同攻入庄内的第27师、第30师进行反击。位于台儿庄以东的第27师，组织约250人的奋勇队开路，于夜间由东北角突入庄内，然后分割，聚歼敌人，以扩大战果；位于台儿庄以西的第30师从西北角突入庄内，以歼灭该地之敌。
入夜，3个师同时行动，31师首先在庄内发起反击，接着27师从东北角突进庄内并占领了东门以北的几座碉堡；30师则由西北角突至庄内，与31师内外夹击。
敌遭到重大伤亡后，开始龟缩固守。
4月2日，日军第63联队在台儿庄内的进攻仍无进展。在獐山附近的敌第10联队已到达台儿庄以东地区，为支援其在台儿庄内的63联队的进攻，以40余门火炮、近40辆坦克及步兵连续出击，企图摧毁防守在台儿庄东郊黄樵松将军的27师和池峰城将军第31师的守备阵地。
此时，第五战区长官部已经从全局上看到日军主力分散于鲁南战场，并发生了重大伤亡，不但进攻的力量严重不足，各地防守部队也漏洞频频，围歼台儿庄附近之敌的战机已经成熟，于是决定对台儿庄之敌进行战役合围。