解决了冀东的问题后，冈村宁次随即调动兵力，对冀南地区的中国军队展开全面进攻。
对于此战的目的，冈村宁次还是比较明确的，在下达给前线部队的电报中明确提到：“此战目标为击溃在冀南的国、共两军，以扩大治安区。占领冀南地区，中断太行山区共产军在冀南一带的衣食之源。麻痹冀中军区，使其产生错觉，隐蔽进攻冀中的企图，并策应在山西的第1军，向晋东南扫荡。”
日军通过侦察，得知冀南军区易良品的新7旅位于武城的武官寨以西一带；徐深吉的新4旅位于丘县以东的香城固附近；张维翰的新8旅在魏县以北地区；国民党军高树勋第39集团军驻于濮阳、柳下屯、濮城一带。
随即决定，这次作战由驻济南的敌12军司令官土桥一次指挥，以5个旅团又1个步兵联队合计14个步兵大队的兵力，分别从东南、西南、以西、东北围攻冀南地区。
另在晋县，束鹿、衡水的1个旅团由北向南进攻，进行策应。
其进攻目标，一是八路军冀南军区的新7旅和新4旅；二是国民党军高树勋的第39集团军。
日军的具体部署为，惠民的林芳太郎之独立混成第7旅团，以5个步兵大队进至武官寨以北之故城与大营一线；驻于邢台的吉田峰太郎之独立混成第8旅团，以两个步兵大队进至武官寨西南的垂杨村一带，从北面、西面围歼位于武官寨附近之新7旅。
驻于邢台的铃木贞次之独立混成第1旅团，以3个步兵大队由曲周、平乡分路东进，围歼丘县以东香城固一带的新4旅。
驻开封的第35步兵团长北川一夫少将之3个步兵大队；佐久间为人的骑兵第4旅团，围歼在濮阳、柳下屯、濮城一带的第39集团军。
第32师团惠藤第四郎大佐之212联队一部，仍在郓城以西、以南地区进行扫荡，以策应故城、丘县、濮阳地区作战。
此外，华北方面军确定，在第12军对冀南扫荡开始后，驻束鹿的池上贤吉之独立混成第9旅团主力，向束鹿、晋县、莫城以南地区推进，从北面包围冀南地区，策应第12军作战，并麻痹冀中军区。
第12军决定由驻兖州的32师团主力及35师团一部进攻高树勋第39集团军，并由井手铁藏中将指挥。
为防备八路军的侦察，对这次作战，从准备到实施非常保密，真正的通知、命令，全部是当面口授，而印刷、书写的通知、命令及电话记录等，全部是假文件。
其军指挥所，直至作战开始后的第3天才从济南移至前方的临清，以防被抗日部队的侦察人员发现。
2月28日夜间，敌以大批汽车将部队运送至预定的集结地点；骑兵第4旅团则连夜快速奔驰，到达濮阳东南的八公桥。
此时由华北方面军直接指挥对冀中军区进行大扫荡的敌军，亦准备于3月1日开始行动。
3月1日拂晓，第12军指挥的5个旅团，开始对平汉铁路以东、石德铁路以南、运河以西、黄河以北地区，开始了大规模的急袭。
随后，在束鹿、晋县、蒿城地区的独立混成第9旅团，亦按计划向石德铁路以南地区进攻，而对冀中军区进行佯动。
此时在根据地内的抗日部队，已化整为零，不少人换便衣与民众打成一片，就地与敌人周旋。
一部则根据敌情，分路越出包围圈，由敌之薄弱地区向外线转移。
为便于夜间活动，动员民众将狗全部打死，以防其夜间狂吠而泄密。趁敌主力已开进根据地之机，抗日部队即时转移至敌据点附近进行隐蔽或袭击敌伪以牵制扫荡之敌。
日军扫荡部队在突然袭击之后，即寻找抗日部队主力作战。