1940年8月至12月，八路军在华北敌后战场发动了“百团大战”。这一战役给日军以沉重打击，使日军受到极大震动。因而，日军在1939年增兵华北的基础上，1941年继续向华北增兵。与此同时，日本陆军中央部着手发动太平洋战争。为了适应中国战场和发动太平洋战争的需要，大本营在1941年对侵华日军做了如下调整：
2月14日，下令将第11军的第33师团、第13军的第17师团调往华北。根据上述命令，第11军之第33师团除留下第33步兵联队荒木支队（第33联队长荒木正二指挥步兵第215联队、山炮兵1个大队为基干）在安义地区外，其余部队于4月上旬到达华北，配属第1军作战；第17师团于4月间配属第12军，担负苏北、皖北地区的警备。
7月25日，下令撤销华南方面军的战斗序列，编组第23军。同时，将近卫师团调归第25军。
8月12日，将第23军编入中国派遣军战斗序列（建制转移时间为8月15日零时）。
8月15日，将第23军主力第48师团（驻福州）编入台湾军司令官属下。11月6日，又将该师团调归第14军战斗序列。
9月7日，大本营计划调第3飞行集团参加南方（南洋）作战，11月8日下令另编第1飞行团担负中国战场的作战任务，11月15日令第3飞行集团加入南方军。
9月18日，将关东军属下的第51师团调归第23军战斗序列。
11月6日，将大本营直属的第5师团、第23军所属的第18师团调归第25军战斗序列；将第12军所属的第21师团调归南方军战斗序列；将第11军所属的第33师团调归第15军战斗序列。
11月8日，将第11军所属的第4师团改为大本营直属。
经过上述调整，到12月8日侵华日军的战斗序列如下：
中国派遣军总司令官俊六大将（1941年3月任职），总参谋长后宫淳中将，司令部驻南京。下辖华北方面军，第11、13、23军，第1飞行团。
一、华北方面军司令官：冈村宁次大将，参谋长：安达二十三中将，司令部设北平。下辖第1、12军，驻蒙军，第27、35、110师团和独立混成第1、7、8、15旅团。
第1军司令官：岩松义雄中将，参谋长：花谷正少将，司令部设太原。下辖第36、37、41师团和独立混成第3、4、9、16旅团。
第36师团师团长：井关仞中将，参谋长：今村新太郎大佐
第37师团师团长：长野佑一郎中将，参谋长：滨田弘大佐
第41师团师团长：清水规矩中将，参谋长：田岛彦太郎大佐
独立混成第3旅团旅团长：毛利末广少将
独立混成第4旅团旅团长：津田美武少将
独立混成第9旅团旅团长：池之上贤吉少将
独立混成第16旅团旅团长：若松平治少将
第12军司令官：土桥一次中将，参谋长：河野悦次郎少将，司令部设济南，下辖第32师团，独立混成第5、6、10旅团。另有第13军之第17师团从1941月3月14日配属第12军担负苏北、皖北的警备任务，1942年1月1日归还第13军建制。
第32师团师团长：井出铁藏中将，参谋长：吉田荣治郎大佐
独立混成第5旅团旅团长：内田银之助少将
独立混成第6旅团旅团长：盘井虎次郎少将
独立混成第10旅团旅团长：河田追太郎少将
驻蒙军司令官：甘粕重太郎中将，参谋长：稻村丰二郎少将，司令部设张家口，下辖第26师团、独立混成第2旅团、骑兵集团。
第26师团师团长：矢野音三郎少将
独立混成第2旅团旅团长：真野五郎少将
骑兵集团集团长：西原一策中将
方面军直辖兵团：
第27师团师团长：富永信政中将
第35师团师团长：原田雄吉中将，参谋长：白泷理四郎大佐
第110师团师团长：饭沼守中将
独立混成第1旅团旅团长：铃木贞次少将
独立混成第7旅团旅团长：林芳太郎少将
独立混成第8旅团旅团长：吉田丰太郎少将
独立混成第15旅团旅团长：田中勤少将
二、第11军司令官：阿南惟几中将，参谋长：木下勇少将。司令部设汉口，下辖第3、6、13、34、39、40师团，独立混成第14、第18旅团。
第3师团师团长：丰岛房太郎中将，参谋长：山本清卫大佐
第6师团师团长：神田正种中将，参谋长：山之内一郎大佐
第13师团师团长：内山英太卯中将，参谋长：秋永力大佐
第34师团师团长：大贺茂中将，参谋长：志村文雄大佐
第39师团师团长：澄田铼四郎中将，参谋长：山崎正男大佐
第40师团师团长：青木成一中将，参谋长：久保满雄大佐
独立混成第14旅团旅团长：中山亨少将
独立混成第18旅团旅团长：堤不夹贵少将
三、第13军司令官：泽田茂中将，参谋长：唐川安夫少将，司令部设上海。下辖第15、17、22、116师团，独立混成第11、12、13、17、20旅团。
第15师团师团长：酒井直次中将，参谋长：川久保镇马少将
第17师团师团长：平林盛人中将，该师团4月间配属第12军，1942年1月归建
第22师团师团长：太田胜海中将，参谋长：山胁正男少将
第116师团师团长：武内俊二郎中将，参谋长：山田卓尔大佐
独立混成第11旅团旅团长：堤三树南少将
独立混成第12旅团旅团长：南部襄吉少将
独立混成第13旅团旅团长：山村治雄少将
独立混成第17旅团旅团长：谷川正宪少将
独立混成第20旅团旅团长：池田直三少将
四、第23军司令官：酒井隆中将，参谋长：栗林忠道少将，司令部设广州。下辖第38、51、104师团，独立混成第19旅团，第1独立步兵队，第1炮兵队。
第38师团师团长：佐野忠义中将
第51师团师团长：中野英光少将
第104师团师团长：菰田康一中将
独立混成第19旅团
第1独立步兵队
第1炮兵队队长：北岛骥子雄中将
五、第1飞行团团长：秋山丰次少将，1941年11月8日编成。
上述部队中，参加此次1941年11月对沂蒙山进行大“扫荡”战役的，主要有第12军第17师团、第21师团、第32师团、第36师团、第5混成旅团、第6混成旅团、第7混成旅团、第10混成旅团；第1军第3混成旅团（部分部队）、第4混成旅团（部分部队）、第9混成旅团（部分部队），共约10万人。