冀鲁豫边区广大军民经过1941年到1943年的反“扫荡”、反“清剿”、反“蚕食”的艰苦奋斗，根据地已得到初步恢复、巩固和发展。
整风运动的进行，提高了党员的政治思想水平；生产救灾运动的发展，克服了经济生活的严重困难，改善了支援抗日游击战争的物质基础；民主民生运动的广泛开展，调动了广大军民群众抗日和生产的积极性。这些都显著地改善了冀鲁豫边区对敌斗争的条件。
但是，这时冀南区同冀鲁豫区相比，冀南区敌情要严重得多。为适应这种形势，统一和增强对敌斗争力量，1943年11月，中共中央决定成立中共中央冀鲁豫分局（通称平原分局），统一领导冀南、冀鲁豫两区工作。黄敬、宋任穷、李菁玉、苏振华、杨勇等为分局委员，黄敬任分局书记，宋任穷任组织部长，李菁玉任宣传部长，张霖之任民运部长兼组织部副部长，张玺任秘书长。
1944年5月11日，为更进一步实现两区统一，两区党委一致建议并经中区中央北方局批准，撤销两个区党委机构，由冀鲁豫中央分局直接领导各地委。分局直属北方局领导，下设冀鲁豫和冀南两个工作委员会，作为研究、督促、检查两地工作的分局派出机构。冀鲁豫工作委员以张霖之、杨勇、黄敬、徐达本组成，张霖之任书记；冀南工作委员会以宋任穷、张策、朱光、王宏坤组成，张策任书记。同时，成立冀鲁豫边区军政党委员会，以宋任穷、王宏坤、杨勇、苏振华、黄敬、阎揆要、朱光等7人组成，宋任穷任书记。
冀鲁豫和冀南两区合并后，新的冀鲁豫军区随之成立。宋任穷任军区司令员，王宏坤、杨勇任副司令员，黄敬兼任政治委员，苏振华任副政治委员，曹里怀任参谋长，朱光任政治部主任，傅家选任后勤部长，刘德海任后勤部政治委员。新的冀鲁豫军区直属八路军总部领导。此后，又成立了冀南指挥部和豫东指挥部，王宏坤和王秉璋分别任指挥部司令员，以加强对两区的作战指挥。
冀鲁豫边区组织机构及战斗序列：
1.冀鲁豫边区：
中共冀鲁豫区党委：（1944年5月并入平原分局）
书记：黄敬（1943年6月去延安）
代理书记：宋任穷
中共冀鲁豫分局：（1944年5月成立，又叫平原分局）
书记：黄敬
代理书记：宋任穷
副书记：李菁玉
冀鲁豫行政公署：
主任：晁哲甫、（后）孟夫唐
副主任：徐达本贾心斋
2.冀鲁豫军区
（1944年5月11日，“冀南军区”与“鲁豫军区”合并，仍保留冀南军区名义）
司令员：宋任穷、（后）杨勇
政治委员：黄敬
代理政治委员：宋任穷（兼）
副司令员：王宏坤、杨勇
副政治委员：苏振华
参谋长：阎揆要、（后）曹里怀
政治部主任：苏振华（兼）
副参谋长：王蕴瑞
政治部副主任：朱光
后勤部部长：傅家选
政治委员：韩明
第1军分区：司令员：刘志远；政治委员：邓存伦
第2军分区：司令员兼政治委员；杜义德，政治委员：（后）姚克裕
第3军分区：副司令员：高厚良；政治委员：王幼平
第4军分区：司令员：雷绍康；政治委员：乔晓光，（后）赵紫阳
第5军分区：司令员：牟海秀；政治委员：陈登昆
第6军分区：司令员：周发田；政治委员：赵一民
第7军分区：司令员：赵健民；政治委员：许梦侠
第8军分区：司令员：曾思玉；政治委员：段君毅
第9军分区：司令员：张维翰；政治委员：张国华
第10军分区：司令员：赵基梅；政治委员：刘星
第11军分区：司令员：王秉璋；政治委员：潘复生
水东军分区：（第12分区）司令员：余克勤；政治委员：袁振
水西军分区：副司令员：汪家道；副政治委员：李士才