“百团大战”第一阶段宣布胜利结束、各参战部队转入休整的当天，中共中央发出了《中央关于时局趋向的指示》和《中央关于“击敌和友”的军事行动总方针的指示》两个重要文件，要求八路军“应扩大百团大战战役行动”，并且提出扩大的方向和任务是“到那些尚未遭受打击的敌人方面去用以缩小占领区，扩大根据地，打破封锁线，提高战斗力”。彭德怀、左权根据中央指示精神，着手制订第二阶段的破袭计划。
还在对正太路破击正酣的时候，彭德怀、左权等就按照毛泽东来电提出的“像这样的战斗是否还可组织一两次”的希望，开始考虑“在正太不能继续坚持作战或已彻底完成正太战役任务之情况下，我之行动方针”问题，曾提出：“乘胜开展正太路两侧之战斗，去收复敌深入各该根据地内之某些据点”的设想。
中央9月10日发出新的指示后，彭德怀、左权进一步分析敌情我情，经过一连数日的运筹谋划，于9月16日发出了以朱、彭、左署名的百团大战第二阶段作战命令。命令指出：第二阶段的作战基本方针是：继续破坏敌寇交通，克复深入我基本根据地内之某些据点，作战于9月20日开始，具体部署是：
——120师以截断同蒲路北段交通为目的，集结主力破击宁武、轩岗段同蒲路而彻底毁灭之。——晋察冀军区以开展边区西北方面工作为目的，应集结主力破坏涞源、灵丘之公路并夺取该城（主要是涞源），并以有力部队在同蒲路东侧积极配合120师之作战。
——129师以收复榆社、辽县为目的，开展榆辽地区斗争，并以一部分兵力不断破击白晋路北段。
——晋察冀与129师原留正太路沿线行动之部队不变，并积极阻挠敌我之修复铁路。
命令还就冀中、冀南、挺进军等部队的作战部署提出了具体要求。
第二阶段作战，八路军各部主要进行了涞灵战役、榆辽战役、同蒲路宁武南北段破袭战役、任（丘）河（间）大（城）肃（宁）战役，破袭德石路、邯济路战役等。
第二阶段作战结束时，彭德怀、左权、罗瑞卿、陆定一等八路军总部和野战政治部领导人，曾计划再组织一次大规模的进攻，以便继续扩张胜利，巩固华北抗日根据地，进一步吸引敌人，争取全国时局的好转。他们在10月2日的电报中向各兵团提出了这一任务，并要求各兵团做好相应的准备。
可是，八路军总部的具体部署还没有做出，新的大规模进攻的命令还没有下达，敌情却发生了重大变化。10月6日，遭受沉重打击的日本华北方面军，在修复好被八路军突袭的铁路后，穷凶极恶地开始了“报复”，集中兵力向华北山地和平原抗日根据地进行多路残酷的报复性“扫荡”，疯狂地向各战略区反扑，对根据地实行“三光”政策，见人即杀，见屋就烧，见粮就抢。
日军的残酷报复使八路军“百团大战”在第一、二阶段之后再组织一次大规模进攻的计划已无法实现，彭德怀等八路军总部领导人遂果断放弃10月2日提出的“于近期内在一个命令下再作大规模的进攻”的设想，彭德怀遂命令部队停止休整，转入第三阶段的反扫荡作战。
10月19日，彭德怀、左权发出《百团大战后反“扫荡”计划》，就“百团大战”结束后日军“扫荡”的动向和各兵团反“扫荡”的作战任务，作了明确指示。
“百团大战”虽然于10月10日随着第二阶段的结束而结束，但八路军总部、野战军政治部当时发布的文告、指令、战报、战绩以及延安和各抗日根据地报纸、广播的宣传报道，并没有公开宣布“百团大战”结束，反而把10月11日开始的连续55天的反“扫荡”作战又列为“百团大战”的第三阶段。这是为什么呢？
这实际上是策略上的需要。
“百团大战”进行期间，日军大本营陆军部建议内阁制定所谓“大东亚共荣圈”的施策纲领，积极研究南进作战计划，并派兵占领了法属印支北部。9月27日，日本正式与德国、意大利结成法西斯军事同盟。英、美企图利用中国抗战来遏制日本南进，遂将它们牺牲中国利益的“东方慕尼黑”政策转变为积极支持中国抗战，而德、意为了利用日本在亚洲钳制英、美，则极力促日本南进，并极力劝蒋介石对日妥协和加入德意日军事同盟。蒋介石在日本诱降、德国劝降和英、美开始积极支持中国抗战的新的错综复杂的国际形势下，虽然一时下不了投降的决心，但在国内亲日派阴谋家和内战挑拨者的包围压迫下，也根本不打算政变消极抗战、积极反共的路线，正暗中策划新的反共高潮，企图借日军南进，调集重兵“扫荡”八路军、新四军以巩固其占领区之机，与日军配合，消灭共产党及其领导的人民抗日武装和抗日根据地。
针对国民党蒋介石集团对日妥协、消极抗日，积极准备发动新的反共高潮的阴谋，中共中央提出了“稳健地对付国民党的进攻，军事上采取防卫立场”“政治上强调团结抗日”的对策，全党中心的任务是反投降与反内战。一方面，动员党内外一切积极分子，运用一切可能的方法，向政府当局、向国民党、向军队、向各党各派各界，诚恳地说明：剿共就会亡党亡国，投降必使全国人民陷入牛马奴隶的境地，争取蒋介石；另一方面，要求八路军、新四军的一切抗日根据地，必须坚持长期的独立自主与自力更生的抗日战争。同时必须准备应付任何严重的反共战争，必须充分地准备着去粉碎日本与亲日派联合夹击的阴谋。
正是由于这种全局斗争的需要，已在全国民众中造成巨大声威，使国民党顽固派、亲日派不寒而栗的“百团大战”，没有按实际结束的时间宣布结束。直到这年的12月22日，毛泽东、朱德、王稼祥还从延安给彭德怀发来这样的电报：
“百团大战对外不要宣布结束，蒋介石正发动反共高潮，我们当尚须利用百团大战的声势去反对他。”
这再次说明，中共中央和毛泽东等中央领导人对“百团大战”的肯定，同时也回答了“百团大战”为什么没有按实际结束时间宣布结束的原因。