第三阶段作战，八路军与日军进入“扫荡”与“反扫荡”状态。
10月下旬，日军独立混成第4旅团，也就是在八路军破袭战中遭打击最惨重的旅团，派岗崎大队600人进犯八路军总部的水腰兵工厂，进行“扫荡”。
水腰地处太行山脊黎城县的黄崖洞岩谷中，四面险峰环抱，只有南面绝壁有一天然裂缝，可以容人出入，所以起名叫“瓮屹廊”。一年前，朱德、彭德怀八路军领导人亲自察看地形，把总部的军械所迁移至此。为建设自己的军事工业，朱德、彭德怀等人对这个兵工厂，不知倾注了多少心血。
为对付敌人扫荡，彭德怀派总部特务兵坚守，以一个连的兵力把守瓮屹廊。得知岗崎大队竟不费吹灰之力进入我这个军事重地，彭德怀勃然大怒，亲自追查原因，下令以军法处决了未经抵抗擅自撤守的连长，并命令部队准备作战。他要亲自惩罚这股敌人。
29日下午，从黎城回武乡的彭德怀，看到一路上被日军“三光”后血淋淋、空荡荡的村落，一面骑马飞走，一面咆哮：
“……杀人放火，还了得！坚决消灭之一路敌人！”
此时，敌人就在蟠龙、关家垴附近宿营，而129师的陈赓旅、薄一波的决死1纵队一部也在关家垴附近集结。彭德怀当天晚发令歼敌：
——刘伯承、邓小平指挥386旅、10旅各一部；
——陈赓指挥386旅一部，决死1纵队25团、38团各一部；
——彭德怀亲自指挥山炮连。
30日晚，日军突然以一个中队攻占了关家垴西南之凤垴顶高地。第二天晨，总攻开始，激烈的战斗同时在关家垴和凤垴顶展开。在关家垴，129师冒着敌机的轮番轰炸扫射，迅速突破日军防御阵地，经多次白刃搏斗，将日军大部歼灭；凤垴顶的敌人组织猛烈的侧射火力，严重威胁着关家垴的攻击部队，129师被迫增兵猛攻凤垴顶，一天连续10次猛攻，未能奏效。又有2000多日军赶来增援。
就在这时，彭德怀与刘伯承、陈赓之间，由于在如何打敌问题上产生分歧而发生争执。陈赓建议用八路军擅长的伏击战术来歼敌，以减少部队的伤亡，彭德怀没有采纳，并派人前去说服陈赓，要敢于啃硬骨头。刘伯承则打电话给彭德怀，建议暂时撤围，另觅战机。彭德怀确实对日军有些恼怒，他一定要亲眼看着部队拿下关家垴，便对着电话，朝他一向十分尊重的战友咆哮：“拿不下关家垴，就撤掉你129师的番号！”
按照老百姓的说法，这时血性方刚、性格暴躁的彭老总确实打红了眼。他的咆哮，使一向宽怀大度的刘伯承大为震惊，也十分气恼。
彭德怀说罢，把话筒扔在一边。
在刘、邓的指挥所里，刘伯承也把话筒一扔，生气地说：“这个彭老总，真拿他没办法！”
邓小平问：“下一步怎么办！”
刘伯承干脆答道：“服从命令！”
邓小平说：“我认为，该打这一仗！”
刘伯承不解地望着他的搭档。
邓小平解释说：“不打这一仗，政治上损失太大了！打仗嘛，说到底，是打政治仗！有些仗，看起来有便宜可讨，但政治上不利，有便宜也不能打！有些仗，明知道很难打，伤亡大，甚至要吃亏，但政治上需要打，那也非打不可！我看关家垴这一仗就属于这一类。”
刘伯承听着邓小平的“高论”，火气渐渐消了。
与此同时，在彭德怀前线指挥所里，左权也严肃地指出彭德怀对刘伯承的态度不好，彭德怀听了，心服口服，后悔不迭，说：“打完这一仗，我向刘老总赔礼道歉，他如果不原谅我，我就学廉颇去给他负荆请罪。”
这时，彭德怀接到情报，辽县、黎城几千日军援兵就要到了，如果日军援兵一到，后果不堪设想。彭德怀再次命令：必须在下午4时，向日军发起总攻。
部队再次组织对日军的进攻，血战至30日深夜，八路军终于顶住有飞机和大炮支援的日军，完全占领了关家垴高地的山顶，数十名残余日军，退缩到最后几个窑洞里。
第3天，为了解救关家垴残余日军，驻辽县、黎城、武乡等地日军三四千人分5路出动驰援，还有飞机十余架助战，结果又付出重大代价，才抢出一部分残兵和伤员。为了避免决战，部队在彭德怀的命令下撤出战斗。
战后彭德怀向刘伯承坦诚道歉，双方尽释前嫌。