在袁庄、大范庄战斗激烈之时，林南战役也已全面展开。
在卫南战役结束前夕，八路军第129师决心乘胜集中太行军区、冀南军区一部，在冀中军区警备旅和太岳军区的配合下，发起林南战役，消灭盘踞在平汉铁路以西太行山南部地区的伪第24集团军庞炳勋、孙殿英部主力。
根据伪军庞炳勋、孙殿英部指挥不统一、部署分散、士气低落，且与周围日军有矛盾等情况，八路军第129师决定首先分割围歼林县地区伪军主力，然后扩张战果，消灭合涧、东姚、临淇等地伪军，同时，以少数兵力阻击、侧击可能出援之日军。
林南战役的部署是：东集团由太行军区第13团、冀南军区第771团全部，太行军区第1、第10、第34团，冀中军区警备旅第2团各一部和太行军区第5军分区工兵排组成，进攻林县城附近的姚村、横水、东姚等地伪军；西集团由太行军区第2、第3、第32、第769团和冀中军区警备旅第20、第32团及太行军区第3、第4军分区的工兵排组成，进攻林县城及其西南的合涧、原康等地伪军，重点摧毁伪第24集团军庞炳勋、孙殿英部指挥机关；以第129师师部特务营和太行军区第5军分区及地方部队各一部，组成汤安支队，在水冶、观台一线阻击安阳可能出援之日伪军；以抗大第6分校学员组成武工队，在人民群众配合下，牵制和袭扰日伪军。同时，太行地区3000余民兵参战，太岳军区部队出击白晋铁路线上日伪军，策应作战。
8月16日夜，林南战役的参战部队分别由平顺、壶关和涉县等地出发，急行军至林县西、北地区隐蔽集结。17日上午，东、西兵团的先遣分队开始向敌前哨据点逼近，实施佯攻，下午又突然后撤，借以麻痹敌人。
黄昏后，正式进攻开始了。八路军东、西兵团主力分别从集结地出发，对林县县城及周围之敌进行远距离奔袭。
这天晚上比较凉爽，月光不太亮，东兵团主力部队深一脚浅一脚地行进在崎岖不平的山路上。经过半夜的跋涉，部队避开伪军的前哨据点，从东、西两面包围了林县东产的南北陵阳、东西夏城和蒋里等伪军据点，以吸引敌人的注意力，配合西兵团攻打林县县城的作战行动。
西兵团在完成对敌包围后，于18日零时30分，即集中兵力和兵器，强攻林县县城的敌指挥中枢。769团率先对城西北附近的伪军据点展开攻击。20团趁机由城西、3团由城东同时发起强攻，一举攻入城内，但到天明以后，伪军经过数次反扑，又夺占了南门和西南角，妄图以火力封锁八路军的前进道路。
18日午时，20团和3团同时对刘月亭的前敌指挥部发起猛攻。这次战斗异常艰苦，一直打到18时，才将刘月亭的指挥部和伪保安司令部解决。刘月亭负伤逃跑，其参谋长何光弟被击毙。与此同时，八路军警备32团一部全歼了刘月亭的警备营，769团一部也攻克了城西桑园、郝家庄的伪军据点。
此时，林县县城内还有部分日军，顽固踞守，拒不投降。18时，警备32团击溃了城外马圈的伪军后，于24时，与20团全部、769团1个营一起对城内头道营被围的日军发起进攻。
日军见势不妙，乘夜突围，逃至南关，林县再次陷入八路军的包围之中。至19日，除了这部分日军外，林县县城及附近的伪军全部被肃清。日军为了解救这部分被困人员，调动了数架飞机向进攻的八路军轮番轰炸、扫射，直到有1架被击落后，才悻悻离去。
八路军西兵团见日军火力强硬，便留下部分围困部队，主力则挥师南下，击溃林县以南合涧、原康的伪军，飞速进击临淇。
21日24时，八路军32团与警备32团在临淇外围全歼伪独立旅1营。但刚进入临淇时，即遭到驰援而至的辉县日军的攻击，为避免日、伪夹击，八路军撤出了战斗。
23日，西兵团开始向辉县以北之东西平罗的伪军第8纵队进击。当日21时，八路军2团和警备32团开始攻击西平罗，20团、32团等部攻击东平罗。但西平罗一仗打得十分激烈残酷。八路军一度攻入村内，大量地杀伤了敌人，后因弹药消耗太多也未能将敌全歼，自己伤亡也不小，只好撤出战斗，转移至原康地区待机。东平罗的伪军在八路军的连日猛攻之下，被迫于26日弃村南逃，该地区遂为八路军32团占领。
这个时候，八路军东兵团也取得了很大的战绩。18日零时30分，东兵团除以警备2团一部监视敌正面前哨据点姚村、何家的伪军杨振兰独立旅外，其他各部先后向各自当面的伪军据点展开了攻击。
771团及10团一部直杀向北、南陵阳的伪第5军第4师牛瑞亭部主力10团。敌人凭借砖石结构的房屋负隅顽抗，八路军战士们奋起冲击，激战至13时，将守敌全部歼灭。14时，皮定均指挥1团和34团也攻克了东西夏城。
接着，太行军区7分区副司令员兼1团团长方升普率团从西、34团团长蒋克诚率团从东，一齐向曲山发起进攻。曲山正是伪第5军第4师师部所在地，经两个小时的战斗，敌人溃败，伪师长牛瑞亭南逃。至19日晚，蒋里、姚村、何家的伪军也全部被消灭。
至此，林县附近只剩下了被围在南关的日军。
伪军庞炳勋、孙殿英因连遭歼灭性打击，计划向东逃窜。为此，八路军决定乘日军援兵尚未完全到达之际，以西兵团主力继续向盘踞辉县以北的伪军进击，以东兵团主力由东姚地区经盘石头南下，截击可能由淇河东窜的伪军。伪军在八路军的猛烈打击下，一路狂奔，于24日逃到了平汉线一带，八路军已没有再追击的必要。
同在24日，日军援助林县南部被困部队的分队已经进入林县地区，其中安阳出援的日军1000余人甚至到了林县，辉县出援的日军400余人也进至临淇。八路军西兵团的769团沿途阻击，另外2个团则飞速靠近。日军唯恐被包围聚歼，乘着黑夜抢渡淇河退往林县县城方向。当时，正值连日大雨，山洪暴发。在八路军的追击下，仓皇渡河的日军被淹没、冲走100余人。
由于渡河困难，八路军停止追击，林南战役至此胜利结束。
林南战役从1943年8月18日零时30分开始，到26日结束，历时9天，共歼灭日伪军7000余人，攻克敌据点80多处，解放人口40多万。（徐深吉：《林南大捷》）