南乐一战，旗开得胜。杨勇决定：乘胜出击，再克东平。
东平，位于泰安、肥城西南，东平湖东畔，是鲁西较为富庶的地区之一。这里盛产小麦，流传着“收一收，吃九秋”的民谣。
自1938年沦陷后，东平成为侵华日军的一个粮源点。到1945年春天，已陷入灭顶之灾的侵华日军，仍没有放弃对东平的占领和掠夺。驻守在县城的日军第9独立警备队的1个小队和伪山东省警备队第1大队冯寿鹏等部，经常进犯根据地，掠夺财物和粮食。
为了固守东平城，敌人加固了20米高的古城墙上的防御工事，加强了4个城门楼和城墙角的碉堡、炮楼以及城周围的二十里铺、北大桥、孟楼、三官庙、大安山等据点的兵力。入春以来，他们加紧实施伪山东省省长公署下达的实质是抢夺夏粮的所谓“夏季政治攻势计划”，准备发起大规模的抢粮活动。
为了粉碎敌人的抢粮计划，收复失地，5月9日，冀鲁豫军区发布了役字第4号命令，决心以第1、第8、第11军分区的主力和第9军分区骑兵团及一部分地方武装，组织东平战役，主要攻占东平，相机夺取东阿，乘势扫除盘踞于嘉祥、济宁、金乡、鱼台地区的伪军及国民党顽军。
杨勇决定：第1军分区为左纵队，攻打东阿县城；11军分区及9军分区骑兵团为右纵队，歼灭金乡至济南公路以西之敌；8军分区为中央纵队，攻占东平县城，打击济宁、汶上出援之敌。确定攻击开始时间为5月17日22时，要求战役必须于20日拂晓前结束。
整个战役，由冀鲁豫军区杨勇副司令员、曹里怀参谋长携电台随中央纵队进至东平附近统一指挥。
以7团、军分区特务连、公安连、炮兵连及9军分区山炮连组成第1梯队，统一由7团温先星团长和杨俊生政委指挥，攻克东平城，歼灭日伪军。
5月15日，各部队进至集结城域后，马上投入了紧张的战前准备工作。
杨勇的性格是，每逢战斗，哪里是主攻点他就去哪里，哪个单位是主攻单位，他就首先到这个单位检查情况，鼓舞士气。这次，他又亲临7团驻地——龙王庄、小吴村视察指导。
为保证战斗动作的突然性，各部队事先都派出侦察分队。他们在民兵的配合下，封锁了部队驻地的消息，无通行证，任何人不得出入。
17日黄昏前，在夜幕的掩护下，各参战部队从集结地域出发，向各自作战目标快速前进。17日22时，7团按规定准时在东平城南接近城垣。1营埋伏在南城楼至东南城角炮台间的护城河南岸，2营在城西南，待命行事。
事先，东平县敌工部的同志已争取了驻南门城楼伪军中队长解广运，答应为我攻城部队打开城门。
23时许，7团副参谋长徐仲禹、副主任惠毅然、东平县敌工部长郭刚等，在特务连1个排的掩护下，接近南门，用暗号与内线联络，但联络不上。
原来解广运突然变卦，内线已被破坏。伪军诡称道：
“你们讲话听不清，靠近一点。”
就在徐副参谋长等上前与之对话时，伪军突然从城墙上扔下几颗手榴弹，惠副主任和郭部长躲闪不及被炸伤。
见此情况，徐仲禹怒从心头起：“等老子打进城，非把你们这伙汉奸严办不可！”说完，就跑到2营阵地，命令炮火支援，实施强攻。
担负突击任务的1营1连，从南门西侧，以勇猛、机智、神速的动作，抵近城墙，架起云梯，一举偷袭登城成功。守城伪军被突如其来的突击队打得一时乱了营，不知所措。突击队迅速乘胜向南门城楼发起攻击。
与此同时，1营2连越过护城河，在南门城楼东侧600米处偷袭登城奏效，登上城楼的突击队员和城墙下的同志一起向西边的南门城楼进击，并以火力封锁了城楼东侧的马道，切断了城楼守敌唯一的退路。城楼守敌在我左右夹击下，大部被歼。
残敌走投无路，顺墙坠下，落荒而逃。
1连连长李如田和指导员立即派人打开南门，接应后续部队入城。