建安二年（197年）九月，曹操东征袁术之战收效不错，斩杀了袁术手下的桥蕤等四将，巩固了东部的汝南郡、陈国、梁国等势力范围。这一仗没有怎么大打，曹操也无心继续扩大战果，他下令迅速回师许县，准备南征张绣。
十一月，曹操率军出发，首先抵达南阳郡最北边的叶县，与驻守在这里的曹洪会合。如果曹操再不来，曹洪可能真守不住了：张绣的部队以凉州军为老底子，战斗力很强，刘表又派邓济等人支援张绣，南阳郡呈现一边倒的态势。
曹操首先进军湖阳，那里有刘表的人马驻守，曹军攻克湖阳，生擒了刘表的部将邓济。之后，曹军转攻舞阴，将其攻克。
在肃清了宛县这些外围后，曹操率军攻打张绣的大本营宛县，进军到水河畔。这里是曹操的伤心之地，去年，他的长子曹昂、侄子曹安民以及心爱的部领典韦都战死在这里。
根据《魏书》记载，曹操在水河畔举行仪式，祭奠阵亡将士。曹操亲自参加祭奠，欷流涕，将士们都深受感动。
但是，建安二年末的这次军事行动却突然中断了一段时间。曹军在宛县一带过的年，之后又回师许县，没有记载显示是张绣、刘表联军打退了曹军的进攻，曹军是自己撤回去的。
还有一种可能，曹军没有回师，仅是曹操带少数人回到了许县。曹操离开主力回到后方，一定是有重大事情需要处理，但具体何事不得而知。后一种的可能性更大，因为曹操在许县仅停留了一个多月，就又回到了南阳郡前线，这次他还带上荀攸一同前往。根据《三国志荀攸传》记载，荀攸劝曹操暂时不要在南面用兵，荀攸说：“张绣与刘表相恃为强，然而张绣只是一股游军，处处要仰仗刘表的接济，刘表一旦不给他提供资助，二人势必分离。不如暂时缓兵，让他们自动分开（可诱而致也）；如果我们攻得急，刘表对张绣肯定不能不管，要全力相救。”
事后证明，荀攸的这个分析是有远见的，但曹操考虑到南面的事不能拖下去，必须尽快解决，好让自己无后顾之忧，从而腾出手来对付东面的吕布和刘备。所以他没有采纳荀攸的建议，继续进兵。
在曹军的强大攻势下，张绣的主力离开宛县南撤，退到距宛县一百多里外的穰县（今河南邓县附近）。曹军进攻穰县，与张绣军展开激战，张绣顶不住，急忙向刘表求援。
果然如荀攸分析的那样，张绣之于刘表，就是一面坚固的盾牌，张绣在前面顶不住，刘表不能不管。刘表派兵驰援张绣，史书没有确切记载刘表派了多少人马前来，但这次他一定动了老本，因为他派来的人不仅有驰援穰县的，还悄悄分出一支人马占领了一个战略要地，要给曹军来个前后夹击，让曹军有去无回。
这个地方名叫安众，接下来将让曹军大吃苦头。
穰县城里的张绣迎来了刘表的援军，士气大振，曹操攻城遇阻。张绣在城里作着长期守城的准备，但他突然接到了报告，说曹军主动撤退了。张绣有些不解，从目前的形势来看，曹军仍然占有优势，何以无缘无故撤退呢？张绣害怕曹操使诈，下令先不要贸然去追。
曹军撤得很快，一路向北而去，张绣看看不像有诈，于是大胆追了上去。张绣有所不知，曹操下令回师并非使计，而是真的，因为许县大后方出了问题。根据《献帝春秋》记载，听说曹军主力南下，田丰劝袁绍趁机袭击许县，将献帝抢到自己这里来。袁绍手下有人叛逃到曹营，提供了上述情报。曹操接报后，认为事关重大，丝毫不敢迟疑，即刻挥师北撤。这件事很蹊跷，史书记载也十分简单。可以猜测的是，要么田丰真有此议，袁绍确实准备发兵袭取许县；要么是袁绍造的谣，目的是不让曹操太顺手；还有一种可能，是贾诩的计策，为了解穰县之围，故意制造谣言，给曹操提供了假情报。
不过，曹操在做出回师决定时，一定是有充分依据的，如果这样看，第一种可能性应该最大。
曹军要回师许县，最快速的推进方式是走南方大道。走这条道就好比上了高速公路，直线距离最短，路也最平坦宽阔。
东汉的南方大道跟东方大道、东北方大道一样，是全国交通网里的骨干线路，它起自洛阳，连结鲁阳、宛县、穰县、襄阳以及南郡的治所江陵（今湖北江陵）、武陵郡的治所汉寿（今湖南常德）。
曹操现在只想火速回师以解许县之危，因此想都没有想，指挥人马沿着南方大道向北疾行。谁知，这条行军路线差点让他们全军覆没。
穰县以北仅二三十里处，是一片山地，地势很险要，南方大道穿山而过，在此形成了一处要塞，此地就是安众。
曹操包围穰县时，没有想过这么快就会撤军，所以忽视了背后的这处要点。刘表的援军恰恰发现了这里很重要，于是分重兵占领，实际上断了曹军的后路。
刘表的人马进入安众要塞后，立即整修防御工事，以南方大道为轴线，以山地为依托，很快建成了一条东西连绵数十里的防线。
曹操率军抵达安众，突然发现过不去了，如果绕道而行，无论向西还是向东都是山区，道路不畅，费时费力不说，敌军依托有利地形更容易袭击自己。安众防线就像一条铁链，牢牢地缚住了急于回师的曹军。
张绣也指挥穰县的人马从后面杀来，曹军面临前后被夹击的不利处境。双方陷入僵持，情况对曹军很不利，虽然人数占优势，但在有限的区域内兵力难以全部展开，在这种情况下，守着有利地形的一方更占优，曹军陷入了所谓的死地。
在此关键时刻，曹操发挥了他在军事上的天才想象力，指挥人马神不知鬼不觉地突破了看似牢不可破的安众防线，并且基本上没有什么损失。
关于这件事，《三国志荀传》说，曹操先是给荀写了封信，说“只要到了安众，必然能打败张绣”，后来果然就把张绣打败了。后来荀见到曹操，讨教破敌的原因，曹操的回答是：“兵法说‘归师勿遏’，而敌人非要阻挡我们的归师，并且跟我们争夺死地，我因此知道他们必败。”
曹操的这番话等于没说，不是所有的归师都能打胜仗，也不是所有在死地里的归师都能起死回生。曹军之所以化险为夷，是因为他们采取了敌人想象不出的作战方式：地道战。
曹军白天与敌人对阵，晚上悄悄在最险要的地段挖掘地道，这项巨大的工程估计颇费了些时日，绝不是一夜之间可成的。根据史书记载，曹军到达安众时是五月，回师到许县荀向曹操讨教破敌秘密的时候已经是七月了，这也从侧面印证了安众地道挖掘工程量的巨大。
最后，曹军的工兵部队以顽强的毅力挖通了安众防线，曹操指挥人马趁夜遁去。
天亮后，张绣吃惊地发现，数万曹军一夜之间不见了踪影，侦察之后才发现，曹军已从地道里越过了他们精心构筑的防线，张绣立即下令追击。贾诩过来劝张绣不要追，否则必然失败。张绣不听，指挥所部人马以及刘表的参战部队全军压上，沿着曹军撤退路线追击（悉军来追），果然吃了败仗。
他们还没有追上撤退的曹军，就先后迎面遇上了曹军新投入战场的两支生力军，这两支人马不约而同挡住张绣、刘表联军，上来一顿猛打，把张绣、刘表联军打得大败而回。
这两支人马，一支由曹仁带队，一支由李通率领，他们倒不是商量好的统一行动，而是碰巧遇到了一起。
曹仁没有随曹军主力行动，曹操派他肃清宛县附近几个县的残敌，而李通驻守在南阳郡以东的汝南郡，是曹军距此最近的部队。这两个人马都是得知曹军主力被阻于安众防线而前来解围的。赶到时，正好遇着曹操率大队人马从地道里钻出来仓促北撤。
曹操说你们来的正好，张绣必然会率大军追过来，你们就在此打阻击吧。所以，当敌兵杀过来时，正好与他们相遇。
追击不成损失不小，张绣很后悔。谁知贾诩这时又过来力劝张绣立即再追。
张绣以为听错了：“当初没听您的话，结果打了败仗，现在都这样了，为什么还要追？”贾诩说：“现在敌情出现了新变化，去追一定能取胜。”张绣抱着将信将疑的想法派人追击，这一次竟然打了胜仗。
事后张绣请教贾诩胜败的原因。贾诩说：“曹军开始退却，但曹操必然会派精兵断后，我们追击必然失败。打败了我们的追击，他们又会轻军前进，没有料到我们会再来，所以我们就能取胜。”张绣听了，简直佩服得要命。
曹操再征张绣，居然又遭失败，在曹操的军事生涯中，这是绝无仅有的事。
曹操回到许县，对荀攸感慨地说：“没有听先生的话，才造成今天的结果呀（不用君言至是）！”言语之间，对一再败于南阳郡而十分后悔和无奈。