中平四年（187年）二月，年关刚过，凉州发生巨变，韩遂发动兵变，突然袭击，杀死了边章、北宫伯玉、李文侯等人，尽收其兵，拥众十余万，并且进军包围陇西。而此时，凉州许多小豪强、小地主以及许多寒门人士都投向了韩遂，其中知名的有：阎行、候选、李堪、程银、张横、马玩、梁兴等人。一时间，韩遂声势暴涨。
四月，凉州刺史耿鄙集结了六郡兵马对韩遂军展开了攻击，他撇开了皇甫坚寿、董卓等将，独自进兵，并且不听汉阳太守盖勋的建议，重用治中从事程球，部下尽皆不满，盖勋知道耿鄙刚愎自用，此仗必败无疑，于是辞官回乡了，消息传到朝廷，正好因为傅燮刚直犯上，不论是宦官还是朝廷大臣都对他非常反感，现在凉州这么乱，又有太守弃官不做了，于是便让他担任汉阳太守，这时候，傅燮还是刚出洛阳。
耿鄙大军一路上走走停停，用了近半月时间才到了陇西，可变故也就在这时候发生了，军中士卒对耿鄙宠信程球多有不服，在耿鄙大军和韩遂军相拒了十多天后的一个夜里，陇西太守李相如、酒泉太守黄衍率兵反叛，耿鄙的別驾韩间（汉奸，查不到名字）也一并反了，他们先杀了程球，再杀耿鄙，一时间，凉州兵大乱，大部分人马不是逃散就是投降了，只有马腾凭借着平日里在军中的威望带了三千人逃回了冀城。此时冀城里只有皇甫坚寿所部驻守。
与此同时，狄道人王国也起兵两万响应韩遂，韩遂推王国为主，大军十余万进而进兵汉阳，皇甫坚寿兵少，只能收缩兵力，退守冀城。此时，马腾在城中号召士卒共同推举皇甫坚寿为帅，主持冀城防守事宜。韩遂大军攻城两月不克。因为怕朝廷反应过来，韩遂只能命阎行带候选、李堪二将领三万人留守，盯着城中的皇甫坚寿所部，自己和王国领大军继续进步，以期望在朝廷反应过来之前攻克陈仓，然后可以入寇三辅。
皇甫坚寿兵力不足，没办法，只能眼睁睁的看着韩遂带兵远去而不能出城作战，毕竟城外还有个阎行，要是出城作战被两面包抄，那可不是开玩笑的。现如今整个凉州除了冀城和安定那边的董卓部，只怕其他地方都已经被韩遂拿下了。不过马腾终归是投入他的麾下，这件事令他开心不已，看来以后免费多了几个打手了。
韩遂终归是没能快速拿下陈仓，又一次被挡在了陈仓城下，韩遂的心情很是不好。原本的情报显示，陈仓只有周慎部一万人驻守，虽然地势险要，易守难攻，可是毕竟周慎部士卒只有万人，韩遂大军众多，打个几天就能把城池拿下。本来也确实是这样，第一天韩遂大军就冲上了城墙，第五天城池就已经摇摇欲坠了，可就在这个时候，新任汉阳太守傅燮带了一万援兵赶到了，并且后方还有援兵继续向陈仓进发。
原来是傅燮赶到长安的时候听说韩遂包围了冀城，凉州已经全乱了，得知陈仓只有周慎一万人镇守的时候，立刻请求长安的留守派兵前往陈仓驻防，傅燮亲自带队来到陈仓，他来得正好，此时陈仓城内的部队只剩下五千左右，就连周慎本人都身受重伤，只能让傅燮担任主帅，负责守城。
这一直打到十一月也没能将陈仓打下来，韩遂心里越来越急躁，刚刚传来消息，朝廷命因为赵忠诬陷导致被免职的皇甫嵩率兵两万前来陈仓，令皇甫嵩都统董卓、皇甫坚寿、傅燮等凉州众将，以抗衡韩遂叛军。而这一年发生太多事，导致朝廷根本没有更多的兵力前来支援凉州。
这一年八月，故中山太守张纯造反，其同乡张举也起兵响应，他们和乌桓丘力居结盟，霍乱幽州，杀汉护乌桓校尉公綦稠、辽东太守阳众等人。拥众十余万，一时之间，幽州震动。皇帝发诏，征南匈奴部队随幽州牧刘虞一同进兵讨伐张纯。而南匈奴人却半路反叛，并且攻入并州，并州刺史连忙领兵抵挡匈奴乱兵。幸好新任的右北平太守公孙瓒勇猛过人，他率部连胜张纯三阵，打得张纯逃到草原上不敢回来。
而南边也不消停，长沙人区星在长沙举兵造反，意图割据江南，荆南多有豪强拥护他，朝廷命孙坚为长沙太守，引兵五千前去平叛。孙坚到了长沙后善待百姓，作战身先士卒，很快就平定了区星之乱，朝廷大喜，总算听到好消息了，于是封孙坚为破虏将军、乌程候。
而凉州这边，皇甫嵩到了陈仓之后并没有发起进攻，而是命众将坚守城池，只管挡住韩遂军前进的路线，凉州历来缺少粮草，可这次他们没办法，只能拼命打破陈仓，只有这样才能进入繁华的三辅，只有这样，这十多万部下才不会挨饿。皇甫嵩看出了这一点，于是按兵不动，坐等叛军内乱。
时间不知不觉到了中平五年（188年）五月，因为久战无果，韩遂军士气低落，于是便撤军返回金城，这边部队一撤，那边皇甫嵩立马拍傅燮乘胜追击，大破韩遂军，缴获了大量物资，并斩首万余，韩遂狼狈逃回了金城，并且废了王国的统领位置。而这时候，皇甫坚寿也趁阎行松懈的时候夜袭阎行大营，阎行损兵折将，被迫退往金城，自此，汉阳郡全盘收复了。
而此时，朝廷的封赏也来了，皇甫嵩功劳甚大，封为左将军，加食邑六百户。董卓颇有功劳，为前将军，傅燮守陈仓有功，封荡寇将军，皇甫坚寿守冀城有功，封爵关内侯，迁为河东太守。并且命董卓率部驻防冀城，傅燮守陈仓，周慎守安定，皇甫嵩屯兵冀城以抵挡韩遂大军。
而此时，韩遂军内部也是纷争不断，于是凉州叛军渐渐地衰落下来。恰好此时南匈奴又叛，引兵勾结鲜卑人进兵北地，皇甫嵩受命领三万人驻守北地，而命董卓为凉州刺史。至此，凉州的动乱才宣告歇下来。