董卓死后，王允在如何安排和处理他的旧部时，反复无常，态度极不慎重。他先是想全部赦免董卓的部下，吕布也多次相劝，可继而王允又对群臣解释说：“本来，他们是没有罪的，只是身不由己，跟随董卓，所以不得已听从董卓差遣，犯了错误。现在如果给他们突然加上恶逆的罪名，而且特定赦免他们，恐怕反而使他们猜疑恐惧，心理承受不了，所以，赦免他们无罪不是使他们安心的上上之策，还不如让他们承受惩罚。”王允平日却看不起吕布，以剑客对待他。吕布也认为自己有功劳，自吹自擂，既不得意，渐渐与王允不和了。
凉州兵是董卓的嫡系部队，战斗力强，而且对董卓最忠心。董卓死后，如何处置凉州兵，是关系王允本人和东汉政权的大事。王允企图削夺凉州兵将领的兵权，取缔全部凉州兵，并且计划利用关东兵去控制他们。可是后来有人对王允说：“凉州兵素来害怕袁绍，畏惧关东兵，而今，如果派关东兵去解散他们，凉州兵人人都会担心性命不保，这样，很容易引起兵变和混乱。还不如任命皇甫嵩为将军，去担任凉州兵的统帅，并让他长期留在那儿，以便安抚军心。”王允坚决反对。
凉州百姓听到王允想解散凉州兵的风声后，便到处传言，说王允要杀掉所有凉州人，一时之间，整个凉州人心惶惶，一片惊慌。凉州兵将领本来就成了惊弓之鸟，对自己的前途深感忧虑，当他们得知王允要削夺他们的军权，解散凉州兵的消息后，更是惊慌。绝望的凉州兵寻思：反正是一死，不如死个痛快。于是他们迅速召集军队，严阵以待，准备见机起事，并且互相传告：蔡邕只不过受了董卓的一点厚遇而已，王允便不分青红皂白地把他杀了。对于我们，不仅没有丝毫赦免的意思，反而想剥夺我们的兵权，置我们于死地。我们除了联合起来，别无选择。
当时，凉州军中最有影响和实力的将领是李傕和郭汜。二人听从李儒建议，聚集了张济、樊稠等董卓旧部，他们将所有凉州兵集合起来，誓师进发都城长安。东汉官兵不堪一击，不久，李傕、郭汜的部队便攻陷长安。吕布慌忙领兵引兵迎战，结果因兵力悬殊过大，大败而归，只引数十骑护着家眷逃离长安。
王允被西凉贼兵逼迫，为保天子，纵身跳楼而死。李催郭汜把持朝政。