王允借呂布之力殺掉董卓後，在如何處置涼州兵的問題上，朝令夕改，進退失據，他本是打算全部赦免董卓的部曲，呂布也數次勸他應該這么做，但後來他又改變主意，認為：「此輩無罪，從其主耳。今若名為惡逆而特赦之，適足使其自疑，非所以安之之道也。」又決定不專門下詔赦免涼州兵，而決意打算把他們解散掉，使各歸鄉。

這個時候，有人上言，進諫於他，說：涼州人素憚袁氏而畏關東，今若一旦解兵，則必人人自危。可以皇甫義真為將軍，就領其眾，因使留陝以安撫之，而徐與關東通謀，以觀其變。

皇甫嵩名震天下，戰功赫赫，品德又好，且還是涼州人，用他來接替董卓，是足以鎮撫涼州諸軍的，可王允卻不同意這個建議，他回答以「關東舉義兵者，皆吾徒耳。今若距險屯陝，雖安涼州，而疑關東之心，甚不可也。」仍是決定要解散涼州兵。

呂布既有了協誅董卓的功勞，被王允用朝廷的名義拜為奮武將軍，進封溫侯，於政治待遇上則假節，儀比三司，得以與王允共秉朝政，遂因此而頗有了些政治抱負，先是數勸王允赦免董卓部曲，繼又請求以董卓的財物賜給公卿、將校，以安人心，殊不料王允名義上雖給了呂布顯貴的職務，而實際上卻是以「劍客」之徒來視呂布的，自然不肯聽從他的建議，這樣一來，呂布、王允兩人的內部之間就出現了矛盾。

同時，王允因誅滅了董卓，自以為從此之後，朝廷無復患難，居功自傲，每與群臣集會，不再像以前那樣與諸臣推心置腹，共同商討權宜之計，而是正襟危坐，面無溫潤之色，於是，群臣也就不是很擁戴他了。和群臣之間，王允亦出現了不和，乃至殺掉了大名士蔡邕。

內已不和，王允外又不聽從別人的進言，堅持要把涼州兵全部解散，這樣就導致長安出現了緊張的局面。

董卓死後，涼州兵群龍無首，本即不安，又聞王允欲罷其軍，如李傕、郭汜之輩惶恐不已，不知適從，有心解散部隊，可因無朝廷的赦書，又擔憂既然這般做了，到最終仍是難逃一死。

時勢造英雄，英雄造時勢，當時勢隨著事態的進程發展到轉折口時，有時候，一個人、幾句話就可以決定其接下來的走向，使之或向左、或向右繼續前進，——賈詡就是有這樣能力的一個人。賈詡時在李傕軍中，他對李傕說道：「聞長安中議欲盡誅涼州人，而諸君棄眾單行，即一亭長能束君矣。不如率眾而西，所在收兵，以攻長安，為董公報仇，幸而事濟，奉國家以征天下，若不濟，走未後也。」所謂「奉國家以征天下」，實即挾天子以令諸侯。

此策一出，李傕等俱皆以為然，乃與郭汜、張濟等涼州將校結盟，率兵數千，西攻長安，王允遣董卓舊部迎戰，被李傕、郭汜擊敗，反降於李、郭。李傕等沿途收攏部隊，到達長安時眾已至十余萬人，再又與董卓的舊部樊稠、李蒙、王方等會合，兵勢愈振，共同圍擊長安城。

呂布以一己之力敵李傕等諸將校之攻，守城十余日，結果因城內叟兵之叛，——叟，是青羌的一支，叟兵即是由叟人組成的部隊，涼州兵中多羌人，故此叟兵與之暗通，進而叛變，他們叛變後，打開了城門，迎涼州兵入城，呂布由是戰敗，只帶了百余騎殺出重圍，東逃出關。

呂布出逃時，招呼王允共走，王允以「天子年少，不能棄天子獨逃」為由拒絕了呂布。