那些便衣官兵纷纷露出本相要杀死沮渠蒙逊，被愤怒的人们一拥而上，把他们全部杀死祭灵，并拥立沮渠蒙逊为首领，造反了。
沮渠蒙逊的哥哥沮渠男成听说弟弟造反了，也带领手下造反，围攻后凉的酒泉。酒泉太守是被吕光排挤出京城的段业，一开始还准备抵挡匈奴人的进攻，看到连手下都同情他们，心里非常感慨。沮渠男成又派来使者说愿意推举段业为领袖，段业倒是很心动，就半推半就地担任大都督兼凉州牧，成为北凉的首任君主。
沮渠蒙逊打仗很厉害。三人聚集后，段业就指派沮渠蒙逊进攻祁连山下的西城。(今敦煌以东)镇守西城的是吕光的侄子吕纯，沮渠蒙逊到了城下就算到数日内必有大雨。下令疏浚西城旁的河道准备堵水。河西走廊一向干旱，吕纯看着沮渠蒙逊瞎忙活不禁暗暗好笑，正在看他的好笑话时突然天降暴雨，从祁连山上冲下来形成山洪，再被沮渠蒙逊把河道一堵转到西城方向去，顿时整个西城陷入一片汪洋，吕纯无处可逃，只好投降。于是周围敦煌等城市纷纷向沮渠蒙逊投降。段业又让沮渠蒙逊进攻张掖，张掖守军听说来进攻的是个能呼风唤雨的神人，吓得连夜弃城逃跑。段业趁机跟进，占领了张掖城。
段业还想继续追击后凉退兵，沮渠蒙逊就说：“归师勿遏，穷寇勿追，此乃兵法要诀，不能不知道。”而段业则不以为然，带兵继续追击，半路上遭到吕光的大儿子吕纂的埋伏，战败后段业很有感触，对沮渠蒙逊说：“我有了你这样的高人，就象汉高祖有了张良一样埃”五胡录 *第八章*凉州风云(二)平静的凉州突然风云变幻，后秦姚兴、西秦乞伏乾归、后凉吕光、南凉秃发利鹿孤、北凉段业五股势力一块雄起，互相混战，忽而联合，忽而翻脸，打个不亦乐乎。这五大巨头再加上下面的西凉李暠和后文中的胡夏赫连勃勃，合称凉州七国，这些国家存在的唯一意义就是和邻居打架。
不久，在五国中间的后凉就首先发生内乱。国土分崩离析的吕光在众叛亲离的打击下绝望地死去，临死前自称太上皇，立次子吕绍为天王，任命长子吕纂为太尉，(和慕容家的情况一样，也是庶生的。看来古代富家公子没到结婚年龄时都喜欢先找丫环练习练习？比如雷雨里的周朴园...)三子吕弘为司徒，对吕绍说：“如今国家多难，群寇环伺，我死后你让吕纂掌握兵权，吕弘掌管朝政，自己只管清净无为，委托两位兄长，足以自保。如果你们不听我的话，互相猜忌，恐怕国家灭亡就在眼前。”然后又嘱咐吕纂和吕弘说：“吕绍为人忠厚拙朴，只是因为出身正统才担任国家元首。你二人一定要死保弟弟，方能在乱世中活下去。吕纂性情粗暴，我一直很担心，切记不要听信谗言！”吕光说完后当天晚上就病死了。
吕光的想法很有道理，提的意见和建议也都很正确，但几个儿子听不听就是另一回事了。
吕光一死，他的遗言就约等于放屁。为了稳定民心，吕绍决定先不发丧看看情况再说，而吕纂就偏不给他面子，领着手下跑到灵堂嚎啕大哭。吕绍一听有人公然哭灵，跑过来一看是大哥，又看到吕纂领了一大帮人见了自己也不跪下，心里发虚，就对吕纂说：“兄长位高威重，小弟愿将位置相让。”
吕纂这时相当客气，阴阳怪气地说：“陛下是一国之君，这样说话不是把微臣陷于不仁不义之地么？”双方互相推让，吕纂执意不收，带着手下扬长而去。