靳准还想除掉朝廷中的刘氏宗族，就对刘粲说：“我听说诸位要象伊尹、霍光那样废掉陛下，后杀微臣。陛下应该早做准备！”刘粲不听。靳准就让他的女儿们大吹枕边风。刘粲就把刘景等所有刘姓官员全部杀死。
其他重臣发现靳准要作乱，纷纷逃亡，呼延晏逃到长安投奔刘曜，王延去襄国投奔石勒。
半路上王延被靳康的部队抓获。靳准就率领亲兵来到刘粲的后宫，把正和皇太后们喝酒的刘粲给抓起来斩首。然后把平阳城里所有的姓刘的人不论男女老幼统统就地处决，把刘渊、刘聪的尸体从坟墓里挖出来，统统割掉脑袋挂到城门上示众。
靳准自称天王大将军，想拉拢王延为他做事，王延骂道：“你这家伙赶快杀死我！把我的左眼睛放在西门看丞相杀死你，右眼睛放在东门看大将军来杀死你！”靳准就把王延给杀死，认为自己是汉人，赶走了匈奴人，老百姓应该大力支持才对，就向东晋上书请求庇护，并亲自率领大军征讨石勒。
靳准的计划全部顺利实施。但是他好象低估了刘曜和石勒军队的战斗力。不久，刘曜从长安发兵征讨靳准，石勒也率领五万精兵前来迎战。石勒不清楚刘曜的战况，就对靳准实施坚壁清野的战术，靳准屡次挑战，石勒只是用乱箭回击，没几天靳准粮食就跟不上了，不得不撤退。
刘曜的部队在晋军途中碰到了逃亡来的呼延晏。呼延晏告诉刘曜母亲和兄长被杀的消息，并劝刘曜进皇帝位。刘曜大哭不止，命令全军素服迎战，任命呼延晏为司空，石勒为大司马大将军，大赦天下，惟独不赦靳氏一姓。
靳准发现两军势大，由于自己灭绝刘姓满门，恐怕刘曜不会和自己善罢甘休。就命令侍中卜泰给石勒送去厚礼要求媾和。石勒把卜泰装入囚车送给刘曜。刘曜却把卜泰放出来说：“先帝从前确实对百姓不好，如果靳准不动手朕还当不上皇帝呢。只要靳准早点投降，不光免死罪，还要委以重任呢，希望阁下去告诉一声。”(刘曜的做法实在是老谋深算，希望能不战而屈人之兵，但是他可没考虑石勒的想法)靳准听了卜泰的传话，一时无法判断真假。他弟弟靳康等不及了。就联合卜泰和弟弟靳明合谋杀死哥哥靳准，推举靳明为首领，让卜泰送给刘曜传国玉玺。石勒听到这个消息非常生气，命令侄儿石虎为先锋猛攻平阳，靳明出城抵挡，屡战屡败，不得不退守平阳。石勒对平阳日夜攻打，靳明只好率领平阳百姓一万五千多人投奔刘曜，刘曜一看灭门仇人来了，顿时翻脸把靳氏一家满门抄斩。