当天夜里，元礼和裴虔通在宫中当值，负责做内应；城门郎唐奉义负责将宫城的所有城门虚掩，接应政变部队。三更时分，司马德戡在东城集结了数万名士兵，燃起火把互相呼应。杨广半夜忽然醒来，看见火光照亮了江都的夜空，问左右发生了什么事。裴虔通不慌不忙地答道：“草坊失火，士兵们正在扑救。”
与此同时，宇文智及和孟秉等人也在宫城外集合了他们的部众一千余人，随后劫持了仍忠于杨广的将军冯普乐，命令士兵迅速封锁各个主要路口。深夜，住在宫城外的燕王杨倓发现军队有异动，意识到有重大事变，急忙从芳林门旁边的水洞进入宫城，准备禀报杨广。
可他走到玄武门时就进不去了，因为裴虔通早已守卫在此。
杨倓只好向城楼喊话，说：“臣今夜突然中风，命在旦夕，希望能见皇上最后一面。”
年少的杨倓尽管机灵，可如此粗糙的谎言恐怕连他自己都不会信，裴虔通立刻打开城门，不过不是放他进来，而是将他逮捕囚禁。
凌晨时分，司马德戡把军队交给裴虔通，命他控制了宫城的各个城门。裴虔通随后率领数百名骑兵冲进了成象殿，殿上的宿卫士兵大喊：“有反贼！”裴虔通随即下令关闭所有城门，只开东门，勒令所有宿卫士兵放下武器，然后把他们从东门驱逐了出去。右屯卫将军独孤盛察觉情势有变，未及披上铠甲，慌忙带着十几名侍卫从营房冲了出来，迎面碰见裴虔通，厉声质问道：“什么人？为何行动如此可疑？”
裴虔通嚣张的回答道：“形势已经如此，和将军无关，请将军不要轻举妄动！”
独孤盛破口大骂：“老贼！说什么屁话！”随即带着手下人冲了上去。
可他们才十几个，裴虔通这边却有几百人。片刻之后，独孤盛和他的手下就全部倒在了血泊中。
惊闻宫内发生政变，千牛独孤开远迅速带着几百名士兵赶到玄览门，准备入宫保卫杨广。可宫门早已紧闭。独孤开远敲门大喊：“陛下，我们手里还有军队，足以平息叛乱，只要陛下亲自出来督战，人心自然平定，否则就大祸临头了！”
然而，任凭独孤开远把宫门擂得山响，宫中却悄无声息，始终没有半点回应。士兵们本来就没什么斗志，见此情状，只好各自散去，独孤开远最后也被变军逮捕。
随后，政变军彻底控制了整座皇宫。司马德戡率领军队从玄武门大摇大摆地进入宫城。杨广慌忙脱下御袍，换上便装，仓惶逃进西阁。裴虔通等人带兵冲到了东阁，宫廷女官（司宫）魏氏马上打开阁门。这个魏氏也是杨广的心腹，可早已被宇文化及收买，守卫宣武门的虎牙郎沈光也被她矫诏调开，才会让裴虔通等人轻而易举地占据了玄武门。
政变军从东阁进入永巷，逢人便问：“陛下在哪？”一个宫女用手指了指西阁，校尉令狐行达立刻拔刀，率先冲向了西阁，裴虔通等人带着士兵紧随其后……