步迦可汗逃至大斤山(即今内蒙大青山)时，与史万岁一路隋军相遇，结果大败，慌忙引军回撤。不久，步迦可汗又派他的侄子俟利伐从沙漠东面攻打启民可汗，隋文帝再次发兵协助启民可汗防守军事要道，俟利伐只得退入沙漠。启民可汗大为感动，表示愿千世万代永为隋臣。
仁寿元年(601年)，长孙晟上奏说：“臣夜登城楼，望见碛北有赤气，长百余里，皆如雨足，下垂被。谨验兵书，此名洒血，其下之国必且破亡。欲灭匈奴，宜在今日”(《隋书?长孙晟列传》)。隋文帝诏令杨素为行军元帅，长孙晟为受降使者，援助启民可汗北击步迦可汗。
仁寿二年(602年)三月，军至黄河，正值突厥思力俟斤(官名)等率部渡过黄河，袭扰已经归降隋王朝的突厥启民可汗，掠走男女6000人、牲畜20余万头。长孙晟与上大将军梁默奉杨素之命率轻骑追击，转战60余里，大败突厥。长孙晟又教启民可汗分遣使者，往北方铁勒等部招抚归附。
仁寿三年(603年)，有铁勒、思结、伏和具、浑、斛萨、阿拔、仆骨等十余部背离步迦可汗，降于启民可汗。步迦可汗部溃不成军，西奔吐谷浑。长孙晟送启民可汗安置于碛口(今呼和浩特北)，启民可汗于是尽得步迦可汗之众。随后多年，启民可汗与隋一直保持亲善。
事毕，长孙晟回朝，时为仁寿四年(604年)，适遇隋文帝崩，炀帝匿丧未发。由于隋炀帝和长孙晟有过旧交，加上要拉拢长孙晟，遂以长孙晟为内衙宿卫，知门禁事，即日拜左领军将军。
不久，汉王杨谅在晋阳(今太原市西南)起兵反对其兄杨广称帝。杨谅系隋文帝的五子，曾任并州总管，统领西起太行山，东至渤海，北达燕门关，南距黄河的52个州，长年据守在当时天下出精兵之。杨谅对杨广夺取杨勇的太子位心怀不满。及蜀王杨秀得罪，尤不自安，恐殃及己身，暗中准备起兵。及隋文帝死后后，杨谅更感到安全难保，遂起兵反炀帝。