始毕可汗立刻给李渊回了一封信，表示全力支持他，可以给他提供士兵和战马，但条件是让他像刘武周等人那样自称天子，公开反隋。
可是收到回信的李渊并不高兴，因为他并不是不想获得突厥的支持，而是不想这么早就即位称尊、公然与隋朝决裂。
虽然如今大隋已是民变四起，看似风云飘摇，可是在天下大势尚不明朗的情况下，“尊隋”要比“反隋”能获得更多闪展腾挪的余地和空间，而过早僭位称尊就会背负乱臣贼子的骂名，更会成为众矢之的。此外，李渊也不愿意像刘武周他们那样接受突厥的所谓“天子”册封、公开成为突厥人的附庸。“尊隋”可以为他的起兵抹上一层“匡扶社稷、安定天下”的政治保护色，并且为壮大自身的实力赢得更多宝贵的时间。
皱眉不展的李渊一直在沉默，当六月初，李建成、李元吉和柴绍终于抵达太原之后，裴寂和李建成、李世民等人商议之后，一起向李渊提出了一个“在钢丝上跳舞”的办法：“废皇帝而立代王；兴义兵以檄郡县；改旗帜以示突厥。”如此则“师出有名，以辑夷夏。”
李渊笑了，这才是他想要的答案，于是，众人在初步商议后，决定首先宣布废黜杨广，拥立长安留守、年幼的代王杨侑，这样既能顺应天意人心，还能抢占政治制高点，挟天子以令诸侯。这样，可以学曹操一样，团结到那些忠于隋朝的将领。同时，为了获得突厥人在政治和军事上的支持，李渊决定在军队的旗帜上使用而是使用“红白相间”的双色，因为红色代表了隋朝，而白色代表了突厥。
这，就是政治。
随后，李渊派李建成和李世民前去夺取西河，因为要夺取长安，西河是必经之路。在二李的带领下，仅用九天时间就攻克了西河，并将郡丞高德儒斩首。
西河平定后，李渊随即开仓赈粮，远近各地的青壮年纷纷来附，每天有数以千计的人加入义军，很快部众便增至数万人。随后，李渊立为大将军，并开设大将军府，以裴寂为长史，刘文静为司马，唐俭和温大雅为记室，武士彟为铠曹，殷开山为户曹，长孙顺德、刘弘基等人为左右统军；同时以李建成为陇西公、左领军大都督，统率左三军；以李世民为敦煌公、右领军大都督，统率右三军；以柴绍为右领军府长史；其余文武将吏也各有任命。
在以少量的钱币买下突厥人的一千匹好马之后，李渊派刘文静北上突厥，表面上的目的是请求突厥给予军事上的支持，实际上是观察突厥人的态度和动向，同时防范和牵制刘武周。刘文静抵达突厥王庭后，就给始毕可汗开出了非常有利的合作条件，他说：“一旦贵军协助我军进入长安，民众土地归唐公，金银玉帛归突厥。”
这当然是一笔好买卖，始毕可汗同意，随即派兵支援李渊，于是，李渊的后顾之忧终于解决，大业十三年七月初四，李渊任命李元吉为镇北将军、太原留守，把军政大权全部交给这个小儿子，让他镇守后方根据地。初五，李渊在晋阳誓师，发布了声讨隋炀帝杨广的檄文，同时传檄四方郡县。