李淵在撫慰京師後，即可催促太常選擇吉日，籌備一系列告高廟、定尊位、立代王等禮儀。
文武將佐見此，就商議，一起向李淵請願，道：“大隋暴政多年，爲天下所厭惡，而唐公乃天命所歸，您的恩德爲天下人所知並謳歌。回想唐公兵起晉陽，西定關中，不過百餘日，就一舉拿下了京師，如此神武之速，若非上天選定的天子，又怎能做到？還請唐公依照符讖所示，上尊號，自立爲帝，何必便宜了代王那個乳臭未乾的小子。”
李淵聽後，很不高興，愀然作色道：“老夫舉義兵，本爲社稷，社稷有主，我豈能有不二之心？漢高祖不立子嬰，所以屈從於項羽。我如今尊奉世嫡，又有什麼好擔憂的？”
衆文武將佐見此，李淵臉色如寒冰，沒人再敢勸，連李淵最信任的裴寂也噤聲了。
到了吉日，李淵率領百官，備羽儀法物，具法駕，奉代王楊侑爲皇帝，即位大興殿，改元義寧，遙尊江都的楊廣爲太上皇，同時免掉天下百姓今年的租賦。
過了兩日，少帝楊侑拜李淵爲大丞相，進封唐王，位在王公之上，又賜了武德殿給李淵作丞相府，命李淵統領要事，什麼禮樂征伐、兵馬糧仗、官員升降考覈等，一併責成由李淵來都督。除了郊祀天地要告知楊侑，其他內外軍事均由李淵處置。
李淵自然又是假惺惺一番，堅決辭掉大丞相的高位。於是公卿將佐也配合他的演出，一起請求李淵：“少帝年紀尚輕，需要唐公來主持大局，豈可辭去大丞相之職？攝政公若是不肯出任大丞相，王室還能依靠誰去？還請唐公顧全大局，切不可辭讓。”
經過衆人一番勸說，李淵這才長嘆一聲，道：“王家失鹿，遂使狐同老狼。”
鐵綱靖不過是一個搬磚工，穿越到古代，就跟一個文盲差不多，對李淵這句話根本沒聽明白什麼意思，只是猜想其中“鹿”跟逐鹿中原的“鹿”是同一只鹿。不過見李淵說了這句話後，不再推辭，奉詔受冊，他心想這就是所謂的大智慧吧。
出任大丞相的李淵作爲攝政王，開始設官治事，仍用裴寂爲長史，劉文靜爲司馬，召前尚書左丞李綱爲相府司錄，專掌選事，前考功郎中竇威爲司錄參軍，使定禮儀，一面追諡祖父虎爲景王，父闥爲元王，夫人竇氏爲穆妃，又命長子建成爲世子，次子世民爲京兆尹，並封秦國公，三子李玄霸封爲衛國公，四子元吉爲齊國公。仍改太原留守爲鎮北府，總統山東諸郡。
劉樹義仍舊是秦國府的府掾，沒有什麼升降的區別，因而略微有少許失望。至於一路跟隨李世民出征的長孫無忌和侯君集，兩人在攻城戰中沒有什麼亮眼的發揮，風頭完全被李玄霸、孫華等人蓋住，自然也沒有得到晉升。尤其是侯君集，殺入長安城後參與搶掠，還差點被處罰了，幸虧李世民求情，纔算保住其原來的職位。
第二日，榆林、靈武、五原、平源、安定諸郡，一起舉城向李淵投降，並遣使詣義軍請命，關中徹底落入李淵掌控之中。
卻說扶風郡本來也有一個賊帥唐弼，擁立李弘芝爲天子，自稱唐王，有部衆十萬人。見薛舉殺來，唐弼佔據扶風郡的汧源，將薛舉大軍拒之城外。
薛舉見此，派遣使者招降唐弼，那唐弼耳根軟，經過一番威逼利誘後，竟然轉身就把李弘芝殺了，大開城門向薛舉投降。
可惜投降也沒有得到好的報應，薛舉父子率兵才進汧源，薛仁杲就發動攻勢，對唐弼大軍大開殺戒。
唐弼毫無防備，哪裏還能組織將士們反抗，只能趁亂帶着數百騎兵逃出汧源，直奔扶風郡城，向扶風太守竇璡投降。
但是竇璡一直想剿滅唐弼，見其自投羅網，二話不說將其斬殺。
而薛舉得了唐弼的兵馬，聲勢更盛，號稱有部衆三十餘萬，準備謀取長安。不過聽說大丞相李淵已經佔領長安，知其能征善戰，手下又是猛將如雲，料難以討到便宜，便轉而圍攻扶風。
竇璡之前連唐弼都無法剿滅，此刻面對薛舉的三十萬大軍更是無能爲力。
而且薛舉還有一個令人聞風喪膽的兒子薛仁杲，根據隴西流傳的傳說，薛仁杲力大無窮，善騎射，在軍中號稱萬人敵，性格殘暴兇悍。在薛舉起事之初，每次大破敵軍，獲得的俘虜，薛仁杲必將他們斷舌刈鼻，或者剝皮削肉，慢慢折磨至死。
攻下秦州時，薛仁杲抓來富人倒着吊起來，用醋灌鼻，逼富人交出錢財。此人殺人無數，還***女，隴西一帶對其是天怒人怨。
薛舉也是一個殘暴兇猛之人，但對比其兒子薛仁杲，只能算是小巫見大巫。每次見到薛仁杲所作的血腥酷刑，薛舉也覺得甚是厭惡，告誡薛仁杲：“你如此虐待天下百姓，終有一日將使我族覆滅！”
竇璡面對如此殘暴的薛舉父子，連出城應戰心思都沒有，緊閉城門自守，同時快馬加鞭派人向長安求救。
接到求救的消息，李世民立刻向李淵請求出擊。李淵此刻初定關中，心想薛舉不除，終究是一個隱患，而且西征以來，已經證實了李世民能擔大任，做出的很多軍事決策已經超越他自己，便欣然答應了李世民的請求。
李世民便帶齊“晉陽四公子”，再加上勇猛無敵的李玄霸，另外還有殷開山、丘行恭等大將，直趨扶風。
秦國公討伐秦帝，兩秦相爭，誰將勝出？只有李玄霸聽聞有個薛仁杲是萬人敵，頗爲興奮，磨刀霍霍隨時準備打架。
沒幾日，趕到了扶風境內，正在休整中，遇上那不知死活的薛仁杲來挑釁。李世民也不廢話，仗着己方大軍西征以來爲曾喫過敗仗，當即毫不客氣地率領大軍大刀闊斧地殺過去。
薛仁杲雖然勇猛，但是架不住李玄霸等人的攻擊，加上己方軍紀混亂，不如李世民大軍嚴謹，才交手不到片刻，己軍抵擋不住，只能轉身紛紛逃走。薛仁杲不敢相持下去，長槊擋開李玄霸的斧劈，回身拍馬便逃，大軍也因此瞬間崩潰。
李世民率軍大破薛仁杲軍，追到壠坻才作罷。