李建成在得到李淵發佈攻城令之後，當即指揮大軍進攻長安城的東面、南面，長安城的隋軍守將閉門不出。長安城四面有堅厚的城牆，城牆七丈高，上面很寬，足可並排走五個人。牆上築有五尺高胸牆，石牆上遍佈箭孔，牆的正面十分光滑，大石塊壘得密密實實，找不到可落角攀登的接縫。城牆外有一條護城河包圍着四周。長安城的隋軍守將左翊衛將軍陰世師，早已部署好兵力，在城牆上嚴陣以待。
中午時分，李建成號令自己所部將士吃飽飯，稍稍休息，然後準備攻城的器械。未時剛到，李建成便指揮高大的攻城塔車和整齊的隊列象鋼鐵的洪流，席捲而來！每個將士都有感到喉焦舌燥，每個人的心都繃得很緊，極度緊張的氣氛瀰漫在空中，彷彿碰上一點火星就會爆炸似的。看到蜂涌而至來勢兇猛的義軍，隋軍守將左翊衛將軍陰世師一聲喝道：“火箭準備！——”
立刻，一陣弓弩潮動，箭孔旁都有一個碗口大的小坑，裡面是點燃的火油，弓箭手的火箭已搭在弦上。隋軍守將左翊衛將軍陰世師以燈號和戰鼓指揮東門和西門的守軍。馮立、謝叔方、張綸等率領二十多個整齊的隊列迅速迫近城牆，每個隊列大約有五、六百人，總共有一萬五千多人，這是李建成指揮的第一輪攻勢的兵力，後來還有幾輪攻擊的兵力配備。整齊的隊列在離城六十丈外停了下來，在寬闊的地面上一字排開。片刻之後，攻城的號角聲從隊列後方響起，傳遍四周。刺耳的喊殺聲沖天而起，聚集在最前列十個方陣的將士，如洶涌潮水般衝殺而來，衝在最前的是百人一組的雲梯衝鋒隊，這樣的雲梯衝鋒小組有上百個之多。義軍將士戴着頭盔，身着輕裝鎧甲，舉着盾牌。二十多輛高達七丈的龐大攻城塔車由二十人爲一隊推着，快速向前推進。洛陽城下，殺氣騰騰，戰雲翻滾！
隋軍守將左翊衛將軍陰世師一聲令下：“放火箭！”
“嗖——嗖——嗖——”長安城上，隋軍的兩隊弓箭手輪流擊射，千百支點着的火箭連綿不斷劃空而過，射向衝殺而來的義軍。義軍將士把盾牌舉在頭頂，封擋射來的火箭。只有少數人中箭倒地，火箭對訓練有素的義軍將士傷害不大。眼看義軍愈來愈接近城牆了，最快的幾個雲梯已衝進入了二十丈之內。長安城上的隋將陰世師十分鎮定，見所有義軍都差不多已進入二十丈之內，他大喝一聲：“石彈發射，藥箭射殺最前面的雲梯隊！”
一陣戰鼓雷鳴！緊接着就“呼——呼——呼——”的聲音響起。城牆後上百座石彈發射車忽地彈起成百上千的石彈，每個石彈其如大冬瓜，重逾百斤，霎那間猶如漫天石雨般飛射而下，直搗義軍！與時同時，飛蝗似的藥箭瘋狂地狙殺義軍衝在最前的雲梯衝鋒隊！
“唰——唰——唰——”這些藥箭的箭頭，都是在毒液內浸漬過了的。被毒箭射中，箭簇上的毒素，很快就會在血液裡散佈，令人痛苦萬分。義軍受傷嚴重，戰鬥力銳減！
“哎呀——哇！”“啊！——媽呀！”
成百上千的喊殺聲中，摻雜着義軍將士們的慘叫！被石彈擊中者不是被砸得腦漿爆出；就是血肉暴濺。李家軍進攻受挫，李建成見了大驚！連忙令：“弓箭手放箭！壓制對方攻勢！”
“嗖~嗖~嗖——”傾刻間，空中的飛箭如雨點般呼嘯而過，丁丁當當的落在城牆石磚上，不斷有人中箭。但義軍的箭陣依然壓制不住隋軍城上的火力。李建成果斷命令：“段志玄等將聽令：九隊神箭手列陣同時發箭，一定要壓制城上的火力，掩護馮立、謝叔方、張綸的登城突擊隊攻城。”
瞬息間，九隊九千人的神箭手同時張弓！——天啊！這是一副多麼壯觀的畫面啊！空中，黑壓壓密如烏雲似的飛箭，鋪天蓋地射向城牆；地上，殺氣騰騰似狂濤般的登城義軍衝向城樓。
“勇士們，衝啊！——”攻城的義軍將士英勇異常，毫無畏懼，勇猛衝擊。衝在最前的雲梯隊已經衝到護城河邊，第二梯隊三十個方陣五萬多人跟着衝了過去。轉眼的功夫，義軍第三梯隊的攻城隊伍也衝到城下。李建成大喝一聲：“後續隊伍向東門、西門同時進攻！”
傳令的號角立刻響起！攻城的義軍擡着無數的巨木衝到，並排着橫架在火油燃燒的河面上。高高的雲梯快速推進，迅速架在城牆上。雲梯的頂部有兩個鐵鉤，剛好死死的鉤掛在城牆上。長安城牆的隋軍守兵，在義軍密密麻麻飛箭的壓制下，根本無法伸出手來將雲梯推開！義軍將士們舉着盾牌立刻攀爬而上。與此同時，長安城西門和北門也遭受李淵、李世民等軍隊的猛烈攻擊！隋朝守軍顧此失彼，手忙腳亂，彈石弓弩所剩無幾。絕望，幾乎瀰漫到每一個隋軍的心頭。
李建成精選出來的登城隊員，率先躍進城牆。李建成手下軍頭雷永吉，身披堅甲，一手護盾，一手提刀，在部衆的掩護下，率先搶登長安城頭，揮刀砍掉了隋軍的旗幟。隨後跟進的登城勇士，在馮立、謝叔方、張綸、裴儼的率領下，英勇奮戰，爲登城敢死隊殺出一條血路，進而很快控制了城門。雄姿英發的李建成左手策馬，右手揮劍，高呼狂進。他一馬當先，衝進東城門。張綸、馮立緊隨左右，諸軍奔涌而來。大軍如潮水般向前滾動，喊聲震天，殺聲動地，刀槍相碰，箭盾相格。大軍一擁而入，長安城終於被李建成所部率先攻破。
李建成進城後，直奔代王所住的大興宮。他一邊躍馬前行一邊連連發令：
“衆軍不得妄取民物，不得侵擾皇室，不得姦污婦女。違令者斬！”
“任瑰、韋挺聽令：帶兵封存府庫，收繳圖冊，維護皇室宗廟。”
“張綸、馮立迅速接管左軍負責的東、南城門防務。分派各軍，組成督察，監察軍兵違紀違令者。”
“得令——”衆將飛馬而去，分頭行事。
李建成在隋舊臣僚竇軌等人的導引下，迅速躍馬到了宮門。李建成翻身下馬。環顧四周，果然宮殿巍峨，氣派非凡。大興宮內共有十六座大殿，最主要的四座大殿爲太極殿、兩儀殿、甘露殿和延嘉殿，均建在承天門至玄武門的中軸線上。太極殿北是兩儀殿，爲“內朝”，只有少數有資格作決策的親信大臣才能進出參與。心潮起伏的李建成壓抑着內心的狂跳，臉上毫無興奮之色。他面若靜水地對身邊的劉文靜道：“速派兵護衛宮殿。並請大將軍速速到此，共見代王。”
劉文靜回馬，一邊令傳兵報大將軍，一邊指揮衆親兵在宮殿四周護衛。不一會，見李世民率軍呼嘯而來。李世民見大哥在此，立刻翻身下馬，揚聲大呼：“大哥，何不進宮？！”
李建成道：“二弟不可造次！須等大將軍到來，再進不遲。”
“何必等他，但進無妨。”李世民說完就擡步上臺階。
劉文靜連忙上前攔道：“二郎，萬萬不可。大將軍有令：驚擾皇室者，斬！——”
李世民一愣，方纔收步。李建成微笑着對二郎道：“想必大將軍正飛馬趕來。我們不妨稍等片刻。”
果然如李建成所言，不一會，便看見在紅白相間的幡旗下，親兵們拱衛着李淵相擁而來。紅光滿面的李淵精神煥發地下馬，笑容可掬地道：“啊！大郎、二郎，你們——都到了？”
李建成、李世民連忙恭身行禮。李淵對他們沒擅進宮殿感到明顯的滿意。隨後而來的裴寂、唐儉、劉政會等人也相繼上前，與大郎、二郎和劉司馬打招呼。
“好！諸位，與我同進宮殿，擁立代王爲君。開創一個新時代！——”豪情萬丈的李淵率大郎、二郎和衆文武干將一行，步入大興宮殿。他們一步一步地走得很緩慢。李建成、李世民、裴寂、劉文靜等人似乎感到歷史的腳步在移動。他們真切地感到自己正在改變歷史的進程！
大興宮，殿門大開。代王和那些官屬們不知何處。李淵正與衆人猶豫間，忽然聽到殿後聲音響起：“大膽李淵，欲造反不成？！”
李淵舉目一看，原是代王殿前書記官封倫，字德彝，觀州蓨人。其父乃隋通州刺史。倫少時，其舅盧思道每言曰:“此子智識過人，必能致位卿相。”封德彝是一個極識時務的人，他知道隋朝大勢已去因而對李淵極爲友善。
“不敢！我義軍起兵，只是立代王爲君，尊隋室，安天下而已！”李淵連忙施禮。封德彝看了衆人一眼，從殿臺走了下來。對李淵道：“諸位若真心迎立代王，我願勸說代王。”
李淵誠懇地道：“我們確是真心迎立代王。此心可鑑天日！”
“我們都是隋臣，豈有不尊隋之理？！”裴寂連忙表白：“代王現在何處？請帶我們一同拜見代王，共擁代王爲君。與你同享擁戴之功，豈不快哉？！”
“代王居東宮。我們一同勸進。”封德彝邊說邊帶着李淵等人步行東宮。
李建成耽心陰世師、衛文升等兵將阻礙。回身對李世民道：“你帶兵護衛東宮，如有阻礙者，擒殺之！”
李世民會意，立即佈置下去。
封德彝帶着李淵進入東宮，卻不見任何兵將護衛代王。原來，陰世師、衛文升等耽心李淵義軍一旦擁立代王爲君，那對他們這些抵拒義軍的官屬，必不相容。更何況陰世師、衛文升等將還挖掘李淵祖墳。因此，長安城破，陰世師、衛文升等將知大事不妙，早逃避之。
東宮大門敞開。代王一人孤寂惶恐地坐在雕花太師椅子上，心神不寧地喝茶。封德彝、李淵、李建成、裴寂等人上前，叩頭，拜請：“臣等忠心擁立代王爲君。”
代王驚慌：“不可不可！父皇尚在。本王不作此等天下恥笑之事！”
封德彝意味深長地道：“代王，當今之事，國亂不堪，民不聊生。諸侯並起，戰火不息。李大將軍起義師，立新君，爲的是定隋室，安天下。此爲大隋之福啊！請代王思之！”
經過封德彝、李淵、李建成、裴寂等一番勸說，代王別選擇地從東宮移居大興後殿。
李淵令封德彝召集舊僚屬，商議擇吉日告高廟，定尊位，立代王和佈置迎立儀式。封德彝耽心夜長夢多，果斷地道：“擇什麼吉日？擇日不如撞日，我看今天就是黃道吉日。即可迎立新君。”
衆僚無言，各自準備儀仗、法物、法駕、黃幡等。李淵不愧爲一代有名的政治家軍事家，他即刻令大郎全權接手長安城防軍務，着手穩定長安城內與城外四周軍心民心。李建成當即令劉弘基、雷永吉從前鋒營挑選精兵三萬，組成京城禁衛軍。即刻接收長安四門五城軍事防務。馮立迅派監軍查察各城區，禁止軍人擄掠，驚擾百姓。韋挺立即封府庫收圖籍。長安城經過短暫的慌亂之後，迅速穩定了下來，商市、酒樓、街坊安然如常。從此以後，李淵始終依重李建成負責京城防務，任何人都絲毫不能插手京城防務重任。
李淵隨即下令捉拿陰世師、骨儀、崔毗伽、李仁政等奸臣。尤其是陰世師，此人頗懂陰陽風水，派兵士去挖李淵在河東老家的祖墳。據說，那天下午，陰世師率兵士等剛挖開李淵祖父李虎的墳墓，突然，躍出一條碩大的青蛇，蛇身有水桶粗，那蛇高昂起頭，“哧哧——”地呼嘯着衝向兵士們，兵士紛紛閃開，陰世師揮劍上前，不防被莽蛇吐出一團霧氣，當時昏倒在地。莽蛇身邊還有大小不一的三條青蛇和二隻金蟾，四散逃避兵士們回身追殺，一隻金蟾跑開了，其餘的則被隋軍刀劍殺死了。隋軍兵士供認了陰世師的惡行。李淵悲憤不已，認爲五兒智雲的死，與陰世師掘墳有關。李淵即命隴西公李建成把陰世師、骨儀、崔毗伽、李仁政等奸臣處斬。李建成歷數奸臣抗拒義軍、貪婪暴虐、殘害百姓的罪行，把他們斬首示衆。
當日未時，李淵率百僚，恭敬迎十餘歲的代王即位於大興殿，爲恭帝。大赦天下，改大業十二年爲義寧元年。遙尊後主爲太上皇。
義寧元年，冬十一月甲子，恭帝以李淵爲丞相，進封唐王，位在王公上。以武德殿爲丞相府。
十一月二十二日，隋恭帝封李建成爲唐王世子，以李世民爲京兆尹、秦公，李元吉爲齊公，仍改太原留守爲鎮北府，總統山東諸郡。詔封丞相長史裴寂爲魏國公，司馬劉文靜爲魯國公，李神通爲鄭國公，李孝基爲蜀國公。
李建成率先攻破長安城，立了頭等大功！李建成的名字在軍中迅速傳誦，越傳越神。他自從晉陽起兵，一路攻城掠地，連戰連捷，兵鋒直指長安，成爲攻無不克戰無不勝的代名詞。滿面春風的李淵對沉靜、清秀的李建成讚歎道：“大郎，你真行啊！你連戰連捷不見你有半點喜色，而今攻克長安此等天大的喜事，你卻仍然沉靜如水。爲父真爲你而感到心慰！成大事者非你莫屬！”
秀麗文靜的李建成潮紅着臉說：“父親，其實孩兒內心也是欣喜若狂！只是眼下長安四周危機遍伏。當務之急，必需馬上削平長安四周的軍事威脅。”
“好！咱父子倆想到一塊去了！”李淵欣慰地笑了。李淵克定長安，奠定了大唐在軍事上、經濟上的基礎，取得了向全國各地軍閥割據發號施令的優勢。躊躕滿志的李淵已完全掌控了京師，下一步便開始“挾朝庭號令四方”着手解除長安四周各路軍閥的威脅了。
轉眼便是新年來臨（即隋恭帝義寧二年春正月），長安城一派祥和的節日氣氛。
長安街市經過半年的修整，已恢復了往日的繁榮景象。兄弟倆在經過血雨腥風的戰爭之後，極爲珍惜平安的生活。朝政大事，李淵和衆大臣操辦，一切風調雨順。當時，蜀漢及氐羌所在諸郡雄豪，以及樑、益之地，爭相派子弟前來長安送獻錢糧表示擁戴新朝。從四面八方上朝稱賀者，每天上百人，絡繹不絕。隨後，涿郡太守羅藝與漁陽、上谷、北平、柳城等郡諸官民，遣使送款，表示臣服新君隋恭帝，只有李密、竇建德、王世充等軍閥割據稱王，不服新君。