裴寂众人共议推尊李渊为大将军，开府。李渊就除裴寂大将军长史，刘文静大将军司马，唐俭、温大雅记室，武士!铠曹，刘政会、崔善为、张道原户曹，姜慕司功参军，殷开山府掾，长孙顺德、刘弘基、窦琮左统军，王长谐、姜宝谊、阳屯右统军，世子建成陇西公左领军大都督领左统军，世民敦煌公右领军大都督统右统军，柴绍左统军府长史，灵寿贼帅郗士陵来助义，授镇东将军燕郡公，招抚山东郡县，元吉太原太守留守晋阳宫，通议大夫张纶取稽胡。
七月部兵三万，发晋阳，过西河，入雀鼠谷，在霍邑外五十里平胡堡屯扎。此时镇守长安代王，已差下虎贲郎将宋老生，守住霍邑，左武侯大将军屈突通守住河东。撞了秋雨连旬，平地水有尺余，不能进兵。屯有一月，又值粮尽，李渊要回，世民执议不肯，谏阻再三，至于痛哭，李渊方从。催兵直抵霍邑，建成与世民道：“城坚，攻之费力。若哄得他出城，破之不难。老生轻躁，我如今且去激恼他一番，引他出城。”两人带了数十个老弱，在城下叫他献城，骂他不知机，速死。老生正在城楼上，听了大恼道：“可恶！先拿这两个黄口孺子，后拿李渊。”急点兵三万，分东、南两门杀出。建成早已与李渊城东结阵，世民与段志玄在南门结阵待他。老生自持骁勇，亲出东门。建成、殷开山双马敌他不住，却得世民知城东接战，自南门与统军段志玄飞马冲来，绕出老生背后，两口刀雪片似飞来，连砍数十人，浑身血污，杀得隋军大败。李渊也不分头追杀，竟奔城门。老生逃回，城边已布满太原人马，走投无路，只得跳下城濠躲避。早被刘弘基一刀削去半个天灵，这厢已自扒城而入，破了霍邑。正是：