有应答的，因此命纥单贵率军攻城。
此时南门守卫的除了长孙恒布麾下，还有一群稽胡人，这些人并不认识杨谅。长孙恒布见自己麾下没有战力，便对这群稽胡人道：“大败对面的贼军，并州府库任凭尔等搬运。”
稽胡人听到长孙恒布竟然要把并州的府库都给他们，纷纷大喜，乃拼命力战。
长孙恒布将并州的弩具一一分发给这些稽胡人，等待杨谅的士兵靠近之后，这些稽胡人便用弩机、弓箭击城下。稽胡人可不管你是不是汉王，只有有好处，照杀不误。
杨谅看到城头上的军队，心中大怒。
纥单贵冲了两个回合，皆没有击破对方的箭雨。这时赵子开上前进言道：“大王，我军现在只有这两万人马，一旦损耗过多，哪怕攻下了晋阳城，等到黄明远来了，也未必可守？”
杨谅问赵子开计策，赵子开乃建议攻打其它城门。以汉王在晋阳城的威望，必有军队倒戈。
杨谅从计，乃转道西门。西门的守将是开府仪同三司宇文永昌，宇文永昌本来就不是一员骁将，等到杨谅靠近城门，向城上大喊之后，众人纷纷混乱，宇文永昌根本控制不了军队。
这时有人竟然打开城门，迎汉王杨谅入内，宇文永昌带人阻止，竟然被众人围攻，死于乱军之郑
汉王杨谅不费吹灰之力，乃进入晋阳城郑
西门一破，其她诸门也没有能力挽狂澜的能力。汉王叛军纷纷冲入城去，很快便占领了晋阳城，
开府仪同三司盘石侯宿勤武带着亲兵与汉王叛军在晋阳城中展开了巷战，宿勤武虽然勇武，但边亲兵数少，最后战死于巷战之郑
其他诸人包括皇甫诞、成端、长孙恺、元世雅、皇甫文颢等人纷纷被俘，被献给了杨谅。杨谅对众人早就充满了怨恨，直接让人将成端、长孙恺、元世雅、皇甫文颢等人处死。
杨谅又亲自劝降皇甫诞，希望他能够归顺。毕竟皇甫诞在晋阳城的威望很高，又是名臣，杨谅还不想杀他。
但皇甫诞这次被俘，自知必死，乃破口大骂杨谅无父无君，乃是人，令其悬崖勒马，早投降。
杨谅被皇甫诞激怒，竟亲自拔刀杀了皇甫诞。
而城中豆卢毓知道汉王杨谅入城之后，知道汉王对自己的痛恨，自己虽然是其舅兄，但绝无幸免之理。因此豆卢毓乃于家中自缢而死。
长孙恒布在南门抗敌，忽然听到西门失陷的消息，骤然大惊。而其麾下将领，听到汉王入城的消息，也一哄而散，四散逃命。
长孙恒布无奈，乃打开南门，准备南逃。
稽胡人首领白铁干见汉王进城，知道得罪汉王狠了。今汉王有数万大军，一旦报复，他区区千余饶稽胡兵根本无力阻挡。白铁干为了向杨谅请罪，竟然命人将长孙恒布捉住，献给了杨谅。
杨谅长孙恒布投降，长孙恒布不从，也被杨谅所杀。