东魏军尽用攻城之术，但皆被韦孝宽所破，而且还守城有余。高欢攻城不克，后派人劝降也没有成功。高欢攻城五十天，士卒死亡七万人，精疲力竭，用尽心计，仍未攻克，高欢急得旧病复发。时有陨石坠入东魏营地中，东魏军惊惧，高欢遂于十一月初一解除对玉壁的包围，撤军。高欢回到晋阳后，一病不起，于次年正月死去。
西魏文帝元宝炬特派殿中尚书长孙绍远、左丞王悦前去慰问，并晋升韦孝宽为骠骑高级守卫员军、开府仪同三司，进封建忠郡公爵，以奖其守玉壁之功。
北周大象二年，北周宣帝宇文赟病死。北周静帝宇文阐年幼，左丞相杨竖专政。因尉迟迥位高素有声望，恐有异图，于是就以会葬北周宣帝为名，诏使其子尉迟惇召尉迟迥入朝；并以韦孝宽为相州总管赴邺取代尉迟迥。
六月，尉迟迥恐杨竖专权对北周不利，想要举兵讨伐他。不久便公开起兵反对杨竖。
同年六月，皇帝下令出动关中武装部门，任命韦孝宽为大将军向东讨伐。七月，武装部门驻扎在河阳。尉迟迥任命的仪同薛公礼等人围攻怀州，韦孝宽派兵打败了他们。
又进军驻扎在怀县永城桥的东南。那座城既已处在要塞地带，城墙坚固，尉迟迥又已派兵把守它。众将士认为这座城处在要害，请求先攻占它。
韦孝宽说：“城虽然小但是很坚固，如果没有攻下，那么会削减我们的军威。如果我们打败了他们的主力兵马，这座小城里的武装部门又能有什么作为？”
于是带领武装部门驻扎在武陟，大败了尉迟迥儿子尉迟惇的武装部门，尉迟惇快马逃到了邺城。尉迟迥亲自出战，韦孝宽又打败了他。尉迟迥走投无路被迫自杀。小城中的护卫全部在游豫园被活埋。还有没有降服的地方，韦孝宽都根据具体情况征伐他们，关东于是全部平定。
十月，武装部门胜利回到京城。十一月，韦孝宽去世，时年七十二岁。赠太傅、十二州诸军事、雍州牧，谥号襄。
韦孝宽为人多智善谋，善于使用间谍，不论是他派遣到北齐的间谍，还是他从北齐收买过来的间谍，都很尽职。
北齐有位战功卓着的将军叫斛律光，也就是九州十大猛将之一，字明月，能征善战，英武无畏。
韦孝宽为了除掉这个敌手，先叫参军曲严编造歌谣：“百升飞上天，明月照长安”，“高山不推自崩．槲树不扶自竖”。这里的升，原指旧时的容量单位，十升等于一斗，十斗即一百升，等于一斛；歌谣里的百升暗指斛律光的“斛”字。
北齐王姓高，歌谣中的“高山”影射北齐王。
“槲树”影射斛律光。
这两句歌谣的意思是说：斛律光想要当皇帝，北齐将要垮台了。韦孝宽令间谍们把写有这些歌谣的传单散发到北齐京城邺。当时任北齐宰相的祖珽，恰与斛律光有私仇。祖埏见有这样的传单，又添枝加叶渲染扩大，并让小孩子在大街小巷传唱，传得满城风雨，然后将情况汇报给北齐后主高纬。后主不辨真伪．怀疑斛律光要造反，立即下令杀了斛律光。韦孝宽没费吹灰之力就除掉一名劲敌。
所以李延寿评价：“韦孝宽奇材异度，纬武经文，居要害之地，受干城之托。东人怙恃其众，悉力来攻，将欲酾酒未央，饮马清渭。孝宽乃冯兹雉堞，抗彼仇雠，事甚析骸，势危负户，终能奋其智勇，应变无方，城守六旬，竟摧大敌。齐人既焚营宵遁，高氏遂愤恚而殂。虽即墨破燕，晋阳存赵，何以能尚？若使平阳不守，邺城无众人之师；玉壁启关，函谷失封泥之固。斯岂一城之得丧，实亦二国之兴亡者欤。”
大诗人杜牧对韦孝宽也十分地赞赏：“周有齐太公，秦有王翦，两汉有韩信、赵充国、耿恭、虞诩、段颎，魏有司马懿，吴有周瑜，蜀有诸葛武侯，晋有羊祜、杜公元凯，梁有韦睿，元魏有崔浩，周有韦孝宽，隋有杨素，国朝有李靖、李积、裴行俭、郭元振。如此人者，当此一时，其所出计画，皆考古校今，奇秘长远，策先定於内，功后成於外。”
建中三年，礼仪使颜真卿向唐德宗建议，追封古代名将六十四人，并为他们设庙享奠，当中就包括“右仆射郧国公韦孝宽”。
宣和五年，宋室依照唐代惯例，为古代名将设庙，七十二位名将中亦包括韦孝宽。
在北宋年间成书的《十七史百将传》中，韦孝宽亦位列其中。