开皇二十年（庚申年，公元600年）
春季二月，熙州人李英林发动叛乱。三月辛卯日，朝廷任命扬州总管司马河内人张衡为行军总管，率领五万步兵、骑兵讨伐并平定了叛乱。
贺若弼又因事获罪入狱，隋文帝列举他的罪状说：“你有三个‘太过分’：嫉妒心太过分，自以为是、贬低他人的心太过分，目无君主的心太过分。”不久后又释放了他。有一天，隋文帝对侍从大臣说：“贺若弼在将要讨伐陈朝时，对高颎说：‘陈叔宝一定能平定。难道不会出现“飞鸟尽，良弓藏”的情况吗？’高颎说‘肯定不会这样’。等到平定陈朝后，贺若弼立刻索要内史令的职位，后来又索要仆射之职。我对高颎说：‘功臣理应授予勋官，不能参与朝政。’贺若弼后来又对高颎说：‘皇太子对我，无话不谈。您以后难道不需要我的帮助吗？何必这样疏远我！’他意图谋取广陵，又想谋取荆州，这些都是容易发生叛乱的地方，他的野心始终没有改变。”
夏季四月壬戌日，突厥达头可汗侵犯边境，隋文帝下诏命令晋王杨广、杨素从灵武道出兵，汉王杨谅、史万岁从马邑道出兵，攻打达头可汗。
长孙晟率领归降的突厥人担任秦州行军总管，受晋王杨广调度。长孙晟因突厥人饮用泉水，容易下毒，就取来各种毒药投在泉水上游，突厥的人畜饮用后大多死亡，突厥人于是大惊说：“上天降下恶水，是要灭亡我们吗！”于是连夜逃走。长孙晟率军追击，斩杀一千多人。
史万岁出塞后，抵达大斤山，与突厥军队相遇。达头可汗派遣使者询问：“隋朝的将领是谁？”侦察骑兵回复：“是史万岁。”突厥人又问：“难道是当年那个敦煌戍卒吗？”侦察骑兵说：“是的。”达头可汗恐惧，率军撤退。史万岁率军追击一百多里，发兵猛攻，大败突厥军队，斩杀几千人；又追击逃敌，深入沙漠几百里，直到突厥人远远逃走才返回。隋文帝下诏派遣长孙晟再次返回大利城，安抚新归附的突厥人。
达头可汗又派遣他的侄子俟利伐从沙漠东部攻打启民可汗，隋文帝再次发兵帮助启民可汗防守要道；俟利伐被迫退回沙漠。启民可汗上表谢恩说：“大隋圣人可汗怜悯养育百姓，如同上天无所不覆盖，大地无所不承载。我染干如同枯木重新长叶，枯骨重新长肉，千世万世，都愿做大隋掌管羊马的人。”隋文帝又派遣赵仲卿为启民可汗修筑金河、定襄两座城池。
秦孝王杨俊长期患病，无法起身，派遣使者上表谢罪。隋文帝对使者说：“我竭尽全力创建这大业，制定法度、留下榜样，希望臣下能遵守。你是我的儿子，却想败坏它，我不知道该如何责备你！”杨俊又惭愧又恐惧，病情加重，隋文帝于是再次任命他为上柱国；六月丁丑日，杨俊去世。隋文帝为他哭丧，只哭了几声就停止了。杨俊生前建造的奢华物品，隋文帝下令全部烧毁。王府的官员请求为杨俊立碑，隋文帝说：“想要留名，一卷史书就足够了，立碑有什么用！如果子孙不能保住家业，石碑只会成为别人的压石罢了！”杨俊的儿子杨浩，是崔妃所生；庶子叫杨湛。群臣迎合隋文帝的心意，上奏说：“汉朝栗姬的儿子刘荣、郭皇后的儿子刘强，都因母亲获罪而被废黜，如今秦王的两个儿子，母亲都有罪，不应继承爵位。”隋文帝听从了他们的建议，任命秦国的官员作为丧主主持葬礼。
起初，隋文帝让太子杨勇参与决断军政事务，杨勇对政事的修改建议，隋文帝大多采纳。杨勇性格宽厚，做事随心所欲，没有虚伪掩饰的行为。隋文帝生性节俭，杨勇曾对蜀地进贡的铠甲进行装饰，隋文帝看到后很不高兴，告诫他说：“自古以来，没有喜好奢侈却能长久统治的帝王。你作为太子，应当以节俭为先，才能继承宗庙基业。我过去的衣服，各留一件，时常拿出来看看，以此警戒自己。我担心你现在身为皇太子，会忘记过去的事情，所以赐给你我过去佩戴的刀一把，以及一盒菹酱，这是你当年担任上士时经常吃的东西。如果还记得过去的事，就该明白我的心意。”
后来到了冬至，百官都去拜见杨勇，杨勇设置乐队接受朝贺。隋文帝知道后，问朝臣：“最近听说冬至那天，朝廷内外百官都去东宫朝见，这是什么礼仪？”太常少卿辛亶回答说：“到东宫，是祝贺，不能说是‘朝见’。”隋文帝说：“祝贺的人，按理说几十人就够了，各自随意前往，为什么要由有关部门召集，让百官同时聚集！太子穿着礼服、设置乐队等待百官，合适吗？”于是下诏说：“礼仪有等级差别，君臣的礼节不能混淆。皇太子虽然是皇位继承人，但从道义上讲，也是臣子，而各地长官在冬至日前来朝贺，并进献贡品，还另外向皇太子进献，这不符合典章制度，应当全部停止！”从此，隋文帝对杨勇的恩宠开始衰减，逐渐产生猜疑和隔阂。
杨勇有很多宠妃，昭训云氏尤其受宠。他的妃子元氏不受宠，突发心脏病，两天后就去世了，独孤皇后怀疑其中有别的原因，因此责备杨勇。从此，云昭训专掌东宫内政，生下长宁王杨俨、平原王杨裕、安成王杨筠；高良娣生下安平王杨嶷、襄城王杨恪；王良媛生下高阳王杨该、建安王杨韶；成姬生下颍川王杨煚；后宫姬妾生下杨孝实、杨孝范。独孤皇后更加不满，多次派人暗中监视杨勇，寻找他的过错。晋王杨广则极力伪装自己，只和萧妃居住在一起，后宫姬妾生下孩子都不抚养，独孤皇后因此多次称赞杨广贤德。对于掌权的大臣，杨广都尽心结交。隋文帝和独孤皇后每次派侍从到杨广的住处，无论来人地位高低，杨广必定和萧妃到门口迎接，为他们准备丰盛的饭菜，并赠送厚礼；来往的奴婢仆人，没有不称赞杨广仁孝的。隋文帝和独孤皇后曾亲临杨广的府第，杨广把美貌的姬妾都藏到别的房间，只留下年老丑陋的，让她们穿着朴素的衣服，在身边侍奉；房间里的屏帐都改用素色的缣帛；故意弄断乐器的弦，不让人擦拭上面的灰尘。隋文帝看到后，认为杨广不喜好声色，返回皇宫后，把这些情况告诉侍从大臣，心里非常高兴。大臣们都为隋文帝感到庆幸，从此，隋文帝对杨广的宠爱远超其他儿子。
隋文帝秘密让善于相面的来和为所有儿子相面，来和回答说：“晋王眉毛上方有双骨隆起，富贵不可言。”隋文帝又问上仪同三司韦鼎：“我的几个儿子中，谁能继承皇位？”韦鼎回答说：“陛下和皇后最喜爱的儿子，就会把皇位传给谁，不是我敢预知的。”隋文帝笑着说：“你不肯明说啊！”
晋王杨广容貌俊美，举止优雅，生性聪慧机敏，性格深沉庄重；喜好学习，擅长写文章；对待朝臣恭敬有礼，态度极为谦卑；因此名声很大，超过了其他王子。
杨广担任扬州总管时，入朝觐见，即将返回扬州，入宫向独孤皇后辞行，跪在地上流泪，独孤皇后也伤心落泪。杨广说：“我生性愚笨，一直坚守兄弟间的情谊，不知道犯了什么过错，失去了太子的喜爱，他常常心怀怨恨，想要陷害我。我时常担心会像曾参那样，因别人的谗言而被怀疑，也担心会在饮食中被人下毒，因此常常忧虑不安，害怕遭遇危险。”独孤皇后愤怒地说：“杨勇这个小子，越来越让人无法忍受！我为他娶了元氏女，他竟然不以夫妇之礼对待她，专宠云昭训，生下这么多猪狗不如的孩子。之前元氏女被毒害而死，我也没能彻底查清原因，他为什么又对你有这样的想法！我还在世，他就敢这样，我死后，他一定会把你们当作鱼肉来宰割！每次想到东宫没有嫡子，等陛下百年之后，你们兄弟还要向云昭训的儿子跪拜问安，这该是多么痛苦的事啊！”杨广再次跪拜，呜咽不止，独孤皇后也悲痛不已。从此，独孤皇后下定决心要废黜杨勇，立杨广为太子。
杨广和安州总管宇文述一向关系很好，想让宇文述靠近自己，就上奏请求任命他为寿州刺史。杨广尤其亲近信任总管司马张衡，张衡为杨广谋划夺取太子之位的策略。杨广向宇文述询问计策，宇文述说：“皇太子失去陛下和皇后的宠爱已经很久了，天下人也没听说他有什么美德。大王您以仁孝着称，才能盖世，多次率军出征，立下大功；陛下和皇后都钟爱您，天下人也都希望您能继承皇位。但废立太子是国家大事，涉及父子骨肉关系，实在不容易谋划。不过，能改变陛下心意的人，只有杨素，而杨素只和他的弟弟杨约商议大事。我向来了解杨约，请允许我入朝，与杨约见面，共同谋划此事。”杨广非常高兴，赠送了很多金银财宝，资助宇文述入关。
当时杨约担任大理少卿，杨素无论做什么事，都先和杨约商议后再行动。宇文述邀请杨约，摆出大量珍贵的器物古玩，和他畅饮，趁机一起赌博，每次都故意输给他，把带来的金银财宝全部输给了杨约。杨约得到很多财物，逐渐向宇文述表示感谢。宇文述趁机说：“这些都是晋王赏赐的，让我和您一起玩乐罢了。”杨约大惊说：“为什么要这样？”宇文述于是转达了杨广的意思，劝说道：“坚守正道，固然是臣子的本分；但违背常规而合乎道义，也是明智之人的良策。自古以来，贤人君子没有不顺应时势变化来躲避灾祸的。您和杨素兄弟，功劳名声盖世，掌权多年，被您家侮辱过的朝臣，数不胜数！而且，皇太子因自己的意愿不能实现，常常对执政大臣恨之入骨；您虽然得到陛下的信任，但想要危害您的人也很多！一旦陛下去世，您又能依靠谁呢？如今皇太子失去皇后的宠爱，陛下也早有废黜他的想法，这是您知道的。现在如果能请求立晋王为太子，这事只在您兄长杨素的一句话。如果能在此时立下大功，晋王一定会永远铭记您的恩情，这样就能摆脱如累卵般的危险，成就如泰山般稳固的地位。”杨约同意了，于是把这个想法告诉了杨素。杨素听后非常高兴，拍手说：“我的智谋，远不如你，多亏你提醒我。”杨约知道计策可行，又对杨素说：“如今皇后的话，陛下没有不听的，应当趁机尽早和皇后结交，这样才能长久保住荣华富贵，传给子孙。兄长如果犹豫不决，一旦情况变化，让太子掌权，恐怕灾祸很快就会到来！”杨素听从了他的建议。
几天后，杨素入宫陪侍宴会，委婉地说：“晋王孝顺友爱、恭敬节俭，和陛下很像。”用这话试探独孤皇后的心意。独孤皇后流泪说：“您说得对！我的儿子非常孝顺，每次听说陛下和我派使者去，必定会到边境迎接；说起和我们分别的事，没有不流泪的。而且他的妃子也很令人怜爱，我派婢女去，她常常和婢女一起吃饭睡觉。哪像杨勇，整天和云昭训对坐饮酒，亲近小人，猜忌疏远骨肉！我之所以更加怜爱杨广，是常常担心杨勇会暗中杀害他。”杨素知道了独孤皇后的心意后，就极力说太子杨勇不成器。独孤皇后于是赠送杨素黄金，让他协助隋文帝废黜杨勇、立杨广为太子。
杨勇大致知道了他们的谋划，忧虑恐惧，却想不出办法，就派新丰人王辅贤用邪术诅咒隋文帝和杨广；又在东宫后园建造了一个“庶人村”，房屋简陋，杨勇时常在里面居住，穿着粗布衣服，睡在草席上，希望以此来避祸。隋文帝知道杨勇内心不安，在仁寿宫时，派杨素去观察杨勇的行为。杨素到了东宫，故意在外面休息，不进去见杨勇，杨勇穿戴整齐等待他，杨素却故意长时间不进门，以此激怒杨勇；杨勇心怀怨恨，不满情绪表现在言行上。杨素返回后对隋文帝说：“杨勇心怀怨恨，恐怕会有变故，希望陛下多加防备！”隋文帝听了杨素的谗言，对杨勇更加怀疑。独孤皇后又派人暗中监视东宫，哪怕是极小的事，都会上报隋文帝，并加以歪曲，来构成杨勇的罪状。
隋文帝于是疏远猜忌杨勇，在玄武门到至德门之间设置侦察人员，监视杨勇的动静，凡事都随时上报。此外，东宫的宿卫人员，凡侍官以上的，名册都划归到各卫府管理，勇猛健壮的人都被调离东宫。又把左卫率苏孝慈调出京城，任命为淅州刺史，杨勇更加不高兴。太史令袁充对隋文帝说：“我观察天象，皇太子应当被废黜。”隋文帝说：“天象显示这种征兆已经很久了，只是群臣不敢说罢了。”袁充是袁君正的儿子。
晋王杨广又让督王府军事姑臧人段达暗中贿赂东宫受宠的臣子姬威，让他监视太子的动静，秘密报告给杨素；于是朝廷内外都在议论杨勇的过失，每天都能听到杨勇的罪状。段达趁机威胁姬威说：“东宫的过失，陛下都知道了。陛下已经下达密诏，决定废黜太子、另立他人；你如果能揭发杨勇的罪状，就能获得大富贵！”姬威答应了，立即上书揭发杨勇。
秋季九月壬子日，隋文帝从仁寿宫返回京城。第二天，隋文帝驾临大兴殿，对侍从大臣说：“我刚回到京城，本应心情愉快；不知为什么，反而忧愁烦闷！”吏部尚书牛弘回答说：“是我们这些大臣不称职，让陛下忧虑辛劳。”隋文帝已经多次听到关于杨勇的谗言，怀疑朝臣都知道这些事，所以在众人面前发问，希望听到关于杨勇的过失。牛弘的回答不符合隋文帝的心意，隋文帝于是脸色一变，对东宫的官员说：“仁寿宫离京城不远，但每次我返回京城，都要严密部署仪仗卫队，就像进入敌国一样。我最近腹泻，连衣服都不敢脱下来睡觉。昨天夜里想上厕所，因为担心后房有紧急情况，又回到前殿居住，这难道不是你们这些人想败坏我的家业吗！”于是下令将太子左庶子唐令则等人逮捕，交给有关部门审讯；命令杨素向亲近大臣陈述东宫的情况。
杨素于是公开说：“我奉陛下旨意返回京城，命令皇太子核查刘居士的残余党羽。太子接到诏令后，脸色大变、情绪激动，声色俱厉地对我说：‘刘居士的党羽已经全部伏法，让我到哪里去追查！你身为右仆射，陛下对你的托付不轻，你自己去核查吧，和我有什么关系！’又说：‘当初隋文帝夺取天下的大事如果没成功，我会先被诛杀；如今陛下做了天子，竟然让我比不上各位弟弟，任何一件事都不能自己做主！’接着长叹一声，回头看着我说：‘我真觉得自己是个累赘。’”隋文帝说：“这个儿子不能继承皇位很久了，皇后一直劝我废黜他。我因为他是我平民时生下的儿子，又位居长子，希望他能逐渐改正过错，所以隐忍到现在。杨勇曾指着皇后的侍女对别人说：‘这些都是我的东西。’这话多离谱！他的妃子刚去世时，我很怀疑是被毒害的，曾责备过他，杨勇立刻怨恨地说：‘我迟早要杀了元孝矩（元妃的父亲）。’这是想害我却把怒气发泄到别人身上啊。长宁王（杨勇长子杨俨）刚出生时，我和皇后一起抚养他，杨勇却心怀猜忌，多次派人来索要孩子。况且云定兴的女儿（云昭训），是在外面私通生下的孩子，看这来历，未必是杨勇的亲骨肉！过去晋朝太子娶了屠夫的女儿，他们的儿子就喜欢屠宰之事。如今如果太子的孩子不是亲生的，就会扰乱皇室宗族。我虽然德行比不上尧、舜，但终究不会把天下百姓交给不成器的儿子！我一直担心他会加害于我，就像防备大敌一样；现在我要废黜他，来安定天下！”
左卫大将军五原公元旻劝谏说：“废立太子是大事，诏令一旦施行，后悔就来不及了。谗言没有边际，希望陛下明察。”
隋文帝没有回应，命令姬威详细陈述太子的罪恶。姬威回答说：“太子平时和我说话，一心只想着骄奢享乐，还说：‘如果有劝谏我的人，就该杀了他，不杀一百来人，就不会有人再敢多嘴。’他修建宫殿台阁，一年四季都不停歇。之前苏孝慈被免去左卫率的职务，太子怒发冲冠、挥动手臂说：‘大丈夫总有一天，绝不会忘记这件事，一定要报仇雪恨。’另外，东宫宫内需要的物品，尚书省大多依据法令不予供给，太子就发怒说：‘仆射以下的官员，我迟早要杀一两个人，让他们知道怠慢我的下场。’太子还常说：‘陛下讨厌我有很多庶子，可高纬、陈叔宝难道不是庶子吗！’他曾让女巫占卜吉凶，对我说：‘陛下的忌日在开皇十八年，这个日子越来越近了。’”隋文帝流泪说：“谁不是父母所生，他竟然能做出这种事！我最近读《齐书》，看到高欢放纵他的儿子，心中非常愤怒，怎么能效仿他呢！”于是下令囚禁杨勇和他的儿子们，部署人手逮捕杨勇的党羽。杨素故意歪曲法律条文，罗织罪名，构陷杨勇等人。
过了几天，有关部门迎合杨素的心意，上奏说元旻常常曲意侍奉杨勇，心怀依附，在仁寿宫时，杨勇派亲信裴弘送信给元旻，信上写着“不要让人看见”。隋文帝说：“我在仁寿宫时，哪怕是极小的事，东宫都必定知道，比驿马传信还快，我早就觉得奇怪，难道不就是这些人在传递消息吗！”于是派武士在仪仗卫队中逮捕了元旻。右卫大将军元胄当时本该下班，却没有离开，趁机上奏说：“我刚才没下班，就是为了防备元旻。”隋文帝把元旻和裴弘关进监狱。
此前，杨勇看到一棵枯老的槐树，问：“这棵树能用来做什么？”有人回答说：“古槐最适合取火。”当时卫士都佩戴火燧（取火工具），杨勇就命令工匠制作了几千个火燧，想分赐给身边的人；到这时，这些火燧在仓库里被查获。又在药藏局查获了几斛艾草，隋文帝对此感到很奇怪，问姬威，姬威说：“太子的用意另有图谋，陛下在仁寿宫时，太子常饲养一千匹马，还说：‘直接去守住城门，陛下自然会饿死。’”杨素用姬威的话质问杨勇，杨勇不服，说：“我听说公家有几万匹马，我身为太子，养一千匹马，难道就是谋反吗！”杨素又拿出东宫装饰华丽的服饰玩物，全部陈列在庭院中，展示给文武百官看，作为太子的罪证。隋文帝和独孤皇后又多次派使者责备杨勇，杨勇仍不服气。
冬季十月乙丑日，隋文帝派人召见杨勇，杨勇见到使者，惊慌地说：“难道是要杀我吗？”隋文帝穿着军装，陈列士兵，驾临武德殿，召集百官站在殿东，宗室亲属站在殿西，把杨勇和他的儿子们带到殿庭中，命令内史侍郎薛道衡宣读诏令，废黜杨勇和他的儿子们的王、公主爵位，全部贬为平民。杨勇跪拜两次说：“我本该被处死在街市上，作为后人的警示；幸好承蒙陛下怜悯，保住性命！”说完，泪流满面，接着行礼后离开，左右侍从无不沉默同情。长宁王杨俨上表请求担任宫廷宿卫，言辞恳切哀伤；隋文帝看后很怜悯他。杨素进言说：“希望陛下像对有毒的手一样果断，不要对他再留情意。”
己巳日，隋文帝下诏：“元旻、唐令则以及太子家令邹文腾、左卫率司马夏侯福、典膳监元淹、前吏部侍郎萧子宝、前主玺下士何竦，全部处死，他们的妻妾子孙都没入官府为奴。车骑将军榆林人阎毗、东郡公崔君绰、游骑尉沈福宝、瀛州术士章仇太翼，特别赦免死罪，各打一百杖，本人、妻子儿女以及财产田宅都没入官府。副作大匠高龙叉、率更令晋文建、通直散骑侍郎元衡，全部处死。”于是召集百官到广阳门外，宣读诏令处决这些人。又把杨勇转移到内史省囚禁，供给五品官的饮食。赏赐杨素三千段布帛，赏赐元胄、杨约各一千段布帛，表彰他们审理杨勇案件的功劳。
文林郎杨孝政上书劝谏说：“皇太子是被小人误导，应当加以教诲，不应废黜。”隋文帝大怒，用鞭子抽打他的胸部。
起初，云昭训的父亲云定兴，随意出入东宫，多次进献奇装异服和新奇器物来讨好杨勇；左庶子裴政多次劝谏，杨勇不听。裴政对云定兴说：“您的行为不符合法度。另外，元妃突然去世，外面议论纷纷，这对太子的名声很不利。您应当主动引退，否则将会遭遇灾祸。”云定兴把这话告诉了杨勇，杨勇更加疏远裴政，后来裴政被调出京城，担任襄州总管。唐令则被杨勇亲近，杨勇常常让他弹琴唱歌，教东宫宫女演奏，右庶子刘行本责备他说：“庶子应当用正道辅佐太子，怎么能在后宫中讨好太子呢！”唐令则很惭愧，却没有改正。当时沛国人刘臻、平原人明克让、魏郡人陆爽，都因擅长文学而被杨勇亲近；刘行本对他们不能纠正太子的过错感到愤怒，常常对三人说：“你们只知道读书罢了！”夏侯福曾在东宫阁内和杨勇嬉戏，夏侯福放声大笑，声音传到外面。刘行本听到后，等夏侯福出来，斥责他说：“殿下宽容，才给你面子。你是什么小人，敢如此轻慢！”于是把他交给执法官员治罪。几天后，杨勇为夏侯福求情，才释放了他。杨勇曾得到一匹好马，想让刘行本骑马观赏，刘行本严肃地说：“陛下任命我为庶子，是想让我辅佐殿下，不是让我做殿下的玩物。”杨勇惭愧地放弃了。等到杨勇被废黜时，裴政、刘行本已经去世，隋文帝叹息说：“如果裴政、刘行本还在，杨勇不至于落到这个地步。”
杨勇曾设宴款待东宫官员，唐令则亲自弹琵琶，演唱《娬媚娘》。太子洗马李纲起身对杨勇说：“唐令则身为东宫官员，职责是辅佐太子走正道，却在大庭广众之下把自己当作歌妓，演唱淫靡之曲，污染视听。如果这事被陛下知道，唐令则的罪过就不可估量了，难道不会连累殿下吗！我请求立刻治他的罪！”杨勇说：“我只是想取乐罢了，你不要多事！”李纲于是快步走出宴会。等到杨勇被废黜，隋文帝召集东宫官员严厉责备，官员们都惶恐不安，没人敢回应。只有李纲说：“废立太子是大事，如今文武大臣都知道不能这样做，却没人敢说话，我怎么敢怕死，不向陛下说明真相呢！太子的本性是中等水平，可以变好，也可以变坏。如果陛下当初选择正直的人辅佐他，足以让他继承大业。如今却任命唐令则为左庶子，邹文腾为家令，这两个人只知道用弹琴唱歌、打猎游玩讨好太子，太子怎么会不落到这个地步！这是陛下的过错，不是太子的罪过。”说完跪在地上流泪呜咽。隋文帝沉默了很久，神色悲伤地说：“李纲责备我，不是没有道理，但你只知其一，不知其二。我选择你做东宫官员，可杨勇不亲近信任你，即使再选正直的人，又有什么用呢！”李纲回答说：“我之所以不被亲近信任，确实是因为奸臣在太子身边的缘故。陛下只要杀了唐令则、邹文腾，再选贤才辅佐太子，怎么知道我最终会被疏远抛弃呢！自古以来，废黜嫡长子，很少有不导致国家危亡的，希望陛下深思，不要留下后悔。”隋文帝不高兴，宣布退朝，左右侍从都为李纲感到害怕。恰逢尚书右丞职位空缺，有关部门请求任命人选，隋文帝指着李纲说：“这是个好右丞！”立即任命李纲为尚书右丞。
太平公史万岁从大斤山返回，杨素嫉妒他的功劳，对隋文帝说：“突厥本来已经归降，最初并没有侵犯边境，只是来边塞放牧罢了。”于是压下了史万岁的功劳。史万岁多次上奏陈述情况，隋文帝仍没有醒悟。隋文帝废黜太子时，正在彻底追查东宫党羽。隋文帝问史万岁在哪里，史万岁其实在朝堂上，杨素却谎称：“史万岁去拜见东宫了！”以此激怒隋文帝。隋文帝信以为真，下令召见史万岁。当时史万岁部下的士兵有几百人在朝堂上喊冤，史万岁对他们说：“我今天会为你们向陛下极力进言，事情一定会有结果。”见到隋文帝后，史万岁说“将士们有功劳，却被朝廷压制！”言辞激昂愤怒。隋文帝大怒，命令左右侍从将他打死。不久后隋文帝后悔，派人去追，但已经来不及了，于是下诏陈述史万岁的罪状，天下人都为史万岁感到冤枉惋惜。
十一月戊子日，隋文帝立晋王杨广为皇太子。当天天下发生地震，杨广请求降低自己的服饰规格，东宫官员不称自己为臣。十二月戊午日，隋文帝下诏同意。任命宇文述为左卫率。起初，杨广谋划夺取太子之位时，洪州总管郭衍参与其中，因此征召郭衍担任左监门率。
隋文帝把前太子杨勇囚禁在东宫，交给太子杨广看管。杨勇认为自己被废黜是冤枉的，多次请求面见隋文帝申冤，但都被杨广阻止，无法传达。于是杨勇爬上树上大喊，声音传到隋文帝的住处，希望能被召见。杨素趁机说杨勇神志混乱，被疯鬼附体，无法再恢复正常。隋文帝相信了杨素的话，最终没有召见杨勇。
起初，隋文帝平定陈朝后，天下人都认为将会迎来太平，监察御史房彦谦私下对亲信说：“陛下猜忌苛刻，太子软弱，各位藩王专权，天下虽然现在安定，不久后就会有危乱。”他的儿子房玄龄也秘密对房彦谦说：“陛下本来没有功德，靠欺诈夺取天下，各个儿子都骄奢不仁，一定会自相残杀，如今虽然太平，隋朝的灭亡很快就会到来。”房彦谦是房法寿的玄孙。
房玄龄和杜杲哥哥的孙子杜如晦都参与了官员选拔，吏部侍郎高孝基以善于识别人才闻名，见到房玄龄后，叹息说：“我见过的人很多，从没见过像这位年轻人这样的，将来必定会成为栋梁之才，可惜我看不到他成就大业了！”见到杜如晦后，对他说：“你有随机应变的才能，将来必定会担任栋梁重任。”高孝基把自己的子孙托付给了他们。
隋文帝晚年深信佛教、道教和鬼神之说，辛巳日，首次下诏：“有盗窃、毁坏佛像、天尊像以及五岳、四镇、四海、四渎神像的人，按‘不道’罪论处；僧人毁坏佛像、道士毁坏天尊像的人，按‘恶逆’罪论处。”
这一年，征召同州刺史蔡王杨智积入朝。杨智积是隋文帝弟弟的儿子。他生性谨慎，家中没有私人拜会，日常生活简朴，隋文帝很怜爱他。杨智积有五个儿子，只教他们读《论语》《孝经》，不让他们结交宾客。有人问他原因，杨智积说：“你不了解我！”他的意思是担心儿子们有才能而招致灾祸。
齐州行参军章武人王伽押送七十多名流放囚犯李参等人前往京城，走到荥阳时，怜悯囚犯们辛苦，把他们都叫过来说：“你们自己犯了国法，身陷牢狱，本是罪有应得；但辛苦押送你们的士兵，你们难道不感到惭愧吗！”李参等人道歉。王伽于是解开囚犯们的枷锁，让押送的士兵停止押送，和囚犯们约定：“某天必须到达京城，如果你们逾期或逃跑，我会为你们承担死罪。”说完就离开了。流放囚犯们感动喜悦，按时到达京城，没有一个人逃跑。隋文帝听说后很惊异，召见王伽交谈，称赞了他很久。于是召集所有流放囚犯，让他们带着妻子儿女一起入宫，在殿庭中设宴款待并赦免了他们。隋文帝趁机下诏说：“所有生灵，都有天赋的本性，都知道善恶，能分辨是非。如果用真诚对待他们，明确加以劝导，风俗必定会改变，人们都会向善。过去因天下战乱，道德教化废绝，官吏没有慈爱之心，百姓心怀奸诈之意。我想遵循圣人的法则，用道德教化百姓，而王伽深刻理解我的心意，诚心劝导囚犯，李参等人醒悟，主动到司法部门报到：这说明天下百姓，并非难以教化。如果官吏都像王伽一样，百姓都像李参一样，不用刑罚就能治理国家，还会远吗！”于是提拔王伽为雍县县令。
太史令袁充上表称：“隋朝建立以来，白天的时间逐渐变长。开皇元年，冬至时的日影长一丈二尺七寸二分；从那以后逐渐变短，到开皇十七年，比原来短了三寸七分。太阳离北极近，日影就短、白天就长；离北极远，日影就长、白天就短。太阳运行在‘内道’时离北极近，运行在‘外道’时离北极远。据《元命包》记载：‘日月运行在内道，天体运转就符合常规。’《京房别对》说：‘天下太平，太阳运行在‘上道’；天下升平，运行在‘次道’；霸主时代，运行在‘下道’。’如今大隋开国，上感上天，日影变短、白天变长，这是自古以来罕见的吉兆。”隋文帝上朝时对百官说：“日影变短的吉庆，是上天的保佑。现在太子刚立，应当改元，就取‘白天变长’的意思定年号。”此后，所有工匠劳作都增加了工作量，理由是白天变长了。工匠们为此苦不堪言。
仁寿元年（辛酉年，公元601年）
春季正月乙酉日（初一），隋文帝大赦天下，改年号为“仁寿”。
任命尚书右仆射杨素为左仆射，纳言苏威为右仆射。
丁酉日，改封河南王杨昭为晋王。
突厥步迦可汗侵犯边境，在恒安击败代州总管韩弘。
任命晋王杨昭为内史令。
二月乙卯日（初一），发生日食。
夏季五月己丑日，突厥男女九万人前来归降。
六月乙卯日，隋文帝派遣十六名使者巡视各地风俗。
乙丑日，隋文帝下诏，因天下学校学生数量多但质量差，只挑选保留国子学学生七十人，太学、四门学及州县学校全部废除。前殿内将军河间人刘炫上书恳切劝谏，隋文帝不听。秋季七月戊戌日，改国子学为太学。
起初，隋文帝接受北周禅让后，担心民心不服，因此常常宣称有吉祥征兆来炫耀，伪造吉祥征兆献上的人，多得数不清。冬季十一月己丑日，隋文帝在南郊举行祭祀，仪式如同封禅大典，祭文详细叙述了前后出现的吉祥征兆，以报答上天的保佑。
山獠发动叛乱，朝廷任命卫尉少卿洛阳人卫文昻（名玄，以字行世）为资州刺史，前去镇守安抚。卫文昻刚到任时，獠人正在攻打大牢镇，他单人独骑来到獠人军营，说：“我是刺史，奉天子诏令来安抚你们，不要惊慌！”群獠没人敢轻举妄动。卫文昻接着向他们陈述利害，獠人首领感动喜悦，撤兵离去，前后归附的獠人有十多万。隋文帝非常高兴，赏赐他两千匹缣。壬辰日，任命卫文昻为遂州总管。
潮州、成州等五州的獠人反叛，高州酋长冯盎快马赶到京城，请求讨伐叛军。隋文帝命令杨素与冯盎讨论叛军情况，杨素感叹说：“没想到蛮夷中还有这样的人才！”立即派遣冯盎调发长江、岭南的军队攻打叛军。叛乱平定后，任命冯盎为汉阳太守。
隋文帝下诏任命杨素为云州道行军元帅，长孙晟为受降使者，挟持启民可汗向北攻打步迦可汗。
仁寿二年（壬戌年，公元602年）
春季三月己亥日，隋文帝前往仁寿宫。
突厥思力俟斤等人向南渡过黄河，劫掠启民可汗的部众六千人和各种牲畜二十多万后离去。杨素率领各军追击，转战六十多里，大败突厥，突厥人向北逃走。杨素继续追击，到了夜里追上突厥军队，担心他们逃脱，命令骑兵稍稍落后，自己带领两名骑兵和两名归降的突厥人，与突厥军队并行，突厥人没有察觉；等到突厥人扎营还没稳定时，杨素催促后面的骑兵突袭，大败突厥，将俘获的人畜全部归还给启民可汗。从此，突厥人远远逃走，沙漠以南不再有突厥劫掠。杨素因功封儿子杨玄感为柱国，赐杨玄纵淮南公的爵位。
兵部尚书柳述，是柳庆的孙子，娶了兰陵公主，他依仗宠信，意气用事，连杨素这样的大臣都要屈居他之下。隋文帝问符玺直长万年人韦云起：“外面有什么不利的事情，可以说出来。”当时柳述正在旁边侍奉，韦云起上奏说：“柳述骄横自大，从未经历过大事，军事机要这样的重任，不是他能胜任的。他只因是公主的丈夫，就占据重要职位。臣担心众人会议论陛下‘任官不选贤才，只偏爱自己亲近的人’，这是最大的不利之事。”隋文帝非常赞同他的话，回头对柳述说：“韦云起的话，是治疗你的良药，你应该把他当作老师和朋友。”秋季七月丙戌日，隋文帝下诏让朝廷内外官员各自举荐自己了解的贤才。柳述举荐了韦云起，朝廷任命韦云起为通事舍人。
益州总管蜀王杨秀，容貌魁梧，有胆识勇气，喜好武艺。隋文帝常对独孤皇后说：“杨秀最终一定会因作恶而死，我在世时还不用担心，等他的兄弟继位，他一定会谋反。”大将军刘哙讨伐西爨时，隋文帝命令上开府仪同三司杨武通率军随后跟进。杨秀任命自己的宠臣万智光为杨武通的行军司马。隋文帝认为杨秀任用不当，谴责了他，并对群臣说：“破坏我的法令的，是我的子孙。就像猛虎，其他动物不能伤害它，反而会被身上的小虫损害侵蚀。”于是分割了杨秀统领的部分兵力。
自从长史元岩去世后，杨秀逐渐变得奢侈僭越，制作浑天仪，抓捕很多山獠充当宦官，车马服饰都模仿皇帝的规格。
等到太子杨勇因谗言被废，晋王杨广被立为太子，杨秀心中非常不满。太子杨广担心杨秀最终会成为后患，暗中让杨素寻找杨秀的过错，诋毁他。隋文帝于是征召杨秀入朝，杨秀犹豫不决，想以生病为由不去。总管司马源师劝谏，杨秀脸色一变说：“这是我的家事，和你有什么关系！”源师流着泪回答说：“我有幸在王府任职，怎敢不尽心！圣上有诏令征召大王，已经拖延了几个月，现在还迟迟不去。百姓不了解大王的心意，倘若产生猜疑，朝廷内外都会惊慌，圣上若下严厉诏令，派使者前来，大王怎么证明自己清白？希望大王仔细考虑！”朝廷担心杨秀发动叛乱，戊子日，任命原州总管独子瓜楷为益州总管，乘驿马前去接替杨秀。独子瓜楷到达后，杨秀仍不肯动身；独子瓜楷劝说了很久，杨秀才上路。独子瓜楷察觉杨秀有后悔的神色，于是部署军队防备；杨秀走了四十多里，想返回袭击独子瓜楷，侦察到对方有防备，才停止。
八月甲子日，独孤皇后去世。太子杨广在隋文帝和宫人面前悲痛欲绝，好像无法承受丧母之痛；但在自己的住处，却饮食说笑如同平常。另外，他每天在朝堂上让人进献两溢米（古代容量单位，两溢约等于现代两升多），假装节俭守丧，却暗中让人从外面取来肥肉、干肉和腌鱼，放在竹筒里，用蜡封口，再用布包裹着带进住处。
着作郎王劭上书说：“佛经上说：‘人应当升上天界或往生无量寿国时，上天和佛祖会放出大光明，用香花、歌舞乐器来迎接。’已故皇后的福分善举和吉祥征兆，各种秘籍中都有记载，都说她是妙善菩萨转世。臣查考，八月二十二日，仁寿宫内两次降下金银花；二十三日，大宝殿后方夜里出现神光；二十四日卯时，永安宫以北自然响起各种音乐，声音传遍天空；到了夜里五更，皇后安然离世，这与佛经记载的情景，全部相符。”隋文帝看后又悲又喜。
九月丙戌日，隋文帝从仁寿宫返回京城。
冬季十月癸丑日，任命工部尚书杨达为纳言。杨达是杨雄的弟弟。
闰十月甲申日，隋文帝下诏让杨素、苏威与吏部尚书牛弘等人修订吉、凶、军、宾、嘉五种礼仪。
隋文帝让上仪同三司萧吉为独孤皇后选择墓地，萧吉找到一块吉地，说：“占卜显示这块地能保隋朝两千年国运，传二百代君主。”隋文帝说：“吉凶由人决定，不在于墓地。高纬埋葬他的父亲，难道没有占卜吗！不久后北齐就灭亡了。就像我家的祖坟，如果说不吉利，我就不该成为天子；如果说吉利，我弟弟就不该战死。”但最终还是听从了萧吉的建议。萧吉退下后，对族人萧平仲说：“皇太子派宇文左率（宇文述）来向我深表感谢，说：‘您之前说我会成为太子，最终应验了，我永远不会忘记。现在为皇后选墓地，务必让我早点继位。我继位后，会用富贵报答您。’我对他说：‘四年后，太子会执掌天下。’如果太子掌权，隋朝大概就要灭亡了！我之前谎称‘占卜得两千年国运’，其实是‘二十’年的意思；‘传二百代’，是指传两代君主。你要记住这件事！”
壬寅日，将文献皇后（独孤后）安葬在太陵。隋文帝下诏说：“杨素办理皇后的葬礼，尽心尽力寻找吉地，看他这份心意，极其忠诚孝顺，这份功劳难道能和平定叛乱相比吗！可另外封他的一个儿子为义康公，食邑一万户。”还赏赐杨素三十顷田地、一万段绢、一万石米，以及数量相当的金珠绫锦。
蜀王杨秀到达长安，隋文帝见到他，不跟他说话；第二天，派使者严厉斥责他。杨秀谢罪，太子杨广和其他王弟在朝堂上流泪为杨秀求情。隋文帝说：“之前秦王杨俊浪费财物，我用父亲的身份教导他。现在杨秀残害百姓，我要以君主的身份制裁他。”于是把杨秀交给执法官员处理。开府仪同三司庆整劝谏说：“庶人杨勇已被废黜，秦王杨俊已去世，陛下的儿子不多了，何必做到这个地步！蜀王性格耿直，现在受到重罚，恐怕他无法保全自己。”隋文帝大怒，想割掉庆整的舌头，接着对群臣说：“应当把杨秀在街市上斩首，来向百姓谢罪。”于是命令杨素等人审理杨秀的案件。
太子杨广暗中制作了一个木偶，绑住木偶的手、钉住心脏，给木偶戴上枷锁镣铐，在木偶上写上隋文帝和汉王杨谅的名字，还写着“请西岳慈父圣母派神兵收走杨坚、杨谅的魂魄，让他们保持这种状态，不要魂魄消散”。杨广秘密把木偶埋在华山下，被杨素挖了出来；杨素又说杨秀胡乱引用图谶，声称京城有妖异，编造蜀地有吉祥征兆；还伪造了一篇檄文，写着“约定日期讨伐朝廷”，放在杨秀的文集里，把这些都上报给隋文帝。隋文帝说：“天下难道有这样的事吗！”十二月癸巳日，废黜杨秀为庶人，囚禁在内侍省，不许他和妻子儿女见面，只派两名獠人婢女侍奉他，受牵连获罪的有一百多人。杨秀上表忏悔谢罪说：“希望陛下开恩，怜悯我，在我气息未尽之时，让我和儿子瓜子见一面；请赐我一块墓地，让我的骸骨有地方安葬。”瓜子是杨秀的爱子。隋文帝于是下诏列举杨秀的十条罪状，还说：“我不知道杨坚、杨谅是你的什么亲人？”后来才允许杨秀和儿子住在一起。
起初，杨素曾因轻微过失被隋文帝下令送到南台（御史台），命令治书侍御史柳彧审理。杨素依仗地位尊贵，坐在柳彧的坐床上。柳彧从外面进来看到后，在台阶下手持笏板，整理好衣冠，对杨素说：“奉陛下诏令审理您的罪状！”杨素急忙下床。柳彧靠着案几坐下，让杨素站在庭院中，盘问案情。杨素因此怨恨柳彧。蜀王杨秀曾向柳彧索要李文博撰写的《治道集》，柳彧给了他；杨秀赠给柳彧十名奴婢。等到杨秀获罪，杨素上奏说柳彧作为内臣与诸侯交往，柳彧被削除官籍贬为平民，发配到怀远镇戍边。
隋文帝派司农卿赵仲卿前往益州彻底追查杨秀的案件，杨秀的宾客所经过的地方，赵仲卿必定刻意罗织罪名，治罪的州县长官超过一半。隋文帝认为赵仲卿能干，赏赐他很多财物。
过了很久，贝州长史裴肃派使者上书，说：“高颎有天赋的良才，是辅佐陛下开国的元勋，因被众人嫉妒，才被废黜；希望陛下记着他的大功，忘掉他的小过。另外，杨勇、杨秀两位庶人获罪已久，难道不会改过自新吗！希望陛下发扬君主和父亲的慈爱，顾念父子天性，给他们各自封一个小国，观察他们的行为：如果能向善，再逐渐增加封地；如果仍不悔改，再贬削也不晚。现在他们自新的道路永远断绝，看不到他们愧疚悔改的心意，难道不可悲吗！”奏书呈上后，隋文帝对杨素说：“裴肃关心我的家事，这也是出于一片诚心。”于是征召裴肃入朝。太子杨广听说后，对左庶子张衡说：“让杨勇自新，想干什么？”张衡说：“看裴肃的意思，是想让杨勇像吴太伯、汉朝东海王那样（主动让贤或安分守己）。”裴肃到了京城，隋文帝当面告诉他杨勇不能再被任用的意思，然后让他回去了。裴肃是裴侠的儿子。
杨素的弟弟杨约、叔伯兄弟杨文思、杨文纪、同族叔父杨忌，都担任尚书、列卿之职；他的儿子们没有立下战功，却官至柱国、刺史；杨素大肆经营产业，从京城到各地的繁华都市，他的府邸店铺、水磨、肥沃田宅，多到数不清；家中奴仆几千人，后庭穿着华丽丝绸的妓妾有上千人；住宅奢华，规格堪比皇宫；亲信和旧部下遍布朝廷要职。自从废黜了一位太子和一位藩王后，杨素的权势更加显赫。朝臣中违背他心意的人，有的甚至被诛杀全家；依附他或与他有亲戚关系的人，即使没有才能，也必定会被提拔，朝廷上下风气败坏，没有人不畏惧并依附他。敢于与杨素对抗而不屈服的，只有柳彧、尚书右丞李纲和大理卿梁毗三人。
起初，梁毗担任西宁州刺史，共任职十一年。当地蛮夷酋长都以拥有黄金多的人为豪杰，互相攻夺，几乎没有安宁的年份，梁毗对此感到忧虑。后来趁各酋长争相送黄金给梁毗的机会，梁毗把黄金放在座位旁，对着黄金痛哭，对酋长们说：“这东西饿了不能吃，冷了不能穿，你们却因它互相残杀，死伤无数，现在把它送来，是想害死我吗！”最终没有接受任何黄金。蛮夷酋长们由此醒悟，不再互相攻击。隋文帝听说后很赞赏他，征召他担任大理卿，梁毗审理案件公正适当。
梁毗见杨素专权，担心成为国家祸患，就呈上密封奏疏说：“臣听说臣子不能作威作福，否则会危害家族、祸乱国家。臣私下观察左仆射越国公杨素，受到的宠幸越来越重，权势日益显赫，士大夫们都要看他的眼色行事。违背他心意的人，如同夏天遭遇严霜般衰败；迎合他心意的人，如同冬天得到甘雨般兴盛；官员的升降由他一句话决定，朝政的废兴听他指挥；他所亲信的都不是忠诚正直之人，所提拔的都是亲戚，子弟遍布各地，占据多个州县。天下太平之时，他或许还会收敛野心；一旦天下有变故，他必定会成为祸乱的开端。奸臣专权，都是逐渐发展而来的，王莽凭借多年积累的权势篡汉，桓玄利用改朝换代的机会夺权，最终灭亡了汉朝，颠覆了晋朝。陛下若把杨素当作辅佐重臣，臣担心他的心思未必像伊尹那样忠诚。希望陛下借鉴古今教训，酌情处置，使国家基业永远稳固，天下百姓幸运！”奏疏呈上后，隋文帝大怒，将梁毗关进监狱，亲自审问他。梁毗极力陈说“杨素凭借宠信玩弄权术，率领军队时，随意杀戮。而且太子、蜀王被废黜时，百官无不震惊恐惧，只有杨素眉飞色舞，面露喜色，把国家的灾祸当作自己的幸事。”隋文帝无法反驳，只好释放了他。
此后，隋文帝也逐渐疏远猜忌杨素，于是下敕令说：“仆射是国家的宰辅，不必亲自处理琐碎事务，只需每隔三五天到尚书省一次，讨论重大事务即可。”表面上是优待尊崇杨素，实际上是剥夺他的权力。从此，杨素在仁寿年间剩余的时间里，不再参与尚书省的事务决策。朝廷又调出杨约，任命他为伊州刺史。
杨素被疏远后，吏部尚书柳述更加有权势，兼任兵部尚书，参与掌管机密要务；杨素因此怨恨柳述。
太子杨广问贺若弼：“杨素、韩擒虎、史万岁都被称为良将，他们的优劣如何？”贺若弼说：“杨素是猛将，不是谋将；韩擒虎是斗将，不是领将；史万岁是骑将，不是大将。”太子问：“那么谁是大将呢？”贺若弼跪拜说：“全凭殿下选择！”贺若弼的意思是自认为是大将。
交州俚人首领李佛子发动叛乱，占据越王故城，派他哥哥的儿子李大权占据龙编城，另一位首领李普鼎占据乌延城。杨素推荐瓜州刺史长安人刘方有将帅之才，隋文帝下诏任命刘方为交州道行军总管，统领二十七营军队进军平叛。刘方军令严明，有违反军令的人必斩；但他爱护士兵，士兵生病时，他亲自安抚照料，士兵们也因此真心归附他。军队抵达都隆岭，遭遇叛军，将其击败。进军到李佛子的军营前，刘方先向李佛子陈述利害。李佛子恐惧，请求投降，刘方将他押送到长安。
仁寿三年（癸亥年，公元603年）
秋季八月壬申日，隋文帝赐幽州总管燕荣自杀。燕荣性格残酷严苛，鞭打侍从，动辄就打上千下。他曾看到路边从生的荆棘，认为可以做刑杖，命令手下取来，立即用它试打路人。有人自称无罪，燕荣说：“以后你若犯罪，就赦免你。”不久后这人真的犯了罪，燕荣准备用杖打他，这人说：“前些天被打时，您答应以后犯罪就赦免我。”燕荣说：“无罪尚且要打，何况有罪呢！”照样鞭打他。
观州长史元弘嗣调任幽州长史，担心被燕荣侮辱，坚决推辞。隋文帝敕令燕荣：“元弘嗣犯了该打十杖以上的罪，都必须上奏朝廷。”燕荣愤怒地说：“这小子竟敢戏弄我！”于是派元弘嗣监管粮仓收粮，哪怕粮食里夹杂一粒糠、一颗秕谷，都要惩罚元弘嗣。每次鞭打虽然不满十下，但一天之内，有时会打三四次。这样过了几年，两人的怨恨越来越深。燕荣最终将元弘嗣逮捕入狱，断绝他的粮食，元弘嗣只好抽出衣服里的棉絮，混着水吞咽充饥。他的妻子到皇宫喊冤，隋文帝派使者调查核实，使者上奏燕荣暴虐无道、贪污受贿声名狼藉；隋文帝征召燕荣回京城，赐他自杀。元弘嗣接替燕荣治理幽州，手段比燕荣更残酷。
九月壬戌日，朝廷设置常平官（掌管调节粮价、储备粮食的官员）。
这一年，龙门人王通到皇宫献上《太平十二策》，隋文帝没有采纳，王通辞官回乡。于是王通在黄河、汾水之间讲学，从远方来求学的弟子很多，朝廷多次征召他做官，他都拒绝了。杨素非常敬重他，劝他做官，王通说：“我家有祖先留下的破旧房屋，足够遮风挡雨；薄田足够提供粥饭；读书论道足够自我娱乐。希望您端正自身来治理天下，让时节和顺、年成丰收，我得到的恩赐就已经很多了，不愿做官。”有人向杨素诋毁王通说：“他其实很轻视您，您为什么还敬重他？”杨素拿这话问王通，王通说：“如果您可以被轻视，那是我对了；如果您不可被轻视，那是我错了：对错都在我，与您有什么关系！”杨素仍像以前一样对待他。弟子贾琼问王通如何平息诽谤，王通说：“不用辩解。”又问如何消除怨恨，王通说：“不要争执。”王通常说：“不轻易赦免罪犯的国家，刑罚必定公正；过度征收赋税的国家，财力必定枯竭。”又说：“听到诽谤就发怒的人，是谗言的媒介；看到赞誉就高兴的人，是谄媚的温床；断绝媒介、去除温床，谗言和谄媚就会远离。”隋炀帝大业末年，王通在家中去世，弟子们给他追谥“文中子”。
突厥步迦可汗的部落发生大乱，铁勒仆骨等十多个部落，都背叛步迦可汗，归降启民可汗。步迦可汗的部众溃散，向西逃奔吐谷浑；长孙晟护送启民可汗到碛口，启民可汗于是完全占有了步迦可汗的部众。