公元604年，春季，正月，隋文帝准备前往仁寿宫避暑，术士章仇太翼极力劝谏，文帝不听。章仇太翼说：“这次出行恐怕陛下再也回不来了！”文帝大怒，把他关押在长安监狱，约定返回后就处死他。甲子日，文帝抵达仁寿宫。乙丑日，下诏将赏赐、开支等大小事务，全部交给皇太子处理。夏季，四月乙卯日，文帝生病。六月庚申日，朝廷再次大赦天下。秋季，七月甲辰日，文帝病情加重，卧床与百官诀别，握着大臣们的手抽泣不止，下令太子赦免章仇太翼。丁未日，文帝在大宝殿去世。
隋文帝性格严肃庄重，令行禁止，勤于处理朝政。每天清晨就临朝听政，直到太阳西斜仍不知疲倦。他虽然对财物吝啬，但赏赐有功之臣时，却毫不吝惜；有将士战死，必定给予优厚抚恤，还派使者慰问他们的家属。他爱护百姓，鼓励农桑生产，减轻徭役赋税。自己的生活务求节俭朴素，车马服饰等用物，破旧了就随时修补使用；除非举办宴会，平时吃饭不过一道肉菜；后宫妃嫔都穿着洗过的衣服。天下人都受其感化，开皇、仁寿年间，男子大多穿绢布衣服，不穿绫罗绸缎，衣带装饰只用铜铁骨角，没有金玉饰品。因此粮食布帛日益富足，仓库充盈。文帝刚接受禅让时，全国民户不满四百万，到他晚年，超过八百九十万，仅冀州就有一百万户口。但他生性猜忌苛刻，容易听信谗言，功臣旧部没有能始终保全的；甚至对自己的子弟，也如同对待仇敌一般，这是他的缺点。
当初，文献皇后独孤氏去世后，宣华夫人陈氏、容华夫人蔡氏都受到文帝宠爱。陈氏是陈高宗的女儿，蔡氏是丹杨人。文帝在仁寿宫病重时，尚书左仆射杨素、兵部尚书柳述、黄门侍郎元岩都进入内殿侍奉，召皇太子住进大宝殿。太子担心文帝去世，需要预先防备，便亲自写信密封后派人询问杨素；杨素逐条列出应对事宜回复太子。宫人误把这封信送到了文帝那里，文帝看后大怒。陈夫人清晨出去更衣，被太子逼迫，她奋力抗拒才得以脱身，回到文帝身边。文帝见她神色异常，便询问缘由，陈夫人流泪说：“太子无礼！”文帝听后怒不可遏，捶着床说：“畜生怎么配托付大事！独孤氏误了我！”于是叫来柳述、元岩说：“召我的儿子！”柳述等人准备去叫太子，文帝说：“是杨勇！”柳述、元岩出宫起草诏书。杨素得知后，立刻将此事告诉太子，两人伪造诏书逮捕柳述、元岩，将他们关押在大理狱；又调东宫士兵驻守皇宫，门禁出入都由宇文述、郭衍节制；派右庶子张衡进入寝殿侍奉文帝，把后宫妃嫔全部赶到其他房间。不久，文帝去世。因此朝廷内外对文帝之死议论纷纷。陈夫人和后宫妃嫔听到变故，吓得相互战栗，面无人色。傍晚时分，太子派使者送来一个小金盒，盒口贴了纸条，太子亲自署名封缄，赐给陈夫人。陈夫人见了，惶恐不安，以为是毒药，就不敢打开。使者催促了好几次，她才忐忑不安的打开，里面原来是几枚同心结。宫女们看后都很高兴，相互说：“这下可以免死了！”陈夫人却愤怒地坐下，不肯致谢；宫女们一起逼迫她，她才起身向使者行礼。当天夜里，太子与陈夫人发生了不正当关系。
乙卯日，朝廷为文帝发丧，太子即位，是为隋炀帝。恰逢伊州刺史杨约前来朝见，炀帝派杨约进入长安，更换留守官员，伪造文帝诏书，赐前太子杨勇死，将他缢杀；然后部署军队，公布文帝去世的消息。炀帝听说后，说：“杨约果然能担当大任。”追封杨勇为房陵王，但不给他立继承人。八月，丁卯日，文帝的灵柩从仁寿宫运到长安；丙子日，停放在大兴前殿。柳述、元岩都被削去官籍，柳述流放龙川，元岩流放南海。炀帝命令兰陵公主与柳述断绝关系，想让她改嫁；公主以死发誓，不再上朝，上表请求与柳述一同流放，炀帝大怒。公主最终忧愤而死，临终前上表请求葬在柳家墓地。炀帝更加愤怒，竟然不哭，葬礼也十分简单。
太史令袁充上奏说：“陛下即位的年份，与唐尧接受天命的年份相同。”暗示百官上表祝贺。礼部侍郎许善心议论说：“国丧刚结束，不宜举行祝贺仪式。”左卫大将军宇文述一向厌恶许善心，暗示御史弹劾他；许善心被降为给事郎，品级降低二等。
汉王杨谅受到文帝宠爱，担任并州总管，管辖范围从太行山以东到沧海，南至黄河，共五十二州；文帝特许他遇事可自行决断，不必拘泥于律令。杨谅自认为占据天下精兵之地，看到太子杨勇因谗言被废，心中常常感到不满；到蜀王杨秀获罪后，他更加不安，便在暗中积蓄力量，图谋不轨。他对文帝说：“突厥正强大，应该加强军事防备。”于是大规模征发工匠，修缮兵器，招集亡命之徒，身边的亲信近臣将近数万人。突厥曾侵犯边境，文帝派杨谅抵御，结果被突厥打败；他麾下的八十多名将帅因此被免职，都发配到岭南戍边。杨谅因为这些人是自己的旧部，便上奏请求留下他们，文帝大怒说：“你身为藩王，只应恭敬地遵守朝廷命令，怎么能私下议论旧部，破坏国家法令！唉，你一旦没有我，要是敢轻举妄动，别人捉拿你就像抓笼子里的小鸡一样容易，用得着这些心腹吗！”
王頍是王僧辩的儿子，洒脱不羁，富有谋略，担任杨谅的咨议参军；萧摩诃是陈朝的旧将，两人都不得志，常常郁郁寡欢，图谋作乱，都受到杨谅的亲近信任，参与他的阴谋。
恰逢火星停留在东井星宿的位置，仪曹邺人傅奕通晓星象历法，杨谅问他：“这是什么征兆？”傅奕回答：“天上的东井星宿，是黄道经过的地方，火星经过那里是正常现象；如果火星进入地上的井中，才是怪事。”杨谅听后不高兴。
文帝去世后，炀帝派车骑将军屈突通拿着文帝的玺书征召杨谅。此前，文帝曾与杨谅秘密约定：“如果玺书征召你，‘敕’字旁边会另外加一点，并且与玉麟符相合，你才可以应召前来。”杨谅打开玺书，发现没有约定的标记，就知道情况有变。他责问屈突通，屈突通言辞坚定，不屈不挠，杨谅便把他放回长安。随后，杨谅起兵反叛。
总管司马安定人皇甫诞极力劝谏，杨谅不听。皇甫诞流泪说：“我预料大王的兵力物资无法与京城对抗；况且君臣名分已定，逆顺之势悬殊，兵马虽然精锐，却也难以取胜。一旦陷入叛逆的境地，触犯刑法，即使想做平民百姓也不可能了。”杨谅大怒，命人把他囚禁起来。
岚州刺史乔钟葵准备响应杨谅，他的司马京兆人陶模反对说：“汉王图谋不轨，您蒙受国家厚恩，应当竭诚效命，怎么能成为祸乱的根源呢！”乔钟葵脸色大变说：“司马你要反叛吗！”于是用兵器威胁他，陶模却言辞不屈，乔钟葵被他的忠义打动，释放了他。军吏说：“如果不杀陶模，就无法稳定军心。”于是又把陶模囚禁起来。当时追随杨谅反叛的共有十九个州。
王頍劝说杨谅：“大王部下的将领官吏，家属都在关西，如果任用这些人，就应该长驱直入，直接占据京城，这就是所谓的迅雷不及掩耳；如果只想割据原来北齐的地盘，就应该任用关东人。”杨谅犹豫不决，于是同时采用两种策略，宣称杨素谋反，要诛杀他。
总管府兵曹闻喜人裴文安劝说杨谅：“井陉以西的地区都在大王掌控之中，关东的兵马也归我们所有，应该全部征发；分派弱兵驻守要害之地，再命令将领们相机夺取土地，率领精锐部队直攻蒲津。我请求担任前锋，大王率领大军随后跟进，行动迅速如雷，进驻霸上。咸阳以东的地区，挥手之间就能平定。京城震动骚乱，军队来不及集结，上下相互猜疑，民心离散；我们陈列军队发布号令，谁敢不从！十天之内，就能平定天下。”杨谅非常高兴，于是派他任命的大将军余公理从太谷出兵，奔赴河阳；大将军綦良从滏口出兵，奔赴黎阳；大将军刘建从井陉出兵，夺取燕、赵之地；柱国乔钟葵从雁门出兵；任命裴文安为柱国，与柱国纥单贵、王聃等人直指京城。
炀帝任命右武卫将军洛阳人丘和为蒲州刺史，镇守蒲津。杨谅挑选数百名精锐骑兵，戴上羃（古代遮面的帽子），谎称是杨谅的宫女返回长安，城门守卫没有察觉，他们径直进入蒲州，城中的豪杰也有响应的；丘和发现变故，翻墙逃回长安。蒲州长史勃海人高义明、司马北平人荣毘都被反叛者抓获。裴文安等人距离蒲津还有一百多里时，杨谅突然改变计划，命令纥单贵拆断河桥，驻守蒲州，召回裴文安。裴文安回来后对杨谅说：“用兵贵在神速，本来想出其不意。大王既然不再进军，我又中途返回，让对方计谋得逞，大事就完了。”杨谅没有回应。他任命王聃为蒲州刺史，裴文安为晋州刺史，薛粹为绛州刺史，梁菩萨为潞州刺史，韦道正为韩州刺史，张伯英为泽州刺史。代州总管天水人李景发兵抵抗杨谅，杨谅派将领刘暠袭击李景，李景反击并斩杀了刘暠。杨谅又派乔钟葵率领三万精锐部队攻打李景，李景的士兵不过数千人，加上城池不坚固，在乔钟葵的进攻下，城墙接连崩塌，李景一边作战一边修补城墙，士兵们都殊死搏斗，乔钟葵多次战败。司马冯孝慈、司法吕玉都骁勇善战，仪同三司侯莫陈乂善于谋划，精通防御战术，李景知道这三个人可用，就真诚信任他们，自己不干预具体事务，只在府中坐镇，时常安抚士兵。
杨素率领五千轻骑兵袭击蒲州的王聃、纥单贵，夜里抵达黄河边，征集了数百艘商人的船只，船内装满草，士兵踩在上面没有声音，于是口中衔枚渡河；黎明时分，发起进攻，纥单贵战败逃走，王聃恐惧，献城投降。炀帝下诏召杨素回朝。起初，杨素出发前，预计打败叛军的日期，都和实际情况一致，于是炀帝任命杨素为并州道行军总管、河北道安抚大使，率领数万人讨伐杨谅。
杨谅刚起兵时，他妃子的哥哥豆卢毓担任府主簿，苦苦劝谏，杨谅不听。豆卢毓私下对弟弟豆卢懿说：“我单人匹马返回朝廷，自然能免祸，这是为了自身考虑，不是为了国家。不如暂且假装顺从他，慢慢等待时机。”豆卢毓是豆卢积的儿子。豆卢毓的哥哥、显州刺史豆卢贤对炀帝说：“我弟弟豆卢毓一向有志向气节，一定不会跟随叛乱，只是被凶威逼迫，无法自主。我请求参军，与豆卢毓里应外合，平定杨谅不在话下。”炀帝同意了。豆卢贤秘密派家人送敕书到豆卢毓那里，与他商议对策。
杨谅出城前往介州，命令豆卢毓与总管属朱涛留守。豆卢毓对朱涛说：“汉王谋反，很快就会失败，我们怎么能坐以待毙，辜负国家呢！应当和你出兵抵抗他。”朱涛大惊说：“大王把大事托付给我们，怎么能说这种话！”说完就拂袖而去，豆卢毓追上去斩杀了他。他把皇甫诞从狱中放出，与他共同谋划，又联合开府仪同三司宿勤武等人关闭城门抵抗杨谅。部署还没完成，有人向杨谅告密，杨谅急忙率军返回袭击豆卢毓等人。豆卢毓见杨谅到来，就欺骗手下人说：“这是叛军！”杨谅攻打城南门，守城的稽胡人不认识杨谅，就向他射箭，箭矢如雨，杨谅也没办法；只好去攻打西门，守城士兵认识杨谅，立即开门放他进城，豆卢毓、皇甫诞都被杀死。
綦良攻打慈州刺史上官政，没有攻克，又率军攻打代理相州事务的薛胄，也没有攻克，于是从滏口攻打黎州，封锁白马津。余公理从太行山下河内，炀帝任命右卫将军史祥为行军总管，驻军河阴。史祥对军吏说：“余公理轻率无谋，依仗人多势众而骄横，不难打败。”余公理驻军河阳，史祥在黄河南岸准备船只，余公理集中兵力抵抗。史祥挑选精锐部队从下游偷偷渡河，余公理得知后，率军迎击，双方在须水交战。余公理的军队还没列好阵势，史祥就发起进攻，余公理大败。史祥向东奔赴黎阳，綦良的军队不战而溃。史祥是史宁的儿子。
炀帝准备征调幽州兵力，怀疑幽州总管窦抗有二心，便向杨素询问可以派去捉拿窦抗的人，杨素推荐前江州刺史勃海人李子雄，炀帝任命李子雄为上大将军，兼任广州刺史。又任命左领军将军长孙晟为相州刺史，征调山东兵力，与李子雄共同谋划处理幽州事务。长孙晟以儿子长孙行布在杨谅部下为由推辞，炀帝说：“你深明大义，终究不会因为儿子而损害国家利益，我现在托付你重任，你不要推辞。”李子雄疾驰到幽州，住在驿站，招募了一千多人。窦抗前来拜见李子雄，李子雄埋伏士兵将他擒获。窦抗是窦荣定的儿子。
李子雄于是征调幽州三万步兵骑兵，从井陉向西攻打杨谅。当时刘建在井陉围攻戍将京兆人张祥，李子雄在抱犊山下击败刘建，刘建逃走。李景被围困一个多月，炀帝下诏令朔州刺史代人杨义臣救援。杨义臣率领两万步兵骑兵，夜里从西陉出兵，乔钟葵率领全部兵力抵抗。杨义臣认为自己兵力不足，于是征集军中所有的牛驴，共数千头，又命令数百名士兵每人拿一面鼓，偷偷驱赶牛驴，藏在山谷中。傍晚时分，杨义臣再次与乔钟葵交战，两军刚接触，杨义臣就下令驱赶牛驴的士兵迅速前进，一时间鼓声大作，尘埃漫天，乔钟葵的军队不知实情，以为是伏兵发动，于是溃散奔逃；杨义臣乘胜追击，大败敌军。晋、绛、吕三州都为杨谅坚守城池，杨素分别派两千人牵制它们，自己率军继续前进。杨谅派将领赵子开率领十多万人，设置栅栏阻断道路，驻守高壁，布阵达五十里。杨素命令将领们率军逼近，自己率领奇兵潜入霍山，沿着崖谷前进。杨素在谷口扎营，自己坐在营外，派军司进入营中挑选三百人留守，士兵们害怕北方叛军强大，不想出战，大多愿意留守，因此耽误了时间。杨素追问原因，军司如实汇报，杨素立即召来留守的三百人，将他们全部斩首；再命令挑选留守士兵，没有人愿意留下。杨素于是率领军队疾驰前进，绕到叛军北面，直指他们的营地，鸣鼓纵火；叛军不知所措，自相践踏，死伤数万人。杨谅任命的介州刺史梁修罗驻守介休，听说杨素到来，弃城逃走。
杨谅得知赵子开战败，非常恐惧，亲自率领将近十万人，在蒿泽抵抗杨素。恰逢大雨，杨谅想率军返回，王頍劝谏说：“杨素孤军深入，士兵和马匹都疲惫不堪，大王率领精锐部队亲自出击，一定能打败他。现在面对敌人却退缩，向人示弱，会挫伤士兵的士气，增加西边军队的威风，希望大王不要返回。”杨谅不听，退守清源。
王頍对儿子说：“形势非常不利，军队必定失败，你可以跟随我。”杨素进军攻打杨谅，大败叛军，擒获萧摩诃。杨谅退守晋阳，杨素进军包围晋阳，杨谅走投无路，请求投降，其余党羽全部被平定。炀帝派杨约带着亲手写的诏书慰劳杨素。王頍准备逃往突厥，走到山中，发现道路断绝，知道无法幸免，就对儿子说：“我的谋略并不比杨素差，只是我的建议不被采纳，才落到这个地步。我不能被活捉，让那个小子成名。我死后，你千万不要投靠亲戚故友。”于是自杀，埋葬在石窟中。他的儿子几天没吃东西，就去投靠老朋友，最终被抓获；王頍的尸体也被找到，在晋阳枭首示众。
群臣上奏说汉王杨谅应当处死，炀帝不许，只是将他削去官籍，贬为平民，断绝宗族关系，最终杨谅被幽禁而死。杨谅部下的官吏百姓因牵连获罪被处死或流放的有二十多万家。当初，隋文帝与独孤皇后相互深爱敬重，发誓不与其他女人生孩子，曾对群臣说：“前代天子，沉迷于宠妃，嫡子庶子相互争斗，于是有废立太子之事，甚至导致亡国；我身边没有姬妾，五个儿子同母所生，可以说是真正的兄弟，怎么会有这种担忧呢！”文帝又吸取北周宗室诸王势力薄弱的教训，因此让儿子们分别占据重要城镇，独揽地方大权，权力与皇室相当。到了晚年，父子兄弟相互猜忌，五个儿子都没有善终。
对此，司马光说：从前辛伯告诫周桓公说：“内宠与王后地位相当，外宠与执政大臣权力相同，庶子与嫡子地位对等，大城市与国都规模相近，这是祸乱的根源。”君主如果能谨慎对待这四点，祸乱怎么会发生呢！隋文帝只知道嫡庶之间容易发生争斗，皇室势力薄弱容易被动摇，却不知道势力相当、地位接近时，即使是同胞至亲，也难免相互倾轧争夺。考察辛伯的话，隋文帝只做到了其中一点，却忽略了另外三点啊！
冬季，十月己卯日，文帝被安葬在太陵，庙号高祖，与文献皇后同坟异穴。
炀帝下诏免除妇女、奴婢、部曲的赋税，男子二十二岁成为成年人（开始服徭役）。
章仇太翼对炀帝说：“陛下五行属木，雍州是克制木的地方，不能长久居住。另外谶语说：‘修治洛阳还晋家。’”炀帝深表认同。十一月乙未日，炀帝前往洛阳，留下晋王杨昭镇守长安。杨素因功被任命儿子杨万石、杨仁行、侄子杨玄挺为仪同三司，赏赐布帛五万段、绫罗一千匹，以及杨谅的妓妾二十人。丙申日，征发数十万壮丁挖掘壕沟，从龙门向东连接长平、汲郡，抵达临清关，渡过黄河到浚仪、襄城，直达上洛，用于设置关隘防线。
壬子日，陈叔宝去世，炀帝追赠他为大将军、长城县公，谥号为炀。
癸丑日，炀帝下诏在伊洛地区修建东京，诏书说：“宫殿的建造，本来是为了方便生活，现在营建的工程，务必节俭。”
蜀王杨秀获罪时，右卫大将军元胄因与他交往而被削去官籍，长期没有得到调任。当时慈州刺史上官政因事被流放岭南，将军丘和因蒲州失守被削去官籍，元胄与丘和有旧交，一次饮酒尽兴时，元胄对丘和说：“上官政是壮士，现在被流放岭南，会不会发生大事！”接着拍着自己的肚子说：“像我这样的人，不会白白被埋没。”丘和把这话上奏给炀帝，元胄最终被处死。于是炀帝征召上官政为骁卫将军，任命丘和为代州刺史。
到了公元605年春季，正月壬辰朔日，隋炀帝大赦天下，更改年号为大业。
册立妃子萧氏为皇后。
废除各州的总管府。
丙辰日，册立晋王杨昭为皇太子。
隋文帝晚年时，群臣中有人说林邑有很多奇珍异宝。当时天下太平，刘方刚平定交州，于是炀帝任命刘方为驩州道行军总管，谋划夺取林邑。刘方派钦州刺史宁长真等人率领一万多步兵骑兵从越裳出发，自己亲自率领大将军张愻等人率领水军从比景出发，当月，军队抵达海口。
二月戊辰日，炀帝命令有关部门大规模陈列金银珠宝、器物、锦缎彩帛、车马，让杨素和讨伐汉王杨谅有功的各位将领站在前面，派奇章公牛弘宣读诏书，称赞他们的战功，赏赐各有差别。杨素等人拜了两拜，舞蹈谢恩后退出。己卯日，任命杨素为尚书令。
炀帝下诏，天下臣民除去丧服（文帝去世的服丧期），只有炀帝自己穿浅色黄衫，系铁饰腰带。
三月丁未日，炀帝下诏让杨素与纳言杨达、将作大匠宇文恺营建东京，每月征调壮丁二百万人，迁徙洛州城内居民和各州的富商大贾数万户来充实东京人口。废除二崤道，开辟菱册道。
戊申日，炀帝下诏说：“听取民间歌谣，与百姓商议政事，才能明察刑法政令的得失；现在我将要巡视淮河、东海一带，考察各地风俗。”
炀帝命令宇文恺与内史舍人封德彝等人营建显仁宫，宫殿南接皁涧，北跨洛水之滨。从长江以南、五岭以北征集奇材异石，运到洛阳；又搜寻天下的珍奇树木、奇异花草、珍稀鸟兽，来充实皇家园林。辛亥日，命令尚书右丞皇甫议征调河南、淮北各郡百姓，前后一百多万人，开通济渠。从西苑引来谷水、洛水，注入黄河；又从板渚引黄河水经过荥泽进入汴水；再从大梁以东引汴水进入泗水，抵达淮河；又征调淮南百姓十多万人开凿邗沟，从山阳到杨子注入长江。渠道宽四十步，渠旁都修筑御道，种植柳树；从长安到江都，设置离宫四十多所。庚申日，派黄门侍郎王弘等人前往江南建造龙舟和各种船只数万艘。东京的官吏监督劳役非常严苛急迫，壮丁死亡的有十分之四五，有关部门用车装载死去的壮丁，向东到城皋，向北到河阳，道路上到处都是。又在东京建造天经宫，一年四季祭祀隋文帝。
林邑王梵志派兵防守险要之地，刘方将他们击退。军队渡过阇黎江，林邑的士兵乘坐大象，从四面赶来。刘方作战失利，于是挖掘了很多小坑，用草覆盖在上面，派兵挑衅林邑军，交战之后，假装战败逃跑；林邑军追击，大象大多陷入坑中摔倒，相互受惊，军队于是大乱。刘方用弩箭射大象，大象后退逃跑，践踏了自己的军阵，刘方趁机率领精锐部队跟进追击。林邑军大败，被俘虏斩杀的有上万人。刘方率军追击，多次作战都取得胜利，越过马援铜柱以南，八天后抵达林邑国都。夏季，四月，梵志弃城逃入海中。刘方进入城中，缴获林邑王的宗庙神主十八个，都是用黄金铸造的；于是刻石纪功后返回。士兵们大多脚肿生病，死亡的有十分之四五。刘方自己也患病，在途中去世。
当初，尚书右丞李纲多次因为提出不同意见而触犯杨素和苏威，杨素向隋文帝推荐李纲，让他担任刘方的行军司马。刘方秉承杨素的意思，侮辱折磨李纲，李纲差点死去。军队返回后，李纲长期没有得到调任，苏威又派李纲前往南海接应林邑的军队，很久都没有召回他。李纲自己返回朝廷奏事，苏威弹劾李纲擅自离开职位，将他交给官吏审问；恰逢大赦，李纲被免官，隐居在鄠县。
五月，朝廷下诏修筑西苑，周围二百里；苑内有人工海，周围十多里；建造方丈、蓬莱、瀛洲等神山，高出水面一百多尺，亭台楼阁，错落分布在山上，布局精妙如神来之笔。北面有龙鳞渠，曲折蜿蜒注入人工海。沿着水渠建造十六座院落，院门都临近水渠，每座院落由四品夫人主持，堂殿楼观，极其华丽。宫中的树木在秋冬季节凋零后，就剪彩绸做成花叶，点缀在枝条上，颜色褪色后就更换新的，始终像春天一样。池塘里也剪彩绸做成荷花、菱角、芡实等，炀帝乘车游览时，就去掉冰面，将这些彩绸饰品布置在水中。十六座院落争相以珍奇美味的菜肴相互攀比，以求获得炀帝的恩宠。炀帝喜欢在月夜率领数千名宫女骑马游览西苑，创作《清夜游曲》，在马上演奏。
炀帝对待各位藩王恩情淡薄，多有猜忌。滕王杨纶、卫王杨集内心忧虑恐惧，叫来术士询问吉凶，并设坛祭祀祈福。有人告发他们心怀怨恨、诅咒炀帝，有关部门上奏请求处死他们；秋季，七月丙午日，炀帝下诏将他们削去官籍，贬为平民，迁徙到边疆郡县。杨纶是杨瓒的儿子，杨集是杨爽的儿子。
八月壬寅日，炀帝前往江都，从显仁宫出发，王弘派龙舟前来迎接。乙巳日，炀帝乘坐小朱航，从漕渠驶出洛口，换乘龙舟。龙舟有四层，高四五十尺，长二百丈。上层有正殿、内殿、东西朝堂，中间两层有一百二十间房屋，都用金玉装饰，下层是内侍居住的地方。皇后乘坐翔螭舟，规格稍微小一些，但装饰与龙舟没有差别。另外有浮景船九艘，三层，都是水上宫殿。还有漾彩、朱鸟、苍螭、白虎、玄武、飞羽、青凫、陵波、五楼、道场、玄坛、板翕、黄篾等数千艘船只，后宫妃嫔、各位藩王、公主、文武百官、僧人、尼姑、道士、外国宾客都乘坐这些船只，同时装载朝廷内外各部门进献的物品，一共使用拉船的民夫八万多人，其中拉漾彩以上船只的有九千多人，称为“殿脚”，都穿着锦彩织成的袍子。还有平乘、青龙、艨艟、艚艟、八棹、艇舸等数千艘船只，由十二卫的士兵乘坐，同时装载兵器和帐幕，士兵们自己拉船，不配备民夫。船只首尾相接二百多里，灯火照耀着江河陆地，骑兵在两岸护卫前行，旌旗遮蔽了田野。所经过的州县，五百里内都命令进献食物，多的一个州要献上一百车，极尽水陆珍奇之物；后宫妃嫔们吃腻了，将要出发时，很多食物都被丢弃埋葬。
契丹侵犯营州，炀帝下诏令通事谒者韦云起率领突厥军队讨伐契丹，启民可汗派出两万骑兵，接受韦云起的指挥。韦云起将军队分为二十个营，分四路进发，各营之间相距一里，不得相互混杂，听到鼓声就前进，听到号角声就停止，除非是公务使者，否则不准骑马奔驰，反复告诫后，击鼓发兵。有一名纥干违反约定，被韦云起斩首，拿着他的首级示众。于是突厥的将帅入朝拜见韦云起时，都跪着行走，双腿发抖，不敢抬头看他。契丹一向臣服于突厥，彼此没有猜忌。韦云起进入契丹境内后，让突厥人谎称要前往柳城与高丽进行贸易，谁敢泄露实情就斩首。契丹没有防备，韦云起在距离契丹营地五十里的地方，指挥军队疾驰突袭，将契丹的男女四万人全部俘获，杀死成年男子，将女子和牲畜的一半赏赐给突厥，其余的都收归朝廷。炀帝非常高兴，召集百官说：“韦云起率领突厥军队平定契丹，文武双全，我现在亲自提拔他。”于是升任韦云起为治书侍御史。
当初，西突厥的阿波可汗被叶护可汗俘虏，西突厥国人拥立鞅素特勒的儿子为可汗，这就是泥利可汗。泥利可汗去世后，他的儿子达漫即位，号称处罗可汗。他的母亲向氏，本来是中国人，后来改嫁给泥利可汗的弟弟婆实特勒。开皇末年，婆实特勒与向氏入朝，恰逢达头可汗叛乱，于是留在长安，居住在鸿胪寺。处罗可汗大多居住在乌孙的旧地，治理不当，国内百姓大多反叛，又被铁勒部落围困。铁勒是匈奴的后裔，部族种类最多，有仆骨、同罗、契苾、薛延陀等部落，他们的酋长都号称俟斤。虽然部族姓氏不同，但都统称为铁勒，大致与突厥风俗相同，以劫掠为生，没有统一的大君主，分别隶属于东、西两突厥。这一年，处罗可汗率领军队进攻铁勒各部落，征收沉重的赋税，又猜忌薛延陀部落，担心他们发动叛乱，于是召集薛延陀的数百名酋长，将他们全部杀死。于是铁勒各部落都反叛了，拥立俟利发俟斤契苾歌楞为莫何可汗，又拥立薛延陀俟斤字也咥为小可汗，与处罗可汗交战，多次打败他。莫何可汗勇猛刚毅，无与伦比，很得民心，被邻国所畏惧，伊吾、高昌、焉耆都归附了他。
到了公元606年春季，正月辛酉日，东京建成，晋升将作大匠宇文恺为开府仪同三司。
丁卯日，派遣十位使者合并精简各州的机构。
二月丙戌日，炀帝下诏令吏部尚书牛弘等人商议确定车驾服饰、仪仗护卫的制度。任命开府仪同三司何稠为太府少卿，让他负责营造，送往江都。何稠心思精巧，博览群书，参考古今制度，对原有制度多有修改补充；帝王的礼服上绘制日、月、星、辰，皮帽用漆纱制成。又制作了三万六千人的黄麾仪仗，以及各种车辆、皇后的仪仗队、文武百官的礼仪服饰，都力求华丽繁盛，以符合炀帝的心意。下令各州各县进献羽毛，百姓四处捕捉鸟兽，水陆各地都布满了罗网，凡是鸟兽身上的羽毛可以用来制作仪仗装饰的，几乎被捕捉殆尽。乌程县有一棵高大的树，超过百尺，旁边没有分枝，树上有鹤巢，百姓想摘取鹤的羽毛，但无法爬上树，于是就砍伐树干；鹤担心杀死自己的幼鸟，就自己拔下身上的羽毛扔到地上，当时有人称这是祥瑞之兆，说：“天子制作羽毛仪仗，鸟兽都自动献上羽毛。”这项工程役使工匠十多万人，耗费的金银钱帛数以亿计。炀帝每次外出巡游，仪仗队填满街道，绵延二十多里。三月庚戌日，炀帝从江都出发，夏季，四月庚戌日，从伊阙排列天子的仪仗队，率领千乘万骑进入东京。辛亥日，炀帝登上端门，大赦天下，免除天下百姓今年的租赋。规定五品以上的文官可以乘车，在朝堂上佩戴礼帽、穿着朝服，佩戴玉饰；武官的马匹佩戴珂饰，头戴头巾，穿着骑射用的短衣长裤。当时的典章制度和文物之盛，近世以来没有能比得上的。
六月壬子日，任命杨素为司徒，晋升豫章王杨暕为齐王。
秋季，七月庚申日，炀帝规定文武百官不得通过考核来增加品级，必须有德行、功绩明显突出的人才能提拔。炀帝很爱惜名位，群臣中应当晋升官职的，大多只让他们兼任代理官职而已；即使有官职空缺，也常常留着不填补。当时牛弘担任吏部尚书，不能独自行使职权，炀帝另外下令纳言苏威、左翊卫大将军宇文述、左骁卫大将军张瑾、内史侍郎虞世基、御史大夫裴蕴、黄门侍郎裴矩参与掌管选拔官员的事务，当时的人称之为“选曹七贵”。虽然七个人都在座，但官员的升降任免，实际上由虞世基独自决定，他收受贿赂，贿赂多的人就能超越等级提拔，没有贿赂的人只能在考核簿上注明等级而已。裴蕴是裴邃的堂曾孙。
元德太子杨昭从长安前来朝见，几个月后，将要返回长安，想请求多留一段时间；炀帝不同意。杨昭多次跪拜请求，他身体一向肥胖，因此劳累患病，甲戌日，去世。炀帝哭了几声就停止了，不久就演奏音乐歌舞，和平时没有两样。
楚景武公杨素，虽然立下大功，但特别被炀帝猜忌，表面上给予特殊的礼遇，内心却很疏远。太史说隋的分野将有大的丧事，于是炀帝将杨素改封为楚公，意思是楚地与隋地在星象上分野相同，想以此来压制灾祸。杨素卧病在床，炀帝每次都派名医诊治，赏赐上等药物，但暗中却询问医生，总是担心杨素不死。杨素自己也知道名位已经达到顶点，所以不肯吃药，也不注意调养，对弟弟杨约说：“我难道还需要再活下去吗！”乙亥日，杨素去世，炀帝追赠他为太尉公、弘农等十郡太守，葬礼非常隆重。
八月辛卯日，册封皇孙杨倓为燕王，杨侗为越王，杨侑为代王，他们都是杨昭的儿子。
九月乙丑日，册立秦孝王的儿子杨浩为秦王。
炀帝认为隋文帝晚年法令严厉苛刻，冬季，十月，下诏修改修订律令。
在巩县东南的平原上设置洛口仓，修筑仓城，周围二十多里，开凿三千个粮窖，每个粮窖可以容纳八千石以上的粮食，设置监官和镇守的士兵一千人。十二月，在洛阳以北七里处设置回洛仓，仓城周围十里，开凿三百个粮窖。
当初，北齐温公时期，有鱼龙、山车等杂戏，称为散乐，周宣帝时，郑译上奏征召这些杂戏艺人。隋文帝接受禅让后，命令牛弘制定音乐制度，除了正声清商乐和九部乐、四舞之外，其余的杂戏艺人都被遣散。炀帝因为启民可汗将要入朝，想以富贵安乐向他夸耀。太常少卿裴蕴迎合炀帝的心意，上奏请求搜括天下北周、北齐、梁、陈的乐家子弟，全部列为乐户；六品以下官员到平民百姓中，有擅长音乐的人，都调到太常寺任职。炀帝同意了。于是天下的散乐艺人大量聚集到东京，在芳华苑积翠池旁表演。有舍利兽先出来跳跃，激起的水花洒满街道，鼋鼍、龟鳖、水人、虫鱼等杂戏道具遍布地面。又有鲸鱼喷水遮蔽太阳，瞬间化作黄龙，长七八丈。还有两个人头顶长竿，竿上有跳舞的人，快速翻腾跳跃，左右交换位置。还有神鳌背负神山、魔术师吐火等表演，千变万化。艺人们都穿着锦绣彩绸制成的衣服，跳舞的人佩戴着环佩，点缀着花饰；下令京兆、河南两地制作这些衣服，两京的锦彩绸缎因此被耗尽。炀帝创作了很多艳丽的诗篇，让乐正白明达谱写新的乐曲演奏，音调极其哀怨。炀帝非常高兴，对杨明达说：“北齐只是偏安一隅，乐工曹妙达还被封为王；我现在天下统一，正要尊贵你，你应当自我修养，谨慎行事！”
到了公元607年春季，正月初一清晨，朝廷大规模陈列典章文物。当时突厥启民可汗入朝，看到后十分羡慕，请求效仿中原的衣冠服饰，炀帝没有同意。第二天，启民可汗又率领部下上奏坚决请求，炀帝非常高兴，对牛弘等人说：“如今衣冠礼仪完备，能让单于解下辫子（改用中原服饰），这都是你们的功劳。”于是对每人都赏赐了丰厚的丝帛。
三月，辛亥日，炀帝返回长安。癸丑日，炀帝派羽骑尉朱宽出海寻访异域风俗，朱宽抵达流求国后返回。
当初，云定兴、阎毘因为谄媚侍奉太子杨勇，被连坐妻子儿女都没入官府成为奴婢。炀帝即位后，大量兴建工程，听说他们有精巧的构思，就征召他们，让他们主管工程事务，任命阎毘为朝请郎。当时宇文述当权，云定兴用镶嵌明珠的帐幕贿赂宇文述，又用奇特的服饰、新颖的乐曲向他献媚；宇文述非常高兴，把他当作兄长对待。炀帝将要对四方异族用兵，大规模制造兵器，宇文述推荐云定兴可以担任监造，炀帝同意了。宇文述对云定兴说：“兄长制作的兵器，都合陛下的心意，但没能得到官职，是因为长宁王兄弟还没死。”云定兴说：“这些没用的人，为什么不劝陛下杀掉他们。”宇文述于是上奏说：“房陵王（杨勇）的几个儿子都已成年，现在陛下要出兵征讨，如果让他们跟随御驾，就难以看管；如果把他们留在一个地方，又担心出事。进退都没用，请陛下尽早处置。”炀帝认为他说得对，于是用毒酒杀死长宁王杨俨，把他的七个弟弟分别迁徙到岭南，还派暗使在路上把他们全部杀掉。襄城王杨恪的妃子柳氏自杀，追随杨恪而去。
夏季，四月庚辰日，炀帝下诏想要安抚河北地区，巡视赵、魏两地。
牛弘等人制定新律完成，共十八篇，称为《大业律》；甲申日，开始颁布施行。百姓长期厌烦严厉苛刻的法令，对宽松的政令感到高兴。但后来炀帝频繁征发徭役，百姓难以承受。有关部门为了完成任务，常常临时逼迫百姓，不再遵守律令。旅骑尉刘炫参与修订律令，牛弘曾从容地问刘炫：“《周礼》中士多而府史少，现在的令史比以前多了百倍，减少了就无法处理事务，这是什么原因呢？”刘炫说：“古人委任官员后就要求他们完成任务，年终考核政绩优劣，案卷不再重新核对，文书也不繁琐详尽，府史的职责，只是掌管要点而已。现在的文书档案，总是担心被复查，如果审理不够周密，就会万里追查百年前的旧案。所以谚语说：‘老吏抱着案卷死去。’事务繁杂、政令腐败，根源就在这里。”牛弘说：“魏、齐时期，令史还能从容处事，现在却忙得不得安宁，为什么呢？”刘炫说：“过去州里只设置纲纪官，郡里设置太守、丞，县里设置县令而已。其余的属官都是长官自行征召，接受诏令赴任，每个州不过几十人。现在却不是这样，大小官员都由吏部任命，哪怕是细微的行为，都属于考功司考核范围。减少官员不如减少事务，官员事务不减少，却希望能从容处事，这可能吗！”牛弘赞同他的话，但没能采纳。
壬辰日，炀帝下令改州为郡；修改度量衡制度，全部依照古代标准。改上柱国以下的官职为大夫；设置殿内省，与尚书省、门下省、内史省、秘书省并列为五省；增设谒者台、司隶台，与御史台并列为三台；拆分太府寺设置少府监，与长秋监、国子监、将作监、都水监并列为五监；又增改左、右翊卫等为十六府；废除伯、子、男三等爵位，只保留王、公、侯三等。
丙寅日，炀帝车驾北巡；己亥日，停驻在赤岸泽。五月，丁巳日，突厥启民可汗派他的儿子拓特勒入朝。戊午日，征发河北十多个郡的壮丁开凿太行山，直达并州，以开通驰道。丙寅日，启民可汗派他哥哥的儿子毘黎伽特勒入朝。辛未日，启民可汗派遣使者请求亲自进入边塞迎接炀帝的车驾，炀帝没有同意。当初，隋文帝接受禅让后，只建立了四座亲庙，在同一殿堂内分设不同的房间而已。炀帝即位后，命令有关部门商议七庙的制度。礼部侍郎代理太常少卿许善心等人上奏请求为太祖、高祖各建一座殿堂，依照周文王、周武王的祧庙制度，与始祖合为三座，其余的都分室祭祀，遵循亲尽则毁的原则。到这时，有关部门请求按照之前的商议，在东京建造宗庙。炀帝对秘书监柳辩说：“现在始祖和两座祧庙都已完备，后世子孙把我放在哪里呢？”六月丁亥日，炀帝下诏为高祖建立别庙，仍然举行每月一次的祭祀礼仪。不久后炀帝忙于巡游，最终没能建成宗庙。
炀帝经过雁门，雁门太守丘和进献的食物非常精美；到达马邑，马邑太守杨廓却什么都没进献，炀帝很不高兴。任命丘和为博陵太守，还让杨廓到博陵去观摩丘和的做法。从此，炀帝所到之处，地方官进献食物，争相追求丰盛奢侈。
戊子日，炀帝车驾停驻榆林郡。炀帝想要出塞炫耀兵力，直接穿过突厥境内，前往涿郡，担心启民可汗受惊，先派武卫将军长孙晟传达旨意。启民可汗接受诏令后，于是召集部下各国的奚、霫、室韦等部落的酋长几十人全部聚集过来。长孙晟看到启民可汗的牙帐中杂草丛生，想要让启民可汗亲自清除，向各部落显示炀帝的威严，于是指着帐前的杂草说：“这草的根很香。”启民可汗立刻上前嗅了嗅，说：“一点都不香。”长孙晟说：“天子巡游所到之处，诸侯都要亲自洒扫庭院，修整御道，以表示最大的恭敬；现在牙帐内荒芜杂乱，我还以为是特意留下的香草呢！”启民可汗才醒悟过来，说：“这是我的罪过！我的骨肉都是天子赐予的，能够为天子效力，怎么敢推辞。只是因为边疆的人不懂礼仪罢了，多亏将军教导；这是将军的恩惠，我的幸运。”于是拔出身上佩戴的刀，亲自割除庭院中的杂草。他手下的贵族和各部落的人都争相效仿。于是从榆林北境到启民可汗的牙帐，向东一直到蓟州，开辟了一条长三千里、宽百步的御道，突厥全国都投入劳役。炀帝听说长孙晟的计策后，更加赞赏他。
丁酉日，启民可汗和义成公主前往行宫朝见。己亥日，吐谷浑、高昌都派遣使者入朝进贡。
甲辰日，炀帝登上北楼，在黄河边观看捕鱼，设宴款待百官。定襄太守周法尚到行宫朝见，太府卿元寿对炀帝说：“汉武帝出关，旌旗连绵千里。现在御营之外，请分为二十四军，每天派遣一军出发，相隔三十里，旌旗相互望见，钲鼓相互听闻，首尾相连，千里不绝，这也是出兵的盛大场面。”周法尚说：“不对，军队绵延千里，中间隔着山川，突然遇到紧急情况，就会四分五裂；如果腹地发生变故，首尾无法得知，道路遥远，难以救援，虽然有过去的先例，但这是招致失败的做法。”炀帝不高兴，说：“你有什么想法？”周法尚说：“把军队结成方阵，四面对外防御，六宫和百官的家属都安置在方阵内部；如果发生变故，面对敌人的一面，就命令士兵抵抗，内部派出奇兵，向外奋勇反击，用车作为壁垒，重重设置钩形阵，这与据守城池有什么不同！如果作战胜利，就派出骑兵追击；万一失利，就屯营自守，我认为这是万全之策。”炀帝说：“好！”于是任命周法尚为左武卫将军。
启民可汗再次上奏表，认为“先帝可汗怜惜我，赐给我安义公主，各种物资都不匮乏。我的兄弟们嫉妒，一起想要杀我。我当时走投无路，抬头只有天，低头只有地，只好以身托付，归顺先帝。先帝怜惜我即将死去，收留并让我活下去，任命我为大可汗，回去安抚突厥的百姓。现在陛下统治天下，仍然像先帝一样养育我和突厥的百姓，各种物资都不匮乏。我承受着陛下的圣恩，难以用言语表达。我现在已经不是过去的突厥可汗，而是陛下的臣民，希望率领部落改变服饰，完全像华夏一样。”炀帝认为不可以。秋季，七月辛亥日，炀帝赐给启民可汗玺书，告诉他“漠北还没有安定，还需要征战，只要你心怀恭敬顺从，何必改变服饰呢？”炀帝想要向突厥炫耀，命令宇文恺建造大帐，帐内可以坐下几千人；甲寅日，炀帝在城东乘坐大帐，配备好仪仗护卫，宴请启民可汗及其部落，表演散乐。各胡人部落又惊又喜，争相献上牛羊驼马数千万头。炀帝赏赐启民可汗丝帛二千万段，他的部下也各有不同的赏赐。还赐给启民可汗辂车、马匹、鼓乐、旗帜，允许他朝拜时不直呼其名，地位在诸侯王之上。
炀帝又下诏征发一百多万壮丁修筑长城，西起榆林，东至紫河。尚书左仆射苏威劝谏，炀帝不听，修筑了二十天就完成了。炀帝征召散乐艺人时，太常卿高颎劝谏，炀帝不听。高颎退朝后，对太常丞李懿说：“北周天元皇帝因为喜好音乐而亡国，殷鉴不远，怎么能再这样做呢！”高颎又因为炀帝对待启民可汗过于优厚，对太府卿何稠说：“这个胡人很了解中国的虚实、山川的险要平坦，恐怕会成为后患。”还对观王杨雄说：“近来朝廷一点纲纪都没有。”礼部尚书宇文弼私下对高颎说：“天元皇帝的奢侈，与现在相比，不也逊色很多吗？”又说：“修筑长城的劳役，幸好不是紧急事务。”光禄大夫贺若弼也私下议论宴请可汗过于奢侈。这些话都被人上奏给炀帝。炀帝认为他们诽谤朝政，丙子日，高颎、宇文弼、贺若弼都被处死，高颎的儿子们被流放到边疆，贺若弼的妻子儿女被没入官府成为奴婢。事情牵连到苏威，苏威也被免职。高颎有文武大略，明达世务，自从受到重用以来，竭诚尽节，推荐贤良之人，以天下为己任；苏威、杨素、贺若弼、韩擒虎都是高颎推荐的，其余立功成事的人不计其数；他在朝执政将近二十年，朝野上下都推崇信服他，没有异议，天下富庶，都是高颎的功劳。他死后，天下人没有不哀悼他的。此前，萧琮因为皇后的缘故，深受炀帝亲近器重，担任内史令，改封为梁公，萧氏宗族中服丧一年以上的亲属，都根据才能被提拔任用，萧氏的兄弟们，都在朝廷中担任官职。萧琮性情淡泊高雅，不把职务放在心上，虽然身处异乡，见到北方的豪门贵族，也从不屈节讨好。他与贺若弼关系很好，贺若弼被处死后，又有童谣说：“萧萧亦复起。”炀帝因此猜忌他，于是把他罢官回家，不久后萧琮就去世了。
八月壬午日，炀帝车驾从榆林出发，经过云中，逆流而上抵达金河。当时天下太平，物资丰富，随驾的士兵有五十多万人，马匹十万匹，旌旗、辎重绵延千里不绝。炀帝命令宇文恺等人建造观风行殿，殿上可以容纳几百名侍卫，能够拆分组合，下面安装轮轴，可以迅速移动。又建造行城，周围二千里，用木板作为主干，外面蒙上布，涂上丹青，城楼、了望台等设施一应俱全。胡人惊叹以为是神仙下凡，每次望见御营，在十里之外就跪下磕头，不敢骑马。启民可汗献上庐帐等待炀帝的车驾。乙酉日，炀帝亲临启民可汗的庐帐，启民可汗捧着酒杯为炀帝祝寿，跪伏在地，恭敬至极，王侯以下的官员都在帐前袒露上身切割肉食，不敢抬头看炀帝。炀帝非常高兴，赋诗一首：“呼韩顿颡至，屠耆接踵来；何如汉天子，空上单于台。”皇后也亲临义成公主的庐帐。炀帝赐给启民可汗和义成公主各一个金瓮，以及衣服、被褥、锦彩等物，特勒以下的官员，也各有不同的赏赐。炀帝返回时，启民可汗跟随进入边塞，己丑日，炀帝派遣他回国。
癸巳日，炀帝进入楼烦关；壬寅日，抵达太原，下诏营建晋阳宫。炀帝对御史大夫张衡说：“我想要到你家去，你可为我做主人。”张衡于是先驰马前往河内，准备好酒菜。炀帝登上太行山，开辟了一条九十里长的直道，九月，己未日，抵达济源，亲临张衡的家。炀帝喜欢那里的山泉景色，留下宴饮三天，赏赐非常丰厚。张衡又进献食物，炀帝命令把食物分赐给公卿大臣，下至卫士，每个人都得到了赏赐。己巳日，炀帝抵达东都。
壬申日，任命齐王杨暕为河南尹；癸酉日，任命民部尚书杨文思为纳言。
冬季，十月，炀帝下令河北各郡挑选有一技之长的人家，派遣三千多家到东都服役，在洛水南岸设置十二坊安置他们。西域各国的胡人大多到张掖进行贸易，炀帝派吏部侍郎裴矩掌管这件事。裴矩知道炀帝喜好开拓疆土，每当有胡商到来，他就引诱询问各国的山川风俗、国王和百姓的仪表服饰，撰写了《西域图记》三卷，记载了四十四国的情况，入朝献给炀帝。还另外绘制了地图，详细标注了各地的要害之处，从西倾山以西，纵横二万里，从敦煌出发，到西海为止，共有三条道路：北道从伊吾出发，中道从高昌出发，南道从鄯善出发，最终都汇聚到敦煌。裴矩还说：“凭借国家的威德，将士的骁勇，渡过蒙汜水，越过昆仑山，易如反掌。只是突厥、吐谷浑分别控制着羌、胡各国，阻塞了交通，所以各国无法入朝进贡。现在各国都通过商人秘密表达忠诚，翘首期盼，愿意成为隋朝的臣妾。如果能够征服并安抚他们，致力于安定团结，派遣使者，不必动用武力，各国归顺后，吐谷浑、突厥就可以消灭，统一戎狄和华夏，就在此一举了！”炀帝非常高兴，赏赐裴矩丝帛五百段，每天都召裴矩到御座前，亲自询问西域的事情。裴矩极力说“西域有很多珍宝，吐谷浑容易吞并。”炀帝于是慷慨地仰慕秦始皇、汉武帝的功绩，一心想要打通西域；经营四方异族的事务，都托付给了裴矩。任命裴矩为黄门侍郎，再次派他前往张掖，招引西域各国胡人，用利益引诱他们，劝说他们入朝。从此，西域各国的胡人往来不断，他们所经过的郡县，都疲于迎接送送，耗费的财物数以万万计，最终导致隋朝疲弊灭亡，这都是裴矩倡导的。
铁勒侵犯边疆，炀帝派遣将军冯孝慈从敦煌出兵攻打，失利。不久后铁勒派遣使者谢罪，请求投降；炀帝派裴矩安抚慰问他们。