公元628年春季，正月辛亥日，右仆射长孙无忌被罢免官职。当时有秘密奏表称长孙无忌权势和恩宠过于兴盛，太宗把奏表拿给他看，说：“我对你完全没有疑虑， 如果大家都把听到的消息藏在心里不说，君臣之间的心意就无法沟通了。”又召集百官对他们说：“我的儿子们都还年幼，我把长孙无忌当作亲生儿子一样看待，不是别人能够离间的。”长孙无忌担心自己权势过盛而招致祸患，坚决请求辞职，皇后也极力为他求情，太宗才答应，任命他为开府仪同三司。
这时，朝廷设置六司侍郎，作为六部尚书的副职；同时设置左右司郎中各一人。
癸丑日，吐谷浑侵犯岷州，都督李道彦率军击退了他们。
丁巳日，太宗将汉王李恪改封为蜀王，卫王李泰改封为越王，楚王李佑改封为燕王。太宗问魏征：“君主怎样才能做到英明，怎样就会变得昏庸？”魏征回答：“广泛听取各方面的意见就能英明，只偏信某一个人的话就会昏庸。从前唐尧虚心向民间询问情况，所以有苗部落的恶行才能被他知晓；虞舜广开视听，所以共工、鲧、欢兜等人的奸邪行为无法隐瞒。秦二世偏信赵高，最终酿成望夷宫被杀的灾祸；梁武帝偏信朱异，结果遭受台城被攻陷的耻辱；隋炀帝偏信虞世基，导致了彭城阁的变故。因此，君主广泛听取意见、接纳劝谏，权贵大臣就无法蒙蔽君主，下面的民情也能上达君主。”太宗说：“说得好！”
太宗对黄门侍郎王珪说：“开皇十四年发生大旱，隋文帝不允许赈济百姓，却让百姓前往山东地区寻找食物，到了隋朝末年，天下的粮食储备可供五十年食用。隋炀帝依仗国家富饶，奢侈欲望没有满足的时候，最终导致天下灭亡。只要仓库里的粮食储备足以防备荒年，其余的储备又有什么用呢！”
二月，太宗对侍臣说：“人们都说天子是最尊贵的，没有什么可畏惧的。我却不是这样，上畏惧上天的监督，下畏惧群臣的注视，兢兢业业，还担心不符合天意，辜负百姓的期望。”魏征说：“这正是实现天下大治的关键，希望陛下能始终坚持下去，那就好了。”
太宗对房玄龄等人说：“治理国家没有比公正更重要的了。从前诸葛亮把廖立、李严流放到南夷地区，诸葛亮去世后，廖立、李严都悲痛哭泣，有的甚至悲伤而死，不是因为公正无私能做到这样吗！另外，高颎担任隋朝的宰相，公正无私，通晓治国之道，隋朝的兴盛与灭亡，都与高颎的存在与否密切相关。我既然仰慕前代的贤明君主，你们也不能不效法前代的贤能宰相。”
三月戊寅朔日，发生日食。
壬子日，大理少卿胡演进呈每月的囚犯名册；太宗下令从今以后，凡是判处死刑的案件，都要让中书省、门下省四品以上官员以及尚书省官员共同商议，以免出现冤假错案。不久，太宗召见囚犯，当问到岐州刺史郑善果时，对胡演说：“郑善果虽然有罪，但官品不低，怎么能让他和其他囚犯混在一起。从今以后，三品以上官员犯罪，不必带到这里来，让他们在朝堂上等候处置。”
关内地区发生旱灾和饥荒，很多百姓卖掉子女来维持生计；己巳日，太宗下诏拿出皇宫府库的金银绢帛赎回被卖的子女，送还给他们的父母。庚午日，太宗下诏因为去年连绵大雨，今年又发生旱灾、蝗灾，大赦天下。诏书大致说：“如果能让年成丰收，天下安宁，把灾祸转移到我身上，来保全天下各国，这是我所希望的，我心甘情愿，没有丝毫吝惜。”恰逢各地降下雨水，百姓非常高兴。
夏季，四月己卯日，太宗下诏说：“隋朝末年天下战乱流离，接着又发生饥荒，饿死的人尸骨遍野，触目惊心，应当命令各地官府收葬这些尸骨。”
起初，突厥突利可汗在幽州以北建立牙帐，管辖东部地区，奚、霫等数十个部落大多背叛突厥前来投降唐朝，颉利可汗因为突利可汗失去部众而责备他。等到薛延陀、回纥等部击败欲谷设后，颉利可汗派遣突利可汗率军讨伐，突利可汗的军队又战败，他率领轻骑兵逃回。颉利可汗大怒，把他囚禁了十多天并鞭打他，突利可汗因此心怀怨恨，暗中打算背叛颉利可汗。颉利可汗多次向突利可汗征兵，突利可汗都不答应，并且上表请求入朝归附唐朝。太宗对侍臣说：“从前突厥强盛，拥有百万大军，凭借势力欺压中原，因此骄横放纵，失去了民心。如今突利可汗主动请求入朝，不是陷入困境，怎么会这样呢！我听到这个消息，既高兴又畏惧。为什么呢？突厥衰弱，边境就会安宁，所以高兴。然而，如果我治国失道，将来也可能像突厥一样，能不畏惧吗！你们应当不惜犯颜直谏，来辅佐我弥补不足。”颉利可汗发兵攻打突利可汗，丁亥日，突利可汗派遣使者前来唐朝求救。太宗与大臣们商议说：“我与突利可汗结为兄弟，他有急难，我不能不救。但是颉利可汗也与我订立了盟约，该怎么办呢？”兵部尚书杜如晦说：“戎狄没有信用，最终都会背弃盟约，现在不趁他们内乱夺取天下，将来后悔就来不及了。夺取内乱的国家，欺侮将要灭亡的政权，这是自古以来的道理。”
丙申日，契丹酋长率领他的部落前来投降唐朝。颉利可汗派遣使者请求用梁师都来交换契丹部落，太宗对使者说：“契丹与突厥是不同的种族，如今他们前来归附，为什么要索要他们！梁师都是中原人，盗取我国的土地，残害我国的百姓，突厥却接纳并庇护他，我出兵讨伐他，突厥就前来救援，他就像鱼在锅里游动，还担心不能为我所擒获！即使不能擒获他，我也始终不会用归附我的百姓去交换他。”
在此之前，太宗知道突厥朝政混乱，不能庇护梁师都，就写信劝谕他归降，梁师都没有听从。太宗派遣夏州都督长史刘旻、司马刘兰成谋划对付他，刘旻等人多次派遣轻骑兵践踏梁师都的庄稼，又大量施行反间计，离间他的君臣关系，梁师都的国家逐渐衰弱，前来投降的人接连不断。梁师都的名将李正宝等人谋划逮捕梁师都，事情泄露，李正宝等人逃奔唐朝，从此梁师都上下更加互相猜疑。刘旻等人知道梁师都的势力可以攻取，就上表请求出兵。太宗派遣右卫大将军柴绍、殿中少监薛万均率军攻打梁师都，又派遣刘旻等人占据朔方东城逼近他。梁师都率领突厥军队来到城下，刘兰成收起旗帜、停止击鼓，拒不出战。梁师都在夜晚逃走，刘兰成率军追击，击败了他。突厥出动大军救援梁师都，柴绍等人在距离朔方数十里的地方与突厥军队相遇，奋力出击，大败突厥军队，于是包围了朔方。突厥军队不敢再救援，朔方城内的粮食耗尽。壬寅日，梁师都的堂弟梁洛仁杀死梁师都，献城投降，太宗将朔方地区改为夏州。
太常少卿祖孝孙认为南朝梁、陈的音乐大多带有吴、楚地区的风格，北朝周、齐的音乐大多带有胡族、夷族的风格，于是他斟酌南北音乐的特点，参考古代的乐律，创作了《唐雅乐》，共有八十四调、三十一曲、十二和。太宗下诏命令协律郎张文收与祖孝孙共同修订。六月乙酉日，祖孝孙等人上奏呈上新乐。太宗说：“礼乐是圣人根据情感来设立教化的工具，国家治理的兴衰，难道是由礼乐决定的吗？”御史大夫杜淹说：“北齐将要灭亡时，创作了《伴侣曲》；陈朝将要灭亡时，创作了《玉树后庭花》，这些音乐的声调充满哀思，路上的行人听到后都悲伤哭泣，怎么能说国家治理的兴衰与音乐无关呢！”太宗说：“不是这样的。音乐能够感动人，所以快乐的人听到后会更快乐，忧愁的人听到后会更悲伤，悲伤和快乐都源于人的内心，不是由音乐引起的。将要灭亡的政权，百姓必然愁苦，所以听到音乐就会感到悲伤。如今这两首曲子都还存在，我为你演奏它们，你难道会感到悲伤吗？”右丞魏征说：“古人说‘礼啊礼啊，难道只是指玉帛吗！乐啊乐啊，难道只是指钟鼓吗！’音乐的真谛确实在于人心和睦，而不在于声音本身。”
对此，司马光说：“我听说古代的巧匠垂能够用眼睛测量方圆，用心衡量曲直，却不能把这种本领教给别人，他用来教人的，必定是圆规和直尺。圣人不费力就能符合正道，不用思考就能有所收获，却不能把这种智慧传授给别人，他用来传授给别人的，必定是礼乐。礼是圣人所遵循的准则；乐是圣人所喜爱的东西。圣人遵循中正之道，喜爱和平之音，又希望与天下人共享，流传百世，于是创作了礼乐。因此，工匠拿着垂的圆规和直尺来制作器物，这也是垂的功劳；君主拿着五帝、三王的礼乐来治理天下，这也是五帝、三王的治国之道。五帝、三王离开世间已经很久了，后代的人看到他们的礼，就知道他们所遵循的准则；听到他们的乐，就知道他们所喜爱的东西，清楚得就像他们还活在世间一样。这难道不是礼乐的功劳吗？礼乐有本质、有形式：中和之道是本质；礼仪和声音是形式；二者不可偏废。古代的君主坚守礼乐的本质，一刻也不离开内心；践行礼乐的形式，一刻也不远离自身。礼乐从家庭兴起，在朝廷彰显，普及到乡里邻里，延伸到诸侯各国，流传到天下四海，从祭祀、军旅到饮食、起居，没有不在礼乐之中的；这样经过数十年、数百年，然后治理教化才能遍及天下，凤凰才会前来朝见。如果没有本质而只有形式，一天践行而百日舍弃，想要用这样的礼乐来移风易俗，确实是很困难的。因此，汉武帝设置协律都尉，歌唱上天的祥瑞，音乐不是不美妙，但最终还是免不了颁布哀痛的诏书。王莽设立羲和官，考核乐律，不是不精密，但最终还是不能挽救渐台的灾祸。晋武帝制定笛尺，调整金石乐器的音调，不是不详尽，但最终还是不能阻止平阳的灾难。梁武帝设立四种乐器，调整八音，不是不细致，但最终还是不能避免台城的耻辱。既然这样，那么韶、夏、濩、武等古代的音乐都还存在于世间，如果君主的德行不足以匹配这些音乐，就连一个人都不能感化，更何况天下人呢！这就像拿着垂的圆规和直尺却没有工匠和材料，坐着等待器物制成，最终是不可能实现的。更何况北齐、陈朝的君主荒淫昏庸，他们的亡国之音，只是在朝廷上临时演奏，怎么能改变一代人的哀乐呢！而太宗却急忙说国家治理的兴衰与音乐无关，为什么发言如此轻率，并且这样果断地否定圣人的主张呢？
礼不仅仅是指礼仪形式，但没有礼仪形式，礼就无法践行。乐不仅仅是指声音，但没有声音，乐就无法展现。就像山，取出其中的一土一石不能称之为山，但是如果把土石都去掉，山又在哪里呢！所以说：“没有本质就无法确立，没有形式就无法践行。”怎么能因为北齐、陈朝的音乐在今世没有应验，就说音乐对国家的治乱没有益处，这与看到一块拳头大的石头就轻视泰山有什么区别呢！如果真像太宗所说的那样，那么五帝、三王创作音乐都是虚妄的了。”君子对于自己不知道的事情，大概会存而不论。”真是可惜啊！
戊子日，太宗对侍臣说：“我阅读《隋炀帝集》，发现里面的文辞深奥渊博，隋炀帝也知道称赞尧、舜而指责桀、纣，但是他的所作所为为什么却与此完全相反呢！”魏征回答说：“君主即使圣明睿智，也应当虚心接纳别人的意见，这样有智慧的人才能献上谋略，勇敢的人才能竭尽力量。隋炀帝依仗自己的出众才华，骄横自大，刚愎自用，所以嘴里说着尧、舜的话，身体却做着桀、纣的事，自己竟然没有察觉，最终导致国家灭亡。”太宗说：“前事不远，后事之师啊！”
京城周围地区出现蝗虫。辛卯日，太宗进入皇家园林，看到蝗虫，捡起几只，祷告说：“百姓把粮食当作性命，而你们却吃了它，宁愿你们吃我的肺肠。”抬手就要把蝗虫吞下去，身边的人劝谏说：“这种有害的东西可能会让人生病。”太宗说：“我为百姓承受灾难，又怎么会躲避疾病呢！”于是把蝗虫吞了下去。这一年，蝗虫没有造成灾害。
太宗说：“我每次上朝，想要说一句话，都要反复思考多次。担心所说的话会对百姓造成危害，所以不轻易多说。”给事中兼知起居事杜正伦说：“我的职责是记录君主的言论，陛下的言论如果有失误，我一定会记录下来，这不仅会对现在造成危害，还恐怕会被后代人讥讽。”太宗很高兴，赏赐他二百段绢帛。
太宗说：“梁武帝君臣只谈论佛教的苦空之说，侯景之乱发生时，百官竟然连马都不会骑。梁元帝被北周军队包围时，还在讲解《老子》，百官穿着军装听讲。这实在是值得深切引以为戒。我所喜爱的，只有尧、舜、周公、孔子的学说，我认为这些学说就像鸟有翅膀、鱼有水一样，失去它们就会死亡，不能片刻没有。”
太宗因为辰州刺史裴虔通是隋炀帝的旧臣，曾经受到隋炀帝的特别宠信，却亲自参与了杀害隋炀帝的叛逆行为，虽然时势变迁，多次颁布大赦令，裴虔通侥幸免于被灭族，但不能再让他治理百姓，于是下诏将他除名，流放到欢州。裴虔通常说“我亲手除掉了隋朝皇室，为大唐开辟了道路”，自认为有功劳，常常流露出不满的神色。等到获罪流放，他怨恨愤怒而死。
秋季，七月，太宗下诏将宇文化及的党羽莱州刺史牛方裕、绛州刺史薛世良、广州都督长史唐奉义、隋朝武牙郎将元礼全部除名，流放到边境地区。
太宗对侍臣说：“古语有这样的说法：‘赦免是小人的幸运，是君子的不幸。’‘一年之内两次大赦，善良的人就会闭口不言。’培育杂草就会危害庄稼，赦免有罪的人就会伤害善良的百姓，所以我即位以来，不希望多次颁布大赦令，担心小人依仗大赦而轻易触犯法律。”
九月丙午日，朝廷首次下令：退休官员的官位品级仍保留在原任职品级之上。
太宗说：“近来见群臣屡次上表庆贺祥瑞之事。要知道，百姓家家富足、人人温饱，即便没有祥瑞，也不妨碍成为尧、舜那样的明君；百姓愁苦怨恨，即便祥瑞再多，也逃不过桀、纣那样的昏君之名。后魏时期，官吏焚烧连理木、烹煮白雉鸟当作食物，这难道能算是天下大治吗！”丁未日，太宗下诏：“从今往后，只有特别重大的祥瑞可以上表奏闻，其余各类祥瑞，只需上报相关主管部门即可。”曾有白鹊在皇宫寝殿的槐树上筑巢，巢穴合欢相拥，形状如同腰鼓，左右侍从都上前庆贺。太宗却说：“我常嘲笑隋炀帝喜好祥瑞。真正的祥瑞是得到贤才，这一点小事有什么值得庆贺的！”于是下令拆毁鸟巢，将白鹊放归野外。
当时上天少雨，中书舍人李百药上书说：“往年虽然放出过部分宫女，但我私下听闻，太上皇宫中及后宫里，无用的宫女仍有很多。她们不仅白白耗费衣食，而且深宫之中阴气郁积，这也是导致干旱的原因之一。”太宗说：“妇人被幽禁在深宫里，实在令人怜悯。除了洒扫庭院之外，她们也没什么用处，应当全部放出宫去，任凭她们寻找配偶。”于是派遣尚书左丞戴胄、给事中洹水人杜正伦到掖庭西门挑选宫女放出，前后共放出三千多人。
己未日，突厥侵犯边境。朝中大臣有人请求修复古代的长城，征调百姓驻守堡垒关隘。太宗说：“突厥接连遭遇灾异，颉利可汗不但不知畏惧、修养德行，反而更加暴虐，宗族内部自相残杀，灭亡之日近在眼前。我正要为天下百姓扫清沙漠中的敌寇，何必劳累百姓到远方去修筑关塞呢！”
壬申日，朝廷任命前司农卿窦静为夏州都督。窦静在担任司农卿时，少卿赵元楷擅长搜刮民财，窦静十分鄙视他，曾对下属官员公开说：“隋炀帝奢侈无度、横征暴敛，司农寺非你这样的人不可；如今天子节俭爱民，你这样的人还有什么用处！”赵元楷深感羞愧。
太宗问王珪：“近代治理国家的人越来越不如古代，这是为什么呢？”王珪回答说：“汉代尊崇儒术，宰相大多任用精通经学的儒生，所以社会风俗淳朴厚道；近代重视文辞、轻视儒术，还掺杂着法律严苛的治理方式，这就是社会教化日益衰败的原因。”太宗认为他说得很对。
冬季十月，御史大夫、参预朝政、安吉襄公杜淹去世。
交州都督、遂安公李寿因贪污获罪。太宗认为瀛州刺史卢祖尚文武双全、廉洁公平、公正耿直，便征召他入朝，告知他：“交趾地区长期没有合适的官员治理，需要你前去镇守安抚。”卢祖尚拜谢后退出朝堂，不久却后悔了，以旧病复发为由推辞。太宗派遣杜如晦等人传达旨意说：“普通百姓尚且重视承诺，你为何已经答应朕却又反悔呢！”卢祖尚仍然坚决推辞。戊子日，太宗再次召见他，当面劝说，卢祖尚还是固执不从。太宗大怒道：“我下令派人去做事，却没人服从，还怎么治理国家！”下令将卢祖尚在朝堂上斩首，不久后又后悔了。有一天，太宗与侍从大臣谈论“齐文宣帝是个怎样的人”，魏征回答说：“文宣帝性情狂暴，但有人与他争辩时，只要道理在对方那边，他就会听从。从前青州长史魏恺出使梁朝返回后，被任命为光州长史，他不肯赴任，杨遵彦上奏弹劾他。文宣帝大怒，召见魏恺并责备他。魏恺说：‘我之前担任大州的长史，出使归来后，有功劳而无过错，却被改任到小州，这就是我不愿赴任的原因。’文宣帝回头对杨遵彦说：‘他说得有道理，你赦免他吧。’这就是文宣帝的长处。”太宗说：“确实如此。此前卢祖尚虽然违背了臣子的道义，但我杀了他也过于残暴，从这一点来说，我还不如齐文宣帝啊！”下令恢复卢祖尚子孙的官爵世袭资格。
魏征相貌平平，没有超过普通人，但他有胆有识，善于说服君主改变主意，常常冒犯君主的威严苦苦劝谏。有时遇到太宗大怒，魏征神色依然镇定自若，太宗也会因此收敛怒气。魏征曾请假去祭扫祖坟，返回后对太宗说：“有人说陛下想要前往南山，宫外的人都已经整顿好行装，而陛下最终却没有出发，这是为什么呢？”太宗笑着说：“起初我确实有这个想法，但害怕你生气，所以就中途停止了。”太宗曾得到一只上好的鹞鹰，放在手臂上把玩，远远望见魏征走来，就把鹞鹰藏在怀里；魏征上奏事情时故意拖延很久，鹞鹰最终死在了太宗的怀里。
十一月辛酉日，太宗前往圜丘祭祀上天。
十二月壬午日，朝廷任命黄门侍郎王珪为守侍中。太宗曾在闲居时与王珪交谈，有一位美女在旁边侍奉，太宗指着美女对王珪说：“这是庐江王李瑗的姬妾，李瑗杀了她的丈夫后把她纳为己有。”王珪起身离开座位说：“陛下认为庐江王纳她为妾是对的，还是错的？”太宗说：“杀了人却夺取他的妻子，你何必问对错呢！”王珪回答说：“从前齐桓公知道郭国灭亡的原因，是因为郭国君主能赏识贤才却不能任用，而且还抛弃了进献忠言的人，管仲认为这与郭国君主没有区别。如今这位美女还在陛下身边，我以为陛下是认可庐江王的做法的。”太宗听后十分高兴，立即下令将美女放出宫，让她回到自己的亲族身边。
太宗让太常少卿祖孝孙教宫女们音乐，祖孝孙没有达到太宗的要求，太宗责备了他。温彦博、王珪劝谏说：“祖孝孙是位儒雅的士人，如今却让他去教宫女，教不好还加以谴责，我们私下认为这样做不合适。”太宗大怒说：“我把你们当作心腹之臣，你们应当竭尽忠诚正直来侍奉我，难道你们要附和下属、欺骗君主，为祖孝孙游说吗？”温彦博连忙拜谢请罪。王珪却不拜谢，说：“陛下责备我要忠诚正直，如今我所说的话难道是私情偏袒吗！这是陛下辜负了我，而不是我辜负了陛下。”太宗沉默不语，只好作罢。第二天，太宗对房玄龄说：“自古以来，帝王接受劝谏确实很难，我昨天责备了温彦博、王珪，至今仍在后悔。你们不要因为这件事就不敢畅所欲言了。”
太宗说：“为我养育百姓的，主要是都督和刺史。我常常把他们的名字写在屏风上，无论坐着还是躺着都能看到，他们在任上的善恶事迹，我都会标注在名字下面，以便作为升降官职的依据。县令尤其亲近百姓，不能不慎重选择。”于是下令朝廷内外五品以上的官员，各自举荐能够担任县令的人，把名字上报给朝廷。
太宗说：“近来有奴仆告发主人谋反的事情，这是一种败坏风气的弊端。谋反不可能独自完成，必定会有同谋，还怕不能发现吗？何必让奴仆来告发呢！从今往后，有奴仆告发主人的，一律不予受理，并且要将告发者斩首。”
西突厥统叶护可汗被他的伯父杀死，伯父自立为可汗，号称莫贺咄侯屈利俟毘可汗。国内百姓不服，弩矢毕部推举泥孰莫贺设为可汗，泥孰不肯接受。统叶护可汗的儿子咥力特勒为了躲避莫贺咄的迫害，逃到了康居，泥孰派人将他迎接回来并拥立为可汗，号称乙毘钵罗肆叶护可汗。两位可汗相互攻打，战乱不断，都派遣使者前来唐朝请求通婚。太宗没有答应，说：“你们国家正处于内乱之中，君臣的地位还没有稳定，怎么能谈论通婚呢！”并且谕示他们各自坚守自己的领地，不要再相互攻打。于是原本臣服于西突厥的西域各国以及敕勒各部都纷纷反叛。
突厥北部的各个部落大多背叛颉利可汗，归顺薛延陀，共同推举薛延陀的俟斤夷男为可汗，夷男不敢接受。太宗正计划对付颉利可汗，便派遣游击将军乔师望从小路携带册封文书，封夷男为真珠毘伽可汗，并赐予他鼓和大旗。夷男大喜，派遣使者入朝进贡，在大漠中的郁督军山下建立王庭，疆域东至靺鞨，西至西突厥，南接沙漠，北至俱伦水；回纥、拔野古、阿跌、同罗、仆骨、霫等部落都臣服于他。