大多数学者认为，三省六部制主要形成于隋文帝时期，但与后世所熟知的三省六部制略有差异。
一、三省的变迁
隋文帝在中央设立了三师、三公和五省（注：并非三省）。三师和三公仅为荣誉称号，通常授予即将退休的老同志以示尊重，并无实权。实际权力集中在五省，包括尚书省、门下省、内史省、秘书省和内侍省。秘书省相当于现代的图书管理机构，主要负责图书典籍的管理，权力较小；内侍省负责宫廷内的宦官事务，权责有限。因此，真正掌握实权的是尚书省、门下省和内史省。后来内史省更名为中书省，形成了较为熟悉的尚书、门下、中书三省。三省职权各异，中书省负责发布政令，门下省负责审查诏令，尚书省负责执行政令。尚书省下设六部。尽管职责看似相近，但设立三省的主要目的是削弱相权，避免相权与皇权发生冲突。然而，三省之间的工作存在重叠，导致资源浪费和效率低下。北宋时期，反变法派执政，改为三省共同议事。随后，中书省和门下省逐渐被裁撤，职能并入中书省及其下属的六部。明朝朱元璋时期，为强化皇权，废除传承千年的丞相制度，其中包括废除中书省。自此，中书省下属的六部直接归属皇帝。
二、六部的演进
在隋文帝之前，汉成帝设置了常侍曹、二千石曹、民曹、客曹等四曹。汉光武帝刘秀时期，尚书台下设三公曹、吏曹、民曹、客曹、二千石曹、中都官曹等六曹。隋文帝时期，为摆脱阴曹地府的不佳印象，将六曹更名为吏部、礼部、兵部、度支、都官和工部。李世民在位时，因喜爱“部”字，将度支改为户部（原为民部，为避李世民名讳而改），都官改为刑部，形成了后人熟知的吏户礼兵刑工六部。六部的地位从高到低依次为吏部、户部、礼部、兵部、刑部和工部。吏部负责全国官员的档案、任免、考察等事务，地位最高；户部相当于现代的财政部、民政部、税务总局和国土资源部，掌管土地、户籍、财税等，是重要职位；礼部负责典章法度、科举教育和外事；兵部负责武将的选拔、兵籍管理和军械供应；刑部负责法律和刑狱；工部负责全国各项工程，地位相对较低。
