公元581年，北周外戚杨坚夺得政权，建立了隋王朝，称隋文帝，改元开皇，建都长安。杨坚曾在北周从政多年，亲眼看见严刑酷法的弊病。他当皇帝后采纳了刑部侍郎赵绰〔chao超〕提出的“行尧舜之道，多存宽宥”即实行轻刑恤罚的建议，定为立法的指导原则。
开皇元年，隋文帝适应时势要求，继承了“法令明审，科条简要”的传统，指派尚书左仆射高颎〔jiong窘〕、上柱国郑译等人制定了《开皇律》。《开皇律》删去死罪81条，流罪154条，徒、杖等罪1000多条，留下500条，共12篇。《开皇律》是自秦以来历代法律中比较轻简的法律。唐朝及以后各朝的法律，在篇章体例上都沿用《开皇律》，它的影响是很深远的。
《开皇律》的修成是中国古代法制史的重大转折，它使古代法制定型化。表现在：
(1)篇目定型。起初《法经》六篇，后来《汉律》60篇，魏晋南北朝各代法律篇目或多或少，变动不定。到隋《开皇律》定为12篇后，为唐、宋、明各代所承袭沿用。
(2)刑名定型。秦律中的刑名繁杂，以后几代发生变化，趋向简化，到《开皇律》时定型在笞、杖、徒、流、死五种刑罚上，除辽代外，一直沿用到清代，基本没有多大变化。
(3)确定“十恶大罪”的罪名，自唐至清一直沿袭未改。
(4)规定的“八议”、“官当”制度也为后世法制所仿效。
总之，《开皇律》起着承前启后的重大作用，从此长达1200多年的时间里，中国封建法制基本上定型化。隋文帝制定《开皇律》的成就是不可磨灭的。
隋文帝杨坚力主刑以辅德，甚至“以德代刑”，并把这些思想注入法律之中。在他即帝位之初，便下诏天下学礼，作为保证法律实施的一个前提。他除了强调用法律严厉镇压劳动人民的反抗外，还强调官吏守法执法，对违法失职的官吏，一经发现，一律依法论处。例如，晋州刺史、南阳郡公贾悉达和隰〔xi习〕州总管、抚宁郡公韩延等因犯贿赂罪被处死。他对王公贵族也要求极严。例如，上柱国刘旭的儿子居士倚仗其父的权势，结伙成帮，为非作歹，侵凌百姓，被处以死刑。隋文帝对儿子犯法也不宽宥。他的三儿子秦王杨俊任并州总管期间，“好奢侈，违越制度，盛治宫室”。隋文帝杨坚知道后，依法论处，撤掉了儿子的官职。杨坚在执法方面的这种不避亲贵，一断以律的态度，是形成隋初社会稳定、经济发展的一个主要原因。古书记载当时情景：“仓廪实，法令行。君子咸乐其生，小人各安其业。强无陵弱，众不暴寡，人物殷阜，朝野欢娱。”(《隋书·高祖记下》)
隋文帝不仅制定较轻简的法律，而且他统治时期的司法官吏比较重视法制。有两件事能说明这一点。
刑部侍郎辛亶〔dan胆〕，好穿红色短脚袜，他认为这样能官运亨通。隋文帝则认为辛亶犯了“厌蛊”罪，下令斩首。刑部侍郎赵绰进谏说，根据《开皇律》规定，犯“厌蛊”罪不应当处死，臣不敢奉诏。隋文帝发怒说，“你惜辛亶的命，却不惜自己的命！”并命令左仆射高颎去斩赵绰。赵绰又辩解说：“陛下宁可杀臣，不能杀辛亶。”说完就走下朝堂，解开衣服，等待斩首。隋文帝派人问他有无悔意，他回答说：“执法一心，不敢惜死。”隋文帝听后觉得有道理，第二天嘉奖了他，赐给他绸缎300匹。
又有一次，有两个人在市上用品质差的钱换好钱，巡察士兵逮捕上报，隋文帝下令杀两个犯了钱法的人。赵绰进谏说：“依照法律这两个人不应该处死，应当处杖刑。”隋文帝说：“这不关你的事。”赵绰说：“陛下把我安置在法司工作，现在要不依法处人死刑，怎能说不关臣的事？”隋文帝又说：“摇晃不动大树的，应有自知之明，应当避开！”赵绰回答说：“臣希望感动天子的心，哪里是什么摇晃大树！”隋文帝又说：“天子的威严，你打算加以挫伤吗？”赵绰听后，跪拜前行，皇帝叱责制止他，也不肯退下，于是皇帝入宫去了。后来，另外一位大臣又上奏章谏劝。隋文帝有感于赵绰的“诚直之心”，收回成命。后来，隋文帝常把赵绰召入内房赐坐，评论政事得失。
上述两件事说明，刑部侍郎赵绰信守法制，“执法公允”，也说明隋文帝在开皇前期能够纳谏，重视法制，才使得《开皇律》发挥重要作用。隋文帝晚年“喜怒无常，过于杀戮”，自己带头破坏法制，违背了他前期的法律思想和《开皇律》的精神，他经常在殿廷行刑杀人，不纳劝谏，甚至允许各级官吏可以“律轻、情重”为理由，刑讯逼供，公开提倡法外用刑，致使冤狱遍地，实际上已经没有任何法制可言。后来，隋炀帝继位，虽然颁布了比《开皇律》还宽大的《大业律》18卷和《大业令》30卷，但是他横暴残忍，荒淫无度，恢复被废除了的轘、裂、枭首等残酷刑罚，把族刑由株连两族发展到株连九族，终于导致“百姓怨嗟，天下大溃”(《隋书·刑法典》)，为唐所灭。