在赵匡胤还担任后周的殿前都点检时，他便因获得柴荣的信任而参与到重要政事的商讨中，是后周政治核心集团的重要人物。这一时期的经历不仅让他学习到了柴荣很多治国的方法，更让他为自己以后统治国家而得到了锻炼，对于当时社会的弊病和急需解决的问题有了最早的认识。和柴荣一样，赵匡胤也是一个非常善于总结和改革的人；而和柴荣不同，赵匡胤在有了自己的计划之后，可以有机会将其推广实践，他通过自己对五代时期国家覆亡原因的总结，为大宋的长久发展奠定了基础。
建国之后，赵匡胤过着俭朴的帝王生活，因为他不确定自己所建立的大宋是否也会像五代时期的那些国家一样，只是过眼云烟，数十年便会夭亡。仅此一点，可见赵匡胤的深谋远虑便远胜五代帝王。因为思虑国家发展而时常夜不能寐的赵匡胤经常会跑到大臣的家里，和他们商议国家大计，这其中最常去探访的便是赵普。通过两个人的计议分析，赵普为赵匡胤提出了使国家长治久安的三大举措：削夺其权，制其钱谷，收其精兵，从政治、经济和军事三个方面来达到君强臣弱的目的。
赵匡胤深知地方长官权力过大所造成的危害，对赵普的提议非常赞同，他意味深长地说：“如果我给地方节度使们一把长剑，用来保护大宋的安危，但却不能保证他不会用这把剑挥向我，那么我宁愿他手无寸铁。”
确定了这一方针之后，赵匡胤首先从自己最早征伐的荆南地区开始实施。在取得荆南之地后，周保权被押解回开封，在此地设立新的长官成为急需解决的问题。
赵普请示说：“现在荆南已经没有了最高长官，既然它是大宋的领土，就需要由朝廷派遣官员担任节度使，来保持这一方的安宁。目前朝臣们也都在纷纷举荐自己认为合适的人选，但最后选择谁来担任，还需要陛下来裁夺。”
赵匡胤沉吟了一会儿，说：“现在朝中人才济济，大宋的国威在荆南又得到宣扬，不管任用谁来统理，都不是一件难事。”
这一番话中显然含有其他的意思，善于察言观色的赵普知道赵匡胤并不急着设立节度使，便不再请示，等着赵匡胤自己来说明意图。
过了一会儿，赵匡胤说：“在荆南所设立的支郡衙门，所统领的不止这一个地区，连它附近的几个州都在其管理下。这样的势力范围，你觉得是不是过于强大了？”
赵普说：“支郡制度历来已久，一方面是为了保证一方安宁，另一方面可以减少朝廷处理这些琐事的麻烦，让节度使来负责这一区域的管理就可以了。”
赵匡胤说：“为了便于管理，而使地方长官势力不断增大，一个支郡就代表好几个州都在一人的统治下，历代以来割据地方的，也都是因为支郡的权力过大，不再听命于朝廷。现在看看南方的汉、蜀等国，在数十年前也只不过是唐朝的一个支郡而已，被豢养长大，便成为国家分裂的原因了。”
赵普已经深知赵匡胤的忧虑所在，便说：“把权力下放给地方长官，也是因为唐末的皇帝疏于政事，如果加强管理，就不会造成这样的局面。”
赵匡胤点点头说：“不错，既然上天将统领天下的权力交给我，我又怎么能因为要偷懒而放任他们呢！所以，在荆南设立支郡的事需要再议。”
赵普问：“现在朝臣都在等着设立荆南的节度使，那这个任命是不是也要延迟？”
赵匡胤说：“任命无须延迟，选择一个忠实可靠的文臣来管理就可以。不过荆南支郡的范围要缩减，此地的节度使只能管理荆南，而不能将它附近的几个州都划归在内。其他地区的统领权力都归于朝廷，直属京师。”
赵普问：“统领军队的防御使一职又该如何处理呢？”
赵匡胤说：“你曾经对我说，要削夺其权，把军权交给地方始终是一件不能让人放心的事。那就重新设立官职，以文臣出任，取代防御使一职，只有这样，我在高堂之上才能安心。”
依照这一指示，荆南地区的支郡制度很快便被取消，虽然保留了节度使一职，但其驻地以外的其他州郡不再像以前一样归节度使管辖，而是直接由中央政府管理。同时设立的知州一职，取代原有的防御使来管理军队。这一方式从荆南开始，随着宋军的征伐脚步而逐渐向全国推广，到宋军将南方地区平定时，基本上所有地区的支郡制度都被取消了，大部分地区都划归中央管理，大大加强了中央政权的集权，而地方实力被逐渐削弱。
在设立了全新的职位“知州”之后，赵普对赵匡胤说：“官员长驻一个地方，就如同将领长期带着一支部队一样，久而久之就容易形成自己的心腹，慢慢地就会成为盘踞此地的势力，等其强大便不易铲除。”
赵匡胤问：“选拔年轻的将领担任军职可以避免其势力过大，但又该怎么样避免地方官员盘踞一方呢？”
赵普说：“现在很多官员都不愿换任，一方面是因为对新任职的地方不熟悉，另一方面就是因为自己的亲朋势力都不能跟随去新任。我们正可以利用这一点，让官员的任职实现不断地流动，每到一处都是新的局势，便不利他们纠结势力。”
赵匡胤颔首表示赞同，在知州之后又颁布了新的法令：“凡是在一个地方担任知州、知县等职务，满三年便要换任，不许久任。”
这一方针的出台虽然避免了地方势力的不断增强，但也有特殊情况。乾德三年，即公元965年，北海郡知郡杨廷美已经任满三年，准备换任，但因其为官清廉，深受当地百姓的爱戴，民众为了挽留杨廷美，数百人前往开封请愿，希望可以将其连任。
这样廉政爱民的官员原本是朝廷之福，可以让百姓安居乐业本也是朝廷乐见的。但请愿此举却是在挑战赵匡胤所设立的“三岁一易”的制度，因此他甚为不满，对赵普说：“杨廷美任职已满，为了他一个人而破坏法令制度，是不是值得？”
赵普跟随赵匡胤多年，深知在他的内心天平是倾向于哪一方的，便说：“杨廷美为官清廉，是百姓之福，但北海郡的百姓想要专美，却也未必太过自私了。既然是这样一个受人爱戴的好官，就应该让更多的百姓可以享受到他带来的福泽。所以，臣以为应该将他换任到其他地方去。”
赵匡胤对这个回答很满意，说：“百姓求一个清官也是情有可原，你就代我去将他们劝退，将这个道理讲给他们听，让杨廷美到别的地方任职吧。”
赵普领命，来到宫门外劝说北海郡请愿之民赶紧散去，但是百姓们说：“杨大人造福一方，现在北海郡刚刚得到一点休养生息，却又要换任，他所建立的基础可能就会被摧毁。百姓们别无他求，只希望杨大人可以再任三年。”
一再的劝慰也无法让这些人散去，赵普只能无奈地回禀，赵匡胤一听大怒道：“法令制度已经制定就不能轻易修改，更何况杨廷美既然这么深受爱戴，难保他不会自得自满，在北海郡做出什么不守规矩的事儿来！朝廷怎么会因为几个平头百姓的请命就将法制改变呢？”
官员深得民心原本是一件美事，但在赵匡胤的眼中却是造成地方势力膨胀的苗头，这是他最忌讳的。赵普见状，不敢回话；赵匡胤下令：“令请愿之民速速退散，否则处以鞭笞之刑！”
被鞭笞一通之后，那些请愿的百姓才明白皇帝是不会为他们的愿望而修改法令的，只好失望地退去。但这件事又成为赵匡胤的心患。他又在州郡设立通判一职，让通判和知州一起处理当地的政务，虽然地位略低于知州，但却可以监督州郡长官，如果发现有什么问题，可以直接汇报给朝廷。通过通判和知州互相牵制，进一步避免地方长官的一头独大。
任用文臣担任知州来管理一方，是宋代在官员任用制度上的一次大改革，有效地避免了地方权势过大而威胁到中央的问题；同时，三岁一易和通判的设立，进一步削减了地方权力，使地方官员不易建立自己的势力。地方州郡长官统治范围的缩减和实权的减小，高度实现了中央集权的目的。
赵匡胤的这一创举，其后的皇帝一直都在沿用，虽然保持了国家的稳定，但同时也造成了不少弊病。地方官员权力不足使他们凡事都需要请示朝廷，逐渐增加了朝廷负担，官员也变得繁冗。而互相牵制的方式虽然可以限制地方官权力，但也造成官员之间互相倾轧，宋代官场中知州和通判因职权的冲突向来不和，简直成为一道独特的风景。而这一切对于统治者来说都不足惜，因为他们得到了自己想要的，那就是王朝的稳定延续。