杨坚在十四岁时离开太学，进入仕途。没过多久，他就迎来了一件人生大喜事。他父亲的老上司独孤信决定把女儿独孤伽罗嫁给他。
独孤信是西魏八柱国之一，地位比杨忠还高，杨坚有了这样的岳父，背景更硬了。这时候，西魏已被北周取代，但是政权的基础并没有改变。杨坚自身素质良好，出身高贵，再加上强势的老丈人，在新王朝的仕途本应一帆风顺。遗憾的是，杨坚刚刚踏入仕途，就遇上一个棘手的问题，北周当时有两个当家人，一个是周朝的皇帝，另一个则是权臣宇文护，他不知道追随谁好。
会出现这种情况，得从宇文泰说起。宇文泰是西魏权臣，从五三五年起执掌西魏朝政，为西魏的生存和发展建立莫大功业。但是，五五六年，宇文泰去世。西魏的江山是宇文泰开创的，当然希望儿子能接掌大权，问题是，他的儿子年纪都还小，宇文泰怕那些老将军、自己那些老哥们不买帐。怎么办呢？左思右想，宇文泰只好把儿子托付给侄子。
他的侄子名叫宇文护，当时四十四岁，正值年富力强，颇孚众望。宇文泰希望他能辅佐自己的儿子接任西魏权臣。面对叔叔的重托，宇文护慨然允诺。但是，怎么把叔叔交代的事情办好呢？
宇文护是讲究谋略的人。他觉得，宇文泰要是皇帝便罢，老皇帝死了，小皇帝接班顺理成章，可是权臣不一样。权力再大毕竟只是大臣，如果也让儿子接班当权臣，有点名不正言不顺，别的大臣可能不服，就会引发政治上的混乱。
想来想去，他索性一不做、二不休，直接废了西魏皇帝，辅佐宇文泰的嫡子宇文觉当皇帝，西魏因此变成北周。有皇帝的名分，谁再敢不服气，就是造反，人人得而诛之。这样看起来比较鲁莽，但实际上倒是快刀斩乱麻，从根本解决了问题。
由此看，宇文护算是北周最大的开国功臣。既然是功臣，当然希望掌握权力；而皇帝也不会轻易放弃权力。这样一来，宇文护和皇帝的争权斗争于焉展开。
在这种背景下，杨坚接受他人生中第一个正式任命的官职——右小宫伯。右小宫伯掌管皇宫宿卫，在皇帝身边工作，算是皇帝的近臣，因此升迁很快。
但是，这个官职的地位也非常尴尬，虽然职责是保卫皇帝，但是，在行政隶属关系上，是天官大冢宰的下属，而当时的天官大冢宰正是权臣宇文护。换句话说，这个职位正好夹在皇帝与权臣之间。
这个任命一下来，杨坚倒抽了一口冷气。明知道皇帝和宇文护不和，这不是让他左右为难吗？那么，这个任命是谁的意思？宇文护。宇文护为什么这么做？这是卖给杨家一个人情。杨忠身为十二大将军之一，在老一辈中颇有实力，而杨坚又是少年新锐，宇文护想拉拢杨忠父子。怎么拉拢？杨坚刚进入仕途，右小宫伯这个职位靠近权力中枢，升迁很快，是个美差，把这个职位给杨坚，杨家就会对自己感恩戴德，说不定以后还能培养成自己的眼线。
宇文护想拉拢杨坚，杨坚却觉得很为难。宇文护大权在握，连皇帝都斗不过他，跟着他似乎很有前途；但是，要投靠宇文护，杨坚也有顾虑。宇文护毕竟是大臣，以臣凌君，无论如何也算是悖逆。另外，不久前，宇文护为了专权，逼死老臣独孤信，而独孤信正是杨坚的岳父，国仇家恨交加，让杨坚对宇文护也没太多好感。
到底何去何从？在政治舞台上往往是屁股决定脑袋，杨坚拿不定主意。怎么办？父亲杨忠在政坛历练一辈子，问他吧！
面对儿子的疑惑，杨忠说了一句最贴近人情、也最明智的话，“两姑之间难为妇，汝其勿往！”两个婆婆之间最难做媳妇了，你还是哪边也别靠吧！这句话说得杨坚顿开茅塞，那就装傻吧！虽然接受任命，但是，对宇文护不冷不热、不即不离。这样的表现宇文护当然不满意，从此就给杨坚小鞋穿了。
从五五七年到五六五年，杨坚在右小宫伯的职位上一待八年。当年，他刚当上右小宫伯时，才十七岁，谁都觉得前程远大，现在，他已经二十五岁了，当年的同事都平步青云，只有他还在原地踏步，心里真是无限失意。杨坚是个胸怀大志的人，而且，童年时代尼姑智仙所说的“儿当大贵”的预言一直萦绕在他耳边，什么时候才能真的大贵起来呢？