至元三十年（1293年）的年底，忽必烈忽然卧床不起，大臣们虽请来了朝廷御医和各地的名医，为他百般调治，但病情仍然不见好转。至元旦，已不得不停止朝贺。于是，忽必烈召右丞相知枢密院事伯颜入京。越十日，伯颜自大同归。又越七日，世祖精神稍有好转，伯颜与丞相不忽木等入承顾命。
病榻上的忽必烈已经没有往日的风采，伯颜、不忽木见过礼后，忽必烈喘息着，把他们两人招至御帐前，吩咐为他们赐座。
见他们落座，忽必烈吃力地睁开了双眼，直盯着两人，过了很久，才长叹一声说道：“我自小立定志向，想大有为于天下。即位后，我诚惶诚恐，革故鼎新，务一万方，总算没有辜负皇爷爷成吉思汗的嘱托。如今，朕已病入膏肓，将不久于人世。两位爱卿，朕把大位传给谁为好？”
伯颜和不忽木慌忙跪下说道：“皇上洪福齐天，逢凶化吉，遇难呈祥，如今偶染风疾，不日即可痊愈，皇上不必担心。”
“哎！”忽必烈又闭上了眼睛，喘了几口气，说：“朕的病朕自己知道，不要难为那些医生了。两位都是朕的肱肱大臣，是朕的左膀右臂，有什么想法，但讲无妨。”
伯颜声泪俱下地说道：“皇上把这样的大事垂询于臣下等，使臣等不胜惶恐。臣披肝沥胆地向皇上举荐铁穆耳王爷！他才德齐天，大有成吉思汗和皇上的风范，就浩浩然有帝王之相。皇上把大位交给他，则国家幸甚，黎民幸甚！”
忽必烈闭着眼睛，微微点了点头：“叫他回来吧。”说完便闭上了双眼，沉沉地睡去了。
伯颜、不忽木见忽必烈睡着，便起身悄悄地退到室外。
南必皇后说道：“是否让铁穆耳早日登基，让皇上高兴高兴？”
伯颜等都不赞成，“我们只要认真作好准备，防止诸王、皇子皇孙生变即可。况且，铁穆耳合罕还远在漠北，不是一天两天就能到达，一旦计划不周，怕会弄巧成拙，反而闹出一些难以收拾的事端来。如今之计，还是派专人快驿急召铁穆耳回大都再说吧。”
这样到了正月二十二日半夜，忽必烈忽然大口喘息起来，眼睛也不断上翻。太医跪在南必皇后的面前哭道：“皇上要归天了……”
大家都慌了神，不知怎么办好，南必却异常镇定，她握着忽必烈瘦削的手说道：“皇上，再给南必留几句话吧！”
“好好活着，我已经在和林为你留下了财产和土地，你就回那儿吧，那里有你的家人，察必也在……”
此时忽必烈口齿已不清楚，但大家仍能听清几个字：“叫铁……穆……耳！……适当推行汉法……爱护黎民百姓……”说罢头一歪，崩于紫檀殿，在位三十五年，享寿八十。
忽必烈死后，知枢密院事伯颜总理百官政务，他一面派出快驿告哀于皇子、皇孙、亲王诸大臣，一面在朝内仍日出鸣晨钟，日入鸣昏钟，以防内变。
正巧有人趁忽必烈新丧，宫廷内忙乱之际，偷盗内库银两宝器，被守卫抓到。宰执想立即把他就地处死，报于伯颜，伯颜道：“现在新皇未归，禁中无主，理应镇静为是！寻常小窃，稍稍加惩，便可了事，不宜施用大刑，自示张皇！且杀人必须主命，现在到哪里去请命呢？”说得宰执哑然无语，自是宫廷肃静，一如平时安定。
且说皇孙铁穆耳闻讣，从和林星夜兼程，往大都赶来。将至上都时，遇着右丞张九思率兵迎驾，并奉上传国玉玺一枚。这传国玉玺并非世祖御宝，乃是历代相传的玺印。先是木华黎曾孙硕迪，已死而贫，其妻无法，只得拿出家藏物件出售为继。她不认得什么玉玺，在集市上叫卖，正巧中丞崔彧见到，便以三十两白银购得，回到治所便召秘书监丞杨桓，辨认印文，说是“受命于天，既寿永昌”八篆字。他惊异道：“这难道是秦玺不成！”
秦玺为秦以后历代帝王相传之印玺，乃奉秦始皇之命所镌，以作为“皇权神授、正统合法”之信物。其方圆四寸，上纽交五龙，正面刻有李斯所书“受命于天，既寿永昌”。嗣后，历代帝王皆以得此玺为符应，奉若奇珍，国之重器也，得之则象征其“受命于天”，失之则表其“气数已尽”。
事实上，秦传国玉玺早付灰炉，如何复能出现？况木华黎系元代世臣，既得此玺，怎能藏匿不献？这明明是赝品，只是阿谀之人借此献谀罢了。
中丞崔彧见多年失传的“传国玉玺”又在大都出现，便赶忙献于已故太子真金的妃子弘吉剌氏阔阔真。妃得此玺，遂遍示群臣，丞相以下，次第入贺，俱称世祖晏驾以后，方出此玺，明是上天留赐皇太孙，真可谓绝大喜事。
根据蒙古族“幼子守灶”的传统，那木罕作为元世祖的幼子，有资格继承皇位，而且他本人的确曾经寄希望于继位，并因此曾受到忽必烈的尖锐批评，被忽必烈疏远了。真金去世的前一年（1284年），他与安童抚军北方，被海都等叛王关押了几年，故而被确定为太子的竞争力就大大减弱了。而根据汉族的皇太子继承制，“有子立子”，无子方能立弟。太子去世后，只要太子有子就应该被立为皇太孙，而不能再在太子的兄弟中选择继承人。故而朝中汉法派大臣都倾向于从真金太子的几个儿子中选择皇位继承人。从史书记载看，忽必烈对他的三个皇孙都很喜欢，一时不能决定由谁来继位，这可能也是忽必烈迟迟不立皇位继承人的重要原因。真金太子的这三个儿子，能力都很强，长子甘麻剌于至元二十七年（1290年）被封为梁王，至元二十九年改封为晋王，率兵镇守北边，统领成吉思汗四大斡耳朵与达达的军马、国土，在蒙古诸王贵族中很有影响。二子答剌麻八剌一直被留在真金和忽必烈身边，直到至元二十八年才受命出镇怀州（今河南沁阳），但不曾到任就患了病，后来在大都去世。三子铁穆耳曾经随从忽必烈讨伐东北叛王乃颜，作战勇敢，立有战功；乃颜败亡后，同党合丹继续与朝廷作对，铁穆耳受命征讨，合丹败亡。至元三十年（1293年），又在朝廷重臣玉昔帖木儿的协助下抚军北边，防御海都。
忽必烈虽然没有明确诏立铁穆耳为继承人，但已有意向。况且铁穆耳为人一向仁厚，也颇得朝廷重臣玉昔帖木儿、伯颜、完泽、不忽木、阿鲁浑萨理等的好感，真金太子妃阔阔真也支持他的三子铁穆耳即位。
于是伯颜等密商，先遣右丞张九思率禁卒数百名出大都，赍玺北上迎献铁穆耳王。皇孙铁木耳受玺后，喜形于色，厚赏来人，遂与张九思等驰入上都。诸王宗亲，文武百官，同日毕至，议奉皇孙为嗣皇帝。
铁穆耳顺利到达大都以后，伯颜、不忽木，还有阔阔真等立刻召集了“忽里台大会”，推举新一任大元帝国的皇帝。诸王贵族、朝中重臣出席了此次大会，大会由阔阔真主持，会议进行了12天还没有结果，主要在铁穆耳合罕与长他几岁的兄长甘麻剌之间发生了争执。
极为聪明能干的阔阔真见双方争执不下，便语重心长地对他们说道：“你们两个都是我的孩子，掌心掌背都是肉，我也不会偏向谁的。不过，皇上只有一个，你们兄弟俩争来争去，一旦不和，将冰火相向，百姓黎民又遭战乱，这该如何是好呢？”她望着自己的这两个孩子，她多么希望他们能够和平共处呀！不行，无论如何也不能让他们以兵戎相见，得让他们分出个高低来，这样输者将心悦诚服，也会堵住反对者的嘴巴。
平心而论，铁穆耳的政治才能优于甘麻剌，而从军事才能看，甘麻剌似乎略胜一筹。从守成的角度考虑，阔阔真知道，此时大元帝国更需要一位倾向于实施儒家政治的国君。于是她说道：“薛禅合罕（即忽必烈）曾经吩咐，让那精通成吉思汗必里克的人登位，现在你俩就每人来讲你们的必里克，看谁更为精通必里克。胜者为王，不得变更！”
铁穆耳合罕口才极好，是一个优秀的演讲者，而甘麻剌则由于稍患口吃和没有完善地掌握辞令，无力与他争辩，最后铁穆耳合罕以其美妙的声音，较漂亮地讲述了必里克，得到了全体一致的赞扬。
亲王中或有违言，此时太傅玉昔帖木儿悄声对晋王甘麻剌说道：“宫车晨驾，已逾三月，神器不可久虚，宗祧不可乏主。曩日天赐符玺，已有所归，王系宗亲首领，何不早言？”
甘麻剌点头，正欲说话，忽见伯颜带剑上殿，立于丹墀前，大声陈述祖宗宝训，宣扬顾命，详细阐述了忽必烈皇帝临终选立皇孙铁穆耳的旨意。他满脸严肃，辞色俱厉，丝毫不容辩驳。宣陈完毕，他鹰隼一样的眼睛扫视着殿下诸王、驸马和皇子皇孙，那气势让众位皇子皇孙两股颤栗。甘麻剌乘势趋殿下拜曰：“昔皇祖命我镇抚北方，以卫社稷，久历边事，愿服厥职。母弟铁穆耳仁孝，宜嗣大位，我等愿北面事之。”
诸王见事已至此，便不敢不从，遂皆趋殿下拜。铁穆耳于是被拥上了宝座，南面即尊，顺利地被扶上皇帝之位。
即位后，就将下年（1295年）改为元贞元年，尊谥先皇曰圣德神功文武皇帝，庙号世祖。追尊故太子真金为裕宗皇帝，生母阔阔真为皇太后，改太后所居旧太子府为隆福宫。拜玉昔帖木儿为太师，仍兼御史大夫，知枢密院事；拜伯颜为太傅，仍兼枢密院事，加衔开府仪同三司，录军国重事；拜宣徽使兼枢密院事月赤察儿为太保，录军国重事，并大规模地封赏各宗亲百官有差。
从总体看，铁穆耳成宗时的中枢机构是忽必烈晚年班子的延续，它体现了蒙古族、色目人、汉族统治阶级之间关系的协调，蒙古族汉法派重臣决策，色目人官员理财，汉族官员担任具体的行政职务或参知政事，从而形成了三族官员的联合专政，这是一个有利于多民族国家巩固和发展的班子，也是一个体现了守成政治的班子。
铁穆耳在位时，成功地击败了海都、笃哇的侵扰，迫使察合台和窝阔台两兀鲁思的统治者息兵请和，重振大汗在西方诸汗国中的宗主地位，基本上结束了西面延续四十多年的皇室内争，因此，他在位前期基本上保持了守成的局面。
应当说，伯颜等受忽必烈之托，在错综复杂的情况下，利用献玉玺之机，联合阔阔真等，成功地利用库里台大会把铁穆耳扶上了皇帝的宝座，既有其用谋的一面，更重要的是他控制了枢密院，把握了军权。再加上铁穆耳的声望和才能，最终赢得了他的政敌——哥哥甘麻剌的支持。