忽必烈在至元三十一年（1294年）阴历四月去世。他的庙号“世祖”，蒙文的谥法是“薛禅可汗”，汉文的谥法是“圣德神功文武皇帝”。汗位该由谁继承？一时颇成问题。
元成宗铁穆耳善于守业、循法，在位期间，政治、经济相对稳定。
忽必烈生前，本已模仿汉人，用预立太子的方法来防免君位继承之争。他在至元十年立嫡子真金为太子，不幸这位真金却在至元二十二年先他而亡。
真金留下了三个儿子：甘麻剌，答剌麻八剌，铁穆耳。忽必烈似乎对这三个“皇孙”都很喜欢，一时不能决定以谁来立为“皇太孙”。甘麻剌于至元二十七年受封为梁王，至元二十九年改封为晋王，率兵镇守北边，统领成吉思可汗的四大斡儿朶与“达达”的军、马、国土。答剌麻八剌先后一直被留在真金与忽必烈的身边，于至元二十八年受命出镇怀州（河南沁阳），不曾到达怀州就生了病，回京，在次年春天去世。铁穆耳曾经随从忽必烈讨伐乃颜，其后留在辽东打乃颜的余党哈丹，又其后驻防在金山（阿尔泰山），防备海都。忽必烈在至元三十年六月接受玉昔帖木儿的建议，把当年赐给真金的一颗印，“皇太子宝”，派人送给铁穆耳，用来作为“行军之印”的代替品。
在忽必烈去世时，论声望，论力量，甘麻剌均比铁穆耳占优势。诸王、诸驸马、文武大官，集合在上都举行忽里台大会；大会开了十二天，以甘麻剌的呼声为最高。甘麻剌是“嫡长孙”，甘麻剌已经是王，而铁穆耳不是。
为什么铁穆耳终于当选呢？《新元史》甘麻剌传，说甘麻剌自动让给铁穆耳。《元史》玉昔帖木儿传，说甘麻剌之所以肯让，是因为玉昔帖木儿先劝甘麻剌：“畴昔储闱符玺，既有所归，王为宗盟之长，岂俟而不言？”于是甘麻剌才赶紧说：“皇帝践祚，愿北面事之。”然而，《元史·伯颜传》，却把铁穆耳之所以能够得位，全归于“伯颜握剑立殿陛，陈祖宗宝训，宣扬顾命，述所以立成宗之意，辞色俱厉。诸王股栗，趋殿下，拜。”
伯颜在当时是“知枢密院事”。玉昔帖木儿是御史大夫，主持和林的行枢密院。伯颜与平章政事不忽木，的确曾经于忽必烈病危之时，在忽必烈的榻前。忽必烈有没有对他们“顾命”，难考。他们两人就扶立铁穆耳这一件事上，有了共同的决定，这是很可能的。
值得注意的是：伯颜与不忽木两人不肯让右丞相完泽进去看忽必烈的病，又不肯让真金的妃子阔阔真和他们讨论大位的继承问题。是不是完泽与阔阔真均不赞成以铁穆耳继位呢？然而，在铁穆耳当了皇帝以后，完泽继续担任右丞相到大德七年七月，死在任上，不像是铁穆耳对他存何芥蒂。阔阔真呢，她是甘麻剌的母亲，也是铁穆耳的母亲。她对两个亲生儿子，该不会存有太大的轩轾。（屠寄在《蒙兀儿史记》卷二十八里面说，阔阔真希望立铁穆耳。）
总而言之，铁穆耳之所以得位，主要是由于伯颜的拥戴。其次是由于不忽木与玉昔帖木儿的支持。
伯颜是灭宋的元勋，巴阿邻氏、成吉思可汗功臣阿里黑千户的孙子，因父亲晓古台随旭烈兀西征而生在波斯，长在波斯，受洗为基督徒，回到大都，历任中书左丞相，同知枢密院事，左丞相行省荆湖，左丞相知淮西行枢密院，左丞相领河南等路行中书省事，太尉。于至元十二年七月升“右丞相，领河南等路行中书省事”。灭宋以后，再任同知枢密院事，讨蒙哥可汗的儿子昔里吉，驻扎别失八里（新疆孚远县），又改驻和林，防备海都，由同知而升为“知枢密院事，分院和林”。至元二十九年，奉命改驻大同，以分院的职务交给玉昔帖木儿接管。次年十二月，在大同奉召回京。
玉昔帖木儿，阿鲁剌惕氏，成吉思可汗功臣右手万户孛斡儿出的孙子。他的父亲叫做孛栾台，袭封右手万户，驻扎阿尔泰山。其后玉昔帖木儿再袭右手万户，也驻扎阿尔泰山，于至元十二年受任御史大夫。至元二十四年，他移师东向，与铁穆耳共讨乃颜的余党哈丹。至元二十九年，加“录军国重事，知枢密院事”，接替伯颜在“和林分院”的职务。
铁穆耳于至元三十一年（1294年）四月即位为可汗。次月，拜玉昔帖木儿为太师，仍兼“御史大夫，知枢密院事”；拜伯颜为太傅，仍兼“知枢密院事”，加衔“开府仪同三司，录军国重事”；同时，拜“宣徽使兼知枢密院事”月赤察儿为“太保，录军国重事，依前宣徽使，兼知枢密院事”。
月赤察儿，许兀慎氏，是成吉思可汗功臣孛罗忽勒千户的孙子，父亲叫做失里门。失里门于随从忽必烈南征大理之时阵亡。月赤察儿于十六岁以后在忽必烈身边先后当怯薛（侍卫），保兀儿臣（厨子），宣徽使兼领尚膳院、光禄寺，以告发桑哥及助浚通惠河立了大功，在至元三十年受任“兼知枢密院事”。此次得拜为太保，大概是由于位居忽必烈的近侍，帮助了伯颜与不忽木接受“顾命”。
太师、太傅、太保，是所谓三公。自从窝阔台可汗以来，并没有全设：直至世祖忽必烈至元元年为止，仅仅有过太傅。从至元二年到十一年，不设太傅而改设太保。再其后，有十五个年头，连太保也没有。到了至元二十六年，才又设太傅，而享有此项荣衔的是玉昔帖木儿。
成宗铁穆耳升拜玉昔帖木儿为太师，又以伯颜与月赤察儿为太傅、太保，无非是酬庸他们的“定策”之功。
伯颜去世于至元三十一年十二月（铁穆耳即位以后八个月），玉昔帖木儿去世于（次年）元贞元年十二月。于是三公只剩下太保月赤察儿一人。过了四年半，在大德四年六月，月赤察儿升任太师，完泽以“右丞相”加了太傅的头衔。完泽在大德七年去世，太傅又虚悬了四个年头，到大德十一年五月才补了一位朵儿朵哈。同时，补进哈剌哈孙。
此后，迄于元顺帝丧失大都，三太的位置在大体上都有人占着，只有在仁宗皇庆五年，与至正八年至十一年，二十四年，二十八年至二十九年，没有太师；在“后至元”四年、五年与至正十二年至十三年、二十四年没有太傅。
三太只是虚衔，并无实权，甚至是“尊而不亲”的一种地位。
铁穆耳的中书右丞相，前后为完泽与哈剌哈孙二人。
完泽，秃别干氏。祖父土薛在成吉思可汗之时位居裨将，在窝阔台可汗之时位居都元帅。父线真在世祖忽必烈可汗之时，官至中书右丞相。完泽本人，先作太子真金的右詹事，于至元二十八年二月作忽必烈的尚书右丞相；五月，改中书右丞相。铁穆耳即位以后，仍叫他作中书右丞相，直至大德七年五月，他死在任上。此人为政，尚识大体；虽则与中书平章政事不忽木处得不好，把不忽木挤到陕西作行省的平章政事，颇有妒贤的嫌疑。他的另一件被人批评的事，是支持刘深对“八百媳妇”用兵。
哈剌哈孙，斡罗纳儿氏，是成吉思可汗的千户乞失里黑的曾孙。祖父博理察，于窝阔台可汗之时，跟随拖雷对金作战。父亲囊加台，于蒙哥可汗之时，参加对宋作战，阵亡在四川。哈剌哈孙本人，于世祖忽必烈可汗至元二十二年受任为大宗正（“也客·札鲁忽赤”，大断事官）；于至元二十八年改任湖广行省平章政事。铁穆耳即位以后，他在大德三年正月升任中书左丞相。这时候，中书省已经有十三年不曾设左丞相了。大德七年五月，完泽去世；七月，哈剌哈孙转任中书右丞相。他生平不识汉字，却很崇拜孔子，提倡读儒书，为政也颇有儒家风度：反对打“八百媳妇”，主张慎选地方官吏，严惩贪污。
铁穆耳是一个不太好也不太坏的中等皇帝。他喜欢喝酒，花钱摆阔，袒护倖臣（阿里）；却也留心到人民的疾苦，对兵灾、水灾、旱灾与地震的地区舍得免税、减税、放赈；对母亲很孝顺，对乳母很有恩，对哥哥与叔父、侄儿，很有礼貌，对迁入内地的蒙古人与色目人均很体恤。
在铁穆耳的时候，海都死，笃哇降，西北方的威胁已经消失。南方汉人的反抗也入于尾声。他大可把国家治得比忽必烈时候更好，然而能力不够，见解不够。平心而论，一般人民却也获得了休养生息的机会，虽则是西南边省由于对“八百媳妇”之战而大受创伤。
财政方面，也勉强过得去。大德二年（1298年）二月，完泽向他报告：岁入金一万九千两，银六万两，钞三百六十万锭（每锭票面价值五十两）。岁出超过岁入的数目，是银二十万锭，也就是一千万两。这数目在当时不能算小。好在，中央与行省的“钞母库”尚有相当的现银储存，可以放胆再印制一些纸钞。通货早已膨胀，至元钞的实际价值在开始发行之时便已经降成中统钞的五分之一。再略为膨胀一点，还不至于到恶性的程度。
况且，自从至元二十二年忽必烈叫朱清张瑄试行海运以来，一向很成功。有了海运，江南的漕粮颇可作为中央财政的挹注。（朱张二人是海盗出身，封了万户，官至行省参政，生活奢侈，于大德七年被和尚石祖进诬告谋反。朱清自杀，张瑄被斩。这时候铁穆耳已经长年卧病，政务全由皇后巴牙兀氏主持。）