元朝的所谓行省，便是中书省或尚书省的“行署”，与明清两代的所谓行省，迥不相同。明清两代的行省，区域的性质很重，虽则在理论上行省的长官也是“中央官”，亦即暂时驻在地方上的中央官，而不是纯粹的地方官。
行省的规模，仿自中央的中书省或尚书省（都省），有右丞相或左丞相，虽则在元朝初年事实上是由都省的右丞相或左丞相，带了都省的官衔到“行省”去领导一切；元朝中叶不在行省设丞相，只有到末年才又如此。行省的真正主持人，是“平章政事”。平章政事之下有右丞、左丞与知政事。这些人，在都省的都被称为“宰相”。宰相这个名字在其他的朝代之中，和“丞相”二字同义。惟有在元朝，宰相是范围比丞相较广的名词。在宰相之中，只有右丞相与左丞相才是丞相。行省的右左丞相，当然仍是丞相，亦即地位最高的宰相，在名义上与中央的几位宰相地位相等，不过事实上当然要比都省丞相的权力低。至于行省的平章政事等等，也是如此。
成吉思可汗在蒙古帝国自身还没有“都省”以前，便已于1214年，亦即取得中都（燕京）以前的一年，设置了一个行尚书省在宣平，用以统治“山后”（长城以北）的降民。主持这宣平行尚书省的，是撒木合·把阿秃儿。
次年，成吉思可汗取得中都，立即设置中都行尚书省，以耶律阿海为“太师、行中都省事”。不久，耶律阿海跟随成吉思可汗西征，一度充任薛米思坚（撒马儿干）的留守，其后作了花剌子模旧壤与今日新疆南部莎车、疏附、库车等地的“都达鲁花赤”（民政最高长官）。
“行中都省事”的位置，在耶律阿海走后，交给了石抹明安的儿子，石抹咸得不。此人充任“燕京行省”，是在丙子年乃父去世之时，亦即蒙古军取得燕京的次一年。
在石抹咸得不之上，有木华黎。木华黎的官衔很长，其中有“都行省”三个字。所谓“都行省”，好比“都达鲁花赤”，是长城以南一切“行尚书省事”的人的长官。
木华黎而且可以用“承制”的方式（受权奉行皇帝意旨），随时委派任何人为任何地方的“行尚书省事”（简称“行省”）。例如，严实之先作不附地名的“行尚书省事”，其后又作“权山东西路行省”，便是由木华黎任命的。
木华黎死后，他的儿子“嗣国王”孛鲁在丁亥年（1227年）也“承制”发表了李全为“山东淮南行省”。
窝阔台可汗于庚寅年（1230年）接受耶律楚材的建议，在燕京、宣德、西京（大同）等十个都会成立“十路课税所”。这些课税所，虽无行省之名，倒很像明清两代的“布政使司”。
次年，辛卯年，中书省在阴历八月间成立。似乎耶律楚材一时并不热心于在各地设立行中书省。原有的各地“行尚书省”，并未因中书省之成立而一概改称“行中书省”。
可考的新的“行省”长官，一个是孛罗忽勒的儿子塔察儿。此人是“行省、兵马都元帅”，会同了宋朝的孟珙打下金朝的蔡州（汝南）。另一个是刘敏，于窝阔台在位的最后一年（第十三年，1241年），受任“行尚书省”于燕京。
刘敏的前任的前任，是石抹明安的儿子，石抹咸得不。这位咸得不，于丙子年（1216年，取得中都的次一年）袭了父亲的封爵与官职，作“国公、太保、兼管蒙兀汉军兵马都元帅”。除此之外，添上“金紫光禄大夫、燕京行省”的头衔。
石抹咸得不远不如他的父亲。他不仅贪污，而且暴虐。戊子年（1228年）监国拖雷派了塔察儿与耶律楚材两人到燕京来查办他。不久以后，他就丢官，由他的弟弟石抹忽都华接任。再其后，到了1241年，石抹忽都华不知为了何事也丢了官（可能是病死），于是刘敏便被派来，作“行尚书省”。
刘敏是宣德人，自幼被蒙古军官收养，其后作了成吉思可汗的宿卫，学会了蒙古话与各部落的方言，其后随成吉思可汗西征，于木华黎死后奉派回中国，充任燕京的安抚使，颇受耶律楚材的赏识。
中央的“都省”叫做“中书省”，而燕京的行省，却沿袭金朝的旧名称，称为“行尚书省”。这在今天的我们看来，似乎是很不一贯，“说不过去”的事。当时的人，却认为这是无关宏旨的“小不合理”。
燕京的行尚书省，在刘敏受任不久以后，窝阔台可汗加派牙剌洼赤来共理行省之事。牙剌洼赤与刘敏争权，被乃马真（乃蛮氏）皇后换了，改派奥都剌合蛮来作刘敏的同事。“定宗”贵由可汗即位，杀了奥都剌合蛮，又派牙剌洼赤来。刘敏勉强继续干了八年，请求辞职，以儿子刘世亨继任，获准。这时候，已经是甲寅年，宪宗蒙哥可汗在位的第四年了。
刘世亨干到哪一年，无考。可能是干到了世祖忽必烈可汗即位以后。忽必烈一向对刘敏颇好，刘敏死在己未年，亦即忽必烈即位以前的一年。
忽必烈可汗在中统元年四月所设立的“中书省”，称为“行中书省”，却并未冠以“燕京”二字。这个“行中书省”的主官，是平章政事王文统。
三个月以后，中统元年七月，忽必烈可汗又叫“燕京路宣慰使”祃祃“行中书省事”。同时也任命了赵璧为平章政事。
《元史》、《新元史》、《蒙兀儿史记》，都不谋而合地以为这两个“行中书省”是一个。其实，它们是两个。四月间所设立的“行中书省”是管理全国的，只是名义上为了和林尚在阿里不哥之手、暂时称为“行中书省”，而不直截了当称为“中书省”。七月间所设立的一个，是管理燕京一路的“行中书省”，虽则衙门的所在也是燕京。
伯颜深谋善断，甚得忽必烈赏识，官至中书左丞相。（图选自清末《历代名臣像解》）
由于把两个行中书省混为一谈，《元史》与《新元史》的宰相年表便“大胆假设”，祃祃为“右丞相”，同时也把赵璧和王文统放在一起。《蒙兀儿史记》的“宰相表”于依样画葫芦之余，“心有未安”，加上几个字的小注：“无丞相之称，但行六部首领而已。”
祃祃这个人，倘若是忽必烈的第一任右丞相，不该在《元史》中无传，也不该在次年三月“罢为燕京路宣慰使”（《新元史》）。其实他本来就是燕京路宣慰使，在兼了燕京行中书省的主官以后，仍旧是燕京路宣慰使。
《蒙兀儿史记》把次年三月，改为次年五月，把“罢为”改为“仍出为”较之《新元史》确是略高一筹。事实是：次年五月，忽必烈可汗把全国性的行中书省，正式改称为“中书省”，同时也把“燕京路的行中书省”取消。于是祃祃便“罢”为燕京路宣慰使，或“仍出为”燕京路宣慰使了。所谓罢，是罢的“行燕京路中书省事”；所谓“仍出为”是“仍为”，无所谓“出”，根本不曾“入”。
除了这昙花一现的燕京路行省以外，忽必烈也设了若干别的临时性的行省。例如为了奖赏刘整之叛宋，而叫刘整“行夔府路中书省事”。这夔府路行省到不了一年，便由于刘整之改任“行成都潼川路中书省事”，无疾而终。
伯颜伐宋，所带的头衔是“行省荆湖”（在荆湖一带代办中书省的政务，用现代的术语来说，是“行政院两湖办事处处长”）。其后，伯颜打到哪里，“荆湖行省”便跟着他到了哪里。伯颜运气好，打得超过了荆湖的地界。在打到建康之时，便把他的“行省”搬进了建康去。当时的官方文书，也就不再称他的行省为“荆湖行省”，而简称之为“行省”，不附地名。或是称它为“军前行省”。
伯颜的军前行省，到了宋恭帝投降、临安（杭州）易手之时，功德圆满。伯颜回京（大都），受任为“同知枢密院事”。行省的事务，交给了两个参知政事，阿剌罕与董文炳，留在临安处理。
五个月以后，至元十三年（1276年）六月，忽必烈创设两个新的行省，一个在临安，一个在鄂州（武昌），作为伯颜的所谓荆湖行省，亦即军前行省的继承者。临安的行省，其后发展为“江浙行省”，鄂州的行省，其后发展为湖广行省。
为了对付张世杰与文天祥，忽必烈又先后设立了所谓福州行省、赣州行省、泉州行省。这些行省衙门，一方面是“前进指挥站”，一方面是牢笼投机分子的工具，用行省的大小官职去诱降他们、监视他们。
张世杰与文天祥于至元十六年（1279年）二月及十月先后被解决，忽必烈便在至元十七年把赣州行省与泉州行省均并入江西行省。福州的行省改称福建行省。三年以后，泉州行省被抽出江西，划给福建。又过了两年，至元二十二年，整个的福建又被并入江西。忽必烈觉得仍旧有些不妥，到了次年又把福建改划进“江浙行省”。
此外，征东行省，征交趾行省，缅中行省，都是赤裸裸的军事机构。征东行省在至元十七年八月创设，为的是一雪至元十一年以一万五千兵吞并日本不成之耻；然而这征东行省虽则是动员了十万人以上，仍旧达不到吞并日本的目的，于是在次年十二月被废去。两年以后，二十年正月，忽必烈又想打日本，把这征东行省恢复起来，恢复了两年又七个月，在二十三年正月再度取消；全国上下白忙了一阵，原定于二十三年八月出兵的计划胎死腹中。
成宗铁穆耳可汗在大德三年（1299年）五月，又把征东行省恢复。这一次，倒不是为了征服日本，而是为了镇压高丽。前两次设立征东行省，高丽的国王王暙一直是征东行省的两个左丞相之一。这一次，由于高丽国王王昛“不能镇服其众”，征东行省便不再设左丞相，而只设一个平章政事，以阔里吉思充任。不料这位阔里吉思并无镇压高丽人民的能力，成宗铁穆耳可汗一时又找不到比他适当的人选，于是就在大德五年十二月把征东行省作第三度的取消。
最后，在英宗硕德八剌可汗的至治元年（1321年），征东行省又被恢复。原因是，高丽王王焘在正月间来朝，为了笼络他而任命他为“征东行省”的左丞相。此后，直至元朝结束，征东行省未废，然而只是为了送给高丽的历任国王一个“征东行省左丞相”的虚衔而已。征东行省的所有官吏，统由高丽国王自选。行省衙门设在沈阳。
征东行省以外，有“占城行省”、“缅中行省”、及“安南行省”，其性质也是纯粹属于军事性的。占城行省设于至元十八年十月，于至元二十年九月并入湖广行省。缅中行省与“安南行省”均设于至元二十三年二月。缅中行省在至元二十七年结束。可能是在成宗大德四年八月或其以后。安南行省在至元二十四年正月，改为“征交趾行省”，于两年以后结束。到了至元三十年八月，忽必烈却又听了中书省的某一位平章政事的话，设立所谓“湖广安南分省”。这个分省，大概是在至元三十一年五月，成宗即位以后，被取消。
忽必烈派人征日本，征占城，征缅甸，征安南，没一次不失败。他在至元二十九年派人征爪哇，也是失败的，却并未设立什么爪哇行省或“征爪哇行省”，只是轻描淡写地任命亦黑迷失、史弼、高兴三个人作“福建行省平章政事”。
为了想征服琉球，成宗在大德元年二月特地把福建省改为“福建平海行省”，移省治于泉州。改了以后，刚满两年，不仅不再想“平海”，而且把整个福建行省也取消了，改设一个都元帅府与宣慰司于福建。
新旧元史百官志之中的十一个行省，除了征东行省的一设再设、与又设的经过，我已经详细说了以外，其余的十个行省也是常有变动。简言之，仅仅举“陕西等处”一个行省为例：
宪宗蒙哥可汗曾经派阿蓝答儿与刘太平“行尚书省事于京兆”，为的是稽查忽必烈及其部下在陕西河南经收的钱谷（据屠寄的世祖本纪。新旧《元史》的世祖本纪，只说这两人奉命至京兆钩考财赋）。
世祖忽必烈可汗在中统元年设立“秦蜀五路四川行中书省”；中统二年改为“陕西四川行中书省”；至元八年，把陕西部分的京兆等路改为中央直属，四川部分单独设省；九年，京兆等路还是设省，称为“京兆等路行中书省”；十六年，四川行省被取消；十七年，改京兆等路行省为“陕西四川行省”；到了十八年，又把四川分出去，二十一年，再把四川并回来；最后在二十三年，还是把四川分出去。从此，陕西单独成为一个行省，以至于元朝结束为止。它的正式名称，是“陕西等处”四个字而不是“陕西”两个字的“行中书省”。
其他九个行省，确定了名称与辖区而迄于惠宗即位不再更改的年代是：四川，成宗大德七年。甘肃，成宗元贞元年。河南江北，至元二十八年。湖广，成宗大德七年。云南，成宗大德七年。江浙，至元二十八年。江西，至元二十三年。辽阳，至元二十四年。岭北，仁宗皇庆元年。
惠宗妥懽帖睦尔可汗于即位以后，为了应付风起云涌的反元的汉人，在行省的划分上颇多更张。他在至正十二年闰五月割出原属河南江北行省的若干地区，设立“淮东江北行中书省”，以扬州为首府。同年十月，又在扬州设了一个“行枢密院”。他又于某一年设立了山东分省，在至正十七年正月叫这分省招募“义兵”，对反元的汉人作战。到了至正二十三年，亦即他丢掉大都的前五年，他并且增设了广西与胶东两个行省。这些设施，总而言之，不过是元朝行省制度的尾声而已。