朱元璋总结了长时期治理国家的实际经验，和元朝统抬九十年的成败教训，经过研究、争论，多次改革，特别是经过残酷的统治阶级内部斗争，逐步建立了统治全国的官僚机构，使之更加集中，更有威权，更加完备起来。
洪武一朝，中央集权制度的加强，是阶级斗争的结果。
大明皇朝的版图广大，必须建立一套有效率的如臂使指的高度中央集权的中央和地方政府机构，才能真正做到统一、集中，才能做到对内镇压、对外保卫国土的强有力的职能。历史发展的趋势和当时客观情况，迫使朱元璋不能不着手进行大刀阔斧的改革。
先说地方机构：元代的行中书省是从大都的中书省分设出去的，中书省有什么官，行中书省也有什么官。中书省统管军政、民政、财政，行中书省也照样管军政、民政、财政，职权过重。到后期四处兵起，地方各自为战，往往大小事都自作主张，元皇朝不能过问，造成地方跋扈，分权，皇朝指挥不灵，调度不动，枝强干弱，割据分裂的局面。朱元璋自己就是从宋的行中书省丞相起家的，他做的什么事从来也没有得到过小明王的批准，一个行中书省实际上是一个独立王国。当他做平章、做丞相的时候，权力愈大愈好，龙凤皇帝的牵制愈少愈好，甚至到了羽毛丰满的时候，除了用龙凤的年号以外，根本不把小明王的朝廷看在眼里。现在情况倒转过来了，自己做了皇帝，处在元顺帝、小明王的地位了，矛盾发生了。是地方分权呢？还是中央集权呢？是让各行中书省都像他自己当年那样闹独立呢？还是把一切主要权力都抓在自己手上，紧紧控制地方，要他们奉命唯谨呢？这是一个极为严重的问题，必须妥善解决。
小明王的统治制度是因袭元朝的，元朝朝廷和地方有什么机构，他也照样设立。朱元璋以战功升到江南行中书省丞相，在开拓领土以后，设官分职，也只能继承这个制度。一直到洪武九年，他越来越觉得地方权重的毛病。这些年来，一方面忙于打仗，一方面正研究如何改革，到洪武九年考虑成熟了，决定把所有大权都集中在朝廷，改行中书省为承宣布政使司，设左右布政使各一人。布政使是皇朝派驻地方的使臣，掌一省之政，主要是管财政和民政。皇朝规定政策、法令，办事程序、临时任务，通过布政使下达各府、州、县地方官执行。全国分浙江、江西、福建、北平、广西、四川、山东、广东、河南、陕西、湖广、山西十二布政使司，十五年增设云南布政使司。[50]布政使司的地理分区，大体上继承元朝的行中书省，布政使的职权却只管财政和民政，和元朝行中书省的无所不统，轻重大不相同了。由于行中书省这一名词已经叫惯了，虽然改成布政使司，朝廷和民间在口头上还是叫作行省，简称为省。而且就地位论，行中书省是从皇朝中书省的机构分设于地方，是中书省的分出机关，体制很重。布政使则是皇朝派驻地方的使臣，事事都须秉承朝廷意旨。前者是中央分权于地方，后者则是地方集权于中央，性质起了根本的变化。此外，各布政使司掌管法庭、监狱的机构，设提刑按察使司，长官为按察使，主管一省刑名按察之事。布按二司和掌军政的都指挥使司合称三司，是皇朝派遣到地方的三个派出机关。这样，民政、税收、法庭，常备军三个管理机关分别独立，不相统辖，直接由朝廷指挥，达到收回大权的目的，达到集中、强化皇朝权力的目的，也便于这三个机构互相牵制，便于垂直统治。布政使之下的地方政府分两级。第一级是府，长官为知府；有直隶州，即直隶于布政使司的州，长官是知州，其地位等于知府。第二级是县，长官是知县；有州，长官是知州，其地位与知县同。州县是直接管理人民的政治机构，所谓“亲民之官”，这个改革也把元朝的路、府、州、县的三级制简化了，政令的下达减少了层次，指挥更方便，也更灵活了。[51]
朝廷统治机构的改革稍晚于地方。地方的民政、财政、法庭、监狱、常备军的控制指挥权都集中到中书省了，中书省的职权愈重，威权愈大，和皇帝的冲突、矛盾也就日益严重、尖锐，愈益不可调和。洪武十三年政治危机爆发，皇帝和丞相争权的结果，朱元璋直接控制着禁军和特务机构，消灭和打击了和他争夺领导权的淮西新地主集团、丞相胡惟庸和许多元勋宿将被杀。[52]朱元璋趁此取消中书省，表面上仿周官六卿之制，提高原来在中书省之下六部的地位，以六部治国：吏部、户部、札部、兵部、刑部、工部，每部设尚书一人，侍郎（分左右）二人。吏部管全国官吏任命、考绩、升降、惩处，户部管农业税、商税、盐税和人力征调，礼部管典礼、宗教、祭祀、教育、考试和外交，兵部管常备军军官的任免和军令；刑部管法律、法庭和监狱，工部管工程造作（武器、货币、土木营建等）、水利、交通等。都直接对皇帝负责，奉行皇帝的意旨。丞相没有了，朱元璋以皇帝兼行丞相的职权，中央集权发展到最高峰，朱元璋成为历史上权力最大的君主。
军事机关也最费脑筋，关键是军队和统帅的关系问题。要打仗必须任命统帅，总不能每次战争都由皇帝自己统率。但是任命了统帅，统率了大军，在战事结束以后，如何收回这个统帅权呢？不收回，将帅有固定的直属的大军，一旦有变故，他的统治是不牢靠的。要收回，采取什么方法？谢再兴之投敌，就是因为他临阵易帅的缘故，记忆犹新，这个覆辙决不可重蹈。以此，朱元璋把元朝的枢密院改为大都督府，节制中外诸军事，任命兄子朱文正和可靠将领做都督。过了些时候，还是觉得大都督府权重了，洪武十三年分大都督府为中、左、右、前、后五军都督府。一分为五，每府以左右都督为长官，各领所属都指挥使司和卫所，职权和兵部互相配合，也互相牵制。兵部有军令、铨选军官之权，却不能指挥军队。都督府虽管军籍、军政，却不直接统率军队。在有战事时，皇帝做了决定，兵部颁发调兵命令，都督府长官才奉令出为将军总兵官，带领所调集的军队，指挥作战。在军中还有皇帝所派的御史或给事中监军（后来又加派监军的太监），直接向皇帝送递军中情报。到战事结束，这个统帅就应该交还将印，回到原职办事。所调集的军队也立即归还原来卫所建制。[53]
光是这两个系统的政、军管理机关还不够，如何能保证这些机构的官员都忠心、尽职，完善地执行皇帝命令呢？还得另外有一套监察机构。
监察机关原来是元朝的御史台，洪武十五年改为都察院，长官是左右都御史，左右副都御史、左右佥都御史。下有监察御史一百十人，按照布政使司的设置，以一布政使司所辖地区为一道，分掌十三道。职权是纠劾百司，辨明冤枉。凡大臣奸邪，小人构党作威福乱政，百官猥茸贪污舞弊，“学术不正”，和变乱祖宗制度的都可随时举发弹劾。监察御史是七品官，品级和列任的知县一样，但是很有权力。皇帝利用他们来箝制大官，以小制大，以内制外，赋予他们以什么话都可以说、什么意见都可以提、什么大官以至王公都可以告发的权力。这衙门的官员被皇帝看作是耳目，替皇帝听，替皇帝看，随时向皇帝报告。也被皇帝看作是鹰犬，替皇帝追踪、搏击不忠于皇朝的官民，一句话是替皇帝监视官僚的机关，是替皇帝保持传统思想、纲纪的机关。监察御史在朝监察一切官僚机构；出使到地方的，有巡按、清军、提督学校、巡盐、茶马、监军等职务，其中巡按御史算是代替皇帝巡查地方，按临所部，小事立断，大事奏裁，是最有威权的一个差使。
行政、军事、监察三个机关分别独立，不相统属，都单独对皇帝负责。官吏内外互用、交流，其地位以品级规定，自从九品到正一品，共九品十八级，官和品一致，内外官升迁、考绩、调免都有一定制度，系统分明，职权清楚，法令详密，组织严紧，定员定额，有条不紊，比之唐宋时代的官和职不相符，职权又有行、守、试等区分的混乱情况，大大提高了一步。在整个官僚机构中，又互相箝制，以监察机关监视一切臣僚，以特务组织镇压威制一切官民，以六部管政事，以都督府管军，大将平时不指挥军队，动员复员之权属于兵部，供应粮秣的是户部，供给武器的是工部，决定政策的是皇帝。把所有权力都集中在皇帝手上，六部、府、院直接隶属于皇帝，不但官僚机构更加完备了，效率提高了，皇帝的威权也大大提高了，发展了。同时，全国统一的基础也比过去时代更加牢固了，坚强了，扩大了。在整个历史发展来说，从统一国家的逐步巩固来说，这是一个不可低估的进步。在这个进步的过程中，朱元璋是起了积极作用的。
法律是确定阶级压迫关系的书面文件，确定统治阶级的特权和强加于被统治阶级种种约束的纪录，保护、巩固统治阶级和镇压被统治阶级的具体条文。元朝以法例为条格，非常繁冗，而且，阶级关系和民族关系到了明代都已起了巨大的变化，旧条格不能适应新时代的客观形势要求了。为了运用法律达到保护和镇压的目的，巩固皇朝的统治，朱元璋于吴元年指令台、省官立法要简要严，选用深通法律的学者，编定律令。经过缜密的研究、商讨，在三十年内，更改、删定了四五次，编成《大明律》。条例简于《唐律》，精神严于《宋律》，是中国法律史上极重要的一部法典。编成后，他又叫人把这部法典里和人民生活有关部分用口语译出，叫作“直解”，分发给各府、县，目的是让老百姓都能懂，都遵守他的法令，立纲陈纪，达到阶级统治的目的。[54]
历史的教训使朱元璋深切明白宦官和外戚对于政治的祸害。他以为汉朝、唐朝的祸乱都是宦官作的孽。这种人在宫廷里是少不了的，但只能做奴隶使唤，洒扫奔走，人数不可过多，也不可用做心腹耳目：做心腹，心腹病；做耳目，耳目坏。驾驭的办法，要使之守法，守法就做不了坏事；不要让他们有功劳，一有功劳就难于管束了。他立下规矩，凡是内臣（宦官）都不许读书识字。又铸铁牌立在宫门，上面刻着：“内臣不得干预政事，犯者斩。”不许内臣兼外朝的文武职衔，不许穿外朝官员的服装，做内廷官品级不许过四品，每月领一石米，穿衣吃饭公家管。并且，外朝各衙门不许和内官监有公文往来。这几条规定条条对着历史上所曾经发生过的弊端，使宦官名副其实地做宫廷的仆役。[55]对外戚干政的预防措施是不许后妃参与政事。洪武元年三月即命儒臣修《女诫》，纂集古代贤德妇女和后妃的故事，来教育宫人。规定皇后只能管宫中嫔妇之事，宫门之外不得干预。宫人不许和外边通信，犯者处死。外朝臣僚命妇按例于每月初一、十五朝见皇后，其他时间，没有特殊缘由，不许进宫。皇帝不接见外朝命妇。皇族婚姻选配良家子女，有私进女口的不许接受。元璋的母族和妻族都绝后，没有外家。后代子孙也都遵守祖训，后妃必选自民家。外戚只给以高爵厚禄，做大地主，不许预闻政事。[56]在洪武一朝三十多年中，宦官小心守法，宫廷和外朝隔绝，和过去的历史朝代相比，算是家法最严的了。
其次，元朝以吏治国，法令极为繁冗，档案堆积如山，吏员从中舞弊，无法追究。而且，正因为公文条例过于琐细，办公文办公事成为专门技术。各衙门的掌印官（长官）有一定任期，刚懂得一点又调职了，而吏则一般是终身职业。结果治国治民的都是吏，不是官了。小吏唯利是图，不顾封建统治阶级的利害，政治——其实是吏治就愈闹愈糟，吏治损害了官僚地主集团的利益，危害了蒙汉统治阶级的利益。朱元璋于洪武十二年立“案牍减烦式”颁发各衙门，简化了公文，使公文明白好懂，文吏无法舞弊弄权。从此吏员在政治上被斥为杂流，不能做官。官和吏完全分开，吏只能管事务性技术性的工作，官则主持政令，和元代的情形也大不相同了。[57]
和简化公文相关联的还有文章格式的问题。唐、宋以来的政府文字，从上而下的制诰，从下而上的表奏，照习惯都用骈俪四六文体，华而不实。尽管有多少文人主张复古，提倡改革，所谓古文运动，在民间是成功了，政府却没有动，还是老一套。同一时代用的是两种文字，政府是骈偶文，民间是散文。朱元璋很不以为然，以为古人作文章，讲道理，说世务，和经典上的话，都明白好懂。像诸葛亮的《出师表》，又何尝雕琢文字，立意做文章？可是有内容，有感情，有肉有血，到如今读了还使人感动，想念他的忠心耿耿。近来的文士做文章，文字虽然艰深，意思却很浅近，即使写得和司马相如、扬雄一样好，人家读了不懂，又有什么用！以此，他要秘书（翰林）作文字，只要能够说明白道理，讲得通世务就行，不许用浮辞藻饰。[58]他又批评群臣所进笺文：“颂美之辞过多，规戒之言未见，殊非古者君臣相告以诚刁直。今后笺文只令文章平实，勿以虚辞为美也。[59]对臣下一味歌功颂德，不提规戒意见，加以申斥。到洪武六年，索性下令禁止政府文字用对偶四六文体，并选唐柳宗元代柳公绰所作《谢表》和韩愈的《贺雨表》作为笺表法式。[60]这一改革使政府文字简单、明白，把庙堂和民间打通，现代人用现代文字写作，对当时文风和文学作品的影响很大。
朱元璋不但提倡古文，反对骈偶文字，还提倡用口语写成文字，叫作“直解’，用这种方式对各阶层人民进行教育工作。龙凤十二年命儒士熊鼎、朱梦炎修《公子书》和《务农技艺商贾书》。《公子书》是给公卿贵人子弟读的，这些公子们虽然读书的机会较多，但一般还不能通晓比较深奥的道理，不如编集古代忠良奸恶事实，用通俗话直解，使读者易读易懂，将来即使学业无成就，知道了古人如何立身行事，也有好处。同样，民间农工商贾子弟，也把他们应该知道的业务知识，用直辞解说，编成书本，用以化民成俗，便于统治。书印成后，颁行全国。[61]
唐、宋两代还有一样坏风气，皇朝任命宫员的命令发表以后，被任用的官员照例要上辞官表，一而再，再而三，甚至辞让到六七次，皇帝也照例不许，用文字一劝再劝，直到这人上任才罢休。辞的劝的都在玩文字游戏，费时误事，浪费纸墨，还养成虚伪不诚实的风气。朱元璋认为这样做作毫无道理，也下令废止了。
唐、宋以来，皇帝上朝照例用女乐，吴元年六月也废止了。[62]
[1]《明太祖实录》卷二十四。
[2]刘仲璟《遇恩录》。
[3]《明太祖实录》。
[4]赵翼《二十二史札记》卷二十九《元建国始用文义》。朱国祯《涌幢小品》卷二：“国号加大，始于胡元。我朝因之，盖返左祍之旧，自合如此，且以别于小明王也。其言大汉、大唐、大宋者，乃外夷及臣子尊称之词。”
[5]孙宜《大明初略》四：“国号大明。承林儿小明号也。”祝允明《野记》卷一。
[6]袁义新《凤阳新书》卷一《太祖本纪》：“本姓朱，本祝融。祝融，帝颛顼子，为帝喾火正，有大勋于天下，故别为祝融。在国臣（柯）仲炯言：‘……太祖定鼎金陵，则祝融之故墟也。……故建国号大明，其有祖也。夫祝融大明，容光必照。……所以我太祖以大明建国，亦以大明光天，中天下而立，定四海之民，所重民历，以示三纲五常，以昭日用，以引趋光而避凶，此皇明治天下，潜移默化之大旨，所以四海来朝，亦以是赐之耳。知此道者，其可以语我太祖取号大明之秘义乎？故汉德若水，我皇明其德如日月之代明，汉得地道，我皇明得天道，三统之义，皇明统于天矣。’”
[7]吴晗《读史札记》《明教与明朝》。
[8]《昭代王章》，《明律》十一礼一，王世贞《名卿绩纪》卷三《李善长传》：“洪武元年，高帝幸汴还。……又请禁淫祀白莲社、明尊教、白云巫觋，抉鸯祷圣书符咒水邪术，诏可。”
[9]宋濂《艺园续集》四《故岐宁卫经历熊府君墓铭》，何乔远《闽书》七《方域志》。
[11]明太祖《大诰三编》《造言好乱第十二》。
[12]《明成祖实录》卷九十，沈德符《野获编》卷三十《再僭龙凤年号》。
[13]均见《明太祖实录》。
[14]《明成祖实录》卷五十六、九十六、二百。
[15]《明史》卷一百二十四《把匝剌瓦尔密传》，卷一百二十六《沐英传》，卷一百二十九《傅友德传》，卷一百三十二《蓝玉传》。
[16]张《云南机务抄黄》洪武十五年闰二月二十五日敕。
[17]《明史》卷一百二十九《冯胜传》，卷一百三十二《蓝玉传》，《国初群雄事略争》卷十一《海西侯纳哈出》。
[18]《明史》《兵志》三，严从简《殊域周咨录》卷十七《鞑靼》，方孔炤《全边略记》卷三，黄道周《博物典汇》卷十九。
[19]孟森《清朝前记》，《明元清系通纪》。
[20]《北平图书馆馆刊》四卷六期内藤虎次郎《明奴儿干永宁寺碑考》。
[21]《皇明祖训》《箴戒章》。
[22]《清华学报》十一卷一期昊晗《十六世纪前之中国与南洋》。
[23]以上均见《明太祖实录争》。
[24]《明史》《土司传》。
[25]《明史》《西域传》。
[26]《明太祖实录》卷一百九十九、卷二百零二，《明史》卷一百三十八《周祯传》，卷一百四十《道同传》。
[27]《明太祖实录》卷七十一、卷一百九十。
[28]《明太祖实录》卷五十。《明成祖实录》卷三十三。
[29]《明律》六《户律》。
[30]《明太祖实录》卷三十。
[31]《明史》《太祖本纪》。
[32]《明史》卷一百三十六《陶安传》。
[33]《明史》卷一百二十九《冯胜传》，孙承泽《春明梦余录》卷一。
[34]《明史》卷一百三十五《叶兑传》。
[35]丘浚《大学衍义补都邑之建》。
[36]《国初事迹》。
[37]黄光昇《昭代典则》。
[38]《明史》《太祖本纪》二，卷一百二十八《刘基传》。
[39]《明史地理志》一。
[40]《明史》卷一百一十五《兴宗孝康皇帝传》，卷一百四十七《胡广传》，姜清《姜氏秘史》卷一，郑晓《今言》二百七十四。
[41]顾炎武《天下郡国利病书》卷十三《江南一》。
[42]《明史》《太祖本纪》二。
[43]何乔远《名山藏》《分藩记》一。
[44]《明史》《兵志》二卫所，《诸王传序》。
[45]《明史》卷一百一十七《宁王传》。
[46]《明史》《太祖本纪》：“洪武十年正月辛卯，以羽林等卫军益秦、晋、燕三府护卫。”
[47]《皇明祖训》《兵卫章》。
[48]《明史》《兵志》三《边防》，祝允明《九朝野记》一。
[49]《明史》卷一百一十六《晋王木冈传》，《太祖本纪》三：“洪武二十六年三月，诏二王军务大者始以闻。”
[50]明成祖永乐元年（公元1403年）以北平布政使司为北京。十一年置贵州布政使司。明宣宗宣德三年（公元1428年），除南京、北京两京外，定为十三布政使司。
[51]《明史》《职官志》。
[52]《明史》卷三百零八《胡惟庸传》，《燕京学报》十五期吴晗《胡惟庸党案考》。
[53]宋濂《洪武圣政记肃军政》第四。
[54]《明史》卷九十三《刑法志》一。
[55]《明史》卷七十四《职官志》《宦官》。
[56]《明史》卷一百零八《外戚恩泽侯表序》，卷一百一十三《后妃列传序》，卷三百《外戚传序》。
[57]《明太祖实录》卷二十六，卷一百二十六。《明史》卷七十一《选举志》。
[58]《明太祖实录》卷三十九。
[59]《明太祖实录》卷十七。
[60]《明太祖实录》卷八十五。
[61]《明太祖实录》卷十六。
[62]《明太祖实录》卷十九。