明朝的种种制度，大部分是李善长所拟定的。此人是朱元璋的萧何，而学识能力超过萧何，可惜在晚年有点糊涂，工于谋人而拙于谋己，死于非命。
他是安徽定远人，书念得不少，于至正十三年（1353年）和朱元璋初次见面。那时候，朱元璋的年纪是二十六岁，他的年纪是四十岁。朱元璋尚在郭子兴下面当一名“镇抚”，地位不高，却已先后收编了濠州家乡的壮丁七百，定远驴牌寨的民兵三千，横涧山的元军二万。李善长似乎不曾在元朝有过什么“功名”（秀才举人之类），也不曾当过大小官吏，只是穷乡僻壤，一个偷生于乱世的读书人而已。
《明史·李善长传》，说他“迎谒”朱元璋于朱南攻滁州之时；《太祖本纪》却说朱“道遇”定远人李善长。无论是李迎谒朱，或是朱道遇李，总之，两人一见面便很投机，开始了几十年的合作。朱元璋留他当书记，带着他攻下滁州。从此，叫他参预机密，主持粮饷，协调人事。
郭子兴在濠州被赵君用喧宾夺主，迁驻滁州，对这位替他打了滁州的朱元璋，有尾大不掉之感，于是一面减削朱元璋的兵权，一面想釜底抽薪，暗中叫李善长到自己身边去。李善长为人颇讲道义，对郭子兴婉辞谢绝，情愿追随朱元璋到底。
朱元璋把滁州让给郭子兴，攻下和州，另创局面。有一次，朱元璋出城打鸡笼山山寨，叫李善长留守，元军乘虚来袭，李善长懂得利用埋伏，将元军击败。可见他虽则是一个文人，也未尝不能领兵打仗。
在和州劝朱元璋渡江取集庆（南京）的，是他。劝朱元璋以“不嗜杀人”的方法统一天下的，也是他。当朱军攻下采石矶与太平路（当涂）之时，李善长已经事先把严申军纪的布告准备好，立刻贴在大街上。其后，徐达攻占镇江，老百姓竟然不知道镇江换了手，也是得力于军纪的严肃。
再其后，朱元璋亲自到安丰（寿县）救刘福通，亲自去江西打陈友谅，去湖北打陈友谅的儿子陈理，都是由李善长坐镇后方。李善长的官职也一步一步地由镇抚的书记，升为朱大元帅的都事，朱平章的参议、参政，大都督府的司马，吴国的右相国。朱元璋在吴元年九月改尚右为尚左，李善长也由右相国而改为左相国，同时受封为“宣国公”。朱元璋在洪武元年元旦称帝，李善长便作了大明天子的左丞相，加官“太子少师，银青荣禄大夫，上柱国，录军国重事。”
和李善长同时当丞相的，是徐达。徐达军功最高，却屈居李善长之右，当“右丞相”，而且实际上不管“中书省”的事。真正替朱元璋“当家”的，只是李善长一人。洪武三年十一月，朱元璋大封功臣，改封他为韩国公，食邑四千八百户，加官由太子少师升为（皇帝的）太师，爵位也升为“特进光禄大夫，左柱国”。
他大权独揽，未免结怨于同僚。最和他合不来的，是刘基（伯温）。刘基的官职是“御史中丞兼太史令”。李善长有一个属僚，中书省的都事李彬，犯了贪污罪，当斩。李善长向刘基说人情，刘基派人骑马到开封，向正在出巡的朱元璋奏请施刑，获准，便把李彬斩了。
李善长在洪武四年正月告老引退。到了三月间，刘基也告老引退。中书省的政务，改由新从“左丞”升为“右丞相”的汪广洋负责。如果不是《明史》记载有误，中书省此时有了两个右丞相（徐达与汪广洋），而左丞相的位置并未补人。我想，可能是徐达升了左丞相，照旧只管带兵练兵。
汪广洋当右丞相，当到洪武六年正月，失宠，贬去广东，作行省的参政。继任的人，是胡惟庸。胡惟庸是定远人，与李善长同乡，投奔朱元璋于和州，受到朱元璋的赏识与李善长的支援，由元帅府的“奏差”，历升宁国县的主簿、知县，吉安（府）的通判，湖广行省的佥事，中央的太常寺少卿、太常寺卿，中书省的参知政事、左丞。
胡惟庸当右丞相，当到洪武十年九月，升左丞相；汪广洋复任右丞相之职。
奇怪的是，闲了很久，年事已高的李善长，又在这一年的五月，东山再起，受任与李文忠“总中书省、大都督府、御史台，同议军国大事”。原因是他的儿子李祺作了驸马（娶了临安公主），他的侄儿李佑也娶了胡惟庸的侄女。
胡惟庸与御史大夫陈宁，在洪武十三年正月，因谋反罪被杀，颇有株连，但是李善长与李佑并未被波及。中书省被取消，李善长的“总中书省、大都督府、御史台，同议军国大事”崇高职衔，可能也连带地被取消。但是，由于御史大夫陈宁已死，御史台一时主持无人，朱元璋还命令李善长代理了几个月，到这一年五月间御史台被取消为止。
李善长最后倒霉，是在洪武二十三年，他的一个亲戚丁斌因别的罪名被捕，供出来当年胡惟庸谋反，李佑和李佑的父亲李存义（李善长的弟弟）参加，并且曾经向李善长游说。李善长虽则始终拒绝了游说，却并未向皇帝朱元璋报告。朱元璋很生气，便把李善长赐死。这时候李善长的年纪已有七十七岁。他的妻女弟侄家口七十余人，同时被杀。事实上，丁斌的供词未必不是严刑拷打之下的诬攀。