胡惟庸被杀，是在洪武十三年正月，杀得一点儿也不冤枉。
此人既非功臣，而且谋反有据。他在至正十五年投奔朱元璋，混到至正二十七年，由“元帅府奏差”而宁国县主簿，而县令，而吉安府通判，而湖广行省佥事，而内调为太常寺少卿，太常寺卿，确实会混。传说，他之获得内调，全靠送了李善长二百两金子。
洪武三年正月，他升任中书省参知政事；次年正月，于李善长告老之时再升为中书省左丞。虽则和汪广洋同时被拜为右丞相，但汪广洋为人懦弱怕事，又喜欢喝酒，凡事都让着他，而且汪广洋在六年正月被贬往广东，于是他便成了事实上的宰相，直到六年七月升为正式的右丞相之时。十年九月，他又由右丞相升为左丞相，汪广洋这时候回任右丞相，地位反而不如他。
从十年九月到十三年正月，他足足当了两年又四个月的左丞相，大权独揽，不仅目无同僚，而且常常遇事不奏而行，对各衙门递上来的奏章，必先自看一次，不利于己的便搁了起来，不让皇帝知道。
皇帝朱元璋觉得他比谁都好。他不像李善长那么老朽，刘基那么古怪，宋濂那么迂腐，杨宪那么量小，汪广洋那么荒唐；相反，他善体人意，又很谨慎小心：既“曲”且“谨”。
他爬到了一人之下，万人之上，又深得这“一人”的宠信，为所欲为，作威作福，并且可以大大地捞下去，聚满了各方送来的“金帛、名马、玩好”，还能有什么不满足的？然而，他竟然不满足，硬想取朱元璋而代之。为什么？
最大的原因，是“心里不太平”。俗语说：爬得高，跌得重。他深知朱元璋最恨贪污，倘若有一天他的贪污的事被朱元璋知道，如何收场？况且，毒死刘基的事虽则是天知地知他自己知，也难免有一天，天网恢恢。（依现存史料而论，刘基之被胡惟庸毒死，不像是朱元璋授意。）
依照朱元璋自己所颁布的《昭示奸党录》，胡惟庸第一次劝李善长入伙造反，是在洪武十年九月。事实上，胡惟庸结党谋叛，可能更早于此。
最先被胡惟庸结为死党的，是吉安侯陆仲亨与平凉侯费聚。这两人打仗的本事很不坏，但是在洪武三年先后挨了朱元璋的处分。陆仲亨骑了公家驿站的马，被罚往雁门捕盗；费聚在苏州贪酒好色，被罚往西北边界招降蒙古人，又不曾招降得多少，回来再度挨骂一次。其后，洪武六年某月，胡惟庸请他们二人在家中喝酒，喝到半醉，叫左右的人走开，单独对他们两人说：“我们干的违法的事很多，一旦发觉了怎么办？”这两人害怕起来。于是，胡惟庸叫他们帮他准备造反，在外边“收集军马”。
在陆仲亨、费聚以后入伙的，是都督毛骧（可能便是潘柽章《国史考异》所提起的李善长供词之中的“毛响糖”）。毛骧介绍给胡惟庸一个在宫中当卫士的刘遇贤，与一个在京师当亡命的魏文进。
再其后，被胡惟庸收为心腹的，是明州卫指挥林贤。林贤奉旨出海防倭，在洪武九年接来了日本的贡使圭廷用。胡惟庸叫林贤在圭廷用回航日本之时，故意把贡船错认作寇船，“打了分用”。于是，林贤有了把柄落在胡惟庸之手。胡惟庸一面又对朱元璋假作正经，说林贤错打贡船，理应处罚。朱元璋将林贤流放到日本去，正中胡惟庸之计：使得林贤有机会与日本朝野发生接触。三年以后，洪武十二年，胡惟庸派了一个李旺，到日本假传圣旨，召回林贤。林贤已经向“日本国王”借得了四百名精兵，作为日本新贡使如瑶藏主的随从，计划在入觐朱元璋之时，出其不意，将朱元璋杀害。
不料，这四百名日本精兵到达京师（南京）之时（洪武十三年），胡惟庸业已事败被杀，朱元璋将他们一齐逮捕，发往云南，作为中国的戍卒。
胡惟庸的另一布置，是暗派元朝的旧臣封绩，带了向北元皇帝称臣的表，经亦集乃（额济纳）到和林，请北元皇帝大举南伐，使得朱元璋的大军被调去应战，他好在京师肘腋之地下手。封绩果然走到了和林，然而北元并无力量大举。
胡惟庸本想静候林贤的活动成熟，或是北元大举南伐，然而一则是儿子被马车压死，他一怒杀了马车夫，被朱元璋知道，朱元璋大骂，要他偿命（实际上并未将他逮捕）；二则是占城国（在今天越南南部）有贡使来，他不曾报告朱元璋，也被朱元璋知道，朱元璋又大骂一顿，他推说这是礼部的错，朱元璋把礼部的人关了起来，要追问究竟是谁的错；三则是右丞相汪广洋忽然被贬往广南，而且，走不了多久又被朱元璋派人追斩其首，事后又要追问汪广洋的一个小老婆原为犯罪的一个县官之女，只能配给“功臣”（武人），不应配给“文臣”，究竟是谁作的主张：——于是，胡惟庸在洪武十三年正月便提前动手。
事实上，汪广洋之所以被贬，正是由于胡惟庸毒死刘基的事，被御史中丞涂节报告了朱元璋。涂节说：“这件事，汪广洋应该也知道。”朱元璋问汪广洋：“刘基是不是被胡惟庸毒死的？”汪广洋回答：“没有这个事！”朱元璋大怒，说：“你和胡惟庸结党，蒙蔽我！”便把他贬往广南。
贬了以后，又想杀，是因为想起了以前汪广洋也曾经在江西隐瞒过朱文正的罪恶，在中书省隐瞒过杨宪的罪恶。
涂节如何知道胡惟庸毒死刘基，是一个谜。可能是，胡惟庸自不小心，于涂节入伙以后，把涂节当做自己人，而一时兴奋，无话不谈。涂节是什么时候入伙的？在胡惟庸杀了马车夫，朱元璋声称要胡惟庸偿命以后。是谁介绍涂节入伙的？御史大夫陈宁。
陈宁是湖南茶陵人，在元朝当过镇江路的小官，受朱元璋的知遇，一再提拔到中书省参知政事，因犯过贬为苏州知府。在苏州，他喜欢把铁烧红，拷问嫌疑犯，赢得一个绰号，“陈烙铁”。胡惟庸保荐他，于是他一跃而由苏州知府升为御史中丞，又连升为右御史大夫，左御史大夫。当了御史大夫，他更为严厉而残忍，他的儿子陈孟麟劝他不可如此，他一怒之下，活活把这儿子打死。朱元璋接到人报告，颇为寒心，说：“一个人对自己的儿子这样无情，对君上又怎么会有什么感情呢！”这句话，传到陈宁耳里，陈宁害怕得很，便入了胡惟庸的伙，而且拖了涂节去参加。
涂节在洪武十一年十二月，出卖胡惟庸，暂时不说胡惟庸谋反，只说“胡惟庸毒死了刘基，汪广洋也知道”。朱元璋却不办胡惟庸，先办汪广洋。（也许是因为汪广洋既然不肯作证，不能以涂节一人的话为凭。）
次月，涂正式“上变”，告胡惟庸谋反。（但仍不告发李善长、李存义、李佑、林贤、陆仲亨、费聚，可能是胡惟庸不曾把这些人也入了伙的事告诉过涂节。）差不多同时候，一位曾经作过御史中丞而被胡惟庸降为中书省的小官的商詗，也把胡惟庸的若干秘密，告诉了朱元璋。
《明史·胡惟庸传》说，在涂节上变与商詗告密以后，朱元璋便逮捕胡惟庸。
《明通纪》说，胡惟庸之被逮捕，是因为朱元璋于被请驾临胡府，观看井中所出醴泉之时，被一个宦官云奇拼命拦阻，于是走上宫城城墙，见到胡府里面，有“裹甲”的人，“伏屏帷间数匝”。胡府在细柳坊（其后的广艺街），确是离开宫城西华门不远，然而朱元璋怎能看到屋瓦之下、屏帷之间的裹了甲的人？《明通纪》的记载，可谓荒诞不经。
胡惟庸被捕以后，朱元璋把他讯问了一番，又交给“廷臣”公审，于是胡惟庸供出了陈宁，也攀连了涂节。涂节是上变的人，原可免死，但是廷臣认为“节本预谋，见事不成始上变告，不可不诛。”结果胡、陈、涂三人同时被杀。他们的家属必然也受了累。被株连的人也不太少（包括了宋濂的孙子宋慎及宋濂自己）。
案情更加扩大，是在五年以后，洪武十八年。毛响糖说出李善长的弟弟李存义和李存义的儿子（胡惟庸的侄女婿李佑）与胡惟庸“通谋”。朱元璋认为不严重，下诏将李存义父子加恩免死，安置在崇明岛。
又过了五年，这案子发展成为“大狱”。第一件事，是李善长向汤和借用兵士三百人，替自己盖房子，被汤和在朱元璋面前告了一状。第二件事，这一年（洪武二十三年）四月间，有一个李善长的亲戚丁斌，犯了罪，该流放到边疆去，李善长向朱元璋当面说人情，元璋大怒，抓了丁斌拷问。丁斌供出，曾经在胡惟庸家里帮闲，知道胡惟庸有四次劝李善长入伙造反：第一次，托李存义去说，李善长大骂，说：“你这是干什么？我看你要把九族都灭了呢！”第二次，托李善长的好朋友去说，答应于事成以后把淮西的地方划给李善长为王，李善长听了，似乎心动。第三次，胡惟庸自己去向李善长说，两人对坐密室，说的什么没有人知道。第四次，李存义又去说，李善长回答道：“我老啦，等我死了你们自己去做罢。”依照《昭示奸党录》，第一次，李存义去说，是在洪武十年九月，也就是胡惟庸升任左丞相的前后（有点奇怪）。第二次，杨文裕去说，年月不详（《国史考异》：十年十月）。第三次，胡惟庸亲自去说，是在十年十一月。第四次，李存义再去说，是在十二年八月。无论怎样，这丁斌的供词，已经足以置李善长于死地。
况且，在洪武二十三年五月，又发生了第三件不利于李善长的事：封绩被捕下狱。封绩留在北元，于洪武二十一年在捕鱼儿海被蓝玉俘虏，搜出胡惟庸勾结北元的证据，但是李善长当时不把这件事报告朱元璋；现在，有某一位御史提出检举，于是因封绩之被捕而李善长逃不了欺君的罪。
第四件事，是李善长自己的一个家奴卢仲谦，也落井下石，告发李善长确与胡惟庸颇有往来。第五件事，是陆仲亨的家奴封帖木，大凑热闹，不但告发了陆仲亨与费聚，而且把唐胜宗与赵雄也拖下了水。
结果，不但李善长赐死，李家全门族灭（除了当驸马的儿子李祺以外），各门各户被一齐杀掉的在三万人以上，久久未能结束。靖宁侯叶癉，便是在洪武二十五年八月因“交通胡惟庸”而被杀的。