徐阶，字子升，松江华亭人。出生刚满周岁时，堕入枯井中，救出后三天才苏醒。五岁时跟随父亲前往括苍，从高高山岭堕落下来，衣裳挂到树梢而没有死。人们都对他感到惊奇。嘉靖二年(1523)考取进士第三名。被授予翰林院编修，准许他回家婚娶。遭逢父亲的丧事，丧服解去后，补任原官职。徐阶身材矮小，肤色白皙，容貌俊秀，举止优雅。性情聪颖机敏，有权术谋略，却深藏不露。学习古文经学，与王守仁的门生交游，在士大夫中享有声誉。
皇帝采纳张孚敬的建议打算废除孔子的王号，改孔子像为柱，祭祀器皿、礼仪声乐都有所简省，下交儒士大臣议论，唯独徐阶认为不可行。孚敬将徐阶召唤去怒责，徐阶辩驳，毫不屈服。孚敬恼怒地说：“你背叛我。”徐阶神色严肃地回答“：背叛生于依附。阶未曾依附公卿，怎么称得上背叛？”作深长揖礼而出。他被贬斥为延平府的推官。接连摄法郡中事务。交出拘禁囚徒三百人，捣毁淫祠，创办乡间社学，捕获大盗一百二十人。调任黄州府同知，提拔为浙江按察佥事，晋升江西按察副使，均负责学政。
皇太子出阁，皇帝召拜他为司经局洗马兼翰林院侍讲。遭逢母亲丧事归乡。丧服解除，被提拔为国子监祭酒，调任礼部右侍郎，不久调吏部。旧例，吏部总是大门紧闭，接见下层官吏不多言语。徐阶屈尊礼遇他们。会见必定久坐，咨询边塞腹地要害，吏治民疾。他们都自我欢喜得意于徐阶，愿意为其所用。尚书熊浃、唐龙、周用都看重徐阶。徐阶几次代理吏部事务，召引任用的宋景、张岳、王道、欧阳德都是长者。周用死后，闻渊接替，自居前辈，取事立断。徐阶不乐意，恳请将自己调出以回避他。被任命兼任翰林院学士，教习庶吉士。不久执掌翰林院事务，晋升礼部尚书。
皇帝明察徐阶的辛勤，加之唯独他所撰写的青词称乎圣意，直接召至无逸殿。与大学士张治、李本一起受赐飞鱼服和宫廷饮食殊荣，皇帝对徐阶优礼不断。朝廷推举徐阶为吏部尚书，皇帝没有同意，不想徐阶离其左右。徐阶于是请求册立皇太子，皇帝没有答复，又连续奏请此事都没有结果。后来当行弱冠婚娶礼，又奏请先裕王、后景王，皇帝不高兴。不久施恩于他，加封太子太保。
俺答汗进犯京都，徐阶奏请开释周尚文和戴纶，欧阳安等人自求效力，答复许可。奏请皇帝返还皇宫，召集群臣谋划兵事，被采纳。宦官陷落敌手后被释归来，递呈俺答汗索求贡品的信件。皇帝把它给严嵩和徐阶看，召他们到便殿商议。严嵩说：“饥饿之贼，不足忧患。”徐阶说“：临城驻扎，杀人如刈菅草，怎么只称饥饿之贼？”皇帝认为他的话是对的，询问求贡书在哪里。严嵩从袖中取出书信说“：这是礼部的事。”皇帝又询问徐阶。他回答说：“敌寇深入，不应允恐怕激怒他们，应允他们则会加勒索。恳请派遣翻译与敌周旋、稳住敌寇，便于我们做好准备。援兵聚集而来，敌寇就会逃离。”皇帝连连称好。严嵩、徐阶就请皇帝出宫巡视朝政。敌寇很快饱掠而去，于是颁布徐阶的奏疏，不许进贡。
严嵩倚宠弄权，猜嫉加害同列。因为仇视夏言，置其于死地，而夏言曾推荐过徐阶，严嵩因而忌恨他。起初，孝烈皇后去世，皇帝想祭祀她于宗庙，考虑到他前面有孝洁皇后，而且睿宗进宗庙不是公议，担心后世议论宗庙，于是想在自己当世预立仁宗宗庙，将孝烈皇后先祭于宗庙，自成一世，下交礼部议论。徐阶抗争声称女后没有先入宗庙的，奏请在奉先殿祭祀她，礼部给事中杨思忠也这般认为。奏疏递上，皇帝大怒。徐阶惶恐谢罪，不能坚持前议。皇帝又遣徐阶前往邯郸落成吕仙祠。徐阶不想动身，就用议论祭祀宗庙的事来开脱，得以缓期。至敌寇逼城，皇帝更加松懈，于是派尚书顾可学前往，却心中怀恨徐阶。选取思忠元旦贺表的失误，廷杖百次，斥退为民，用以恐吓徐阶。严嵩以为徐阶可以离间，百般中伤他。一天皇帝单独召对严嵩，谈及徐阶。严嵩缓缓地说：“徐阶缺的不是才干，仅多二心罢了。”大概因为他曾奏请册立太子吧。徐阶岌岌可危，考虑到不能与其争执，于是谨慎奉事严嵩，而且更精心撰写青词迎合皇帝心意，皇帝周围的人也多为他斡旋。皇帝怒怨渐解。不久，加封他为少保，随即晋升兼任文渊阁大学士，参预机要事务。秘密上书告发咸宁侯仇鸾罪状。严嵩认为徐阶与仇鸾曾经共执政事，打算以仇鸾事打倒徐阶。待听说仇鸾的罪行是徐阶告发，才愕然作罢，但对徐阶更加猜忌。
皇帝诛杀仇鸾后，更重视徐阶，屡次同他谋划边疆事务。当时商议减去仇鸾所增加的卫兵，徐阶说：“不能减。京营积弱的原因，终不在疲乏而在于闲散，应当做精选淘汰，提取他们的粮饷作为奖赏的花费。”又奏请罢免提督侍郎孙礻会。皇帝开始由于严嵩的阻碍未能实行，久而完全听从了徐阶的意见。徐阶一品三年满期，功勋有加，任柱国，进而兼任太子太傅、武英殿大学士。六年考满，兼支大学士俸禄，并任用其子为中书舍人，加封少傅。第九年，改兼吏部尚书。皇帝赐宴于礼部，玺书中对他褒扬有加。皇帝虽看重徐阶，却只稍稍显露迹象。曾把五色芝麻授予严嵩，让他炼药，称徐阶是政治根本的关节，不能做相。徐阶惶恐地请求，才得到。皇帝也渐渐委任于徐阶，仅次于严嵩。
杨继盛议论严嵩的罪行，用二位王子的事为证，被打入锦衣卫的牢狱。严嵩嘱托陆炳追究主使人。徐阶告诫陆炳“：如果不谨慎，一旦涉及皇子，对宗庙社稷如何！”又用危言劝阻严嵩“：皇上只有两个儿子，必定不忍心以此责备您，开罪于皇子，以回答你的质询，问罪的只是左右朝臣。您何必公开同宫邸结仇怨呢？”严嵩闻言惊恐，才算了结。倭寇蹂躏东方，皇帝几次询问徐阶，他力主发兵。又念及边关士卒辛苦饥寒，奏请征收京都辖区的麦子数十万石，自居庸输往宣府，从紫荆输往大同。皇帝很高兴，密传实施这个方案。杨继盛弹劾严嵩，严固然疑心徐阶。赵锦、王宗茂弹劾严嵩，徐阶又建议从轻发落。到此次给事中吴时来、主事董传策、张罛弹劾严嵩失败，都被投进监牢。传策，徐阶的同乡；时来、罛，徐阶的门生。严嵩上书议论此事，公开称徐阶为主使，皇帝不听。秘密询查，他们都舍严嵩而趋徐阶。随即加封徐阶为太子太师。
皇帝居住的永寿宫遭火灾，移居玉熙殿太狭小，打算做些营建，询问严嵩，严嵩奏请返还皇宫，皇帝挺不高兴。询问徐阶，阶奏请用三殿的多余材料，责成尚书雷礼营建，可在几个月内建成。皇帝欣喜，照徐阶建议建造。任命徐阶的儿子尚宝丞..兼上部主事都察，此后十旬功成。皇帝即日移居那里，命名万寿宫。因徐阶的忠诚，晋升少师，同时支取尚书俸禄，准许一子为中书舍人。其子..也破格提拔为太常少卿。严嵩日渐衰落。严嵩的儿子世蕃贪横淫纵的劣迹也渐有传闻，徐阶指令御使邹应龙弹劾严嵩。皇帝勒令严嵩退休，提拔邹应龙为通政司参议。徐阶取代严嵩任首辅。
不久皇帝念及严嵩供奉之劳，怜悯他。又因严嵩离去，恍惚不乐，于是颁布诏谕打算退隐而修本性并做传嗣打算，又责备徐阶等不该给邪物封官，称邹应龙为邪物，徐阶陈述：“退隐并传嗣，臣子们不敢奉命。应龙转官，是二部奉旨行事。”皇帝才罢休。
皇帝以为严嵩在职过长，世蕃却在外违法犯禁，因此令称徐阶没有不要长久的宫廷侍候。徐阶窥察皇帝意图，声称如果为奸，在外犹如在内，坚持请求就职。皇帝把严嵩值宿的房子赐给徐阶。徐阶标榜三语：“威福还主上，政务还诸司，用舍刑赏还公论。”从此朝臣儒士侃侃而谈，得以依自己意想行事。袁炜几次直言，徐阶奏请召他共同议政。就说“行事与众人共同议办为公，办事公道是成就一切事业的根本；专行为私，私则滋生百弊”。皇帝首肯。徐阶因张孚敬和严嵩导致皇帝猜忌约束，力反其道，务必以宽大开阔皇帝的心胸。皇帝厌恶给事御史抨击过当，想作番贬责。徐阶委曲调剂，得以从轻发落。皇帝会见时询问徐阶知人的难处。徐阶回答说“：大奸似忠，大诈似信。只有广泛听取意见，对穷凶极恶的人，有人替我骚扰；对深情隐匿的罪行，有人替我揭发。所以圣帝明王，有言必察。即使不真实，小事搁置一边，大事轻责并宽容人，以便鼓励后继者。”皇帝称好。言路越发舒展。
敌寇从墙子岭攻入，直扑通州。皇帝正在祭祀，兵部尚书杨博不敢启奏，与徐阶商议此事，发布檄文调宣府总兵官马芳、宣大总督江东来援救。马芳的兵马先到，徐阶奏请马上奖赏他，并请求扩大江东的权力，使他统率诸道兵马。敌寇从通州掳掠至香河，徐阶奏请在顺义马上设防，调骑兵至古北口。敌寇攻顺义不得，于是奔向古北口。敌人的后军遭参将郭琥伏击被打败，掳掠的大量人畜辎重被缴获。起初皇帝恼怒杨博不早报告以及总督杨选放纵敌寇侵入，准备治罪却还没行动的时候，徐阶进谏：“杨博虽然因祭祀禁忌不敢传报，但两镇兵马都是他最早调来的。而杨选则不是尾随敌寇而是礼送他们出境。”皇帝最终杀了杨选，没有治杨博的罪。晋升徐阶为建极殿大学士。
袁炜因病还乡，死在路途，徐阶独掌国柄。屡次奏请增添内阁大臣，并乞求辞官。于是皇帝任命严讷、李春芳入内阁，对徐阶更加恩宠。以任一品官第十五年考察，皇上待他恩宠礼遇特厚，一再赏赐玉带、绣蟒、珍贵药材。皇帝亲手写信询问徐阶病情，谆恳地如同对待家人，徐阶更加恭谨。皇帝间或有所委任，徐阶整夜不合眼，承提起草的文书没有拖延片刻。皇帝日益厚爱徐阶。徐阶采纳好的舆论，陈述给皇帝，然后施行。嘉靖中叶，南北用兵，边镇大臣稍有不合皇帝旨意，就逮捕下狱诛杀流放，内阁大臣又巧借皇恩作威作福。徐阶主事后，缇骑省减，诏狱渐渐虚空，任事的人得以功名尽终身。因此舆论一致推荐徐阶为名相。
严纳奏请辞归，皇帝命令郭朴、高拱入内阁，与春芳共同辅政，事务仍旧由徐阶决断。徐阶屡次奏请册立太子，没有答复，不久景王到封地，病逝。徐阶启奏剥夺景府占据的数万顷陂田还给百姓，楚地民众非常高兴。皇帝打算建造云坛和兴都宫殿，徐阶极力劝阻。鄢懋卿骤然增加盐税四十万银两，徐阶暗示御史奏请恢复原来定额。方士胡大顺等劝皇上食用金丹，徐阶极力陈述此假言行骗的罪状，大顺等人随即伏法。皇帝服药后躁烦。户部主事海瑞尽陈皇帝的过失，皇帝非常恼恨，想立即杀了他；徐阶尽力挽救才作罢。皇帝病情加重，忽然想到兴都去，徐阶力争方止。不久，皇帝死，徐阶草拟遗诏，所有斋醮、土木、珠宝、织物一律免去，“大礼”大案，论事治罪的大臣全部翻案。诏书颁布，朝野号恸感激，同杨廷和拟定的登基诏书并列，为世宗朝的盛事。
同事高拱、郭朴因为徐阶没与他们共同商议，心中不快。郭朴说：“徐公毁谤先帝，可以处斩。高拱起初侍从于穆宗裕邸，徐阶引荐他辅佐政务，然而徐阶独掌国家权柄，高拱心中不平。世宗生病时，给事中胡应嘉曾弹劾高拱，高拱怀疑是徐阶唆使。隆庆元年(1567)应嘉因救助考察被罢黜者的人被解职，谈论者称高拱修补旧怨协助徐阶斥责应嘉。徐阶再次请求对应嘉从轻责罚，谈论者又弹劾高拱。高拱希望徐阶拟用廷杖处罚应嘉，徐阶从容化解，高拱更不高兴。指令御史齐康弹劾徐阶，说他的两个儿子经常与人私下交易以及家人横行乡里的罪状。徐阶上疏辩解，乞求告老还乡。九卿以下官吏上书弹劾高拱而赞美徐阶，高拱称病辞归故里。齐康终遭贬斥，郭朴也因舆论攻击，辞官归去。
给事中、御史多起于罢官，依靠徐阶而强，言语大多偏激。皇帝不能忍受，告知徐阶等人处理。同事意欲作贬谪，徐阶说“：皇上想贬斥他们，我们应当尽力抗争，还能倡导贬谪吗？”奏请传谕责令他们反省改过。皇帝也没有治他的罪。这年诏令翰林撰写中秋宴贺词，徐阶说：“先帝没有撤去祭席，不能做宴乐。”皇帝取消了宴会。皇帝命令宦官分别督导团营，徐阶极力陈述不可而终止。南京振武兵营屡屡喧哗生变，徐阶打算解散他们。顾虑他们控制着孝陵不便进行攻击，先命令操江都御史唐继禄督导江防兵卒驻扎在孝陵旁，再下令兵部遣散振武兵。事情终于了结。一群小宦官在午门殴打御史，都御史王廷准备检举他们。徐阶说“：不知领头人姓名，弹劾有何益？还得思虑对方先诬告我们。”于是派人用好言诱惑大宦官，先记录领头人的姓名。王廷上书皇帝，便分别逮捕区别治罪。徐阶主持公道应付事变，多属此类。
徐阶所坚持谏争的，多数是宫廷禁事，十有八九被采纳，宦官大多对他侧目而视。遇上皇帝到南海子，徐阶劝谏，皇帝不听。刚请求告老，给事中张齐就因私怨弹劾徐阶，于是徐阶奏请回乡。皇帝的心意也逐渐转移，批准了他的请求。赏赐驿用马匹。因为春芳的奏请，配给仆从和粮食、玺书褒奖，行人引导，依然如旧。向皇帝辞行，皇帝赏赐他白金、宝钞、彩币、袭衣。满朝官员都上奏挽留他，皇帝答复知道而已。王廷后来探知张齐受贿赂的事，加以弹劾，张齐受贬戍边。徐阶走后，春芳任首辅，不久也离职归乡。高拱复出后，扼制徐阶不遗余力，郡邑的各级官吏观望高拱的意图，争相倾轧徐阶，完全剥夺了他的田产，把他的两个儿子送去戍边。遇到高拱又被张居正倾轧而被罢免，打击徐阶的事才算停止。万历十年(1582)，徐阶八十岁。皇帝派遣人去问候，赏赐玺书、金币。次年徐阶去世。被追封为太师，谥号文贞。