徐溥，字时用，宜兴人。祖父徐鉴曾任琼州知府，对民众多有恩惠。徐溥于景泰五年(1454)考中进士，授编修职。宪宗初年，提升为左庶子，又调升为太常卿兼学士。成化十五年(1479)，授礼部右侍郎职，不久转为礼部左侍郎，一段时间后改在吏部任职。孝宗继位，徐溥兼任文渊阁大学士，参预机要事务，不久晋升礼部尚书。
弘治五年(1492)，刘吉被罢免官职，徐溥任首辅，累次加封为少傅、太子太傅。刘吉治政狂妄凶暴，徐溥接替刘吉以后，以安定平静为宗旨，务守成规，与同事刘健、李东阳、谢迁等同心协力辅助治理朝政，每当遇到不可行的事，总是一起争辩。钦天监中被革职的监正李华为昌国公张峦选择墓地，宫中降旨恢复他的官职。徐溥等上言道：“陛下登基以来，未曾有过宫中降旨事，恐怕权贵亲幸之门一开，不良之徒无所顾忌，臣等不敢接受这一诏令。”八年，太皇太后召崇王进宫朝见，徐溥等与尚书倪岳进行劝谏，明孝宗亲自劝说太皇太后，此事才得以停止。占城奏报安南入境侵犯骚扰，孝宗准备派大臣前往调解，徐溥等说：“外国之间发生侵略现象，有关部门发道檄文告诫就行了，不需派遣使臣。万一安南不听使臣命令，则有损国威，再去兴师问罪，后患越来越大。”就未派遣大臣。
这年十二月，孝宗下诏要撰三清乐章。徐溥等说“：天，至高无上，没有谁能匹配。汉代祭祀五帝，儒者尚且认为不对。况且三清是道家荒谬之说。一天之上，岂得有三大帝。并且以周代柱下史李耳充其中一帝，将人鬼列为天神，荒诞至极。郊祀乐章都是太祖亲自创作，现在以写作的时俗词曲祭祀神明，亵渎更甚。臣等熟读儒家书籍，对邪说俚曲向来不在意，不敢用旁门左道侍奉陛下。国家设置文渊阁，命令学士在此任职，的确是想让学士为国家谋划政事，讲经论史，培养治政的根本，纠正过失，并非要其阿谀奉承，唯命是从。现在御前讲席早已停止，讲官入侍讲读很久没有进行，异端邪说乘隙而入。这些都是因为臣等侍奉不当，不能够启发陛下之心，保持陛下初登位时治政的良好势头。我们万分忧心与惭愧，无地自容。数月以来，对宫中降旨中处理政事不当的，我们将其封还宫中，并再三向皇上奏明我们的看法。希望陛下曲身听从，使臣等竭尽拙笨之力稍稍有所帮助，不仅仅只指乐章一事。”奏章呈送孝宗，孝宗很赞赏，接纳了他们的劝谏。
孝宗自弘治八年(1495)后，上朝时间渐晚，徐溥等屡次上言劝谏。宦官李广借炼丹、设斋坛得到皇帝宠幸。十年二月，徐溥等上疏深切地论述说：“旧制，内殿每日两次奏事，事项多的可以随时上奏，皇帝又常常召见儒臣，咨询政事。现在奏事每天只有一次，除上朝之外，再见不到陛下。奏章、奏议与批答不准时断决，有的滞留好几个月，有的竟然不施行。事情大多堆集在一起，妨碍政体。御前讲席每年只开几天，疏远正直人士，邪说得以流行。近来听说有借斋坛炼丹之说得到重用的。宋徽宗崇尚道教，科条仪式符..最盛行，以致颠沛流离于道路。金石之药，性能多是酷烈的。唐宪宗相信柳泌以致殒命，此祸可作借鉴。现在龙虎山的上清宫、神乐观、祖师殿以及内府番经厂都被焚毁，它们如有神灵，为什么连自身也保不住？上天讨厌这些污秽行为，已是很明白的了。陛下如果亲近儒臣，懂得正道，施行仁政，那么福兆祥瑞，以及许多值得庆贺的好事就会不招自来，何须借助妖妄之说呢？自古以来奸人要蛊惑君王动心，必定先说太平无事。唐朝大臣李绛曾说过‘：忧心于事行之前，可以免除担忧。事情干完了再担忧，于事无益。’现在太平日子很长，沉溺于安逸。就目前来看，虽然好像无事，然而工役频繁兴起，苛捐杂税百出，人马疲惫不堪，民间穷困，人民愁苦的叹息声影响着上天的和顺之气以致造成火星失去常规，太阳无光，天鸣地震，草木成为妖孽，四方奏报这些情况的几乎每月都有，将来的后患灼然使人担忧。陛下高居深宫，言官都害怕引祸上身缄口沉默。臣等假如再不说，谁又肯为陛下说。”孝宗被徐溥的话所感动。
三月二十七日，孝宗在文华殿召见徐溥以及刘健、李东阳、谢迁，把各部门的奏疏交给他们说“：与先生辈商议。”徐溥等起草诏令呈上，孝宗就手批改。事端多的，刘健请求拿出去详细阅读，孝宗说“：何不就此地面议。”事完之后，赐徐溥等饮茶方退。自从成化年间，宪宗召彭时、商辂对答以后，至此时才开始再次出现，举朝夸耀为盛事。然而在徐溥整个任职期间，也只有这么一次受到皇帝召见。
不久，由于灾害，异常现象发生，朝廷广开言路，朝廷大臣所上的密封的奏章，过了一个月还不回答，而且言官因议论救助何鼎违背皇帝旨意等待被治罪已有很长时间，徐溥等都将这些情况向孝宗进言。于是搁置的奏章全部批发下来，并且免言官的罪。徐溥这时七十岁，以年老请求退休，孝宗不批准，下诏让他在风雨寒暑天免去朝见。
十一年(1498)，皇太子离开东宫，加封徐溥太子太师，升为华盖殿大学士。因为眼病请求返乡。孝宗舍不得放他走，很久才同意他的返乡，给徐溥很多赏赐。过了一年徐溥去世，追赠太师，赐谥号文靖。
徐溥生性庄重，举止有法度，在内阁十二年，从容辅助劝导。遇到有人犯有过失，总是为其掩盖，他说“：天生人才很不容易，我不忍心人才因小过错被抛弃。”屡次遇到大狱案，以及逮捕言官，他都要从中委婉调停。孝宗仁慈淳厚，对徐溥等所提的意见大都接受，天下暗暗地受到他的庇护。徐溥曾说“：祖宗法度在恩惠百姓的事方面已经完备，所担心的是不能守住。”因此，他对祖宗成法无所变更。徐溥对父母极为孝顺，曾经两次在父母墓旁小房居住。对自己的生活要求则很低，好施舍别人。购置义田八百亩赡养宗族族人，并请官府为之登记于册以求永久保存，孝宗为此免除徐溥家的徭役。