丘浚，字仲深，海南琼山人。幼年失去父亲，母亲李氏教他读书，他看一遍就能背诵。家贫无书，曾经走数百里路借书，必定将书借到才罢休。考取乡试第一名，景泰五年(1454)，考中进士。改任庶吉士，授编修职。丘浚在翰林院任职后，见闻更加广泛，尤其熟悉国家典故，以经国济民自负。
成化元年(1465)，两广有战事，丘浚向大学士李贤上书，指明陈述形势，井井有条数千言。李贤对他的谋划很欣赏，向皇帝禀报，宪宗命将丘浚的谋划抄写下来，让总兵官赵辅、巡抚都御史韩雍看。韩雍等攻破贼军，虽然不完全是用丘浚的计谋，然而丘浚因此在朝臣中颇有威望，任职期满，晋升为侍讲。参与撰写《英宗实录》，升为侍讲学士。《续通鉴纲目》成书，提升为学士，调任国子祭酒。当时学习经义的书，好尚奇险怪异之文，丘浚在主持南畿的乡试时，在分考和会试中他都痛切地抑制这种文风。丘浚任职国子监后，他督促国学生时，尤为恳切地告诫他们将文体返归正道。不久晋为礼部右侍郎，掌管祭酒事务。
丘浚认为真德秀著的《大学衍义》对于治国平天下的条目叙述得不完备，丘浚就博采群书补充了这些内容，写成《大学衍义补》。孝宗继位，他向孝宗呈上此书。孝宗认为该书不错，赏赐黄金纸币奖励丘浚，并命令有关部门刊印发行。特别提升为礼部尚书，掌管詹事府的事务。充任修撰《宪宗实录》的副总裁。弘治四年(1491)，此书完成，加封丘浚为太子太保，不久兼任文渊阁大学士参预机要事务。尚书入内阁任职从丘浚开始，丘浚当时七十一岁。他认为《大学衍义补》所撰述的都可见之行动，请求摘其要点奏报皇帝，并下内阁商议付诸实行。孝宗批准他的请求。
第二年，丘浚上言道：“臣在成化年间见到彗星三次出现，遍扫三垣，方圆五六百里大地发生地震。近来彗星出现在天河，每天地震天鸣不已，怪鸟在宫中鸣叫三声。《春秋》二百四十年，记载出现彗星三次，地震五次，飞禽两次。现在却在二十年之间屡次出现，非常令人害怕。希望陛下体会上天的仁爱，想到祖宗创业的艰难，修身清心以立根本，而适应政事的需要，谨慎对待自己所喜好、崇尚的东西，而不被异端所迷惑，节约财物，不至于耗费国家财富，公正地使用人才，不偏听偏信，禁止以私事谒见请托，明确义理，保持节俭的品行，勤于政务，那么，阿谀求宠、邪门旁道的乱政之徒就不敢为非做歹，天灾就可以清除。”接着列举二十二种时弊，孝宗都接受他的意见。六年(1493)由于眼病免去上朝。
丘浚在位时，曾经用宽大为怀启发孝宗，以忠厚来改变士风。只是生性偏狭，曾与刘健在商议事情时，因意见不合，竟把帽子摔下地。言官说话不中他意，丘浚总是当面驳斥。他与王恕关系紧张，以至于不说话。六年(1493)考核群吏，王恕上奏章要罢免二千人。丘浚则请求未满三年的仍任原职，无特别贪婪残暴劣行的官吏仍留任，留下九十人。王恕争辩无结果，要求离职。太医院判刘文泰曾经与丘浚家有过来往，刘揭发王恕失职，王恕怀疑刘是受丘浚指使，而舆论大哗，说疏稿是丘浚写的。王恕竟由此事被罢官，人们由此对丘浚很有看法。给事中毛..、御史宋德、周津等纷纷上奏章弹劾丘浚不能位居相位，孝宗不理睬。过了一年，加封丘浚少保职。八年，丘浚去世，终年七十六岁。追赠太傅，谥号文庄。
丘浚清廉不苟取，所居府第低下狭小，四十年不换。生性嗜好学问，年老右眼失明，仍手不释卷。所发议论好偏激，听者感到惊骇。到修撰《英宗实录》，有人说对于于谦之死应该按不轨判罪来记载，丘浚说：“土木堡之变，如果没有于谦，国家就很危险。事情久已有了定论，于谦所受的冤枉不能不辩白清楚。”他如此主持正义。正德年间，明武宗采纳巡按御史的建议，赐在丘浚家乡为丘浚建立祠堂起名叫“景贤”。