廉希宪字善甫，布鲁海牙之子，自幼就身材魁伟，举止与一般儿童不同。十九岁时入王府侍奉皇弟世祖，深得世祖宠爱。希宪特别好读经史，手不释卷。有一天正读《孟子》，忽闻世祖召见，匆忙将书揣入怀中。世祖问《孟子》书中所言何事，希宪说讲的性善、义利、仁暴等。世祖嘉奖他有学问，称他为“廉孟子”，于是知名于世。希宪还善射，有天在世祖面前力挽劲弓，三发三中，众人钦佩他“文武全材”。
宪宗四年(1254)世祖以京兆为其封地，任希宪为京兆宣抚使。京兆控制陇蜀，诸王族的封地分布于左右，境内羌戎杂居，号称难治之地。希宪探求人民疾苦原因，抑强扶弱。空闲时向名儒如许衡、姚枢等人请教治世之道。并提请世祖用许衡来管理京兆学校，以教育人才作为根本大计，并将儒士另立户籍。宪宗九年(1259)，世祖渡江攻取鄂州，希宪率领儒生百余人拜伏于军门，呈请世祖在王师渡江以后“，凡军中所俘士人由官府出钱赎身，遣归原籍，以表示殿下广施恩典”。世祖采纳了这个建议，因此被放还的儒士达五百余人。
宪宗崩，希宪力劝世祖立即还朝继承皇位，以安天下。世祖命希宪先去察看形势。希宪当即分析形势说：“刘太平、霍鲁海在关右，浑都海在六盘，征南诸军又散于秦、蜀一带。刘太平为人险诈，素来畏惧殿下，倘若他依恃关中险要地势，图谋不轨，将难以控制，最好派赵良弼去观察动静。”世祖言听计从。这时阿里不哥又发乱于北边，遣脱忽思进兵河朔。世祖命希宪赐膳给宗王塔察儿。希宪去后力劝塔察儿拥戴世祖即皇位，事成之后当委以重任。回来将这一切告诉世祖，世祖称赞他的智谋与果敢。
中统元年(1260)世祖回到开平，宗室诸王劝他早登皇位，希宪又以天命所归人心所向来劝进，还说：“阿里不哥与殿下是同胞兄弟，多年镇守北方，也在图谋皇位，形势发展不可预料，最好早定大计。”世祖接受他们的拥戴，不再谦让，次日即位，建元中统。希宪还奏请放高丽王子亻典回国，遣使与宋议和，诏令南伐诸军北归。世祖一一听从。
赵良弼自关右还京，奏报刘太平、霍鲁海反叛朝廷的事实。这时朝廷把汉地分为十道，并京兆、四川为一道，任命希宪为宣抚使。太平、霍鲁海闻之，急忙赶至京兆图谋举兵。三日后希宪也到达京兆，宣布圣上旨意，并遣使安抚六盘浑都海。不久，断事官阔阔出派人告急，说浑都海已反，杀遣去使者朵罗台，派人联络其同党密里火者、乞台不花分别从成都、青居出兵支援，约刘太平、霍鲁海同时举事。希宪闻报，召僚属讨论对策，遣万户刘黑马、京兆治中高鹏霄、华州尹史广等，搜捕太平、霍鲁海及其党羽，尽行下狱。又派刘黑马诛杀密里火者，总帅汪惟正诛杀乞台不花。当时关中空虚，命汪惟良率秦、巩诸军进伐六盘，并解自身所佩虎符银印授与惟良说“：这是皇帝密旨，你放心去干，我已火速报告朝廷受你符印。”还给他银一万五千两以便论功行赏。令节制诸军蒙古官八春统领四川守边军士及留守兵丁虚张声势，以威吓六盘叛军。尽管世祖赦免叛逆的诏书送到，希宪却先绞死太平等于狱中，然后再接诏书，并且检讨其擅自停赦行刑、征调诸军及委任汪惟良为帅等罪。世祖说：“《经》所谓临机应变，就是像廉希宪这样。”赐他金虎符，使节制诸军，且允许诸事由他处置，毋固守常规而坐失时机。八春将响应浑都海的西川奥鲁官纽邻及其党羽五十余人捕获，送京兆请处斩。希宪却将他们宽释，使隶属八春，对幕僚说“：浑都海未能乘势东来，难保无他变。如今人心未稳，反复无常，叛军若见其长官被囚被杀，会别生二心，为害不小，不如宽释，使他们感恩效力。”果然人人感激，八春亦因此得精兵数千骑。
世祖委任希宪为中书右丞，行秦蜀省事。浑都海闻京兆有防御，便西渡黄河开往甘州，阿蓝答儿自和林领兵来与浑都海会合，两军合力进攻关中，关中守将失利。朝廷打算放弃西川，退守兴元，希宪极力劝止。亲王合丹及汪惟良、八春等合力大败叛军于西凉，俘虏了浑都海与阿蓝答儿，送京兆斩首示众。希宪因平叛有功进升平章政事。这时希宪年纪仅三十岁。
李王..在山东谋反，事连王文统。平章赵壁素来忌妒希宪，上奏说：“王文统系张易、廉希宪引荐的。希宪得民心，又有商挺赵良弼为辅。”企图株连希宪。世祖说：“希宪自幼为朕效力，深知其心；挺、良弼均正人君子，有何忧虑。”四川降人费正寅与廉希宪有私怨，密告廉希宪见李王..在山东谋反，也在关中修城治兵，有不忠之意。世祖不禁怀疑起来，命中书右丞南合去取代希宪行省职务。后来查明此系诬告，又召希宪还京师，拜中书平章政事。一日半夜忽召希宪入宫，谈及赵壁奏疏希宪引荐王文统的事时，希宪说“：臣曾对陛下说过，对王文统臣只闻其人，未识其人。”世祖说：“朕也还记得此事。”希宪在中书省整顿纲纪，裁减冗官，兴利除害，建立各项制度，国事井井有条。还建议革除原蒙古功臣子孙视部下为奴婢，视都邑官吏为皂隶僮仆的旧习俗，建立官吏的考核升黜制度。奸臣阿合马领左右部，总管全国财赋。其党徒相互攻击，中书省臣僚畏其权势，不敢追究。希宪查明其事，朝廷杖击阿合马，将其所揽政务分归有关机构处理。世祖谕希宪曰：“官吏目无法纪则必贪，民失业而逃亡，生产不好则政府财政匮乏，朝廷长期为此担扰。自卿为相，朕无此忧了。”希宪答谢说“：陛下如同尧舜而臣未能以皋陶、稷、契的为臣之道辅佐圣上治理国家，深感疚愧。今日国家只是稍有治理，还有许多事未能办到。”他极力劝谏世祖，切不可让宦官干政。
有人弹劾丞相史天泽，说他亲党满布天下，权威日盛，无法无天，不可控御。世祖诏令撤掉史天泽职务，听候审讯。希宪进言道：“天泽久为陛下效力，陛下深知其为人，故委以重任，他带兵理政，成绩卓著。陛下知人善任，才以他为相。今有小人说他的不是，陛下应细加考察，看是否真有肆意横行不遵法纪之事。今日陛下信任我，所以我才敢于这样说；如有一天有人弹劾我，是否也被怀疑。臣等在朝为官，陛下如此好疑，我们怎能自保。既罢天泽之职，亦当罢臣之职。”世祖听后许久才说：“卿暂退去，朕再想想。”次日，帝召希宪说：“我想过了，弹劾天泽却无证人。”这件事就如此了结。以后，有人诬告四川帅钦察，世祖在未查明真象前就令中书速遣使去处决钦察，希宪再次劝谏弄清事实再做处理。经查实钦察无罪，幸得免死。希宪每次向皇帝奏议国家大事，总是言词激切。世祖说：“卿在王府为我效力时，有许多事还让我几分，如今我为天子，为何反而不听从了呢？”希宪回答说“：王府事轻，天下事重，若对陛下随声附和，天下将受其害，非臣不知自爱。”
朝廷刚举行封赠国师礼之后，世祖命希宪受戒，希宪拜谢说：“臣已受孔子戒了。”帝问“：孔子也有戒？”对曰“：为臣当忠，为子当孝，这就是孔子之戒。”
至元五年(1268)始设置御史台，继设各道提刑按察司。当时阿合马总揽财政，质问希宪：“政务由诸路办理，钱谷之事交付转运司，今设御史台、提刑司牵制，叫他们如何办事？”希宪回答说：“立御史台和按察司是自古以来的制度，其职责是内劾奸邪，外察越轨行为，考察民间疾苦。其于国政有益则莫大于此。若不设台察，上下专横，恣意贪暴，国事能有成就吗？”阿合马哑口无言。七年，希宪患病，帝派遣医生三人诊视，医生说须用砂糖做药引，家人到处寻求，阿合马送去二斤，希宪拒收，还说道“：即使此物果能治好病，我也绝不靠奸人的赠送来救自己的命。”世祖闻之，遣人送去砂糖。
至元十一年任命希宪为北京省平章政事。十二年帝急召希宪回京，命他抚治荆南，并有授三品以下官职之权。希宪带病赴任，右丞阿里海牙率领属官于江陵迎接，荆人大为惊骇。希宪到任后立即下令严禁剽劫，通商贩，兴利除害，兵民安居乐业。希宪还收留宋朝故宣抚、制置二司幕僚中能干事者二十余人，因材任用。这些人赠他珍宝玩物，希宪拒绝，并告诫说：“你们是宋朝故官，若任用你们，当念我朝圣恩，尽力报效。今你们送我这些东西，我取之不义，若是官物，收受如同盗窃，若系取之于民，那就是犯罪，你们应当慎重。”下令：对被俘军民，杀者以杀平民论罪；俘虏患病而被抛弃者，许人收养，病愈后原主人不能再据为己有；凡买卖妻室儿女者，判以重罪，所卖之钱官府没收。决开江陵护城河放水，得良田数万亩，分给贫民耕种。开沙市粮仓，以粟米二十万斛赈济公安县饥民。大兴学校，选任教官，购置经书，并亲自到课堂勉励诸生努力学习。希宪在荆南的政绩，影响深远，西南民族及思、播二州之田、杨两姓，还有宋重庆制置赵定应等，都来请降。江陵人说：“皇帝遣廉相出镇荆南，不仅人蒙德化，连昆虫草木都得其恩惠。”十四年，希宪因病久治不愈，召还京都，江陵人民哭泣挽留。走后，江陵人画像建祠，以为纪念。五月希宪还至上都，两袖清风，随身之物只有琴、书而已。
希宪还京后，世祖诏征扬州名医王仲明为他诊视，病稍愈，能扶杖而起。太祖大喜说：“卿得良医，故病渐愈。”希宪说“：医生用良药为臣治病，若臣能自己小心谨慎，就会痊愈，但若臣自己懈怠不堪，虽良医亦无益。”这是借此事来谏劝皇帝。朝廷设立门下省，世祖意欲让希宪来主持门下省事，结果却为阿合马所阻。十六年春希宪复受命领中书事，但病情日重，皇太子来探望，并问为政之道，希宪说：“皇帝治国最重要的是用人得当，用君子则治，用小人则乱。臣今病势加剧，听天由命而已，而十分担心的是当前大奸专政，小人附和，误国害民，这才是国之大病，希望殿下力劝皇上屏除奸臣，否则国病日重，无可救药。”
十七年十一月十九日夜，希宪病逝，年五十。大德八年(1304)，赠清忠粹德功臣、太傅、开府仪同三司，追封魏国公，谥“文正”。后又加赠推忠佐理翊运功臣、太师、开府仪同三司、上柱国、恒阳王，仍谥“文正”。