程思廉，字介甫，其祖先系洛阳人，元魏时迁云中，安家于东胜州。
思廉因太保刘秉忠的荐举，在裕宗王府内供职，以谨慎老实称著。后命为枢密院监印。平章政事哈丹巡视河南，任命他为都事。丞相史天泽尤其器重他。此时，正规划攻取襄樊，任命思廉为转运使，他筑城建仓以收储粮食。粮运来后，多堆积于露天。有天夜间大雨，而思廉安卧不起。行省召他质问，思廉说：“此处离敌很近，半夜转移露天粮食，必然会惊动众人，可能会导致变故。纵然被雨漂湿，不过是军中一日之粮。”闻者称是。
至元十二年(1275)，调思廉为淇州同知，后转为东平路判官，又随后入朝为监察御史，因弹劾权臣阿合马而被捕入狱。阿合马党徒巧设陷井，而思廉处之泰然，终害不到他。思廉调任河北河南道按察副使，路过彰德，闻两河歉收，而征租更急。思廉要制止，地方官府认为当请示朝廷，思廉说：“请示回来百姓已饿死了。”即发文停征，后果得朝廷批准。二十年，河北又闹饥荒，百姓南渡黄河求食，朝廷遣使臣去召集地方官吏，在黄河阻止百姓南渡。思廉认为“：民急于渡河就食，是不得已而为之！天下一家，河北、河南都是朝廷百姓。”应立即下令，不得阻挡，并说：“虽为此得罪而死，死而无恨。”其奏章上，朝廷并未降罪。卫辉、怀孟大水，思廉亲临视察，发粮赈济，免于死亡者甚众。水淹到城下，思廉命修堤防御，自己露宿城上督促施工，防止了水患，卫辉人歌功颂德。调任陕西汉中道按察使，因母亲年高未去赴任。不久，母亲去世，他守丧于家。
至元二十七年，设立云南行御史台，起任思廉为御史中丞。刚到，蛮夷酋长来祝贺，言语谦逊而内心不服。思廉向他宣布皇帝的旨意，怀柔远人，且讲明祸福，劝他们切毋自外于元朝。闻者既害怕又信服。云南虽有学校，但礼教不兴，思廉加以鼓励，才有求学问礼者。
成宗即位，授河东山西廉访使。太原每年要为诸王饲养驼马一万四千余匹，思廉奏请只饲养一千匹。平阳诸郡每年要输租税于北方，人民劳苦不堪，思廉奏请只输送到河东近仓。按旧制，判决一桩案件，先有公文往来商议，而决定权却在下属官吏。思廉则在公文后自己判决，某人当判某罪，使这些属吏束手无权。
思廉任监察官，刚毅公正，疾恶如仇，奏事切实，如请早立太子，访求贤材，明辨车辆服饰的制度，议论封号，蓄养军力，制定律令，都是应当急办的要务。与人交往，有始有终。或有人有疾病死丧之事，他去慰问周济，虽往返数百里也不怕劳苦。还要经理家事，抚育子孙。对于家族，尤尽力帮助。好荐举人才，有人说他是图名声，思廉说：“若怕图名声之讥笑，人们就不敢行善了。”终年六十二岁，谥“敬肃”。