温仲舒字秉阳，河南人。太平兴国二年(977)，考中进士，任大理评事，通判吉州。后升至秘书丞、知汾州，因犯法被除名。不久，重新起用为右赞善大夫，通判睦州。端拱初年(988)，任右正言、直史馆、判户部凭由司。端拱三年，授任工部郎中、枢密直学士，主持三院工作。这年秋天，彗星出现，皇上在别殿召见大臣，仲舒认为“国家平定太原以来，燕、代之间，长年战争，杀伤剽掠，前后不断。大河以北，农桑业废弛，户口减少。凋敝之余，还极力供奉边事。丁壮服徭役，老弱供给赋税。庐舍毁坏，百姓不是逃亡就是死去。奸臣媚惑皇上，还说百姓乐于交赋。加之兵卒经常换防，出征的人辛苦，居家的人怨旷。希望推加恩泽，抚慰百姓”。太宗赞许并采纳了他的意见，于是大赦河北。
淳化二年(991)，任右谏议大夫、枢密副使，改任同知枢密院事。淳化四年，罢去本职任知秦州。在此之前，汉人与羌人、戎人杂居，有两马家、朵藏、枭波等部落，唐朝末年以来，居住在渭河的南面，大洛、小洛门砦，出产很多良木，被他们占据。每年征调士卒采伐林木供给京师，必定用钱向羌族人买道通行。但仍不免被他们抢夺，甚至遭到杀掠，成为百姓的祸患。仲舒到任后，督率士卒巡视各个寨落，以威信宣谕寨落首领，诸部落都献地依附内地。后来把这些部落都迁徙到渭河的北面，建立堡寨来限制他们。百姓感激他的这一惠举，画他的像来祭祀他。正遇有人认为仲舒生事，皇上对亲近大臣说：“仲舒曾经统管枢密事务，在我的身边，应当以绥抚为原则。古时伊、洛之间，尚且有羌族、浑族与汉人杂居，况且这些羌族内属，一向居住在渭河以南，居住已久，一旦擅意斥逐，可能导致骚动，又烦扰我的关右的百姓。”于是命令知凤翔薛惟吉与仲舒对调任地。接连任知兴元、江陵二府，加任给事中。内侍蓝继宗出使秦州回朝，述说得到渭南之地的好处。于是召见仲舒，授任户部侍郎，不久参知政事。后来大洛、小洛二寨成为内地，每年有采伐巨木的利益。
咸平初年(998)，授任礼部尚书，罢去参知政事，出京任知河阳。过了一年，任知开封府。咸平五年，因为京府政务繁剧请求辞职，于是以本官兼任御史中丞，不久改任刑部尚书、知天雄军，又改任知河南。景德年间，并州缺乏长官，皇上认为北门重镇须大臣镇抚，非张齐贤、温仲舒不可，命令宰相宣谕旨意，两人都不愿去。不久，又主持审官院。大中祥符年间，进升为户部尚书。大中祥符三年，任他为判昭文馆大学士，任命下达时，去世，终年六十七岁。追赠左仆射，赐谥号为“恭肃”。
仲舒应接事务敏捷，年轻时与吕蒙正交情很厚，又一起考中进士。仲舒被斥贬多年，蒙正在中书省任职，极力援引，被任用后，却反攻蒙正，士大夫议论时都看不起他。自从任正言到枢密副使，都与寇准同时进升，当时人称之为“温寇”。他的儿子名嗣宗、嗣良、嗣先、嗣立，仲舒死后，皇帝可怜他们孤弱，都录用为官。