哲宗元祐元年正月，公始得疾。当元丰五年秋，公居洛时，公有语涩疾，自疑当中风。乃预作遗表，详尽感慨，亲书缄封，置卧内，戒其子曰：“吾死，当以授范纯仁、范祖禹，使上之。”后亦无恙。今辅相未久，大星遽霣，惜哉。使天假之年，何至不久即有南渡之祸也？
公虽病，而刻刻不忘天下事。时青苗、免役、将官之法犹在，而西戎之议未决。公叹曰：“四害未除死，不瞑目矣。”折简与吕公著云：“光以身付医，以家事付愚子，惟国事未有所托，今以属公。”仍力疾上疏，论免役五害，乞直降勅罢之，率用熙宁以前法，诏即日行之。又论西戎大略，以和戎为便，用兵为非。时异议者甚众，公持之益坚。
闰二月，公被诏为尚书左仆射。疾稍间，将起视事。诏免朝觐，许以肩舆，三日一入都堂，或门下、尚书省。公不敢当，曰：“不见君不可以视事。”诏公肩舆至内东门，子康扶入对小殿，且曰毋拜。公惶恐，入对延和殿，再拜。遂罢青苗钱，专行常平粜籴法。
公作相，辽人闻之，敕其边吏曰：“中国相司马矣，毋轻生事，开边隙。”尝亲书榜稿，揭于客位曰：
“访及诸君，若睹朝政阙遗，庶民疾苦，欲进忠言者，请以奏牍闻于朝廷。光得与同僚商议，择可行者，进呈取旨行之，若但以私书宠谕，终无所益。若光身有过失欲赐规正，即以通封书简，分付吏人令传入，光得内自省讼，佩服改行。至于整会官职差遣，理雪罪名，凡干身计，并请一面进状，光得与朝省众官公议施行，若在私第垂访，不请语及，光再拜咨白。”
公对宾客，无贤愚长幼，悉以疑事问之。有草簿数枚，常置坐间，苟有可取，随手记录，或对客即书，率以为常。
公自见言行计从，欲以身殉社稷，躬亲庶务，不舍昼夜。宾客见其体羸，举诸葛亮食少事烦以为戒，公曰：“死生，命也。”为之益力，数月复病，病革不复自觉，谆谆如梦中语，然皆朝廷天下事也。
九月丙辰朔，公薨，年六十八岁。太皇太后闻之恸，与帝即临其丧，赠太师温国公，襚以一品礼服，赙银绢七千，谥曰文正，碑曰忠清粹德。京师人罢市往吊，鬻衣以致奠，巷哭以过车，四方来会葬者盖数万。边裔之人，亦相率具祭。都中及四方，皆画像以祀，饮食必祝焉。京师民画其像，刻印鬻之，家置一本。四方皆遣人购之京师，时画工有致富者。
公机务填委，身又感疾，犹手抄诸子书，名《徽言》。题其末曰：“余此书类举人抄书，然举子所抄猎其词，余所抄核其意。举人志科名，予志道德。”其好学不厌，克勤小物，如此其至也。小楷端谨，百世之下，安得不使人肃然起敬也哉（此书惟明人《百川书志》尚载其目，今亡）？生平著述，失传者不少。今世所流行者，有《文集》八十卷、《资治通鉴》二百九十四卷、《考异》三十卷、《稽古录》二十卷、《易说》三卷、《注系辞》二卷、《注太玄经》八卷、《注杨子》十三卷、《书仪》八卷、《家范》四卷、《潜虚》一卷（或疑他人伪托）、《续诗话》一卷、《涑水纪闻》十卷。其文如金玉谷帛药石也，必有适于用，无益之文未尝一语及之。
公薨未久，宣仁太后即崩。哲宗亲政进用群小，尽复王安石之政，追夺公赠谥。章惇、蔡卞（字元度，兴化仙游人，京之弟也。《宋史》俱列《奸臣传》）至以斫棺暴尸为请。当公病亟时，闻安石死耗，简吕申公曰：“介甫无他，但执拗耳，赠恤之典宜厚。”自安石执政，公始终与之反对，此因政见不同，处于敌位而私交自在也，故其待安石如此。观于章、蔡之所以待公者，而公之贤愈见。欲知安石之为人，观于彼之徒党而可知矣。度宗咸淳元年，以公从祀孔子庙廷。
【批评】
宋张无垢撰刘元城《尽言集》序，曰：“司马温公与王介甫清俭廉耻，孝友文章，为天下学士大夫所宗仰。然二公所趋，则大有不同，其一以正进；其一以术进。介甫所学者，申韩而文之以六经；温公所学者，周孔亦文之以六经，故介甫之门多小人，而温公之门多君子。温公一传而得刘器之（字元城，谥忠定），再传而得陈莹中；介甫一传而得吕太尉，再传而得蔡新州，三传而得章丞相，四传而得蔡太师，五传而得王太傅云。”
哲宗初年，苏轼、程颐在朝。轼恶颐，每玩侮。于是颐门人右司谏贾易、左正言朱光庭等积不能平，因借事诋轼。时吕公著独当国，群贤在朝，不能不以类相从，遂有洛党、蜀党、朔党之分。熙宁用事之臣，退休散地。怨入骨髓，阴伺间隙，而诸贤不悟，各为党比以訾议。
公薨葬之明年，哲宗命苏文忠公撰其隧碑，亲为篆其额曰：“忠清粹德之碑”。迨绍圣、崇宁间，奸臣章惇、蔡卞辈反目公为奸党，而仆其碑，磨其文。迄于靖康，虽复公封爵，而碑则埋没未立也。金皇统九年，县令王廷直，访于公从曾孙曰作曰通，得其旧本，为重刻之，并建祠祀公。元明以来，皆修置不废。
徽宗时，蔡京擅政，撰奸党碑，令郡国皆刻石。长安石工安民当镌字，辞曰：“愚人固不知立碑之意，但如司马相公者，海内称其正直，今谓之奸民，不忍刻也。”官府怒欲加罪，泣曰：“被役所不敢辞，乞免镌安民二字于石末，恐得罪于后世。”闻者愧之。
宋哲宗元祐元年正月的时候，司马光生病了。在元丰五年的秋天，司马光住在洛阳时，说话便开始不清晰了，他怀疑自己得了中风，提前写了临终前奏折，详细论述了对国家大事的想法，亲自书写并将奏折封藏起来，放在卧室，告诫儿子说：“我死后，要把这个奏折交给范纯仁、范祖禹他们，让他们把它交给皇上。”后来他的病又好了。现在他当上宰相还没有多久，便去世了，真是令人惋惜。假如上天赐给他足够寿命的话，怎么会在他死后不久，国家灭亡而朝廷南迁呢？
司马光虽然病倒了，但他时时刻刻都没有忘记国家的大事。当时的青苗、免役、将官等制度仍然还存在，而且西夏的和谈还没有决定下来。司马光感叹说：“这四个祸害不除去，我就是死了也不能瞑目啊。”于是他写信给吕公著说：“我把身体交给了医生，把家里的事情交给了儿子，只有国家的事情还没有托付，现在就把它托付给你了。”司马光仍然极力向朝廷写奏折，论述免役等五种危害，希望皇上直接下旨废除它们，全部采用熙宁年间以前的法令，下诏书立即颁布实行。又论述了应对西夏的策略，应该主张议和，而不能采用武力。当时反对者非常多，司马光坚持自己的看法。
元祐元年闰二月的时候，司马光被任命为尚书左仆射。他的病刚刚有点好转，便要去处理公事。皇上下旨让他免去上朝拜见，准许他乘坐肩舆，三天去一次都堂，或者是门下、尚书省。司马光不敢承受这样的恩赐，说：“不朝见皇上，不能够处理公事。”皇上便下旨让司马光可以坐着肩舆到达宫内东门的地方，再由他的儿子司马康扶着进入小殿来回答皇上的问题，并说可以不用跪拜。司马光很惭愧，在延和殿回答皇上的问题，拜了又拜。于是皇上废除了青苗钱，只实行谷物便宜时提高价格并开始收购，谷物昂贵时减低价格并开始卖出的政策。
司马光做了宰相，辽国人听说了，下令边境官员说：“现在司马光担任中国宰相了，你们不要无事生非，制造边界上的冲突。”司马光曾经亲自书写榜文，贴在客厅说：
“来访的诸位，如果发现朝政中有不足的地方，百姓有困苦，而想要向朝廷进献忠言的人，请你们写奏折递交给朝廷。我才能够和众位大臣们一起商议，选择合理可行的建议，呈现给皇上让他下旨推行，如果只是一些个人问候和赞誉的内容，最终没有一点用处。如果我司马光有什么过失，你们想要让我改正，也可以给我写信，让守门人传递进来给我，让我能够自我检查，勇于改正。至于任命官职和派遣职务，申辩罪名，凡是涉及自身利益的，都请大家把这些内容书写再递交上来，我才能够和朝廷的各位大臣一起商议施行，如果是在家中拜访，请不要提到这方面的内容。司马光再拜陈说。”
司马光对待宾客，没有贤人和笨人、年长和年幼的分别，都会向他们请教一些疑难问题。他有几个草稿本，常常放在置座席之中，如果有值得采纳的意见，他便随手记录下来，或是面对客人就把它写下来，这些都已经成为很平常的事了。
司马光见自己的建议被朝廷采纳推行后，便想为国家奉献一生，他亲自处理各种事物，不管白天还是黑夜。宾客们见他身体消瘦，便以诸葛亮吃的少、事情多的例子来劝告他，司马光说：“活着还是死去，都是天命啊。”于是他更加努力工作，几个月后他的病又复发了，病情严重都神志不清了，他还喃喃自语，如说梦话，然而他说的都是朝廷和天下的大事。
元祐元年九月初一，司马光去世，享年六十八岁。太皇太后听说之后十分悲痛，和皇上一起去祭奠他，并追赠给司马光为太师、温国公，赐一品礼服，赐了银子和布绢，共计七千两，赐谥号文正，神道碑为“忠清粹德”。京城里的人都结束集市活动去吊唁他，卖了衣服来祭奠他，在道路两旁哭泣送丧车离开，各地来夏县参加司马光合葬的人有数万人之多。边远地区的人们，也不约而同地祭奠他。京城及各地皆购买他的画像来祭拜，饮食之前一定先祷告一番。京城的画工画他的像，并刻印来售卖，家家都购买一幅。其他地方的人都派人来京城购买他的画像，当时有的画工就是凭借这个而发财的。
司马光尽管朝廷公务繁忙，身体又不太好，但他仍然亲手抄写诸子书，给它起名叫《徽言》。他在书的末尾题道：“我这本书和举人抄书相近，然而举人抄写的是文章中的文字，我抄写的是文章中的意思。举人追求的是功名，我追求的是道德。”他喜爱学习而不厌倦，对每件小事都非常认真，达到如此的程度。他的小楷写得非常端正严谨，千百年来，怎么不让人肃穆地产生敬佩之情呢（这本书只有明朝人在《百川书志》中记载了书名，现在已亡失）？司马光一生的著作，失传了很多。现在留存下来的，有《温国文正司马公文集》80卷、《资治通鉴》294卷、《资治通鉴考异》30卷、《稽古录》20卷、《易说》3卷、《系辞注》2卷、《太玄经注》8卷、《杨子注》13卷、《书仪》8卷、《家范》4卷、《潜虚》1卷（有人怀疑这本书是他人伪托司马光的名写的）、《续诗话》1卷、《涑水纪闻》10卷。他的文辞就好像黄金和珠玉那样美好，谷物与布帛那样朴实，药剂和砭石那样实用，一定有适用到的地方，多余的话语一句都没有。
司马光去世后不久，宣仁太后就去世了。宋哲宗亲临朝政，任用一些小人，全部恢复了王安石的新法，剥夺赠给司马光的谥号。章惇、蔡卞（字元度，兴化仙游人，蔡京的弟弟，《宋史》把他们二人都放在《奸臣传》中）甚至请求挖开司马光的棺木，把他的尸骨丢在外面。在司马光病重的时候，听到了王安石的死讯，他给吕公著写信说：“王安石并没有其他问题，只是固执了一点，安葬他的规格应该隆重一点。”自从王安石执掌朝政，司马光始终都反对他，这是因为他们的政治主张不一样，虽然处在敌对的位置但他们私下的交情仍然还是在的，因此他才会这样对待王安石。再看看章惇、蔡卞这样对待司马光，却让司马光的贤能更加明显。想要了解王安石的为人，看看他的门徒和党羽就知道了。宋度宗咸淳元年，司马光作为孔子庙里的附祭。
【评论】
宋代张无垢给刘元城的《尽言集》撰写序时，说：“司马光和王安石都清高节俭，懂得廉耻，他们的道德文章，都为天下学子和士大夫们所敬仰。然而他们二人的追求，却大不相同，一个凭借强调合乎法则而被任用，一个凭借治国方法而被任用。王安石学的是申不害和韩非并以六经为文饰；司马光学的是周公和孔子也是以六经为文饰，因此王安石门下大多是小人，而司马光的门下大多是君子。司马光的第一个门生是刘器之（字元城，谥号为忠定），再传门生是陈莹中；王安石的第一个门生是吕太尉，再传门生是蔡新州，三传门生是章丞相，四传门生是蔡太师，五传门生是王太傅。”
宋哲宗初年，苏轼和程颐都在朝廷做官。苏轼厌恶程颐，每次都戏耍侮辱他。于是程颐的门人右司谏贾易和左正言朱光庭等人心中不满，因此找事来对抗苏轼。当时吕公著一个人执掌朝政，很多贤人都在朝廷做官，这些人都和自己政治主张相同的人聚在一起，于是便有了洛党、蜀党、朔党的区别。熙宁年间得到任用的大臣，都被罢免了。他们对这一举措十分怨恨，偷偷地寻找机会，而各位大臣还不知道，各自为自己的利益集团来诋毁别人。
司马光死后下葬的第二年，宋哲宗命令苏文忠公给司马光撰写神道碑，并亲自篆写了碑额为：“忠清粹德之碑”。等到绍圣、崇宁年间，奸臣章惇、蔡卞他们反而认为司马光是背叛朝廷的人，推倒了他的墓碑，磨掉了碑文。直到靖康年间，虽然朝廷恢复了司马光的封爵，但墓碑还埋在地下没有树立起来。金朝皇统九年，县令王廷直拜访了司马光的从曾孙司马作和司马通，得到了原来的碑文，为司马光墓重新刻写了碑文，并建了司马光祠来祭祀他。元朝和明朝以来，都不断修葺而没有荒废。
宋徽宗在位的时候，蔡京独揽朝廷大权，要给司马光撰写奸党碑，下令各个郡国都要刻写这个石碑。长安石匠安民也应该去刻字，他却推辞说：“我虽然不知道立碑的目的，但像司马宰相的这样的人，天下人都称赞他正直，现在说他是奸诈刁民，我不忍心刻写。”官府的人非常生气，想要治他的罪，他哭着说：“我被役使不敢推辞，只希望不要在石碑的末尾刻上安民这两个字，我害怕会得罪后世的人。”听了这话的人都非常惭愧。