神宗对此没有表态。司马光锲而不舍，连续上疏七八次，论点基本相同。后来神宗终于烦了，告诉司马光：“枢密院的职责是掌管与军队国防有关的事务，官各有职，不应当论奏其他的事情。”司马光说：“我还没接受您的任命，现在仍是侍从身份，各种事情知无不言。”王安石出来主持政事，司马光的辞官要求被批准，于是以端明殿学士知永兴军。
　　 四、名高千古
　　 司马光虽然暂时远离了政治中心，并且在洛阳判西京御史台时闭口不提国事，但他的影响力非但没有受到削弱，反而越来越得到颂扬。天下人都认为司马光是真宰相，在田间劳作的人称呼他为司马相公，连妇女儿童都知道这就是司马君实。在洛阳的十五年，他大多数时间都在编写《资治通鉴》，神宗对此颇为重视，还曾将颍王府的两千四百卷旧书赏赐给司马光方便他编写，书成后，司马光加为资政殿学士。
　　 神宗驾崩，司马光回京奔丧，京城卫士看到他，都以手加额称幸说：“这就是司马相公。”司马光到的地方，百姓聚众围观，致使司马光的马无法行走。更有人直言劝说司马光：“你不要再回洛阳去了，就留在这里辅佐皇上吧。”由于哲宗年幼，太皇太后高氏执政，派使者询问司马光当务之急，司马光回答说开言路。于是朝廷在宫中张榜让百官提意见。执政大臣中有人不高兴，在诏书中加进了这样几句话：“如果阴怀不轨，超越职权议论问题，或煽动动摇时政，或迎合已经实行的法令，上以侥幸升迁，下以迷惑流俗，提这类意见，罚无赦。”太皇太后将这份文件给司马光看，司马光说：“这哪里是求谏，这分明就是拒谏。人臣只有不提意见，提意见就会触犯这六条。”于是重新修改实行，收到上书达千封。高太后迫切需要像司马光一样老成的大臣来稳定政局，所以启用司马光为陈州知州，随即在他路过京师时留任门下侍郎。司马光深感自己时日无多，所以迫切希望在倒下之前将新法纠正过来。因此当有人提出“三年无改于父之道”时，司马光说：“先帝实行的法令，好的当然可以百世不变。但是王安石、吕惠卿这些人制定的法令，危害天下，改变它就像救水火之患那样丝毫迟误不得。更何况太后太后现在是以母改子，不是子改父道。”司马光巧妙地偷换概念平息了这场议论，于是废除保甲团练，不再实行保马；废除市易法，所存的物品全都卖掉，不收取利息，免除百姓欠债；京东铁钱及茶盐之法，全都恢复旧制。有人为司马光担心，说：“熙宁、元丰年间的旧臣，多是阴险小人，如果将来有人以父子之义来离间你和皇帝，将给你带来祸患。”司马光毫无惧色，侃侃而谈：“如果上天保佑赵氏宗庙社稷，必无此事。”司马光威望极高，说出去的话无疑平息了相当一部分议论，不少人都说“这就是先帝的本意啊”。
　　 这一年是哲宗元佑元年（1086），司马光已经走到了人生之路的尽头，没过多久他再次生病。这时青苗、免役、置将等法令仍然实行，包括西部议和在内的一系列问题也没有解决。司马光将此比作四害，并说：“四害未除，我死不瞑目。”接着他上书议论免役法的五种害处，建议直接废除；后来他觉得进度还是太慢，又上书直接表明自己的意见：各将的军队都隶属于州县，由地方行政长官直接负责；废除提举常平司，将它的工作分摊给转运使和提点刑狱；边疆之事以议和为宜，不能再拖下去。他还认为新进监司的多是一些没有经验的少年，严苛且急功近利，所以希望朝廷能从州府长官中挑选，在通判中选择转运判官。这些建议全都被朝廷采纳。随即司马光被任命为尚书左仆射兼门下侍郎，最终废除了青苗法而恢复常平法。高氏和哲宗对司马光言听计从。司马光也意识到了这一点，加倍努力工作，不分白天黑夜亲自处理日常政务。他门下的幕僚们看到这样，便举出当年诸葛亮食少事烦的故事。司马光丝毫不以此为意。后来他病重，口中念念有词，好像是说梦话一般，但仔细一听，居然全都是天下之事。
　　 司马光以他的勤奋和忘我赢得了天下的尊重。这年九月他病逝，赠太师、温国公，谥号文正，钦赐碑额为“忠清粹德”。
　　 就总体上看，司马光主持的“元祐更化”废除了绝大部分新法，这种不分青红皂白、矫枉过正的做法是不值得鼓励和效仿的。当时苏辙就提出司马光步子迈得过大过快，因为新法已经实行了十多年，老百姓已逐渐适应新法的节奏，突然废止肯定让很多人都接受不了，而且也没有给基层政府留下响应上级号召的时间，所以苏辙建议司马光以十年为限，逐步调整那些不符合实际、收效不大的法令，但也不一定回到老路上去。然而遗憾的是，司马光在这一点上和他批评过的王安石一样执拗，将废除新法和效忠国家放到同等高度来对待，这就必然导致了在实际操作过程中留下了很多后遗症。这是司马光的失误，但我们可以认定的一点是，司马光和王安石一样，在国家大政上从没有掺杂任何私人恩怨，他们的所作所为完全都是出于公心。至于后来很多人曲解司马光将他作为挡箭的招牌，显然有违当年温公的意愿，不过徒令后人耻笑罢了。