宋神宗统治时期，封王安石为宰相，开始大规模地实施变法。作为守旧派的中坚力量，司马光上书指出“先王之法，不可变也”，坚决反对王安石变法。为此，司马光还曾与王安石在神宗面前争论不休。当时，神宗变法的意志还很坚定，司马光却总是给他泼冷水，结果触怒了龙颜。随后，司马光主动请求调离京城，到洛阳一住就是十五年。
早在神宗的父亲英宗在位时，司马光就开始编撰《资治通鉴》，当时这本传世巨著还叫《通志》。后来，英宗看到了《通志》的前八卷，对司马光大加赞赏，专门为司马光设立了书局，向他提供人力和资金帮助，支持他继续往下写。神宗登基以后，将此书赐名为《资治通鉴》，因为他认为此书“有鉴于往事，以资于治道”，不仅如此，神宗还亲自为此书作序。司马光到洛阳任职时，将整个书局都一起带到了洛阳，并在洛阳继续编撰《资治通鉴》。
司马光祖籍山西，他的父亲司马池为人宽厚，为官清正廉明，官拜四品，还曾在藏书阁担任皇帝的顾问。司马池在河南光州担任光山县令时，他的夫人为他诞下一子。司马池非常高兴，遂以当地的地名为儿子命名，叫儿子做司马光。司马光自幼喜欢读书，时常读到废寝忘食。他小小年纪就对历史十分感兴趣，生平最喜欢的书就是《左氏春秋》。
司马池非常重视对儿子的教育，司马光天资聪颖，再加上父亲的严格教导，让他从小就表现出与众不同的特质。司马光砸缸救人的故事流传至今，在当时更使得他享誉京城内外。
清代名臣陈宏谋曾称赞司马光“一生以至诚为主，以不欺为本”。司马光从小就懂得了诚实守信的重要性，这同样源自父亲的教导。司马光五六岁的时候，有一回想要剥核桃，但他自己并不会剥，便叫一名女佣帮自己剥。剥好之后，他骗姐姐说，核桃是他自己剥的。父亲知道真相后，斥责他说：“小小年纪就敢这样说谎骗人！”司马光终生铭记这件事，从此再也没有说过一句谎话。
后来有一次，司马光吩咐管家将家中的一匹马卖掉。这匹马有肺病，一到夏天就会犯病，但在其余的季节却完全看不出来。司马光叮嘱管家，在买卖成交前，一定要先将此马有病的情况向买家言明。司马光说：“这匹马能卖多少钱其实无所谓，但是我们一定要诚实守信，决不能为了钱财而坏了自己的信用，否则就损失惨重了。”
司马光为官极为清廉，仁宗在位时，曾打算赏赐给他大量的金银财宝，结果竟遭到了他的拒绝。他在洛阳编撰《资治通鉴》期间，生活十分拮据。其妻张氏过世时，他连为妻子治丧的钱都拿不出来。为了给妻子办一个体面的葬礼，他便将自己仅有的一些田地全都当掉了。此后，一位朋友见他年纪老迈，孤苦无依，便想送给他一名婢女，侍奉他的日常起居。这本是朋友的一番好意，但司马光却婉言谢绝了。
司马光是一名真正的君子，一生光明磊落，无愧于天地。无论是时人还是后人，都无法从他的品行之中挑出半点瑕疵。即便是与他政见相左，针锋相对的王安石也不得不称赞他：“司马君实，君子人也！”“君实”正是司马光的字。
司马光饱读诗书，才华出众，十九岁时便考取了进士，从此开始了他的政治历程。有人说，司马光的一生总共做了两件大事，其中之一自然是编撰完成了《资治通鉴》。
在洛阳的十五年间，司马光将全部心血都倾注在《资治通鉴》的编撰工作中。尽管书局里有很多助手从旁协助，儿子司马康也加入其中，帮他校对。然而，在具体的编撰过程中，司马光从不假手他人，《资治通鉴》的字字句句全是他的心血。后来，在《进资治通鉴表》中，他说自己已是“筋骨癯瘁，目视昏近，齿牙无几，神识衰耗”。为了完成此书，司马光历经漫长的十九年岁月，勤勤恳恳，呕心沥血。长期的辛劳把他的身体彻底压垮了，《资治通鉴》完成以后不到两年，司马光就病逝了。
《资治通鉴》全书共计三百余万字，分为二百九十四卷，以时间为纲，以事件为目，从战国初期开始写起，一直写到五代末期后周世宗柴荣征战淮南，时间跨度长达一千三百六十二年。
《资治通鉴》总共描述了十六个朝代的历史，详近略远。全书有四成内容都在描述隋唐五代的历史，其中唐朝占据的篇幅最多，占据了全书的八十一卷。司马光对于盛世的描写尤其详尽，文景之治与贞观之治等都成为他描述的重点。他总是喜欢在陈述完史事以后，再加上相关的评论。这些评论大部分都出自他的手，以“臣光曰”开头，其余的评论则出自各个名家之手，使《资治通鉴》成为“鉴前世之兴衰，考当今之得失”的不朽名著。
《资治通鉴》堪称中国古代君主的教科书，纵观我国的古代史，也就只有司马迁的传世巨著《史记》能与之媲美，司马光因此和前辈司马迁并称为“史学两司马”。南宋史学家王应麟曾说过：“自有书契以来，未有如《通鉴》者。”清代史学家王鸣盛也说：“此天地间必不可无之书，亦学者不可不读之书。”
除了编撰《资治通鉴》以外，司马光还做了一件大事，那就是反对王安石变法。王安石是北宋朝中改革派的先驱，司马光却是保守派的中流砥柱。两人在政治上有着极大的分歧，但这并不代表他们有忠奸之分。事实上，无论是王安石还是司马光，都对北宋朝廷忠心耿耿，他们所做的一切皆是出于为国为民的真心。
当时的北宋内忧外患，迫切需要改变现状。王安石认为只有通过大刀阔斧的改革才能实现国富兵强，而司马光则认为这样的改革措施太过激进，只怕过犹不及，因此他主张循序渐进地进行各项整顿。尽管司马光的政治主张有些保守，但在实践的过程中，显然比王安石雷厉风行的大变革更具有可行性。
司马光与王安石在政治上的斗争完全是君子之争。在斗争的前期，王安石率领的改革派占据了上风。司马光被迫离京，远走洛阳。然而，司马光并未因此记恨王安石，当时曾经有人劝说司马光上书诋毁王安石，结果遭到了司马光的严词拒绝。司马光与王安石虽是政治上的敌人，却又惺惺相惜。
宋哲宗即位后，司马光返回京城，主持朝政。然而《资治通鉴》的编撰工作早已耗光了他毕生的精力，年老体衰的司马光执政不到两年就因病去世了。京城百姓为之失声痛哭，数万人赶来参加他的葬礼。哲宗命人将其风光大葬，赠其谥号“文正”，并在其墓碑上亲笔书写了“忠清粹德之碑”六个大字。