元祜元年二月，太皇太后任命司马光为尚书左仆射兼门下侍郎(即左丞相官名)。这下他是名符本来的“相公”啦。两个月后，又任命吕公著为尚书右仆射兼中书侍郎(即右丞相官名)，使他们两人同心辅政，共同管理国家大事。
司马光做丞相时，身体十分虚弱。太皇太后为照顾他，免他朝觐(定期上朝拜见皇帝)，并特准他三日一次坐轿入朝。司马光想:“不见皇帝陛下，咋理国事?”因此，他坚持照常上朝行礼，不分昼夜地处理政务。
听说司马光为相，经常侵扰宋境的辽和西夏，十 分惊恐，急忙指令边境守将:“中国起用司 马光为相了，你们不要轻举妄动!”每次派使者来，总要拜访司马光，说几句好听的话。这么一来，边境暂时平静无事，使他得能安心料理国内大事。
有一天，司马光和吕公著在政事堂(丞相办公的地方)相见，十分亲热。 吕公著见他身体羸弱，就担心地说:“老弟， 不要老命啦，可要保重身体啊!”
司马光笑呵呵地说:“事情这么多， 我纵有三头六臂也做不完哪!”
“当年诸葛亮，一心辅刘备争天下，日夜操劳，饭食天天减少，最终不是累死了!”吕公著边说边看司马光一眼，“老弟，可要引以为戒啊!”
“我哪能同诸葛亮相比?他是个料事如神的才子。至于我，笨牛拉车，只好出蛮力。”司马光坦然地笑着说。
司马光回到家里,对朋友的劝告很感动。他想，年岁大了，不多做些事，九泉之下怎能安息?接着他又想，在西京时，到处可听到有人批评朝政，谈论民间疾苦，可是一到京城做了丞相，什么也听不到了，好象与世隔绝了。当天夜里躺在床上，反复思考，如何也睡不着。过去提倡开言，轰动一时，可是时间一久，就平息了。上下不通气，怎么施政?他想，得以身作则，开言纳士。主意一定，立即披衣起身，点着蜡烛，展纸研墨，写一张“开言纳士”的告示。此刻他的精神特别好，一口气就把告示写好了。