吕公著字晦叔，寿州人。从小嗜好学习，以至废寝忘食。父亲吕夷简对他器重惊异，说：“今后必定为王公辅臣。”恩补奉礼郎，登进士第，召试馆职，没有赴任。为颍州通判，郡守欧阳修与他结为讲学之友。后来欧阳修出使契丹，契丹主询问中国学问德行之士，首先答以吕公著。判吏部南曹，仁宗奖许他淡于名利，赐给五品官服。被任为崇文院检讨、同判太常寺。寿星观营造真宗神御殿，吕公著说：“先帝已经有三神御殿，但不停地建立，岂不是祭祀没有丰厚父庙之义。”进官知制诰，三次辞谢不受君命。改任天章阁待制兼侍读。
英宗亲政，加吕公著官龙图阁直学士。正议论追崇濮王，有的打算称呼皇伯考，吕公著说：“这是真宗所以称呼太祖，怎么能施于王。”等到下诏称亲，而且分赐讳号，吕公著又说：“称亲则有二个父亲的嫌疑，王讳可以避于上前，不应与七庙同讳。”吕诲等人因论濮王离开朝廷，吕公著说：“陛下即皇位以来，纳谏之风没有彰扬，而且多次贬退谏官，何以风示天下？”英宗没有听从他的意见。吕公著于是请求补外任，英宗说：“学士为朕所器重，怎么能够离开朝廷？”吕公著不停地请求，出任蔡州知州。
神宗即皇帝位，召吕公著为翰林学士、知通进银台司。司马光因论事被解除御史中丞的职务，回到经幄。吕公著封还这个诏命说：“司马光因举职赐罢，这是为有言事职责的人不能尽其言。”诏令以告示直接付给..门。吕公著又说：“制命不由门下省，那么封驳的职责，因我而废弃。希望治我的罪，以端正纪纲。”神宗示谕他说“：之所以流放司马光的原因，是依赖他劝学而已，不是因为言事的缘故。”吕公著不停地请求，终于解除知通进银台司的职务。
熙宁初年，吕公著知开封府。当时夏秋久雨，京师发生地震。吕公著上疏说“：过去人君遇灾，有的恐惧以致福，有的简诬以致祸。陛下以至诚待臣下，那么臣下思虑尽诚以回报，上下至诚而变异不消失的，从来没有。做人君主的只有除去偏听独任的弊端，而不被先入之语所蒙蔽，那么就不会被邪说所乱。颜渊问为邦国之道，孔子答以疏远奸佞之人为戒。大概奸佞之人惟恐不顺合君意，那么其势必容易亲近，正直的人惟恐不符合大义，那么其势必容易疏远。只有首先格王端正此事，没有事正而世不治理的。”礼官遵用唐代旧例，请求五月临御大庆殿接受朝拜，因而上尊号。吕公著说：“陛下正超越汉、唐，追复三代，何必在阴盛的日子，为不符合礼义的朝会，接受无益的虚名？”神宗采纳了他的意见。
熙宁二年(1069)，任御史中丞。当时王安石正颁行青苗法，吕公著急速上言说“：自古以来有作为的君主，没有失去人心却能图治，也没有能胁之以威、胜之以辩却能得人心的。过去所谓的那些贤能之人，现都认为青苗法为非，但发出议论的人把这一切诋毁为流俗浮论，难道过去都是贤能而现在都是不肖吗？”王安石对他的深切之语感到愤慨。神宗让他荐举吕惠卿为御史，吕公著说：“惠卿固然有才能，但奸邪不可以任用。”神宗把这话告诉王安石，王安石更加愤慨，诬陷吕公著恶语中伤，吕公著出任颍州知州。
熙宁八年(1075)，彗星出现，下诏求取直言。吕公著上疏说“：陛下临朝希望治理国家，时日已经很久，但左右前后，没有人敢直言。致使陛下有想治理天下的雄心，但没有致治之实，这是任事大臣辜负了陛下。大概士人的邪恶正直、贤能不肖，已经素定了。现在则不是这样，前不久所荐举，认为是天下最贤能的人；但后来被贬逐，认为是天下最不肖的。其于人才既然反复无常，那么于政事也违背常理不加审慎了。古代为政，开始不为百姓所信服的有之，像子产治理郑国，一年后人们怨恨，三年后人们歌颂。陛下垂衣拱手希望成功，于此七年，但众人的陈述，与以前相比也没有什么不同，陛下难道没有察觉吗？”
起用为知河阳，召回朝廷，提举中太一宫，迁任翰林学士承旨，改任端明殿学士、知审官院。神宗慢慢同吕公著谈论为治之道，于是涉及佛、老，吕公著问道：“尧、舜知道此道吗？”神宗说：“尧、舜难道不知？”吕公著说“：尧、舜虽然知此，但惟独以知人安民为难事，所以成为尧、舜也。”神宗又说唐太宗能以权智驾御臣下。吕公著回答说：“唐太宗之德，以能屈己从谏而已。”神宗对他的话表示赞许。
不久，为同知枢密院事。有人打算恢复肉刑，建议取死囚试验割掉鼻子、砍掉脚的酷刑，吕公著说：“如果试之不死，那么肉刑就会实行了。”于是停止。西夏幽禁了其国王，朝廷将要大举征讨西夏。吕公著说：“兴问罪之师，当首先选择主帅，如果没有合适的人，不如不兴。”等到兵兴，秦、晋民力大困，大臣们不敢说，吕公著多次报告兴兵的害处。
元丰五年(1082)，吕公著因病乞求离开职位，被授予资政殿学士、定州安抚使。不久永乐城陷落，神宗临朝叹息说：“边地百姓疲敝如此，只有吕公著向朕说过而已。”移居扬州，加大学士。将要立太子，神宗对辅佐大臣说，应当以吕公著、司马光为师傅。
哲宗即皇帝位，吕公著以侍读的身份返回朝廷。太皇太后派使臣迎接，询问他所想要说的，吕公著说：“先帝本意，以宽省民力为先务。但建议的人以变法侵夺百姓为务，与自己意见不同的统统斥去，因此日久而弊端更深，新法颁行而百姓更加困苦。诚然能得公允正直之士，讲求天下利弊，同心协力而为之，应该不难。”到达朝廷就上言说“：人君才即位，应该正始以示天下，修德以安百姓。修德的要旨，莫先于学习。学有积渐至于光明，则天天更新以至于至治，这是学习的效力。谨冒死陈述十事，曰畏天、爱民、修身、讲学、任贤、纳谏、薄敛、省刑、去奢、无逸。”又请求备置谏员，以开言路。被授予尚书左丞、门下侍郎。
元..元年(1086)，吕公著被授予尚书右仆射兼中书侍郎。中书、门下、尚书三省一同建置，中书独为取旨之地。吕公著就请求事于三省者，与执政大臣共同进呈，取旨而各自实行。又执政官员通常几天在政事堂一聚，事情多由其长官决定，同事不得干预。至此，才命每天集聚，于是成为定制。吕公著与司马光同心辅政，推本先帝之志，凡是打算变革却没来得及予以变革以及已经变革而未形成定例的，一一全部实行。百姓欢呼鼓舞，都以之为便。司马光去世，吕公著独自当权，所任命的官吏都是当时的佼佼者。当时科举废除词赋，专用王安石的经义，而且杂以佛教的学说。凡士子从一句话以上，非新义不能用，学习的人以至于不诵读正经，只窃取王安石之书以营谋官职地位，精熟的人转上第，因此科举越来越坏。吕公著开始命令主管科举的部门不得以老、庄书中出题，应试科举的士人不得以申、韩、佛书为学，经义参用古今各家儒说，不得专取王氏。恢复贤良方正科。
右司谏贾易因言事攻击别人短处直接诋毁朝廷大臣，将要被严厉责罚，吕公著替他说话，只罢知怀州。吕公著退朝对同事说：“谏官所议论，得失不足言。看主上正值壮年，担心今后有人进谀说惑乱，正是依赖左右诤臣，不可以使人主轻厌言事之人。”众人没有不叹服的。
吐蕃首领鬼章青宜结很久以来成为洮、河一带的祸患，听说朝廷息兵省戍，暗地与西夏人合谋再取熙、岷州。吕公著报告派遣军器丞游师雄以方便谕求众将，不过一个月，活捉鬼章青宜结致于朝宫下。
神宗在资善堂宴请亲近大臣，拿出所书写的唐人诗分赐给众人。吕公著就聚集所讲书中要语明白、切合于治道的，共一百篇进献，以备神宗游意翰墨，作为圣学的帮助。
元..三年四月，恳请辞去职位，被授予司空、同平章军国事。宋朝建立以来，宰相以三公平章重事者四人，而吕公著与他的父亲居其二，士人羡慕吕氏的荣耀。诏令在东府南面建造府第，打开北门，以方便执政大臣聚会议事。凡是三省、枢密院的职责，都得总理。每隔一天一朝会，因到都堂，吕公著出不以时，这是特殊的恩典。
第二年二月吕公著去世，终年七十二岁。太皇太后接见辅佐大臣哭泣说：“国家不幸，司马相公已死，吕司空又逝世。”痛惜怜悯了很长时间。神宗也悲痛感伤，就到吕家临幸祭奠，赐给金子布帛万计。赠太师、申国公，谥号为“正献”，亲自书写墓碑头曰《纯诚厚德》。
吕公著从年青时讲学，就以治心养性为本，平日居处时无疾言厉色，对于歌舞钱财荣耀，淡泊无所喜好。暑热不挥扇，寒冷不烤火，简重清静，大概是天生禀性使然。他的识见深切敏锐，气量宽宏而且学问精粹，遇事善于决断，如果对国家有利，不因私下的利害动摇其心。与人交往，出于至诚，好德乐善，见士大夫以人才为意的，必问其所知道的与所听到的，参互考语查实，以达闻于皇帝。每每议论政事，总是博取众人之长以为善，他自己认为应当信守的，则坚决按自己的意志办，从不改变自己的信念。神宗曾经说他是真正的名副其实的人才。尤其能做到避远声迹，不以知人自处。
起初，吕公著与王安石很好，王安石待之如兄长，王安石能言善辩，没有人与之抗衡，唯独吕公著能以精辟的见识和简洁的言语制服他。王安石曾说“：疵吝每不自胜，一到长者面前，即废然而反，这就是说使人打消自己的念头，这一点在吕公著那儿体现得最充分。”又曾对人说“：吕公著为相，吾辈可以谈论做官了。”后来王安石得志，受到重用，以为吕公著必定会帮助自己，但吕公著却数次公开上言，陈述他的过失，因此二人交情不终。吕公著尤其擅长演讲，语言精约而道理尽明。司马光说“：每次听吕公著演讲，就觉得自己的语言太烦杂。”吕公著就是这样受到当时名流的敬重。
绍圣元年(1094)，章..为相，任命翟思、张商英、周秩任言官，议论吕公著更变熙丰法度，削除他的赠谥，毁坏皇帝所赐碑，再贬谪为建武军节度副使、昌化军司户参军。徽宗即位，追复为太子太保。蔡京擅政，又降为左光禄大夫，载入元..党人籍，不久恢复为银青光禄大夫。绍兴初年，赠谥全部封还。吕公著的儿子吕希哲、吕希纯。