李穆，字显庆，李贤的弟弟。从小聪明敏捷，有度量。西魏文帝入关，他便侍奉左右，深被文帝亲近和知遇。他小心谨慎，从不懈怠。侯莫陈悦害死贺拔岳，周文帝宇文泰从夏州率兵讨伐侯莫陈悦，陈悦的同党史归占据原州，仍替侯莫陈悦死守。宇文泰命侯莫陈崇进攻他。李穆这时先在原州城中，与兄长李贤、李远作为内应，抓住史归。因立功被授予都督。他因参与了迎接魏孝武帝的事情，被封为永平县子。他又带领乡兵，擒获窦泰，收复弘农，都立有战功。沙苑大捷，他建议说：“高欢今日已经被打得魂飞胆丧，请赶快追赶，可以将他活捉。”宇文泰没有采纳。根据前后建立的功劳，他被晋爵为公。
邙山之役，宇文泰骑的马被流矢射中，受惊狂奔，他被摔在地上。敌兵追赶上来，他周围的人也都走散。李穆跳下马，用马鞭抽打宇文泰的脊背，口中大骂说“：你这个不振作的败兵，你的军曹在哪里？一个人在这里干什么？”敌兵见他被轻慢和侮辱，不怀疑他是大官，便放掉他走开。李穆把马交给宇文泰，和他一起逃跑。这一天如果没有李穆，宇文泰就会被敌人抓住。过了一会儿，两个人相对哭泣。从此，宇文泰对他的恩遇更加隆重，曾对左右的人说：“危难中救我的，就是这个人啊！”提拔他为武卫将军、仪同三司，晋封爵位为安武郡公。前后给他的赏赐，不可胜计。宇文泰感叹他的忠诚，说：“人最宝贵的只有生命，李穆却轻视自己的生命救我，爵位玉帛，都不足以报答他。”便特意赐给他铸在铁券上的诏书，饶恕他犯十种罪可以不死。朝廷晋封他为骠骑大将军、开府仪同三司、侍中。邙山失败的那一次，李穆送给宇文泰的是一匹毛色青白间杂的马，以后宫中马厩中凡有这种颜色的马，宇文泰都赠给他。又赐给他儿子李淳的爵位为安乐郡公，他的一位姐姐为郡君，其他姐妹都为县君。他的兄弟子侄，以及够得上穿孝衣守丧的亲属和他的舅父，都给予很优厚的赏赐。
后来，他跟从宇文泰解除玉壁的包围，被封为安定国中尉。又历任同州刺史、太仆卿。跟随于谨平定江陵，因立功，朝廷封他的一个儿子为长城县侯。不久，又晋位为大将军，赐姓拓跋氏。率军攻打曲沔的蛮族，将他们打败。不久，朝廷命他为原州刺史，封他的长子李淳为仪同三司，封李贤的儿子为平高郡守，李远的儿子为平高县令，并给予鼓吹的仪仗。他因一家叔侄三人都成为乡里的牧守，朝廷的恩遇过于隆重，坚辞不受，宇文泰不允许。后来他入京城任雍州刺史，兼小冢宰。周孝闵帝称帝，又封他的一个儿子为升迁县伯。他请求将爵位授给兄长李贤的儿子，朝廷同意了。
他兄长李远的儿子李植因谋害宇文护被诛死，他也坐罪被免官除名。原先他知道李植不忠于皇室，劝李远除掉他，李远没有听取。李远临死前，哭着对他说“：显庆，我不听你的话，所以有今天。有什么办法呢？”他也因此免受诛杀，他的子弟也被免官。这时，李植的兄弟李基按律当被杀死。他请求用自己的儿子李淳、李怡等人代替李基去死，言词和道理十分酸楚恳切，听的人无不被感动，宇文护可怜他，便特意免去李基的死罪。
明帝即位后，封他为骠骑大将军、开府仪同三司、大都督，又恢复安武郡公的爵位，命他任直州刺史。武成时，他的子弟被免去官爵的全都恢复。他又迁任为大司空。天和二年(567)，武帝晋封他为申国公，将旧爵授给他的一个儿子。建德元年(572)，迁任太保，不久，出任为原州总管。建德四年，武帝东征，命他攻打轵关以及黄河以北各县，他都一一打破。后来因武帝有病撤兵，攻占的地方又弃而不守。建德六年，晋封为上柱国，任并州总管。这时，东部的北齐刚被平定，人们的情绪还浮动不安，他安详抚慰，百姓们都很怀念他。大象元年(579)，朝廷给他增加食邑至九千户，迁任他为大左辅，总管的职务不变。大象二年，朝廷下诏加封他为太傅，仍担任总管。
隋文帝杨坚任北周的宰相，尉迟迥举兵反叛，派人来劝李穆响应。李穆关押来使，把尉迟迥策反的书信送给杨坚。他的儿子李士荣认为他掌握着天下精兵，暗中劝他响应。他不听从，说“：北周朝廷德政衰败，愚笨的和聪明的都看得很清楚，天意就是这样，我们怎么能违背天意呢？”他便派人去拜谒杨坚，并送上天子用的十三环金带，以表达自己的心意。这时，尉迟迥的儿子尉迟谊任朔州刺史，被抓获送到京城。尉迟迥命自己委任的行台韩长乐攻陷潞州，俘获刺史赵威，命当地人郭子胜为刺史。李穆派兵讨伐，抓住了郭子胜。杨坚嘉奖他，认为他的功劳如同打破邺城一样，立下了第一大功，三次加封官爵，允许他分授给李荣和李才两个儿子，以及李贤的儿子李孝轨。李荣和李才都任仪同大将军，李孝轨晋为开府仪同大将军。另外，又封他的儿子李雄为密国公。他秘密上表劝杨坚称帝。杨坚受北周静帝禅让，即皇帝位，下诏对李穆说：“公旧有大德，且又父子多人同心助我，敬悉您上表的大旨，便于这月十三日膺承天命。”不久，李穆来朝拜，文帝走下座位迎接他。封他为太师，并规定他上朝时不报自己的姓名，封给他真安县食邑三千户。他的子孙虽然还在襁褓中，也都封为仪同。一门之中持朝笏的有一百多人，其尊贵兴旺当时无与伦比。他上表请求辞政养老，文帝下诏说：“你年事已高，精力衰减，现在命令有司，免去你每天上朝集会。如有重大事务，需要我们共同商议，我另派侍臣，到你的家里征询意见。”
这时，太史奏请迁都，文帝认为即位不久，很是为难。李穆便上表极力陈说迁都的好处。文帝一直嫌旧都地面狭小，宫内常闹鬼怪。苏威曾劝他迁移，他没有采纳。看到太史的奏疏，他的心思开始动摇。这时看到李穆的表章，说：“天道英明，已有感应。太师为众人仰望，也持这种意见，可以迁都了。”便听从了李穆的建议。
过了一年多，文帝又下诏说：“李穆从今以后，如果有了罪过，只要不是谋逆造反，虽然应该死一百次，也不追问。”开皇六年(586)，李穆去世，时年七十七岁，遗言是以不能陪同文帝到泰山封禅为最大的遗憾。朝廷派黄门侍郎监护他的丧事，追赠他为十州诸军事、冀州刺史，谥号为明。