李崇矩字守则，是潞州上党人。年幼时孤贫，有善行，被乡里人所推服。汉祖在晋阳起兵，驻扎在上党，史弘肇当时任先锋都校，听说崇矩的名声，召来任为亲吏，乾..初年，史弘肇总领禁兵兼任京城巡检，常常残杀军民，身边的部属害怕，慢慢都离开了他，只有李崇矩奉事他越发严谨。弘肇被诛杀时，得以身免。
周太祖与弘肇向来交情很好，即皇帝位后，访求弘肇的亲属故交，得到崇矩。对他说：“我与史公得到后汉的厚恩，同心尽力，共同辅助王室，被奸邪构陷，史公最终遭到大祸，我也仅仅得以身免，你是史氏家的故吏，请你替我寻找他家的近属，我要怃恤他们。”崇矩推荐史弘肇母亲的弟弟福。崇矩历来主持他家家事，把财产都收集拢来交给福，周太祖赞美他，把他收用在世宗军中。显德初年，补任供奉官。跟从世宗征伐高平，因战功转任供备库副使，改任作坊使。恭帝即位，命崇矩向南唐告哀。回来后任判四方馆事。
宋朝初年，李筠叛乱，任命崇矩率领龙捷、骁武左右射禁军数千人驻屯河阳，率领所部进攻大会砦，攻克下来，斩敌五百人。改任泽、潞南面行营前军都监，与石守信、高怀德、罗彦瑰在碾子谷共同大败李筠的部队。泽、潞平定时，派崇矩先入城，收管图册，管理府库。于是上言说“：上党是我的故乡。我的父亲还是用槁草埋葬，希望能让我护送棺材回到京师。”皇帝答应他的要求，赏赐很多。部队回到京城，正遇判三司张美出任地方官，朝廷任命崇矩为右监门卫大将军，充任三司使，跟从皇帝征讨李重进，回朝后任宣徽北院使，仍然判理三司。
乾德二年(964)，崇矩代替赵普任枢密使。乾德五年，加官检校太傅。当时剑南刚刚平定，禁军军校吕翰聚众作乱，军队里亡命之徒很多。在他的营中，有人上言请求诛杀他们的妻子。太祖犹疑不决，告诉崇矩。崇矩说：“叛亡之徒固然应当诛杀，但按名册应当诛杀的有几万人。”太祖说“：我惟恐有人是被他驱使而作乱，并非出自本意。”于是下令全部释放。吕翰的军队士兵听说后，慢慢回家了。不久，吕翰败灭。
开宝初年，跟从皇帝征伐太原。军队班师回朝途中，任命崇矩为后殿。驻扎在常山，染上疾病，太祖派太医诊治，命他乘凉车回京城。崇矩叩头说“：凉车是天子的座车，让我乘坐此车是加速我的死亡啊！”坚决谢绝得免。
当时赵普任宰相，崇矩把女儿嫁给赵普的儿子承宗，两家交情友善，皇帝听说后不高兴。有个叫郑伸的人，在崇矩门下当门客仅十年，性情险诈没有德行，崇矩对他慢慢疏远，郑伸怀恨在心，于是上书告发崇矩的阴谋。崇矩不能自己辩明。太祖不予查问，让他出京任镇国军节度，赐郑伸同进士出身，任命为酸枣主簿；仍然赐给崇矩器币、裘衣、银带。开宝六年，崇矩入朝任左卫大将军。
太平兴国二年(977)夏天，黄河河防常常决口，诏令崇矩乘驿马从陕到沧、棣，巡视河堤。这年秋天，出京任邕、贵、浔、宾、横、钦六州都巡检使。不久，改任琼、崖、儋、万四州都巡检使，部下军士都害怕他，崇矩拿出所有的器皿金帛，一共值钱数百万，全部分给军士们，他们才被感动。当时黎贼扰乱，崇矩到他们的洞穴一一加以抚慰，把自己的财物赠送给酋长，黎人都感德归附。换任回朝，授任为右千牛卫上将军。雍熙三年(986)，命他代替宋亻屋，任判右金吾街仗兼六军司事。端拱元年(988)，去世，终年六十五岁。追赠太尉，赠谥号为元靖。
崇矩禀性忠厚寡言，非常重视兑现诺言。曾经在史弘肇手下做事，自己富贵后，看见弘肇的子孙，一定隆厚地礼遇他们，救济他们的困乏。在岭海四五年，丝毫不以炎凉荒瘠为忧。以往渡海的人常常停船靠岸等待有利的方向，有的等到上十天，有的等到一个月，崇矩越海来往都是当天渡过，从不滞留，跟随的士卒僮仆都安然无恙。信仰佛教，供养僧人达到七十万人，造像建寺很多。又喜欢黄白术，从远方迎接其人，在家里建馆以师礼事之，即使知道其中假诈，还是把他当作神仙，终身无悔恨。儿子名继昌。