于慎行，字无垢，东阿人。十七岁时，乡试中举。御史想在为新举子举行的宴会上为他加冠，他以没得到父亲的许可而推辞了。隆庆二年(1568)，考中进士。改任庶吉士，授职为编修。万历初年，《穆宗实录》撰成，晋升为修撰，担任日讲官。先朝成例，都是由翰林大臣负责日讲，没有涉及史官的事。于慎行与张位、王家屏、沈一贯、陈于陛都是以史官身份参与日讲，是为少见。他有一次讲课后，皇帝拿出宫藏图画，请讲官分别题字。于慎行不擅长书法，诗词做成后，吩咐别人书写好，并详细地从实告诉了皇帝。皇帝很高兴，曾经大书“责难陈善”四个字赏赐给他，这在词林诗界传为盛事。
御史刘台因为弹劾张居正被逮捕，同僚和朋友都躲避他，唯独于慎行前往探视。等到张居正服丧未满夺情出仕时，他与同官便上奏劝谏。吕调阳从中阻拦，没能递入宫中。张居正听说后恼怒，日后对于慎行说：“你是我所厚爱的人，也这样做吗？”于慎行从容自如地回答“：正是因为您厚爱我的缘故。”张居正很不高兴。于慎行不久就称病回乡。张居正去世后，他出任原职。晋升左谕德，主持日讲如故。当时张居正已被追究论罪，侍郎丘木舜前往江陵抄家。于慎行致函给他，称张居正的母亲年老，诸位儿子在覆巢之下，颠沛流离值得同情，应该推及明主覆盖之恩，成全大臣曾经侍候皇上的情谊。话语极为诚恳真挚，当时的舆论也认为他是对的。他由侍讲学士晋升为礼部右侍郎。又转任左侍郎，改任吏部职，负责詹事府。不久，升任礼部尚书。
于慎行明了典章制度，诸多大礼都是由他裁定。在此之前，嘉靖中期孝烈后升格祭祀于仁宗的宗庙。改换万历年号，穆宗升格祭祀于宣宗的宗庙。于慎行称不合礼节，撰写《太庙祧迁考》，称：“古代七庙制度，三座昭庙三座穆庙，与太祖庙合为七庙。刘歆、王肃一道将高祖、曾祖、祖父、自己以及五世、六世分为三昭三穆。兄弟相传皇位，就在同一祭堂不同的祭室，不能作为一世。我朝，成祖既然是世室，与太祖都是百世不变的，则从仁宗以下算，必然经历六世，此后三昭三穆才完备。孝宗与睿宗是兄弟，武宗与世宗是兄弟，昭穆相同，不应该各为一世。世宗升格祭祀，距离仁宗已有六世，不应该承祧仁宗。穆宗升格祭祀，应该承嗣仁宗，不应该在宣宗的宗庙。”他引用晋代、唐代、宋代的先例做依据，既言论分明，事情核实。事情虽然未能施行，有识之人佩服他知达礼仪。他又谏称“：南昌、寿春等十六个王，世系的次序相距久远，应该在别的陵园祭祀，不应该在太庙中祭祀。”也没有听取他的意见。
万历十八年(1590)正月，上奏请求早日建立东宫，让嫡长子出宫接受讲读教育。到了冬季，又上奏请求。皇帝恼怒，一再下严旨责难。于慎行不为所动，第二天又劝谏“：册立的事，由我部负责，我们不提，是罪过。希望皇帝迅速决定大计，将我放归乡里。”皇帝更加不高兴，责备他要挟皇帝，怀疑圣上，搅乱国家的根本，将他的同僚下属都剥夺了俸禄。山东的乡试，预先传说负责考试人的名字，事后果然如此。言官便弹劾礼部官员，于是礼部官员都停发俸禄。于慎行称罪请求退休。奏章接连呈上，皇帝终于答应了。在家居住十多年，朝廷内外屡次举荐，均不答复。
万历三十三年(1605)，才起用负责詹事府。他上奏推辞，皇帝又没有挽留他。在家住了二年，朝廷推举七人任内阁大臣，第一个就是于慎行。诏令加封他为太子少保兼东阁大学士，入阁参与机要事务。他再三推辞没有被同意，才取道赴京。当时于慎行已经患病。到朝廷答谢，拜叩起身都不合礼仪，他上奏请罪。归乡卧病在家，于是草拟遗疏，请求皇帝亲近大臣，录用闲置的人才，补充言官。几天后去世，享年六十三岁。赠封太子太保，谥号文定。
于慎行的学问有师承源流，贯通百家之学。神宗时，词馆中认为于慎行和临朐冯琦的文章学识是当时最好的。