庾肩吾字慎之，八岁就能赋诗，兄长庾於陵对他十分友爱。起初他担任晋安王的国常侍，晋安王常常迁移守地，庾肩吾一直跟随迁移。在雍州，他被任命与刘孝威、江伯摇、孔敬通、申子悦、徐防、徐詀、王囿、孔铄、鲍至等十人抄录众多典籍，供给很多果品，号为高斋学士。晋安王做了皇太子，庾肩吾兼东宫通事舍人。后来担任湘东王录事、咨议参军、太子率更令、中庶子。
简文帝创建了文德省，设置了学士，庾肩吾的儿子庾信、徐詀的儿子徐陵、吴郡的张长公、北地的傅弘、东海的鲍至等人成为其中的人选。齐朝永明年间(483～493)，王融、谢緿、沈约在文章中开始使用四声，作为创新，到了这时，转而拘守声韵，更加靡丽，超过了以往。简文帝在给湘东王的信中论述道：
“近来见京城的文体，钝弱超过往常，比着学习浮华，争相讲求舒缓，既不同于比兴，也背离了《风》《騷》。六典三礼，使用则有地方，吉凶嘉宾，运用也有处所，不曾听说吟咏性情，反而模拟《内则》之篇，执笔写史，又去依照《酒诰》之作。迟迟春日，反而去学《归藏》，湛湛江水，却是如同《大传》。
“我既然在写文章方面很笨拙，不敢轻易地有所指责，只是以当代的作品，依次与古代的才士相比，远有杨、马、曹、王，近有潘、陆、颜、谢，看他们的遣词用心，全不相似。如果以今天的文章为是，那么就是过去的贤人为非，如果认为过去的贤士可以称扬，那么今天的文体就该抛弃。如果说他们都是各怀己见，则不敢赞同。又当时有效法谢康乐、裴鸿胪文章的，也对他们很有疑惑。为什么呢？谢氏吐言高拔，出于自然，时而有不够严谨的，是他的糟粕。裴氏则是良史之才，完全没有篇章的美感。这就是学谢而没有得到他的精华，只是得了他的冗长；学裴则弃绝了他的所长，只得了他的所短。谢固然是精巧而不可效法，裴也是质朴而不应羡慕。所以心猜臆断之属，好名忘实之类，追随谢氏，哪是三千弟子所能赶上，遵从裴氏，害怕两唐不能流传。所以玉徽金铣，反而被不识货的人所鄙视，《巴人》《下俚》，更能为郢城中的人所爱听。《陽春》曲高而不能唱和，妙声断绝而无法寻找。竟然不精细探讨，衡量文雅质朴，虽然有异巧之心，但终究愧于高手。所以手握珍宝怀藏美玉之士，望着郑国而知道退返；头戴章甫脚穿翠履之人，远见闽乡而深长叹息。诗歌已是这样，散文却又相同。只是墨汁不会言语，要受他们渲染，纸张没有情感，任凭他们叠画。太厉害了，文章的邪道横流，竟到了这种地步！
“就像近代谢緿、沈约的诗歌、任窻、陆亻垂的散文，这些都是文章的冠冕，作品的楷模。张士简的辞赋，周升邈的论辩，也都属于高手，很难再次遇到。文章没有衰落，必定会有英才，其中的领袖人物，非贤弟还能有谁！常常想作讨论，无人可以交谈，想念我的子建，与你共同商榷。辩明文学的清澈与混浊，让它能如同泾水和渭水，这样论人物，颇似汝南王。红白已经判定，评论有所不同，使那些身怀鼠技的人知道惭愧，滥竽充数的人自感耻辱。相思不见，多么忧伤！”
后来简文帝即位，以庾肩吾为度支尚书。当时上游的藩镇，都凭据州城抗拒侯景，侯景假传诏令让庾肩吾出使江州去劝说当陽公萧大心。萧大心投降了贼军，庾肩吾于是逃到了东部。后来贼将宋子仙攻下了会稽，悬赏抓到了庾肩吾，打算把他杀掉，首先对他说：“我听说你能作诗，现在可以当即作一首，如果能够，就可以保全你的性命。”庾肩吾挥笔便写成了，辞采极美，宋子仙便放了他，让他做建昌令。他于是从小路奔往江陵，曾担任江州刺史，兼义陽太守，封为武康县侯。死后，赠他为散骑常侍、中书令。他的儿子名叫庾信。