颜之仪字子升，琅笽临沂人，是晋朝侍中颜含的九世孙。
祖父颜见远，任齐国治书侍御史，在朝中端庄严肃，人称“当官”。
等到梁武帝执政时，以病辞去官职。
不久齐和帝突然驾崩。
颜见远竟痛哭而死。
梁武帝十分遗憾，对朝臣说：“我自是顺应天命人心，与人世上各种事情有什么关系？而颜见远竟然这样。”当时人嘉许颜见远的忠烈，都称赞感叹不已。
父亲颜协，由于颜见远信守忠义而触怒当局，就不求仕进。
梁元帝任湘东王时，推荐颜协担任他的王府记室参军。
颜协没有办法，只得服从。
梁元帝后来著有《怀旧志》和诗歌，都称赞颜协的美德。
颜之仪自幼聪明，三岁能读《孝经》。
长大以后，博览群书，好写词赋。
曾奉献《神州颂》，文笔高雅，词藻丰美。
梁元帝亲自写信道：“枚乘父子，都有机会游历大梁；应贞父子，均以文学闻名天下。
我求得您这位才子，心中的郁塞才得到真正的慰藉。”江陵平定以后，颜之仪依照惯例迁往长安。
世宗任命他为麟趾学士，又升任司书上士。
高祖初建储宫，大选师傅，任命颜之仪为侍读。
后来太子征伐吐谷浑，在军中犯了错误，郑译等人都因为不能纠正辅助而遭到谴责，只有颜之仪因为多次劝谏而获得赏赐。
当即任命为小宫尹，封爵平阳县男，食邑二百户。
宣帝登基，升上仪同大将军、御正中大夫，晋封公爵，食邑增加一千户。
宣帝后来刑罚政令执拗背理，昏庸放纵，日甚一日，颜之仪冒犯威严，直言劝谏，虽不被采纳，但始终没有停止过。
深为宣帝所忌恨。
可是由于念及故交世好，每次都宽容他。
宣帝杀王轨的时候，颜之仪坚持规劝。
宣帝大怒，想把他也一块儿治罪。
后来考虑到颜之仪正直无私，才放过他。
宣帝驾崩后，刘日方、郑译等人假传遗诏，任命隋文帝为丞相，辅佐幼主。
颜之仪知道这不是先帝的旨意，拒不服从。
刘日方等人起草诏书署名后，威逼颜之仪也在上面署名。
颜之仪严厉地对刘日方等人说：“先帝驾崩，幼主尚小，辅佐帝王的重任，应由宗族中俊杰人物承担。
如今皇族之中，赵王年岁最大，从血缘亲近看，从品德看，他最适合当此重任。
你们备受皇恩，应当考虑尽忠报国，为什么一下子要把国家托付给他人。
我只有一死，决不能用不实之词来欺骗先帝。”刘日方等人知道无法使他屈服，就代他在诏书上签名而颁布。
后来隋文帝索要帝王的印信，颜之仪又严正地说：“这是天子的东西，自有掌管之人，宰相为什么索要？”隋文帝大怒，命令将他带出处死，可是又顾忌到颜之仪是民之所望，终于没有执行死刑，让他出任西疆郡守。
隋文帝登基后，诏命将颜之仪调回京师，晋封新野郡公。
开皇五年(585)，任集州刺史。
在州为政清静，各民族都能安居乐业。
第二年被代职回来，生活悠闲，不再当官。
十年正月，颜之仪依照惯例入朝。
隋文帝看见了，还认得他，令人把他引导到御座旁坐下，对他说：“危难之际不惜牺牲性命，面临安危存亡的大事而节操不变，这是连古人也很难做到的，为什么落到您的头上？”于是赏赐他十万钱、一百石米。
十一年冬逝世，享年六十九岁。
有文集十卷流传。
当时京兆郡丞乐运也曾多次坦直劝谏皇帝。