元岩字君山，河南洛阳人。父元祯，魏时任敷州刺史。
元岩喜爱读书，不拘守文章字句，刚硬耿直，有气量，以名节高雅不俗自许。少年时和渤海高赹、太原王韶成为朋友，相互友好。出仕周朝，任武贲给事。大冢宰宇文护见到他而加以器重，任命为中外记室。多次升迁至内史中大夫，封爵昌国县伯。
周宣帝继位，政治昏愦暴虐，京兆郡丞乐运抬着棺材到朝堂之上，陈说宣帝的八种过失，言辞非常激动切恳至。周宣帝大怒，准备将乐运杀掉，朝中大臣没有人救助。元岩对人说“：臧洪若和乐运同日，尚且可以一同去死，何况比干呢？如果乐运不能免死，我就将和他一起死。”到朝堂求见，对宣帝说：“乐运知道上书奏闻难免一死，因此就不顾自己的性命，想借此博取后世的名声。陛下如果杀掉他，就成就了他的名声，落在了他圈套里。不如使他劳累而将他发遣出去，以扩大圣明帝王的气度。”乐运因此而得幸免。后来，宣帝将要诛杀乌丸轨，元岩不肯签署诏书。御正颜之仪直言切谏，宣帝不采纳，元岩上殿继续劝谏，摘去头巾，磕着头，三拜三进。宣帝说“：你想和乌丸轨为同党吗？”元岩说“：臣不是乌丸轨的同党，正是恐怕滥杀无辜，失去天下人之心。”宣帝大怒，令宦官抽打元岩的脸，就将元岩废置于家。
隋文帝为丞相，加授元岩开府、户部中大夫。隋文帝禅位，任元岩为兵部尚书，晋封爵位为平昌郡公。元岩生性威严持重，明白通达世务，每有奏议，神色端庄，当廷面争，没有什么可回避的，皇上和公卿大臣都敬重而畏惧他。
当时，隋文帝以周朝诸侯势力微弱以至于灭亡为鉴戒，因此分封诸子为王，权力和王室相等。文帝认为这样做国家就会像磐石一样坚固。派遣晋王杨广镇守并州，蜀王杨秀镇守益州。二王子年龄都幼小，选择忠贞善良有崇高声望的人作为僚属辅助。当时，元岩和王韶都因耿直有骨气而知名，时议称赞二人的才能和高赹相等，因此任命元岩为益州总管长史，任命王韶为河北道行台右仆射。文帝对元岩说：“公有宰相的大才能，如今委屈你辅助我的儿子，也就像曹参做齐国丞相一样的意思吧！”元岩到官任后，法令严明整肃，官员百姓都称赞他。蜀王喜爱奢侈，曾经想用山獠做宦官，又曾想活剥死囚犯人，取死囚之胆做药。元岩皆不听从教令，推门进去直言劝谏，蜀王拜谢而止。蜀王畏惧元岩为人耿直，常常遵循法度。蜀中的诉讼案件，元岩裁断的，没有人不心悦诚服的。有一被判定有罪的人对人说“：平昌公给定的罪，我有什么怨言呢？”文帝非常喜爱元岩，赏赐很是优厚。
元岩死在官任上。文帝悲悼痛惜很久。益州的父老乡亲没有不痛哭流涕的，至今依然思念他。元岩死后，蜀王所作所为没有法度，制造浑天仪，又和妃子一起外出打猎，用弹子射人，捕获许多山獠充当宦官，僚属辅佐没有人能够劝谏阻止。等到蜀王秀获罪，文帝说：“元岩如果还活着，我的儿子岂能会这样！”
儿子元弘继承爵位。历任给事郎、司朝谒者、北平通守等职。