张岳，字汝宗，浙江余姚人，嘉靖三十八年(1559)中进士。授予行人之官。提拔为礼科给事中，巡视内府库藏，上奏建议实行革除弊端的八条措施。不久，又议论时政，极力指出讲学的人用富贵功名鼓励士大夫，空谈时事，蔚然成风。又认为现在吏治清明，唯有兵部没有整顿，任用的黄印、韩承庆等，不是平庸就是狡诈。曹司的条例混乱没有章法，部属结为朋党，狼狈为奸，打击将领小校，其罪过应该得到惩处。当时，徐阶主持国政，建立讲学会，而杨博在兵部，张岳暗指这两个人。杨博上奏为自己辩白，恳求罢官，皇帝劝慰他，留任了他。杨博自此憎恨张岳。等到他掌管吏部，张岳已升迁为工科左给事中，于是，杨博将他逐出京城，任命为云南参议，后升为河南参政。
万历初年，向来了解张岳的张居正起用他为太仆少卿。后任命为南京右佥都御史，督察江防。刚一上任，正好张居正父亲死了，商量不循守丧之礼，继续留职执掌政事，南京尚书潘晟及各位给事、御史，都上奏请求留下张居正。张岳一个人立即飞章上奏请求命令张居正兼程回乡奔丧，张居正大为恼怒。正赶上考核京官，给事中傅作舟等乘机弹劾张岳，张岳被降一级调离京城，张岳于是回到家乡。过了很久，操江佥都御史吕藿、给事中吴绾知道张居正余怒未消，再次弹劾张岳。他被罢免官职，在家闲住。
过了两个月，张居正死，南京御史方万山推荐张岳，弹劾傅作舟。傅作舟因罪被罢免，起用张岳为四川参议。不久提升为右佥都御史，巡抚南、赣。入京师为左佥都御史，上奏关于时局的四项建议。其一说宗藩应当以世次顺序递减，直系亲属完了就停止，让他们从事士农工商四民之业。其二说治理黄河的对策，夏镇原本应当开凿，沽头也不可以废弃。二条建议都被皇上搁置，升为左副都御史，上奏评定议论朝廷大臣贤明与否，被给事中袁国臣等疏论。当时，他已提为刑部右侍郎，因此被罢官回乡。