张瑰字祖逸，是吴郡吴县人。祖父张裕曾任宋的金紫光禄大夫。父亲张永，官至右光禄大夫。通晓音律，宋孝武帝曾问张永太极殿前钟声音为什么有嘶声，张永回答说：“铸钟时有铜滓掺入了。”于是扣钟找铜滓所在，凿去铜滓，钟声于是清越起来。
张瑰最初任官为江夏王太尉行参军，署外兵，又随府为太傅五官，很受刘义恭的知遇。迁官太子舍人，中书郎，骠骑从事中郎，司徒右长史。当初，张永曾在白下领军抵抗过桂陽叛军，溃散，阮佃夫等要加罪张永，太祖(萧道成)反复为他申辩，张瑰从此感恩太祖主动来结好关系。转任通直散骑常侍，骁骑将军。父亲去世，张瑰回到吴县家中服丧。
升明元年(477)，刘秉起异心，当时其弟刘遐主管吴郡，其兄弟暗中响应。又趁着沈攸之事件，聚众三千人，并打造攻城器具。太祖密遣殿中将军让白龙前往传命张瑰，让他拿下刘遐。诸张世代有豪气，张瑰家中经常有其父旧部将士兵数百人。刘遐来召张瑰，张瑰便假装接受了刘遐的安排，然后与其叔张恕率领十八名士兵进入郡中，和防郡部队主将强驽将军郭罗云进入斋中捉取刘遐，刘遐跳窗逃跑，被张瑰的部将顾宪子亲手斩了，郡内没有人敢动。捷报传来，太祖又转告了领军张冲，张冲说：“张瑰只要用百十人，一出手便成功了。”随即授张瑰辅国将军、吴郡太守，封张瑰为义成县侯，食邑千户。太祖特别赐给他这个美名。
后来张瑰升任冠军将军、东海、东莞二郡太守，他没接受。建元元年(479)，又增加食邑二百户。不久改封平都。迁任侍中，加步兵校尉。建元二年(480)，迁任都官尚书，仍旧领校尉。又出任征虏将军、吴兴太守。建元三年(481)，乌程县令顾昌玄犯罪，张瑰因为没能及时纠办，被免去官职。次年，被任命为度支尚书。世祖(萧赜)即位后，任命他为冠军、鄱陽王北中郎长史、襄陽相、行雍州府州事，随府转任征虏长史。建元四年(482)，又升为持节、督雍、梁、南秦、北秦四州郢州的竟陵、司州的随郡军事、辅国将军、雍州刺史，不久又领宁蛮校尉。回到朝中任左民尚书，领右军将军，迁任冠军将军、大司马长史。
永明十年(492)，转任太常。自己打报告说体衰多病，愿从闲修养，次年，转任散骑常侍、光禄大夫。不久，皇上打算再起用张瑰，于是任命他为后将军、南东海太守，俸禄达到二千石，行南徐州府州事，又行河东王国事。张瑰到任后，又申说有病，回京来任散骑常侍、光禄大夫。郁林王(萧昭业)即位后，加张瑰金章紫绶。隆昌元年(494)，配给亲信二十人。郁林王被废后，朝臣都到宫门参拜高宗，张瑰借口脚病没有去。海陵王即位后，加封他为右将军。高宗怀疑南齐书外地蕃镇会起兵，便让张瑰镇守石头，督众军事。张瑰见朝廷多难，遂长期卧病不起。建武元年(494)，张瑰转任给事中、光禄大夫，皇上对他亲信仍旧。每月增加钱二万。建武二年(495)，北虏大侵，皇上下诏要张瑰以本官假节督广陵诸军事、行南兖州事，虏退后张瑰便回到朝中。
张瑰居室豪富，满房伎妾，有十多个儿子，他经常说：“其中总应该有好的。”建武末年，张瑰多次请求高宗让他回到吴中家里去，被批准。优游自乐，有人讥刺说他衰暮之年还蓄养伎乐，张瑰说：“我从少年时就喜欢音律，年老了才弄通。平时的爱好现在没有一点了，只有这一项还没能丢掉。”
高宗病重时，对大司马王敬则有疑防，考虑到张瑰一向有才干谋略，便授他平东将军、吴郡太守，以防备王敬则。后来王敬则谋反，张瑰派三千将吏在松江迎拒叛军，这些人一听到王敬则的鼓声，一下子都逃散了，张瑰也弃郡逃到民间。事件平定后回到都城，被有关部门奏劾，免官削爵。
永元初期，张瑰任光禄大夫。不久加前将军，金章紫绶。永元三年，义师下都，东昏侯(萧宝卷)假张瑰节，令他戍守石头。义师到了新亭，张瑰弃城逃到宫里。梁初恢复他为光禄大夫。天监四年(505)去世。
本史作者认为：文是用来号召群众的，武是用来树立威风的，元帅的才干，称为辅国。沈攸之治兵十年，老来才举事，自荆楚上流，沿江东下。这是帝王之大敌，驱除之巨难。柳世隆势居中夏，年资浅职位轻，但率先抵抗沈攸之，以孤城挑战，临埤授策，战马不曾流汗，而强寇沮丧力屈。混乱争抢着投降的投降，逃散的逃散，当年陆逊破刘备，也不过如此。后来世道清宁，出任牧长，内为辅佐，既有风度，又有雅德，这正是兴家的盛美啊！
赞语：忠武匡赞皇业，真可称是文武兼资。在朝廷可以讲析玄理，在战场能够指挥若定。游艺于术数，又长于琴龟。张瑰得封义成也真是有义，他为皇基树立了功绩。