张位，字明成，新建人。隆庆二年(1568)的进士。改任庶吉士。授职为编修，参与编撰《世宗实录》。
万历元年(1573)，张位认为前代都有起居注，而唯独本朝没有，上奏称“：我作为纂修的辅助者，窥知先朝的政事，不是出于诏令，载于奏疏的事情，都埋没无从考察。盛大的事业，却郁积不明，徒然使野史流传，以伪乱真。现在史官排列于位，却无能效力。应该每天分派数人到衙门办公处，所有诏旨的草拟与颁布，朝廷的政务，都根据史官的见闻做记载，等待内阁取裁确定，作为日后撰写实录的辅助。”张居正肯定了他的奏议，上奏皇帝着手实施。
他后来因为救助吴中行、赵用贤违背了张居正的意愿。当时他已经升任侍讲，将其裁抑授职为南京司业。还没动身，又因为京官的政绩考核，降职为徐州同知。张居正死后的第二年，因为给事中冯景隆、御史孙维城的推荐，晋升为南京尚宝丞。不久，被召任为左中允，掌管司业的事务，晋升为祭酒。他上奏陈述六件事，大都经廷议施行。担任礼部右侍郎，教导庶吉士，后称病回乡。诏令他就任原职，协助负责詹事府，他推辞不赴任。此后很久，因为申时行的推荐，就任吏部左侍郎兼东阁大学士，与赵志皋一起被启用。
王锡爵返回朝廷，恰逢皇帝下谕准备一起分封三王，以等待嫡子为托辞。而赵志皋、张位就请求皇帝诚敬地融合阴阳之气，以早日孕育帝子，议论的人暗暗讥笑他们。赵南星因为考察的事被剥夺官职，朝中士人诋毁王锡爵，大都牵涉到张位。王锡爵离去，赵志皋任首辅。张位与赵志皋彼此很友好。赵志皋衰弱，张位精悍且敢于做事，政事大都由他裁决。当时的罢免权全部收归吏部，政府不得侵犯、阻挠。张位对此很不满意，很多事情都加以掣肘。所以孙钅龙、陈有年、丕扬、蔡国珍都难安于职位，先后离去。
万历二十四年(1596)，两宫遭灾，搜刮矿税的议论兴起，张位等人不能阻止。等到奸人请求对煤炭征税，在临清开设皇室店铺，张位与沈一贯才执意上奏不可行，皇帝没有答复。第二年春天，与沈一贯一道陈述如何处理朝鲜的事宜。奏请在开城、平壤建立重镇，训练兵马，开垦屯田，实行通商，优待工匠，节省中国的输出。并且选择人担任长帅，分别负责朝鲜的八道，是持久之计。此事下达给朝鲜商议。此国的君臣顾虑中国兼并他们的国土，上奏陈述不便利，于是就沉寂了。此后不久，日本封贡的事情失败，张位极力推举参政杨镐的才干，请把朝鲜的军务交付给他。杨镐遇上父亲的丧事，他又奏请让杨镐未满丧期就出仕，负责事务，并且推荐邢王介任总督。皇帝都予以同意。张位已经晋升为礼部尚书，改任文渊阁，因为甘肃方面破敌而得功，加封为太子太保，又因为延镇的功绩，晋升为少保、吏部尚书，改任武英殿。
三座宫遭灾，赵志皋恰巧在休假，张位与同僚奏请向皇帝当面慰问，皇帝不同意。于是奏请皇帝引咎颁发赦令，勤于上朝和出席讲筵，下发奏章，亲自到郊庙祭祀，建立皇储，录用废弃的人，包容狂妄的与耿直的人，宽恕小的过失，补充空缺的官职，减少织造，停止矿使，撤除税监，释放囚犯。皇帝下优诏答复他，但不能尽数施行。张位又劝谏“：我们奏请停征矿税，不是即刻就停止它们，大约是想责成抚按大臣，使其对上不亏损国家，对下不劳累百姓罢了。”因此给事中张正学弹劾张位逢迎迁就，应该贬斥他。皇帝也不作理会。
张位初任翰林，声望很高，朝廷人士希望他有大的作为。等到他进入政府，招揽权力显示威风，一向享有的声望便渐渐跌落。给事中刘道亨弹劾张位的数十件奸贪的事情。张位很愤怒，极力辩解，于是将刘道亨降了三级。吕坤、张养蒙与孙丕扬相好，而沈思孝、徐作、刘应秋、刘楚先、戴士衡、杨廷兰则与张位友善，各有左右手。孙丕扬曾经弹劾张位，指责刘道亨是他的党羽。刘道亨以此为耻辱，弹劾张位以做自我解释。不久赞画主事丁应泰弹劾杨镐丧失兵马，称张位与杨镐有密信往来，相互勾结欺君罔上，杨镐的提升是由于贿赂了张位的结果。皇帝恼怒，将它下交朝廷议论。张位感到惶恐，上奏辩解，皇帝还是抚慰、挽留他。给事中赵完璧、黎观澜又接连上奏疏论。张位窘迫，赶紧上奏称：“众言官交相攻击，我孤忠可悯。我心中没有丝毫惭愧，希望皇帝明察。”皇帝发怒道“：杨镐是你在密奏中屡屡推荐的，所以允许他服丧不满期就出任官职。现在却相互勾结欺骗隐匿奸情，使国家受辱，威望受损，还称无愧。”于是剥夺他的官职，令他闲居。
不久，查获妖书《忧危..议》，御史赵之翰称张位实为主谋。皇帝也怀疑张位怀有别的企图，下诏将他从官籍中除名，贬为平民，如有大赦也不宽恕。他的亲朋故友右都御史徐作、侍郎刘楚先、祭酒刘庆秋，给事中杨廷兰、主事万建昆都遭不同程度的贬责。
张位有才干，刚愎自用，任性、矜持。他衰落时，朝廷大臣没人救他。即使去世了，也没有人替他洗刷罪名。天启年间，被恢复官籍，赠封为太保，谥号文庄。