张四维，字子维，蒲州人。嘉靖三十二年(1553)的进士。改任庶吉士，授职为编修。隆庆初年，晋升为右中允，负责经筵，不久调任为左谕德。张四维风流倜傥而富有才智，明了时事。杨博、王崇古长期在边陲任职，擅长谈论兵事。张四维是杨博的同乡且为王崇古的外甥，所以学习并知晓边防事务。高拱很器重他。
高拱掌管吏部，破格提拔他为翰林学士。才两个月，任命为吏部右侍郎。俺答封贡的议论兴起，朝廷首辅大臣相持不决。张四维与高拱勾结，通贡事成。高拱更加认为张四维有才干，张四维也被不断提拔，朝廷士人中颇有憎恨他的人。御史郜永春巡视河东的盐事，称盐法的毁坏由于官宦横行，大商谋取专利，指责张四维、王崇古为官僚，张四维的父亲、王崇古的弟弟为大商人。张四维上奏辩解，请求离去。高拱极力庇护他，皇帝下诏抚慰、挽留他。
起初，赵贞吉离去，高拱想引四维进入内阁，而殷士儋攀附得职，诸位大臣便打击、陷害他。等到御史赵应龙弹劾殷士儋，殷士儋没有离去，舆论中又有弹劾张四维的。张四维已经晋升为左侍郎，不得已而辞职，不久殷士儋也辞职。东宫太子出后宫，召见张四维担任侍班官。给事中曹大聎称张四维是贿赂了高拱，张四维急忙上奏辩解，请求罢免官职。皇帝不同意，催他入朝。他还没有到来而穆宗逝世了，高拱被罢免，张居正掌权，他又称病回乡。
张四维的家庭很富有，岁时年节不断地向张居正馈赠礼物。武清伯李伟是慈圣太后的父亲，原籍山西，张四维结交为内援。万历二年(1574)，他又被召去负责詹事府。第二年三月，张居正奏请增设内阁大臣，引荐张四维，冯保也与他友好，于是以礼部尚书兼东阁大学士入内阁，参与机要事务。当时政事由张居正一人决定。张居正也不做推让，对同僚视若无人。张四维由张居正提拔，谨慎地侍从他，不敢轻率答复可否，追随在他的身后，以图拜官晋爵。张居正去世后，张四维才执政。加封为少师、吏部尚书、中极殿大学士。
起初，张四维曲意侍奉张居正，很不堪忍受，所草拟的旨令不完全合于张居正的心意，张居正也渐渐厌恶他。既然当权，知道朝廷内外颇受张居正的苦，想大肆收买人心。遇上皇子出生，皇帝向全国颁布诏书，他上奏称：“现在法纪修明，海宇宁谧，堪称政治安平。而文武诸位大臣，不知道朝廷励精图治的本意，着力于敦促急烦、琐碎的事务，致使征赋敛税无度，政令彼此违背，朝廷内外哗然，丧失了扶植生灵之心。确实应该在此大庆之机，荡涤烦事苛政，弘扬皇帝的惠泽，使四海的百姓都感戴皇帝的圣德，这是稳定人心培养国脉的重要方法。”皇帝对此给予褒奖和采纳。从此，朝政稍稍改变，舆论也宽松了，诋毁张居正时所为之事。
因此，张居正的党羽很惊恐。王篆、曾省吾之流，与申时行紧密勾结以为援助。而冯保想借两宫的徽号册封自己为伯，憎恨张四维的阻挠。王篆、曾省吾得知此事，大肆贿赂冯保，多次陷害张四维；而且指使交好的御史曹一夔弹劾吏部尚书王国光向张四维谄媚，提拔他的表弟王谦任吏部主事。于是申时行拟旨要罢免王国光，并且贬责王谦。张四维因为皇帝的抚慰、挽留，又负责政务。命令才下达，御史张问达又弹劾张四维。张四维窘迫，求冯保的心腹徐爵、张大受贿赂冯保，冯保的怨意稍稍缓解。申时行便将张问达贬出京城，以安抚张四维。张四维因为申时行参与了阴谋，最终怀恨他。不久，宦官张诚诬陷冯保，冯保的势力大为衰败，张四维便授意自己的门生李植之流揭发冯保的奸行。冯保、王篆、曾省吾都被驱逐，朝廷的政事大变。
因此张四维渐渐吸收了一些被张居正压抑的海内的正直之人。虽然没有马上全部任用，然而力反前任的作为，当时他很富名望。云南的贡金误期，皇帝想将守土官治罪，又下诏提取云南以前贮存的矿银二十万两，都因为张四维劝谏才停止。不久，他因父亲去世而归乡。丧期将满，他却死了。赠封太师，谥号文毅。