张浩，字浩然，辽阳渤海人。张浩原来姓高，东明王的后代。张浩的曾祖父叫张霸，在辽国做官时改为张姓。天辅中期，辽东被金朝平定，张浩以谋略献金太祖，金太祖任张浩为承应御前文字。天会八年(1130)，张浩被赏赐进士及第，授为秘书郎。
金太宗将到东京，张浩为提点缮修大内，一跃升为卫尉卿、权签宣徽院事，管勾御前文字，初次拟定朝廷礼仪。张浩请求赡养双亲，辞去官职。后张浩复出任赵州刺史。金朝官制施行后，张浩凭中大夫做大理卿。天眷二年(1139)，张浩详细制定内外礼仪，历任户部、工部、礼部三部侍郎，后升为礼部尚书。田珏结党叛乱，台省职位空缺，任张浩行六部事。张浩因为有病请求离开宫内，后补充他做彰德军节度使，升迁燕京路都转运使。不久改任平阳尹。平阳多盗贼，临汾一男子夜里掠走人家的妇女，张浩捕住他，并杀之示众，强盗于是得以平息。平阳近郊有淫祠，当地人都很敬奉它。庙祝、田主争夺香火之利，多年得不到解决。张浩拆除祠堂，把里面的塑像扔到水中。为此强大的宗族、狡黠的官吏都销声匿迹，不敢再侵犯他人。郡中大治。于是张浩修缮尧帝祠堂，建击壤遗风亭。
金皇帝海陵王召张浩任户部尚书，授给参知政事。天德二年(1150)，张浩母亲去世，他服丧期满出来后仍任参知政事，进而授予尚书右丞。天德三年(1151)，扩大燕京城，营建宫殿皇室。张浩与燕京留守刘薚、大名尹卢彦伦监护工程。不久到了夏天，工匠们大多得了疾病，皇帝下诏派燕京五百里内的医生都前去治疗，官府负责发放药物。把自己所负责的病人全治活的医生给官职，其次给赏。最后由转运使调查后报告上级。
贞元元年(1153)，金皇帝海陵王定都燕京，把燕京改名为中都，把析津府改为大兴府。张浩进升为平章政事，赏赐给金带、玉带各一条，在鱼藻池赏赐酒宴。张浩请求凡是周围的百姓想到中都居住的人，十年内随时办理，以充实京城，皇帝批准了他的请求。后张浩被授予尚书右丞相兼侍中，封为潞王，赏赐他的儿子张汝霖进士及第。没过多久，张浩改封为蜀王，进升为左丞相。
正隆二年(1157)，张浩改封为鲁国公。张浩上奏章请求退休。金皇帝海陵王回答他说：“如果皇帝不明智，劝谏行不通，良言听不进，那么宰相就乞求离开。宰相老弱病残不能胜任其职也乞求离开。你属于哪一种？”张浩回答说“：我病弱不能胜任其职，宰相不是养病的官，所以乞求离开。”皇帝没有批准他的退休请求。
金朝皇帝海陵王想攻打宋朝，准备前往汴京，然而汴京大内宫廷失火，于是命令张浩与敬嗣晖营建南京宫室。张浩从容上奏说：“以前营建中都，天下人都很高兴地前来干活。现在民力没有恢复，却去干这样的大工程，恐怕不像以前那样容易完成。”金朝皇帝海陵王不听张浩劝谏。张浩朝拜离朝，金朝皇帝海陵王问他攻打宋朝的利害关系，张浩不敢正面劝谏，于是婉言回答，想用微言阻止海陵王攻打宋朝，张浩上奏说：“我观察天象，要想灭赵氏还需要很长时间。”海陵王说“：你怎么知道的？”张浩回答说：“赵构没有儿子，又没有培植亲信，形势一定会发生变化，可以不用军队而让他服从于我们。”海陵王虽然很喜欢张浩说的话，但却不听从。张浩到了汴京，海陵王常常派宦官梁糵去视察工程，凡是建成一殿，都耗资极大。梁糵常指着建筑说“：某某地方不符合建筑规则。”那样就拆了重建。张浩不能违抗梁糵并以礼相待。汴京宫殿建成，海陵王从燕京迁来居住。张浩被授予太傅、尚书令，进而封为秦国公。
海陵王到达汴京后，几个月不上早朝，天天调整军队南征，部署各路大将。张浩想上奏事情，又不能见到他。适逢海陵王派周福儿到张浩家中，张浩附带上奏说：“各路大军都是新提拔的少年，恐怕耽误了国家大事。最好是寻找老将军来训练军队，作为千户谋克。”然而海陵王部署已定，很讨厌张浩说这种话，于是杖打张浩。海陵王将亲自带兵从汴京出发，皇后、太子居守。张浩被留下管理尚书省事宜。
金世宗在辽阳即皇帝位，扬州发生军事政变，海陵王遇害。都督府派使者到南京杀死了太子光英。张浩派户部员外郎完颜谋衍向新皇帝进上祝贺信。第二年(1162)二月，张浩朝拜京城，入朝拜见皇帝。皇帝世宗对他说“：我身为天子很费神操心，早晚都担惊受怕，没有一点安宁的地方。你是国家的元老，应该合力帮助治理国家，应当让后世之人称扬德能政绩，不要有失我的委托。”不久张浩被授予太师、尚书令，封为南阳郡王。金世宗对张浩说“：你在正隆年间做第一丞相，不能纠正救治国家，哪能没罪？营建两宫殿，殚竭民力，你曾经劝谏过，对此天下不认为你有过错，只怨恨正隆时有海陵王。你在尚书省十多年，精通政务，所以再用你做丞相，你应当自勉，不要辜负我的心愿。”张浩叩头致谢。张浩做了几天官后，金世宗对他说：“你为尚书令，凡是可以任用的人才，应当举荐任用。”张浩举荐了纥石烈志宁等人，以后他们都成了名臣。
张浩有病，休假很长时间。皇帝派左司郎中高絗和张浩的侄子张汝弼前去宣旨召见张浩。张浩用力快走入朝，皇帝下诏张浩入朝不用跪拜，允许他坐在殿陛的东边，如果皇帝有询问，然后他才进前回答。张浩身体不好，不必天天到尚书省去，一些大的行政事务可就地裁决。张浩虽然接受了诏谕，然而还时时请求辞职。三年(1163)夏季，他又请求辞职。于是授予张浩东京留守。张浩有病不能赴任，因而请求退休。
当初，皇帝身边侍者有的想废除科举制，皇帝说：“我接见太师议论这件事。”张浩进殿拜见，皇帝说：“自古以来帝王有不用文人学士的人吗？”张浩回答说“：有。”皇帝问“：他是谁？”张浩说“：秦始皇。”皇帝看看左右的人说“：难道让我做秦始皇那样的人？”废科举之事从此不再提了。
这一年，张浩去世。为此皇帝停朝一日。他诏谕左宣徽使赵兴祥带领百官前去致奠，赠送给张浩银千两、重彩五十端、绢五百匹用于丧葬。张浩谥号文康。明昌五年(1194)，张浩附带享用金世宗的庙廷祭祀。泰和元年(1201)，张浩的图像被画在衍庆宫中。张浩有儿子张汝为、张汝霖、张汝能、张汝方、张汝猷。