张说，字道济，一说字说之。其祖先从范阳迁到河南，就改为洛阳人了。永昌年间，武后考贤良方正，诏令吏部尚书李景谌把考生名字都糊没再来覆校，张说所对的得第一名。后来署为乙等，授官太子校书郎，升左补阙。
武后曾问：“各儒士谈起自己的氏族，都说是炎、黄的后代，难道上古没有普通百姓吗？你倒说说看。”张说说“：古代人没有姓，就像现在的夷狄一样，自从炎帝到姜，黄帝到姬，才以出生地作为姓。后来天子以德建国，就以其德性而赐姓。黄帝共有二十五个儿子，而赐给的姓只有十四个。德性相同的，姓也同；德性不同的，姓也不同。再后来，或者用官名，或者用国名；或者用王父的字，赐给为氏族。时间长了，也就作为姓了。
到唐尧、虞舜，再到战国，姓和族都慢慢多起来。周朝衰微，列国也灭亡了，人们各以他原来的国名作为氏，到两汉时，人都有姓了。所以用国名作姓的，以韩、陈、许、郑、鲁、卫、赵、魏为多。”武后说：“说得好。”
久视年间，武后到三阳宫避暑，到了秋天还不回京。张说上疏说：“三阳宫距洛阳一百六十里，有伊水的阻隔，有萫坂的遮挡。夏天已过，秋天来临，渐有水潦之积，道路被冲毁不少，山坡十分险峻，运输十分不便。伊水上又无桥梁，咫尺有如千里。扈从兵马，每日都需要粮草。陛下的太仓、武库都在京都，仓、库内的粮食兵器，蓄积如山。
陛下为什么离开宗庙所在之上都，而安居僻远之山谷？这就像倒拿着戟、剑，把戟柄、剑把给别人看，臣私下认为陛下不该这么做。
“灾祸变乱的发生，都在人疏忽的时候。所以说：‘安乐时定要有所警戒，不要做将来后悔的事。’这是不可再留于此的理由之一。告成地方偏小，各方面人都集聚在此，填掉农田，扩充城廓，又将原居民驱赶出去，在野郊搭篷暂住，风雨突然袭来，无处躲避，孤寡老病的人也都流落街巷。陛下为民父母，将如何对待他们？这是不可再留于此的理由之二。
三阳宫内池亭奇巧，吸引陛下观赏，削去山峦以建楼观，挡住河流，以致海水高涨。下则贯通地脉，上则高出云天。改变了山川自然之气，剥夺了桑农耕种之土。长途运输奇木异石，深山伐木凿石，山谷中劳役之声不断，从春至夏从未间断。劝陛下这样做的人，难道能是君子正人吗？《诗》中说：‘民人有劳有止，则可得到安定。’这是不可再留于此的理由之三。御苑东西长二十里，外面没有墙垣门禁，苑内又有丛林溪谷，是猛兽出没的地方，也是暴徒藏身的地方。陛下常常出行时很少随从，清道警戒都不严格，穿行于林草茂密之处，翻越山陵陡峭之地。假如突然出现猛兽狂人，惊犯了陛下，岂不危险？《易》中说：‘时刻要居安思危，预作防范。’愿陛下为万民着想，自我持重，这是不可再留于此的理由之四。
“如今，北方有胡人窥视边区，南方有夷獠不断骚扰，关西小旱，收成堪忧。
安东是个基本平年。漕运刚刚开始。切盼陛下能及时返回，深居京都，止息人民的劳役，让他们去农耕，施行上国的恩德，以安抚招徕边远之人。停止不急需的工程，节约无成效的费用，静心淡怀，可臻亿万年。苍苍众生，莫不为此而感幸。臣自我估计臣的粗浅的论议，陛下十句听不进一句。因为臣阻遏了陛下的游兴，用长远的国家利益请陛下丢弃目前的欢乐。还没有取得明主的信任，就已经触犯了贵臣的意志。然而臣只有赤诚之心而不惜死，不愿辜负陛下交付的职责。”
疏奏上去，武后不答理。
长安初年，升任凤阁舍人。那时，张易之诬陷魏元忠，要张说作证。张说在御前对证时说“：魏元忠从未说过不顺之言。”违背了武后的旨意，被流放钦州。
中宗立，召回任兵部员外郎，不久历任工部侍郎及兵部侍郎。因母丧回家。丧期开始，诏令复起任黄门侍郎。张说多次上表辞谢，语言恳切，请求能服完母丧。
那时，礼教衰薄，大多数人都以能在丧期中起复为荣耀，而张说独能坚守礼节，天下人都称赞他。除丧后，依然任兵部侍郎，兼修文馆学士。
睿宗即位，升张说为中书侍郎，兼雍州长史。谯王重福死，东都重福的党羽几百人，案子长久不能判决。诏令张说去审讯，只一个晚上就将主谋审出。诛杀了张灵均、郑..，其他人被冤枉逮捕的一律释放。皇帝嘉奖他不冤枉好人，不遗漏恶人，给予慰劳。那时，临淄王为太子，张说与司业褚无量都任侍读，太子的行为极守亲礼，十分恭顺。过年以后，升张说为同中书门下平章事，监修国史。
景云二年(711)，皇帝对侍臣说：“有术家上言，五天之内将会有急兵入营，你们为我做好防备。”左右惊讶相顾，不知该怎么回答。张说说“：这是有小人想撼动东宫。陛下假若正式公布由太子监国，那就君臣的名份明确了。小人自然胆怯，无妄之灾也就不会产生了。”皇帝醒悟，当即下制由皇太子监国。第二年，皇太子即帝位，太平公主引荐萧至忠、崔..等人为宰相，因为张说不阿附太平公主，任他为尚书左丞，罢知政事，为东都留守。张说心中明白太平公主等人心怀阴谋，于是派使者向玄宗献上一把佩刀，请皇帝迅速决策。皇帝接纳了他的建议。后来，萧至忠等人被诛，张说被召回任中书令，封爵燕国公，赐他封二百户。
起初，武后末年时，曾在冬季表演由西域传来的泼寒舞蹈，中宗曾登楼观赏。
现在，因四夷来朝，再次做这种表演。张说上疏说“：臣听说韩宣到鲁国去见到周礼的庄重，十分感叹，孔子去齐国，列数倡优的罪孽。那时的诸侯国尚且如此看重正统礼乐，何况天朝呢？如今四夷前来求和，派使者来谒见天子，应该用礼乐来接待他们，且让他们参观兵威。他们虽说是戎夷少数民族，但也不可轻视。
怎么知道他们中间没有驹支一样的辩才、由余一样的贤人呢？而且用冷水泼胡人而乞寒，没听说有典，裸体跳舞，浇水投泥，盛德之人怎能观看？恐怕不符合用礼乐教化边远之人，用盛德折服不义之军的道理吧。”皇帝接纳，从此再不做泼寒胡之游戏。
张说一直与姚崇不相和，因此被罢为相州刺史、河北道按察使。不久又因事牵连，下任岳州刺史，停止其他封户。
张说既不能得执政者之欢心，内心常怀警惕。张说平时与苏瑰很要好，那时苏瑰的儿子苏耮任宰相。张说写了篇《五君咏》献给苏耮。文中五君之一就是苏瑰。在瑰逝世忌日送过去。苏耮读了诗感动得呜咽不止。不久，见着皇帝时就说张说忠良正直有功，不该丢弃在外地，于是调张说为荆州长史。
不久，派张说为右羽林将军检校幽州都督，入朝时以军装晋谒。皇帝大喜，任他为检校并州长史，兼天平军大使，修国史，敕令他带着稿本就在军中修撰。
开元八年(720)，朔方军大使王聈诛杀了河曲降将阿布思等一千多人。当时并州的大同、横野等军有九姓同罗、拔曳固等部落的人心中都怀疑惧。张说拿了符节，只带了二十轻骑，直到他们的部落，宿于帐下，召见部落的酋长大豪，加以安抚慰勉。副使李宪认为虏人不可测，不该轻易入不测之地。张说回答说“：我的肉不是黄羊肉，不怕他们会吃；我的血不是野马血，不怕他们会刺。一个士，应该见危难时舍命相救，到部落中去正是我舍命之时。”九姓人为张说之义所感，安下心来。后来，王聈去讨伐兰池的叛胡康待宾，皇帝诏令张说去与王聈一同商量对策。当时，党项羌也连兵来攻银城，张说率领一万人马出合河关乘其不备，打得他们大败，直追赶到骆驼堰。羌人胡人自相猜疑，夜间自相残杀。康待宾逃入铁建山，其他的人也都逃散。张说招纳党项，让他们回到原地。副使史献建议杀尽党项，张说不同意，向皇帝奏请设置麟州以安顿羌人。
就在这一年，召张说回京，任兵部尚书、同中书门下三品。张说要让给宋瞡、陆象先，未蒙允许。第二年，诏令张说为朔方节度大使，亲赴五城，督各州兵马，时常巡边。那时，庆州方渠降胡康待宾的余党康愿子又叛，自称可汗，掠夺牧马，涉河出塞。张说督兵进讨，追到木般木山将康愿子抓获，且捕得叛胡三千人。
于是建议将河曲六州的残胡五万多人迁入唐州、邓州、仙州、豫州等地。将河南朔方之地空出来。张说论功受赐实封三百户。以前，边镇的戍兵常有六十多万。
张说认为太平之时戍兵无事干，建议撤销二十万，让他们回家耕种。天子怀疑此建议的可行性，张说说：“边兵虽多，但各将帅都只管拥兵自卫，役使兵丁营私。
真能制敌，不在兵多。以陛下之英明威武，四夷都能臣伏，不用担心裁减人员会招来寇贼。臣请以臣全家百口人做担保。”皇帝于是同意。当时宿卫的兵贫弱，轮班休假时很多都逃跑了。张说建议招募壮士，修改条令，减少劳役。不到十天，选得精兵十三万，分别补给各卫，增强京师的守卫。这就是后来称为“弓广骑”的卫队。
皇帝从东都回京师，就便到达并州。
张说见皇帝时说：“太原，是国家王业的发祥地，陛下巡视到此，振威耀武，并建碑纪德以表达永恩的意思。由河东入京师，那里有汉武帝时为祭祀后土的月隹上祠，这种祭祀后土之礼长久未行了，历代都没能举行。愿陛下能振兴典礼，为三农祈福。这是恩赐万民之福。”皇帝接受他的建议，过月隹上祠时祭祀了后土。回京后，升张说为中书令。
张说又倡议封禅，受诏令与各儒官草拟封禅时的礼仪程序。旧仪程有不合适的，张说很多都加以改正。皇帝召张说及礼官学士赐宴集仙殿，说：“我今日与各位贤者同宴于此，宜改名为集贤殿。”于是下制，改丽正书院为集贤殿书院，任张说为集贤院学士，管理院事。封禅回来后，任张说为尚书右丞相兼中书令。皇帝诏令张说撰写《封禅坛颂》，刻在泰山，以夸成功。当初，左丞相源乾曜本不同意封禅，而张说再三要求，于是对张说有了看法。及至登山，应该跟随上山的执事官，张说都点他所喜欢的人，而且都超级升为五品。随行的兵士，只加功勋而没有赐物。众人因此而埋怨张说的专权。
御史中丞宇文融先献策，请收集天下的游民及籍外剩田，设置十道的劝农使，分往郡县检察。张说怕他们扰人不便，多次建议不这样做。这时，宇文融奏请吏部设置十铨，由宇文融与苏廷页等分管考察遴选官员之事。宇文融有所建议奏请，张说常常贬抑他。宇文融心中怀恨。于是与崔隐甫、李林甫共同揭发检举张说“招引术士王庆则夜间祈祷，又招引僧人道岸刺探时事，其亲信张观、范尧臣依仗张说的权力，收贿卖权，擅自给太原九姓羊钱一千万”。揭发的内容极为丑恶，皇帝看了大怒，诏令源乾曜、崔隐甫及刑部尚书韦抗，就在尚书省审讯张说，还调出金吾兵包围了他的家。张说的哥哥左庶子张光到朝堂割耳朵鸣冤。
皇帝派高力士去看，见张说蓬头垢面，坐在草席上，他的家人用瓦钵子装着粗米饭及腌菜给他吃，作为自罚。高力士回报了情况，说：“张说往日一向忠心，且与国有功。”皇帝也有些同情他。于是罢了张说中书令之职，诛杀了王庆则等人，牵连的还有十多人。张说既罢了政事，就在集贤院专修国史。张说还上书乞停止右丞相一职，皇帝不许。每遇有军国大事，皇帝总要派人去咨问。崔隐甫等人怕皇帝还会复用张说，就巧文诋毁他，平时不喜欢张说的人又写了篇《疾邪篇》。
皇帝知道后，就诏令张说退休。
张说刚开始任宰相时，皇帝打算讨伐吐蕃，张说秘密奏请允许吐蕃讲和，使边境得以休养生息。皇帝说“：我等王君耯来商量。”张说出来后告诉源乾曜说：“王君耯贪功心急，定会用兵取利。他一进去，我的建议一定不被采纳的。”后来，王君耯在青海西大破吐蕃兵。张说估计王君耯会败，于是将辒州的斗羊献给皇帝，上表说：“假如羊能说话，它必定会说‘：斗而不止，当即就有斗死的。’它所以能活命，全赖至仁不残，量力取欢即止。”皇帝明白他的意思，收下羊，赐彩千匹。后来，瓜州失守，王君耯死。
开元十七年(729)，张说又为右丞相，升左丞相。到任之日，敕令所司供帐，设音乐，由大内拿出酒食，皇帝还为之赋诗。不久，任开府仪同三司。开元十八年(730)死，终年六十四岁。皇帝为之停止元旦的正会。追赠太师，赐谥为“文贞”。群臣驳议，以为不称“文贞”。
皇帝亲自为他写神道碑，御笔赐谥。这才最后定下。
张说看重气节，讲信誉，在君臣朋友之间，讲究大义。皇帝在东宫时，与他一起秘密商议的事甚多，后来终于成为开元宗臣。朝廷中的大文章，大都出自张说之手。皇帝喜好文辞，要写什么，一定要张说起草。张说善于用人之长，引荐了很多天下的知名之士，帮佐王化，粉饰典章。天子尊崇经术，开馆设学士、修太宗之政等事，都是张说倡议的。他的文章，思路开阔精致，尤其长于碑志，是世人所不及的。后来贬谪到岳州，其时的诗格外凄婉，人们说是得江山之助。曾主管集贤图书。当中虽有一年退休，但仍在家中修史。
当初，皇帝想给张说大学士一衔，张说辞谢说“：学士本没有什么‘大’称，是中宗要推崇所宠的大臣，这才设立的，臣不敢有此称。”再三推辞才作罢。后来在集贤院宴饮，旧例，官尊者先饮。张说说“：我听说儒者所推崇者为道，不以官职为先后。大帝时修史的有十九人。长孙无忌是国舅，每次宴饮都不肯先举杯。
长安年间，我参与修《珠英》。当时的学士也不以官阶为先后。”于是大家同时举杯。当时人都佩服他行为得体。中书舍人陆坚认为集贤院中有些人称不上是学士，所司供膳太好，无益于国，建议罢去。
张说听说后说：“自古帝王功成，会有自满奢侈的失误，有的大建园林池观，有的享乐于声色犬马。现在陛下崇尚儒术，追求王道，亲自来宣讲议论，延请豪杰俊才。丽正书院是天子礼乐之司，费用很小而好处极大。陆生的建议，是他不了解情况所致。”皇帝由此对陆坚很冷淡。
张说曾经为他的父亲做碑文，皇帝为他御笔书写题额：“呜呼，积善之墓。”
张说死后，皇帝派人到他家去抄录他的文章，流行于世。开元后，宰相不以姓著者，称之为“燕公”。大历年间，诏令配享玄宗庙廷。儿子张均、张耹、张聓。