张通古，字乐之，易州易县人。通古读书过目不忘，他综合所有的经史，善于撰写文辞。辽国天庆二年(1112)，通古考中进士，被任命为枢密院令史。正遭逢父亲之丧，守制尚未期满而应召任职，通古恳切推辞不接受，因此而隐遁离去，隐居在兴平。太祖阿骨打平定燕京，又将燕京割让给宋朝。宋人想收买人心，召见通古，通古辞谢了，隐居在易州太宁山下。
宗望收复燕京，侍中刘彦宗和通古平时关系好，知道他的才华，请他担任枢密院主奏，又改任兵刑房承旨。天会四年(1126)，尚书省刚刚建立，通古被授工部侍郎的职位，兼管六部事。高庆裔设立《磨勘法》，官宦之中不少人丢了官，通古也免去了职务。辽王宗干一向知道通古的名气，爱惜他的才学，派人去告诉他要他自理。通古不肯这样做，他说：“许多士人都离去了，而我自己有什么心情单独去请求留用呢？”宗干为他去论理。拜中京副留守的官，当诏谕江南使，宋朝君主要面向南坐，让通古面向北坐，通古说“：大国的长官等于小国的国君。我朝天子把河南、陕西赐给了宋国，宋签约要对我朝奉表称臣，所以我朝使臣不可以面向北坐。如果你想贬低损害使者，使者不敢传诏。”于是要马欲北归。宋主立刻命令设东、西座位，使者面向东坐，宋主面向西坐，受诏拜起一切按礼仪进行。通古完成使命回还，听说宋国已在河南布置兵力，谓宋国送他回朝的韩肖胄说：“我朝天子割让土地给南国使你们获益，南国应当考虑图报大恩。现在却设置守军，自己造成要动兵戈的嫌疑，如果我朝兴师问罪，你们将拿什么言辞答对？江左尚且保不住，何况齐呢？”肖胄听罢很惶恐，说：“敬听尊命。”立即策马驰回宋国把通古的话如实向宋主禀告。宋主当即命令罢兵。通古到达上京，详细向宗干汇报，并且说：“在他们的布置还不定的时候，应当讨论收复河南”。宗干高兴地说“：这正是我的心愿！”通古又出任参知行台尚书省事。
未过多久，皇帝诏令宗弼再取河南，通古请求自己先行到汴京晓谕宋国。等他临近汴京，宋人已经离开了那里。有人对通古说：“宋人先撤退，恐怕其中有诈。现在听说他们将从许、宿两地来袭击我军。”通古说：“南人公开说要来，正是已经走了。”于是派人去观察，宋人果真退却了。宗弼手抚髀部笑着说“：谁说书生不明白兵家之事呢！”
河南籍士兵孙进虚妄地自称是“皇弟按察大王”，阴谋作乱。当时海陵是丞相，内心怀有非分的企图，他想除掉熙宗的弟弟胙王常胜，因为孙进自称皇弟大王，于是他指控这是胙王诬蔑陷害熙宗。熙宗自从太子济安逝世以后，继嗣没有确定，心中深深惦记这件事。再加上裴满皇后很专制，他不能在后宫肆意寻欢，很是郁闷，常常因此而恣意饮酒，酒醉妄自发怒，手持刀子杀人。在海陵中伤胙王的时候，熙宗相信有这事不怀疑，于是派遣护卫特思去汴京审查处理。行台知道熙宗着意在胙王，就诱引孙进招出胙王。通古抓住其中的祸害，极力辩论劝止。及至把孙进引来让他服法，他供出原来假托“皇弟”大名，拿此来蛊惑众人，是想按规定骗取财物罢了，实际并没有这个人。特思将此情上奏，海陵向皇上说特思的坏话，他说：“特思想让胙王侥幸得福。”熙宗更加认为海陵的话是真实的，于是杀了胙王，同时杀了特思。行台诸位官员都责备通古说：“被你所误，现在要受连累死了。”通古说“：因正义而获罪被杀死，比活着强。”海陵已经杀了胙王，便不再加害他人，于是牵连治罪止于特思，行台没有受牵连。
天德初年(1149)，通古迁升行台左丞，进拜平章政事，被封为谭王，又改封为郓王。通古以有病为理由请求解除有关国家机密大事的工作，没有获准。后通古又拜司徒官职，封为沈王。海陵王完颜亮对下属臣僚严厉，握紧威势和权柄，亲王大臣没有不曾或少给脸色看的，只有见到通古时，一定礼貌相待。
正当磁州僧人法宝想离去，张浩、张晖想挽留他而留不住，而朝中官员又有想留住他的人。海陵听说这件事，诏令三品以上官员上殿，责备他们说：“听说各位爱卿每次到寺院，法宝僧都在正座，卿等便坐在他旁边，朕认为很不可取。所谓佛本是一个小国的王子，能轻易地舍弃富贵，甘愿吃苦修行，由于这个原因才成为佛，现在受到人们的崇敬。如果信佛只是希图福利，都是妄想。况且作为僧人，往往考不中秀才，在市井中流浪讨食，生活的计谋不足，才去当僧人，比较他的贵贱，不可和簿尉抗礼。里巷的老妇，临近死期，她们中多有皈依信奉的人。卿等位尊为宰相辅国大臣，却还效法这些，有失大臣的身份。张司徒是稳重老成的故人，再三教诲应该明白了，他足够当我们的表率，为什么不向他学习呢？”海陵又召见法宝对他说“：你既然是僧人，去或留全在你自己，为什么要让别人知道这件事？”法宝害怕了，不知怎样做才好。海陵说：“你是长老，应当有一定的主见，现在难道怕死吗？”于是吩咐在朝堂打了他二百大板，打了张浩、张晖各二十板。
正隆元年(1156)，以司徒之职位辞官，被进封为曹王。当年，通古逝世，享年六十九岁。
通古天生和乐平易，不做表面花样，虽然位居宰相，要求自己平素仍然清寒。他的儿子叫沉，天德三年(1151)，被赐杨建中榜及第。