徒单镒本名叫按出，是上京路速速保子猛安人。父名乌辇，任北京副留守。镒异常聪明，刚刚七岁，就能熟习女真文字。大定四年(1164)，皇帝命他用女真文翻译书籍。五年(1165)，翰林侍讲学士徒单子温献来镒翻译的《贞观政要》、《白氏策林》等书。六年(1166)，又送上《史记》、《西汉书》，皇帝下令将这些译本公布发表。皇帝令挑选各路学生三十多人，叫编修官温迪罕缔达教他们读古书，学做诗、对策。被选中的人中最精通学业的是镒，于是他从此通晓了契丹大小字及汉字，完全熟悉了经史。过了较长一段时间，枢密使完颜思敬请示让女真人参加科举考试，从中拔取进士，此议送交尚书省商定。回禀皇帝“：刚建立的女真进士科，暂且免去乡、府两试，其礼部试、廷试，只考一道对策，限定满五百字就行了。同时在国都设国子学，各路设府学，并用新科进士充当教授，士民子弟愿意学习的人都可以上。几年过后，学者自然多了，就同汉人考进士一样三年一试。”皇帝同意。十三年(1173)八月，皇帝策问女真进士求贤以治的方法。侍御史完颜蒲涅、太常博士李晏、应奉翰林文字阿不罕德甫、移剌杰、中都路都转运副使奚礱主持考试，镒等二十七人进士及弟。镒被授予两职，其余授一官，前三名担任中都路教授，第四名以下任各路教授。
大定十五年(1175)，皇帝下诏翻译各部经书，著作佐郎温迪罕缔达、编修官宗璧、尚书省译史阿鲁、史部令史杨克忠译文注解，翰林修撰移剌杰、应奉翰林文字移剌履讲析其义。镒以中都路教授选拔为国子助教。左丞相纥石烈良弼曾到国子学中与镒论谈，对他十分敬佩。镒遭逢母亲丧事后，再用为国史院编修官。
世宗曾问太尉完颜守道说“：徒单镒人怎么样？”守道回答说：“有才力，可担当政事。”皇上说：“对，让他多处理繁杂事务。”又说：“镒举止温文尔雅，性情和蔼可亲。”过了较长的一段日子，镒兼修起居注，累官到翰林待制，兼任右司员外郎。他献上《汉光武中兴赋》，世宗阅后大喜说“：不设立女真进士科，怎么能得到这人！”
章宗即位，镒升为左谏议大夫，兼任吏部侍郎。明昌元年(1190)，升为御史中丞。不久，被任为参知政事，兼撰写国史。镒说：“人生有很多欲望，不用制度加以限制，则奢侈之心没有尽头。如今天下安定已久，应当谨慎行事，以便长久太平。”
章宗坚定致力于政治安定。镒送上奏章，奏文大致说：“我私下看唐虞的书，他们的臣子对皇帝说‘谨慎啊’、‘勤勉啊’，并用‘吁’表示惊疑，用‘都’表示赞美。既陈述了皇帝应警惕的地方，又用美好的东西来劝导他。皇帝治理时，一定说‘向大家核查，大家的说法对就放弃自己的主张，听从大家的意见’。又能听从，又能做到，因而兴旺。君臣上下之间就是这样相处的。今天陛下继承兴隆的气数，保护太平基业，的确应当考古重德，在这点上留心，不因身外的人或事决定好恶喜怒，不因自己的好恶喜怒忽略友善，不体恤别人的话。是啊，上下情况有通达有阻塞。天地的运气有好有坏。唐代的陆贽曾陈述上下情况不通有九种弊病，其中上有六种，下有三种。皇上能注意这六种弊病，做臣子的怎敢不小心待另三病。上下情况既然能通畅，那就抓住了主要环节带动了一切。”镒升为尚书右丞，依旧撰写史书。
明昌三年(1192)，镒被免去其他职务担任横海军节度使，后改任定武军节度使，知平阳府事。先前，郑王永蹈任职定武军，镐王永中任职平阳府，相继获罪，受牵连的人很多，皇帝怀疑他们有同党，也许因为这个缘故，命镒节度定武，随即又请他管理平阳。之后改任西京留守。承安三年(1198)，改为上京留守。五年(1200)，章宗问宰臣：“徒单镒与宗浩谁行？”平章政事张万公答道“：都是有才能的人，镒似乎更强些，镒有操守，宗浩多数而已。”皇帝问“：什么叫多数？”万公说“：宗浩略有些迎合。”皇帝说“：你说得对啊。”不久，镒被提为平章政事，封济国公。
淑妃李氏专宠，她的兄弟横行霸道，朝臣常常奔走他们门下。那时一连几天狂风蔽日，皇帝下诏问天象变异的缘故。镒上疏大致说：“仁、义、礼、智、信叫五常，父义、母慈、兄友、弟敬、子孝称作五德。如今五常不建立，五德不提倡，官宦士人抛弃礼义，忘掉廉耻，小民背道德叛信义，迷惑而不知悔改，背弃损毁天常，骨肉相残，动伤和气，这不是一朝一夕的原因。现在应端正不淳厚的民俗，顺应人心，对待父亲、子女，对待丈夫、妻子，各遵循应有的准则，这样才能和气融洽，使得福禄频频来到。”为此评论道“：治理政事的方法，紧要的有两点：其一，纠正臣子的心态。私下见众臣不明礼义，贪图功利的人很多，怎么能责怪老百姓跟着他们变化呢？用人时，德行端正的为上，才高为下。两者兼有待以不同等级，才不高德行好的次一等，虽有才能，行为道义没有可取之处的人，要压一压放在低位上，那么当臣子的风气就正了。其二，引导学者的志向。教育感化工作的推行，发动在学校。如今学者失去本来应有的求真的美德，经史高深，抛弃它不去学习，学点词藻华丽不真实的东西，钓取地位名利，我请求取士时同时考考经史典故，使学者坚持学习经学，不为当前浮靡文风所惑，就好了。”又说：“凡天下的事情，多头来的不是一头，相似的不是同一体，法律制度不能完全套用，因为相似而掩盖了真相，就会产生不同的议论。孔子说‘：道义是天下必须遵循的制度。’《礼记》说‘：道义是判断的凭证。’请陛下处理日常政务时，遇到对事情的处理有不同主张时，稍微多考虑一下，找到事情发生的原因理出头绪，那样就能确定如何裁决，并且能分辨疑问。”镒的话句句切中时弊，皇帝虽然接受他的主张，却不能施行。
皇上问汉高祖、光武帝的好坏。平章政事张万公答道：“高祖好得多！”镒说“：光武再建汉的基业，在位三十年，没有沉溺于酒色的事情。高祖被戚姬所迷惑，终于导致变乱。从这点说，光武帝好。”皇帝不说话。镒大概因为元妃李氏宠爱过度，所以暗暗规劝。泰和四年(1204)，免为知咸平府事。五年(1205)，改任南京留守。六年(1206)，调为知河中府，兼任陕西安抚使。
仆散揆行省河南、陕西，元帅府虽受揆控制，实权上，皇帝考虑用谋臣掌管，为此升宣抚使为一品官，镒改任知京兆府事，担当宣抚使，陕西元帅府一并受他节制。诏书说“：将帅虽勇猛，久经沙场，但宋人狡猾，也要凭借计谋取胜。你的才智韬略，我很熟悉，况且是辅助得力的老臣，因而对你有此重托。应当有长远的策略抵御敌人，训练兵士安抚百姓，不辜负我对你的希望。”镒提出“：当初设置急递铺本来为了方便转送文件，如今都靠乘驿，不便利。”皇帝十分赞同，这就开始设置提控急递铺官。从中都到真定、平阳设置的，到达京兆。京兆到凤翔设置的，到达临洮。从真定到彰德设置的，直达南京。从南京分开到归德设置的，到达泗州、寿州，分开到许州设置的，到达邓州。从中都到沧州设置的，到达益都府。从此传递文书不再不顺畅了。
七年(1207)，吴曦死，宋人安丙分别从秦、陇间出兵。十月，下令镒出兵金、房用来分别牵制宋人梁、益、汉、沔的兵势。镒派遣行军都统斡勒叶禄瓦、副统把回海、完颜掴剌领步骑兵五千出商州。十一月，叶禄瓦攻取鹘岭关，掴剌偏将攻破燕子关新道口，回海攻占小湖关敖仓，到营口镇，击溃宋军千余人，追到上津县，斩首八百多，接着攻取上津县。叶禄瓦在平溪击溃宋兵二千人，将到金州。宋王籹写书求和，诏令镒调回叶禄瓦军退守鹘岭关。八年(1208)正月，宋人安丙调遣景统领从梅子溪、新道口、朱砂谷出兵偷袭鹘岭关，回海、掴剌打跑了他们，斩杀景统领在阵上。这年，休战。镒升特进，按级别赐赏，改任知真定府事。
大安初年(1209)，加封仪同三司，封濮国公。改任东京留守，经过京城入见，卫绍王对镒说：“你有两朝功德，想任命你担任丞相。太尉匡，是你的门下，我不能委屈你地位在他下面。”升任开府仪同三司，佩带金符，担任辽东安抚副使。三年(1211)，改任上京留守。平章政事独吉思忠在会河堡战败，中都戒严，镒说：“情况危急！”及时选兵两万，派同知乌古孙兀屯统领，进入中都防卫。朝廷嘉奖他，征召任命他为尚书右丞相，监督撰写国史。
镒说：“从用兵以来，对方集中兵力行动，我方分散防守，用集中攻击分散，失败是必然的。不如退而保卫大城，合力防备抵御。昌、桓、抚三州向来号称富实，人人都很勇敢强健，可以内迁，增加我的兵力，人畜财物，不至于丢失。”平章政事移剌、参知政事梁王堂说：“这样是自损国土。”卫绍王因而责备镒。镒再次奏道“：辽东这地方是国家的根本，相距中都数千里远，万一遭到袭击，州府观望，必须上报得到许可方能出击，实在误事。要派大臣以行省的地位镇守。”卫绍王不高兴地说：“无故置行省，只会动摇人心罢了。”后来失去昌、桓、抚三州，卫绍王这才大为后悔，说：“听丞相的话，当不至于此！”不久，东京失守，卫绍王公开说：“我见到丞相十分羞愧。”
术虎高琪驻兵缙山，十分得人心，士人乐意为他所用。至宁元年(1213)，尚书左丞相完颜纲要到缙山行省。镒对纲说“：行省不必自己去，不如增兵有利。”纲不听，将走，镒又派人制止说“：高琪的功劳就是行省的功劳。”也听不进去。纲到缙山，就战败了。
不久，镒落马伤足休假，听说胡沙虎发难，动身前往官署。有人告诉他说：“省府相幕都有军士把守，不能进入。”一会儿，又见兵士在街道巷里抓人，镒于是返回家中。胡沙虎还是不能预料形势的发展，正在犹豫，不能决定下一步怎么办，于是到镒家去问候他的病，想听听声望高的人的意见。镒从容对他说：“翼王，章宗的兄弟、显宗长子，众望所归，元帅决策立他为帝，这是万世的功劳。”胡沙虎没说什么就走了，于是到彰德迎立宣宗。胡沙虎已杀徒单南平，想抓他的弟弟知真定府事徒单铭，镒劝他说：“皇帝车驾从真定过，镐王家在威州，河北人心易乱，徒单铭叛变，朝廷就危急了，不如给他金牌，迎接车驾，铭一定感激您的恩德。”胡沙虎听从了他的意见。至宁、贞..时期，转败为胜，全都依赖镒呀！
宣宗即位，升任镒为左丞相，封广平郡王，授予中都路迭鲁都世袭猛安蒲鲁吉必剌谋克。镒足疾未好，令他上朝不需跪拜。第二年，镒建议和亲。有人请求废去按察司，镒说：“如今郡县多有残破毁坏，正要按察司抚慰安定，不可撤去。”终于阻止了这项建议。宣宗想去南京，镒说：“圣驾一起动，北路都不守了。如今已经讲和，招兵积粮，坚守京师，才是上策。南京四面受敌。辽东是根基，靠山背海，其险完全可以依靠，防御好一面，作为日后图谋，这是次一等的计策。”皇帝不听。这年，镒死，皇帝赐很多财物以优厚的待遇办丧事。
镒明智刚正，学问完备。当时名士都出于他的门下，不少位列卿相。他曾叹惜文士精神不振，虽聪敏、笨拙有所不同，都要以仁义道德为根本，于是写《学之急》、《道之要》二篇。太学里的学生们把它刻在石头上。他还著有《弘道集》六卷。