马文升，字负图，钧州人。相貌奇异很有气力。景泰二年(1451)，考中进士，授御史职。历任山西、湖广巡按。业绩显著。返回京师负责各道的奏章。母丧期满后越级升为福建按察使。成化初年，被召为南京大理卿，后因父丧返乡。
满四之乱，陕西巡抚陈价被捕受审，朝廷起用在家服丧的马文升为右副都御史代替陈价。他急驰到军中，与总督项忠平定满四叛乱。事迹记载在《项忠传》里。按功升为左副都御史，依旧巡抚陕西。文升多次上奏条列对国家有益之事，致力于选将练兵，在从安边营到铁鞭城修筑烽火台，铲除强贼。对西固不服从命令的番族全消灭之。治理茶政，换番马八千多匹，以供应士兵使用。救济巩昌、临洮饥民，安抚流民，业绩突出。当时，孛罗忽、满都鲁、..加思兰年年侵犯边境。文升在韦州驻兵，而在诸堡设下埋伏，终于在黑水口打败入侵之寇，斩首二百，为其岭取名为“得胜坡”，刻石记功而还。文升立了很多军功，向朝廷上奏报捷却从不夸张，朝中亦无人为其直言叙论。因此得到赏赐不多。到九年(1473)冬，总制王越因为大捷向朝廷奏报，文升也派儿子马..报功。廷臣经调查核准马文升奏报不真实，罚文升停发三个月的俸禄。
十一年(1475)春，马文升代替王越总制三边军务，不久任兵部右侍郎职。第二年八月，整顿辽东军务。巡抚陈钺贪婪凶暴，将士稍有小过总是罚其交纳马匹，由此马价猛涨。文升上奏安定边防十五件事，因而请禁止罚马，陈钺为此对文升怀恨在心。文升回到兵部转左侍郎。十四年春，陈钺由于滥杀、冒功引起激变，宦官汪直想自己去平定之。宪宗命令司礼太监怀恩等七人到内阁会同兵部商议。怀恩想派大臣前去安抚，以阻止汪直前往。文升立刻答应道“：好。”怀恩回复宪宗，宪宗即命文升前往。汪直不高兴，要自己的家臣王英一起去，文升谢绝了。疾驰到镇，宣读圣谕抚慰众人，无人不听安抚。又请求对以前因平定也先之乱失去授官、玺书的十几人，授以官职。事情平定后，汪直想夺其功劳，向宪宗请求后带王英驰至开原，再下令招抚。文升就把功劳归于汪直，然而汪直内心有愧。文升又与汪直行对等之礼，视其左右为奴，汪直更加不高兴。而陈钺更加巴结汪直，得到汪直欢心，日夜诬陷文升，意欲打击中伤文升而找不到机会发作。文升回来，赐牛羊猪三牲。第二年春，因为辽东屡次失事，宪宗派汪直同定西侯蒋琬、尚书林聪等去巡视。时逢余子俊弹劾陈钺，陈钺怀疑是马文升的意图，更加紧排挤文升。汪直奏告文升行事乖僻，禁止边人买卖农具，致使边人叛乱。宪宗就将文升捕入诏狱，贬去戍守重庆卫。汪直已经排挤掉马文升，则与陈钺大肆发兵冒取战功，陈钺由此骤升至尚书。
十九年(1483)，汪直垮台，马文升恢复官职。第二年被起用为左副都御史巡抚辽东。文升是第三次到辽东，辽东军民听说他要来了都欢欣鼓舞。文升来后进一步约束宦官，总兵不得随意克扣，人们更加高兴。
二十一年(1485)，马文升晋职为右都御史，总督漕运。淮安、徐州、和州发生饥荒，文升从江南调去十万石粮食、盐价银五万两救济。这年冬天，召为兵部尚书。第二年，被李孜省诬陷，调到南京。
孝宗即位，授马文升左都御史职。弘治元年(1488)，上言道：“宪宗朝，岳镇、海渎诸神庙，采用方士的话放置石匣子，周围环绕符..，贮存金书道经、金银钱、宝石以及五谷作为压邪物，应该销毁。”意见被接纳。他又上言十五件事，经过讨论后全都付诸实行。孝宗仿古天子亲耕籍田，教坊进献杂剧。文升严肃地说：“新任天子应当知道农事的艰难，演戏是什么意思？”孝宗立即赶走教坊人员。御史徐瑁、贺霖因没顺从皇帝的旨意被下狱。文升说天子初政不宜立即惩罚言官，徐、贺被释放。不久孝宗命文升提督十二团营。
第二年，代余子俊为兵部尚书，仍督团营。当时天下持久太平、兵政荒废松弛、西北部落少数民族时时伺机入侵。文升严格考查将校，贬退三十余个贪婪懦弱的军官，奸人对他十分怨恨，夜间持弓伺其门旁，有的写谤书射入东长安门内。孝宗知道了，诏锦衣卫缉捕，给文升二十二个骑士，保卫他进出。文升请求退休，孝宗下诏慰留不许。
小王子率数万骑兵在大同塞下游牧，气势汹汹。文升因病休假，孝宗派宦官带太医去探视，借此问计。文升说小王子被别的部落才打败不久，没有什么作为，请暗地做些防备，而在外则虚张声势地威慑之，那么小王子必定会离去。按计实行，果然如此。文升的继母去世，孝宗下诏起用他，文升二次上疏推辞，都得不到允准。西北别部野乜克力的首领分别称为亦刺思王、满哥王、亦刺因王，他们各遣使到肃州边界，请求进贡并且开互市贸易。巡抚许进、总兵刘宁代其请求，文升说互市可以，入贡不行。入贡之请就推辞了。
吐鲁番袭击占领了陕巴，而命令牙兰据守哈密，僭称可汗，入侵沙州，迫使罕东诸部依附自己。马文升说此寇凶暴乖戾，不给他重创就不知道害怕，宜用汉代陈汤旧例袭斩之。了解到指挥杨翥熟悉番情，召杨询问对付的办法。杨翥详细地陈述从罕东到哈密的道路，要求调罕东的三千兵为前锋，三千汉兵随后，带上数日的口粮，从小路兼程急进，则可以获胜。文升大喜，于是向孝宗汇报，孝宗下诏调罕东、赤斤、哈密的军队，命令副总兵彭清率领，隶属于巡抚许进前去进讨，果然打败牙兰，详情载于《许进传》。
团营军士不足，请求从锦衣卫及腾骧四卫中选补。已获批准，宦官宁瑾从中阻挠。文升及兵科蔚春等说诏旨应讲信用，意见没被接纳。陕西发生大地震，文升道“：这是外寇入侵的征兆。现在火筛正强横，而国内民困财竭，将懦兵弱。宜实行仁政来养活人民，研究武备用以巩固边防。节省开支，停办斋醮，消除传奉冗员，禁止奏求闲地，每天视朝两次，勤于政务。并且撤回陕西织造内臣，救济抚恤受灾人家。”孝宗接纳他的建议，立即召回内臣。
文升在兵部任职十三年，尽心军务，他多次向上条陈关于屯田、马政、边备、守御等应办的事。只要是对国家有利的，即使并非他本职守，也言无不尽，曾经因为太子年已四岁，应该及早进行教育。文升请求挑选淳朴严谨、老成又熟悉历史的人，如卫圣、杨地等人，由他们教育扶持太子，对太子言语举止都要引导。像内廷举办的宫宴、钟鼓司的活动，元宵放花灯、端午划船等游乐活动都勿让太子见到。至于佛老之教，尤其应当摒绝，以防惑乱太子心志。山东久旱无雨，浙江以及南畿发生水灾，马文升奏请命有关部门救济抚恤，操练士卒以备不测。奏言都为孝宗接纳。百姓为赋役所苦，文升全面地陈述赋役过重的弊害，他说“：现在民田收十分之四五的税，百姓运粮到边塞一石花费一两以上的银子，丰年八九石粮换一两银子，像丝绵布帛运到京师的，沿途费用超过所运物的价格，南方通过水路运粮到通州，要花三、四石才能送到一石。中州每年役使五六万人治理黄河，山东、河南修堵决口不下二十万人，苏州府、松江府治水也如此。湖广建吉、兴、岐、雍四王府，江西益、寿二府，山东衡府共计役夫不下百万，诸王封地供应的役夫也有四十万。加以湖广征讨蛮族，山西、陕西边防，给军队供应粮饷的又不知有多少。赋税重差役繁多，没有比此时再厉害的了。宜严令内外各部门，免去多余的花费，减少力役，毋擅自摊派。王府的工程应该迅速完工，就可能使困难局面得到缓和。请求崇尚儒学，抑制邪术，以便清静圣心；节省花费，减少土木营造工程，以培植国家的根本。”孝宗命将他的奏章下到有关部门详细讨论。马文升发表议论最多。他在班列中年高又有德望，孝宗也十分信任他。从太子太保屡加至少保兼太子太傅，经常给他赏赐，诸大臣无人敢有怨言。
吏部尚书屠氵庸被罢免，廷议推举文升代替。而御史魏英等说兵部非文升不可，孝宗也这样认为。就命倪岳任吏部尚书，而加封文升少傅来安慰他。倪岳去世，由马文升代替倪岳任吏部尚书。南京、凤阳发生大风雨，房屋被毁坏，树木被风拔起来，马文升请求孝宗减食撤乐，修德反省过失，开御前讲席，断绝游玩和宴饮，停办非急务之事，停止额外织造，赈济灾民，捕捉盗贼。事后，文升又奏陈吏部主管的十件事。孝宗全都表示赞赏并接纳之。文升任一品官满了九年，加封为少师兼太子太师。由于要对将官进行考察，孝宗特召文升及都御史戴珊、史琳到暖阁，告诫大家秉公升降。因为文升年老听力减退，又再次高声告诉他，命左右搀扶文升下台阶。起初文升为都御史，王恕在吏部，两人都处事刚直不阿。他们起草的疏一发出，天下传诵。王恕离开后，声望都集中于马文升。到他在吏部任职时，已经八十岁。长须修眉，遇事侃侃而论不减当年。
孝宗去世，马文升奉遗诏向武宗请求淘汰传奉官七百六十三人，武宗下令除留太仆卿李纶等十七人外，其余的全部淘汰。正德元年(1506)，御用监宦官王瑞要求任用新近被淘汰的七人，文升不接武宗下的诏书。给事中安奎探听到王瑞受贿，弹劾王瑞。王瑞十分怀恨，诬告文升违抗圣旨，再下廷议，皆以文升之言为是，武宗终究不听，文升因此请求返乡，未得允准。
这时，朝政已转移到宦官手里，文升年老，天天怀着离去的念头。时逢两广缺总督，文升推举兵部侍郎熊绣。熊绣心中不愿意出任，熊的同乡御史何天衢就弹劾文升为徇私欺骗蒙蔽。文升接连上疏要求离开，武宗答应了。赐他玺书、马车，增加月粮和每年役奴。文升在家居住时，无事不去州府。外人谈及时事，他总是皱着眉头不回答。在家住了三年，刘瑾乱政，说文升以前用雍泰为朋党，除去文升官籍。五年(1510)六月去世，终年八十五岁。刘瑾被诛杀，恢复文升官衔，追赠特进、光禄大夫、太傅，谥号端肃。
文升文武双全，擅长应付事变，朝中大事往往由他决断。建功在边镇，国外都知道他，文升尤其注重气节，品行端方不苟，一生走正直之道，虽然遭到诬陷，几起几落，正气终究不减。儿子马璁，以乡贡士等待吏部选拔，文升要其子请求在京城以外任职，文升说：“大臣的儿子都在京为官，哪个应该任地方官？”他去世一年后，大盗赵钅遂等抢劫河南，到了钧州，因为马文升的家在此地，即舍之而去。进攻泌阳，放火烧了焦芳的家，用草扎成焦芳像碎裂之。嘉靖初年，加赠文升左柱国、太师。