薛万均本是敦煌人，后来移居京兆府咸阳县。父亲薛世雄，大业末年任涿郡太守，万均与其弟万彻因此客居幽州，以其才力勇武为罗艺所厚善。与罗艺一同归朝，高祖授予万均爵为上柱国、封为永安郡公。
窦建德曾率众十万人入寇范阳，罗艺出兵迎击。万均说：“众寡悬殊，不能硬拼，应当用计谋取胜。”随即教罗艺用羸弱兵卒阻水布阵以诱敌，万均自率精骑一百名藏匿城左。建德军队渡河时，趁其半渡出击，大败其众。第二年，建德率二十万骑兵前来进攻，贼兵已经攀上城墙，万均与万彻率领敢死勇士百人钻出地道，掩袭其背，贼众惊溃而去。秦王平定刘黑闼时，任命万均为右二护军，北门长上。
柴绍出讨梁师都时，命万均为副帅，万彻也随同出征。离朔方数十里地时，突厥兵马大至，王师退却，万均兄弟纵横击杀，斩其骁将，虏阵大乱，乘势大破其众，俘获及杀伤甚多。突厥败走后，王师进军围困师都。诸将都认为城险难以攻下，万均说：“城中有死气，鼓音不能成声，这是破亡的征兆。”不久贼众果然斩师都之首归降。后任左屯卫将军。
不久担任沃沮道行军副总管，随同李靖征讨吐谷浑。大军抵达青海，万均、万彻各率百名骑兵行走在前，结果与虏寇相遇，万均单枪匹马冲锋陷阵，无人敢来阻挡。还阵后对诸将说“：贼寇容易对付。”再次驰马进击，斩首数千级，勇气为三军之冠。追击虏寇抵达积石山时，大风吹折军旗，万均说：“虏寇就要来了！”
便整兵布阵，做好准备。不久虏寇果到，万均直往向前斩其将领，其众便溃败而逃，追击至图伦碛才还军，而与李靖会师于青海。下达玺书慰劳，并迁任本卫大将军。后来又作为侯君集的副帅进击高昌，麴智盛坚守其城不下，万均指挥其军进击，智盛恐惧，才出城投降。因功进封为潞国公。
其后有人控诉万均与高昌女子乱伦，太宗想追究其事。魏征说：“君主应以礼节对待大臣，如所诉合于实情，仍属轻罪，如不符实情，那么所失就大了。”下诏不予追究。后来太宗临幸芙蓉园，万均坐清宫不谨慎之罪下狱，因忧愤而死。
太宗感到惊慌伤悼，为他举哀，下诏陪葬于昭陵。后来曾经赏赐群臣以貘皮，到万彻时误呼为万均，顿时伤感地说：“万均是我的勋旧之臣，忽然口呼其名，难道是死者有知，期望赏赐此物吗？”因而命人取貘皮焚烧，在场的人都很伤感叹息。