史万岁，京兆杜陵人。父史静，周朝时任沧州刺史。
史万岁少年时就英俊威武，擅长骑马射箭，骁勇刚健，迅捷如飞。喜爱阅读兵书战略，又精通占卜天气。十五岁时，逢周、齐二国在芒山开战，史万岁跟随父亲在军中，两军对阵，旗鼓相望，还没交兵打仗的时候，史万岁让旁边的人赶快脱下军服，迅速逃跑。过了不大一会，周国的军队果然大败，他的父亲因此而把他看作是一个奇异的人物。在平定齐国的战役中，史万岁的父亲阵亡，史万岁因是忠臣之子，拜任开府仪同三司，袭父爵为太平县公。
尉迟迥发动叛乱，史万岁跟随梁士彦率兵征讨。大军行至冯翊时，史万岁见天空中有群雁飞来，对梁士彦说要射雁行中的第三只。史万岁开弓射之，那只大雁应声而落，三军将士无不欢悦叹服。及与尉迟迥的军队交战，每一次战斗，史万岁都是身先士卒。邺城之战时，官军稍稍后退，史万岁就驰马向前，奋勇杀战，连杀几十个敌人，众人也齐心协力，奋勇向前，官军的士气又振奋起来。平定尉迟迥之后，史万岁因功拜任上大将军。
隋文帝开皇初年，大将军..朱责力因阴谋造反罪被杀，史万岁与这个案件有牵连，被除去名籍，发配到敦煌戍所为戍边士卒。那个戍所的头领非常骁勇英武，常常单枪匹马深入到突厥人阵中，大获全胜，突厥人没有人敢于阻挡。那个头领非常矜持自负，多次辱骂史万岁。史万岁对这个人很头痛，就自己对人说他也有武艺。戍所的头领令史万岁骑马射箭，以试一试他的本领，笑着说“你小子若行的话，我才肯信你。”史万岁于是就请备弓箭骏马，再次掠入突厥人中，获得了许多牛羊之类，安然返回。戍所的头领这才开始对史万岁好一些，常常和史万岁一起，进入突厥境内几百里，名震北方夷族。窦荣定进击突厥，史万岁来到辕门，自请效力。窦荣定平日听说过史万岁的名字，见史万岁主动来请求效力，十分高兴。于是派人对突厥人说，愿意双方各派一名壮士比武决定胜负。突厥人答应了，就派一骑来挑战。窦荣定派史万岁出马应战，史万岁驱马向前，斩突厥骑士之首而还。突厥人大惊失色，就领兵退去。史万岁因此而拜上仪同之职，兼领车骑将军。平定陈国的战役后，史万岁又因功加授上开府。
高智慧等人在江南发动叛乱，史万岁以行军总管之职跟随杨素前往征讨。史万岁从东阳的另一条道路进军，翻山越岭，渡海涉涧，攻陷的蛮夷溪洞，不可胜数。前前后后七百多次战斗，转战逾千里，在长达一百天里，寂寞无声，音讯皆无，远近之人都认为史万岁已经阵亡了。史万岁就把书信放在竹筒中，投入水里，让竹筒顺流而下。提水的人得到竹筒，把史万岁的消息告诉杨素。杨素非常高兴，把史万岁的战功上奏给文帝。文帝感慨不已。平乱回京，授史万岁左领军将军之职。
在这之前，南宁夷首领爨玩投降隋朝，授昆州刺史之职，接着又反叛朝廷。朝廷就任命史万岁为行军总管，率兵征讨。进入蜻蛉川，经过弄冻，又行经小勃弄、大勃弄，来到南中。贼兵前后屯据的许多要害，史万岁都一一攻破了。行程几百里，见到诸葛亮的纪功碑，碑后刻道“：万岁之后，胜过我的人从此经过。”史万岁令手下的人推倒石碑，驱兵前进。渡过西二河，进入渠滥川，行程千余里，击破爨玩所部三十余部。众夷十分恐惧，派遣使者请求投降，献上的明珠直径有一寸那么大。于是，刻石颂扬隋朝的功德，史万岁请求将爨玩带回朝中，诏令准许。爨玩阴谋有二心，不想到朝廷面君，于是就用金银珠宝贿赂史万岁，史万岁就放了爨玩，班师回朝。蜀王在益州，知道了史万岁受贿的消息，准备派人去索取。史万岁听到这个消息，把得到的金银财宝都沉到了江中，蜀王的使者索求时一无所获。史万岁因功晋位柱国。晋王杨广非常钦敬史万岁，以朋友之礼对待之。文帝知道史万岁受到晋王的亲善，就令史万岁督理晋王府军事。
平定南宁夷回京的第二年，爨玩又一次反叛。蜀王杨秀上奏史万岁收受贿赂，放走贼人，致使边境又生战乱。文帝命令追究此事，皆确凿无误，依罪应当斩首。文帝责备史万岁，史万岁说：“臣留下爨玩，没有把他带回京师，是害怕那个州发生变故，留他镇守安抚。臣班师到泸水，诏书才到，因此没有把他带回京师，实在没有接受贿赂。”文帝认为他是存心欺骗隐瞒，非常愤怒，对有司说“：拉出去斩了。”史万岁害怕了，就承认了自己的罪行，磕头请求饶命。左仆射高赹、右卫大将军元..等人上前求情说“史万岁雄武胆略过人，每一次行兵打仗的时候，从来都是身先士卒，即使是古时候的名将，也未能胜过他。”文帝稍平愤怒，于是将史万岁除去名籍。过了一年多，才恢复他的官职爵位。不久，授任河州刺史，兼领行军总管，以防备胡人。
开皇末年，突厥首领达头可汗率兵侵犯边塞，文帝命令晋王杨广和杨素兵出灵武道，汉王杨谅和史万岁兵出马邑道，迎击突厥军。史万岁率领柱国张定和、大将军李药王、杨义臣等人出塞，来到大斤山，与突厥军相遇。达头派遣使者问道“：隋军将领是谁？”隋军巡逻侦察的骑兵答道“：是史万岁。”使者又问“：该不是敦煌那个戍边的士卒吧？”巡罗侦察的骑兵答道“：正是。”达头听说史万岁又来了，就带兵逃跑了。史万岁挥兵追击，追了一百多里才追上，大败突厥军，向北追击，深入沙漠几百里，突厥军逃跑回去。杨素妒嫉史万岁的功劳，谗陷史万岁说“：突厥人本来是要投降的，当初不是来侵犯。”就把史万岁的功劳压下了。史万岁多次上表陈述事情原委，文帝对这件事仍没有省悟。适逢文帝从仁寿宫刚回到京师，废黜皇太子，追究东宫太子的党羽。文帝问史万岁在什么地方，史万岁实际上是在朝堂，杨素见文帝正在恼怒之时，于是就说：“史万岁谒东宫太子去了。”用以激怒文帝。文帝认为杨素说的是实情，令召史万岁入宫。这时，史万岁手下的士卒数百人来到朝堂鸣屈喊冤，史万岁对他们说：“我今天为你们尽力向皇上说明。”见到文帝后，史万岁说将士有功，受到了朝廷的压抑，言词激愤，神色严厉，顶撞了文帝。文帝大怒，令手下的人把史万岁从高处扔下摔死。接着却追悔莫及，于是就下诏宣布史万岁的罪状。史万岁死的那天，天下的士族百姓，不论与史万岁认识还是不认识，没有一个人不为他的死感到冤屈和痛惜的。
史万岁身为将领，不修建营房，让士卒各自随遇而安，夜里也不放出士卒警戒，以防备敌人，即使这样，敌人也不敢进犯。临阵对敌，变化万端，令人难以测度，都说他是良将。子史怀义继承爵位。