薛胄，字绍玄。少小聪明颖悟，每次读到罕见的书籍，都能通晓其中的内容。常常慨叹注释的人不领会圣人著书的深刻含义，往往根据自己的理解进一步阐发书中的大旨。读书人听了没有不称赞的。性情慷慨大度，立志建功立业。
隋文帝杨坚继位，薛胄三次升迁，任兖州刺史。到任后，看到狱中关押着数百名囚犯，薛胄一一审问，十来天就处理完毕，牢房内竟空无一人。陈州有一个叫向道力的，冒充高平郡的太守，将要赴官就任。薛胄在路上遇见了他，觉察出他不正常，准备将他留下盘问。司马王君馥坚决劝说不要过问这件事，薛胄才放那人到高平去。不久又后悔了，便派主簿追赶向道力。薛胄过去的部属徐俱罗曾任海陵郡太守，原先太守的职务已被向道力骗到手，任期将满，官府和百姓都没有发觉。徐俱罗便对王君馥说“：向道力经朝廷恩赐被任命为太守，薛刺史怎么能怀疑他？”王君馥将徐俱罗的话告诉了薛胄，又态度坚决地劝阻他，薛胄大声呵斥，王君馥才住口。薛胄果断地将向道力拘留审问，向道力害怕，交代了他冒任太守的罪行。薛胄的明察秋毫，发奸摘伏，都和这件事一样。当时人们都称颂他像神一样明断。先前兖州城东面的沂水和泗水两条河流交汇，向南奔流，泛滥聚集，成为一片汪洋大泽。薛胄率领百姓积石垒堰，让河水西流，湖泽涸出，都变成良田。又开通了水上交通，淮海一带受利颇多。百姓信赖薛胄，称这条渠为“薛公丰兖渠”。
薛胄看到天下太平无事，便派博学秀雅之士登泰山寻访古代圣迹，撰写出封禅图和有关的礼仪，呈送给朝廷。隋文帝虚心谦让，不同意到泰山封禅。薛胄又转任郢州刺史，卓有政绩。他又被授予卫尉卿，转任大理卿。执法宽缓公平，被评价为胜任职守。调迁升任刑部尚书。其时，左仆射高赹被朝廷疏远，到王世积被朝廷处死时，又牵连到高赹，隋文帝因此想向高赹问罪。薛胄替他辨明洗雪，想使他的冤案有个正确结论。因此违逆了隋文帝的旨意，被加上刑具，关进监狱，过了很久才被放出。朝廷让他到相州查核政事，博得了能臣的名声。
汉王杨谅在并州叛乱，派他的部将綦良向东进犯，进逼慈州。刺史上官政向薛胄请求救援，薛胄畏惧杨谅勇锐的兵锋，不敢出兵抗拒。綦良又领兵攻打薛胄，薛胄想靠计谋使敌兵退却，派亲信鲁世范劝说綦良：“天下的事情，后果很难预料。薛胄是朝廷的大臣，去留都需要有一个恰当的处所，你何必这样攻打他呢？”綦良便撤兵离去，包围了黎阳。綦良受到史祥率领的隋军的进攻，丢下军队投奔薛胄，朝廷认为薛胄怀有二心，将他锁拿交大理寺处理。相州的官绅百姓怀念薛胄的恩德，到朝廷为他申辩的人有一百多个。薛胄坐罪被除去名籍，发配到岭南，在道路上死去。