段韶，字孝先，少年时工于骑马射箭，有将领的才能胆略。因为他是武明皇后的姨外甥，高欢更加器重和喜欢他。常让他在自己的身边，当做心腹，任他为亲信都督。
高欢率兵在广阿与..朱兆所部对峙，却惧怕敌兵数量众多。段韶劝慰他说“：所说的众，就是要让众人乐于为你去死；所说的强，就是要得到天下人的心。..朱氏分裂朝廷，破坏了国家的元气，群臣们都到邙山去迎接..朱荣，有什么罪过，他却杀死少主，又立新君，不过在旬月之间就改朝换代。弄得天下动乱，十室九空。您亲自彰明德义，诛杀天子身边的恶人，攻到哪里不会胜利呢？”神武帝高欢说：“我虽然坚持正义，讨伐逆贼，恐怕没有皇天相助。”段韶说：“我听说力量小的能战胜力量大的，德义会由小到大，逐渐扩展。皇天没有远近亲疏，只要有德于民，有义于国，它都会帮助您。现在..朱氏在外骚扰天下，成为人们心目中的乱臣贼子，对内失去一切正直善良的朝臣的支持。有智慧的人不为他出谋划策，有勇力的人不替他拼死搏斗。不肖者已经失职，贤能的人就要取而代之，还有什么犹豫的呢？”高欢接受他的劝告，便向..朱兆的军队发动进攻，将敌军打败。段韶多次建立军功，被封为下洛县男。后来，他又继承父亲段荣的爵位，为姑臧县侯。邙山之役，高欢被贺拔胜追赶，他从旁边驰马用箭射死贺拔胜的战马，追赶的骑兵不敢前进，高欢才得以逃脱。朝廷为此赐给他马匹鞍鞯和金银，晋封爵位为公。
段韶随高欢进讨玉壁，城池没有攻下，高欢就患重病。他对大司马斛律金、司徒韩轨、左卫将军刘丰等人说：“我一向认为段韶论说军事，很有谋略。如果过去采纳他的计谋，可免去今日的征讨之劳。我的病情严重，想把朝廷的大事委托给他，你们认为如何？”斛律金等人都说“：了解臣子都不如国君，实在是没有人能超过段孝先的。”高欢便命他与文宣帝高洋一起镇守邺城，召集文襄帝高澄到军中来准备接受神武帝的遗诏。高澄也把段韶作为寄托，军中的大事，都与他一起筹划。神武帝去世，侯景反叛，高澄回到邺城，让段韶留守晋阳，把军国大事都托付给他。加封他为骠骑大将军、开府仪同三司。文宣帝高洋代魏立齐，又任命他为尚书右仆射，迁任冀州刺史。
天保四年(553)，南梁将领东方白额领兵悄悄进至宿豫，朝廷命段韶率军进讨。到达宿豫，适逢梁将严超达等股军队逼攻泾州，陈霸先准备攻打广陵，尹令思阴谋袭击盱眙。北齐的军队都很恐慌。段韶对将领们说“：自从萧梁发生动乱，南朝没有固定的国君，人人各怀离异之心。陈霸先口说要与朝廷同心同德，内心里却有背离的想法，我估量得已经很透彻了。”他留下仪同三司敬显俊等人围攻宿豫，亲自率兵星夜兼程赶赴泾州。途径盱眙，梁将尹令思没料想齐军会突然来到，望风披靡，纷纷南逃。齐军打败严超达，由泾州驰回广陵，陈霸先不战而逃。然后，齐军又以凯旋之师进赴宿豫，段韶派能言善辩之士进城劝说东方白额，白额打开城门，出来与段韶缔结盟约。盟约订完，他估计白额不会遵守，将白额和他的几位兄弟一起斩首，并将他们的头颅送到京城。朝廷封他为平原郡王，历任司空、司徒、大将军、尚书令、太子太师。因继母去世，他辞去官职回家守丧。不久，被朝廷起用，任大司马，仍然任尚书令，又迁任录尚书事、并州刺史。后来，与东安王娄睿一起平定高归彦的叛乱，迁升为太傅，仍任并州刺史。他为政不计较别人细微的过失，颇得官吏们拥戴。宇文泰派将领率羌族与突厥人联合进攻晋阳，武成帝高湛从邺城率兵兼程赶来救援。当时天降大雨，将领们有人想主动出击敌人，段韶却阻止说：“我们不如严阵以待，彼劳我逸，将敌人打败是确定无疑的事情。”果然大败敌军，他被晋封为太师。
北周的宰辅宇文护的母亲阎氏先许配给中山宫，宇文护听说她还活着，便从边境送书信给北齐，请求送还他的母亲，并表示两国今后要和睦通好。段韶认为宇文护表面是北周的宰相，而实际却掌握王权。为了他的母亲请求与我们通好讲和，不派一个使者，仅仅靠投递书信，恐怕是不愿向我们示弱。我们先暂时答应送还他的母亲，待两国通好，互相往来后，再送还也不算晚。朝廷没有采纳他的建议，便派使者按礼节将宇文护的母亲送回。宇文护与母亲团聚不久，便派将军尉迟回等人进袭洛阳。朝廷命兰陵王高长恭、大将军斛律光迎战周军。齐军行至邙山脚下，却逗留不前。武成帝召请段韶，想让他赶赴洛阳解围，但又顾虑突厥人进攻。段韶说“：突厥人侵犯北部边境，事情就像身上长了癣疥，北周人的进攻，才是深入膏肓的大病。”武成帝命他率一千精锐骑兵从晋阳出发，五天便渡过黄河。他在大和谷与周军相遇，便与各路将领布好阵势等待敌军。他率领左军，兰陵王高长恭率领中军，斛律光率领右军。周军奔上邙山与齐军作战，段韶故意暂时领军退却，等待敌兵精疲力尽，再下马反击，把周军打得溃不成军，洛阳的包围立即被解除。朝廷任命他为太宰，封爵为灵武县公。天统三年(567)，被授予左丞相的职务。四年，另外封爵为永昌郡公，领取沧州的俸禄。
武平二年(571)，他从晋州道出发，到达定陇，修建威敌、平寇两座城堡，尔后返回。这年二月，北周军队前来进攻，朝廷派他与右丞相斛律光、太尉兰陵王高长恭前往抵御。军队到达西部边境。有一座柏谷城，是敌人占领的十分险要的地方，北齐的将领都不敢包围攻打，段韶说“：汾水以北黄河以东，一直是我们的领土。如不拿下柏谷城，就好像留下一个不好医治的疾病。估计敌人在南道会合，现在切断他们的咽喉要道，救兵就不能进来。柏谷城地势虽然很高，但里面却很狭窄，用火箭射击，很快就可以烧成灰烬。”齐军进攻柏谷，将城中的敌人击溃。齐军在华谷建立城堡，留下戍守的部队便撤还。朝廷封他为广平郡公。这一月，周军又派将领进攻北齐的边境，斛律光先率领军队前去抗击，段韶也请求领兵前往。五月，他率军到达服秦城。周军在姚襄城的南面又建起一座城堡。他抽调精壮勇士从新城北边袭击，又派人暗中渡河与姚襄城中联系，相约里应外合，夹击敌人，将敌人打得大败。将领们都想进攻新城，段韶劝阻道：“这座城堡一面被河水阻挡，三面地形险要，不能攻取。不如再建造一座城堡，堵塞住它与外面联系的道路。打破服秦城后，再集中兵力图谋它。”将领们都听从他的意见。六月，齐军围攻定阳；七月，消灭了定阳外城的敌人。这时，他病在军中，对兰陵王说：“这座城池三面有深涧环绕，并无退路，只担心东面的一个地方。敌人如果突围，一定从那里出来。”兰陵王便在那里设下埋伏。这天夜晚，果如段韶预料，敌兵从东面突围，埋伏的齐军突然袭击，将周军打得溃不成军。段韶竟因此病重去世。
段韶外出就率领军队征讨，入朝便与朝臣们运筹帷幄，功业很高。又加上他是武明皇后的外甥，所以，威望倾动朝野。他长于计谋，善于管理众人，颇得将士们的拥护爱戴。他的性情又十分温和谨慎，有宰相的风貌气质。他能严格训诫子弟，闺门内严肃和谐。侍奉继母以孝敬著名。北齐一代的勋贵权势之家，很少有人赶得上他的。然而，他却贪好女色，虽然位居显要，却常穿上便服私行访艳。魏黄门郎元王禹的妻子皇甫氏，因元王禹参与谋反，被籍没入官。段韶很喜欢她，他上奏章坚持请求，文襄帝才把皇甫氏赐给他。他将她放在别宅安置，对她的礼遇好像明媒正娶的妻子一样。他在钱财上尤为吝啬，对于亲戚故旧，没有任何施舍。他的儿子段深与公主结为婚姻，并省的丞郎在他家帮助料理十多天事务，事情办完辞别回省，他只赐给每人一杯酒。