和隋朝两代关系最为密切，且又在整部隋史上发挥极大作用，包括正反两方面作用的大臣，可推杨素。
杨素，字弘道，弘农华阴（今属陕西）人。他的祖父、父亲都是北周的官员。
杨素征战有术，隋文帝、隋炀帝对他恩宠有加。
有一部美须髯，有一副好仪表，有一手好书法，有一肚子好学问，加上有一个好门庭，杨素年纪轻轻就胸怀大志。他善思，实干，敢作敢为。北周权臣宇文护看重他，引为高级文官，随即升任大都督。
周武帝之际，时任汾州刺史的杨素父亲杨敷，在对北齐的战争中以身殉职，却未得朝廷褒奖。杨素为父亲鸣不平，上表申论道理。申表如泥牛入海，没回音。杨素接二连三地上，上得周武帝大怒，命推出斩首。杨素毫无惧意，且大呼：“臣事无道天子，死得应该！”这股英雄气打动了周武帝，非但被免了死，且为父亲争得了大将军的赠号，为自己取得了车骑大将军、仪同三司的美职。
紧接这一大奇事后，杨素又制造了第二件奇事。周武帝让杨素拟写诏书，他信笔写去，片刻便成，辞藻优美，义理服人。周武帝鼓励道：“你若自强不息，何愁不富贵。”若是寻常官员听到君主这般说，肯定激动不已，磕头如捣蒜，千谢万谢君恩浩荡。可杨素却应声答道：“只恐怕富贵来逼臣，臣无心图富贵！”杨素自负得无以复加，胸襟宽阔的周武帝倒也丝毫不计较，遂成北周一段佳话。这是乱世，也是英雄惜英雄的时代，杨素生当其时。
不止有文才，杨素的武略同样十分了得。在漫长的平齐过程中，他率领父亲的旧部，连续立下了汗马功劳，基本上是每战有功。然后，他调转兵锋，先后多次重创陈军，下了数地。由此，他被封为县公。
许多人在读隋史时，常误以为杨素是杨坚的亲戚。其实不然，杨素与杨坚在血缘上毫无瓜葛，他与杨坚的关系，纯粹是政治关系，起始于北周末年。在杨坚当了丞相秉执朝纲后，杨素才靠上去。对文武全才的杨素，杨坚是求之不得，即刻委任为汴州刺史。杨素途遇尉迟迥起兵，杨坚加他为大将军，全权负责对尉迟迥之子尉迟胄的战事，他成功地完成了使命，晋爵清河郡公。
隋朝开国，“富贵”终于“逼”到杨素的头上，加上柱国；三年之后，成了御史大夫。可他仍狂放得很，口无遮拦。他的妻子郑氏极为泼悍，杨素忍不过，有次发火说：“我若作天子，卿定不配作皇后！”郑氏跑去告御状，隋文帝不是周武帝，以妄言之罪罢免了他全部官爵，还算手下留情，放了他一条生路。
平陈之前，杨素以高超的谋略上了一计。这一计上得隋文帝满意，让他担任了信州总管，主持这一块防区的军事准备。杨素准备的是水师，他命造大船，名曰“五牙”。这是地道的楼船，上有楼五层，高一百多尺，前后左右安了六拍杆，可容八百名战士。另外，还依次造了“黄龙”、“平乘”、“舴艋”等战舰。
这支水师，是中国历史记录中数得上的水师，不仅战舰容量大，且舰只数量可观，并能大小相互组合、彼此照应。
伐陈开始，像韩擒虎、贺若弼一样，杨素被任命为行军元帅，换言之，也就是方面军最高负责人。他率领水师沿江而下，以三峡为第一攻击目标。三峡既有陈军重兵把守，又地理形势危峻，是易守难攻的去处。诸将忧惧，可杨素胸有成竹地将日战改为夜战，亲自指挥数千艘“黄龙”轻缓而行，另派一部从岸上偷袭陈军大营，两下合力，拿下了三峡。
首战告捷，杨素释放了所有的俘虏，以秋毫无犯的军令，挥军进入陈境。纪律严明，且有仁义之风，杨素所部得到了陈人的赞扬。水师顺流东下，满江旌旗蔽天、铠甲耀日，容貌雄伟的杨素端坐在中间的大船上，威风凛然，引得观望的陈人惊叹道：“清河公就是江神！”
用兵如神，杨素一路扫荡过去，正可谓遇关斩将，逢军破敌。陈军望风披靡，以至巴陵以东未有敢守者，遂使杨素直至汉口。凯旋，被拜荆州总管，封越国公；不久升为纳言，再转内史令（宰相）。
陈朝政权虽然被灭，但江南人心尚未被收定，拥兵起事者此起彼伏。精于将略的杨素，再度挂帅出征，先后平定了李棱、朱莫问、顾世兴、陆孟孙、叶略、高智慧、汪文进、沈孝彻等各路造反者。经过杨素的经略，隋朝的根基才在江南扎了下来。
得胜回朝，杨素被命代苏威出任尚书右仆射，与高颎同掌朝政。
突厥达头可汗犯边，杨素再创奇功。原隋军与突厥交战，为防对方劲骑冲阵，每以车、步、骑三个兵种共同编阵，而将骑兵置于阵内。杨素出塞，审时度势，改变了原战术，将诸军一体编为骑兵。达头大喜，以为天赐良机，引十多万精骑迎击。然对阵的结果，是突厥大败，达头受重伤。
杨素是个常胜将军，他之所以能够常胜，除了精通兵法奥秘外，还在于有个妙法，就是用“斩”来约束军纪，提高战斗力。有犯军令者，无论轻重，立斩不赦；临阵，必寻部下过失，多则百余人，少则十多人，全部斩首；对阵，先令一二百人冲锋，不能克敌，全部斩首，再用二三百人冲锋，不成，再全部斩首。将士惧怕杨素之威，怀着必死之心上阵，表现出了攻无不克的高度战斗力。由此，杨素成了名将。再者，他是大权在握的重臣，对自己的部下即使轻功必给予重赏，而对其他部队的立功者多加以排斥，由是，他虽残忍，部下为了升官发财，很是乐意跟随他。
高颎得罪了隋文帝，杨素代为尚书左仆射，成为首席宰相。
位极人臣，杨素最高限度地实现了当年他对周武帝的一席话。
杨素不是高颎，他虽是文武全才的能臣，可他更是私欲多而公心少的“佞臣”。时朝廷围绕太子问题大起波澜，杨广处心积虑欲对杨勇取而代之。杨广通过伪饰，已赢得母后的欢心，为争取朝臣的支持，他不顾体面，卑躬屈膝地讨好作为百官之首的杨素。杨素自然知道杨广葫芦里卖的是什么药，为日后的“富贵”计，他迎着最大的风险下了赌注，抛弃已是太子的杨勇，而站到了准备“夺嫡”的杨广一边。杨素的考虑是：他和杨勇并无交情，若顺着已确定的政治格局来走，一旦杨勇按部就班地继了皇位，以一朝天子一朝臣的传统做法而言，他很难再继续保持一人之下万人之上的地位；如转而帮助杨广，一旦杨广争取到皇冠，那他就是最大的功臣，将可在隋文帝百年之后，依然大富大贵。
说得好听，杨素是足智多谋，说得难听，他是诡计多端。在易换太子的风波中，他首先弄清了独孤皇后的意图，然后使出一个简单却甚为有效的方法，在隋文帝之前，用谗言中伤杨勇，用谎言美化杨广。君主最难把握的，是对臣下言语的分辨，这是衡量他们昏明的一个重要标准。晚年的隋文帝是昏昧的，从理智判事，变为感情用事。他已讨厌杨勇，此时杨素的话，如同水银泻地，句句渗透了他的心。太子终于易人，杨素的计谋得逞。
杨广成为太子，恐手握重兵的蜀王杨秀遗为后患，再与杨素密谋，无中生有地罗织罪名，将他废为庶人。
作为首席宰相，杨素在用心用力，可他的心力不是用在治理国家之上，而是用在保权、保位、保私利。只要朝中有异己或他看不惯的人，不管对方官爵多重，功勋多高，必欲除之而后快。如贺若弼、史万岁、李纲、柳彧等，他都设阴计而将他们置于罪地或死地。对亲戚和附会的党徒，即使再无能、再庸碌，他必大力加以升擢，给予美官肥缺。朝臣奈何他不得，为避免迫害，为讨取富贵，纷纷逢迎他，以他马首是瞻。
不服者也有，兵部尚书柳述仗着是驸马，大理寺卿梁毗仗着一身正气，或上言，或上表，斥责杨素作威作福。说得隋文帝觉得杨素已权力过大，且有些心术不正，遂以优崇、关心杨素为名，暗中革去了他的实权。
隋文帝弥留之际，开始后悔易太子之事过于草率。时杨广严密守护着宫禁，控制父亲的一举一动，阻止朝臣与隋文帝相见。杨广有事致信向杨素讨教，然回信却被宫女误送给隋文帝。隋文帝大怒，加上宣华陈夫人说太子对她非礼，一气之下，大叫要召回杨勇。杨素为杨广采取紧急措施，矫诏将拟诏令的柳述等人抓了起来，让太子心腹宇文述统率东宫卫士前来“护驾”，另一心腹张衡入侍隋文帝。当天，对外宣布了隋文帝驾崩的消息。
隋炀帝登位，杨素再立新功，为新主平定了“造反”的汉王杨谅。
向来用阴谋算计别人的杨素，满以为从此能长保富贵，可他打错了算盘。比他更会算计的隋炀帝，只是利用了他，在利用之后，仅给了他表面的尊荣，背地里巴不得他快死。杨素患了重病，不肯服药，从此一命归西。
杨素的事情并未结束，他的儿子杨玄感在隋末掀起了一场特大风波。