高颎，又叫高敏，自称渤海蓨（今河北景县南）人。其祖先原是汉官，因到辽东上任，遂与当地人融合。父亲高宾，为独孤皇后父亲独孤信的门客。
在孩提时，高颎就显得很出色，涉猎文史，有器度，能言善辩。据说，家门口有棵柳树，高达百尺，亭亭如盖，闾中父老说：“此家当出贵子。”（这和刘备早年的故事极为相似）借着独孤氏的势力，借着父亲的余荫，高颎年纪轻轻，就步入了北周的中央政权，在平齐大业中，立下战功。
精明强干，久习兵事，多韬略，高颎出众的才干，加上与独孤氏的特殊关系，使他成了辅政大臣杨坚物色的人物。当有人从中斡旋时，高颎很是坚决地表示：“愿受驱使，倘若大事不成，甘当灭族！”从此成了杨坚的心腹。
尉迟迥起兵反杨坚，由韦孝宽统领前去讨伐的中央军，惧怕敌方的强大，畏缩不前。杨坚接连派心腹崔仲方、刘昉、郑译赴前线监军，然三人均托词不肯受命。高颎自告奋勇接受使命，托人将“忠孝不能两全”之语带给母亲，流泪上路。到了前线，深谙兵法的高颎审时度势，造桥进军，毁桥激励士气，用破釜沉舟的项羽式战术，大破敌军。最后，困守邺城的尉迟迥走投无路，在城破后自杀。
这一仗，打出了高颎的名气，打出了高颎在朝中的地位。班师回朝后，加官晋爵，成为杨坚手下第一红人。
杨坚夺得政权后，高颎高居相位，被拜为尚书左仆射、纳言，封渤海郡公。因高颎父亲高宾曾被赐姓“独孤”，杨坚亲切地称高颎为“独孤”，而不直呼其名。高颎常坐在朝堂北面的一棵槐树下理政，由于此树不顺树列，有司要伐去，杨坚不准，令留示后人，以为纪念。
胸怀大志的高颎没有躺在功劳簿上，他将自己的大志，与隋文帝的大志凝合起来，一同治天下。然南北分裂，国土未一，必须先打天下，然后才谈得上治天下。由此，他积极地帮助隋文帝策划伐陈战略。充分相信高颎的隋文帝，命他节制讨陈诸军。时正值陈宣帝驾崩，高颎出于攻心为上、攻城为下的考虑，提出“礼不伐丧”的战略，暂停伐陈，以此塑造隋军仁义之师的形象。
军队虽然班师，然高颎却未停顿，他一直在比较双方的优劣。当隋文帝问他对灭陈有何妙策时，他胸有成竹地说：“江北地寒，收成时晚；江南土热，水田早熟。在对方收获时节，我方征集少量部队，虚张声势，佯作进攻。对方必忙于屯兵防御，从而误了收获。对方防御，我则解除进攻之势，如此再三，对方便习以为常。此后再集结部队，对方必不再警惕，当其犹豫之时，我则一举渡江，登陆而战，士气肯定高涨。此外，江南土薄，屋舍多用竹茅，所有积蓄，不用地窖。我秘密派人前去，因风纵火，焚毁其积蓄；待其重修重积，再予焚毁。不出数年，对方必财力耗尽。”
经隋文帝拍板，此策成了大战前对陈战略的核心。
此策被用，效果确实如高颎所说的那般。
大军集结，高颎被任命为元帅杨广的副手——元帅长史。他有着极大的权限，三军事务全部由他实际处理。他处理得当，使隋军的战略推进得以顺利实现。
在整个合作过程中，杨广体现出了优秀的元帅素质，对高颎予以高度信任，放手使用，从未有过猜忌。然在建康得手之后，却在女人问题上，彼此发生了不快。杨广贪恋陈后主宠妃张丽华的美色，要纳她为妾，可高颎引用古训阻止说：“武王灭殷，杀了妲己。今平陈国，不宜取张丽华！”下令将张丽华斩首。这事使杨广心生芥蒂，埋下了他日后嫌忌高颎的伏笔。
高颎才高、功高，引起了来自各方面的嫉妒，流言蜚语包围了他，最严重的一种说法，是说他图谋不轨。了解高颎的隋文帝，对此根本不信，杀了告密者，重赏高颎，授上柱国，封齐国公。面对重赏，高颎让位以示不敢当。隋文帝认定高颎是上天赐予他的“良辅”，是不可多得的“心腹”，要他抛弃一切疑虑，安心当好他的宰相。然而，这样仍未能杜绝朝中对高颎的攻击之言，由此，隋文帝又罢黜了几个说三道四的大臣。对君主的厚遇，高颎更为谦虚，谦虚中保持着从容。
隋文帝评价道：“独孤公如镜，每被磨擦，愈显其明。”
高颎当年拜相，他的母亲不以为喜，反以为忧，告诫儿子说：“你富贵已极，只缺一砍头，当慎而再慎！”高颎记着母亲的话，极力淡化自己的功劳。一次，隋文帝让他和贺若弼论平陈之功，他说：“贺若弼先献十策，后又在蒋山苦战破敌。臣不过是一文吏，怎敢与大将军论功。”隋文帝听了满意地大笑，舆论认为高颎有谦让的美德。
由隋文帝作主，他的儿子高仁表娶了太子杨勇的女儿为妻。有这样前程似锦的联姻，有隋文帝的高度信任，自己又丝毫不张狂，然叫他百思不得其解的是，他始终难以逃脱人言的包围。突厥犯边，他被拜为元帅，前去抗御。他在前方血战，后方宫廷中近臣们却说他要谋反。
史书没有记载这些谣言源于何处，仔细分析一下，绝非空穴来风，没有实力人物的暗中运作，近臣们决没这般胆量。自以为行得正的高颎，得罪了两大要人：他劝隋文帝的随口语“一妇人”，得罪了独孤皇后；他杀张丽华，得罪了杨广。两人怀恨在心，自然要报复。这尚是浅层的，更深层的是，他和太子联了姻，成为太子的保护伞。而独孤皇后与杨广正在颠覆太子的地位，要废掉太子，先得除掉这把保护伞。用刺激隋文帝的谣言来打倒高颎，正是他们母子惟一可以采取的招数。讨好他们并被他们所收买的近臣，不过是他们的传声筒。
事情的复杂，远远超出高颎的估计，虽然隋文帝再次为他辟了谣，但隋文帝出于对太子的不满，准备重新考虑太子人选的做法，将他置于一个非常尴尬的境地。他不想躲避，实在也没有退路，冒着风险反对隋文帝改换太子。他不得不这样做，于公，他保太子，就是保住国本，以避免天下震动的后患；于私，他保太子，就是保住自己的身家性命。
太子终于没能保住，在独孤皇后的谗言下，在新太子杨广的推波助澜下，在宗室成员的诽谤下，继杨勇被废之后，高颎最后也“得罪”了隋文帝，以“重大罪行”被罢去了官职。
隋文帝未忘记这个老臣，说不忘记，只是让他参加一些宴会而已，没有重新启用他，并很武断地对高颎说：“朕不负公，公自负朕。”还对侍臣说：“不要学高颎要挟君主样，自许第一。”
高颎打落牙齿往肚里咽，无法辩解。他杜门不出，以免是非。可政敌们还是不放过他，告发他以司马懿自比，托疾等待时机，夺取社稷。这是一等死罪，可隋文帝为了减轻连杀功臣的声名，改为削职为民。
高颎不恨，以为从此免了杀头之祸。
高颎是免了杀头之祸，但仅免在隋文帝之朝。
隋炀帝即位，他被任为管礼乐的太常。按说，这个职务，是个与世无争的职务，然他以习惯了的责任感，批评起时政来。针对隋炀帝好声色，喜奢靡，兴长城之役，说是亡国之象；针对隋炀帝厚待突厥启民可汗，说是恐为后患；针对腐败局面，说是朝廷很无纲纪。
有人告发，隋炀帝将他推上了断头台，家属充军。
高颎死得冤。他以天下为己任，执政二十年，殚精竭虑为隋朝效劳，在统一和治国两方面建立了盖世功勋。他有度量，奖掖人才，推出了苏威、杨素、贺若弼、韩擒虎等一大批名臣。人称“真宰相”。
“真宰相”的被杀，加速了隋朝的崩溃。