赵贵字元贵，天水南安人。
曾祖赵达，曾任魏朝库部尚书，封临晋子。
祖父赵仁，以家世清白而镇守武川，就把家安在这里。
赵贵从小就聪慧过人，有志节气概。
魏孝昌年间，天下战乱，赵贵带领乡人南迁避难。
正值葛荣攻陷中山，于是被拘禁。
葛荣失败后，尔朱荣任命赵贵为别将，随从征讨元颢有功，赐爵燕乐县子，授官伏波将军、武贲中郎将。
又跟随贺拔岳平定关中，赐爵魏平县伯，食邑五百户。
多次升迁，官至镇北将军、光禄大夫、都督。
贺拔岳被侯莫陈悦杀害以后，将领官吏各自逃散，没有人忠于职守。
赵贵对他的亲信们说：“我听说仁义之道难以持之以恒，实行它就是君子，违背它就是小人。
朱伯厚、王叔治感激意气恩惠，还能保持名望节操，何况我们承蒙贺拔公待以国士之礼，难道能混同于其他人吗？”说到这里，赵贵痛哭流涕。
于是有五十人随从赵贵，到侯莫陈悦处假装归降，侯莫陈悦信以为真。
赵贵乘机请求为贺拔岳收葬，言词慷慨。
侯莫陈悦认为他很有勇气，答应了他的请求。
赵贵于是收殓贺拔岳尸体而归，与寇洛等人纠集部众，逃往平凉，共同商议抗拒侯莫陈悦。
赵贵首先提议迎接太祖，事见《太祖纪》。
太祖来到以后，任命赵贵为大都督，兼府司马。
侯莫陈悦被平定以后，赵贵以原来的军职和持节，代理秦州政务，任秦州大都督。
赵贵治事清平恬静，百姓和下属官吏都很怀念他。
齐神武发兵进攻洛阳，派都督韩轨进占蒲坂。
太祖任命赵贵为行台，与梁御等人率军征讨。
还没有渡过黄河，而魏孝武帝已经西入函谷关。
授车骑大将军、仪同三司，兼右卫将军。
当时曹泥据守灵州抵抗，任命赵贵为大都督，与李弼等人率军征讨。
晋封侯爵，食邑增加五百户。
又因参与奉立魏文帝的功劳，晋封公爵，食邑增至千一五百户。
又授岐州刺史，仍兼大丞相府左长史，加散骑常侍衔。
梁人山定在黄河以西叛乱，任命赵贵为陇西行台，率军将其击败。
又跟随太祖收复弘农，战于沙苑，被任命为侍中、骠骑大将军、开府仪同三司，晋封中山郡公，授雍州刺史。
参与河桥之战，赵贵与怡峰为左军，作战失利，率先退回。
又参与支援玉壁，齐神武逃走。
高仲密举北豫州归降，太祖率军迎接，在邙山与东魏军队作战。
赵贵为左军，作战失利，导致全军溃败。
因罪被罢免官职，以骠骑、大都督衔统率本部兵马。
不久恢复官爵，任御史中尉，加大将军衔。
东魏将领高岳、慕荣绍宗等把王思政包围在颍川，赵贵率军支援，东南各州兵马也归赵贵调度。
东魏人壅断洧水灌城，援军无法靠近，王思政全军覆没。
赵贵撤军返回。
不久任柱国大将军，赐姓乙弗。
蠕蠕侵犯广武，赵贵将其击败，斩得首级数千，缴获其军用物资，整顿军队凯旋。
六官建立后，任命赵贵为太保、大宗伯，改封南阳郡公。
孝闵帝登基后，升太傅、大冢宰，晋封楚国公，食邑一万户。
当初，赵贵与独孤信等人都与太祖平辈，等到孝闵帝登基，晋公宇文护代君主处理国政，赵贵自以为是元勋重臣，心中常不服气，神色不平，就与独孤信商议谋杀宇文护。
到了约定的日期，赵贵想要起事，被独孤信阻止。
随即被开府宇文盛告发，被处死。