辛术，字怀哲，从小聪明敏锐，遇事颇有见解，脱去布衣入仕，任司空胄曹参军。与仆射高隆之共同负责建筑邺城的宫殿，他处事明白畅达，工匠们都尽心尽力。再迁任为尚书右丞，出任清河太守，为政有能员的名声。朝廷命他为并州长史，因遭父丧离职。清河的父老乡亲数百人到宫廷上书，请求为他立碑歌功颂德。齐文襄帝高澄掌管朝廷大事，他与尚书左丞宋游道、中书侍郎李绘等追随高澄至晋阳，都成为高澄的座上宾。他多次升迁，官至散骑常侍。
东魏孝静帝武定六年(548)，侯景叛乱。朝廷任辛术为东南道行台尚书，封为江夏县男。他与高岳等人一起打败侯景，捉获萧明，迁任东徐州刺史，任淮南经略使。北齐天保元年(550)，侯景征收江西的租税，辛术率领军队渡过淮河断绝他的归路，焚烧侯景征收的稻谷数万石。然后北还镇守下邳，淮南人随辛术渡过淮水的有三千多家。东徐州刺史郭志杀死郡守，文宣帝听到奏报后，命令辛术“：从今天起，郭志统率的十多个州县，所有犯法的，刺史先汇报给你，你再下决断，然后奏报朝廷。”北齐的行台长官兼管一方人事，就从辛术这里开始。安州刺史、临清太守、盱眙和蕲城两地的镇将犯法，辛术都将案情奏闻朝廷将他们处死。睢州刺史及所辖的郡守，都因犯法受大辟的处治。朝廷把他们的奴婢一百多口以及资财家产都赐给了辛术。他多次拒绝，却不被朝廷同意。他便将犯官的家口和资财送到司法部门，并不让他们报告朝廷知道。邢邵听说了，写信给他，说：“过去钟离意说：孔子在盗泉旁边忍受干渴，便把珠玑委之于地。您今天能做到这样，真可以说与孔夫子异代而道德相同啊！”
王僧辩打败侯景，辛术前去招纳安抚。侯景占据的城镇相继归附，前后共有二十多个州郡。于是，他转而镇守广陵，得到一颗传国玉玺，派人送到邺城。文宣帝把玉玺送至太庙祷告。这颗玉玺为秦代刻制，周有四寸，上端的纽有盘龙相交，上面文字是：“受命于天，既寿永昌。”西汉时代代相传；又历经魏、晋两朝；晋怀帝失败，玉玺流落在刘聪手里；刘聪失败，又归于石勒；石勒失败，晋穆帝永和年间，濮阳太守戴僧施得到了它，派都护何融送到建邺，历经宋、齐、梁三朝；梁失败后，侯景得到了它；侯景失败，侍中赵思贤把玉玺送给侯景的南兖州刺史郭元建，郭元建又送给辛术。所以，辛术进奉给天子。
不久，他被授命为殿中尚书，又领任太常卿。便与朝中贤士商议律令。又升任为吏部尚书，食俸于南兖州梁郡。迁都邺城以后，吏部尚书一职，继任者知名的就有三四个，但各有长短得失，不能尽善尽美。高澄年轻放达疏阔，他的缺点也在于疏阔；袁叔德沉稳周严，谨慎宽厚，缺陷在于过分细密；杨忄音风流潇洒，取士有失于浮华不实。惟有辛术性情高洁清明，取士注重才能器识，根据名声探求真实，把他们的今天与昨天相参考。掌管仓库的小官吏只要有能力，也必定被提拔；豪族大姓的人也不会遗漏。考察这一时期铨选人才的情况，辛术最为公正，很被当时所称道。天保末年，文宣帝曾命他选拔一百名官吏，而参选的人多达二三千人。他列出的士子名单，人们没有不满意的；他所选拔出来的，后来都官位显赫。
他廉洁俭约，没有别的嗜好。勤于职守，从没有过少许的松懈。统率军队施以威仪，管理地方多有惠政。少年时爱好文学和历史，晚年更加勤奋学习，虽然身在戎马军旅，仍然手不释卷。平定淮南后，对所有的财物秋毫不犯，惟有大量收集典章册籍。这些书大多是宋、齐、梁三朝的精本。他共得到一万多卷图书，以及顾恺之、陆探微之徒的名画，王羲之、王献之以下名家的书法，数量也很不少。这些都不上交公府，而归个人所有。回到朝廷之后，他用这些书画馈赠给重臣权要，人们议论起来因此有些微词。天保十年(559)去世，终年六十岁。