温大雅字彦弘，并州祁县人。父亲温君攸，是北齐文林馆学士，入隋后任泗州司马，因见隋朝政令不行，请病假告归。大雅性情极孝，与其弟彦博、大有都很知名。薛道衡见了他们，感叹地说：“兄弟三人都是卿相之才呀。”初任东宫学士、长安县尉，因父亲去世解职，时逢天下大乱，便不再出任官职。
高祖镇守太原时，以厚礼相待。起兵后，授职为大将军府记室参军，主掌文书。高祖受禅后，大雅与窦威、陈叔达一道议定礼仪，后迁任黄门侍郎，当时彦博也任职为中书侍郎，对居近密。高祖曾从容对他说：“我起兵于晋阳，就是因为您一家的缘故。”不久升任工部侍郎、陕东道大行台尚书。隐太子图谋作乱之时，秦王上表派温大雅镇守洛阳以待变化，大雅多次陈献密策，多受秦王嘉赏。
秦王即位后，转任礼部尚书，封为黎国公。大雅改葬其祖父，卜筮者占其墓地说“：对弟弟吉利，而不利于您，怎么办？”
大雅说“：如真像您说的那样，我将含笑入地了。”一年后去世，谥号为孝。永徽五年(654)，赠予尚书右仆射。