韦述是韦弘机的曾孙。他家藏书两千卷，韦述在幼年时，差不多都背熟了。
他父亲是韦景骏，景龙年间，任肥乡县县令，韦述跟着他赴任。元行冲是韦景骏姑母的儿子，是当时的学者领袖，常常装几车书跟着自己。韦述到他家里去看书，废寝忘食，元行冲对他感到惊奇，试着和他谈古代的事，他熟悉而且确知，了如指掌。又要他写文章，他接过纸就一气呵成。元行冲说“：这是我亲戚家的宝贝。”韦述去考进士，当时他年龄还小，身材外貌都不起眼，考功员外郎宋之问说：“小家伙有什么才能？”韦述说：“我生性喜欢读书，写了《唐春秋》三十卷，遗憾的是没写完，其他方面随您考察。”宋之问说“：我们本来就是选拔优异人才的，果然选到了一位好史官。”他于是考中了。
开元初年，他担任栎阳县县尉，秘书监马怀素任命他和一些学者到秘书省续写《七志》，五年后写成了。韦述喜欢研究姓氏源流，看到柳冲写的《姓族系录》，每次都抽空抄一些带回去，到家后又誊正，因此详细了解了各种姓氏的源流，于是又撰写了《开元谱》二十卷。后累官任右补阙。张说主持集贤院，推荐他任直学士，后升任起居舍人。他跟随皇帝去泰山封禅，写成了《东封记》呈上，皇帝下诏褒奖他。此前，有诏命修订《六典》，徐坚构思了一年多，叹气说：“我修订过七部书，但过了一年还不知《六典》修订怎么动笔？”到萧嵩推荐韦述修订，韦述摹仿周朝六官分辖属官，事情归于职掌，体例才确定了。当初，令狐德..、吴兢等人写武德年以来的历史，都没写成，韦述在他们两人写作的基础上又增加了后来的史实，划分本纪、列传，又写了一篇凡例。
萧嵩想早点完成，又安排起居舍人贾登、著作佐郎李锐帮助韦述撰写。写成后，文笔简练、记事详明，萧颖士认为是谯周、陈寿的水平。后调任国子司业、集贤学士，多次升官后任工部侍郎，封爵为方城县侯。
韦述任职秘书省，有四十多年，当史官二十年，不追求荣誉钱财，为人是忠厚长者，当时人都崇敬他。他接触人不论贵贱都平等相待。家中藏书有两万卷，都经亲手校勘，纸和字都精细严谨，禁中秘书省的书都比不上。古代草书、隶书的字帖，秘本图书，古代器具图录没有不具备的。遭安禄山之乱，被抢丢失都没有了。韦述带着唐代历史躲到南山，但被叛军抓获，任命为叛贼官员。叛贼平定后，将他流放到渝州，被刺史薛舒关押侮辱，他绝食饿死了。广德初年，他的外甥萧直任李光弼的判官，到朝廷报告事情受到皇帝赏识，乘机申诉韦述：“在叛军逼近紧急的时候，能保住了国家的史书，叛贼平定后，都交给了史官于休烈，功可抵过，应予宽恕。”皇帝下诏赠官右散骑常侍。
韦家出名的：行孝友爱、善写文章的有韦承庆、韦嗣立；精通音乐的有韦万石；精通礼仪的有韦叔夏；有历史才华和知识广博的有韦述。韦述撰写的两百多卷书在当时流传。他的弟弟韦荄、韦迪，学问事业也和韦述接近。韦述和韦荄一起任学士，和韦迪一起任礼官，士人都推崇他们。当时赵冬曦几兄弟也都有名气，张说曾说：“韦家、赵家的兄弟们是人中的俊杰。”