上官仪字游韶，陕州陕县人。其父上官弘，隋朝时任江都宫副监，大业末年(617)，被陈陵杀掉。当时上官仪还年幼，被身边侍候的人隐藏起来，得以免遭不幸，假冒僧徒潜伏。后渐渐精于文章之学，涉猎遍及最古之书。贞观初年(627)，考中进士，朝廷征招他任弘文馆直学士。后来晋升为秘书郎。太宗撰著文辞，往往将文稿送给上官仪看；赐宴臣下，上官仪无不参与。又转任起居郎。
高宗就位，他任秘书少监，升任西台侍郎、同东西台三品。当时任用雍州司士参军韦绚为殿中侍御史，有人怀疑这不是迁升，上官仪说：“这不过是鄙陋无知的人的议论罢了。御史是在宫殿内供职，地位近于舜帝时的重臣夔与龙，置身于朝官的班列之中，难道是雍州的佐吏僚属之职能比拟的吗？”当时人们认为这是公正之言。上官仪长于做诗。他的诗绮丽多彩、柔婉华美。到了他地位高贵显赫时，人们往往仿效他的诗风，被人称为“上官体”。
高宗麟德元年(664)，上官仪因与梁王李忠的案件有牵连，判死罪投入监牢，他的家财被充公、亲属沦为奴婢。起先，武后得志，因而牵制高宗，独断专行，作威作福，高宗忍受不了；她又勾结道士使用符咒谋求成功，被宦官王伏胜告发。
高宗因此大怒，要将武后废为平民，召见上官仪一同商议，上官仪说：“皇后独断专行，恣意行事，朝野上下已失人望，应当废黜她以顺应人心。”高宗让他草拟诏书。内宫侍臣急忙跑去通告武后，武后主动申诉辩解，高宗后悔；又怕武后怨怒愤恨自己，于是说：“这是上官仪教我这样做的。”武后因此对上官仪深恶痛绝。
原先，李忠做陈王时，上官仪任咨议，与王伏胜同在王府。这时，许敬宗诬陷上官仪与李忠谋反，这是武后的旨意。自从褚遂良等元老大臣相继被残害，公卿大臣没有敢再坚持公论的人，惟独上官仪奉献忠诚，灾祸能不很快降临到他头上？自此国政归于武后，而高宗也无所作为了。
上官仪的儿子上官庭芝，历任周王府属官，也被杀。上官庭芝的女儿婉儿，中宗时是宫中的昭容，因而追赠上官仪为中书令、秦州都督、楚国公；追赠上官庭芝为黄门侍郎、岐州刺史、天水郡公，按追赠职位的礼仪重行安葬。