裴怀古，寿州寿春人。仪凤年间(676～679)，到皇帝殿庭上书，授官下圭阝县主簿。武则天长寿年间(692～694)，转任监察御史。当时姚州、..州少数民族首领反叛，诏命怀古前去招降安抚。怀古到任后讲明赏罚条例，叛军士卒每天归顺的人以千计，于是俘获了叛军首领，安排好当地居民，班师回朝。少数民族百姓受他恩惠，为他立碑颂德。恒州鹿泉寺有个和尚净满被弟子暗算，那弟子偷偷画了一个女人住在高楼上，又画上净满张弓射那女人的情形，便把画藏在装经书的箱子里。随后那弟子到朝廷上书告发净满诅咒圣上，实在是大逆不道。武则天命令裴怀古审讯这案子把和尚杀了。怀古仔细研究了诉讼状，放了净满后回禀圣上，武则天大为恼怒，怀古进言道：“陛下法令不分亲疏，应当天下通行划一。怎么能让我诛杀无辜的人，以迎合圣上的旨意。假使净满有背叛君主的情形，我又有何面目宽恕他呢？我如今谨守常典，虽死无恨。”武则天的情绪才缓解了。
圣历年间(698～700)，阎知微充任使臣前往突厥，怀古为他的监军。到了突厥的殿庭上，首领默啜册封知微为南面可汗。又准备授给怀古伪职，怀古不答应，默啜便要杀他，怀古直言抗争道：“我宁愿守忠而死，也不毁节而求生，请斩首吧，我决不回避死亡。”于是他被随军监禁，后来想法脱身逃了回来，授官祠部员外郎。
当时姚州、..州少数民族首领一起到朝廷赞颂怀古安抚边地的功绩，请求让他做州郡长官抚御边地，于是授官姚州都督，后因病未能成行，转任司封郎中。又有始安县(今广西桂林)贼寇欧阳倩聚集数万人，抢劫攻击州县，便授予怀古桂州都督官职，又充任招慰讨击使。他一到五岭，便飞书传信进行招抚诱降，明示祸福，于是贼众前来迎接并归降，自我陈述是被官吏侵扰逼迫，才举兵反叛的。怀古了解他们态度诚恳，便以轻装骑兵赶赴叛军军营。他身边的人说：“夷獠人难以亲近，不可轻信。”怀古说：“我依靠忠义诚信，可以与神明相通，何况是人呢！”于是到叛军军营进行慰问晓谕。叛军士卒十分高兴，交还他们所抢劫的财物，缴纳到国家府库中。各酋长中向来脚踏两只船的，也都来诚心归附，五岭南面全部被平定。
又历任相州刺史、并州大都督府长史，所到之处被百姓官吏所敬慕。神龙年间(705～707)，任左羽林大将军，赴任途中还未到达京城，又授官并州长史。官吏百姓听说怀古又回来了，老老少少相携到郊外欢迎他。当时崔宣道代替怀古为并州长官，刚刚到任就被罢免，也出城到郊外等候迎接怀古。怀古怕伤害宣道出迎的好意，命令官吏驱赶出城迎接他的人们，可是跑来迎接他的百姓更多了，怀古就是这样被人们所思慕的。随即转任幽州都督，征召为左威卫大将军。不久去世。