许善心字务本，高阳北新城人。祖父许茂、父亲许亨，《南史》中都有传。
许善心九岁时死了父亲，由母亲范氏抚养。自幼聪明，思路清晰，听到的就能记住，见闻广博，默默记忆，受到当世人的称赞。家中有旧书一万多卷，全部都通览了一遍。十五岁时就会写文章，写信给父亲的朋友徐陵，徐陵非常惊奇，对人说“：这人是个神童。”太子詹事江总举荐许善心为秀才，对策成绩优异，授度支郎中之职，补任撰史学士。
陈后主祯明二年(588)，加授通直散骑常侍，出使隋朝。遇到隋文帝讨伐陈朝。完成使命之后不能回国复命。多次上表请求告辞，文帝不允许，软禁在宾馆中。到了陈朝灭亡，文帝派遣使者告诉许善心。许善心身着丧服在西阶下痛哭，坐在草上面向东方。经过了三天，敕令吊唁。第二天，有诏令到宾馆，授许善心通直散骑常侍之职，赏赐衣服一套。许善心痛哭尽哀，入房改换服装，重新出来后朝北面站立，流着泪再次拜谢，接受诏书。次日，许善心就身着朝服，在殿堂下哭泣，非常悲痛。文帝对身边的人说：“我平定陈国，只获得这一个人。既能怀恋其原来的君主，就是我的忠臣。”敕令以原有的官职直门下省，赏赐物品一千段、雌马二十匹。跟从隋文帝巡幸太山，回京后，授予虞部侍郎之职。
开皇十六年(596)，有神雀落在含章闼上。隋文帝召集文武百官，赐予宴席，把这件祥瑞告诉众人。许善心在座位上请赐纸笔，创作《神雀赋》上奏。文帝非常高兴地说：“我见到神雀，和皇后一起观看。今早召见诸位公卿进来，才讲述这件事情。许善心在座位上刚刚知道，就能撰成颂章。行文不加点抹，运笔不停止，我常听说这种话，今天见到了这样的事情。”因而赏赐许善心物品二百段。十七年，任秘书丞。当时秘书省收藏的图书典籍，尚有许多很混乱。许善心模仿阮孝绪《七录》，另撰写《七林》，各自撰写总叙，放在篇章的开篇，又在分部著录下面，说明作者的用意，以从中区分不同的类别。又奏请追令李文博、陆从典等十来名学者，纠正校定经史中的错误。仁寿元年(601)兼任黄门侍郎。二年，加授太常少卿，和牛弘等人商议编定礼乐，秘书丞、黄门侍郎之职依旧。仁寿四年，留守京城。隋文帝死于仁寿宫，炀帝隐藏事实，不向众人发布文帝驾崩的消息，先更换留守京城的官员。许善心出京任岩州刺史。适逢汉王杨谅造反，许善心没有赴任。
大业元年(605)，改任礼部侍郎，上奏举荐儒者徐文远为国子博士，包恺、陆德明、褚徵、鲁世达等人，都加授官品俸禄，任命为学官。这一年，副纳言杨达任冀州道大使，许善心因举荐合皇上的旨意，赐物品五百段。
左卫大将军宇文述每天借用几十名本部士卒，以供个人役使，常常是役使半天就结束了。御史大夫梁毗上奏弹劾宇文述。炀帝刚刚把宇文述视为心腹，当初交付法官追究时，有一千多人都说被役使过。经过二十多天，法官窥伺炀帝的旨意，竟然说使役不满一天，人数虽然很多，但不应该连续计算，即使有役使士卒的实情，也没有罪。众士卒得知此事，改口说当初没有被役使过。炀帝想释放宇文述，交付百官议论此事真假，文武百官都认为是假的。许善心认为宇文述从仪仗卫戍之处抽调士兵供个人役使，虽然不满一天，但禁卫缺位，和平常那种役使其所部士卒的情况不一样。另外，士兵下岗之后，分散回到原来的住所，分别被追回，没有商议而供词相同。如今差不多过了一个月，才开始翻供，奸情很明显，这种情况下怎么可以释放呢？苏威、杨汪等二十多人赞同许善心的建议，其他人都认为应该免除罪行。隋炀帝准许主张免除罪行的人的奏请。事情过后几个月，宇文述谮害许善心说：“陈叔宝死时，许善心和周罗侯、虞世基、袁充、蔡征等人一同为陈叔宝送葬。许善心撰写祭文，称为‘陛下’。竟敢在今天给陈叔宝尊号。”召见许善心询问，许善心承认有这样的事情，自己援引古时候的先例。事情得以开解，但炀帝非常讨厌许善心。又，太史奏称炀帝即位的年份与尧时相符合，许善心认为国哀才开始，不应祝贺。宇文述让御史弹劾许善心，贬为给事郎，官降二级。
大业四年，撰著《方物志》，上奏炀帝。大业七年，跟从炀帝至涿郡。炀帝刚刚亲自率军东征辽东，许善心上秘密奏章，违忤旨意而被免官。这一年，又授予守给事郎之职。炀帝曾说起文帝受命的符应，因而问鬼神的事情，敕令许善心和崔祖..撰写《灵异记》十卷。
当初，许善心的父亲许亨撰写《梁史》，没有完成人就死了，许善心继承父亲的遗志，续修史书。
大业十年，又跟从炀帝至怀远镇，加授朝散大夫。突厥军围困雁门，许善心兼左亲侍武贲郎将，率领江南士兵守卫殿省。炀帝驾幸江都，追叙之前的功勋，授许善心通议大夫之职，诏令还复原来的官品，行给事郎。
大业十四年，宇文化及杀害炀帝那天，隋朝官员都到殿堂拜谒祝贺，只有许善心没有到。许弘仁驰马告诉他说“：天子已经驾崩，宇文将军代理朝政，满朝文武全部集聚朝堂。天道人事，自然有其代谢始终。没有想到叔叔还像这样低首徘徊？”许善心恼怒，不愿随他前去。许弘仁往回走，上马后哭着说：“宇文将军对叔叔没有半点恶意，突然间自己求死，岂不痛心啊！”回去后告诉唐奉义，唐奉义把这种情况告诉宇文化及，派人到许善心家把他抓起来带回朝堂。宇文化及命令放了他，许善心不向宇文化及祝贺就出去了。宇文化及目送许善心说“：这人太傲气。”命人把他抓回来，骂道：“我好心想要放了你，你竟敢如此不恭敬！”宇文化及的党羽就牵扯拉曳，把许善心杀害了。到了越王杨侗自立为帝，追赠许善心左光禄大夫，封爵高阳县公，谥号为文节。
许善心的母亲范氏，是梁朝太子中舍人范孝才的女儿。年轻守寡，抚养孤儿，学识广博，有高尚的节操。隋文帝知道后，敕令掌管御膳的人经常把时新果菜进献范氏，常常派人分赐物品。曾经召范氏入内宫，陪伴皇后讲读经籍。封为永乐郡君。到了许善心遇害，范氏已经九十二岁，临送丧时不哭，手抚灵柩说“：能够死于国难，我没有白养这个儿子。”因而卧床不吃东西，此后十多天也死了。