許善心祖父許懋，南梁太子中庶子，始平郡、天門郡二郡守、散騎常侍。父親許亨，梁朝官至給事黃門侍郎，陳朝歷任羽林監、太中大夫、衛尉卿，領大著作。

許善心九歲喪父，被母親范氏養育。幼年聰明有心智，所有聞聽都能背誦記憶，博聞強記，被當世所稱道。家中有舊書一萬餘卷，全部通讀。十五歲會寫文章，寫信給父親的朋友徐陵，徐陵非常吃驚，對人說：「才情極高，這是個神童。」出仕初任新安王法曹。太子詹事江總推舉他為秀才，應試對策列為高第，授任度支郎中，轉任侍郎，充任撰史學士。禎明二年（588年），加通直散騎常侍，到隋朝聘問。隋文帝伐陳，使命完成而沒有放行返回南朝，多次上表請求辭行。隋文帝不許，羈留在賓館。陳朝滅亡，隋文帝遣使相告。許善心穿上喪服在西階之下號哭，坐在亂草上向東方，經過三日。文帝敕書慰問他。第二日，有詔書到他的賓館，拜他為通直散騎常侍。賜下衣服一套。許善心痛哭極盡，進入房中改換服飾，再出來向北站立，垂淚再拜受詔。第二日上朝，在殿下拜伏哭泣，悲不能起。文帝對左右說：「我平陳國，只獲得此人。既然能懷念他的舊君，就是我的忠臣。」命他以本官當值門下省，賜布帛一千段，母馬二十匹。跟隨文帝登泰山，後來後授任虞部侍郎。

開皇十六年（596年），有神雀降在含章闥，文帝召百官賜宴，告訴他們這一祥瑞。許善心在座上請求拿來紙筆，寫成《神雀頌》。頌辭寫好，奏上，文帝很高興，說：「我見神雀，與皇后一起觀賞。今早召公等入宮，剛說此事，許善心在座上才知道，即能作成頌辭，文不加點，筆不停毫，常聽說這種事，今天能夠見到。」于是賜物二百段。開皇十七年（597年），任命他為秘書丞。當時秘藏圖籍多有混亂，許善心仿照阮孝緒《七錄》，另作《七林》，一一寫出總敘，放在篇首。又在部錄之下，表明作者之意，區分其體例。又奏請跟隨李文博、陸從典等學者十幾人，勘定經史錯謬之處。仁壽元年（601年），攝黃門侍郎。仁壽二年（602年），加攝太常少卿，他與牛弘等議定禮樂，秘書丞、黃門的職務照舊。仁壽四年（604年），留守京師。隋文帝在仁壽宮駕崩，隋煬帝秘不發喪，先改變留守官員，讓他擔任岩州刺史。正好漢王楊諒造反，沒有到任。

大業元年（605年），轉任禮部侍郎，上奏推薦儒生徐文遠為國子博士，包愷、陸德明、褚徽、魯世達等人都加官級品秩，任命為學官。當年，他作為納言楊達的副手為冀州道大使，因為符合旨意，賜布帛五百段。左衛大將軍宇文述每天借用本部兵數十人以供用自家役使，常工作半日而止。攝御史大夫梁毗上奏彈劾。隋煬帝正要以心腹委任宇文述，開始交付法司調查，千餘人都說被役使。經過二十餘天，法官按照皇帝心意，說役使不滿一整天，其天數雖多，不當一起計算，縱然有實情，也當無罪。諸兵士聽說了，改口說開始沒有被役使。煬帝想要釋放，交付議論事情虛實，百官都議論為沒有。許善心以為宇文述在仗衛中抽兵自家役使，雖不是一整天，宿衛有缺，與一般役使部下，情況不同。又士兵多輪值，分散回到本部，分別傳問，供詞不謀而合。現在過了一月，才開始翻供，姦情明顯，怎麼可以開脫。蘇威、楊汪等二十餘人，贊同許善心之議。其餘的大臣認為可以免罪。煬帝贊同免罪之奏。數月後，宇文述誣告許善心：「陳叔寶死後，許善心與周羅睺、虞世基、袁充、蔡徵等人一起去送葬。許善心寫祭文，稱他為陛下，膽敢在今天加陳叔寶的尊號。」召問他發現屬實，自稱引援古例，事情得以開釋，但是隋煬帝很討厭他。太史上奏煬帝即位之年，與堯時符合，許善心議論，以先帝哀喪剛剛結束，不應該稱賀。宇文述授意御史彈劾他，貶為遷給事郎，降品二等。大業四年（608年），撰寫《方物志》奏上。大業七年（611年），跟隨隋煬帝至涿郡，煬帝準備從親自率軍東征高句麗，許善心上密奏忤逆聖旨，被免官。當年再徵召他為守給事郎。大業九年（613年），攝行為左翊衛長史，跟隨皇帝渡遼河，授為建節尉。煬帝曾經言及文帝受命之符，于是問起鬼神之事，敕命許善心與崔祖濬撰寫《靈異記》十卷。

當初，許善心之父許亨撰著《梁史》，沒有寫成就去世了。許善心繼承父志，續修家傳史書，在《序傳》之末，敘述編寫意圖。大業十年（614年），許善心又跟隨隋煬帝至懷遠鎮，加授朝散大夫。突厥圍攻雁門，許善心攝左親衛武賁郎將，領江南兵宿衛殿省。隋煬帝駕幸江都郡，追敘許善心之前的功勳，授任為通議大夫。下詔恢復原來的品級，行給事郎。大業十四年（618年），宇文化及殺死隋煬帝，隋朝官員全都到朝堂拜賀，只有許善心不到。許弘仁馳馬告知他：「天子已經駕崩，宇文將軍攝政，合朝文武無不到場。天道人事，自有代替終結，關叔叔你什麼事還要這麼徘徊！」許善心大怒，不肯隨他而去。許弘仁回身上馬，哭著說：「將軍于叔叔全無惡意，你自求死路，豈不痛心！」回去告知唐奉義，將情況告訴宇文化及，宇文化及派人到他家帶到朝堂。宇文化及令人釋放了他，許善心沒有拜舞就出去了。宇文化及目送他說：「此人很自負氣節。」命人捉回來，罵道：「我好意放你，你膽敢如此不遜！」他的同黨就把他拖出去，將他殺害，時年六十一歲。越王楊侗稱帝，贈左光祿大夫、高陽縣公，謚號文節。其子許敬宗。