С конца XVII века в Курске действовали богоугодные заведения приказа общественного призрения, которые занимали большую усадьбу на пересечении улиц Садовой и Семеновской. В 1830 году в больничном корпусе была построена и освящена Скорбященская церковь, рядом с которой позже возвели часовню. Документы о ней хранятся в Государственном архиве Курской области. В частности, часовня упоминается как действующая в ведомости о Скорбященской церкви при губернской земской больнице за 1916 год. В 1930-е годы здание лишилось главы.

До 2004 года часовня входила в состав строений городской больницы №1. 2 января 2004 года, по благословению митрополита Курского и Рыльского Ювеналия, была создана православная община в честь иконы Божией Матери «Всех скорбящих Радость» для восстановления храма. 6 февраля 2004 года община была официально зарегистрирована. 23 июля 2004 года комитет по управлению имуществом передал здание бывшей часовни в безвозмездное бессрочное пользование общине. 29 июля 2004 года указом митрополита Ювеналия настоятелем прихода был назначен священник Вадим Санин. В августе 2004 года митрополит Ювеналий освятил антиминс для проведения литургии в храме. Первое богослужение состоялось в праздник Преображения Господня.

6 ноября 2007 года храм был освящен архиепископом Курским и Рыльским Германом.