Первоначальный деревянный храм, посвящённый Дмитрию Прилуцкому, был известен ещё в XVII веке как храм Дмитрия Прилуцкого на Кобылиной улице. Считается, что он был построен в 1503 году на месте, где находилась надгробная икона Дмитрия Прилуцкого, возвращённая из победного похода Ивана III на татар. В XVI веке здесь начиналась дорога на Кострому и Москву, где могла произойти встреча. По другой версии, в поход Ивана Грозного на Казань бралась житийная икона Дмитрия Прилуцкого из Спасского собора Прилуцкого монастыря. Около 1690 года на месте деревянного храма был возведён каменный, который сохранился до наших дней. Существует предположение, что именно этот храм упоминается в связи с постройкой ярославскими мастерами храма Дмитрия Прилуцкого в Вологде в 1653 году, а не храма на Наволоке. Церковь освящена в честь святых равноапостольных царей Константина и Елены, а придел нижнего храма, в честь Дмитрия Прилуцкого. В память о событии, послужившем основанием храма, ежегодно 3 июня проводилась литургия в Кафедральном соборе и храме Константина и Елены, после чего совершался крестный ход в Спасо-Прилуцкий монастырь.

До начала XX века храм располагался на окраине города. Он был закрыт 24 февраля 1930 года, и в его стенах разместились учреждения культуры и трикотажная фабрика. Интерьер храма был разрушен и разграблен, а внутри находился склад хозяйственного магазина. В 1997 году храм вернули Русской православной церкви, началось его восстановление. В 1998 году возобновились регулярные богослужения в нижней церкви, а с 2008 года, и в верхней. Традиция крестных ходов была возрождена. 10 апреля 2008 года на колокольню подняли восемь новых колоколов весом от 10 до 430 кг, доставленных из Тутаева.

Шатровая колокольня, примыкающая к паперти с северо-западной стороны, построена одновременно с основным зданием храма. Она состоит из трёх ярусов в виде восьмериков одинакового диаметра, которые доходят до земли, следуя старинным традициям. Верхний восьмерик открыт для звона, образован арками с килевидными завершениями и украшен тройными полуколонками. Колокольню венчает лёгкий шатёр с окнами-слухами и маленькой главкой.