Церковь во имя Похвалы Пресвятой Богородицы служила теплой зимней церковью Прокопьевского собора. Первое деревянное здание появилось в 1495 году. В 1672 году по распоряжению Ростовского митрополита Ионы и на средства купца Афанасия Гусельникова был построен каменный одноэтажный храм с пределом во имя святого Алексия, митрополита Московского. В 1690 году был добавлен второй этаж, освященный в честь Рождества Христова, который соединялся с крестовой владыческих палат деревянными переходами. После пожара 1715 года храм был восстановлен в 1716 году архиепископом Великоустюжским и Тотемским Иосифом и освящен в честь митрополита Алексия, Московского чудотворца. В конце XVII века Алексеевская церковь стала частью Архиерейского дома и была преобразована в домовую архиерейскую церковь. В 1820 году она вновь была приписана к Прокопьевскому собору, а в 1821 году завершено создание иконостаса верхнего этажа, в работе над которым участвовали Прокопий и Андрей Соколовы, Петр и Николай Протопоповы. В 1835 году был изготовлен иконостас нижнего этажа, освященный в честь собора Иоанна Предтечи. В 1868 году, после строительства теплого Тихоновского придела Прокопьевского собора, службы на первом этаже Алексеевской церкви прекратились, и этот этаж был отдан под подсобные помещения. С 1923 по 1927 год в здании церкви размещался губернский архив. В 1941 году все помещения Архиерейского двора были переданы под госпиталь, а с 1948 года здесь располагается госпиталь для ветеранов Великой Отечественной войны.