В 1772 году был издан указ, запрещающий хоронить умерших в черте города, у приходских церквей. В связи с этим для городского кладбища выделили участок на Красной горе за Покровской церковью. 1 июля 1772 года из Успенского собора на новое кладбище прошел крестный ход, и на месте будущей кладбищенской церкви установили крест. 22 мая 1774 года снова состоялся крестный ход из Успенского собора на кладбище, где после молебна заложили деревянную церковь, перевезенную из Сухонской Ерогодской волости с погоста Рождества Христова.

Церковь была освящена 15 октября 1774 года во имя святого Стефана Великопермского. 4 августа 1799 года епископ Вологодский и Великоустюжский Арсений выдал грамоту на строительство каменной церкви Стефана Пермского. 30 июня 1800 года заложили основание каменной церкви во имя Богоматери Всех Скорбящих Радости с приделами во имя святителя Стефана Пермского и преподобного Феодосия Тотемского чудотворца. Строительство велось на средства прихожан под руководством купцов Ямщиковых. Колокольня Стефановской кладбищенской церкви была построена одновременно с храмом и имела девять колоколов разной величины. Самый большой из них, отлитый в 1807 году, весил 107 пудов 30 фунтов и был украшен изображениями Распятия Господня, Божией Матери и Николая чудотворца. Время изготовления и вес второго по величине колокола неизвестны. Третий колокол, весом 12 пудов, был отлит в Устюге в 1786 году. Остальные колокола были небольшими и ничем не примечательными.

В 1960-х годах вышло секретное постановление ЦК КПСС, подписанное Никитой Сергеевичем Хрущевым, о ликвидации церквей в СССР. Местные власти должны были исполнить это распоряжение. В Великом Устюге решили, что на кладбище проверяющие не ходят, и постановлением исполкома от 8 января и 6 мая 1964 года закрыли Прокопьевский собор, оставив для верующих только Стефано-Пермскую кладбищенскую церковь. В связи с этим в церкви предстояло провести ремонт: установить иконостас, паровое отопление, настелить полы, очистить и покрасить стены, расписать храмы, обустроить хоры, тамбур и паперть, побелить наружные стены и покрасить кресты на куполах. Также был упразднен придел во имя Феодосия Тотемского, на его месте установили раку Прокопия Праведного из Прокопьевского собора.

В 1965 и 1966 годах покрасили крышу и купола храма, позолотили иконостас в Стефановском приделе, реставрировали иконы и расписали ниши. В 1970 году перекрыли крыши, перестроили иконостас в приделе, отремонтировали часовню и расписали купол. Постепенно Стефано-Пермская церковь вновь обрела достойный вид для богослужений. До 1991 года это был единственный действующий приходской храм в Великом Устюге.