В.А. Соллогуб однажды вспоминал о своём знакомстве с Арзамасом, отмечая: "Много видел я в Москве церквей, но в Арзамасе, кроме церквей, ничего не видал. Домики там исчезают под величественными куполами, колокольнями и башнями. Арзамас, город православия. Перед ним русский человек не может не перекреститься". Одной из церквей, украшающих Соборную площадь Арзамаса наряду с Воскресенским собором, является храм в честь иконы Божией Матери "Живоносный Источник". Воскресенский собор строился как холодный, то есть подходящий для службы только в тёплое время года, примерно от Пасхи до Покрова. Рядом с ним был возведён тёплый храм во имя иконы Божией Матери "Живоносный Источник", построенный в 1794 году на месте старой каменной церкви. С 1813 по 1842 год он служил главным храмом для жителей Арзамаса в период строительства Воскресенского собора.

Н.М. Щегольков, автор монографии "Исторические сведения о городе Арзамасе", писал о ремонте церкви в 1823 году: "Крайняя необходимость заставила капитально ремонтировать тёплый собор, который, хотя и был построен всего 30 лет назад, сильно обветшал и требовал немедленного ремонта, который и был произведён в течение одного лета". В храме, помимо главного престола, были освящены два придела во имя Архистратига Михаила и преподобных Сергия и Германа Валаамских. Закрытый в 1930-х годах, храм вновь открылся в ноябре 1944 года вместе с Воскресенским собором.