Изначально храм был освящен в честь митрополита Алексия и построен из дерева к 1690 году возле юго-западного угла Благовещенского собора на средства патриаршего ризничего Иосифа Булгакова, который ушел на покой в обитель.

Храм имел восьмигранную форму, его единственная главка была покрыта муравленой черепицей и увенчана позолоченным кованым крестом. Оконные наличники были выполнены в стиле русского барокко конца XVII века. В церкви находился одноапсидный алтарь, а западная паперть была деревянной.

В 1820-х годах архитектор И. Е. Ефимов заменил деревянную паперть на каменную, которая занимала всю ширину галереи собора. После того как в середине XIX века в монастыре был построен новый храм в честь Алексия Митрополита, церковь была переосвящена в память о Сергии Радонежском, посетившем Нижний Новгород в XIV веке, и стала называться Сергиевской.