Строительство каменной церкви в честь Смоленской иконы Божией Матери началось в 1680-х годах по указу Григория Дмитриевича Строганова. Подобный храм был также заложен в Устюжне-Железопольской. Придел, посвящённый Киево-Печерским чудотворцам Антонию и Феодосию, освятил митрополит нижегородский Павел 22 декабря 1694 года, а главный престол в честь Смоленской иконы Пресвятой Богородицы был освящён 25 июля 1697 года.

После переезда семьи Строгановых в Москву в 1705 году Смоленская церковь стала приходской. В 1930 году её закрыли, а в 1934 году планировали взорвать. Однако благодаря усилиям сотрудников Горьковского краевого музея здание удалось сохранить. До начала 1990-х годов оно использовалось как музейный склад.

В 1993 году церковь была передана епархии. В 2005 и 2006 годах главный купол был позолочен.

В 2018 году начались ремонтные работы, а в 2019 году стартовала масштабная реставрация, направленная на восстановление исторического облика с использованием 3D-моделей и резьбы из белого камня. Завершение работ планируется к 800-летию Нижнего Новгорода в 2021 году.