В конце XVII века район возле Серпуховских ворот начал активно заселяться ремесленниками и торговцами, что вызвало необходимость в строительстве отдельного храма для новых жителей. В 1696 году на земле, пожертвованной Даниловым монастырем, была возведена деревянная церковь во имя Вознесения Господня. Однако вскоре стало ясно, что она не вмещает всех желающих, и в 1708 году было получено разрешение на строительство большого каменного храма в стиле барокко. Храмоздателем выступил царевич Алексей Петрович.

Строительство шло успешно, и в 1714 году был освящен нижний храм во имя Иерусалимской иконы Божией Матери с двумя приделами: Девяти Мучеников Кизических и Алексия Человека Божия, в честь царевича Алексея. Верхняя Вознесенская церковь была построена до половины окон. Однако в том же году работы были приостановлены из-за указа, запрещавшего каменное строительство вне Санкт-Петербурга. В 1716 году царевич Алексей сбежал в Вену и стал противником Петра I, а в 1718 году был возвращен в Россию, приговорен к казни и умер в Петропавловской крепости.

Эти события остановили строительство, и прихожане временно накрыли возведенную часть деревянной крышей. Лишь в 1762 году храм был освящен в виде, который с изменениями сохранился до наших дней.

Предполагается, что зодчим был Доменико Трезини, известный по Петропавловскому собору в Петербурге. Также упоминаются имена Ивана Мичурина и Дмитрия Ухтомского, которые достраивали храм. Главный верхний храм на широком гульбище выполнен в форме креста с восьмериком и одной сложной главой в центре, в стиле барокко. Фасады украшены большими окнами, круглыми окошками и пилястрами, а нижний ярус почти лишен декора. В 1839 году была добавлена трапезная, а в 1842 году над западным входом возвели четырехярусную колокольню со шпилем.

Богослужения продолжались до 1929 года, после чего храм закрыли и планировали снести. Однако разобрали только колокольню и ограду, а оставшуюся часть использовали как склад-холодильник. Храм лишился главы с барабаном, а нижний ярус был перестроен. Позже здесь размещались общежитие, конторы и вычислительный центр одного из министерств, интерьеры были утрачены. Реставрация началась в 1991 году вместе с возобновлением богослужений. Под штукатуркой обнаружили старые росписи, а из Данилова монастыря вернули Иерусалимскую икону Божией Матери. Сегодня храму возвращен облик начала XX века, воссозданы глава, колокольня и интерьеры. Рядом построено здание детского приюта с домовым храмом во имя Новомучеников и Исповедников Российских, а чуть поодаль возведен храм-часовня во имя равноапостольной княгини Ольги.