Посвящение этой церкви в честь одной из известных икон Богородицы не столь древнее, как может показаться. Изначально она носила другое имя, в честь святого, ставшего частью герба Москвы.

Впервые деревянная церковь на этом месте упоминается в документах 1625 года и была посвящена святому Георгию Победоносцу. Название «на Всполье» указывает на её расположение у поля, на окраине города, где в то время проходила граница Москвы по линии Садового кольца. В 1673 году деревянную церковь заменило каменное здание, построенное на средства купца Семена Потапова, с приделом Иоанна Воина. Оно представляло собой традиционный московский храм конца XVII века с пятиглавием и шатровой колокольней. Однако спустя более ста лет церковь обветшала и была разобрана для нового строительства. Новым храмоздателем стал местный житель, капитан И.И. Савинов, живший напротив церкви. Строительство велось с 1798 по 1802 год.

Новое здание церкви, предположительно, строил архитектор И.В. Еготов, ученик М.Ф. Казакова, который в то время начинал свою карьеру. Позже по его проектам были построены церковь-усыпальница князей Голицыных в Донском монастыре, усадьба Дурасовых в Люблино и старое здание Оружейной палаты в Кремле (последнее не сохранилось). Иверская церковь на Большой Ордынке выполнена в стиле позднего классицизма, с лаконичными формами и без обилия декора на фасадах, но с мощным куполом, прорезанным тройными окнами. Небольшая главка на куполе необычна для православного зодчества: это круглая тумба с длинным тонким крестом, что придаёт ей сходство с европейскими церквями. На Большую Ордынку выходит трапезная с входом, отмеченным четырехколонным портиком ионического ордера с фронтоном, над которым возвышается колокольня с вытянутым шпилем.

При строительстве новой церкви изменилось и её название: главный престол освятили в честь Иверской иконы, а Георгиевским стал один из приделов в трапезной. Второй придел остался Иоанновским. В дальнейшем, до ХХ века, значительных перестроек в церкви не происходило. На церковном дворе сохранилось двухэтажное здание приходской богадельни, рассчитанной на 15 женщин, преимущественно из местной прислуги.

Церковь была закрыта для служб в 1929 и 1930 годах, её глава и верхний ярус колокольни были разобраны. Внутреннее убранство уничтожили, но несколько икон удалось сохранить, включая образ Иверской Божией Матери, перенесённый в церковь святого Николая Чудотворца в Кузнецах. Помещение разделили на три этажа и использовали сначала как клуб Второго авторемонтного завода, затем как клуб кондитерской фабрики «Марат», а в 1989 году оно стало галереей современного искусства. В 1994 году в храме возобновились богослужения, вскоре были восстановлены утраченные глава и колокольня, а сохранившиеся росписи очищены и отреставрированы.