Церковь Ивана на Опоках была построена в период с 1127 по 1130 год князем Всеволодом Мстиславичем, который передал ее Новгородским купцам, известным как "Ивановский ста", посредством специальной грамоты. При церкви действовал купеческий суд, возглавляемый Тысяцким, который занимался разрешением торговых споров. Церковь также служила своеобразной палатой мер и весов.

В ней хранились эталоны, такие как "локоть ивановский" для измерения длины сукна, "гривенка рублевая" для взвешивания драгоценных металлов, "скалвы вощаные", весы и другие образцы.

Существующая церковь датируется 1453 годом, когда первоначальная была разобрана, и по указанию архиепископа Евфимия на старом фундаменте и с использованием части стен была возведена новая, сохранившая прежний архитектурный стиль.

Архитектура церкви Ивана на Опоках представляет собой переходный этап в истории новгородского зодчества. С одной стороны, сохраняются традиции парадного княжеского строительства начала XII века, с другой, наблюдается тенденция к уменьшению объема и упрощению архитектурных форм. Храм имеет шестистолпную структуру с тремя апсидами и щипцовым покрытием над каждым полукружием, оформляющим фасады. Пилястры на фасаде соответствуют внутренним членениям. Гладь стен с узкими окнами придает зданию строгую простоту. Завершает сооружение одна главка, хотя раньше их было больше.

В 1934 году церковная колокольня была снесена. Во время Великой Отечественной войны церковь сильно пострадала, полностью утратив барабан, купол, кровлю и получив пробоины в стенах и северной апсиде. Она была восстановлена в середине 1950-х годов.