Согласно преданию, имеющему исторические корни, деревянная церковь в честь святого апостола и евангелиста Иоанна Богослова была возведена в 1552 году на месте лагеря войска царя Ивана Грозного во время его третьего похода на Казань. В 1678 году на месте деревянной церкви построили новый каменный храм. Это была третья каменная церковь в Арзамасском уезде после Спасо-Преображенского собора Спасского монастыря, возведенного в 1638 году, и храма Иоанна Богослова у Спасского болота. Храм служил для прихожан из двух деревень, Ивановки и Березовки.

В первые годы советской власти в церкви продолжались богослужения. Однако в феврале 1935 года по постановлению президиума Горьковского крайисполкома в селе прекратили колокольный звон. Летом того же года теплый придел храма был отдан под колхозный склад, а 28 апреля 1941 года собрание колхозников решило закрыть церковь. По распоряжению районных властей колокола сдали в металлолом, а в здании церкви разместили зерносклад и колхозную контору.

С середины 70-х годов, после присоединения Ивановки к Арзамасу, церковь оставалась пустой.

В 2003 году храм был возвращен Нижегородской епархии, и в том же году в нем возобновились богослужения.