Первая церковь на этом месте была построена в 1103 году по приказу новгородского князя Мстислава Владимировича. Храм воздвигли в честь рождения его первенца, Мстислава Всеволода, который в крещении получил имя Гавриил, в честь Архангела Гавриила, одной из двух ключевых фигур Благовещения. Это была вторая каменная постройка в городе после Софийского собора.

Предполагается, что храм возводил мастер Пётр, известный своими работами в Новгороде, такими как Николо-дворищенский собор, собор Георгия Победоносца в Юрьевом монастыре и собор Рождества Богородицы в Антониевом монастыре.

В 1342-1343 годах митрополит Новгородский Василий заказал строительство нового храма на месте разобранного здания XII века. Этот храм, просуществовавший до 1941 года, представлял собой большой шестистолпный трёхапсидный храм с лестничной башней, типичный для новгородского зодчества XIV века. Фасады, вероятно, имели трёхлопастные завершения. Свод и купол обрушились в древности и были заменены деревянными перекрытиями. Церковь сильно пострадала во время шведской оккупации Новгорода в 1611-1617 годах.

В 1797 году храм был капитально перестроен из-за ветхости, разобрали большую часть сводов, арок и барабан. В 1806 году к западной стене пристроили паперть с небольшой каменной колокольней и приделом Сретения. Пол в церкви был деревянным. В 1882 году паперть и колокольня были перестроены.

Храм функционировал до 1930 года, после чего был закрыт и не использовался. Во время Великой Отечественной войны церковь подверглась немецкому артобстрелу и была почти полностью разрушена.

Руины древнего храма были законсервированы в ходе масштабной реставрации, начавшейся в 2016 году, и в апреле 2019 года они были открыты для посещения.