Церковь Андрея Стратилата была построена не ранее конца XVII или начала XVIII века на месте разрушенной Борисоглебской церкви, возведённой в 1167 году боярином Сотко Сытиничем. В 1969 году внутри церкви обнаружили хорошо сохранившуюся лестничную башню Борисоглебской церкви, которая вела на полати и хоры.

Первоначально на этом месте в 1167-1173 годах был построен каменный храм Бориса и Глеба, представлявший собой величественное здание с тремя апсидами и шестью столпами, а также лестничной башней. После пожара 1405 года, который сильно повредил церковь, в 1441 году по указу архиепископа Евфимия II был построен новый храм на старом фундаменте. Лестничная башня была разобрана, и на её месте появился придел Андрея Стратилата. Перестроенный в XV веке Борисоглебский собор изображён на иконе «Видение пономаря Тарасия» конца XVI века, украшенный фреской и двумя главами, одна из которых символизировала придел Андрея Стратилата. На шведском плане 1611 года придел Андрея Стратилата чётко виден с южной стороны основного одноглавого здания.

Во время захвата Новгорода шведами в начале XVII века собор сильно пострадал. В 1682 году Борисоглебский собор обрушился и был разобран, а придел Андрея Стратилата расширили и превратили в самостоятельную церковь. Современное здание является результатом двух основных строительных периодов. От XV века сохранились стены западного объёма и северная стена восточной пристройки, сложенные из волховского плитняка, ракушечника и кирпича. Архитектура западного портала с арочным завершением и декоративной бровкой характерна для новгородского зодчества XV века. Восточная и часть южной стены, а также своды, были построены из кирпича в XVII веке. В первой половине XIX века храм был перестроен: устроен новый свод в западном объёме, заменена кровля, добавлены небольшая главка и звонница, укреплены фундаменты под северной стеной.

Во время Великой Отечественной войны церковь пострадала: была повреждена кровля, осыпалась штукатурка, разобраны полы. В 1947 году здание отремонтировали. В 1969 году под руководством профессора М.К. Каргера исследовали основания лестничной башни XII века, обнаружив хорошо сохранившуюся кладку центрального столба с винтовой лестницей.

В 1970-е годы состояние памятника ухудшилось, появились трещины в стенах. Под руководством архитектора Г.М. Штендера были проведены противоаварийные работы. В 2000-2003 годах фирма «Десна» провела реставрацию по проектам О.Н. Коваленко и Л.Г. Марковой. Были укреплены несущие конструкции здания, а пол в западном объёме выложен из известняковых плит, чтобы подчеркнуть форму основания лестничной башни. Под руководством Е.И. Серегиной художники и реставраторы из Москвы раскрыли и укрепили настенную живопись XVI-XVII веков внутри храма.