Церковь, о которой идет речь, является единственным сохранившимся напоминанием о поселении выходцев из Великого Новгорода на Лубянке. Эти люди переселялись в Москву не по своей воле, а по приказу великого князя московского, и стремились создать на новом месте что-то, напоминающее им родной город.

До 1922 года улица Пушечная называлась Софийкой в честь храма Софии Премудрости Божией. Это название выбрали не случайно: после присоединения Новгородской республики к Московскому княжеству, в столицу переселили многих знатных новгородцев, а их места заняли лояльные новой власти люди. Переселенцы основали компактное поселение и назвали соседнюю улицу в честь района Лубяниц, а также построили храм, напоминающий Софийский собор. Впервые деревянная церковь святой Софии упоминается в 1480 году. Новгородский стиль храма подчеркивал придел во имя святого Никиты Новгородского. Здание церкви обновлялось несколько раз: в 1650 году его построили заново, а в 1685 году оно сгорело. На средства стольника Моисея Овцына в 1691 году начали строительство каменной церкви с приделом святого Николая Чудотворца, завершенное через год.

Основная часть храма сохранилась с конца XVII века, но со временем была обстроена новыми элементами трапезной и колокольни, а первоначальный фасад изменился. Вместо пятиглавия во второй половине XVIII века появился купол с одной главой, окна расширили, а наличники утратили. Колокольню построили в 1816 году в стиле ампир, с тосканскими портиками и рустовой обработкой, ярус звона сделали восьмигранным со шпилем. Трапезную заново соорудили в 1842 году, тогда же добавили второй придел в честь Казанской иконы Божией Матери. Из-за углового расположения к Пушечной улице структура здания получилась несимметричной, а Казанский придел сделали усеченным для соблюдения красной линии улицы.

К 1932 году церковь закрыли и передали органам госбезопасности. Храм лишился главы и завершения колокольни, портики уничтожили, и он стал Экспериментальной фабрикой спортивных изделий общества "Динамо". К 1980-м годам историческое окружение храма было полностью снесено, но само здание сохранилось. Территория церковного двора застроена новыми корпусами госбезопасности. С 2001 года богослужения в храме возобновлены, и он получил статус приходской церкви при ФСБ.