La iglesia Znamenskaya, que existe hoy, fue construida en la década de 1890, pero no es el primer edificio en este lugar. Ya en 1736, a petición del igumen Iona y por orden del arzobispo Ioakim, se anexó una capilla al monasterio Afanasievsky, adosada a la torre Vlasyevskaya. Esta torre servía como puerta fortificada de la Ciudad de Tierra, y en su fachada oriental estaba representada la imagen de la Madre de Dios Znameni, y en la occidental, la imagen del Salvador, que, según la tradición, era una copia de la imagen en la torre Spasskaya del Kremlin de Moscú. La imagen de la Madre de Dios simbolizaba la protección celestial sobre la ciudad. Inicialmente, se accedía a ella por una escalera de madera, y luego se adosó una capilla de madera, perteneciente a la iglesia Vlasyevskaya. En 1736, debido a la falta de fondos en la comunidad Vlasyevskaya, el arzobispo Ioakim ordenó que los monjes del monasterio Afanasievsky celebraran los servicios en la imagen, y las donaciones se dirigieran a su favor.

En 1779, la capilla de madera fue reemplazada por una de piedra, pero en 1785 el gobernador general A.P. Melgunov decidió desmantelar la torre Znamenskaya para utilizar los ladrillos en la construcción de la Casa de la Misericordia. Sin embargo, gracias a la intervención del alcalde Andrey Barsov, quien ofreció al gobernador 15,000 ladrillos, la torre pudo ser preservada. Poco después, la esposa del gobernador, enferma, vio en un sueño la imagen de la Madre de Dios, que predijo su recuperación con la condición de que se conservara la torre.

En 1850, la capilla de piedra fue ampliada y decorada con pintura. En 1861, con fondos de A.I. Olovyanishnikov, se construyó un templo de piedra en honor a la icono Znameni de la Madre de Dios. En la década de 1890, gracias a los esfuerzos del obispo Ioannikiy y el arquitecto A.A. Nikiforov, el templo fue reconstruido y ampliado. El 18 de mayo de 1897 se celebró su solemne consagración. La imagen del Salvador en la fachada occidental de la torre también era venerada, y anualmente, el 1 de agosto, se celebraba un servicio en su honor.

Poco antes de la Revolución de Octubre, apareció en la iglesia un altar en honor a Anna Kashinskaya, que se menciona en los inventarios de la década de 1920. Esto fue probablemente iniciado por el archimandrita Cornelio.

En la década de 1930, cuando las autoridades locales planearon demoler la iglesia, el obispo Sofoniy se dirigió a Glavnauka pidiendo conservar la icono de la Madre de Dios Znameni como un valor arqueológico. Sin embargo, tras la inspección, se consideró que el fresco era secundario, y pronto fue destruido. La iglesia Znamenskaya fue cerrada el 8 de marzo de 1932, y su propiedad fue transferida a la iglesia de la Virgen de la Montaña en Tugovaya Gora.

En la década de 1990, se restauró la cúpula del templo, y en el edificio se instaló el estudio de cine 'Yunost'. En 2001, el arzobispo Mikhey propuso crear en Yaroslavl un Centro Cultural Ortodoxo y devolver el templo a la iglesia, pero la cuestión se prolongó debido a la falta de espacio para el estudio de cine. Solo trece años después, en 2015, la iglesia fue devuelta a la diócesis de Yaroslavl, y el 6 de enero se celebró el primer servicio después de un parón de 80 años.