L'église de l'Ascension du Seigneur a été construite en 1866. Selon les documents cléricaux de 1915, sa construction a été réalisée grâce aux efforts des marchands Ivan Stefanovich Demenkov et Nikifor Gavrilovich Kamenkov, ainsi qu'aux intérêts du dépôt du conseiller commercial Grigori Ivanovich Shelekhov et aux dons d'autres bienfaiteurs.

L'église se distingue par son apparence extérieure et son architecture parmi les autres églises de Rylsk. Sa base et l'église elle-même sont réalisées sous la forme d'un corps rappelant une arche. Probablement, ce plan a été choisi en l'honneur du grand navigateur. L'église à sept dômes est belle et majestueuse de tous les côtés. À l'intérieur, le chœur a été fait en briques et décoré d'éléments en bois sculptés, tels que des encadrements, des frises, des corniches et des demi-colonnes. Les portes royales avec des images d'anges étaient recouvertes d'or. Le bâtiment a été enduit et peint en blanc, tandis que les dômes étaient recouverts d'acier étamé et peints en bleu. Les dômes dorés et les croix s'élevant vers le ciel confèrent à l'église une beauté et une majesté particulières.

Dans les années 1930, l'église de l'Ascension a été utilisée comme entrepôt de l'économie municipale. De 1942 à mars 1943, des services religieux ont eu lieu dans l'église avec la permission du commandement allemand. Après la libération de Rylsk des occupants, l'église a de nouveau été fermée : les planchers en bois ont été démontés, les encadrements et les portes royales de l'autel ont été enlevés. L'église a de nouveau été utilisée comme entrepôt de matériaux de construction. En 1985, les autorités municipales ont décidé de restaurer l'église et de l'utiliser comme galerie d'art. Au cours de la reconstruction, il était prévu de démonter l'autel en briques, de réaménager le vestibule en y installant des vestiaires, et d'utiliser le clocher comme entrepôt.

En octobre 1990, l'église a été transférée à l'Église orthodoxe russe, et depuis 1991, les services religieux ont repris dans l'église de l'Ascension.