En 1899, con fondos de los feligreses, se construyó una iglesia de piedra con tres altares, consagrada en honor a San Nicolás. En la iglesia también había capillas dedicadas a la Madre de Dios de Kazán y al venerable Juan de Rila. Junto a la iglesia se encontraba un campanario de piedra con techo de hierro.

En la iglesia funcionaba una escuela parroquial, y la parroquia apoyaba varias escuelas rurales. En las aldeas de Shcherbachevka, Bardakovka y Nizhnyaya Parovaya había escuelas de dos clases, y en Krasny Klyn, una escuela rural de una clase. Desde 1900, el sacerdote Gavriil Alekseevich Vishnevsky desempeñó funciones de maestro de religión en estas escuelas.

Desde 1937, la iglesia de San Nicolás en el pueblo de Rzhava dejó de funcionar debido a la "negativa del clero a trabajar". El 2 de septiembre de 1940, la parroquia fue disuelta. Al 1 de enero de 1953, había una comunidad religiosa registrada en el pueblo de Rzhava. Los servicios en la iglesia se interrumpían periódicamente por la falta de un sacerdote. En 1975, la iglesia volvió a cerrarse, pero en la década de 1990, la parroquia fue reactivada y sigue en funcionamiento hasta hoy.