En Knyazevo, la iglesia fue construida en 1792 gracias a los esfuerzos de los feligreses. El edificio es de piedra, con una campanario y una cerca del mismo material, y se caracteriza por su solidez. En la iglesia hay tres altares: en el templo principal frío, de la Elevación de la Honorable y Vivificante Cruz del Señor; en la iglesia cálida, en las capillas, a la derecha, en nombre del Señor, y a la izquierda, en nombre de la Madre de Dios de Smolensk. En la parroquia, en la aldea de Penkovo, hay una capilla de madera, construida en 1895. La iglesia posee 36 desiatinas de tierra, así como casas parroquiales para el clero.