L'église pré-révolutionnaire Saint-Michel Archange à Kalinovka a été détruite, et à sa place a été construit le bâtiment de la Maison de la Créativité Populaire.

Depuis 2000, les habitants du village de Kalinovka ont trouvé un local qu'ils ont réaménagé en église. Le doyen du district de Rylsk a procédé à sa consécration. En 2004, un dôme a été installé sur l'église.