Actuellement, rien dans ce bâtiment massif et profondément ancré ne rappelle une église catholique. Seule la clôture avec une grille de forme originale, installée en 1899, et des éléments néogothiques sur les ailes indiquent l'âge du bâtiment.

Après la guerre patriotique de 1812, les propriétaires des terres devinrent les sœurs Anna et Natalia Vassilievna Petrovo-Solovovo. En 1839, leurs terres furent rachetées, et le 16 septembre de la même année, la construction d'une nouvelle église commença. Lors de la fondation, des pièces d'or et d'argent de 1839 furent enterrées. L'architecte de la cathédrale était A.O. Zhilyardi, qui avait également construit une autre église catholique dans la même ruelle. Zhilyardi érigea l'église dans un style gothique avec un dôme au centre. L'église comptait six autels, dont un, dédié à Sainte Émilie, fut créé par l'architecte M.D. Bykovsky en mémoire de sa femme décédée. La consécration de l'église eut lieu en 1845.

Depuis sa construction, l'église était considérée comme allemande, puis polono-allemande, et à la fin du XIXe siècle, simplement polonaise.

Tout au long de son existence, l'église de Pierre et Paul s'est consacrée à des œuvres de charité : elle abritait l'hospice de Saint Philippe, une société de bienfaisance pour aider les catholiques pauvres, une bibliothèque, et organisait également des concerts de charité. À la fin du XIXe siècle, une école pour filles ouvrit dans l'un des bâtiments de l'église, et aujourd'hui, elle abrite le lycée Pouchkine. L'église abritait également la "Maison Polonaise", qui rassemblait non seulement des Polonais, mais aussi des catholiques lituaniens, lettons et d'autres.

L'église de Pierre et Paul participait aux affaires de divorce des familles catholiques. Les prêtres menaient des entretiens de réconciliation et examinaient toutes les circonstances pour déterminer si les époux avaient violé la loi ecclésiastique et s'ils étaient soumis à un tribunal ecclésiastique.

L'église catholique fut fermée en 1937. Les prêtres furent envoyés dans des camps, où ils périrent. Après la fermeture du bâtiment, il fut transformé en cinéma, qui ne commença jamais à fonctionner. Pendant la Grande Guerre patriotique, une bombe tomba sur l'ancienne église, et les destructions furent si importantes que le bâtiment fut pratiquement reconstruit, ne conservant que peu de choses.

Depuis 1946 et jusqu'à aujourd'hui, l'institut "Giprocoalmas" s'y trouve, qui a également réaménagé le bâtiment pour ses besoins.