Der größte katholische Tempel in Russland wurde ursprünglich als Filiale einer anderen Kirche geplant, die heute nicht mehr funktioniert.

Ende des 19. Jahrhunderts diente die Miljutin-Straße als Zentrum für die Moskauer Katholiken, wo sich zwei Kirchen befanden: die des heiligen Ludwig, die hauptsächlich von Franzosen, Italienern und Spaniern besucht wurde, und die des heiligen Petrus und Paulus, wo die Gemeindemitglieder Deutsche, Polen, Litauer und andere aus Mittel- und Osteuropa waren. Im Laufe der Zeit wurde die zweite Kirche zu klein, und der polnische Teil der Gemeinde schlug vor, eine dritte Kirche als Filiale zu bauen. 1894 wurde ein Antrag an den Generalgouverneur von Moskau gestellt. Die Behörden gaben die Genehmigung, jedoch mit Auflagen: die neue Kirche sollte nicht im Zentrum Moskaus, fern von den orthodoxen Kirchen, ohne Türme und Skulpturen gebaut werden. Letztendlich wurde die Kleine Gruzinskaja Straße gewählt, was wahrscheinlich mit der Nähe zum Brest-Bahnhof (heute Belorussischer Bahnhof) zusammenhing, der Moskau mit den westlichen Gouvernements verband.

Der Bau der Kirche begann 1901 und wurde hauptsächlich bis 1911 abgeschlossen, als die Weihe des Tempels stattfand. Die Innenausstattung dauerte bis zur Revolution. Die Bedingung, keine Skulpturen und Türme zu haben, wurde teilweise erfüllt: das Projekt des polnischen Architekten F.O. Bogdanowitsch-Dworzecki, der zuvor eine katholische Kirche in Samara gebaut hatte, wurde im neugotischen Stil ausgeführt und sah kleine dekorative Türmchen und eine Lichtlanterne im Querhaus vor, gekrönt mit einem Spitzdach und einem Kreuz. Die langgestreckten Spitzbogenfenster wurden durch ein großes Rosenfenster über dem Haupteingang ergänzt. Das kreuzförmige Gebäude bot Platz für bis zu 5000 Personen. 1911 wurde die Kirche von einer Umzäunung umgeben, die von L.F. Dauksch im selben neugotischen Stil ausgeführt wurde.

Nach der Revolution wurde die Kirche eine unabhängige Gemeinde, aber 1938 wurden die Gottesdienste eingestellt, die Innenräume nahezu vollständig zerstört und das Gebäude als Wohnheim genutzt. Während der deutschen Bombardierungen wurde das Gebäude von mehreren Granaten getroffen. Nach dem Krieg verlor die Kirche die verbleibenden Türmchen und andere dekorative Elemente der Fassaden, und ihr Innenraum wurde in vier Etagen unterteilt, in denen sich in den 1950er Jahren das Forschungsinstitut „Mosspetsprojekte“ befand. In der Sowjetzeit befand sich in der benachbarten Klimashkina-Straße die Botschaft Polens.

1990 wurde die polnische katholische Gemeinde der Unbefleckten Empfängnis der Heiligen Jungfrau Maria gegründet, die begann, für die Rückgabe des Gebäudes an die Gläubigen zu kämpfen. Zunächst fanden die Messen auf den Stufen der Kathedrale statt, und der Zugang zum Inneren war erst 1996 möglich. Das Gebäude, das sein kirchliches Aussehen verloren hatte und lange Zeit nicht renoviert worden war, benötigte dringend eine Restaurierung, die über drei Jahre durchgeführt wurde. Heute sieht die Kirche so aus, wie F.O. Bogdanowitsch-Dworzecki zu Beginn des 20. Jahrhunderts gedacht hatte.