La ville de Jéliznogorsk, fondée en 1957, a été construite grâce aux efforts des jeunes communistes. Jusqu'en 1990, il n'y avait aucune église orthodoxe ici. La première paroisse orthodoxe est apparue en 1989. Le 25 janvier 1990, avec la bénédiction de l'archevêque Iouvenali, la communauté orthodoxe a été enregistrée et la construction de l'église en l'honneur de Tous les Saints, ayant brillé sur la terre russe, a commencé.

La construction de l'église a duré sept ans et a été réalisée grâce aux dons des paroissiens. Le premier prêtre et responsable de l'église était le père Sergueï Frolov, qui depuis 1994 est également le doyen du district de Jéliznogorsk de l'éparchie de Koursk. Pendant la construction de l'église, le père Sergueï a célébré des offices dans un wagon de chantier.

Le bâtiment de l'église est à deux étages, avec des sous-sols, construit en panneaux standard et en structures métalliques, utilisés pour la construction d'immeubles de grande hauteur, tandis que le clocher est en brique. Le dôme, les arcs et les colonnes, ainsi que les voûtes à l'intérieur de l'église, sont coulés à la main en béton léger. L'église repose sur une dalle en béton armé sans fondation.

Le principal autel de l'église est consacré à Tous les Saints ayant brillé sur la terre russe. La fête patronale de l'église est célébrée deux semaines après la Pentecôte. Au premier étage se trouvent l'autel en l'honneur de l'icône de la Mère de Dieu de Pochaïv, où des services quotidiens sont célébrés, et l'autel en l'honneur de l'apôtre André le Premier appelé, où le sacrement du baptême est célébré. L'icône de la Mère de Dieu de Pochaïv, l'une des reliques les plus vénérées de l'église russe, est connue dans tout le monde slave. Elle est honorée en Russie, en Bosnie, en Serbie, en Bulgarie et dans d'autres pays. L'icône est considérée comme protectrice pour ceux nés entre le 24 septembre et le 23 octobre. L'apôtre saint André le Premier appelé fut le premier des apôtres à suivre le Christ et a subi un martyre sur la croix, qui depuis lors est appelée la croix d'André.

À l'église de Tous les Saints, une école orthodoxe du dimanche fonctionne, fréquentée par des groupes d'enfants de différents âges. Des cours hebdomadaires pour les paroissiens adultes sont également organisés et une bibliothèque est à disposition.

Sur le territoire de l'église repose le schimonkhe Ieromonach Philaret. À l'initiative du père Sergueï, un habitant de la ville, qui a activement participé à la construction, a également été enterré dans l'enceinte de l'église. Ici repose Guennadi Vekhlev, connu comme bienfaiteur et mécène.

Depuis l'achèvement de la construction, des offices sont célébrés quotidiennement dans l'église. Les dimanches et jours de fête, deux liturgies divines sont célébrées.

Près de l'église de Tous les Saints se trouve une ancienne relique, la source de saint Tikhon d'Amathonte. Il y a plus de 400 ans, une icône miraculeuse de saint Tikhon est apparue ici. En 2001, la source a été aménagée grâce aux efforts de la paroisse et de l'administration municipale. Chaque année, une procession a lieu de l'église à la source.

En 1996, une icône miraculeuse de saint Nicolas de Myre a été amenée à l'église, ayant participé à une procession de Odessa à Moscou. En 2005, un reliquaire contenant des reliques de saints de la montagne Athos a été livré à l'église.