El 10 de septiembre de 2004 se llevó a cabo la inauguración solemne de la iglesia-capilla de Todos los Santos en el cementerio de Ulybyshevo. En su construcción participaron quince organizaciones. La iglesia fue erigida con fondos de patrocinadores en un tiempo récord, solo tres meses y medio.

La piedra del altar de la iglesia-capilla fue colocada el 21 de mayo de 2004. Los constructores prometieron finalizar los trabajos para el Día de la Ciudad, aunque pocos creían en tal posibilidad. Construir y decorar un edificio de 18 metros de largo, 9 metros de ancho y 21 metros de alto es una tarea complicada. Sin embargo, después de tres meses y medio, se celebró un servicio solemne en la iglesia.

La idea de erigir una capilla en el cementerio fue propuesta por la diócesis hace diez años, pero entonces los propietarios de los jardines vecinos se opusieron. La situación solo avanzó en 2003, cuando las autoridades municipales apoyaron la construcción. Se anunció una colecta de donaciones y se encontraron patrocinadores.

La tesorería de la ciudad no asignó fondos para la construcción de la iglesia. Todos los materiales y trabajos fueron pagados por los patrocinadores.