El edificio de la sinagoga era de ladrillo, de dos pisos, con una cúpula de vidrio en el techo y tenía capacidad para hasta 650 personas, incluidos los balcones para mujeres. Fue construido con fondos de los creyentes en 1897 y 1900 en la calle Rojdestvenskaya, 52 (ahora calle M. Gorky), en el territorio de la finca perteneciente al primer presidente de la comunidad I. M. Frantu. En 1901 se eligió la dirección de la sinagoga: el rabino E. M. Perelstein, el comerciante de primera guilda y anciano de la sinagoga N. L. Rabinovich, así como el tesorero, el comerciante de primera guilda M. I. Milman. Durante la Primera Guerra Mundial, la población judía de la ciudad aumentó a 9 mil debido a la afluencia de refugiados de las zonas de combate, lo que llevó a la dirección de la comunidad a abrir 25 casas de oración adicionales, donde servían cinco rabinos. Ya en el siglo XVIII, los seguidores del judaísmo se dividieron en dos comunidades socioculturales y religiosas: asquenazíes y jasídicos. A principios de la década de 1920, se formaron estas dos comunidades en la ciudad, que realizaban reuniones de oración por separado. La sinagoga era utilizada por los asquenazíes, cuya población en 1924 era de 185 personas. Los jasídicos, que no superaban las 60 personas, se reunían en una casa privada en la calle B. Kochetovka, 20, y más tarde en la calle Pushkin, 1. En 1928, en el marco de la política estatal de ateísmo, la Sociedad de Ordenación de Tierras de Judíos Trabajadores (OZET), dirigida por ateos, pidió el cierre de la sinagoga. Por decisión del comité ejecutivo de la ciudad del 26 de septiembre de 1931, la sinagoga fue cerrada y el edificio fue entregado a OZET y al club 'Shveinik'. Posteriormente, aquí se ubicaron la cooperativa 'Dvigatel', Penzoblgazstroy y otras organizaciones. Las reuniones de oración de la comunidad judía se llevaron a cabo en los apartamentos de los creyentes. Después de la Gran Guerra Patria, la comunidad recibió en alquiler un edificio semi-destrozado de la caseta de vigilancia junto a la sinagoga. Se cobraba una tarifa por el uso de este local de 42 m² hasta 1956. El 9 de junio de 1991, el comité ejecutivo de la ciudad tomó la decisión de transferir el edificio de la sinagoga a la comunidad judía, pero de hecho la comunidad asumió los derechos de propiedad solo en 1993. La inauguración oficial de la sinagoga y del centro de cultura y religión judía 'Atikva' ('Esperanza') tuvo lugar el 18 de diciembre de 1995.