Здание синагоги было кирпичным, двухэтажным, с застекленным куполом на крыше и вмещало до 650 человек, включая балконы для женщин. Его построили на средства верующих в 1897, 1900 годах на улице Рождественской, 52 (сейчас улица М. Горького), на территории усадьбы, принадлежавшей первому председателю общины И. М. Франту. В 1901 году было избрано правление синагоги: раввин Е. М. Перельштейн, купец первой гильдии и староста синагоги Н. Л. Рабинович, а также казначей, купец первой гильдии М. И. Мильман. Во время Первой мировой войны численность еврейского населения города увеличилась до 9 тысяч из-за притока беженцев из зон боевых действий, что побудило руководство общины открыть дополнительно 25 молитвенных домов, где служили пять раввинов. Еще в XVIII веке последователи иудаизма разделились на две социально-культурные и религиозные общности: ашкеназов и хасидов. В начале 1920-х годов в городе сложились эти две общины, проводившие молитвенные собрания отдельно. Синагога использовалась ашкеназами, численность которых в 1924 году составляла 185 человек. Хасиды, численностью не более 60 человек, собирались в частном доме на улице Б. Кочетовка, 20, а позже на улице Пушкина, 1. В 1928 году, в рамках государственной политики атеизма, Общество по земельному устройству трудящихся евреев (ОЗЕТ), возглавляемое атеистами, призвало к закрытию синагоги. Решением горисполкома от 26 сентября 1931 года синагога была закрыта, а здание передано ОЗЕТ и клубу «Швейник». Позднее здесь размещались артель «Двигатель», Пензоблгазстрой и другие организации. Молитвенные собрания еврейской общины проводились на квартирах верующих. После Великой Отечественной войны общине было передано в аренду полуразрушенное здание сторожки рядом с синагогой. За пользование этим помещением площадью 42 кв. м плата взималась до 1956 года. 9 июня 1991 года горисполком принял решение о передаче здания синагоги еврейской общине, но фактически община вступила в права владения только в 1993 году. Официальное открытие синагоги и центра еврейской культуры и религии «Атиква» («Надежда») состоялось 18 декабря 1995 года.